La IA ya dio su señal de alarma

Por Kenneth Rogoff, Project Syndicate.

CAMBRIDGE- La carrera por la inteligencia artificial entre Estados Unidos y China se acelera a ritmo vertiginoso. Ya ha ocurrido varias veces que Estados Unidos pareciera tomar la delantera y al poco tiempo China se le pusiera a la par.

En el centro de esta competencia hay dos visiones contrapuestas respecto de cómo deben ser el desarrollo y el despliegue de la IA. Las empresas estadounidenses buscan mantener la ventaja competitiva apelando al uso de tecnologías de propiedad privada, mientras que China se muestra cada vez más favorable a la IA de código abierto y pone modelos avanzados a disposición de los desarrolladores de todo el mundo.

Dejando a un lado estas diferencias de estrategia, ambos países están lanzados a una carrera armamentística en la que ninguno de los dos está dispuesto a pisar el freno. La priorización absoluta de la velocidad deja en segundo plano las cuestiones de seguridad, a pesar del riesgo inquietantemente alto de que la combinación de error humano e IA superinteligente genere un fallo catastrófico.

Una reciente falla de seguridad que afectó a OpenAI y Hugging Face puso de relieve el peligro de tratar la seguridad como un tema secundario. El incidente se produjo mientras investigadores de OpenAI evaluaban las capacidades de dos modelos de IA de vanguardia en el área de la ciberseguridad. Para identificar puntos débiles y vulnerabilidades que un pirata informático con conocimiento suficiente pudiera explotar, desactivaron temporalmente muchas de las medidas de protección habituales de los modelos.

El experimento se llevó a cabo en un entorno de prueba aislado (sandbox) sujeto a estrictos controles. Aunque las restricciones al comportamiento de los modelos estaban desactivadas, se suponía que al ejecutarse dentro del entorno aislado, no iban a tener acceso a Internet, donde (al menos en teoría) podían causar enormes daños.

Lo que sucedió en vez de eso fue que los modelos consideraron el entorno aislado en sí mismo como un obstáculo que debían superar. Aprovechando un fallo (hasta entonces desconocido) en un software de terceros, lograron eludir las restricciones del entorno y acceder a Internet. Pero no se puede decir que se hayan «rebelado» contra sus desarrolladores, ya que sólo estaban haciendo lo que se les había pedido: resolver un problema complejo de ciberseguridad del modo más eficiente posible.

Aunque es probable que la tarea se pudiera resolver dentro del entorno aislado, los modelos «dedujeron» que era mucho más fácil infiltrarse en Hugging Face (que aloja más de dos millones de modelos de IA de código abierto) y, en palabras de OpenAI, «obtener soluciones para la prueba directamente de la base de datos de producción de Hugging Face». Para una IA con capacidades de hacking avanzadas, introducirse en otro sistema era un juego de niños. De hecho, la intrusión pasó inadvertida por varios días y, al parecer, se extendió a una segunda empresa.

Desde el punto de vista de los modelos, no estaban «haciendo trampa», ya que no incumplieron ninguna regla explícita escrita por sus desarrolladores; sólo encontraron un modo más eficiente de lograr el objetivo. Quizás lo más inquietante es que al parecer, uno de los modelos dejó notas en las que explica cómo futuros sistemas de IA podrían hallar un modo más fácil de escapar del entorno de prueba aislado de OpenAI.

Los expertos en IA dirán con razón que este experimento no es representativo. Los experimentadores debilitaron las salvaguardas incorporadas para probar en toda su plenitud las capacidades de los modelos, y estos no causaron daños graves. Por ejemplo, no entraron en los sistemas de la Reserva Federal de los Estados Unidos o del Banco Central Europeo. Pero el episodio es la prueba de que la IA puede amplificar un error humano aparentemente menor, con consecuencias que pueden ser catastróficas.

El incidente tiene un inquietante parecido con la tan debatida (y todavía no probada) teoría de que la COVID‑19 se escapó de un laboratorio en Wuhan (China), en el que presuntamente los investigadores hacían arriesgados experimentos de «ganancia de función» en virus. En ambos casos, se trató en última instancia de error humano y arrogancia (no de malicia). La historia está llena de advertencias similares.

El problema se agrava por el amplio acceso a modelos de IA de código abierto. Como las herramientas de IA de vanguardia ya no son exclusividad de unos pocos laboratorios de avanzada, será sólo cuestión de tiempo que Estados canallas y grupos terroristas intenten usarlas para desarrollar armas biológicas, nuevas toxinas o bombas sucias. Es peligrosamente ingenuo suponer (como parecen hacer muchos funcionarios estadounidenses) que esas capacidades sólo existen en Silicon Valley.

Pero es posible que el peligro más inmediato sea político, no tecnológico. La IA ya permite a actores malintencionados crear «deepfakes» cada vez más convincentes y campañas de manipulación de elecciones de una escala sin precedentes. Si no se les pone freno, estas herramientas pueden erosionar todavía más la confianza pública, profundizar la polarización política y acelerar la fragmentación social.

El veloz desarrollo de la IA también puede allanarle el camino al autoritarismo, ya que los períodos de inestabilidad social suelen dar a los gobiernos oportunidades para extender su autoridad con el pretexto de restablecer el orden, combatir la desigualdad o proteger la seguridad nacional. Bajo la presidencia de Donald Trump, a veces pareciera que Estados Unidos ya va en esa dirección. Pero un futuro gobierno demócrata puede mostrarse igual de dispuesto a explotar la IA al servicio de sus propios objetivos políticos.

Nada de esto resta valor al extraordinario potencial de la IA, una tecnología con capacidad para revolucionar la medicina acelerando la investigación de enfermedades como el cáncer y el alzhéimer, transformar la producción de alimentos y ayudar en la lucha contra el cambio climático (y esto es sólo la punta del iceberg). De modo que lo que está en cuestión no es la necesidad de que haya progreso en IA, sino a qué velocidad y con qué costos.

He ahí el dilema central: el principal argumento que presentan las empresas tecnológicas estadounidenses contra las propuestas de regular la IA es que hacerlo dejará a Estados Unidos en desventaja respecto de China. Pero si tarde o temprano China logra imitar o robar todos los grandes avances estadounidenses (como ha hecho más de una vez), la carrera permanente en pos de una IA cada vez más potente es una receta para el desastre. Para conseguir seguridad duradera será necesario cierto grado de cooperación internacional, así como el control de las armas nucleares se volvió indispensable durante la Guerra Fría.

La IA genera grandes inquietudes en lo referido al empleo, la desigualdad y la cohesión social, pero ninguna de ellas es más importante que la seguridad. El argumento de las empresas de que hay que evitar una regulación significativa porque frenará la innovación o restará competitividad a los Estados Unidos pasa por alto los riesgos que supone lanzar sistemas de IA cada vez más sofisticados antes de saber cómo controlarlos.

Por supuesto que los reguladores cometerán errores, y algunas reglas pueden ser demasiado restrictivas. Pero esos errores se pueden corregir. En cambio, las consecuencias de apresurar el desarrollo de una de las tecnologías más trascendentales que la humanidad haya creado jamás, antes de tener mecanismos de protección adecuados, pueden ser irreversibles.

El ataque informático a Hugging Face debe ser una advertencia para las autoridades en Washington y Pekín. De nada servirá ganar la carrera de la IA si en el proceso creamos peligros que ningún país podrá contener. Copyright: Project Syndicate, 2026.

Kenneth Rogoff, ex economista principal del Fondo Monetario Internacional, es profesor de Economía y Políticas Públicas en Harvard, ganador del Premio 2011 del Deutsche Bank en Economía Financiera, coautor (con Carmen M. Reinhart) de This Time is Different: Eight Centuries of Financial Folly (Princeton University Press, 2011) y autor de Our Dollar, Your Problem (Yale University Press, 2025).