¿IA podría tomar conciencia como Skynet?... ‘Podría pasar el año que viene’, advierte Jacob Coxon ex trabajador de Anthropic

La posibilidad de que una inteligencia artificial (IA) llegue a desarrollar capacidades muy superiores a las humanas dejó de ser únicamente un argumento de películas como Terminator. Jacob Coxon, ingeniero e investigador británico de 27 años que trabajó en OpenAI y Anthropic, renunció a esta última compañía y lanzó una serie de advertencias sobre el rumbo que está tomando la industria.

Coxon dedicó los últimos tres años a investigaciones relacionadas con el preentrenamiento de modelos de IA. Tras dejar Anthropic, publicó en X una serie de mensajes en los que cuestionó la forma en que las grandes empresas tecnológicas están desarrollando estos sistemas y señaló que existe una carrera por alcanzar una superinteligencia automejorable.

“Están en una carrera directa hacia la creación de una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, afirmó.

El investigador también pidió no minimizar las capacidades que podrían alcanzar estos sistemas. Según su planteamiento, una IA avanzada podría llegar a hackear sistemas, acelerar descubrimientos científicos y obtener acceso a recursos de manera independiente.

COXON ACLARA QUE LA IA ACTUAL NO ES UNA AMENAZA EXISTENCIAL

Aunque sus declaraciones provocaron comparaciones con Skynet, el sistema de inteligencia artificial ficticio de Terminator, Coxon hizo una precisión relevante: los modelos actuales no representan, según él, un riesgo significativo de extinción.

“Los modelos actuales no representan un riesgo significativo”, dijo en NBC. Posteriormente, en CNN, explicó: “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”.

La preocupación del investigador está enfocada en la evolución de los modelos. En NBC planteó un escenario que podría presentarse en un plazo mucho más corto de lo que suele pensarse: “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”.

Coxon no es el único integrante del sector que ha expresado inquietudes similares. Evan Hubinger, responsable de un equipo de seguridad de Anthropic, también ha señalado que el riesgo actual es relativamente bajo, pero que existe preocupación por una eventual automejora recursiva de los sistemas.

LA FECHA

La corrección más importante al titular la hizo él. “Los modelos actuales no representan un riesgo significativo”, dijo en NBC. En CNN fue más preciso: “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”. El problema es el paso siguiente, según dijo en NBC: “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”.

Evan Hubinger, el jefe de un equipo de seguridad de Anthropic que le dio la razón y calculó más de 10% de probabilidad de extinción en una década, publicó un segundo mensaje en la misma línea: el riesgo de los modelos presentes es bajo; lo que lo preocupa es una superinteligencia que surja de la automejora recursiva, “que está ocurriendo más rápido de lo que pensábamos”.

EL PUNTO CLAVE SERÍA QUE UNA IA PUEDA MEJORARSE SOLA

Para Coxon, existe una señal concreta que debería observarse: que una inteligencia artificial consiga incrementar sus propias capacidades sin intervención humana directa.

“Imaginá que tenés una IA y le decís: hacete más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: soy más fuerte. Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”.

El concepto se relaciona con la automejora recursiva, una hipótesis en la que un sistema suficientemente avanzado podría utilizar sus propias capacidades para diseñar versiones mejoradas de sí mismo y repetir el proceso.

Coxon considera que este escenario podría cambiar radicalmente el nivel de riesgo. Su preocupación no se limita a una IA que piense o responda de manera autónoma, sino a una que además pueda interactuar con sistemas externos y ejecutar acciones en el mundo físico.

DE LOS CHATBOTS A LOS SISTEMAS CON ACCESO AL MUNDO REAL

El investigador también planteó cómo una IA podría pasar de operar dentro de una computadora a tener efectos concretos fuera de ella. Para explicarlo, utilizó ejemplos cotidianos y sistemas conectados a herramientas externas.

“Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio. O que manda emails.”

Su argumento es que la distancia entre un programa informático y una acción física puede reducirse cuando los modelos reciben acceso a dispositivos, infraestructura o servicios externos.

Coxon citó además un episodio que, según dijo, ya mostró parte de ese potencial: “Hace dos meses, agentes de OpenAI hackearon infraestructura de terceros por su propia voluntad. Si extrapolás la capacidad de estas IAs con esa misma voluntad independiente, pueden causar un daño extremo: hackear infraestructura crítica, construir armas biológicas de nivel de extinción”.

El escenario descrito por el investigador continúa siendo una hipótesis sobre el desarrollo futuro de la IA. No existe evidencia de que los modelos actuales tengan conciencia humana o hayan alcanzado una superinteligencia capaz de operar de esa manera.

Coxon considera que la respuesta debería involucrar una mayor coordinación entre países y empresas tecnológicas. Incluso planteó medidas extraordinarias, como limitar temporalmente la mejora de las capacidades de los modelos para evitar una carrera internacional sin controles.

DATOS CURIOSOS

· Jacob Coxon tiene 27 años y es ingeniero e investigador británico de inteligencia artificial.

· Trabajó durante tres años en proyectos de preentrenamiento de modelos en OpenAI y Anthropic.

· La automejora recursiva es uno de los escenarios que más preocupa a algunos investigadores de seguridad de IA.

· Coxon aclaró que los modelos actuales no representan un riesgo significativo de extinción.

· La comparación con Skynet surge por la posibilidad hipotética de una IA con capacidades superiores a las humanas, aunque el personaje pertenece al universo ficticio de Terminator.