Cómo podría funcionar una pausa en el desarrollo de la IA de vanguardia

Por Barry Eichengreen, Will Fithian, y Wesley Holliday, Project Syndicate.

BERKELEY- Dario Amodei, cofundador de Anthropic, entre otras empresas, ha advertido de que la IA supone una amenaza existencial para la humanidad. Otros han ido más allá y han abogado por suspender el entrenamiento de nuevos modelos de IA de vanguardia. El contraargumento es que es poco probable que la regulación, incluida la autorregulación, resulte eficaz. E incluso si una pausa fuera viable en principio, hay pocas esperanzas de que pudiera mantenerse en la práctica, dado que Estados Unidos y China temen desesperadamente quedarse atrás el uno respecto al otro.

Sin embargo, un nuevo informe elaborado por un grupo interdisciplinar de investigadores, del que formamos parte, concluye que una pausa global en el entrenamiento de la IA de vanguardia es tanto factible como sostenible. Si se aplica adecuadamente, dicha pausa podría prolongarse durante una década o más, dependiendo de factores como el ritmo de mejora en la eficiencia del entrenamiento de la IA.

Los modelos de vanguardia requieren chips de IA cuya cadena de suministro está muy concentrada. Una “pausa integrada” aprovecharía este cuello de botella deteniendo la producción de chips de IA aptos para el entrenamiento. Permitiría la producción de chips capaces de realizar inferencias rápidas de IA en modelos aprobados, pero que, debido a su diseño, no podrían utilizarse en la práctica para entrenar nuevos modelos de vanguardia.

Una vez que se acelere la producción de chips destinados exclusivamente a la inferencia, los chips capaces de entrenamiento anteriores a la pausa se irían retirando progresivamente, de modo que no pudieran utilizarse para avivar una nueva carrera por la IA. Esta pausa programada permitiría a los Estados cosechar los beneficios económicos de la inferencia de IA sin continuar con el entrenamiento de IA, que podría provocar perturbaciones abrumadoras para la sociedad y la seguridad nacional.

La cadena de suministro de los chips de IA sufre graves cuellos de botella. Las máquinas de litografía avanzada (ultravioleta extremo) solo las suministra un único proveedor, la empresa neerlandesa ASML, y se transportan en contenedores repartidos en 20 camiones y tres aviones de carga. ASML depende de los espejos de una única empresa alemana de óptica de alta precisión, Zeiss. Las tierras raras refinadas solo están disponibles en un número limitado de fuentes nacionales. Otros materiales, como el cuarzo de alta pureza, proceden de un puñado de lugares.

En cuanto al uso de esos chips, podría resultar imposible detectar a un evasor que utilice un único ordenador para entrenar un pequeño modelo de IA. Sin embargo, se necesitarían cientos de miles de chips durante meses o años para entrenar modelos de IA a una escala significativamente superior a la de los modelos de vanguardia actuales, como “Astra” de OpenAI. Tras hacerse con el control de un parque de hardware tan extenso, quien eludiera las restricciones tendría que engañar al mundo durante un largo periodo de tiempo para que creyera que dicho parque se estaba utilizando, por ejemplo, para una inferencia lucrativa y que requiere un gran esfuerzo computacional.

Esto sugiere que un número limitado de intervenciones, incluidos controles sobre la producción y venta de chips aptos para el entrenamiento, máquinas de litografía avanzadas y tierras raras, contribuiría en gran medida a respaldar una pausa en el entrenamiento de los modelos de vanguardia. Esto seguiría permitiendo la producción de chips destinados exclusivamente a la inferencia, como ciertos circuitos integrados específicos para modelos que incorporan de forma fija la arquitectura y los pesos de un modelo aprobado en el chip. Ya existen chips específicos para modelos, pero su atractivo económico se ve limitado por la elevada rotación de los modelos de vanguardia. Su producción resultaría más atractiva si se detuviera el entrenamiento de nuevos modelos de vanguardia.

Habrá quien objete que detener la producción de chips capaces de entrenar modelos ralentizará el avance de la IA. Ese es, por supuesto, el objetivo. Aun así, con una cooperación adecuada, podría ser posible crear «reservas científicas» reguladas a nivel internacional en las que los chips capaces de entrenar modelos pudieran utilizarse para cargas de trabajo de investigación declaradas y transparentes.

Pero, ¿podría mantenerse a largo plazo la cooperación en torno a una pausa, entre EE. UU. y China y, de manera más general? Los Estados podrían verse tentados a incumplir dicho acuerdo, a pesar de los riesgos, si los beneficios potenciales derivados de los avances en IA son grandes, y ocultar el incumplimiento podría resultar menos difícil a medida que los algoritmos de entrenamiento se vuelvan más eficientes.

No obstante, los responsables de la toma de decisiones deben comprender que se encuentran inmersos en un juego repetido, que se llevará a cabo una supervisión y que las ganancias inmediatas podrían verse superadas por pérdidas futuras si el acuerdo se rompe. Unos mecanismos de supervisión adecuados pueden limitar el riesgo de incumplimiento. La historia de la contención de las armas nucleares sugiere que merece la pena intentar alcanzar un acuerdo internacional.

Hay que tener en cuenta algunas salvedades, sin duda. Es posible que a los responsables políticos de EE. UU. y China les falte la paciencia necesaria para mantener la cooperación a largo plazo. Dadas las existencias actuales de chips de IA aptos para el entrenamiento, es posible que los países no mantengan una pausa a menos que se realice un censo lo suficientemente exhaustivo. La fabricación de chips tendría que supervisarse estrictamente, y los desarrolladores de modelos de vanguardia podrían convertirse en monopolistas privilegiados, a menos que la regulación les impida explotar su poder de mercado.

Corresponde a los responsables políticos decidir si debe suspenderse el desarrollo de la IA de vanguardia. Pero deben reconocer que una pausa es factible y que, si se aplica adecuadamente, es probable que resulte sostenible. Copyright: Project Syndicate, 2026.

Barry Eichengreen, catedrático de Economía y Ciencias Políticas en la Universidad de California, Berkeley, es autor, entre otras obras, de “Money Beyond Borders: Global Currencies From Croesus to Crypto“ (Princeton University Press, 2026).

Will Fithian es profesor asociado de Estadística en la Universidad de California, Berkeley.

Wesley Holliday es profesor de Filosofía y director del Grupo de Lógica y Metodología de la Ciencia en la Universidad de California, Berkeley.