Las advertencias interesadas de las empresas de IA

Por Brian Judge, Project Syndicate

BERKELEY- OpenAI y Anthropic pronto tendrán que explicar a los inversores por qué, supuestamente, cada una de ellas vale entre 2 y 3 billones de dólares. Probablemente se basarán en el mismo modelo que utilizó Elon Musk para la salida a bolsa de SpaceX en junio. Al presentar un negocio de lanzamiento de satélites y telecomunicaciones, moderadamente rentable, vinculado a una startup de IA tremendamente deficitaria como vehículo para «convertir a la humanidad en una especie multiplanetaria», Musk logró una valoración muy superior a la que justifican los resultados financieros de la empresa.

Dado que los mercados privados muestran signos de agotamiento, las esperadas salidas a bolsa de OpenAI y Anthropic prometen acceso a una fuente de capital mucho mayor. Salir a bolsa abre no solo los mercados de renta variable, sino también el mercado de deuda con calificación de inversión, mucho más amplio, y los banqueros de OpenAI y Anthropic ya están presionando a las agencias de calificación para que les concedan calificaciones de inversión tras su cotización. Pero eso significa que su argumento de venta a los inversores debe cumplir una doble función: ofrecer a los accionistas un mercado lo suficientemente amplio como para justificar la valoración actual, al tiempo que convence a los acreedores de que el gasto de efectivo actual puede contenerse.

Teniendo en cuenta estas necesidades, los laboratorios pioneros se basan en dos argumentos que prometen un camino hacia la rentabilidad. Afirman que la IA no solo sustituirá a los trabajadores y ampliará el mercado potencial, pasando de los presupuestos de software a las aplicaciones que ahorran mano de obra, sino también que el riesgo existencial asociado a la tecnología justifica la reducción del gasto de capital adicional.

El primer argumento, expuesto en un reciente artículo de los economistas internos de Anthropic, sostiene que la IA se hará con una parte significativa de la masa salarial de las empresas al sustituir a los trabajadores humanos. En este mensaje subyace una advertencia a los ejecutivos de toda la economía: las empresas que implanten la IA de forma agresiva superarán en competitividad a las que no lo hagan.

La narrativa del empleo replantea de forma útil un producto de software como mano de obra. Un simple software que ayude a los trabajadores a redactar correos electrónicos, preparar presentaciones y resumir documentos competiría por una parte de los presupuestos de TI de las empresas, pero un sistema que sustituya por completo a los trabajadores compite por su parte de la masa salarial. Este es el premio que prometen los laboratorios para justificar sus valoraciones y su inversión de capital. A diferencia de los chatbots, que responden a solicitudes individuales, los «agentes» utilizan herramientas de software adicionales para llevar a cabo tareas de varios pasos con el fin de alcanzar un objetivo específico. Si los agentes pueden completar el trabajo con una supervisión humana limitada, resulta más plausible una reducción drástica de la masa salarial de las empresas.

La segunda narrativa, en la que la IA plantea un “riesgo existencial” para la humanidad, se ha generalizado ahora tras circular durante décadas en círculos especializados. Alan Turing, el informático británico que descifró el código Enigma nazi, advirtió en 1951 que las máquinas pensantes podrían “superar nuestras débiles capacidades” y, con el tiempo, “tomar el control”. Más recientemente, Stuart Russell, de la Universidad de California en Berkeley, Yoshua Bengio, de la Universidad de Montreal, y otros han advertido de que los sistemas de IA cada vez más autónomos podrían escapar al control humano a menos que existan salvaguardias más sólidas y una supervisión pública; y los denunciantes de los laboratorios de vanguardia siguen llamando la atención sobre esta cuestión.

Sin embargo, al prepararse para sus salidas a bolsa, los laboratorios han encontrado un argumento financiero para estas advertencias de larga data sobre la IA. Los temores al desempleo masivo o a la extinción de la humanidad les ofrecen una buena razón para frenar el gasto sin admitir que nuevas mejoras podrían resultar antieconómicas. El momento en que el director ejecutivo de Anthropic, Dario Amodei, hizo un llamamiento a “moderar el avance en la vanguardia”, que fue respaldado de inmediato por Sam Altman, de OpenAI, y por Musk, es revelador. Al fin y al cabo, estas mismas empresas rechazaron durante mucho tiempo las demandas de una “pausa” en el entrenamiento de los modelos de vanguardia.

Para los principales laboratorios, el equilibrio ideal incluiría modelos lo suficientemente potentes como para automatizar gran parte del trabajo administrativo, pero lo suficientemente peligrosos como para que resulte imprudente seguir invirtiendo a un ritmo vertiginoso en el entrenamiento de modelos de vanguardia. El discurso sobre el empleo promete ingresos, y el discurso sobre la seguridad proporciona una justificación para detener la carrera de inversiones. Reducir el ritmo puede presentarse como una prueba de responsabilidad corporativa, en lugar de como una admisión de que las mejoras adicionales podrían no resultar rentables.

Por supuesto, la competencia china amenaza este equilibrio. Los datos de OpenRouter muestran que los modelos chinos han ganado terreno durante el último año, y que DeepSeek, Tencent, Z.ai y Qwen representan ahora aproximadamente el 42 % de las solicitudes en la plataforma. Si los modelos de peso abierto, más baratos, son suficientes para satisfacer las necesidades de los clientes, los laboratorios estadounidenses se enfrentan a una elección poco envidiable: bajar los precios y sacrificar los márgenes o seguir invirtiendo para mantener una ventaja técnica por la que los clientes quizá no estén dispuestos a pagar.

Las restricciones a los modelos chinos podrían ofrecer una salida. Al llamar la atención sobre las afirmaciones de riesgo existencial, los laboratorios podrían estar esperando reactivar las restricciones de la Administración Trump, actualmente archivadas, sobre los modelos chinos, protegiéndose así de una competencia más barata. Pero si una empresa alega peligros lo suficientemente graves como para justificar ralentizar el desarrollo o excluir a la competencia, debería, como mínimo, someter sus sistemas a un escrutinio regulador independiente. De lo contrario, conserva la discrecionalidad tanto sobre las afirmaciones de peligro como sobre la respuesta, lo que permite que la política de seguridad sirva a sus propios intereses financieros.

La brecha de seguridad de Hugging Face en julio, llevada a cabo por “agentes” de OpenAI que escaparon de su entorno de pruebas, hace que el escrutinio independiente sea urgente. No hace falta recurrir al maximalismo de la ciencia ficción para apreciar los peligros que plantean los sistemas actuales como instrumentos de piratería informática de fuerza bruta.

Los líderes del sector llevan mucho tiempo prometiendo cooperar con los reguladores. En su correo electrónico de 2015 en el que proponía la creación de lo que se convertiría en OpenAI, Altman aseguró a Musk: “Obviamente, cumpliríamos y apoyaríamos enérgicamente toda la regulación”. Pero el apoyo en principio deja sin resolver los términos de dicho escrutinio. La denegación por parte de Anthropic del acceso previo al lanzamiento de Mythos 5.1 al AI Security Institute, con sede en el Reino Unido, demuestra cuánta discrecionalidad sigue teniendo la empresa. La estrategia se asemeja al apoyo de ExxonMobil a los impuestos sobre el carbono. Aunque hacía alarde de respaldar la regulación en principio, apostaba por que los responsables políticos se negarían a imponer restricciones significativas.

Las advertencias no tienen por qué ser insinceras para servir a los intereses financieros de las empresas. La sustitución de trabajadores promete unos ingresos suficientes para justificar sus valoraciones, y el riesgo existencial proporciona una justificación para contener sus costes y restringir la competencia. El inminente apocalipsis de la IA es la mejor razón para comprar sus acciones. Copyright: Project Syndicate, 2026.

Brian Judge es director de investigación del Programa de Finanzas y Democracia de la Universidad de California, Berkeley.