El reto de gobernar la IA

Por Ana Palacio Project Syndicate

MADRID-Una forma de representar la era de la IA es mediante una curva empinada y una pendiente gradual. La curva asciende casi verticalmente: los modelos se vuelven rápidamente más baratos, más potentes, más accesibles y están cada vez más integrados en la producción, la ciencia, la educación, las finanzas, la administración, la seguridad y la guerra. Debajo de ella, la pendiente avanza con una inclinación mucho más suave. Se trata de la capacidad social para absorber el cambio.

La pendiente abarca las actualizaciones de los regímenes normativos, las estructuras jurídicas y las competencias de las administraciones públicas. También incluye cambios en los planes de estudios, los modelos de negocio, los flujos de trabajo y los puestos de trabajo. Y abarca la capacidad de los ciudadanos para desenvolverse en este nuevo panorama, incluida su aptitud para distinguir la verdad de la simulación, la persuasión de la manipulación y la asistencia de la dependencia. Es el metabolismo social a través del cual una disrupción tecnológica se integra en un orden funcional.

Sin duda, las revoluciones tecnológicas e industriales anteriores también podrían representarse mediante una curva y una pendiente de este tipo. Las tecnologías avanzaban y se extendían más rápido de lo que las regulaciones, los modelos de negocio, los sistemas educativos, los mercados laborales y los estilos de vida podían adaptarse. Las transiciones, lejos de ser automáticas, fueron tradicionalmente dolorosas. Pero la brecha entre la curva y la pendiente era menor; en cuanto a velocidad y escala, la transformación impulsada por la IA juega en una liga propia.

El debate sobre cómo gestionar esta transición suele reducirse a la cuestión de en qué medida la regulación logra el «equilibrio adecuado» entre innovación y seguridad. No queremos frenar el progreso con trabas burocráticas, del mismo modo que no queremos dejar que las sociedades tengan que asumir, por sí solas y a toda prisa, las consecuencias de una tecnología que está transformando nuestra concepción más básica de trabajo, conocimiento, poder, responsabilidad y criterio.

Pero esta pregunta es demasiado limitada. La regulación tiene un papel crucial que desempeñar, pero por sí sola no equivale a gobernanza. Para ello, debemos determinar las condiciones necesarias que permitan a las sociedades convivir con la IA sin verse arrolladas por ella.

El primer paso es dejar de pensar en la IA como algo intangible, una tecnología etérea que existe en la “nube” y ofrece lo que la orden le pida. La IA depende de enormes cantidades de capital, chips de última generación, sistemas de ciberseguridad, cadenas de suministro y talento. También depende de enormes centros de datos, que emiten ruido, luz y calor, y requieren terreno, permisos y enormes cantidades de electricidad y agua.

Las comunidades que acogen las infraestructuras físicas de esta tecnología supuestamente “inmaterial” se ven ahora obligadas a hacer frente a importantes trastornos y a asumir elevados costes, a medida que se compran sus terrenos, se sobrecargan sus redes eléctricas y se agotan y contaminan sus reservas de agua. Es necesario tomar decisiones difíciles sobre la ordenación del territorio, los precios de la electricidad y la protección del medio ambiente.

Pero la gobernanza de la IA no es solo un reto a nivel comunitario. La tecnología es cada vez más fundamental para la infraestructura del poder nacional: selección de objetivos militares, operaciones cibernéticas, análisis de inteligencia, descubrimientos científicos, automatización industrial, vigilancia, modelos financieros e influencia política. Quien controle los modelos, los chips, los clústeres informáticos y el talento más avanzados no solo tendrá una ventaja comercial, sino también estratégica.

Esto no pasa desapercibido para Estados Unidos y China, que compiten tenazmente por el liderazgo en IA: cada uno cree que quedarse atrás le dejaría en una situación de vulnerabilidad militar, económica o política. Al igual que ocurre con las armas nucleares, lo que está en juego parece una cuestión existencial. Esta es una receta para el secretismo, la desconfianza, la acción preventiva y una aceleración sin control.

Los riesgos se ven agravados por el hecho de que la IA es más difusa que la tecnología nuclear, está más integrada en el ámbito comercial y tiene una aplicación más amplia. Además, sus resultados son difíciles de verificar y, una vez que las capacidades se codifican en el software, la proliferación resulta fácil.

La gobernanza de la IA debe tener en cuenta todos estos factores, desde los requisitos materiales de la tecnología hasta sus efectos sobre las personas, las comunidades, las empresas, los mercados laborales, el medio ambiente, la seguridad nacional y la competencia estratégica internacional. Para ello, es esencial una arquitectura integral de confianza basada en la verificación, más amplia que la regulación nacional de la IA y más flexible que un tratado clásico.

El Acuerdo de París sobre el clima de 2015 ofrece un modelo útil. Creó un marco dinámico que abarca compromisos voluntarios, presión mutua, actualizaciones periódicas, mediciones fiables y una amplia participación. Pero un acuerdo análogo sobre la IA también debe reflejar una lección clave de los regímenes de no proliferación: cuando la confianza política es débil, debe complementarse con pruebas, límites y verificación.

El marco resultante combinaría la flexibilidad de la diplomacia climática con la disciplina del control nuclear. Los compromisos en constante evolución irían acompañados de mecanismos para evaluar la credibilidad y el impacto de dichos compromisos. La actuación de los Estados iría acompañada de responsabilidades para las empresas.

Un “Acuerdo de París sobre IA” proporcionaría definiciones comunes para los modelos de vanguardia; umbrales para un escrutinio reforzado; la notificación obligatoria de incidentes; normas de evaluación compartidas; la protección de los pesos de los modelos; normas para su implantación en sectores sensibles; y pruebas independientes de los sistemas que planteen riesgos para la ciberseguridad, la seguridad biológica, las infraestructuras críticas o la toma de decisiones militares. Cada uno de estos elementos debería ser revisado y reforzado periódicamente por organismos técnicos que comprendan esta tecnología en constante evolución y por organismos políticos capaces de imponer consecuencias cuando se incumplan los compromisos.

Indudablemente, no todas las aplicaciones requieren el mismo tratamiento. Una herramienta de alcance limitado utilizada en entornos de bajo riesgo requiere una supervisión reducida. Por el contrario, un modelo pionero capaz de afectar a la ciberseguridad, el diseño biológico, las operaciones militares o la autonomía de sistemas críticos debe estar sujeto a requisitos más estrictos y, en casos extremos, a una intervención.

Algunos podrían argumentar que esto frenaría la innovación. Pero nadie se subiría a un avión ni tomaría un nuevo medicamento si la seguridad dependiera únicamente de la buena voluntad de los fabricantes. En estos ámbitos, la regulación no elimina el riesgo; lo hace socialmente soportable. Lo mismo ocurre con la IA.

Un marco de este tipo no puede presentarse como un proyecto europeo, un instrumento estadounidense o una alianza destinada a contrarrestar a China. Su legitimidad dependería de la inclusión, de modo que los países a la vanguardia tecnológica, las «potencias medias» y las economías en desarrollo tuvieran voz. También deberían participar las universidades, las empresas y las organizaciones de la sociedad civil.

La curva seguirá empinándose más. No podemos aplanarla por decreto, ni ocultarla con discursos. Pero podemos decidir si asciende sin control o dentro de una arquitectura capaz de seguirle el ritmo. Copyright: Project Syndicate, 2026.

Ana Palacio fue ministra de asuntos exteriores de España y vicepresidenta sénior y consejera jurídica general del Grupo Banco Mundial; actualmente es profesora visitante en la Universidad de Georgetown.