Supervisión global de la IA ya

Por Gabriela Ramos, Project Syndicate.

PARÍS- Hace varios años, con Mariana Mazzucato planteamos una pregunta sencilla: ¿quién se hace responsable si algo sale mal en el mundo de la IA? La pregunta sigue sin respuesta, incluso después de que el Consejo de Seguridad de las Naciones Unidas se reuniera la semana pasada para debatir los riesgos existenciales que plantea la IA.

En la reunión participaron los mismos directores ejecutivos de empresas tecnológicas que ahora piden una pausa en el desarrollo de la IA, mientras se apresuran a construir sistemas cada vez más potentes en una carrera hacia el abismo. La única voz ajena al sector fue la de Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA y uno de los principales defensores de la seguridad de la IA. Aparte de los representantes de los países miembro, no intervino nadie del Sur Global ni de la sociedad civil, ni tampoco ninguna mujer. Esta última omisión podría haberse subsanado invitando a la otra copresidenta del Panel, la galardonada con el Premio Nobel de la Paz Maria Ressa.

Más allá del enfoque problemático, el mandato de paz y seguridad del Consejo de Seguridad impidió un debate más exhaustivo sobre todos los peligros que puede plantear la IA. Muchos miembros señalaron que la labor del Consejo no debería interferir con la de otros organismos de la ONU que también se ocupan de estas cuestiones. Como reza el viejo refrán, cuando todos están al mando, nadie lo está.

Las consecuencias sociales, económicas y laborales de la IA brillaron por su ausencia en la sesión informativa del Consejo de Seguridad, a pesar de que ya están afectando la vida de las personas y pueden ser tan graves como perder el control sobre los agentes de IA. La IA está afianzando las desigualdades existentes a través de la discriminación algorítmica y el acceso desigual a las tecnologías, al capital y a la potencia de cálculo. También amenaza con sustituir el criterio y la capacidad de acción humanos, al tiempo que erosiona nuestras habilidades cognitivas, emocionales y relacionales, tal y como muestra el trabajo de Vladimír Šucha. Y luego están sus efectos sobre la salud mental de los jóvenes y la violencia que sufren las mujeres en Internet, tal y como se documenta en el informe “All In” que presentamos en la Asamblea General de la ONU.

La reunión también dedicó una atención desproporcionada a las propias tecnologías y a cómo ajustarlas. Este enfoque nos impide abordar las estructuras políticas y económicas que subyacen a muchos de estos problemas. Mucho antes de la llegada de la IA, décadas de globalización desenfrenada ya habían favorecido al capital frente al trabajo, concentrando los ingresos y la riqueza en la cima y privando de seguridad económica a la mayoría de los demás.

La estrategia de no intervención en los mercados globales ha mantenido a los países de bajos ingresos en una situación de vulnerabilidad económica, al tiempo que ha generado unas pocas empresas valoradas en billones de dólares y enormes fortunas privadas. También ha creado una economía política que se resiste a la reforma, especialmente en Estados Unidos. El acuerdo de la OCDE de 2021 sobre un impuesto corporativo mínimo global del 15% supuso un gran paso en la dirección correcta, pero ese esfuerzo se desmoronó cuando el presidente Donald Trump, apenas regresó a la Casa Blanca, retiró a Estados Unidos del acuerdo, lo que les permitió a los gigantes tecnológicos enriquecerse y hacerse aún más poderosos. Esta es la economía política en la que ha irrumpido la IA.

La reunión de la ONU debería haber tenido en cuenta la propuesta de Finlandia, Noruega y más de otros 20 países sobre protocolos de seguridad comunes, análisis de riesgo obligatorios previos a un lanzamiento, evaluaciones independientes y una agencia internacional para supervisar la IA de frontera.

Los gobiernos saben actuar con rapidez cuando quieren. Lo vi de primera mano durante mis años en la OCDE y como jefe de gabinete y sherpa del G-20. Cuando estallaban las crisis, los estados miembro no se pasaban años negociando largos comunicados ni esperando a dar con el encaje institucional perfecto. Se focalizaban en el problema de turno y en lo que debía hacer un nuevo organismo. La Agencia Internacional de la Energía se creó rápidamente a raíz de las crisis del petróleo de la década de 1970, y el Grupo de Acción Financiera Internacional se estableció en 1989 para combatir el blanqueo de capitales. Más recientemente, el Marco Inclusivo de la OCDE sobre la Erosión de la Base Imponible y el Traslado de Beneficios (BEPS por su sigla en inglés) reunió a los países para hacer frente a la evasión fiscal corporativa, entre otras cosas mediante la tasa mínima del 15%.

Deberíamos adoptar el mismo enfoque con respecto a la IA. En lugar de empantanarnos en los trámites, deberíamos partir de lo que debe hacer un organismo internacional dedicado a la IA y, a continuación, dotarlo de los conocimientos especializados y el presupuesto necesarios para llevarlo a cabo. Esto nos ayudaría a responder al desafío planteado por el asesor de ciencia y tecnología de la Casa Blanca, Michael Kratsios, quien declaró ante el Consejo de Seguridad de la ONU: “No se puede regular una tecnología que no se entiende”.

La propuesta de Finlandia y Noruega aboga por una institución internacional capaz de establecer normas y coordinar una respuesta colectiva cuando los sistemas de IA superen umbrales peligrosos de capacidad. También aboga por mecanismos de evaluación independientes. Pero debería ir más allá y establecer registros de riesgos obligatorios y un mecanismo de emergencia similar a lo que, según se informa, ya están preparando Estados Unidos y China. Esas evaluaciones también deberían tener en cuenta el impacto de la IA en las personas.

Para que todo esto funcione, la institución necesita un organismo técnico independiente. El órgano que presta servicio a la Convención Antisoborno de la OCDE, por ejemplo, elabora evaluaciones de los países que se aprueban según una regla de consenso menos uno. Si bien los países pueden definir las normas globales contra la corrupción de forma diferente según sus tradiciones jurídicas, el principio de “equivalencia funcional” ayuda a garantizar que los distintos enfoques jurídicos ofrezcan resultados comparables. La institución también tendría que cooperar con otras instituciones internacionales para garantizar que la IA contribuya al desarrollo humano.

Esto nos lleva a la cuestión de quién representaría a cada estado miembro en un nuevo organismo internacional dedicado a la IA. El Comité de Basilea para la Supervisión Bancaria funciona porque reúne a funcionarios con un mandato y responsabilidades más o menos similares. No existe un equivalente para la IA. Solo unos pocos países cuentan con un ministerio dedicado a la IA, y los que existen carecen de capacidad para investigar o sancionar el comportamiento del mercado. Hasta que no desarrollemos las instituciones necesarias tanto a nivel nacional como internacional, nuestra pregunta inicial –“¿Quién se hace responsable cuando las cosas salen mal?”- seguirá sin respuesta, dejando al mundo expuesto a riesgos inconmensurables. Copyright: Project Syndicate, 2026.

Gabriela Ramos, copresidenta del Grupo de Trabajo sobre Desigualdades y Divulgación de Información Financiera de Carácter Social, fue subdirectora general de Ciencias Sociales y Humanas de la UNESCO, donde supervisó la elaboración de la Recomendación sobre la ética de la IA, y fue jefa de gabinete de la OCDE y “sherpa” del G-20, del G7 y de la APEC.