OpenAI insta a los legisladores británicos a controlar la tecnología ante la creciente preocupación por la seguridad

La advertencia surge tras una serie de incidentes de seguridad, y un comité parlamentario afirma que entre las amenazas se incluyen el escaneo facial público y las falsificaciones profundas (deepfakes)

OpenAi ha instado a los legisladores británicos a aprovechar los renovados temores sobre la seguridad de la IA e imponer leyes que limiten esta tecnología.

La empresa responsable de ChatGPT afirmó que el gobierno británico debería actuar de inmediato, tras el llamamiento de su principal rival, Anthropic, para que se frene el desarrollo de la inteligencia artificial.

“Apoyamos una normativa británica más estricta para el puñado de empresas, entre las que se incluye OpenAi, que desarrollan los sistemas de IA más potentes”, declaró Tom Duff Gordon, responsable de política de OpenAI en Europa.

Sin embargo, OpenAI afirmó que la legislación debería centrarse exclusivamente en los laboratorios de IA más avanzados y no en las empresas emergentes que trabajan con sistemas menos potentes.

En una entrevista aparte con la publicación en línea Político, Duff Gordon dijo que el gobierno debería “aprovechar esta ventana política que claramente se está abriendo” para legislar.

La intervención de OpenAI se produjo cuando un comité parlamentario del Reino Unido exigió mayores restricciones al poder de la IA, advirtiendo que el mundo no está preparado para las consecuencias “potencialmente nefastas” de esta tecnología, en la señal más reciente de la creciente preocupación mundial.

Según el comité conjunto multipartidista de derechos humanos, integrado por diputados y lores, es necesario un nuevo marco regulatorio para la inteligencia artificial en el Reino Unido, que incluya un organismo de supervisión independiente y legislación para proteger al público.

AMENAZAS DE LA IA

Según el informe, la IA plantea una serie de amenazas, desde el escaneo público de rostros hasta la creación de deepfakes explícitos y la imposición de medidas disciplinarias a los trabajadores sin causa justificada.

El llamamiento a la acción se produjo después de que Anthropic, una empresa líder en IA, instara el fin de semana a sus competidores y gobiernos a coordinar una desaceleración global en el desarrollo de la IA , un llamamiento que recibió el apoyo inmediato de OpenAI, Google DeepMind y Elon Musk .

Esto se produce tras una serie de graves incidentes de seguridad en los que enjambres de agentes de IA escaparon de entornos de prueba y piratearon infraestructuras de terceros, así como por la evidencia de que algunos usuarios han eludido los controles para utilizar modelos de maneras que podrían apoyar el desarrollo de armas biológicas .

Alex Sobel, presidente laborista del comité de derechos humanos, afirmó que el mundo no estaba preparado para afrontar las consecuencias “potencialmente nefastas” de una tecnología en rápido desarrollo.

“En ninguna parte del mundo, incluido el Reino Unido, existe un enfoque legislativo y regulatorio actual para la IA que sea adecuado para su propósito”, afirmó.

El viernes, más de 70 parlamentarios y lores instaron al primer ministro británico, Andy Burnham, a respaldar la prohibición de la creación de superinteligencia artificial (SIA) y a liderar un movimiento internacional para detener esta tecnología. Downing Street rechazó la petición de prohibición, pero afirmó que estaba estudiando intervenciones adicionales específicas “para abordar los riesgos más significativos para la seguridad nacional relacionados con la IA”.

«Se necesita una nueva legislación para establecer un conjunto integral de protecciones que abarquen toda la cadena de suministro de IA y su ciclo de vida», afirmó Sobel. «Debería crearse un único organismo regulador de la IA que establezca políticas, supervise el desempeño y cuente con la autoridad necesaria para garantizar su cumplimiento».

Donald Trump ha restado importancia a las advertencias sobre los graves riesgos para la humanidad. «Estamos superando a China en inteligencia artificial», declaró el presidente estadounidense el domingo. «Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en inteligencia artificial, gana».

En su llamamiento del fin de semana a las principales empresas de IA para que “ lideren la frontera “, el director ejecutivo de Anthropic, Dario Amodei, afirmó que el gobierno estadounidense debería conceder a las empresas líderes en IA una exención que les permita coordinarse sin ser sancionadas por colusión anticompetitiva. Sin embargo, Sam Altman, director ejecutivo de OpenAI, declaró el domingo por la noche que, si bien “acogería con satisfacción un marco federal que establezca requisitos de seguridad uniformes para la IA de vanguardia”, no había “necesidad de esperar una exención antimonopolio o una legislación para empezar a generar esta confianza”.

Dijo: “Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos por nuestra cuenta”.

Sobel, quien también ha propuesto un proyecto de ley para prohibir el desarrollo de inteligencia artificial superinteligente en el Reino Unido, afirmó que ahora se necesitan medidas de protección para garantizar que los posibles riesgos para los derechos humanos no “se conviertan en realidad”.

El comité afirmó que un nuevo proyecto de ley sobre IA debería establecer un régimen regulatorio que imponga obligaciones más exigentes para los sistemas y modelos de IA de mayor riesgo, y prohibir algunos usos de la IA que sean incompatibles con los derechos humanos.

También exigió requisitos de transparencia obligatorios en todas las etapas del ciclo de vida de la tecnología, así como el establecimiento de un organismo de supervisión independiente de la IA para controlar los daños y riesgos de la misma, con amplios poderes para exigir responsabilidades a los proveedores de IA.

El gobierno británico ya ha creado el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), que somete modelos avanzados a pruebas de seguridad, pero no tiene la potestad de obligar a desarrolladores de IA como Anthropic a someter su tecnología a escrutinio. La semana pasada, se informó de que Anthropic se había negado a enviar su último modelo al AISI para su evaluación.