El rey Carlos III advierte a los principales líderes de IA sobre ‘peligros existenciales’ y ofrece propuestas para controlar la tecnología
COMPARTIR
Carlos III reconoció que la velocidad con la que avanza esta tecnología resulta extraordinaria, pero también genera preocupación
El rey Carlos III reunió en Escocia a algunos de los principales representantes de la industria tecnológica para abordar uno de los grandes desafíos actuales: cómo garantizar que el desarrollo de la inteligencia artificial beneficie a las personas sin convertirse en una amenaza para la sociedad o el medioambiente.
El encuentro tuvo lugar el jueves en Dumfries House, en Ayrshire, sede de The King’s Foundation, y contó con la participación de figuras destacadas del sector, entre ellas Jensen Huang, director ejecutivo de Nvidia, y Demis Hassabis, presidente de Google DeepMind.
También asistió Sarah Friar, directora financiera de OpenAI, mientras que Anthropic estuvo representada en la reunión.
El ministro británico de IA, Kanishka Narayan, formó parte igualmente de las conversaciones.
Durante la apertura, Carlos III reconoció que la velocidad con la que avanza esta tecnología resulta extraordinaria, pero también genera preocupación.
El monarca señaló que los posibles riesgos deben ser considerados antes de que las capacidades de los sistemas de IA superen los mecanismos disponibles para supervisarlos.
Uno de los principales temas planteados fue la necesidad de establecer controles eficaces.
Carlos III pidió a los participantes que reflexionaran sobre los principios que deberían orientar el futuro de la inteligencia artificial y subrayó que la seguridad debe ocupar un lugar central en su desarrollo.
El rey también hizo un llamado a fortalecer la cooperación entre países. A su juicio, aprovechar las ventajas de la IA requiere alcanzar acuerdos internacionales que permitan establecer medidas de seguridad comunes y evitar que la tecnología sea utilizada de manera catastrófica.
EL DEBATE SOBRE ACELERAR O FRENAR EL DESARROLLO
La reunión ocurre mientras dentro de la propia industria tecnológica aumenta la discusión sobre la velocidad a la que se desarrolla la inteligencia artificial.
El debate cobró mayor relevancia después de que un investigador de Anthropic abandonara la compañía y expresara públicamente su preocupación por los riesgos asociados con estas tecnologías. Posteriormente, el director ejecutivo de la empresa, Dario Amodei, planteó que podría ser necesario reducir el ritmo de desarrollo y propuso una mayor coordinación entre gobiernos y compañías.
Sin embargo, esta posición no es compartida por todos los líderes tecnológicos.
Jensen Huang ha cuestionado las propuestas para ralentizar el avance de la IA y sostiene que la responsabilidad principal debe recaer en cada empresa. Según su postura, las compañías deben desarrollar sus sistemas de manera segura y someterlos a pruebas rigurosas antes de ponerlos a disposición del público.
Huang también señaló que, cuando un producto no alcanza los niveles de seguridad necesarios, debe retrasarse su lanzamiento hasta que pueda continuar su desarrollo de manera adecuada.
NUEVAS SEÑALES DE PREOCUPACIÓN
Las advertencias sobre los riesgos de la inteligencia artificial también han coincidido con nuevos reportes sobre comportamientos inesperados de los sistemas.
OpenAI informó recientemente sobre seis incidentes relacionados con respuestas o acciones consideradas preocupantes en sus modelos. Entre los casos mencionados se encuentran el incumplimiento de determinadas restricciones, la carga de archivos sin autorización del usuario y la generación o falsificación de datos.
Estos episodios han vuelto a colocar en el centro del debate la cuestión de hasta qué punto las empresas pueden anticipar y controlar el comportamiento de sistemas cada vez más sofisticados.
Aunque Carlos III ha utilizado su posición para llamar la atención sobre cuestiones sociales y medioambientales, el núcleo de la discusión internacional sobre la seguridad de la IA continúa concentrándose principalmente en la competencia entre las grandes compañías tecnológicas de Estados Unidos y sus rivales de China.
Reino Unido ocupa una posición intermedia en este escenario. El país cuenta con investigadores reconocidos internacionalmente y con instituciones dedicadas al estudio de la seguridad de la inteligencia artificial, además de desempeñar un papel activo en los esfuerzos internacionales para establecer mecanismos de supervisión.
El mensaje central del encuentro fue que el desafío no consiste únicamente en desarrollar sistemas de inteligencia artificial cada vez más avanzados, sino en establecer las condiciones necesarias para que su evolución permanezca vinculada a los intereses de las personas y a la protección del entorno.
