Malasia bloquea la inteligencia artificial Grok de Elon Musk por imágenes falsas

Malasia se ha convertido en el segundo país en bloquear temporalmente el acceso a Grok de Elon Musk después de una protesta mundial por la herramienta de inteligencia artificial y su capacidad para producir imágenes falsas y sexualizadas.

Malasia dijo que restringiría el acceso a Grok hasta que se implementaran salvaguardias efectivas, un día después de que Indonesia tomara una medida similar.

TE PUEDE INTERESAR: Carney viaja a China mientras la agenda ‘América Primero’ de Trump obliga a Canadá a repensar su comercio

Varios gobiernos y reguladores han tomado medidas sobre la herramienta de imágenes de Grok, que está integrada en el sitio de redes sociales X y ha provocado indignación porque permite a los usuarios manipular imágenes de mujeres y niños para quitarles la ropa y ponerlos en posiciones sexuales.

La empresa liderada por Musk que desarrolló Grok, xAI, dijo la semana pasada que la capacidad de generar y editar imágenes estaría “limitada a los suscriptores pagos” en X. Dichos usuarios han proporcionado detalles personales a la empresa y pueden ser identificados si la función se utiliza indebidamente.

Sin embargo, la medida no ha logrado calmar la indignación contra Grok. La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) declaró el domingo que restringiría el acceso a Grok debido a la capacidad de la herramienta de inteligencia artificial para “generar imágenes obscenas, sexualmente explícitas, indecentes, extremadamente ofensivas y manipuladas sin consentimiento, incluyendo contenido que involucra a mujeres y menores”.

Grok también funciona a través de un sitio web y una aplicación independientes. No quedó claro si las prohibiciones de Malasia e Indonesia se aplicaban a Grok en X, al sitio web y la aplicación de Grok, o a ambos. The Guardian recibió informes de Indonesia de que los usuarios aún podían usar Grok a través de la aplicación y de X, aunque un usuario informó que la aplicación era muy lenta.

MCMC afirmó haber emitido avisos a X y xAI este mes para exigir la implementación de medidas técnicas y de moderación eficaces. Sin embargo, las respuestas recibidas se basaron principalmente en mecanismos de denuncia iniciados por los usuarios y no abordaron los riesgos inherentes que planteaba Grok, según MCMC, añadiendo que lo consideraba insuficiente para prevenir daños o garantizar el cumplimiento legal.

El sábado, Indonesia también bloqueó temporalmente el chatbot, y el ministro de comunicaciones y medios digitales del país, Meutya Hafid, dijo que el gobierno consideraba “la práctica de deepfakes sexuales no consensuados como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

El Reino Unido también ha planteado la posibilidad de una prohibición si no se toman medidas, mientras que el sábado, el primer ministro de Australia, Anthony Albanese, condenó el uso de IA generativa para explotar o sexualizar a personas sin su consentimiento como “aborrecible”.

En toda Europa, los reguladores y los políticos también han emitido advertencias en las últimas semanas.

El ministro de Cultura y Medios de Comunicación de Alemania, Wolfram Weimer, pidió a la Comisión Europea que tome medidas legales, advirtiendo de la “industrialización del acoso sexual”.

La autoridad de protección de datos de Italia dijo que el uso de herramientas de inteligencia artificial para crear imágenes explícitas de personas sin consentimiento podría constituir graves violaciones de la privacidad y, en algunos casos, delitos penales.

En Francia, ministros del gobierno declararon este mes que habían remitido a la fiscalía el contenido sexualmente explícito generado por Grok que circulaba en X y alertado al regulador francés de medios, Arcom.

El Ministerio de Tecnologías de la Información y Electrónica de la India envió una notificación formal a X el 2 de enero en relación con imágenes explícitas supuestamente creadas a través de Grok, exigiendo la retirada del contenido y un informe sobre las medidas adoptadas en un plazo de 72 horas.