La UE inicia una investigación sobre X por imágenes explícitas realizadas por Grok AI

La Comisión Europea ha iniciado una investigación sobre X de Elon Musk por la producción de imágenes sexualmente explícitas y la difusión de posible material de abuso sexual infantil por parte del chatbot de inteligencia artificial de la plataforma, Grok

La investigación formal, iniciada el lunes, también amplía una investigación sobre los sistemas de recomendación de X, algoritmos que ayudan a los usuarios a descubrir contenido nuevo.

TE PUEDE INTERESAR: Familias de los presos políticos venezolanos aún esperan su liberación

Grok ha provocado indignación internacional al permitir a los usuarios desnudar digitalmente a mujeres y niños y colocarlos en poses provocativas. La IA de Grok generó cerca de 3 millones de imágenes sexualizadas en menos de dos semanas , incluyendo 23.000 que parecían mostrar a niños, según investigadores del Centro para la Lucha contra el Odio Digital.

La comisión dijo que su investigación “evaluaría si la empresa evaluó y mitigó adecuadamente los riesgos” derivados de las funcionalidades de Grok en la UE, incluidos los riesgos de compartir contenido ilegal, como imágenes sexualmente explícitas manipuladas y “contenido que puede constituir” material de abuso sexual infantil.

La investigación se inició en virtud de la Ley de Servicios Digitales de la UE, una legislación relativamente nueva que pretende proteger a los usuarios de Internet de una amplia gama de daños.

En declaraciones a los periodistas, un funcionario dijo que la comisión no estaba convencida de las medidas de mitigación puestas en marcha por X para remediar el problema.

Tras la indignación inicial por las imágenes manipuladas, la empresa restringió el acceso a la herramienta a los suscriptores de pago, pero cambió de estrategia ante la presión de los reguladores europeos. A principios de este mes anunció que había implementado medidas para impedir que Grok permitiera la edición de imágenes de personas reales con ropa reveladora.

Un funcionario de la comisión afirmó que las medidas no disiparon las preocupaciones generales sobre Grok. La investigación examina los riesgos sistémicos de la generación de contenido ilegal, incluyendo contenido que representa violencia contra las mujeres y material de abuso sexual infantil. X no contaba con “medidas de mitigación efectivas... para reducir el riesgo en su plataforma”, afirmaron.

Al anunciar la investigación, Henna Virkkunen, la principal responsable de la comisión para la soberanía tecnológica, la seguridad y la democracia, declaró: «Las falsificaciones sexuales no consentidas de mujeres y niños constituyen una forma de degradación violenta e inaceptable. Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA o si trató los derechos de los ciudadanos europeos, incluidos los de las mujeres y los niños, como daños colaterales de su servicio».

Además de la investigación sobre las imágenes explícitas, la comisión está ampliando una investigación iniciada en diciembre de 2023 sobre los llamados sistemas de recomendación de X en vista del anuncio de la compañía de pasar a un modelo basado en Grok para filtrar información y contenido a los usuarios.

La medida llega después de que el organismo de control de medios del Reino Unido, Ofcom, anunciara su propia investigación a principios de este mes sobre contenido “vil” e ilegal en X.

La Comisión ha sido ampliamente criticada por su lentitud a la hora de aplicar la DSA, especialmente en relación con X.

«La investigación llega demasiado tarde, pero aún puede enviar una señal clara de que las plataformas deben cumplir con la legislación europea», declaró la eurodiputada verde alemana Alexandra Geese. «Este caso es evidente. El daño a millones de mujeres y muchos niños es irreparable. Esperamos que la comisión aproveche esta información para actuar con mayor rapidez en el futuro».

Los funcionarios de la UE han rechazado tales críticas, señalando 15 investigaciones en curso bajo la DSA, que se ha aplicado a las empresas desde febrero de 2024.

Regina Doherty, vicepresidenta irlandesa de centroderecha del Parlamento Europeo, expresó su satisfacción por la investigación formal. «Cuando surgen informes creíbles sobre el uso de sistemas de inteligencia artificial que perjudican a mujeres y niños, es fundamental que la legislación de la UE se examine y aplique sin demora», declaró Doherty.

En respuesta a la investigación, X proporcionó un enlace a una declaración que publicó el 14 de enero: “Seguimos comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”.

El mes pasado, la Comisión multó a X con 120 millones de euros por infringir la legislación de la UE. «La plataforma engañó a los usuarios, obstruyó a los investigadores independientes y eludió la rendición de cuentas», declaró.

El regulador de la UE afirmó que X otorgó marcas azules engañosas a cuentas sin verificación, lo que podría exponer a los usuarios a estafas y engaños por parte de actores maliciosos. X también incumplió los requisitos legales de la UE en materia de transparencia publicitaria al impedir que los investigadores investigaran anuncios falsos y campañas de amenazas híbridas.

Musk respondió “tonterías” a una publicación de la comisión que anunciaba la multa y luego pidió que se aboliera la UE.

La empresa recibió tres meses para pagar la multa. Un funcionario de la UE afirmó que confiaban en que se pagaría la sanción.