Tras polémica de imágenes de Taylor Swift con IA, vuelven moderadores a X

La red social de Elon Musk dijo que contratará a cien empleados de tiempo completo para combatir la explotación sexual infantil, después de que las fotos de Taylor Swift generadas por IA se volvieran virales en la red social la semana pasada.

La compañía con sede en San Francisco, anteriormente conocida como Twitter, anunció el viernes que construirá un “centro de confianza y seguridad” en Austin, Texas, donde contratará “agentes internos” que se encargarán de hacer cumplir el contenido y las reglas de seguridad del sitio.

TE PUEDE INTERESAR: ¿Qué son los ‘Deepfakes’ y cómo protegerte de ellos? Famosos y políticos temen ser víctimas

El jefe de X anteriormente fue criticado en las últimas semanas por la proliferación de contenido antisemita y neonazi en la plataforma, lo que llevó a algunos anunciantes a abandonar el sitio.

En los últimos días, X se vio obligado a bloquear algunas búsquedas de Swift debido a que circularon en línea imágenes pornográficas falsas de la cantante.

Los intentos de buscar su nombre sin comillas en el sitio el lunes dieron como resultado un mensaje de error y un mensaje para que los usuarios volvieran a intentar su búsqueda, que agregaba: “No te preocupes, no es tu culpa”.

Sin embargo, poner comillas alrededor de su nombre permitió que aparecieran publicaciones que mencionan su nombre.

Imágenes falsas sexualmente explícitas y abusivas de Swift comenzaron a circular ampliamente la semana pasada en X, convirtiéndola en la víctima más famosa de un flagelo que las plataformas tecnológicas y los grupos anti-abuso han luchado por solucionar.

TE PUEDE INTERESAR: Estafas con deepfakes, una amenaza creciente en México

“Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema”, dijo Benarroch, jefe de operaciones comerciales de X, en un comunicado.

A diferencia de las imágenes manipuladas más convencionales que han preocupado a las celebridades en el pasado, las imágenes de Swift parecen haber sido creadas utilizando un generador de imágenes de inteligencia artificial que puede crear instantáneamente nuevas imágenes a partir de un mensaje escrito.

Después de que las imágenes comenzaron a difundirse en línea, la devota base de fans de “Swifties” de la cantante se movilizó rápidamente, lanzando una contraofensiva contra X y un hashtag #ProtectTaylorSwift para inundarlo con imágenes más positivas de la estrella del pop.

Algunos dijeron que estaban denunciando cuentas que compartían los deepfakes. El grupo de detección de deepfake Reality Defender dijo que rastreó una avalancha de material pornográfico no consensuado que representa a Swift, particularmente en X, antes conocido como Twitter.

Algunas imágenes también llegaron a Facebook, propiedad de Meta, y a otras plataformas de redes sociales. Los investigadores encontraron al menos un par de docenas de imágenes únicas generadas por IA.

TE PUEDE INTERESAR: Caso del deep fake explícito de Taylor Swift refleja los peligros en los que se encuentran las mujeres con la IA

Los más compartidos estaban relacionados con el fútbol y mostraban a Swift pintada o ensangrentada, que la objetivaba y, en algunos casos, inflige un daño violento a dicha ‘personalidad deepfake’.

Las imágenes de Swift surgieron por primera vez de una campaña en curso (llamada Lewd DALL-E) que comenzó el año pasado en plataformas marginales para producir imágenes sexualmente explícitas de mujeres famosas generadas por IA, dijo Ben Decker del grupo de inteligencia de amenazas.

Una de las imágenes de Swift que se volvió viral la semana pasada apareció en línea el 6 de enero, dijo.

La mayoría de los generadores comerciales de imágenes de IA tienen salvaguardas para evitar el abuso, pero los comentaristas en foros de mensajes anónimos discuten tácticas sobre cómo eludir la moderación, especialmente en la herramienta de conversión de texto a imagen de Microsoft Designer, dijo Decker.

“Es parte de una relación de confrontación de larga data entre trolls y plataformas”, dijo Decker.

TE PUEDE INTERESAR: Van contra ‘deepfakes’, plantean hasta 12 años de cárcel por crear contenido íntimo falso

La decisión de X de reducir las búsquedas de Swift es probablemente una medida provisional. Los investigadores han dicho que la cantidad de deepfakes explícitos ha aumentado en los últimos años, a medida que la tecnología utilizada para producir tales imágenes se ha vuelto más accesible y fácil de usar.

En 2019, un informe publicado por la empresa de inteligencia artificial DeepTrace Labs mostró que estas imágenes estaban abrumadoramente utilizadas como arma contra las mujeres.

La mayoría de las víctimas, dijo, eran actores de Hollywood y cantantes de K-pop surcoreanos. En la Unión Europea, distintas leyes nuevas incluyen disposiciones para los deepfakes.

La plataforma se ha convertido en un espacio crucial para la difusión de información, conversaciones en tiempo real y participación en discusiones globales. Su capacidad para conectarse con audiencias diversas y ofrecer un espacio para el intercambio de ideas ha contribuido a su continua expansión y relevancia.

Con información de Merca2.0