¿Qué tan efectivo es el control de contenido de IA del Deepfaked Dead Show de TikTok?

En el artículo “TikTok’s Deepfaked Dead Show AI Content Control Has Long Way to Go” de Barinka publicado en Bloomberg, analiza este tipo de contenidos publicados en la red social.

Barinka, inicia haciendo una narración en la que detalla que “estaba navegando por TikTok esta semana cuando apareció un video que me hizo reflexionar”, en el que aparece una menos que hablaba en español y describe cómo su cuidador “descargó su frustración sobre mí, golpeándome y estrellándome la cabeza contra el asiento del automóvil sin piedad”. La niña dice llamarse Alissa Beth Guernsey, sin embargo, en realidad, continúa la especialista en temas de tecnología, que en realidad no podría ser Guernsey, debido a que falleció a como consecuencia de sus heridas en 2009. Barinka precisa que tuvo la sensación de que este vídeo se creó usando la IA.

TE PUEDE INTERESAR: Europa investigará a TikTok y YouTube por protección de menores

Barinka, explica que las publicaciones como la que relata se denominan “resurrecciones digitales” en las que reviven a las personas con la “ayuda de nuevas herramientas de inteligencia artificial”.

En opinión de la especialista, este tipo de contenido es “especialmente cuando hay niños muertos involucrados, estos videos son impactantes y van en contra de las políticas de TikTok, que prohíben las representaciones de ciudadanos privados y menores creadas por IA, así como el contenido “espantoso” o “perturbador” en la popular aplicación de videos. Desafortunadamente, también me resultan bastante familiares”.

Barinka, hace regencia a otro artículo que ella escribió en el que indica que “las resurrecciones digitales generadas por IA que se están volviendo virales en TikTok de ByteDance Ltd.: representaciones ultrafalsas de personas que murieron en situaciones trágicas como el ataque terrorista del 7 de octubre en Israel” y añade diciendo que “los videos enviados por Bloomberg a TikTok para comentarios fueron eliminados de inmediato”.

Barinka, señala que un portavoz de la red social aseguró que la compañía va a continuar realizando actualizaciones en cuanto a sus políticas, así como en sus esfuerzos para lograr detectar de este tipo de contenidos, mientras TikTok se asocia con expertos con el propósito de “intentar educar a los usuarios sobre las publicaciones generadas por IA”, precisa en su artículo la especialista en temas de tecnología.

Por otra parte, Barinka explica que la semana pasada encontró docenas y docenas de este tipo de contenido que aún estaban activos en la red social, y que además pudo darse cuenta de que existen “cuentas completas con decenas de miles de seguidores publicando más. Algunas publicaciones incluso tienen una etiqueta colocada por el creador que las identifica como IA, lo que le da a TikTok y su equipo de moderación una señal clara de que podría ser un deepfake, pero estos videos aún están disponibles”.

Así mismo, Barinka resalta que en lo que refiere a “las políticas de TikTok sobre deepfakes de personas públicas”, estas tienen “más libertad”, de a cuerdo a “sus pautas comunitarias”, y que solo implantaron restricciones “sobre patrocinios, declaraciones engañosas sobre cuestiones políticas o financieras, o si la persona es objeto de abuso”, y precisa, “veremos cómo la empresa define esos usos prohibidos a través de sus acciones de moderación”.

Barinka considera que este tipo de contenido que se conoce como deepfake toma relevancia en cuanto se acerca “la temporada electoral”, que es “cuando las campañas de desinformación e influencia tienden a proliferar”.

En este sentido, Barinka hace una referencia en su artículo sobre el uso de un audio falso con la voz del presidente estadounidense Joe Biden en una campaña de llamadas automáticas en el que se presume fue realizado con inteligencia artificial. Los expertos en desinformación consideraron que este mensaje manipulado es el “más alarmante que hayan visto hasta ahora, y todavía faltan más de nueve meses para las elecciones presidenciales de Estados Unidos”.

Con información de Bloomberg.