Engaños con tecnología de punta: Las fake news en la era de la IA

Hace unos días se hicieron virales las fotografías de una gran fiesta a la que asistieron exclusivamente hombres que tienen un parecido espeluznante con el actor Tom Cruise. El protagonista de la saga “Misión Imposible” se tomó selfies con todos sus dobles, invitando a los internautas a distinguir al original.

Sin embargo, una inspección más detenida de cada imagen reveló miradas perdidas –producto tal vez, del alcohol–, sonrisas en formas antinaturales, dientes de más y zonas donde los contornos de las figuras, humanas o no, se desdibujan en una masa uniforme de color.

La realidad es que se trató del más reciente engaño viral producido por imágenes creadas con inteligencia artificial, una herramienta que en su capacidad para ayudar en muchas tareas profesionales preocupa por su potencial uso como productora de noticias falsas, estafas y hasta crímenes.

Un engaño divertido ¿e inofensivo?

Quizá el ejemplo más popular de este tipo de noticia falsa fue cuando vimos al Papa Francisco I vistiendo una elegante chaqueta invernal tipo Balenciaga, que generó titulares en cientos de medios digitales e impresos halagando el “buen estilo” del Santo Padre, antes de descubrir la realidad.

Una vez que esto se dio a conocer la tendencia continuó, ya más como un meme, de vestir al líder de la Iglesia Católica en los atuendos más irreverentes y en las situaciones menos comunes, hasta convertirlo en el Vicario del Hip-Hop.

Otro ejemplo que fue muy popular en TikTok hace unos meses fueron los montajes de voz en los que parece que estamos escuchando una conversación entre los presidentes de Estados Unidos Barack Obama, Donald Trump y Joe Biden jugar Minecraft o algún otro videojuego de moda.

Estos clips basan toda su propuesta en el audio, pues los tres hombres aparecen solo en fotografías con audífonos superpuestos, acompañadas por un gameplay usualmente no relacionado con lo que están diciendo que hacen. Estos detalles, además del simple hecho de que son contrincantes políticos, convierten dichos videos en algo más disfrutable, pues desde el inicio se le reconoce como algo falso diseñado como entretenimiento.

Sin embargo, la fidelidad del audio editado es tal que resulta casi imposible distinguir que no son ellos quienes hablan, factor que, sumado a lo fácil que es engañar a nuestros ojos con imágenes como las del Papa Balenciaga, plantean cuestionamientos sobre lo que podría ocurrir cuando todo este poder se conjunte para crear un producto diseñado con la intención de engañar para algún fin nefasto.

Regulaciones en puerta

Así como existen ejemplos divertidos de lo que es posible con esta tecnología también ya hemos tenido malas experiencias con su capacidad para crear sobre todo imágenes realistas, como cuando hace poco se viralizó el “arresto” del ex-presidente Donald Trump y también un falso ataque al Pentágono.

En ambos casos se desmintió el asunto rápidamente, pero incluso así muchos usuarios en redes sociales compartieron las “fotografías” y expresaron su reacción al respecto. Sin una adecuada regulación de estas tecnologías la seguridad personal y global puede estar en juego.

Si bien la tecnología que hace posible herramientas como Dall-e, Midjourney, Stable Diffusion y ChatGPT existe desde hace años tiene muy poco que empezó a considerarse seriamente una legislación al respecto de su desarrollo y uso y solo en los últimos dos años es que diversas naciones han empezado a desarrollar proyectos al respecto.

TE PUEDE INTERESAR: Fallece el escritor Cormac McCarthy, ganador del Pulitzer y referente en la literatura norteña de México

Ya en 2017 el magnate Elon Musk advirtió que era necesario comenzar a trabajar en implementar regulaciones, pues habitualmente, argumentó, estas solo llegan hasta que ya sucedieron suficientes percances para tomar medidas.

En 2021 la Comisión Europea propuso un marco regulatorio piramidal para este efecto, el cual considera los riesgos desde “mínimo” hasta “inaceptable”, en el caso de todos aquellos sistemas de inteligencia artificial con el potencial amenazar la seguridad y derechos de las personas, mismos que serán prohibidos hasta que pasen los filtros necesarios para ser considerados seguros.

Esta recomendación, a la cual se le han sumado otras variables y propuestas, se espera que comience a ser aplicada al menos hasta 2024. Otras naciones han seguido pasos similares, en la mayoría de los casos siguen a la espera de ser aprobadas y en otras han recibido críticas por su vaguedad y desconocimiento de la forma en que operan estos sistemas.

En México no hay regulación alguna y la Cámara de Senadores apenas comenzó este año a plantear investigaciones al respecto.