Guía de supervivencia digital: Hablemos de deepfakes y otros engaños
COMPARTIR
Los deepfakes forman parte de una transformación en el consumo de información y percepción humana, donde la veracidad pierde importancia frente a la inmediatez
En aproximadamente una década empezamos a convivir con un fenómeno digital que cada día se vuelve más complejo por su nivel de eficiencia técnica y las limitaciones de la percepción humana frente a contenidos deepfakes. El origen de los deepfakes se remonta al 2017, cuando un usuario de la plataforma Reddit, bajo el seudónimo “deepfakes”, comenzó a publicar videos manipulados mediante técnicas de deep learning (inteligencia artificial) que sustituían rostros de celebridades en contenidos audiovisuales fuera de contexto. Este usuario pudo crear estos videos por el desarrollo de redes neuronales como las GANs (Generative Adversarial Networks), introducidas en 2014 por Ian Goodfellow. Esta tecnología permite generar imágenes y videos sintéticos altamente realistas.
La popularidad de estos videos hizo que, a partir de 2018, los deepfakes se expandieran rápidamente debido a la disponibilidad de software accesible y al crecimiento de plataformas digitales, pasando de ser una práctica experimental a un fenómeno global que pronto se vinculó a la desinformación, el entretenimiento y riesgos sociales y políticos.
De acuerdo con Bray, Johnson y Kleinberg (2023): “Los deepfakes son entidades creadas computacionalmente que representan falsamente la realidad. Pueden adoptar modalidades de imagen, video y audio, y representan una amenaza para muchos sistemas y sociedades, constituyendo un tema de interés para diversos aspectos de la ciberseguridad”. Estos investigadores de University College London y Tilburg University realizaron el estudio “Prueba de la capacidad humana para detectar imágenes deepfake de rostros humanos”. Aplicaron una encuesta en línea a 280 participantes, quienes analizaron 20 imágenes y señalaron si eran falsas o reales, su confianza y razonamiento.
Los resultados mostraron una precisión promedio de 62 por ciento, cercana al azar, sin mejoras significativas con intervenciones; es decir, de 10 deepfakes sólo seis los identificaban como falsos y cuatro como verdaderos, e identificaron con una precisión inferior al 50 por ciento en una de cada cinco imágenes. Además, los participantes mostraron alta confianza en sus respuestas, incluso cuando se equivocaban, evidenciando limitaciones en la percepción humana para detectarlos.
Lo grave de los deepfakes es que están insertos en un ecosistema comunicativo marcado por la infodemia y la posverdad (verdades o realidades manipuladas), donde la sobreabundancia de información y el predominio de emociones sobre hechos verificables dificultan distinguir lo verdadero de lo falso (López Aguirre et al., 2021). Un concepto central es el liar’s dividend, que permite negar hechos reales como falsificaciones, erosionando la confianza en la evidencia audiovisual. Así, no sólo engañan, sino que generan incertidumbre permanente y se difunden rápidamente en redes sociodigitales sin verificación. Los investigadores advierten otro riesgo: se puede generar de forma automatizada un deepfake cada 2 segundos.
Actualmente, los deepfakes forman parte de una transformación en el consumo de información y percepción humana, donde la veracidad pierde importancia frente a la inmediatez. Cabe destacar que representan un riesgo para la vida democrática al debilitar la confianza en la evidencia visual (Chesney y Citron, 2019) y por su capacidad de expansión, pues tan sólo en 2023 circulaban cerca de 500 mil videos en redes (Westerlund, 2019).
En contextos políticos y electorales, pueden influir en percepciones y afectar la legitimidad institucional (Vaccari y Chadwick, 2020). A nivel individual, provocan daños psicológicos y reputacionales, especialmente en usos no consentidos o creación de contenido falso en situaciones sexuales o incitando a la pornografía (Citron, 2019). Ante ello, los autores recomiendan de forma urgente conocer cómo detectar o dudar de posibles deepfakes:
1) Revisar la fuente original: verificar quién publica el contenido y si proviene de un medio o cuenta confiable (López Aguirre et al., 2021).
2) Contrastar con otras fuentes: buscar si la misma información aparece en medios reconocidos o es verificable.
3) Analizar el contexto: evaluar fecha, lugar y situación en la que se presenta el contenido para identificar posibles manipulaciones.
4) Observar detalles visuales: detectar inconsistencias en movimientos faciales, parpadeo, sincronización labial, iluminación o sombras de videos con seres vivos o espacio.
5) Examinar el audio: identificar cortes, entonaciones artificiales o desajustes entre voz y gestos.
6) Evaluar la calidad del contenido: imágenes borrosas, distorsiones o artefactos digitales.
7) Identificar carga emocional: contenidos que provocan sorpresa, miedo o indignación suelen estar diseñados para viralizarse sin verificación.
8) Cuestionar antes de compartir: detener la difusión, comentar que es falso y reflexionar sobre la veracidad del contenido.
9) Apoyarse en herramientas digitales: utilizar plataformas de verificación o análisis de imágenes y videos cuando haya dudas.
Dudar y verificar son los grandes retos de la alfabetización digital; conocer hace que tomemos conciencia de una realidad distorsionada por contenidos y que nos permita tomar mejores decisiones.
Facebook, instagram, TikTok, Youtube y X:
@Dialogosdigitales
@ROMCONEICC
