Propone hasta 8 años de cárcel por crear deepfakes sexuales con inteligencia artificial
COMPARTIR
La iniciativa busca sancionar la creación y difusión de imágenes sexuales falsas generadas con inteligencia artificial para proteger la intimidad
La diputada de Morena, Irma Juan Carlos, presentó una iniciativa en la Cámara de Diputados para sancionar con hasta ocho años de prisión a quien altere o manipule fotografías de terceros con fines sexuales mediante herramientas de inteligencia artificial.
La propuesta plantea adicionar un párrafo al artículo 199 Septies del Código Penal Federal, con el objetivo de castigar con penas de cuatro a ocho años de cárcel y multas de 400 a mil días a quienes utilicen IA para generar contenidos conocidos como deepfakes y vulnerar la intimidad sexual de otra persona.
El proyecto, enviado a la Comisión de Justicia, también contempla sanciones para quienes manipulen imágenes para hacerlas parecer desnudas o involucradas en actividades sexuales explícitas, así como para quienes las distribuyan, comercialicen o almacenen con conocimiento del hecho.
LEGISLACIÓN ACTUAL NO CONTEMPLA NUEVAS FORMAS DE AGRESIÓN DIGITAL
La legisladora argumentó que, aunque México ha avanzado en el combate a la violencia digital con medidas como la llamada Ley Olimpia, las disposiciones vigentes no abarcan todas las formas de agresión facilitadas por tecnologías emergentes.
Irma Juan Carlos busca incluir la manipulación de imágenes con fines sexuales como delito, equiparando su penalidad con sanciones ya existentes para quienes soliciten o distribuyan contenido sexual de menores de edad o personas vulnerables.
Según la diputada, la reforma pretende que el marco legal responda a las realidades actuales y envíe “un mensaje claro de rechazo” a estas prácticas, con el fin de proporcionar justicia a las víctimas.
Asimismo, señaló que en los últimos años se ha registrado un incremento en el uso indebido de tecnologías digitales para afectar la integridad, privacidad y dignidad de las personas, particularmente de mujeres, niñas, niños y adolescentes.
“La proliferación de casos de manipulación de imágenes personales mediante inteligencia artificial o herramientas digitales pone en evidencia una grave laguna jurídica que permite que estas conductas permanezcan impunes”, expuso la legisladora.
QUÉ SON LOS DEEPFAKES Y POR QUÉ GENERAN PREOCUPACIÓN
Los deepfakes son imágenes, videos o audios generados o manipulados mediante inteligencia artificial con apariencia de realidad. Aunque originalmente se utilizaron con fines de entretenimiento o efectos visuales, su uso se ha extendido para crear contenidos falsos que parecen reales, incluidos materiales de carácter sexual.
Aunque estos contenidos sean artificiales, sus efectos pueden ser reales para las víctimas, incluyendo daño emocional, estigmatización social, extorsión y normalización de la violencia.
ESTUDIO INTERNACIONAL ADVIERTE SOBRE IMPACTO DE LAS DEEPFAKES EN MENORES
Un estudio internacional encabezado por UNICEF, junto con ECPAT e INTERPOL, identificó que al menos 1.2 millones de niñas y niños en 11 países, entre ellos México, reportaron haber sido afectados por manipulaciones de sus imágenes mediante deepfakes con contenido sexual explícito durante el último año.
En algunos contextos, este número equivale a uno de cada 25 menores en un salón de clases típico.
RIESGOS ASOCIADOS AL USO DE LA INTELIGENCIA ARTIFICIAL
El organismo internacional advirtió que las tecnologías de inteligencia artificial han facilitado que personas sin conocimientos técnicos generen contenidos falsos con gran realismo. Entre los desarrollos señalados se encuentran:
Aumento en la producción y difusión de material de abuso sexual infantil asistido por IA.
Uso de herramientas de IA por parte de adolescentes para crear imágenes sexuales falsas de sus pares.
Dificultad para distinguir entre víctimas en riesgo físico inmediato y aquellas afectadas por contenidos generados digitalmente.
IMPACTOS DOCUMENTADOS EN NIÑAS, NIÑOS Y ADOLESCENTES
El análisis también señala efectos persistentes en la infancia y adolescencia, incluso cuando no se utilizan imágenes reales de las víctimas. Entre las consecuencias reportadas se encuentran aislamiento emocional, daño psicológico, estigma social, afectaciones escolares y personales, así como extorsión o amenazas derivadas de la creación de contenido falso.
Además, encuestas citadas en el estudio indican que hasta dos terceras partes de niñas y niños expresaron preocupación ante la posibilidad de que la inteligencia artificial sea utilizada para falsificar imágenes o videos suyos con fines sexuales.
