La difícil ruta legal para defender a víctimas de IA

A pesar de que México castiga la violencia digital, no hay forma de proceder legalmente contra personas extranjeras o con cuentas anónimas en la red social X, que utilizaron al agente de inteligencia artificial (IA) Grok para crear imágenes hipersexualizadas de mujeres sin su consentimiento.

El Código Penal Federal establece de tres a seis años de prisión y una multa a quienes “elaboren imágenes, audios o videos con contenido íntimo sexual de una persona sin su autorización”; sin embargo, el anonimato en la red social deja a las víctimas en manos de las reglas de X, que se excusa con el lema de “libertad de expresión y cero censura”.

TE PUEDE INTERESAR: Bodas con personajes ficticios e IA, cuando se da el ‘sí quiero’ virtual en Japón

De hecho, la plataforma del magnate Elon Musk sí cuenta con una “política relativa a la desnudez no consensuada”, aunque su IA ha generado miles de fotografías con parcial desnudez de usuarias, incluso de niños de varios países, incluido México, donde desde 2021 la Ley Olimpia sanciona la violencia digital.

“La Ley Olimpia sí funciona y se tiene en México, el problema es que cuando hablamos de plataformas autorreguladas y sus desarrolladores principales están en Estados Unidos, el litigio tendría que ser en ese país”, subraya Carlos Piña García, doctor en Ciencias de la Computación por la Universidad de Essex.

En un monitoreo, el medio de comunicación El Universal constató que cada minuto entre 30 y 60 usuarios pidieron a Grok colocar un bikini a mujeres. Pero este número podría ser mayor ya que no hay forma de contabilizar las consultas privadas que cada usuario hizo a esta herramienta desde sus chats.

Además, hay usuarios que emplearon otros comandos y usan palabras como: lencería, ropa interior, remove, quítale la ropa y llénala de líquido blanco, instrucciones que triplicarían la cifra de afectadas. Estimaciones también refieren que hubo hasta 6 mil fotografías modificadas por hora, es decir, más de un millón por semana.

La abogada y defensora digital Valeria Mondragón Martínez explica que la Ley Olimpia no sólo castiga la elaboración y difusión de fotos reales, sino que también sanciona deep fakes y montajes con IA en legislaciones locales, como en la Ciudad de México, que incluye la palabra “contenidos reales o simulados”.

TE PUEDE INTERESAR: La IA se está apoderando de todos los medios de comunicación

Sin embargo, el tipo penal no está homologado en todo el país, por lo que algunas entidades como Chihuahua no han tipificado el uso de IA para formar un marco punitivo respecto a esta violencia digital, lo que deja sin protección a las víctimas.

Mondragón Martínez, quien fue representante legal de las víctimas de Diego “N” —un estudiante del Instituto Politécnico Nacional que almacenaba y distribuía más de 160 mil fotos editadas de sus compañeras— subraya que iniciar una denuncia es un “proceso complejo” en el que las plataformas se deslindan bajo el argumento de que la responsabilidad recae en los usuarios.

Lamenta que ante estas agresiones cientos de mujeres hayan optado por no publicar sus fotografías en redes sociales, lo que considera “muy fuerte y valiente” al vivir en una era digital. Y “mientras el sistema sea patriarcal, es muy triste que se tenga que llegar a esto”, agrega.

Carlos Piña García reitera que no hay manera de imputar, desde el punto de vista jurídico mexicano, la responsabilidad a la plataforma, tras recordar que “Elon Musk [argumentó] que la responsabilidad del mal uso de este modelo recae única y exclusivamente en los usuarios”.

TE PUEDE INTERESAR: Hay una solución fácil para el problema de la pornografía con IA en opinión de Riana Pfefferkorn

Ante las quejas en redes sociales se hicieron ajustes y candados para evitar contenido simulado que vulnere la integridad de la mujer, pero los usuarios hallaron la formas de romperlos, por lo que no hay una forma de acabarlo, señala el experto.

“Hay modelos que ni siquiera son Grok, que pueden estar generando las imágenes y las pueden estar compartiendo dentro de una plataforma como Facebook, Instagram o TikTok. Nos vamos a enfrentar a otros modelos de lenguaje, esto apenas está comenzando”, lamenta.

Respecto a la denuncia, explica que se requieren pruebas periciales informáticas, las cuales son costosas y si no se entregan a tiempo se podría cerrar el caso y quedar impune.

“Los usuarios pueden remover el contenido, y una captura de pantalla no es prueba suficiente porque no tiene un peritaje digital o un peritaje informático para decir alguien generó la imagen o dio el prompt (instrucción) para generar esa foto (...) o que tiene posesión de esa imagen.

TE PUEDE INTERESAR: Grok reconoce fallas de seguridad tras difusión de imágenes modificadas de menores en X

“No basta con una captura de pantalla, tendría que poner el URL, algún juez tendría que solicitar a la compañía X que confirme si el URL sí contenía una imagen. Esto, teniendo en consideración que la persona radica en México, porque si es de otro país la denuncia se cae”, refiere.

Comenta que X sólo notifica al usuario que la ley mexicana hizo una solicitud de información pero no la entrega, por lo tanto las pruebas se quedan inconclusas.

María Elena Esparza Guevara, fundadora de la asociación civil Ola Violeta, asegura que la violencia digital y la regulación de la IA son desafíos centrales en materia de género en 2026.

“El capitalismo y el machismo suelen ir de la mano, y una vez más observamos cómo se pone —desde una empresa sin ningún marco ético y sin responsabilidad— una tecnología a disposición de usuarios para que sea utilizada como ellos quieran. Musk se burló de esto y lejos de contribuir a combatir la violencia digital de género, lo que hace es ridiculizarla, minimizarla y entra a un proceso de normalización”, advierte.

TE PUEDE INTERESAR: Malasia bloquea la inteligencia artificial Grok de Elon Musk por imágenes falsas

Agrega que se deben encontrar mecanismos para exigir a las empresas que se responsabilicen. Mientras, los gobiernos deben adecuar el marco jurídico para que haya sanciones efectivas incluso cuando se hagan desde el anonimato.

“Si le pasa a una amiga, colega, hermana, familiar, a alguien de nuestro entorno significativo es muy importante primero reforzarle la idea de que no es su culpa, para encontrar maneras de aliviar la vergüenza que no sea retirarse de redes, porque ella no es la que está mal”, aconseja.

GROK RECONOCE VIOLENCIA; X RECHAZA REUNIÓN CON CITLALLI HERNÁNDEZ

El 30 de diciembre de 2025, Grok reconoció haber generado y publicado una imagen de dos menores “en ropa interior sexy y volteadas”, ambas con una edad aproximada de entre 12 y 14 años, por lo que procedió a eliminar dicho contenido bajo la premisa de que las leyes estadounidenses tienen “sanciones severas” para este tipo de conductas.

El pasado 2 de enero aceptó “fallas en las medidas de seguridad” que favorecían la creación de contenido que violaba leyes. En una publicación admitió que tras haber detectado estas irregularidades se procedió de inmediato a solucionar fallas.

TE PUEDE INTERESAR: Reino Unido va tras X por las imágenes sexualizadas de Grok

La IA de Musk sostuvo que todo material de abuso sexual infantil es ilegal y está prohibido, por lo que xAI se comprometió a prevenir este tipo de problema, y sobre cuántos usuarios recurren a esta herramienta para desnudar personas, asegura que son datos internos que no pueden divulgarse por privacidad.

Musk fue víctima de esta violencia digital; en un principio lo tomó con humor, pues describió la fotografía alterada acompañada como “perfecta”. Sin embargo, el 3 de enero garantizó que “cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si hubiera subido contenido ilegal”.

El 6 de enero, la titular de la Secretaría de las Mujeres, Citlalli Hernández Mora, informó que pidió un encuentro con plataformas digitales, pero X se negó al señalar que no cuentan con oficinas en México.

“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de responsabilidad ética y legal para con sus usuarias en territorio mexicano”, dijo.

TE PUEDE INTERESAR: ¿A qué trabajadores perjudicará más la IA? ¿A los jóvenes o a los experimentados?

TESTIMONIO

Karina Velasco inició 2026 con un sabor amargo: como en una distopía de ciencia ficción, más de una centena de hombres recurrió a Grok para alterar su imagen, colocarle lencería y desvestirla digitalmente.

“Me sentí muy indignada. Están lastimando tu dignidad como mujer, porque lo hacen en sentido de humillación o degradación hacia nosotras”, expresa la periodista jalisciense de 36 años, quien alista una denuncia ante la fiscalía del estado contra usuarios específicos y busca proceder en contra de “por qué no puedo denunciar a los más de 100 sujetos al mismo tiempo”.

Velasco señala que la red social tiene que hacerse responsable por todos los usuarios que han empleado esta herramienta para vulnerar mujeres. Y agrega que X borró apenas un par de imágenes, pues el resto “no rompía ninguna regla”, según lo que le respondieron.

Cuando hizo pública su intención de denunciar penalmente, algunos usuarios con cuentas falsas la insultaron y, como mofa, hicieron llamados a seguir generando este tipo de imágenes explícitas sobre ella. “Si no quieres que te ocurra, entonces no hagas pública tu imagen”, le reprocharon los agresores.

TE PUEDE INTERESAR: Proponen castigar con hasta 8 años de prisión la manipulación sexual de imágenes con IA en México

“No es que sólo hayan pedido que mi foto se viera en bikini, sino que hasta pedían que mi imagen saliera con líquido blanco y otro tipo cosas que (...) son una falta de respeto”, condena.

Para Karina, los hombres recurren a esto para “ejercer control” sobre el cuerpo femenino, ya que “históricamente se han sentido dueños de nosotras, de nuestras decisiones, del rumbo de nuestra vida”.

Considera que “la sociedad se tiene que reeducar para evitar que sigamos sintiendo miedo o que nos sintamos cohibidas de expresarnos libremente en redes sociales. Es importante que las mujeres sigamos conquistando espacios y luchando por que en la sociedad se respete nuestro derecho a decidir sobre nuestros propios cuerpos, nuestra autonomía y nuestra propia vida”, afirma.

Señala que siempre habrá varones dispuestos a revictimizarla; sin embargo, sostiene que esto es sólo una forma que tienen los hombres para pretender deslindarse de las violencias que cometen.

“Es muy peligroso que se esté normalizando este tipo de acciones y que Musk, sobre todo, en un principio se haya burlado de esta situación en vez de poner un alto”, advierte.

“No sólo lo haré por mí, también por las niñas y las víctimas de los pederastas que están usando Grok para recrear imágenes pedófilas”, agrega la periodista.

TE PUEDE INTERESAR: Pide uno de los creadores de la IA ponerle freno ante falta de regulaciones

Insiste en que esta violencia digital, además de cosificar, busca acallar las voces de las mujeres y excluirlas de los espacios virtuales para disminuir sus opiniones en un contexto “en el que la ultraderecha avanza cada vez más”.

“Elon Musk tiene la opción de configurar su IA para evitar que genere este tipo de imágenes y sin embargo prefiere que los hombres más cerdos del planeta sigan recreando sus aberrantes parafilias. Merecen mínimo ir a prisión”, concluye.