Pornografía Infantil generada por la IA... ¿Qué pasa si obligan a un robot a generar contenidos ilícitos?

La generación de imágenes con inteligencia artificial (IA) ha explotado en los últimos meses gracias la aparición de herramientas cada vez más sencillas de utilizar pero capaces de crear contenidos indistinguibles de uno real.

Desde retratos hiperrealistas a diseños que pueden adaptar el estilo de cualquier artista a situaciones inverosímiles.

TE PUEDE INTERESAR: Las estafas más comunes con inteligencia artificial, según ChatGPT

Estos modelos son conjuntos de algoritmos de aprendizaje automático entrenados con millones de imágenes, de los que aprenden patrones para generar contenidos nuevos.

Algunos están siendo desarrollados en código abierto, lo que permite a cualquier persona con un buen equipo informático descargarlos gratuitamente y modificarlos a voluntad.

Esto abre por completo el abanico de posibilidades de estas herramientas, que pueden llevar a cabo desde las creaciones más imaginativas e inesperadas hasta el lado más oscuro de la humanidad.

Según han alertado varios investigadores y expertos, los pedófilos están utilizando estas IA de licencia libre para generar nueva pornografía infantil y compartiendo con otros ese contenido.

PEDÓFILOS APROVECHAN LAS PLATAFORMAS “LIBRES” PARA INTERCAMBIAR CONTENIDO GROTESCO

Según señala una investigación de la BBC, algunos pedófilos utilizan la IA para la creación de contenido “realista” de abuso sexual infantil. Además de esto, logran el acceso a las imágenes pagando subscripciones a cuentas en sitios populares de intercambio de contenido como las plataformas Patreon y Pixiv.

Estos sitio online permiten a los “generadores de imágenes digitales” vender sus productos a cambio de una comisión por cambio de divisa del 2.5 por ciento. Aunque la empresa Patreon declaró que tiene una política de “cero tolerancia” contra este tipo de imágenes en su sitio, la realidad es que mucha pornografía electrónica es distribuida en esta página.

¿QUÉ PROGRAMA UTILIZAN LOS “COMERCIANTES” DE PORNOGRAFÍA INFANTIL?

Tras la ardua investigación, se detalló que los productores de las imágenes de abuso están utilizando un programa de IA llamado Stable Diffusion, cuya función original era para generar imágenes para arte o diseño gráfico.

Este modelo de aprendizaje automático fue desarrollado por Runway y LMU Múnich con la intención de crear ilustraciones digitales de alta calidad a partir de descripciones en lenguaje natural o estímulos.

La IA posibilita a las computadoras realizar tareas que típicamente requieren inteligencia humana. Asimismo, este software permite a los usuarios describir con mucho lujo de detalle lo que necesitan. Los usuarios deben utilizar palabras claves para que el programa luego genere esa imagen.

Sin embargo se le ha dado un muy mal uso a esta herramienta, pues la BBC encontró que actualmente está creando imágenes realistas sobre abuso sexual infantil, incluyendo la violación de bebés y menores de edad.

¿QUÉ PODEMOS HACER AL RESPECTO?: DENUNCIAR

Lo que la BBC explicó en su investigación es que, de encontrar este tipo de perfiles en ambos sitios de compra y venta de contenido lo mejor es reportarlo directamente.

Las plataformas de Pixiv y Patreon, que están siendo utilizadas para el comercio ilegal de este contenido, han estado suspendiendo y cancelando definitivamente estos perfiles una vez que un usuario, o más, envían la queja correspondiente

¿EXISTEN LEYES QUE CASTIGUEN LA GENERACIÓN DE PORNOGRAFÍA INFANTIL CON INTELIGENCIA ARTIFICIAL?

La mayoría de los países cuentan con leyes y regulaciones que penalizan la producción, distribución y posesión de pornografía infantil en general, independientemente de si ha sido generada o difundida mediante el uso de inteligencia artificial o cualquier otra tecnología.

Las leyes relacionadas con la pornografía infantil varían en cada jurisdicción, pero en general, se considera un delito grave debido a la explotación y el abuso sexual que implica la participación de menores de edad. Estos delitos suelen estar tipificados y penados por leyes específicas que buscan proteger a los niños y perseguir a quienes participan en actividades relacionadas con la pornografía infantil.

A medida que la tecnología avanza y surgen nuevas formas de generación y distribución de contenido, es posible que las leyes existentes se actualicen para abordar específicamente el uso de inteligencia artificial en la creación de material pornográfico infantil.