¿Cómo un anuncio en Instagram de una joyería provoca solicitudes de sexo a una niña de 5 años?

NUEVA YORK- Cuando una fabricante de joyas para niños empezó a anunciarse en Instagram, promocionaba fotos de una niña de 5 años con un colgante brillante entre usuarios interesados en la paternidad, los niños, el ballet y otros temas que, según Meta, sobre todo atraen a las mujeres.

Pero cuando la vendedora obtuvo los resultados automatizados de su campaña publicitaria de Instagram, notó que había sucedido lo opuesto: los anuncios habían sido vistos casi únicamente por hombres adultos.

TE PUEDE INTERESAR: Informe del Stanford Internet Observatory insta a solucionar CyberTipline, el sistema para denunciar la explotación infantil en línea

Perpleja y consternada, la vendedora contactó a The New York Times, que en años recientes ha publicado varios artículos sobre el abuso de menores en plataformas de redes sociales. En febrero, el Times investigó cuentas de Instagram gestionadas por padres para sus hijas pequeñas y el oscuro submundo de los hombres que han sexualizado las interacciones con esas cuentas.

Con las fotos de los anuncios de joyería en la mano, el Times se propuso entender por qué atraían a un público no deseado. Los anuncios de prueba realizados por el Times utilizando las mismas fotos sin texto no solo replicaron la experiencia de la comerciante: atrajeron la atención de delincuentes sexuales declarados culpables y otros hombres cuyas cuentas indicaban un interés sexual por los niños o que escribían mensajes sexuales.

El Times abrió dos cuentas de Instagram y promovió publicaciones que mostraban a la niña de 5 años, sin que su rostro viera hacia la cámara, luciendo una camiseta de tirantes y el colgante. Otras publicaciones mostraban la ropa y las joyas sin la modelo infantil, o con un cuadro negro que la ocultaba. Todos los anuncios de pago se promocionaban entre personas interesadas en temas como la infancia, el baile y las animadoras, que según las herramientas de audiencia de Meta eran mujeres en su mayoría.

Además de llegar a una proporción muy elevada de hombres, los anuncios obtuvieron respuestas directas de decenas de usuarios de Instagram, incluidas llamadas telefónicas de dos hombres acusados de cometer delitos sexuales, ofertas para pagarle a la niña por actos sexuales y muestras de afecto.

Los resultados sugieren que los algoritmos de la plataforma tienen un rol importante al dirigir a los hombres hacia fotos de niños. Y hacen eco de preocupaciones sobre la prevalencia de hombres que usan Instagram para seguir y contactar a los menores, incluidos aquellos que fueron arrestados por usar las redes sociales para solicitar menores con fines sexuales.

TE PUEDE INTERESAR: Nueva York denuncia a TikTok, Instagram, Facebook, Snapchat y YouTube por daño a salud mental de menores

El miércoles, el fiscal general de Nuevo México, Raúl Torrez, anunció el arresto de tres hombres que fueron atrapados en una operación encubierta en la que intentaban concertar relaciones sexuales con chicas menores de edad en Facebook. Torrez, quien se refirió al operativo como “Operación MetaPhile”, dijo que los algoritmos de Meta habían desempeñado un papel clave a la hora de dirigir a estos hombres hacia los perfiles “señuelo” creados por las autoridades.

“Podíamos crear una nueva cuenta encubierta, en la que fuéramos un menor de edad en esa plataforma, y quizá en cuestión de minutos, si no de días, ese menor se vería inundado de material sexualmente explícito”, dijo e hizo énfasis en el daño que pueden causar en el mundo real las plataformas en línea.

La investigación de febrero del Times encontró que miles de cuentas de Instagram a cargo de padres atraían comentarios y mensajes sexualizados de hombres adultos. Mientras que algunos padres describieron la atención como una manera de aumentar los seguidores de sus hijas, otros se quejaron de pasar horas bloqueando usuarios y dijeron que no entendían cómo es que esos hombres habían encontrado las cuentas.

Un análisis de los usuarios que interactuaron con los anuncios publicados por el Times encontró una superposición entre esos dos mundos. Alrededor de tres decenas de los hombres seguían cuentas de niños influentes dirigidas por padres y estudiadas previamente por el Times; uno de ellos seguía a 140. Además, casi 100 de los hombres seguían cuentas que mostraban o anunciaban pornografía para adultos, lo cual está prohibido según las normas de Instagram.

Dani Lever, vocera de Meta, desestimó las pruebas de anuncios que tiene Times calificándolas de “experiencias fabricadas” que no tenían en cuenta “los muchos factores que contribuyen a determinar quién ve en última instancia un anuncio” y sugirió que era “deficiente y poco sólido” sacar conclusiones de datos limitados.

Cuando se le preguntó sobre las detenciones en Nuevo México, Meta afirmó en una declaración: “La explotación infantil es un delito horrendo y hemos pasado años construyendo tecnología para combatirla”. La empresa describió sus esfuerzos como “una lucha continua” contra “criminales decididos”.

“LOS HOMBRES INTERACTÚAN”

Los investigadores y los exempleados que trabajaron con los algoritmos de Meta, propietaria de Instagram y Facebook, dijeron que quizá las herramientas de clasificación de imágenes tenían parte de la culpa.

Las herramientas comparan las imágenes nuevas con las imágenes existentes en la plataforma e identifican a los usuarios que antes se mostraron interesados en ellas, dijo Dean Eckles, quien trabajó como científico de datos de Facebook y estudió sus algoritmos; ahora es profesor en el Instituto Tecnológico de Massachusetts.

Las cuentas de prueba creadas el año pasado por The Wall Street Journal descubrieron que el algoritmo de recomendación de Instagram ofrecía fotos sexualizadas de niños y adultos a cuentas que seguían solo a jóvenes gimnastas, animadoras y otros niños.

“Aunque el sistema de publicidad de Meta no es exactamente el mismo que el sistema de recomendación, hay “enormes similitudes entre los modelos”, explicó Eckles.

Los exempleados de Meta que conocen sus sistemas de distribución de anuncios y recomendaciones afirmaron que los equipos de seguridad trataban de detectar los anuncios perjudiciales, como los que promovían estafas o drogas ilegales, pero que era más difícil identificar los anuncios inofensivos que se distribuían entre una audiencia inadecuada que podía ser perjudicial.

Meta permite que los anunciantes contacten a determinadas audiencias por temas, y aunque el Times eligió temas que la empresa estimó que estaban dominados por mujeres, en promedio, los anuncios se mostraron a hombres alrededor del 80 por ciento de las veces, según un análisis que hizo el Times de los datos de audiencia de Instagram. En un grupo de pruebas, las fotos en las que aparecía un niño se mostraban a los hombres el 95 por ciento de las veces, en promedio, mientras que las fotos de los artículos solos se mostraban a los hombres el 64 por ciento de las veces.

Piotr Sapiezynski, investigador científico de la Universidad del Noreste especializado en pruebas de algoritmos en línea, dijo que los anunciantes competían entre sí para llegar a las mujeres porque dominan el gasto de los consumidores estadounidenses. Por eso, según Sapiezynski, es probable que el algoritmo se centrara en los hombres más interesados y fáciles de alcanzar que habían interactuado con contenidos similares.

“Los hombres interactúan”, dijo. “La máquina hace exactamente lo que quieres que haga”.

En una declaración, Meta reconoció el entorno publicitario competitivo para las espectadoras femeninas y dijo que la “baja calidad” de los anuncios del Times (de cuentas nuevas, con imágenes pero sin texto ni explicación) contribuyó a que llegaran a más hombres. Además, según Meta, sus datos de Audience Insights solo “muestran una estimación de las personas a las que puede llegar un anuncio”, no una audiencia garantizada.

Sapiezynski comentó que incluso si el sistema designaba los anuncios de prueba como de “baja calidad”, eso no explicaba por qué los anuncios con niños llegaban a más hombres que los anuncios sin niños.

“HOLA, NENA”

Pocas horas después de publicar el primer anuncio, una de las cuentas de prueba del Times recibió un mensaje y una llamada telefónica de un hombre que fue detenido en 2015 en Oklahoma después de que presuntamente utilizó Facebook para intentar concertar sexo en grupo con niñas de 12 y 14 años.

“Hola, nena”, escribió otro hombre. Había sido detenido en 2020 después de contactar a una niña de 14 años en el norte del estado de Nueva York a través de Snapchat y ofrecerse a recogerla para mantener relaciones sexuales. Los cargos contra él fueron desestimados después de que un tribunal lo declaró inimputable debido a su salud mental.

Un tercer hombre, en Tennessee, que le dio “me gusta” a una de las fotos tenía cuatro condenas por delitos sexuales contra menores, incluido “sexo con un menor” en 1999, compartir en 2018 una foto en Facebook de un menor de 3 a 5 años “siendo penetrado anal o vaginalmente” y usar Instagram en 2020 para solicitar fotos desnudas de una niña de 12 años a la que llamaba su “esclava sexual”, (según las reglas de Instagram los menores de 12 años no pueden tener una cuenta en la plataforma).

Un cuarto hombre, al que el Times no pudo identificar, ofreció pagar por actos sexuales a la niña que aparecía en la fotografía.

El Times se puso en contacto vía el chat de Instagram con cualquier persona que interactuara con los anuncios y le explicó que se trataba de pruebas del algoritmo de la plataforma realizadas por periodistas. El hombre de Nueva York siguió enviando mensajes preguntando por la chica, si estaba en su habitación y si quería tener relaciones sexuales. También intentó llamarla varias veces a través de la aplicación.

En total, el Times identificó que cuatro agresores sexuales sentenciados habían enviado mensajes a las cuentas, le dieron “me gusta” a las fotos o las habían comentado. Sus cuentas de Instagram usaban nombres y fotografías reales o estaban vinculadas con cuentas de Facebook que tenían datos reales. Las sentencias se encontraron cotejando esa información con bases de datos de delincuentes sexuales y otros registros públicos.

Otros cinco hombres, incluido uno que publicó un video en Instagram de una niña que se sabía que había sido víctima de abuso sexual, según el Centro Canadiense para la Protección de la Infancia, tienen antecedentes por delitos contra menores. Los hombres cuyos expedientes judiciales pudo examinar el Times se declararon culpables de cargos menores o fueron considerados mentalmente incapaces de ser juzgados.

Las normas de Instagram prohíben que los delincuentes sexuales condenados tengan cuentas y el Times utilizó la herramienta de Meta para denunciar a los hombres. Las cuentas permanecieron en línea durante cerca de una semana hasta que el Times se las señaló a un portavoz de la empresa.

Cuando se le preguntó sobre las cuentas, Lever dijo: “Prohibimos que los delincuentes sexuales sentenciados tengan presencia en nuestras plataformas y hemos eliminado las cuentas denunciadas”.

Según la ley estatal (conocida como E-Stop), uno de ellos, declarado culpable en Nueva York por agresión sexual contra una niña de 4 años, debía registrar su correo electrónico por haber sido un agresor sexual. Todas las semanas, el estado comparte las cuentas con empresas de tecnología, incluida Meta.

Lever no explicó qué hacen las empresas con esa información ni cómo este hombre pudo crear una cuenta de Instagram.

Algunos de los hombres dijeron que respondieron al anuncio preocupados. Un hombre, que está en libertad condicional tras pasar 46 años en prisión en California por asesinar a su esposa, dijo que le sorprendió encontrarse con una niña de 5 años en su muro de noticias, que muestra sobre todo fotos de adultos con poca ropa o desnudos.

“No tengo problemas con ver a mujeres desnudas, sobre todo después de pasar 46 años en prisión”, escribió. Y agregó: “Mi actitud hacia la gente que interactúa con pornografía infantil o toca a un niño es bastante simple: No lo hagan”.

La interacción de los hombres con los anuncios no sorprendió a algunos propietarios de pequeñas empresas entrevistados por el Times. Morgan Koontz, una de las fundadoras de Bella & Omi, un negocio de ropa infantil en Virginia Occidental que se promociona en las redes sociales, dijo que la compañía recibió “comentarios inapropiados, casi de tipo pedófilo, pervertidos” de hombres cuando comenzaron a anunciarse en Facebook en 2021.

“Hizo que nuestros modelos se sintieran incómodas y nos hizo sentir incómodas”, comentó.

Cuando la empresa se expandió a Instagram, ella y su socia, Erica Barrios, decidieron evitar el problema dirigiéndose solo a mujeres, a pesar de que entre sus clientes habituales hay padres y abuelos.

Lindsey Rowse, propietaria de Tightspot Dancewear Center en Pensilvania, , también restringe sus anuncios a las mujeres. Comentó que cuando no excluía a los hombres eran hasta el 75 por ciento de su audiencia y pocos compraban sus productos. Además, limita la frecuencia con la que comparte fotos de modelos infantiles en sus publicaciones no publicitarias porque suelen atraer a los hombres, explica.

“No sé cómo los encuentran” comentó. “Me encantaría bloquear a todos los hombres”.

Otros propietarios de negocios expresaron una confusión similar sobre cómo se distribuían sus anuncios. Desde enero, la empresa de ropa infantil Young Days, con sede en Utah, ha visto más que duplicada la proporción de hombres a los que llegan sus anuncios sin grandes cambios en sus criterios de segmentación, según Brian Bergman, que supervisa el comercio electrónico. El cambio hacia los hombres ha perjudicado las ventas, dice, y la empresa se ha centrado desde entonces en llegar a las mujeres.

“No es un negocio lucrativo para nosotros, pero el algoritmo sigue llevándonos hacia los hombres”, dijo.

Anunciantes de productos para niñas encuentran que hombres adultos pueden convertirse en su público no deseado. c.2024 The New York Times Company.

Por Michael H. Keller y Jennifer Valentino-DeVries, The New York Times.