Alerta Google que los cibercriminales están usando sistemas de IA cada vez más autónomos y rápidos

Google alertó sobre el cambio revelador sobre el uso malicioso de la inteligencia artificial por parte de los ciberdelincuentes y grupos de espionaje al estar haciendo uso de sistemas que cada vez son más autónomos y más veloces que cuentan con la capacidad por “sí solos de planificar, automatizar y ejecutar un ataque”, describe la Agencia de Noticias EFE.

El gigante tecnológico estadounidense presentó un informe titulado “AI Threat Tracker” (‘Rastreador de Amenazas con IA’), mismo que fue realizado por el Grupo de Inteligencia sobre Amenazas de la empresa, en que se muestra cómo es que los atacantes utilizan de forma masiva la IA con el propósito de “optimizar sus operaciones y cómo los ciberdelincuentes están logrando sustraer valiosa propiedad intelectual relacionada con la inteligencia artificial”, añade EFE.

Este nuevo informe fue publicado un mes después de que OpenAI diera a conocer que ponía en pausa su nuevo modelo Astra tras descubrir un nivel “crítico” en ciberseguridad.

EFE resalta que los analistas de Google concluyeron que los casos de la utilización de “agentes” avanzados de IA ya no son “experimentales”, ni tampoco se limitan solamente a detectar vulnerabilidades si no que descubrieron muchos incidentes que han sido dirigidos en contra de modelos y sistemas basados en IA tanto en los sectores tecnológico como el sanitario así como a medios de comunicación y entretenimiento en Norteamérica y Europa.

LA IA USADA COMO UN PARA INCREMENTAR LA FUERZA DE LOS ATAQUES

EFE explica que el informe revela que para lograr satisfacer el aumento de la demanda de acceso a la IA, “los atacantes están además robando credenciales y comprando capacidades en la ‘red oscura’ (darknet)”, y pone como ejemplo que algunos grupos criminales, fundamentalmente de Rusia, China, Irán y Corea del Norte, ya están haciendo uso están de estas tecnologías con el objetivo de poder automatizar el robo de las claves de acceso, además de crear código malicioso y contar con la capacidad de poder realizar espionaje industrial.

En su informe, detalla EFE, los analistas hacen hincapié en la “preocupante” tendencia dirigida a dañar la cadena de suministro de software, en donde los delincuentes adulteran los asistentes de programación y repositorios de código abierto, y así también de contar con la capacidad de ser capaces de explotar herramientas externas, con lo que están robando la propiedad intelectual de IA además de secuestrar los recursos en la nube con propósito de poder ejecutar sus propios modelos.

“La investigación concluye que la inteligencia artificial se ha convertido en un multiplicador de fuerza que permite ejecutar ataques complejos en cuestión de pocas horas”, explica EFE.

Los autores del informe citan varios ejemplos de cómo están actuando los ciberdeliencuentes, entre ellos está uno que relata cómo el grupo de ciberespionaje llamado Basin Castle, mismo que esta relacionado con China, usa modelos de lenguaje como apoyo para llevar acabo diversas tareas, desde realizar una investigación de posibles objetivos hasta la “resolución de errores en mitad de una intrusión”; o el otro grupo chino que intentó usar Gemini con el propósito de conseguir “construir un marco de pruebas de penetración automatizado que ejecutara las primeras fases de las intrusiones”, detalla EFE.

A través de la elaboración del informe, los analistas lograron una “campaña masiva de robo de credenciales” que fue llevada acabo por una “arquitectura multiagente desplegada en infraestructura robada”, y pudieron comprobar cómo es que esa campaña podría ir escalando y comprometiendo de manera autónoma “miles de credenciales en tan solo seis horas”, indica EFE.

Otro ejemplo citado en el informa se refiere a un grupo de ciberdelincuentes conocido como TeamPCP que centro su ataque en la cadena de suministro de IA, poniendo en marcha programas malignos que fueron creados esencialmente “para explotar sistemas de inteligencia artificial emergentes”, consiguiendo infectar y dañar algunas de esas herramientas y además logróron “engañar a sus asistentes” para que estos recomendaran a los desarrolladores sitios web maliciosos.

EFE cita a otro grupo de informáticos a los que se les conoce como DPRK y que están vinculados a Corea del Norte quienes fueron detectados cuando estaban robando cuentas de “usuarios legítimos” para poder conectar sus sistemas de “forma masiva y automática” a sistemas de de IA con los que pudieron tener más velocidad y alcance en sus ataques.

John Hultquist, quien es un analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG), explicó que “llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas”.

EFE señala que Hultquist expresó su preocupación ante estas vulnerabilidades, y acentúa en que esta situación no es solo un problema solo del sector tecnológico y en que la la inteligencia artificial actualmente “se está aplicando en muchas otras áreas”.

“El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder”, concluyó Hultquist.

Con información de la Agencia EFE.