Google dijo el jueves que observó al actor de amenazas vinculado a Corea del Norte, conocido como UNC2970, utilizando su modelo de inteligencia artificial generativa (IA) Gemini para realizar reconocimiento de sus objetivos, mientras que varios grupos de hackers continúan utilizando la herramienta para acelerar diversas fases del ciclo de vida de los ciberataques, habilitar operaciones de información e incluso realizar ataques de extracción de modelos.
“El grupo utilizó Gemini para sintetizar OSINT y perfilar objetivos de alto valor para apoyar la planificación de campañas y el reconocimiento”, dijo el Grupo de Inteligencia de Amenazas de Google (GTIG) en un informe compartido con The Hacker News. “La elaboración de perfiles de objetivos de este actor incluía la búsqueda de información sobre las principales empresas de ciberseguridad y defensa, y el mapeo de roles laborales técnicos específicos e información salarial”.
El equipo de inteligencia de amenazas del gigante tecnológico caracterizó esta actividad como una difuminación de los límites entre lo que constituye una investigación profesional rutinaria y un reconocimiento malicioso, lo que permitió al actor respaldado por el estado crear personas de phishing personalizadas e identificar objetivos débiles para un compromiso inicial.
UNC2970 es el nombre asignado a un grupo de hackers norcoreano que se superpone con un grupo rastreado como Lazarus Group, Diamond Sleet y Hidden Cobra. Es más conocido por orquestar una campaña de larga duración con el nombre en clave Operation Dream Job para atacar los sectores aeroespacial, de defensa y energético con malware, bajo la apariencia de acercarse a las víctimas con el pretexto de ofertas de empleo.
GTIG dijo que UNC2970 se ha centrado “consistentemente” en atacar objetivos de defensa y hacerse pasar por reclutadores corporativos en sus campañas, y la elaboración de perfiles de objetivos incluía búsquedas de “información sobre las principales empresas de ciberseguridad y defensa, y el mapeo de roles laborales técnicos específicos e información salarial”.
UNC2970 no es el único actor de amenazas que ha hecho un mal uso de Gemini para aumentar sus capacidades y pasar del reconocimiento inicial al ataque activo a un ritmo más rápido. Algunos de los otros grupos de hackers que han integrado la herramienta en sus flujos de trabajo son los siguientes:
- UNC6418 (sin atribuir), para realizar recopilación de inteligencia dirigida, buscando específicamente credenciales de cuentas confidenciales y direcciones de correo electrónico.
- Temp.HEX o Mustang Panda (China), para recopilar un expediente sobre personas específicas, incluidos objetivos en Pakistán, y recopilar datos operativos y estructurales sobre organizaciones separatistas en varios países.
- APT31 o Judgement Panda (China), para automatizar el análisis de vulnerabilidades y generar planes de prueba específicos alegando ser un investigador de seguridad.
- APT41 (China), para extraer explicaciones de las páginas README.md de herramientas de código abierto, así como solucionar y depurar código de exploit.
- UNC795 (China), para depurar su código, realizar investigaciones y desarrollar webshells y escáneres para servidores web PHP.
- APT42 (Irán), para facilitar el reconocimiento y la ingeniería social dirigida mediante la creación de personas que induzcan a la participación de los objetivos, así como desarrollar un raspador de Google Maps basado en Python, desarrollar un sistema de gestión de tarjetas SIM en Rust e investigar el uso de una prueba de concepto (PoC) para una falla de WinRAR (CVE-2025-8088).
Una vía recurrente de abuso de los modelos de IA generativa como Gemini ocurre cuando los actores de amenazas reformulan sus indicaciones identificándose como un investigador de seguridad o un participante en un ejercicio de captura de bandera (CTF) para engañar al sistema y generar respuestas inesperadas. Steve Miller, líder de amenazas de IA en GTIG, dijo a The Hacker News que la empresa está mejorando constantemente sus mecanismos de seguridad para combatir estos escenarios.
“Google siempre está trabajando para mejorar nuestros sistemas de seguridad, incluidos clasificadores de detección, mitigaciones y otras salvaguardas para prevenir el mal uso por parte de actores de amenazas”, dijo Miller. “A medida que los adversarios experimentan fricciones al hacer un mal uso de nuestros sistemas, comienzan a experimentar con nuevas formas de eludir las salvaguardas, y aunque vemos muchos de estos experimentos, no siempre tienen éxito. Gemini está mejorando en el reconocimiento de trucos basados en personas y en responder de manera segura. A medida que observamos nuevas actividades de amenazas, trabajamos para fortalecer esas barreras de protección”.
Google también dijo que detectó un malware llamado HONESTCUE que aprovecha la API de Gemini para externalizar la generación de funcionalidades para la siguiente etapa, junto con un kit de phishing generado por IA con el nombre en clave COINBAIT que está construido con Lovable AI y se hace pasar por un intercambio de criptomonedas para el robo de credenciales. Algunos aspectos de la actividad relacionada con COINBAIT se han atribuido a un grupo de amenazas con motivaciones financieras denominado UNC5356.
“HONESTCUE es un framework de descarga y lanzamiento que envía un prompt a través de la API de Google Gemini y recibe código fuente de C# como respuesta”, dijo. “Sin embargo, en lugar de aprovechar un LLM para actualizarse a sí mismo, HONESTCUE llama a la API de Gemini para generar código que opera la funcionalidad de ‘etapa dos’, que descarga y ejecuta otra pieza de malware”.
La etapa secundaria sin archivos de HONESTCUE luego toma el código fuente de C# generado recibido de la API de Gemini y utiliza el framework legítimo .NET CSharpCodeProvider para compilar y ejecutar el payload directamente en la memoria, sin dejar artefactos en el disco.
Google también ha llamado la atención sobre una reciente ola de campañas ClickFix que aprovechan la función de intercambio público de los servicios de IA generativa para alojar instrucciones de aspecto realista para solucionar un problema informático común y, finalmente, entregar malware robador de información. La actividad fue señalada en diciembre de 2025 por Huntress.
Por último, la compañía dijo que identificó e interrumpió ataques de extracción de modelos destinados a consultar sistemáticamente un modelo de aprendizaje automático propietario para extraer información y construir un modelo sustituto que refleje el comportamiento del objetivo. En un ataque a gran escala de este tipo, Gemini fue atacado con más de 100,000 prompts que plantearon una serie de preguntas destinadas a replicar la capacidad de razonamiento del modelo en una amplia gama de tareas en idiomas distintos al inglés.
El mes pasado, Praetorian ideó un ataque de extracción PoC donde un modelo réplica logró una tasa de precisión del 80.1% simplemente enviando una serie de 1,000 consultas a la API de la víctima, registrando las salidas y entrenándolo durante 20 épocas.
“Muchas organizaciones asumen que mantener los pesos del modelo en privado es una protección suficiente”, dijo la investigadora de seguridad Farida Shafik. “Pero esto crea una falsa sensación de seguridad. En realidad, el comportamiento es el modelo. Cada par consulta-respuesta es un ejemplo de entrenamiento para una réplica. El comportamiento del modelo queda expuesto a través de cada respuesta de la API”.
Google, que lanzó la Iniciativa de Defensa Cibernética con IA en 2024, ha señalado que la IA ofrece la mejor oportunidad para revertir el Dilema del Defensor e inclinar la balanza de la ciberseguridad a favor de los defensores.
“Todo el mundo busca aumentar la productividad con la automatización. Los adversarios ven cada vez más valor en la IA”, dijo Miller. “Están usando IA de forma rutinaria y están construyendo capacidades con ella, por lo que es fácil predeciremos un aumento en la calidad, cantidad y velocidad de los ataques habilitados por IA. Los defensores deben prepararse para el futuro y hacer inversiones similares en IA, y construir capacidades defensivas habilitadas por IA que puedan operar a la velocidad de la máquina”.
(La historia se actualizó después de la publicación para incluir respuestas de GTIG.)
