Por qué la IA no necesita ser innovadora para ser peligrosa

Mientras investigábamos la vibeware de Transparent Tribe, nos topamos con dos posturas enfrentadas: optimistas y escépticos. Lo peculiar del debate actual es que ambas pueden tener razón a la vez. Sin embargo, existe una razón operativa clara por la que los "ataques de IA" aparecen sobre todo en redes sociales profesionales y no en nuestros propios registros de telemetría. En este artículo analizamos los factores que explican por qué Skynet aún no está aquí y cómo, al igual que un tiburón, la IA no necesita ser innovadora para ser peligrosa.

Sesgo arquitectónico de los LLM

Los LLM están matemáticamente optimizados para predecir el resultado más probable, mientras que el hacking es el arte de identificar la anomalía estadística. Un LLM busca la siguiente pieza con mayor probabilidad estadística. Es excelente para lo común, pero pésimo para lo excepcional. Un hacker, en cambio, busca activamente el fallo de baja probabilidad e impredecible. Pedir a un LLM que "hackee" es arquitectónicamente contradictorio: se le pide a un sistema optimizado para la probabilidad que encuentre una anomalía. Es como usar un GPS para encontrar un atajo: el GPS siempre te dará la ruta estándar; el hacker sabe que puede atravesar una valla rota detrás de la gasolinera para ahorrar diez minutos. La IA nunca sugerirá la valla porque no está en los datos de entrenamiento "medios". No obstante, los modelos de razonamiento modernos con ventanas de contexto ampliadas empiezan a encontrar vulnerabilidades complejas en partes inconexas del código que las herramientas simples de coincidencia de patrones suelen pasar por alto.

La necesidad de determinismo

No se puede construir un imperio criminal multimillonario sobre un encriptador que alucina sus propias rutas de archivo o claves de cifrado. En el malware, las alucinaciones son una certeza matemática, no un simple error que pueda parchearse. Una dirección IP o ruta de archivo alucinada rompe la cadena de ataque. Dado que el modelo es probabilístico, nunca se puede garantizar un 100% de determinismo, algo que los desarrolladores de malware necesitan. Si un encriptador de ransomware alucina un servidor de exfiltración o corrompe la generación de claves aunque solo sea un 5% de las veces, toda la operación fracasa. No se puede construir un modelo de negocio sobre esa falta de fiabilidad. Sin embargo, aunque el malware generado puramente por IA adolece de alucinaciones probabilísticas, un enfoque asistido por IA permite a un humano generar código mayoritariamente fiable (aunque fácilmente detectable) rápidamente.

Optimización para el objetivo equivocado

Si quieres entrar en una casa, no quieres que 1.000 personas golpeen la puerta principal. Existe el error de pensar que "la IA realiza 1.000 veces más operaciones que los humanos" es una ventaja. En operaciones de exfiltración de datos, el volumen suele ser un lastre y los falsos positivos son fatales. Un agente autónomo que escanea agresivamente un honeypot o tropieza con un servidor señuelo quemará una infraestructura que costó meses construir. La IA carece de la intuición para "pararse a pensar". El volumen es ideal para spam o DDoS, pero contraproducente para el movimiento lateral sigiloso. Este principio de minimalismo se extiende al propio malware. Las herramientas APT profesionales se definen por una arquitectura modular que minimiza la huella forense. El framework EggStreme es un claro ejemplo: prioriza un perfil bajo mediante módulos ligeros y especializados. Por el contrario, vemos una tendencia a malware que trata el volumen de código como una métrica de sofisticación. Estas muestras generadas por IA suelen presumir de decenas de miles de líneas de código, como si el tamaño fuera un alarde técnico. En realidad, ese exceso es una desventaja masiva: aumenta la superficie de detección y facilita la creación de firmas. Para un profesional, un cargador modular de 50 KB es un arma; un monolito de 50 MB generado por IA es un elefante en una cacharrería. Cierto, el ruido operativo solo es un problema si alguien está vigilando. Las investigaciones posteriores a incidentes suelen mostrar que señales claras de intrusión quedaron registradas pero se ignoraron por falta de monitorización activa.

Solvencia del mercado y confianza

La extorsión criminal se basa en la confianza empresarial. La economía del Ransomware-as-a-Service (RaaS) se sostiene sobre una paradoja: la extorsión requiere confianza. Las víctimas no pagan por el cifrado, sino por la restauración. Esta industria multimillonaria depende de que el mercado confíe en que el pago garantiza un descifrador funcional. La IA introduce una variable fatal: la no determinismo. Si un encriptador generado por IA "alucina" y los datos se vuelven irrecuperables (incluso para el atacante), se corre la voz de que pagar un rescate ya no garantiza la recuperación. La tasa de conversión de toda la industria se desploma. Por lo tanto, los carteles RaaS establecidos probablemente vean la IA poco fiable no como una innovación, sino como un lastre. En un ecosistema donde la reputación es moneda, quienes despliegan malware defectuoso generado por IA que "envenena el pozo" ponen en peligro todo el ecosistema y pueden ser atacados por los mismos sindicatos que intentan emular. No obstante, grupos emergentes como 0APT ya están estafando eficazmente tanto a víctimas como a otros criminales, sin importar la confianza a largo plazo.

Desconexión entre intención y capacidad

Escribir "Gana la lotería" en una servilleta no te convierte en millonario. Es fácil ver una línea de código que pide a una IA explotar una vulnerabilidad y asumir que el ataque tiene éxito. Pero un prompt es una solicitud, no una capacidad. A menudo vemos que un agente pide a una IA que realice una tarea, pero rara vez examinamos la fiabilidad de la respuesta. Cuando lo hacemos, los resultados suelen ser operativamente inútiles. Un buen ejemplo es el análisis de PromptLock titulado "Probé el primer ransomware del mundo... y fue un desastre". Encontrar un script que dice 'response = model.generate("Hack the Planet")' es como encontrar un papel que dice "Gana la lotería". Solo porque escribiste la instrucción no significa que el resultado ocurra. Sin embargo, la rápida evolución de los flujos de trabajo agénticos significa que la IA es cada vez más capaz de autocorregirse y depurar su propio código, acortando la distancia entre intención y ejecución.

Distorsión informativa

Los titulares claman un avance de la IA, pero el "asterisco" técnico revela que solo funciona cuando las defensas del objetivo se desactivan manualmente. Los titulares y publicaciones en redes sociales a menudo ignoran las salvedades técnicas para contar una historia más atractiva. Muchos avances de la IA solo funcionan si se desactivan funciones de seguridad como el sandboxing, o requieren conexiones ruidosas y constantes con el LLM que los hacen operativamente inútiles. Algunos ataques reportados fueron incluso completamente alucinados, donde los agentes afirmaban éxitos que nunca ocurrieron. Tras intensos debates internos sobre la validez de algunas afirmaciones, decidimos examinar la letra pequeña de cuatro informes de amenazas de IA en nuestro seminario web reciente "¿Qué diablos es un ataque de IA?". A pesar de esos asteriscos, estamos viendo una evolución continua. Esta hipérbole constante genera fatiga de amenazas y un rechazo a las alertas de IA, lo que puede hacer que los defensores ignoren un avance genuino y silencioso porque se pierde en un mar de distorsiones previas.

La industrialización de la mediocridad

Todos los ataques de IA que hemos analizado suponen una regresión técnica en comparación con atacantes medios. Tras leer esto, podrías pensar que somos escépticos de la IA. No lo somos. Somos realistas de la IA. Reconocemos que la IA es una tecnología transformadora que remodelará el panorama de amenazas. La IA no necesita ser innovadora ni muy sofisticada para obtener resultados significativos. Mientras que los LLM están optimizados para lo convencional y no para la mentalidad poco convencional de un hacker, destacan en la industrialización y estandarización. Esta capacidad les permite reducir el coste marginal de un ataque, con el potencial de convertir el cibercrimen en un juego de números de alto volumen. Como concluimos en la investigación de APT36: "La realidad no es un avance en la sofisticación del malware, sino una optimización de lo mediocre". A corto plazo (próximos tres años), podemos esperar la explotación del monocultivo de infraestructuras. Mientras que los agentes de IA luchan con la complejidad y la novedad, prosperan con el reconocimiento de patrones y la estandarización. Esto crea una vulnerabilidad específica en entornos modernos y estandarizados, a menudo con seguridad deficiente, como configuraciones predeterminadas de Microsoft 365, configuraciones estándar de AWS o plataformas SaaS sin personalizar. Durante décadas, las pequeñas y medianas empresas confiaron en la ilusión de la 'seguridad por oscuridad'. La lógica interna era tranquilizadora: 'Somos demasiado pequeños para ser atacados'. La realidad externa era más dura: 'Su brecha era demasiado pequeña para salir en los titulares'. Nunca estuvieron a salvo de los ataques, solo a salvo del ciclo de noticias. Como estos entornos son idénticos en miles de empresas, son el terreno de caza perfecto para los agentes de IA. Si tu infraestructura es un producto básico, tu brecha será un producto básico. El factor limitante del cibercrimen siempre ha sido el ancho de banda humano. Los hackers humanos tienen solo un número limitado de horas al día, por lo que priorizan los objetivos con mayor recompensa. La IA elimina esta restricción. Un bucle automatizado de IA no se preocupa si un objetivo solo produce un rescate de 500 dólares. Si el ataque cuesta 5 dólares, un pago de 500 dólares es un retorno de inversión masivo. Nos enfrentamos a un futuro potencial donde el "suelo" para la victimización se eleva repentinamente, y podemos esperar un momento "WannaCry 2.0" que actuará como un filtro severo que separa a los diligentes de los negligentes. Para nuestra predicción especulativa a largo plazo, observamos la evolución estructural de la economía del ransomware. Un error común es pensar que el RaaS opera como una suscripción de software. No es así. Opera como la economía colaborativa. Los grupos de ransomware son las plataformas, similares a los operadores de coches compartidos, mientras que los afiliados son los conductores que realizan el trabajo real y se quedan con la mayor parte del beneficio, normalmente alrededor del 80%. Esto crea un incentivo financiero masivo para que los operadores reduzcan los costes laborales y sustituyan a los costosos afiliados humanos por agentes de IA para capturar el 100% de los ingresos. Sin embargo, no espere esto en un futuro próximo. Al igual que los coches autónomos se han enfrentado a obstáculos técnicos y regulatorios, el ransomware autónomo se enfrentará a muchos desafíos antes de convertirse en un modelo de negocio viable.

Conclusión y recomendaciones

Hemos llegado a un punto en el que podemos evaluar con precisión los riesgos de las amenazas de IA y ver hacia dónde se dirigen, pero la realidad sigue siendo que la IA beneficia actualmente más a los defensores que a los atacantes. Mientras que muchas recomendaciones apelan a tecnologías especulativas para contrarrestar amenazas de IA ficticias, todo lo que hemos visto hasta ahora se detiene eficazmente con la tecnología existente. Si alguien afirma que las empresas deben dejar de usar firmas y adoptar IA para "ponerse al día con los atacantes", llega casi dos décadas tarde, ya que esta transición ocurrió en nuestra industria hace mucho tiempo. Las recomendaciones clave son: ponerse al día con la higiene básica de ciberseguridad, hacer que el entorno sea hostil a los libros de jugadas automatizados y desplegar sensores EDR/XDR con un SOC/MDR. La mayoría de los ataques impulsados por IA apuntan a frutos bajos y entornos estandarizados. Las mejores prácticas de seguridad no están obsoletas; siguen siendo la forma más efectiva de elevar el coste de un ataque por encima de lo que un script automatizado puede ejecutar de forma rentable. La defensa en profundidad y la seguridad multicapa siguen siendo muy efectivas tanto contra atacantes humanos como de IA. Introducir imprevisibilidad en todos los dispositivos interrumpe los scripts estandarizados, forzando a los atacantes a realizar acciones manuales y detectables. Esto asegura los sistemas contra amenazas actuales y futuras. Los ataques impulsados por IA son más ruidosos que las técnicas sigilosas de "vivir de la tierra" favorecidas por los operadores humanos. Esta mayor señal hace que los sensores EDR y XDR sean más efectivos para identificar campañas automatizadas. Mantener una visibilidad constante es el principal desafío para los equipos de seguridad reducidos. Si los recursos internos tienen dificultades con un ciclo de monitorización 24/7, una plataforma EDR/XDR optimizada o un modelo de Detección y Respuesta Gestionada (MDR) proporciona la supervisión necesaria. Este enfoque garantiza que la telemetría generada por las herramientas automatizadas se analice en tiempo real, en lugar de permanecer en una cola hasta que ya se haya producido una brecha.

La realidad no es un avance en la sofisticación del malware, sino una optimización de lo mediocre.