Imagina unirte a una videollamada con tu CEO y descubrir después que el participante era en realidad un falso generado por IA. Bienvenido al nuevo campo de batalla digital. La IA adversaria y los deepfakes han creado una superficie de ataque a la identidad que no solo es digital, sino que se basa en la realidad misma. Estas tecnologías ya no son ciencia ficción: se utilizan activamente para suplantar identidades, manipular percepciones políticas y eludir incluso las mejores iniciativas de formación en ciberseguridad.

Del gato y el ratón a máquina contra máquina

La ciberseguridad siempre ha sido un juego del gato y el ratón. Los defensores hemos logrado adaptar nuestras defensas contra phishing, malware, ransomware y amenazas internas. Hoy también nos enfrentamos a amenazas emergentes como la inteligencia artificial y la desencriptación cuántica. El gato ya no es solo astuto: los actores de amenazas actuales pueden ser sintéticos, autoaprendices y manipuladores de formas nunca imaginadas. Un mensaje de voz del CEO autorizando una transferencia bancaria, o una videollamada en vivo del administrador de TI pidiendo deshabilitar la autenticación multifactor: cuando los atacantes utilizan deepfakes de un empleado real, no solo te engañan, sino que te convierten en cómplice.

Qué significan la IA adversaria y los deepfakes para la seguridad

Para dimensionar esta amenaza, desglosemos algunos conceptos clave.

IA adversaria

La IA adversaria se refiere a técnicas que manipulan deliberadamente modelos de IA —como generación de imágenes, video o procesamiento de lenguaje— para producir contenido con intención maliciosa. Por ejemplo, un software de reconocimiento de imágenes puede ser engañado para ver una tortuga como un arma, según cómo esté construida la imagen. En ciberseguridad, el contenido de IA adversaria puede eludir filtros de spam, confundir motores de detección de malware o evadir la detección de fraude alimentando entradas manipulativas diseñadas para confundir a los sistemas de IA.

Ataques de deepfake

Los deepfakes son grabaciones de audio o video alteradas de seres humanos generadas por modelos de aprendizaje automático (generalmente GANs, redes generativas antagónicas), a menudo con fines maliciosos. Un deepfake puede hacer que alguien parezca decir o hacer algo que no es real. Lo que antes era una novedad en redes sociales ahora se utiliza para ingeniería social, fraude, soborno, sextorsión y chantaje.

Cinco ataques reales con deepfakes

  • 1. Suplantación de ejecutivos: los atacantes clonan la voz de un ejecutivo a partir de muestras públicas y llaman a empleados solicitando transferencias urgentes o información sensible.
  • 2. Videollamadas falsas en vivo: los atacantes se hacen pasar por colegas de confianza en Zoom, Teams, FaceTime o Slack, imitando movimientos y parpadeos. Esta técnica estuvo detrás de la estafa del CFO en Hong Kong, donde se falsificó una videoconferencia completa para robar 25,6 millones de dólares.
  • 3. Incrustación de malware en medios: se puede ocultar malware en imágenes, PDFs o páginas web que contienen deepfakes, evitando antivirus y sistemas de detección de anomalías.
  • 4. Chatbots de IA para phishing: los atacantes despliegan bots de IA que simulan ser representantes de atención al cliente en sitios web fraudulentos, con el objetivo de robar credenciales o deshabilitar la seguridad.
  • 5. Falsificación de biometría digital: huellas dactilares sintéticas, modelos faciales 3D y escáneres de iris replicados por IA pueden ser extraídos si el almacenamiento de biometría está comprometido. Recuerda: puedes cambiar tu contraseña, pero no tu biometría.

Pasos prácticos para defenderse de los adversarios digitales actuales

  • 1. Implementar verificación multimodal: los deepfakes suelen centrarse en un solo canal sensorial. Inspecciona voz, rostro, comportamiento, manos, tono, fondo y gestos. Si una solicitud llega por video, valídala mediante un segundo canal de comunicación de confianza, como un mensaje de Teams o Slack, o incluso una palabra clave.
  • 2. Adoptar IA para detectar IA: las herramientas defensivas de IA pueden detectar deepfakes mediante análisis de velocidad de fotogramas, inconsistencias de píxeles y parpadeo antinatural. La detección de vida busca patrones no naturales en el movimiento, habla o parpadeo.
  • 3. Incluir escenarios de deepfake en la formación de empleados: los simulacros de phishing deben incluir video y audio en canales corporativos y privados. Fomenta una cultura de desafío donde incluso los altos ejecutivos acepten barreras de seguridad como devoluciones de llamada o verificación de voz a texto.
  • 4. Firmar digitalmente las comunicaciones sensibles: utiliza firmas criptográficas para video, audio y documentos, especialmente en industrias reguladas. Un video del CEO debe estar firmado y ser verificable.
  • 5. Limitar la huella mediática pública: cuanto menos datos de entrenamiento tenga un atacante, más difícil será crear deepfakes convincentes. Limita la disponibilidad de imágenes, videos y muestras de voz de alta calidad. Elimina metadatos y restringe el acceso a contenido descargable. Añade marcas de agua visibles e invisibles.

Mirando hacia adelante: cuando la 'realidad' es incierta

La IA adversaria y los deepfakes han alterado fundamentalmente el panorama de amenazas. No son solo herramientas de entretenimiento; pueden automatizar, amplificar y disfrazar ataques, haciéndolos extremadamente difíciles de detectar. Confía, pero verifica todo. La esencia de la confianza cero ya no se aplica solo a redes y dispositivos, sino también a interacciones, comunicaciones e identidades. Los profesionales de ciberseguridad deben adoptar la IA no solo para detectar y responder, sino también para anticipar y superar. Es una nueva era del viejo juego del gato y el ratón para la seguridad de nuestras organizaciones. La defensa actual ya no consiste en detener una dirección IP extranjera o un paquete malicioso; también implica cuestionar la realidad de lo que experimentamos. No creas todo lo que ves u oyes, especialmente sin pruebas. El escepticismo ya no es cinismo; es la mentalidad necesaria para navegar cuando la realidad misma puede ser falsificada.

Sobre el autor: Morey J. Haber es el Asesor Jefe de Seguridad en BeyondTrust. Cuenta con más de 25 años de experiencia en la industria TI y ha escrito cuatro libros: Privileged Attack Vectors, Asset Attack Vectors, Identity Attack Vectors y Cloud Attack Vectors. Anteriormente fue Director de Seguridad, Director de Tecnología y Vicepresidente de Gestión de Producto en BeyondTrust. En 2020 fue elegido para el Consejo Asesor Ejecutivo de la Identity Defined Security Alliance (IDSA). Se unió a BeyondTrust en 2012 mediante la adquisición de eEye Digital Security, donde trabajó desde 2004. Antes de eEye, fue Gerente de Desarrollo Beta en Computer Associates. Comenzó su carrera como Ingeniero de Fiabilidad y Mantenibilidad para un contratista gubernamental que construía simuladores de vuelo y entrenamiento. Obtuvo una licenciatura en Ingeniería Eléctrica por la Universidad Estatal de Nueva York en Stony Brook.