La inteligencia artificial está transformando la forma de trabajar, pero también introduce riesgos de seguridad que las estrategias tradicionales no contemplan. Llevo una década ayudando a organizaciones a gestionar riesgos tecnológicos emergentes, y les aseguro que esto es diferente. En este artículo exploraremos por qué y, más importante, qué hacer al respecto.
Los riesgos ocultos de la adopción de IA: Shadow AI
El equipo de investigación de Wiz descubrió recientemente una base de datos ClickHouse de producción de DeepSeek expuesta públicamente, que filtraba historial de chat, secretos de API y otros datos sensibles. Esto genera serias preocupaciones para cualquier organización que utilice los modelos de DeepSeek. La verdad es que muchos equipos se apresuraron a probar DeepSeek debido al revuelo generado por sus tecnologías avanzadas. Aunque la situación de DeepSeek ha estado rodeada de FUD, drama y desinformación, también ha sentado precedentes importantes para la privacidad y la seguridad. Como respuesta al incidente: Texas prohibió DeepSeek en dispositivos gubernamentales; apareció malware que se hace pasar por DeepSeek en PyPi; Taiwán e Italia restringieron DeepSeek por preocupaciones de privacidad de datos; y, a pesar de la controversia, los modelos DeepSeek-R1 ya están disponibles en AWS, lo que plantea más preguntas sobre la adopción y la supervisión de seguridad. Esto es un claro recordatorio de que, sin las salvaguardas adecuadas, las herramientas de IA pueden introducir riesgos graves, y las organizaciones seguirán usándolas por el valor de productividad que ofrecen. Creo firmemente que la ciberseguridad debe ser un facilitador del negocio, no un obstáculo. Entonces, ¿cómo aseguramos que nuestras organizaciones puedan adoptar estas tecnologías sin exponer datos sensibles? Hay una manera y la abordaremos en las próximas secciones.
Un ejemplo perfecto de este desafío es la filtración del código fuente de Samsung a través de ChatGPT a principios de 2023. Un ingeniero compartió inadvertidamente código fuente sensible a través de ChatGPT, lo que provocó una filtración y llevó a la empresa a prohibir temporalmente las herramientas de IA generativa. La conclusión clave es que los empleados adoptan nuevas tecnologías rápidamente, a menudo antes de que los equipos de seguridad puedan evaluar los riesgos, incluso en las organizaciones de seguridad más maduras.
El costo oculto de la innovación: por qué Shadow AI es diferente
Los líderes de seguridad enfrentan un desafío único: constantemente aparecen nuevas herramientas de IA, cada una diseñada para resolver un problema empresarial específico, y los equipos las adoptan más rápido de lo que la seguridad puede seguir el ritmo. Cuando marketing, RRHH, contabilidad, desarrolladores y prácticamente todos los equipos de la organización adoptan nuevas herramientas de IA, las revisiones de seguridad tradicionales suelen introducir demoras de semanas. ¿Cómo le dices a un equipo que acaba de duplicar su productividad que deje de usar su herramienta de IA favorita porque podría ser un riesgo de seguridad? En muchos casos, no se puede; cuando la seguridad interviene, la adopción de IA ya está arraigada en los flujos de trabajo, y las prohibiciones absolutas no son viables y pueden poner a los líderes de seguridad en desacuerdo con sus contrapartes.
Otro gran desafío es que estas herramientas son esponjas de datos, capaces de retener y reproducir información sensible de formas nunca antes vistas. ¿Alguna vez le has preguntado a ChatGPT qué piensa de ti? ¿O le has pedido que resuma tu carácter basándose en tus interacciones? Aquí tienes un ejemplo: ¿recuerdas cuando pediste una receta específica sin azúcar para diabéticos? El servicio de IA retuvo esa información de hace seis meses y ahora conoce tus condiciones de salud. Y dado que muchas de estas herramientas de IA funcionan como aplicaciones SaaS, introducen una capa completamente nueva de riesgo: los datos fluyen a plataformas de terceros para el entrenamiento de modelos de IA, lo que queda fuera de los controles de seguridad tradicionales. La realidad es que la mayoría de las herramientas de seguridad de datos y SaaS no fueron diseñadas para manejar la naturaleza dinámica e impredecible de las aplicaciones de IA que estamos viendo.
Creando una cultura de innovación segura
Los equipos de seguridad exitosos reconocen que asegurar la adopción de IA no es solo un desafío técnico, sino también cultural. En lugar de reaccionar constantemente a herramientas de IA no autorizadas, están construyendo lo que llamo una "cultura de seguridad positiva hacia la IA", que permite la innovación mientras mantiene la supervisión de seguridad. ¿Cómo se ve esto en la práctica? Comienza con una gobernanza proactiva y detección de Shadow AI para identificar y controlar las aplicaciones de IA no autorizadas antes de que se conviertan en pasivos de seguridad. Los elementos clave incluyen: comités de gobernanza de IA multifuncionales que reúnan a equipos de seguridad, TI, legal y negocio para establecer pautas claras para una adopción segura de IA (esto es especialmente crítico para industrias altamente reguladas como finanzas, infraestructura crítica y salud); descubrimiento automatizado del uso de Shadow AI para proporcionar visibilidad en tiempo real de aplicaciones y flujos de datos de IA no autorizados; y políticas claras y ejecutables que eduquen a los equipos sobre qué herramientas de IA están aprobadas, qué datos se pueden usar y cómo integrarlas de forma segura.
Plan de juego: cómo ganar en la era de Shadow AI
Los equipos de seguridad necesitan un enfoque estructurado que combine detección, aplicación de políticas y monitoreo continuo. Aquí hay una hoja de ruta práctica para comenzar:
Pasos inmediatos
- Mapea tu exposición a la IA. Utiliza herramientas de detección de Shadow AI para descubrir qué aplicaciones de IA están usando ya los empleados, en lugar de confiar en autoinformes. Fomenta la transparencia en lugar de penalizar el uso.
- Identifica tus joyas de la corona. Determina qué datos deben protegerse estrictamente de las herramientas de IA externas y establece políticas y controles de acceso claros para hacerlos cumplir.
- Aplica políticas de seguridad de IA. Aprovecha CASB, SSPM y soluciones DLP con conciencia de IA para detectar y bloquear el intercambio no autorizado de datos con IA.
Estrategias a largo plazo
- Construye un marco de gobernanza de IA que evolucione con el negocio para garantizar que las políticas sigan siendo relevantes a medida que avanzan las herramientas de IA.
- Invierte en capacitación de seguridad específica para IA en toda la empresa, que explique por qué las herramientas de IA presentan riesgos, no solo una lista de aplicaciones restringidas.
- Implementa monitoreo continuo para detectar servicios de IA no autorizados a medida que surgen.
Cómo Reco ayuda a las organizaciones a asegurar Shadow AI
Los equipos de seguridad no pueden permitirse perseguir cada herramienta de IA que ingresa a la empresa. Además, pedir a las personas que informen todas las herramientas de IA que usan no es una estrategia escalable. Y aunque soluciones tradicionales como CASB y complementos de navegador pueden ofrecer información sobre algunos servicios no autorizados, no reconocen asistentes de IA o copilotos que comparten un dominio con tus herramientas aprobadas. Entonces, ¿cómo puedes recuperar el control de las herramientas de IA que se usan en tu empresa? Reco puede ayudar. Reco es una solución dinámica de seguridad SaaS que sigue el ritmo de cambio de las aplicaciones SaaS. Reco puede descubrir todas las herramientas de IA no autorizadas que operan en tu entorno. De hecho, generará una alerta en el momento en que se active una nueva herramienta de IA y proporcionará inteligencia sobre quién usa qué, cómo se autentican y qué tan riesgoso es cada servicio. Clasifica las alertas en orden de gravedad y proporciona contexto empresarial, lo que permite a los equipos de seguridad tomar las medidas adecuadas para gestionar y priorizar los riesgos asociados con Shadow AI. Obtén más información sobre cómo funciona Reco en este artículo: Product Walkthrough: How Reco Discovers Shadow AI in SaaS.
Dvir es el Director de Investigación de Seguridad en Reco, donde aporta una amplia experiencia en ciberseguridad adquirida durante más de una década en capacidades tanto ofensivas como defensivas. Sus áreas de especialización incluyen operaciones de equipo rojo, respuesta a incidentes, operaciones de seguridad, gobernanza, investigación de seguridad, inteligencia de amenazas y protección de entornos en la nube. Con certificaciones CISSP y OSCP, Dvir es apasionado por la resolución de problemas, el desarrollo de scripts de automatización en PowerShell y Python, y profundizar en la mecánica de romper cosas.
