.jpeg){kind=logo}
Durante años, en el ámbito de la ciberseguridad se ha hablado de cómo podrían ser los ataques impulsados por la IA. Ya no tenemos que imaginarlo. En los últimos 90 días, hemos visto cómo los ataques asistidos por IA y cada vez más autónomos han pasado de los entornos de investigación al mundo real. Hemos sido testigos de una campaña de ransomware con agentes autónomos. Hemos visto cómo se utilizaba la IA para modificar repetidamente un « malware » hasta que este lograra eludir las defensas. Hemos visto cómo agentes de IA escapaban de entornos de evaluación y llegaban a empresas reales y a sistemas gubernamentales. Hemos visto cómo credenciales, infraestructura de « cloud », API, VPN, bases de datos, código fuente y servicios de confianza se veían arrastrados a las rutas de ataque.
Nuestro equipo de investigación en seguridad de Vectra AI ha realizado un trabajo excelente al analizar en profundidad el incidente de Hugging Face. Pero lo más relevante no es Hugging Face, sino la tendencia que se está perfilando a su alrededor. Solo en el último trimestre:
- JadePuffer mostró cómo un agente de IA llevaba a cabo una campaña de extorsión, desde la fase de reconocimiento hasta el robo de credenciales, el movimiento lateral, el cifrado y la petición de rescate.
- Las actividades relacionadas con «Midnight Blizzard» revelaron que se utilizaba la inteligencia artificial en un circuito cerrado para poner a prueba un « malware » frente a las defensas, modificarlo cuando se detectaba y volver a implementarlo hasta que funcionara.
- Los agentes de evaluación de OpenAI llegaron a infraestructuras del mundo real, entre ellas Hugging Face y el entorno de estadísticas de Medicare de Australia.
- Anthropic, Meta y Google han revelado, cada una por su parte, ejemplos de agentes de IA que han traspasado los límites previstos en las pruebas y han obtenido acceso no autorizado a organizaciones reales.
- Otros incidentes pusieron de manifiesto el uso de agentes de IA para llevar a cabo ataques a paquetes de software, el uso indebido de asistentes de programación y las intrusiones en empresas en varias fases.
Diferentes incidentes. Diferentes modelos. Diferentes técnicas. La misma lección: la IA está cambiando la velocidad y la magnitud de los ataques. No está cambiando lo que, en última instancia, tienen que hacer los atacantes. Una vez dentro, un atacante sigue teniendo que comprender el entorno, encontrar y utilizar credenciales, ampliar sus privilegios, desplazarse lateralmente, comunicarse y, finalmente, acceder a algo valioso. Las herramientas cambian. Los exploits cambian. Los modelos cambian. El comportamiento, no.
La IA conductual revela cómo se desarrollan realmente los ataques de IA
Esa es la parte que, en mi opinión, más importa para los defensores. Si nos fijamos en muchas de las acciones individuales que se producen en el marco de estos ataques, no resultan obviamente maliciosas. Una llamada a la API de cloud , una solicitud de token, un inicio de sesión, el acceso de una cuenta de servicio a una carga de trabajo, una nueva conexión VPN, una solicitud de Kubernetes o una contraseña reutilizada pueden ser, por sí solas, acciones legítimas. Por lo tanto, la pregunta de seguridad más pertinente no es simplemente: «¿Es maliciosa esta acción?», sino: «¿Tiene sentido este comportamiento para esta identidad, en este entorno y en este momento?».
Ahí es donde cobra importancia la IA conductual. En lugar de esperar a una firma o indicador conocido, la IA conductual analiza lo que una entidad está haciendo realmente. ¿Está explorando el entorno? ¿Haciendo un uso indebido de credenciales? ¿Ampliando sus privilegios? ¿Desplazándose lateralmente? ¿Estableciendo un sistema de mando y control? ¿Accediendo a algo a lo que normalmente no tiene acceso? ¿Transfiriendo datos de forma inusual? La cuestión no es conocer todas las técnicas que un atacante impulsado por IA podría inventar en el futuro. Se trata de comprender cuándo un comportamiento empieza a parecer un ataque.
Y, cada vez más, la identidad que se esconde tras ese comportamiento no es necesariamente una persona. El entorno de IA está gestionado por usuarios humanos, cuentas de servicio, cargas de trabajo, identidades de máquina, API, automatización y, ahora, agentes de IA. Se puede confiar en todos y cada uno de ellos. Pero también se puede hacer un uso indebido de todos y cada uno de ellos. Por lo tanto, los responsables de la seguridad deben comprender el comportamiento tanto de las identidades humanas como de las no humanas.
Por qué la red y la identidad son fundamentales para la detección de ataques mediante IA
Por eso creo que «Red + Identidad» debe convertirse en la base para defender la empresa de IA. La red te ofrece la información en tiempo real de lo que está ocurriendo realmente: qué sistemas se están comunicando, dónde se produce el movimiento lateral, qué protocolos se están utilizando, cómo se mueven los datos y cómo cambia el comportamiento a medida que avanza un ataque. La identidad te ofrece la otra mitad de la historia: quién —o, cada vez más, qué— hay detrás de esa actividad. ¿Se trata de una persona, una cuenta de servicio, una carga de trabajo, una identidad de máquina, una identid cloud e o un agente de IA? ¿Qué privilegios ha ejercido? ¿Qué relaciones de confianza ha utilizado? ¿Tiene sentido esa actividad teniendo en cuenta lo que suele hacer esa identidad?
Se necesitan ambas cosas porque los atacantes no respetan nuestras categorías de productos de seguridad. No se limitan estrictamente a los puntos finales, la identidad, cloud, la red o el SaaS. Se desplazan de la identidad a cloud, de cloud a la carga de trabajo, de la carga de trabajo a la red, de la red a la infraestructura interna, de las instalaciones locales al SaaS y de una identidad de confianza a otra. Ninguna alerta de punto final por sí sola ofrece una visión completa de la situación. Tampoco lo hace un evento de identidad, una alerta de cloud o una detección de red por separado. El ataque se produce en las conexiones entre ellos.
Ahí es donde cobra importancia la « Attack Signal Intelligence ». Esta conecta esos comportamientos a través de identidades, sistemas, dominios y el tiempo, de modo que los defensores puedan comprender el ataque tal y como se está desarrollando en realidad.
Cinco alertas pueden constituir un único ataque
Creo que el departamento de seguridad ha dedicado demasiado tiempo a presumir de la cantidad de cosas que somos capaces de detectar. La detección ya no es el problema. El problema es la comprensión. Un sistema detecta un descubrimiento inusual de cloud . Otro detecta un uso sospechoso de privilegios. Otro identifica una nueva credencial. Otro detecta un movimiento lateral. Otro señala un acceso inusual a SaaS. Cinco productos pueden generar cinco alertas en cinco colas diferentes, pero eso no significa necesariamente que haya cinco problemas. Puede que haya un único atacante moviéndose por cinco partes del entorno.
Attack Signal Intelligence , impulsado por IA, integra todos esos comportamientos. Combina la IA conductual con el contexto de la red y la identidad para comprender quién o qué está involucrado, cómo se relaciona la actividad y cuál será el siguiente paso del ataque. Esa distinción es importante porque los atacantes que utilizan IA no esperan a que un analista correlacione manualmente cinco consolas. Son capaces de observar, razonar, actuar, adaptarse e intentarlo de nuevo a la velocidad de una máquina. Los defensores necesitan la misma capacidad para comprender y actuar con rapidez.
Aquí es también donde creo que el debate sobre la IA en el SOC se vuelve interesante. Soy tremendamente optimista respecto a lo que la IA puede aportar a los responsables de la seguridad, pero incorporar un agente de IA a miles de alertas inconexas no resuelve el problema por arte de magia. Quizá solo nos ayude a filtrar el ruido más rápidamente. La IA solo es tan buena como la señal que hay detrás de ella.
Si le das a un agente de IA alertas inconexas, un contexto escaso y una atribución incompleta, le estás pidiendo que le saque sentido a una mala mano. Si, en cambio, le proporcionas detecciones de comportamiento vinculadas a la identidad correcta —ya sea humana o no humana—, enriquecidas con contexto de red e identidad y correlacionadas entre entornos locales y de cloud , la IA podrá hacer algo mucho más valioso. Podrá reconstruir cómo se desarrolló un ataque, identificar las identidades y los sistemas afectados, explicar por qué ese comportamiento es relevante, priorizar lo que merece atención, recomendar la siguiente acción y ayudar a automatizar la investigación y la respuesta.
Así es como veo la lucha contra la IA con IA. No se trata de aplicar IA a las alertas, sino de aplicar IA a una fuente fiable: Attack Signal Intelligence.
Por eso se creó Attack Signal Intelligence
En Vectra AI, nuestra convicción es muy sencilla: la inteligencia de comportamiento basada en la IA ( Attack Signal Intelligence ), que se sustenta en la combinación de red e identidad, es la forma en que los defensores combaten los ataques impulsados por la IA utilizando la propia IA. Aplica la IA de comportamiento a identidades humanas y no humanas. Entiende el comportamiento tanto en entornos locales como en cloud . Funciona en tiempo real, mientras el ataque se está produciendo. Y lo más importante: relaciona los comportamientos entre identidades, sistemas y dominios para que las personas —y, cada vez más, los agentes de IA que trabajan junto a ellas— puedan comprender el ataque con la rapidez suficiente como para tomar medidas al respecto.
Porque el objetivo no es recibir más alertas. Ni siquiera es detectar más amenazas. El objetivo es responder a la pregunta que, en última instancia, todo equipo de seguridad necesita que se le responda: ¿Estamos sufriendo un ataque en este momento?
Los últimos 90 días deberían dejar una cosa muy clara: los ataques basados en IA no son algo para lo que nos estemos preparando de cara a dentro de cinco años. Ya están aquí, y cada vez serán más rápidos. Los modelos cambiarán. Las vulnerabilidades cambiarán. Las técnicas de ataque cambiarán. La IA facilitará a los atacantes la tarea de experimentar, adaptarse y actuar a una escala que los seres humanos simplemente no podían alcanzar antes.
Pero los atacantes siguen teniendo que actuar. Siguen teniendo que utilizar identidades. Siguen teniendo que comunicarse a través de las redes. Siguen teniendo que moverse por el entorno. Y ese comportamiento sigue revelando la verdad.
Por eso no creo que la ventaja en la era de la IA vaya a consistir en intentar predecir cada nueva técnica de ataque de la IA. La ventaja vendrá de comprender continuamente quién y qué está actuando en toda la empresa, cómo se comportan y cuándo ese comportamiento se convierte en un ataque.
La red nos dice qué ha ocurrido. La identidad nos dice quién o qué lo ha hecho. La IA conductual nos dice cuándo es relevante. Si se combinan todos estos elementos, se obtiene la señal fiable que los defensores —y su IA— necesitan para combatir los ataques a la velocidad de la IA con la misma velocidad.
Puedes leer más entradas de Mark Wojtasiak, aquí en el blog « Vectra AI ».