.jpeg){kind=logo}
Durante la mayor parte de las dos últimas décadas, la ciberseguridad se ha planteado como un problema que consiste en mantener alejados a los atacantes. Los cortafuegos, los dispositivos finales, la seguridad del correo electrónico y los controles de identidad se han diseñado en torno a una idea sencilla: si logramos evitar las intrusiones, podremos gestionar el riesgo. Cuando se producían incidentes, mirábamos hacia fuera. ¿Quién nos había atacado? ¿Cómo habían entrado? La amenaza interna siempre ha puesto en tela de juicio ese enfoque.
Los expertos nos recuerdan que algunos de los fallos de seguridad más graves no se originan en una intrusión. Comienzan con un acceso que ya se consideraba de confianza. Un empleado con permisos. Un sistema con credenciales. Un proceso al que se le permitió ejecutarse.
Históricamente, entendíamos el riesgo interno en términos humanos: un empleado malintencionado, un error por descuido, un usuario vulnerable. Esos escenarios siguen existiendo y siguen siendo importantes, pero ya no explican por completo la realidad de cómo funcionan las empresas hoy en día.
A medida que la inteligencia artificial se va integrando en el funcionamiento de las organizaciones —en cómo se toman las decisiones, cómo se automatiza el trabajo y cómo interactúan los sistemas—, está surgiendo una nueva forma de riesgo interno. Un riesgo que no está motivado por la intención, la emoción ni la negligencia. Un riesgo que opera de forma continua, autónoma y a la velocidad de una máquina.
Se trata del auge de lo que yo denomino el «iniciado artificial».
Reconsiderar el significado del término «insider» en el ámbito de la IA empresarial
Cuando la gente oye la expresión «información privilegiada artificial», puede parecer algo abstracto. Pero no lo es.
Un «insider» artificial es cualquier entidad no humana o impulsada por IA que opera dentro de la empresa con credenciales legítimas, acceso autorizado y la capacidad de actuar de forma independiente. Estas entidades ya están presentes en la mayoría de las organizaciones. Entre ellas se incluyen agentes de IA que actúan en nombre de usuarios o equipos, cuentas de servicio y API que automatizan el acceso y la toma de decisiones, cloud e integraciones SaaS y, cada vez más, agentes de IA personalizados creados por los propios empleados para ayudarles a trabajar con mayor rapidez.
Lo que convierte a estas entidades en personas con información privilegiada no es la intención maliciosa, sino la confianza.
- Se identifican de forma legítima.
- Acceden a los sistemas a los que tienen permiso para acceder.
- Transfieren los datos a los lugares a los que tienen permiso para hacerlo.
Desde el punto de vista de la seguridad, es precisamente ahí donde siempre ha residido el riesgo interno: dentro del perímetro de confianza. Lo que ha cambiado es la magnitud, la velocidad y la autonomía.
Cuando los atacantes no se cuelan en el sistema, sino que inician sesión y pasan desapercibidos
Uno de los cambios más importantes en el comportamiento de los atacantes en los últimos años ha sido el paso de los ataques de fuerza bruta al abuso de la confianza. Los atacantes actuales son conscientes de que, a menudo, lo más difícil de una intrusión es conseguir el acceso inicial. Una vez que disponen de credenciales, ya sean humanas o no, el propio entorno se encarga de gran parte del trabajo por ellos.
La IA acelera esta realidad.
Una vez dentro, los atacantes pueden utilizar herramientas automatizadas o basadas en inteligencia artificial para actuar como usuarios internos. Estos agentes no tienen por qué precipitarse. No tienen por qué llamar la atención. Pueden explorar pacientemente un entorno, identificar identidades y permisos, desplazarse lateralmente por los sistemas y adaptarse en función de lo que observan. Cada acción suele parecer legítima por sí sola. Una consulta. Una llamada a una API. Una conexión a un servicio autorizado. Las herramientas de seguridad tradicionales, que suelen analizar los eventos de forma aislada, tienen dificultades para reconocer el patrón general hasta que es demasiado tarde. No se trata de un nuevo tipo de ataque. Es uno ya conocido, pero ejecutado con mayor rapidez, de forma más silenciosa y con mucha menos resistencia.
De hecho, los atacantes están aprendiendo a actuar como personas de dentro, utilizando la automatización para hacer lo que antes hacían los humanos de forma manual.
El riesgo interno que generamos nosotros mismos
No todos los «insiders» artificiales son introducidos por atacantes. Muchos se crean internamente, por parte de empleados que intentan resolver problemas reales. En todas las organizaciones, los equipos están desarrollando agentes de IA para automatizar el análisis, la elaboración de informes, la interacción con los clientes, los flujos de trabajo operativos y el apoyo a la toma de decisiones. Conectan estos agentes a sistemas internos, API y fuentes de datos porque el negocio exige rapidez y eficiencia.
En la mayoría de los casos, este trabajo parte de buenas intenciones. Se trata de innovación en los límites de la organización. Son personas que utilizan nuevas herramientas para desempeñar mejor su trabajo. Pero desde el punto de vista del riesgo, estos agentes se convierten en «insiders» en el momento en que se les concede acceso y se les permite actuar de forma autónoma. No se limitan a existir como aplicaciones. Actúan. Toman decisiones. Ponen en marcha flujos de trabajo. Transfieren datos entre entornos. Y si uno de ellos está mal configurado, mal gestionado o comprometido, puede generar un riesgo igual o mayor que el de un «insider» humano, sin que nadie haya tenido jamás la intención de introducir ese riesgo.
Este es uno de los aspectos más difíciles de la era de la IA, ya que el riesgo no requiere mala intención. Solo requiere que una automatización en la que confiamos funcione fuera de nuestro campo de visión.
Por qué el modelo tradicional de amenazas internas ya no es válido
La forma en que tradicionalmente hemos concebido el riesgo interno se basa en una serie de supuestos que ya no son válidos.
En primer lugar, parte de la base de que los usuarios internos son humanos. Los humanos actúan a un ritmo humano. Dudan. Cambian de contexto. Su comportamiento es inconsistente y, a menudo, predecible. Los usuarios internos impulsados por IA no se comportan así. Actúan de forma coherente, continua y en todos los sistemas.
En segundo lugar, se parte de la base de que el riesgo está vinculado a la intención o la negligencia. Los «insiders» artificiales no tienen ni lo uno ni lo otro. Cuentan con permisos, instrucciones y un contexto operativo. El riesgo surge cuando esos factores dejan de ajustarse a la realidad, a menudo más rápido de lo que los controles pueden adaptarse.
En tercer lugar, da por hecho que los defensores disponen de tiempo. En un entorno basado en la inteligencia artificial, los plazos se acortan. Lo que antes se desarrollaba a lo largo de días o semanas, ahora puede suceder en cuestión de minutos. Los procesos de detección y respuesta gestionados por personas nunca se diseñaron para este ritmo.
El resultado no es que los defensores estén fallando, sino que la naturaleza del riesgo ha cambiado.
Por qué es importante a nivel directivo
Este cambio no es solo técnico. Es organizativo y estratégico.
La inteligencia artificial se está incorporando en todas las empresas porque los directivos confían en ella para impulsar la productividad, la escalabilidad y la competitividad. Esa confianza es necesaria. Pero la confianza, sin una visibilidad y una verificación continuas, se convierte en un riesgo cuando los sistemas actúan de forma autónoma. Los consejos de administración y los organismos reguladores plantean preguntas más difíciles que nunca. ¿Estamos seguros en este momento? ¿En qué aspectos estamos expuestos? ¿Funcionan realmente los controles en los que hemos invertido?
Es difícil responder a esas preguntas en entornos en los que las identidades no humanas y los agentes de IA cambian constantemente de comportamiento, a menudo fuera del alcance de los controles tradicionales. Y aunque los actores puedan ser nuevos, la responsabilidad no ha cambiado. Cuando un sistema basado en IA provoca una brecha de seguridad, un incumplimiento normativo o una interrupción en la actividad empresarial, la responsabilidad sigue recayendo en la dirección.
La realidad del CISO en la era de la IA
Los CISO se enfrentan a uno de los momentos más complejos que ha vivido nunca su cargo.
Se espera que faciliten la adopción de la IA, fomenten la innovación, reduzcan las fricciones y mantengan la seguridad y el cumplimiento normativo, todo ello al tiempo que protegen entornos en los que las identidades no humanas superan en número a las personas y la automatización avanza más rápido que la supervisión humana. No se trata de un fallo de las herramientas ni de los equipos. Es una falta de correspondencia entre la forma en que se ha aplicado tradicionalmente la seguridad y la forma en que operan ahora las empresas modernas. El reto ya no consiste simplemente en prevenir las acciones malintencionadas, sino en comprender el comportamiento con la rapidez suficiente para tomar decisiones fundamentadas.
Por qué la prevención por sí sola no basta
La gobernanza, las políticas y los controles preventivos siguen siendo esenciales. Pero, por sí solos, no pueden resolver el problema de los «insiders» artificiales. Estas entidades operan una vez que se les ha concedido el acceso. Una vez autenticadas, se da por hecho que sus acciones son legítimas. La visibilidad se fragmenta entre los distintos sistemas. El riesgo se esconde en las conexiones entre dominios. Se trata del mismo punto ciego que siempre ha existido con las amenazas internas, ahora amplificado por la automatización, la escala y la velocidad. Intentar prevenir cada acción de riesgo ralentizaría el negocio hasta paralizarlo. Esa no es una vía viable para avanzar. En su lugar, la resiliencia debe basarse en una comprensión continua del comportamiento, no en una confianza estática.
De la identidad al comportamiento
El cambio más importante que deben llevar a cabo las organizaciones es pasar de preguntarse quién ha realizado una acción a comprender cómo evoluciona el comportamiento a lo largo del tiempo.
Los responsables de seguridad deben poder ver qué identidades, tanto humanas como no humanas, están activas, cómo se comportan en los distintos sistemas, a qué ritmo avanza la actividad y cuál podría ser el impacto potencial si esta continúa. Se trata de cuestiones operativas. No pueden responderse con datos de telemetría aislados, evaluaciones puntuales o revisiones trimestrales.
Necesitan una visibilidad que esté a la altura de la velocidad y la interconexión de la empresa moderna.
El verdadero riesgo no es la IA, sino la confianza ciega a la velocidad de las máquinas
La IA no es algo a lo que las organizaciones puedan renunciar. Se está convirtiendo en el modelo operativo de la empresa moderna. Ya existen «agentes internos artificiales» en nuestros entornos. Algunos se han implementado deliberadamente. Otros se han creado de forma discreta. Es posible que algunos ya estén actuando en nombre de los atacantes.
La cuestión a la que deben enfrentarse los líderes no es si existen estas personas con información privilegiada, sino si son capaces de percibir, comprender y controlar su comportamiento lo suficientemente bien como para confiar en ellas de forma responsable.
En la era de la inteligencia artificial, la amenaza interna no ha desaparecido. Ha evolucionado. Se ha automatizado. Y ahora avanza a la velocidad de una máquina. Reconocer esa realidad —y adaptar nuestra forma de pensar sobre la confianza y el riesgo— es uno de los retos de liderazgo más importantes a los que nos enfrentamos.
Puedes leer más entradas de Mark Wojtasiak, aquí en el Vectra AI .