A medida que la IA se integra en toda la empresa, las conversaciones sobre seguridad suelen centrarse en los modelos, las capacidades y las nuevas clases de riesgos técnicos. Lo que se debate mucho menos es el problema de diseño que esto plantea: cómo se espera que los seres humanos comprendan, confíen y actúen en función de las señales producidas por sistemas que operan de forma probabilística y a la velocidad de una máquina.
Para aquellos de nosotros que trabajamos en UX en el ámbito de la ciberseguridad, este problema no es nuevo.
Durante más de una década, el equipo de UX de Vectra se ha centrado en un único y persistente reto: cómo sacar a la luz el complejo comportamiento de los atacantes de forma que resulte comprensible, viable y fiable para los seres humanos. Mucho antes de que la IA se convirtiera en una preocupación generalizada para las empresas, Vectra ya se enfrentaba a sistemas opacos, señales inciertas y la necesidad de respaldar la toma de decisiones de alto riesgo bajo presión.
Esa experiencia cobra especial relevancia ahora que la propia IA entra en el panorama de las amenazas.
De los resultados de la IA de caja negra al comportamiento comprensible del atacante
Las redes modernas generan enormes volúmenes de señales que los seres humanos no pueden interpretar fácilmente por sí mismos. Las herramientas que se superponen a ello suelen añadir dificultad, ya que producen puntuaciones, alertas y detecciones aisladas que carecen del contexto que los analistas necesitan para actuar con confianza.
Con el tiempo, la experiencia de usuario eficaz en materia de seguridad ha pasado de presentar resultados sin procesar a hacer que el comportamiento sea legible:
- Cómo se desarrolla la actividad a lo largo del tiempo
- ¿Qué identidades y sistemas están involucrados?
- ¿Qué secuencias de acciones generan riesgo?
- Por qué algo importa ahora, y no solo por el hecho de que haya ocurrido.
El objetivo nunca ha sido la certeza absoluta. Ha sido apoyar el juicio humano en presencia de ambigüedad. Eso requiere traducir datos probabilísticos, a menudo confusos, en narrativas coherentes que las personas puedan evaluar y sobre las que puedan actuar.
Es fundamental señalar que estos datos rara vez están limpios o bien estructurados. No se parecen a hojas de cálculo ni formularios. Llegan en forma de fragmentos que solo cobran sentido cuando se conectan, contextualizan e interpretan.
La experiencia de usuario es la capa que realiza esa traducción.
Los atacantes de IA cambian la velocidad, no el comportamiento.
La introducción de atacantes impulsados por IA cambia la escala y el ritmo de los ataques de manera significativa. Los sistemas autónomos pueden ayudar a los atacantes a operar de forma continua, adaptarse rápidamente y moverse a velocidades que superan con creces la capacidad humana.
Lo que no hacen es inventar categorías completamente nuevas de comportamiento malicioso.
Los atacantes de IA tendrán un aspecto diferente, pero se comportarán de la misma manera. Seguirán:
- Investigar los entornos en busca de puntos débiles.
- Abuso de identidad y acceso
- Moverse lateralmente a través de los sistemas
- Elevar privilegios
- Busca la persistencia y el impacto.
Lo hacen dentro de infraestructuras diseñadas por y para los seres humanos: proveedores de identidad, aplicaciones, redes y flujos de trabajo. Aunque el ritmo se acelera, los comportamientos subyacentes siguen siendo reconocibles.
Por eso es importante el diseño centrado en el comportamiento. Las interfaces creadas en torno a reglas estáticas o suposiciones frágiles tienen dificultades cuando los actores se adaptan más rápido de lo que esas reglas pueden evolucionar. El comportamiento sigue siendo una abstracción estable porque refleja la intención en lugar de la implementación.
La experiencia de usuario como capa de traducción
A medida que la detección y el análisis se realizan cada vez más a la velocidad de las máquinas, los seres humanos siguen siendo responsables de comprender lo que está sucediendo y decidir cómo responder. La brecha entre los sistemas automatizados y el juicio humano sigue ampliándose.
La experiencia de usuario en materia de seguridad existe para salvar esa brecha.
Su función no es eliminar la incertidumbre ni automatizar la toma de decisiones alejándola de las personas, sino hacer comprensible la complejidad:
- Hacer comprensible el razonamiento probabilístico sin simplificarlo en exceso.
- Mostrar patrones en lugar de abrumar a los usuarios con alertas.
- Proporcionar un contexto que explique por qué la actividad es importante.
- Apoyar la investigación y el razonamiento, no solo la reacción.
Esta capa de traducción se vuelve más crítica, y no menos, a medida que los sistemas se vuelven más autónomos.
Por qué es importante ahora
A medida que las organizaciones trabajan para proteger las empresas que utilizan inteligencia artificial, muchas están descubriendo que los modelos más avanzados por sí solos no resuelven el problema. En algunos casos, una mayor sofisticación puede aumentar la opacidad y erosionar la confianza.
Las lecciones aprendidas a lo largo de los años por el equipo de UX de Vectra AI una perspectiva útil para este momento. Diseñar para la IA requiere aceptar que:
- Los resultados serán desestructurados y probabilísticos.
- Los sistemas se adaptarán continuamente.
- La acción se desarrollará a la velocidad de la máquina.
- El juicio humano seguirá siendo la autoridad definitiva.
En este contexto, el comportamiento se convierte en la interfaz más fiable entre las máquinas y las personas.
Diseñar para juzgar
El futuro de la seguridad en las empresas de IA no vendrá determinado únicamente por las capacidades de detección. Dependerá de la eficacia con la que los seres humanos sean capaces de comprender y actuar en función de lo que revelen los sistemas automatizados.
La experiencia de usuario es donde ese entendimiento toma forma.
A medida que la IA se convierte en una fuerza más rápida y adaptable en los ataques, la capacidad de revelar el comportamiento de forma clara, coherente y creíble puede ser una de las defensas más importantes con las que contamos.