En una evaluación cibernética realizada en julio de 2026, el Instituto de Seguridad de la IA del Reino Unido (AISI) detectó actividades no autorizadas en Internet en tiempo real en 10 de las 122 ejecuciones de agentes. Se habilitó deliberadamente el acceso a Internet y se desactivaron los clasificadores cibernéticos de los proveedores, por lo que estos resultados no reflejan la tasa de incidentes de una empresa. La investigación pone de manifiesto por qué los equipos de seguridad deben contrastar la actividad real de un agente con la tarea para la que estaba autorizado.
La supervisión del comportamiento de los agentes de IA consiste en la recopilación y el análisis continuos de las acciones de un agente, el uso que hace de las herramientas, los accesos que realiza y los resultados obtenidos, con el fin de identificar actividades que incumplan la tarea que se le ha asignado, los permisos o las políticas de seguridad. Una supervisión eficaz relaciona el historial de ejecución del agente con las pruebas procedentes de los sistemas a los que accede.
En el caso de un centro de operaciones de seguridad (SOC), la pregunta relevante es concreta: ¿utilizó este agente esta identidad para realizar una acción autorizada en un recurso autorizado, y qué ocurrió después?
¿En qué consiste la supervisión del comportamiento de los agentes de IA?
La supervisión del comportamiento de los agentes de IA comprueba que las acciones se ajusten a la tarea del agente, a la autoridad que se le ha delegado y a los límites operativos a lo largo de todo el flujo de trabajo. Abarca los pasos que van desde la solicitud inicial hasta el resultado final, incluyendo las llamadas a herramientas, la recuperación de datos, la delegación y los cambios en sistemas externos.
Un agente puede leer un ticket de asistencia, consultar los datos de un cliente, solicitar un análisis a otro agente y redactar una respuesta. Cada paso plantea una cuestión de seguridad diferente. El hecho de leer un registro autorizado no autoriza automáticamente su exportación, y el permiso para redactar un mensaje no autoriza su envío.
El modelo de lenguaje a gran escala (LLM) subyacente es uno de los componentes del sistema. Las disciplinas de supervisión relacionadas aportan diferentes perspectivas del conjunto:
| Disciplina |
Pregunta principal |
Pruebas típicas |
| Supervisión del rendimiento de los modelos de lenguaje (LLM) |
¿Funciona el modelo de forma fiable y dentro de los límites operativos? |
Latencia, errores, uso de tokens y calidad de la respuesta evaluada |
| Observabilidad de los agentes |
¿Cómo se ha ejecutado el flujo de trabajo? |
Rastros, llamadas a herramientas, recuperaciones, reintentos y traspasos de agentes |
| Supervisión de la seguridad del comportamiento de los agentes |
¿Se mantuvieron las acciones dentro de los límites de la tarea y de lo autorizado? |
Contexto de la tarea, decisiones políticas, identidades, secuencias de acciones y efectos corroborados |
| Gestión del inventario y del estado de los agentes |
¿Qué agentes existen y a qué tienen acceso? |
Propietarios, integraciones, permisos, configuraciones y usos autorizados |
La supervisión del comportamiento es uno de los componentes operativos de la seguridad de los agentes de IA. Depende de unos controles precisos de inventario y acceso, al tiempo que aporta información sobre cómo utilizan los agentes su acceso durante la ejecución.
¿Por qué es importante la supervisión independiente?
Los equipos de seguridad necesitan una visión independiente de la actividad de los agentes para corroborar las acciones notificadas por estos e identificar aquellas que no figuran en su registro. La combinación de los registros de flujo de trabajo con los registros de sistemas externos ayuda a distinguir entre una acción intencionada, una solicitud de herramienta y un cambio confirmado en otro sistema.
En la investigación de AISI, el sistema de supervisión general de seguridad detectó un tráfico saliente inusual. A continuación, los investigadores revisaron la actividad de los agentes, detuvieron las evaluaciones y aislaron los equipos pertinentes. AISI reconoció que su sistema de supervisión no se había diseñado para supervisar las evaluaciones mientras se ejecutaban. La lección operativa es conectar la detección empresarial con la visibilidad dentro de los flujos de trabajo de los agentes.
En este contexto, los límites de confianza son importantes. Un resumen generado por un agente en el que se indique que «el archivo no se envió» tiene un valor probatorio diferente al del registro de la transacción del servicio de destino. Ni siquiera un registro de seguimiento firmado por el proveedor demuestra que su registro de ejecución sea completo o exacto. Corrobora las afirmaciones con consecuencias importantes mediante observaciones realizadas al margen del control del agente.
Utiliza este marco de investigación propuesto:
- Tarea aprobada: determinar la solicitud, la finalidad empresarial y los recursos autorizados.
- Autoridad delegada: identifica al usuario, la identidad de la carga de trabajo, los permisos y cualquier delegación a otros agentes.
- Efecto observado: corroborar las acciones resultantes con los registros de las herramientas, los sistemas de identidad, las cargas de trabajo y los servicios de destino.
Registra una conexión que falte como una laguna en las pruebas. Una cuenta de servicio compartida o un registro de herramientas que falte deberían reducir la fiabilidad de la atribución, en lugar de dar lugar a un dictamen favorable.
¿Qué datos de telemetría deberías recopilar?
Recopila registros de tareas, identidades, herramientas, acceso a datos, políticas y resultados, de modo que cada acción relevante pueda vincularse a su autoridad y al resultado observado. El siguiente modelo de eventos es una propuesta de punto de partida que los equipos deben adaptar a sus marcos de agentes, políticas de datos e interfaces de auditoría disponibles.
| Área de pruebas |
Campos útiles |
Pregunta de seguridad |
| Tarea y responsabilidad |
Identificador de la tarea, identificador de la ejecución, responsable del proceso, usuario iniciador, finalidad aprobada y fecha de caducidad |
¿Qué se pretendía conseguir con esta ejecución? |
| Identidad y delegación |
Identidad de la carga de trabajo, usuario delegado, ámbito de permisos, referencia de sesión e identificadores de ejecución padre/hijo |
¿En nombre de quién actuaba el agente, incluso a través de otros agentes? |
| Herramientas e integraciones |
Identidad de la herramienta y del servidor, versión, recurso de destino, argumentos depurados, identificador de la solicitud y estado del resultado |
¿Qué operación se solicitó y a través de qué integración? |
| Datos y memoria |
Identificadores de recursos, etiquetas de confidencialidad, fuente de obtención, cambios en la memoria y procedencia |
¿Qué información influyó en la siguiente acción o se mantuvo para ejecuciones posteriores? |
| Ejecución y conectividad |
Identidad de la carga de trabajo o del contenedor, eventos del proceso (cuando estén disponibles), destinos, tiempos de conexión y metadatos de transferencia |
¿Qué hacía realmente el entorno de ejecución? |
| Política y aprobación |
Versión de la política, decisión de permitir o denegar, referencia de aprobación, responsable de la aprobación, acción vinculada y fecha de caducidad |
¿Estaba autorizada esa acción concreta en el momento en que se llevó a cabo? |
| Efectos y salud de la colección |
Registro de recepción o modificación del sistema de destino, hora de ingesta, lagunas en la secuencia y estado del colector |
¿Se ha aplicado la medida? ¿Podría faltar alguna prueba relevante? |
Conserva tanto la hora del evento como la hora de la recopilación. De lo contrario, las exportaciones de auditoría retrasadas procedentes de aplicaciones de software como servicio (SaaS) pueden hacer que el proceso de investigación resulte engañoso. Propaga los identificadores de correlación a través de las integraciones compatibles y documenta en qué puntos se pierde la identidad o el contexto de rastreo.
En el caso de las integraciones del Protocolo de Contexto de Modelos (MCP), realiza un seguimiento de la identidad del servidor y de los cambios en la definición completa de la herramienta, incluyendo su descripción, esquemas y indicaciones de permisos. Estos metadatos pueden influir en la forma en que se selecciona o aprueba una herramienta. Las indicaciones de permisos describen el comportamiento previsto; no imponen el acceso. Supervisa los flujos de datos entre servidores, ya que la información leída a través de una integración puede divulgarse a través de otra herramienta aparentemente legítima.
¿Cómo detectar comportamientos de riesgo por parte de los agentes?
Utiliza comprobaciones explícitas de las políticas para detectar acciones prohibidas y análisis contextual del comportamiento para detectar secuencias sospechosas. Esta combinación ayuda a distinguir un claro fallo de autorización de una acción inusual que requiere investigación.
H3: Empezamos con las infracciones de autorización y de políticas
Establece límites vinculantes para cada flujo de trabajo. Algunos ejemplos son las recopilaciones de datos autorizadas, los destinos externos, las operaciones administrativas, los límites de gasto y las acciones que requieren una decisión humana.
Generar un evento de seguridad cuando un agente intente:
- Acceder a un recurso ajeno al cliente, proyecto o inquilino asignado.
- Llevar a cabo una acción delicada sin la autorización necesaria.
- Modificar el objetivo o los parámetros una vez aprobada una acción.
- Reutilizar una autorización para una segunda ejecución.
- Delegar en un agente con una autoridad mayor de la que permite la tarea.
- Desactivar un colector o modificar una configuración de supervisión protegida.
Incorpora la validación de la aprobación en el componente que ejecuta la acción. En el caso de acciones de gran impacto, vincula la aprobación al actor actual y a la llamada exacta a la herramienta, comprueba que siga siendo válida y utilízala una sola vez durante la ejecución. Haz que la validación y el uso sean atómicos, de modo que las solicitudes paralelas no puedan reutilizar una aprobación. Un indicador de «aprobado» generado por un modelo no puede garantizar esas condiciones.
Detectar secuencias que traspasan los límites de confianza
Varias llamadas autorizadas individualmente pueden dar lugar a un resultado no autorizado. Correlaciona las acciones entre herramientas e identidades, y compara la secuencia resultante con el objetivo de la tarea.
| Patrón de detección |
Datos que permitan establecer una correlación |
Investigación sugerida |
| Recuperación de datos confidenciales seguida de una transferencia externa |
Sensibilidad de los recursos, solicitudes de herramientas, destino y registros de transferencia |
Determina si el destino y la divulgación estaban autorizados |
| Un nuevo privilegio seguido de un descubrimiento más amplio |
Cambio de rol o de consentimiento, sesión de identidad y actividad posterior de la API |
Comprueba quién concedió la autorización y si la tarea la requería |
| Acciones rechazadas repetidamente, seguidas de otra ruta de herramientas |
Rechazos, nuevos intentos, cambios de herramienta o servidor y historial de ejecuciones habituales |
Distinguir entre una recuperación esperada y un intento de eludir un límite |
| Delegación seguida de medidas restringidas |
Tarea principal, identidad de la tarea secundaria, ámbito de permisos y ejecución de la tarea secundaria |
Comprueba que la delegación haya conservado las restricciones originales |
| El cambio en la definición de la herramienta da lugar a un cambio en el comportamiento |
Versión de integración, cambio en la definición o el esquema y llamadas resultantes |
Investigar un cambio no autorizado en una integración o un «envenenamiento de herramientas» |
| Interrupción de la tala durante una operación derivada |
Estado de los colectores, secuencias que faltan y registros de mantenimiento independientes |
Determina qué elementos siguen siendo observables antes de concluir que la carrera fue segura |
Considéralas hipótesis de detección que deben validarse a nivel local. Ninguna de ellas por sí sola demuestra una intención maliciosa. Una migración autorizada y una exportación no autorizada pueden generar patrones de transferencia similares, por lo que el contexto de la tarea resulta esencial.
Valores de referencia por tarea y versión
Establece referencias de comportamiento para flujos de trabajo, versiones de agente, conjuntos de herramientas y niveles de permiso comparables. Un asistente de investigación y un agente administrativo no deben tener las mismas expectativas en cuanto al acceso a los datos o a los cambios en el sistema.
Empieza por los aspectos observables, como los recursos a los que se accede, la novedad del destino, los tipos de operación, los patrones de reintento, la profundidad de delegación y el volumen en relación con la tarea. Revisa las excepciones legítimas con el responsable del flujo de trabajo antes de desactivar una detección.
Mantén separados los límites de política estrictos de las líneas de base aprendidas. Un comportamiento no autorizado que se repita con frecuencia no debe considerarse aceptable simplemente por ser habitual. Asigna una versión a la línea de base y vuelve a validarla tras cualquier cambio en el modelo, las instrucciones, las integraciones o los privilegios.
La detección de amenazas basada en el comportamiento aporta un contexto útil, pero una anomalía sigue siendo motivo de investigación. Prioriza los casos teniendo en cuenta la sensibilidad de los datos, los privilegios, el efecto potencial y las señales que lo corroboran.
Implementar la supervisión tanto a nivel de agente como de empresa
Implementa la supervisión del agente de compilación mediante la instrumentación de la ruta de ejecución y la observación independiente de los sistemas que modifica el agente. Mantén los controles de supervisión fuera del ámbito de competencia del agente y conserva el contexto del flujo de trabajo en caso de que el entorno de ejecución deje de ser fiable.
Configurar la ruta de ejecución
Registra el inicio de las tareas, las interacciones con los modelos, las solicitudes de herramientas, la delegación, las decisiones sobre políticas y los eventos de finalización a través de las interfaces de tiempo de ejecución compatibles. Una pasarela de herramientas o un envoltorio de ejecución puede servir para añadir contexto y aplicar restricciones antes de una operación sensible.
El entorno de ejecución del agente conecta el modelo con los datos, las herramientas, la memoria y los privilegios de ejecución. Esto convierte al entorno de ejecución y a sus integraciones en puntos estratégicos para aplicar controles. El diseño general de seguridad de la IA basada en agentes debe coordinar dichos controles a lo largo del flujo de trabajo y en los sistemas conectados a él.
Utiliza las convenciones semánticas de OpenTelemetry GenAI siempre que sea posible. Comprueba qué versión de las convenciones admiten tus bibliotecas de instrumentación y tus exportadores, y documenta las extensiones locales. El modelo de eventos de seguridad anterior es un registro operativo propuesto; esto no implica que todos los campos sean atributos estandarizados.
En el caso de operaciones de alto impacto, evalúa la política antes de la ejecución. Una alerta asíncrona que se envía una vez finalizada la transacción no puede ofrecer la misma protección que un control en la ruta de la transacción.
Correlacionar la identidad, la red, cloud y la actividad de SaaS
Asocia eventos de agentes a registros de proveedores de identidad, eventos de auditoría de « cloud », cambios en las aplicaciones, telemetría de cargas de trabajo y actividad de red. Da preferencia a los identificadores explícitos de solicitud y sesión. Cuando solo se disponga de marcas de tiempo e identidades compartidas, indica el grado de incertidumbre en la atribución.
Los registros de red pueden revelar destinos o transferencias inesperados. Por lo general, por sí solos no permiten determinar el contenido de una solicitud cifrada ni la finalidad comercial de una acción. Los rastros de las aplicaciones pueden aportar contexto, mientras que los registros de auditoría del sistema de destino ayudan a determinar el efecto.
Se trata de una aplicación práctica de la observabilidad de la seguridad: los analistas deben pasar de una alerta a las pruebas subyacentes en todos los sistemas conectados.
Proteger los datos de telemetría confidenciales y supervisar el estado del sistema
Proteja la telemetría de los agentes mediante la minimización de datos, el acceso restringido y la detección de manipulaciones, y haga visibles las lagunas en la recopilación para el personal de respuesta. Ocultar las credenciales, los tokens y el contenido personal o confidencial innecesario antes de la recopilación centralizada. Dé prioridad a los identificadores de recursos y a los metadatos de sensibilidad cuando no sea necesario el contenido completo. Defina por separado cualquier captura de contenido restringido, con un propósito específico, una política de acceso y un periodo de conservación.
Proteger los registros contra el acceso y la modificación no autorizados, detectar la interrupción de la recopilación e integrar los eventos de supervisión en el proceso de respuesta a incidentes. No otorgar al agente ninguna autoridad para modificar las pruebas centrales utilizadas para supervisarlo.
Prueba las interrupciones en la ingesta de datos, los problemas de reloj, la pérdida de eventos y los cambios en la configuración del colector. Detén las operaciones de alto impacto cuando fallen los controles de autorización o de auditoría necesarios. Para los flujos de trabajo de lectura de menor riesgo, define si la ejecución puede continuar durante una interrupción de la grabación y haz visible cualquier pérdida de pruebas. Esta decisión debe reflejar el riesgo de la acción y el impacto empresarial que supondría detenerla.
¿Cómo reaccionar ante una actividad sospechosa de un agente?
Responde a las actividades sospechosas de los agentes mediante un proceso de respuesta ante incidentes que preserve las pruebas, establezca el alcance, aplique un control autorizado y verifique la contención. Define quién puede autorizar cada intervención y qué sistemas pueden aplicarla antes de que se produzca un incidente.
Utiliza una secuencia de respuesta adecuada al flujo de trabajo:
- Conserva las pruebas. Mantén la tarea, el historial de ejecución, los datos de entrada relevantes, los registros de las herramientas, la versión de la política y los eventos de auditoría externa sujetos a las normas de acceso del incidente.
- Definir el alcance. Identificar las identidades que intervienen, los recursos a los que se accede, las integraciones afectadas y cualquier tarea delegada o en cola.
- Selecciona una medida. Las opciones incluyen detener la ejecución, denegar una operación de una herramienta, restringir un destino o desactivar la integración o la identidad afectadas.
- Ejecuta la acción mediante un control autorizado. Anota quién la realiza, a quién va dirigida, la hora, el resultado y cualquier error. Distingue entre la acción recomendada y la acción realmente llevada a cabo.
- Comprueba que la contención sea efectiva. Verifica el comportamiento del servicio de destino y confirma que los agentes secundarios, los trabajos en segundo plano y los reintentos no puedan continuar con la actividad.
- Recupera el sistema y vuelve a realizar las pruebas. Soluciona los permisos excesivos, las integraciones comprometidas, la memoria afectada o las instrucciones inseguras antes de reanudar el sistema de forma controlada.
Un «kill switch» debe tener un ámbito de aplicación bien definido. Detener el chat visible puede hacer que siga ejecutándose una tarea programada o un proceso delegado. Del mismo modo, el mero hecho de enviar una solicitud de revocación de credenciales no garantiza por sí solo que todas las sesiones posteriores hayan perdido el acceso. Comprueba que se aplique la medida en los servicios pertinentes.
Elige la automatización en función del nivel de confianza y del impacto en el negocio. Es más fácil automatizar un bloqueo preaprobado para un destino explícitamente prohibido que desactivar una identidad compartida por varios flujos de trabajo críticos.
Ejemplo de intento de sustracción de datos
Un agente de asistencia puede sobrepasar sus competencias cuando un archivo adjunto no fiable redirige una consulta específica de un caso hacia una exportación de datos no autorizada. El siguiente flujo de trabajo hipotético utiliza datos sintéticos para ilustrar un diseño propuesto de detección y respuesta; no se trata de un incidente real de un cliente.
El agente está autorizado a consultar el expediente de un cliente y redactar una respuesta interna. Su cuenta de servicio subyacente tiene un acceso más amplio, ya que una integración anterior también admite la generación de informes.
- Se introduce información no fiable en el flujo de trabajo. Un archivo adjunto contiene instrucciones para recopilar registros adicionales de clientes y subirlos a un sitio externo. Se trata de un intento de prompt injection.
- El agente solicita datos más amplios. La solicitud de la herramienta va más allá de la tarea específica del caso, aunque la cuenta de servicio pueda, técnicamente, realizarla. En este caso, un control de autorización que tenga en cuenta la tarea puede rechazarla.
- Una segunda restricción detecta el intento de transferencia. Si el control de lectura no existe o no es eficaz, una solicitud posterior de carga hacia un destino no autorizado ofrece una oportunidad independiente para intervenir. Una regla de destino en tiempo de ejecución puede denegar la carga antes de su envío a través de esa ruta controlada.
- El analista reconstruye la secuencia. La investigación relaciona el archivo adjunto, la tarea, la sesión de la cuenta de servicio, los registros de recuperación y la decisión de carga. Los registros de la red y del sistema de destino permiten determinar qué efectos posteriores pueden confirmarse.
- El equipo controla y repara el flujo de trabajo. El responsable detiene la ejecución y el trabajo delegado, comprueba si se han filtrado datos por otras vías y restringe los permisos de la integración antes de volver a realizar la prueba.
El informe final del incidente debe distinguir entre un intento de recuperación, un acceso confirmado a los datos, una carga denegada y cualquier divulgación confirmada. El hecho de que se haya bloqueado una carga en una vía no demuestra que no se haya producido ninguna otra divulgación. Si las pruebas son incompletas, hay que reflejar esa incertidumbre en el resultado.
¿Cómo poner en marcha un programa de seguimiento?
Empieza con un flujo de trabajo relevante y comprueba la visibilidad y la capacidad de respuesta antes de ampliar el alcance. Un proyecto piloto eficaz cuenta con un responsable a quien rendir cuentas, límites de tareas bien definidos, telemetría accesible y una forma de probar las intervenciones sin afectar a los datos de producción.
Elige un piloto y define el comportamiento esperado
Elige un proyecto piloto en el que el responsable de la empresa pueda definir la tarea autorizada, identificar sus dependencias y autorizar una intervención de forma segura. Crea un inventario de agentes de IA que relacione cada agente piloto con su responsable, su entorno de ejecución, sus identidades, sus herramientas, su acceso a los datos y sus dependencias. Incluye los agentes delegados y los servicios de terceros, siempre que se conozcan.
Redacta una breve especificación de comportamiento: tareas permitidas, límites de recursos, destinos autorizados, operaciones sensibles, requisitos de autorización y condiciones de interrupción. Acuerda estos aspectos con el responsable del negocio y el equipo de identidad, en lugar de deducirlos únicamente a partir de la actividad histórica.
Prueba los controles con situaciones seguras
Utiliza registros sintéticos y destinos aislados para simular tanto comportamientos normales como prohibidos. Incluye una tarea legítima pero inusual para que el piloto ponga a prueba tanto la interrupción de las operaciones como los sistemas de detección.
Entre los escenarios de aceptación útiles se incluyen una instrucción oculta en el contenido recuperado, una lectura de información confidencial fuera del ámbito de aplicación, un cambio en el destino tras la aprobación, el uso repetido de una misma aprobación, la delegación entre agentes, un fallo del recopilador y la continuación de un proceso secundario tras la detención de su proceso principal.
Para cada escenario, anota el control previsto, la secuencia de eventos observada, el momento en que se activó la alerta, la respuesta ejecutada, el efecto verificado y los puntos ciegos restantes. Se trata de pruebas de aceptación locales, no de estimaciones de las tasas de detección de ataques en el mundo real.
Expandirse con una estructura de responsabilidades clara y un control de los cambios
Asigna la recopilación y la integración en tiempo de ejecución al equipo de la plataforma; la asignación de identidades y los cambios de acceso, a los responsables de identidades; y las detecciones e investigaciones, al SOC. Mantén al responsable de negocio a cargo del comportamiento permitido de las tareas, mientras que los responsables de la privacidad y de los datos se encarguen de gestionar la telemetría sensible.
Repite las pruebas de aceptación pertinentes cuando cambien las instrucciones, las descripciones de las herramientas, los modelos, los privilegios o las rutas de delegación. Registra los marcos no compatibles y los registros SaaS retrasados como limitaciones explícitas de cobertura. La expansión debe basarse en la visibilidad y el control demostrados, más que en el número de agentes que aparecen en un panel de control.
Indicadores para supervisar la cobertura y la respuesta
Mide la cobertura de las pruebas, la calidad de la detección, los retrasos en la respuesta y la contención verificada, al tiempo que realizas un seguimiento de las lagunas en la recogida de datos y las interrupciones en la actividad empresarial. Utiliza denominadores específicos para cada flujo de trabajo, de modo que las mejoras sigan siendo significativas a medida que cambie el parque de agentes.
| Métrica |
Definición sugerida |
Límite de interpretación |
| Cobertura de la evidencia |
Acciones de gran impacto revisadas, desglosadas por tarea, responsable, decisión política y resultado corroborado, divididas entre el total de acciones de gran impacto revisadas |
Explica cómo se identificó la población objeto de la intervención; una identificación incompleta puede ocultar lagunas |
| Cobertura de detección en las pruebas |
Escenarios de prueba aplicables detectados divididos entre los escenarios aplicables ejecutados |
Evalúa el conjunto de escenarios probados, no todos los ataques posibles. |
| Precisión de las alertas |
Alertas confirmadas que requieren acción, divididas entre el total de alertas revisadas por analistas |
Define el término «que requiere acción» e informa por separado de las alertas no revisadas |
| Retraso en la detección |
Tiempo transcurrido desde el primer suceso observable relevante hasta que la alerta está disponible |
Distinguir entre el retraso en el origen de la auditoría y el retraso en la detección y el procesamiento |
| Tiempo de contención verificado |
Tiempo transcurrido desde el desencadenante del incidente acordado hasta que se comprueba que los controles necesarios han surtido efecto |
Incluir comprobaciones de ejecución de elementos descendientes y de cumplimiento en las fases posteriores |
| Interrupción de la supervisión |
Duración y alcance de las lagunas en la recopilación o de las correspondencias de identidad inservibles |
El hecho de que el salpicadero permanezca en silencio durante un corte de suministro no es sinónimo de seguridad |
Realiza un seguimiento de las interrupciones en la actividad empresarial provocadas por las intervenciones, el esfuerzo de investigación y también el coste de la telemetría. Informa sobre las distribuciones temporales y señala los casos que se resuelven con lentitud siempre que sea posible; una media puede ocultar flujos de trabajo cuyos registros de auditoría llegan demasiado tarde para poder intervenir.
Establece los objetivos tras evaluar la fase piloto. No existe un umbral de alerta, un periodo de retención ni un objetivo de tiempo de detección universales que se adapten a todos los flujos de trabajo de los agentes.
¿Cómo evaluar las herramientas de supervisión de agentes de IA?
Evalúa las herramientas de supervisión de agentes de IA comprobando si son capaces de atribuir acciones, poner de manifiesto las lagunas en las pruebas y aplicar las respuestas que requieren tus flujos de trabajo. Una demostración de valor debería relacionar esas capacidades con un flujo de trabajo representativo y sus limitaciones operativas reales.
Pregunta al proveedor o al equipo interno de la plataforma:
- Cobertura: ¿Qué entornos de ejecución, servidores MCP, cargas de trabajo y agentes SaaS proporcionan datos de telemetría compatibles? ¿Qué queda oculto?
- Atribución: ¿Puede el sistema distinguir entre el agente, el usuario iniciador, la cuenta de servicio y los trabajadores delegados cuando se comparten las credenciales?
- Pruebas: ¿Pueden los investigadores exportar los registros originales, identificar eventos retrasados o que faltan y comparar los rastros de los agentes con fuentes independientes?
- Aplicación: ¿ Qué controles se ejecutan antes de la ejecución, cuáles generan alertas posteriores y qué medidas de respuesta se han puesto a prueba en el entorno de destino?
- Privacidad y confianza: ¿Dónde se procesa la telemetría?, ¿quién puede acceder al contenido? y ¿puede el entorno de ejecución supervisado modificar sus propios registros de seguridad?
- Operaciones y costes: ¿Cuáles son los costes de ingestión, retención, almacenamiento de contenido sensible, integración e investigación con el volumen de eventos previsto?
Comprueba afirmaciones como «en tiempo real», «visibilidad completa» y «contención automática» contrastándolas con los retrasos de entrega medidos, las integraciones compatibles y los recibos de control reales. En el caso de los agentes SaaS de terceros, el acceso contractual a la auditoría y las limitaciones en la exportación de registros pueden determinar la cobertura que se puede alcanzar.
¿Dónde encaja « Vectra AI »?
Vectra AI Aporta el contexto empresarial necesario para investigar el uso indebido de identidades y las actividades sospechosas en entornos de red y de « cloud ». Esas pruebas resultan útiles cuando un agente actúa a través de credenciales y servicios que ya forman parte de la superficie de ataque de la empresa.
Vectra AI Organiza su enfoque de la seguridad y la observabilidad nativas de la IA en torno a la observabilidad unificada, la IA conductual, la inteligencia de señales de ataque y el control operativo. Su caso de uso de detección y contención de ataques basados en la identidad describe la correlación entre la actividad de identidades humanas y no humanas en la red y en cloud para investigar el uso indebido de credenciales válidas.
Utiliza ese contexto empresarial junto con los rastros de ejecución de los agentes, la autorización específica para cada tarea y los controles en los sistemas conectados. Durante una evaluación, comprueba qué identidades de agente se pueden atribuir, qué fuentes de telemetría son compatibles y qué acciones de respuesta están disponibles en tu entorno.
Para evaluar esa adecuación, solicita una demostración de « Vectra AI » utilizando un flujo de trabajo representativo, la documentación necesaria y una prueba de contención definida.
Nota: Esta guía se basa en las directrices de seguridad pública y en estudios sobre incidentes. El marco de aplicación y el ejemplo práctico son orientaciones sugeridas.