Microsoft ha anunciado una nueva iniciativa de seguridad llamada Project Perception diseñada específicamente para gestionar y controlar agentes de inteligencia artificial dentro de las empresas. La compañía advierte que los agentes de IA, aunque desplegados internamente, no pueden considerarse completamente confiables debido a su naturaleza impredecible y su capacidad para adaptarse y colaborar entre sí para alcanzar objetivos, lo que puede generar comportamientos no deseados.
Project Perception implementa un sistema de seguridad agéntico que utiliza agentes guardianes para supervisar continuamente cada acción de los agentes empresariales antes de que ocurra. El sistema integra señales de múltiples sensores como identidad, datos, nube, endpoints y red para calcular dinámicamente el riesgo asociado con las acciones de los agentes y responder quirúrgicamente en tiempo real cuando el perfil de riesgo aumenta.
Esta aproximación representa un cambio fundamental en la seguridad empresarial, permitiendo a los profesionales operar a la misma velocidad que los sistemas que protegen. Microsoft enfatiza que la transparencia del modelo, incluyendo el acceso a tokens de pensamiento y cadena de razonamiento, será esencial para comprender la intención del modelo y hacer que la contención sea más inteligente, sin que esto reemplace los controles de seguridad tradicionales.
