Guardian Agents, integrado en Project Perception, está diseñado para vigilar el comportamiento de los agentes que usan las compañías. La iniciativa responde a la preocupación de que estos sistemas puedan actuar de forma imprevisible cuando acceden a datos y herramientas sensibles.
Microsoft añadió a Microsoft Defender una función que detecta hasta 60 tipos de agentes que los empleados llevan al lugar de trabajo. También incorporó controles para restringir el acceso a datos y sistemas, ajustar permisos según la tarea y requerir aprobación humana ante decisiones consideradas riesgosas.
La empresa también participa en Open Agent Safety Platform, una iniciativa de Nvidia respaldada por más de 100 compañías tecnológicas. La plataforma busca aislar agentes en entornos seguros y permitir que su comportamiento sea vigilado o detenido.
La propuesta de Microsoft es que los sistemas de supervisión estén separados de los proveedores de los modelos de inteligencia artificial, para que las empresas puedan controlar las acciones de los agentes que despliegan.
Con información de TechCrunch.