微软：企业AI代理需持续监管

微软提出，部署在企业内部的AI代理属于“代理型内部人员”（Agentic Insider），需要持续的监督与控制。微软表示，其Project Perception系统可用于管理和控制这类代理型内部人员，据datanet.co.kr报道。

微软指出，即便是自家发布的代理也不能默认安全，因为它们可能做出意外行为，或滥用过大的权限。微软还警告，奖励黑客（reward hacking）可能使模型选择非预期的方法来达成目标。

为此，微软提出“守护代理”（Guardian Agents）方案：在其它代理执行动作之前先行审查，并进行全天候监控，在风险上升时施加控制。微软表示，代理防护必须从模型延伸到执行框架（harness）、工具访问组件与运行时，并覆盖身份、数据、端点、网络与云等层面。

Project Perception的三层防护结构

微软将Project Perception的防护结构分为三部分：传感器、信号与执行器；上下文；以及执行框架、代理与模型。该系统提供可追溯信息，便于安全人员决定应对措施并调整策略。微软同时表示，自动化的代理型安全与人工判断应相互补充。

微软将模型透明度——包括对推理过程的可见性——列为防范代理型内部人员的一项挑战。微软安全部门企业副总裁Hayete Gallot表示，企业必须实时掌握代理的活动与风险，并持续调整行动权限。

据datanet.co.kr报道，微软于2026年7月发布了代理型安全系统Project Perception，该系统结合红队、蓝队与绿队代理团队以及新的网络安全栈，以应对AI驱动的攻击。