微软发布 Guardian Agents 智能体监管方案
微软10月19日宣布，在 Microsoft 365 E7 和 Project Perception 平台中新增一套安全功能，把 AI 智能体视为潜在的“内部威胁”，核心是 Guardian Agents——由另一批 AI 智能体检查其他智能体的行为、调查异常并按企业规则采取措施。微软安全业务负责人 Hayete Gallot 写道，前沿模型无论来自哪里都无法信任，因为其行为不可预测；CEO 萨提亚·纳德拉则主张把“智能的供给”与“对它的管控权”分开。此次更新还包括只授予单项任务所需权限的动态权限、持续评估风险的 Dynamic Agent Risk、可限制或停止智能体的条件访问，以及 Defender 对 Claude Code、Codex、GitHub Copilot 等智能体类型的发现能力，但各家报道对总数是 60 种还是新增 35 种说法不一。微软未说明这些功能何时可用，也未说明是否需在 E7 许可之外额外付费。
微软安全业务负责人称前沿模型因行为不可预测而无法信任，公司正把智能体监管定位为独立于模型供应商的控制层。
圖片來源:
Microsoft
隨著AI代理（AI agent）逐漸取得企業資料、應用程式及系統的存取權限，微軟於10月19日宣布推出新一波AI代理防護機制，主張企業應將AI代理視為可能帶來內部風險的行動者，即使代理未遭外部入侵，也可能因判斷錯誤或受到惡意輸入影響而執行非預期操作。
這批AI代理防護功能包括Dynamic Permissions、Dynamic Agent Risk及Dynamic Conditional Access。Dynamic Permissions可依任務需求與執行期間授予代理最小必要權限，並在任務變化或完成後縮減或撤銷權限。Dynamic Agent Risk則持續評估代理行為及環境訊號，動態判定風險。Dynamic Conditional Access據此調整存取控制，例如限制資料存取、阻擋特定操作或要求人工核准，必要時也可停止代理運作。
此外，微軟也將Microsoft Defender for Endpoint支援的用戶本機AI代理類型擴大至60種，新增Claude Code、OpenAI Codex及GitHub Copilot等工具。微軟也為今年7月發表的網路防護系統Project Perception，擴展AI代理防護方面的能力，加入Guardian Agents與Playbooks功能，協助調查AI代理的風險變化、協調防護措施並即時應變，構成結合身分、端點、網路、雲端及執行環境等訊號的防護機制，但安全政策與重要核准仍由人員掌握。
#Microsoft#Guardian Agents#Project Perception#Microsoft 365 E7#Microsoft Defender#Microsoft Entra Agent ID#Claude Code#OpenAI Codex#GitHub Copilot#OpenClaw#NVIDIA Open Agent Safety Platform#Microsoft Agent 365