谷歌公布智能体异常检测基准结果
AI 总结
谷歌表示,私有预览版 Agent Anomaly Detection 在五个非谷歌编写的公共安全基准中,标记了 87% 已被智能体执行的有害指令。该工具对目标劫持和工具滥用表现较强,但在投毒记忆方面明显薄弱,18 个有害记忆案例仅发现 4 个。这项厂商自行完成的研究使用 Gemini 2.5 Flash 和模拟应用,良性会话误报率因工具而异,为 2% 至 16%。
深度见解
这些结果为评估智能体监控方案提供了具体依据,同时表明执行后的异常检测不能取代预防性控制,对被投毒的长期记忆仍较弱。
How Agent Anomaly Detection scores on benchmarks we didn't write - Google Developers Blog
How Agent Anomaly Detection scores on benchmarks we didn't write
NOV. 12, 2026
Nakul Javali Senior Software Engineer

#Agent Anomaly Detection#Gemini Enterprise Agent Platform#Gemini 2.5 Flash#Agent Development Kit#Model Armor#Semantic Governance Policy#Security Command Center#OWASP