用代码拦截智能体工具调用
AI 总结
这篇教程介绍了一个可复用的工具调用拦截器,在执行前检查智能体调用的工具名称和参数,并返回 ALLOW、DENY 或 ASK。方案涵盖命令归一化、路径越界检测、外联域名白名单、不可信来源审批、审计日志和回归测试,并建议以最小权限凭据与沙箱作为额外防线。
深度见解
教程提供了在执行层确定性和可测试地约束智能体权限的工程方案,避免把关键安全边界完全交给提示词。
本文是《Agent 工程实战》系列的一篇。所有代码可直接运行,不依赖任何付费 API。
昨天 AI 圈有个容易被忽略的细节:OpenAI 宣布暂停 GPT-6.1 Astra 的发布,同时全面收紧工具调用(tool call)监控,新版安全准则把「意图对齐」写进了核心框架。同一天,Anthropic 也更新了使用政策,禁止未经授权的转售与代理。
两条动作指向同一件事:当 Agent 真的能自己调工具、自己改文件、自己发请求,「它被允许做什么」这件事,已经从产品问题变成了工程问题。
我做过一段时间 AI 内容合规与风控。一开始我以为风险主要在「模型说错话」,后来发现真正贵的事故都在「模型做错事」:Agent 顺手把你的内网接口调了一遍、把本地目录 rm -rf 了、把测试环境的 token 带到了生产请求里。
这篇文章讲我怎么把这件事做成一个可复用的工具调用拦截器:不是靠提示词劝模型「不要乱来」,而是在执行前做一次确定性判定,把「不该发生的调用」直接拦掉。