AI智能体治理转向行为监管
AI 总结
布鲁金斯学会的一篇分析经Internet Law Review中文转述认为，治理重点应从审查模型输出转向监督自主规划、调用工具和访问外部系统的AI智能体行为。文章建议采用结构化授权、最小权限、端到端日志、高风险操作人工确认及运行时监控。作者同时指出，任何单一措施都不足以解决全部问题，随着智能体执行速度提升且人工干预减少，传统风险管理方法需要更加精准高效。
深度见解
当智能体获得发邮件、修改记录、下单、转账和调用API等权限时，报告认为授权、行为审计与运行时控制将成为AI治理的核心。
过去两年，人工智能的前沿发展，正在从“会回答的模型”变成“会办事的智能体”。这里的智能体（AI agents），指能够自主规划、调用工具、连接外部系统并执行任务的技术系统。2025年，智能体在计算机任务上的准确率从12%提升到66.3%，距人类平均水平只差6个百分点；市场研究机构Precedence Rese......
本文来自微信公众号： Internet Law Review ，作者：Landry Signé
过去两年，人工智能的前沿发展，正在从“会回答的模型”变成“会办事的智能体”。
这里的智能体（AI agents），指能够自主规划、调用工具、连接外部系统并执行任务的技术系统。2025年，智能体在计算机任务上的准确率从12%提升到66.3%，距人类平均水平只差6个百分点；市场研究机构Precedence Research预计，全球智能体市场将从2025年的80亿美元增长到2034年的1990亿美元。
#Brookings Institution#World Economic Forum#Precedence Research#NIST AI RMF