OpenAI与Anthropic谈金融智能体的自主与安全
AI 总结
在纽约 AI Engineer 大会上，OpenAI ChatGPT 金融服务负责人 Joseph Kim 提出“有用性阈值”概念，认为模型能力持续提升将让金融分析师把更多工作交给智能体，并预测到 2027 年智能体可承担投资想法生成与交易。Two Sigma 架构高级副总裁 John Feminella 介绍了五类可组合控制措施，认为安全与创新并非对立，并批评“审批疲劳”反而会阻碍创新、带来风险。Anthropic 的 Belinda Neal 与 Keon Shahab 提出身份与权限、沙箱与审批、长期有效性验证三层“信任层”，强调智能体只应提出订单修改建议而非直接执行；Bloomberg 的 Andrey Rybka 则主张在模型之外做确定性管控，包括限定身份凭证、工具调用管控、出站流量限制、审计、预算与终止开关。
深度见解
这些讨论显示，在金融等受监管行业落地智能体，关键已从模型能力转向权限、审批与审计等控制设计。