Anthropic 提议授权法院阻止高风险 AI 模型
AI 总结
Anthropic 在 10 月 15 日致信加州州长加文·纽森,建议加州政府应有权请求法院阻止构成严重风险的 AI 模型。根据该提议,独立评估人员将向加州总检察长报告风险;如果总检察长认为存在近期灾难性伤害风险,便可请求法院暂停相关模型。法院命令可停止模型发布、阻止其在公司内部使用或要求停止进一步工作。Anthropic 还建议让外部安全审计人员进入大型 AI 公司,要求大型开发商至少每六个月发布风险报告,并主张采取停用单个智能体或暂停特定客户访问权限等针对性措施。Anthropic 发言人确认信件属实;报道时,纽森办公室尚未立即回应。
深度见解
这封信提出了一种由总检察长向法院申请命令、阻止高风险 AI 模型的政策机制,是 AI 开发商提交的一项政策倡议,并非已经生效的法院命令或执法措施。