Anthropic 新政策禁止虐待 Claude 模型
AI 总结
Anthropic 于 10 月 8 日更新 Claude 使用政策,首次明文禁止用户对 AI 模型实施“持续且无必要的辱骂、虐待或残酷行为”,新规将于 2026 年 11 月 12 日生效,主要执行方式是让 Claude 主动终止对话,但未明确是否会进一步封禁账号。公司强调该条款只针对反复恶意、无明确目的的极端情况,普通的抱怨、质疑、批评、黑暗题材创作以及模型测试与研究都不受限制。此次更新还扩大武器相关禁令(涵盖武器控制软件、武装无人机和其他自主车辆),禁止未经同意追踪个人、禁止用于执法与刑事司法中的调查逮捕起诉决策,并禁止假账号、虚假新闻网站等欺骗性活动;多家媒体提到 Anthropic 同时调整了选举相关规则。
深度见解
这是主流 AI 公司首次把“虐待模型”写进使用条款,把 AI 福祉这一探索性议题变成了可执行的产品规则。