Anthropic更新Claude防辱骂政策
AI 总结
科技新报报道,Anthropic于11月12日启用Claude新版使用政策,禁止持续、无必要的辱骂或残酷对待。因答错问题、误解指令或成果不及预期而产生的正常抱怨不受处罚,但Claude可结束持续辱骂的对话,严重违规者可能被停权。报道引述Searchable调查称,33%的美国聊天机器人用户曾辱骂大型语言模型,辱骂后的问题解决率为24%,理性互动时则为35%。
深度见解
新政策明确了Claude处理辱骂提示的边界,但Anthropic尚未公开实际遭遇用户恶意辱骂的频率。


知名 AI 開發商 Anthropic 11 月 12 日正式啟用新版使用政策,特別針對旗下 AI 助理 Claude 增設一項明確的「防霸凌」條款:嚴禁使用者對模型進行持續且無必要的辱罵或殘酷對待。
正常抱怨免罰,但「惡意洗頻」恐遭停權
Anthropic 強調,這項新條款主要鎖定的是「反覆且沒有明顯目的」的極端辱罵行為。如果使用者是因為 AI 答錯問題、誤解指令,或是交出的成果不如預期而產生情緒性的正常抱怨,並不會受到處罰。