创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Anthropic更新Claude防辱骂政策

AI 总结

科技新报报道,Anthropic于11月12日启用Claude新版使用政策,禁止持续、无必要的辱骂或残酷对待。因答错问题、误解指令或成果不及预期而产生的正常抱怨不受处罚,但Claude可结束持续辱骂的对话,严重违规者可能被停权。报道引述Searchable调查称,33%的美国聊天机器人用户曾辱骂大型语言模型,辱骂后的问题解决率为24%,理性互动时则为35%。

深度见解

新政策明确了Claude处理辱骂提示的边界,但Anthropic尚未公开实际遭遇用户恶意辱骂的频率。

1/3 美國用戶曾辱罵 AI,Anthropic 祭新規保護 Claude 免受「言語霸凌」

知名 AI 開發商 Anthropic 11 月 12 日正式啟用新版使用政策,特別針對旗下 AI 助理 Claude 增設一項明確的「防霸凌」條款:嚴禁使用者對模型進行持續且無必要的辱罵或殘酷對待。

正常抱怨免罰,但「惡意洗頻」恐遭停權

Anthropic 強調,這項新條款主要鎖定的是「反覆且沒有明顯目的」的極端辱罵行為。如果使用者是因為 AI 答錯問題、誤解指令,或是交出的成果不如預期而產生情緒性的正常抱怨,並不會受到處罰。

#Anthropic#Claude#Searchable

原文约 3 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。