Claude加强反滥用政策，粗鲁提示并非可靠策略
AI 总结
据36氪报道，Anthropic于10月8日更新Claude使用政策，禁止用户持续且无必要地辱骂或残酷对待AI。公司称，当用户把Claude当作出气筒时，Claude可以主动结束对话；正常生气、质疑和模型测试并不违规。 文章梳理的多项研究显示，礼貌、粗鲁和威胁语气在不同模型与任务上的效果并不一致，不能把辱骂当作稳定提升AI表现的通用方法。
深度见解
这项政策为Claude的交互边界增加了明确约束，而36氪与果壳梳理的研究也显示，粗鲁提示并非能够稳定改善模型表现的通用技巧。
最近，AI 公司 Anthropic 干了一件“护犊子”的事儿：以后，不许随便欺负我们家 AI 了。
10 月 8 日，Anthropic 更新了 Claude 的使用政策，专门增加了一条规定，禁止用户“持续且无必要地辱骂或残酷对待”AI。要是有人把 Claude 当成出气筒，它甚至可以主动结束对话。当然，正常的生气、质疑和模型测试都不算违规。
挺招笑的是，Anthropic 自己都不确定，AI 到底有没有“感受”？可能以后等 AI 哪天真觉醒了，Anthropic 能第一时间说：“当年我还哄过你呢！”
还记得刚用 ChatGPT 那会儿，提问时都客客气气地，请问开头，谢谢结束。
图源：aclanthology
#Anthropic#Claude#GPT-4o#GPT-5 nano#Gemini 2.5 Flash#Gemini 2.5 Flash Lite#Claude Opus 4.6#Qwen 3.5