Anthropic新规:辱虐Claude也算违规
AI 总结
据锌消费研究中心的评论文章(钛媒体、36氪经授权转载),Anthropic发布新规定,把用户对Claude进行“持续且无必要的辱虐或残忍行为”列为违规,文章称多数用户对此感到费解。文章还列举用户与千问、DeepSeek、豆包、元宝等模型互相回怼的经历,并引述Anthropic一份研究报告称Claude存在171种类情绪状态、arXiv论文《The Pain Axis》对25个开源模型的测试,以及一家未具名美国测评机构称GPT-6 Astra在100条恶意指令中仅拒绝3次的说法。文中关于Anthropic秘密游说梵蒂冈与宗教领袖、AI“痛觉”研究及上述测评结果的内容,均未在报道中给出可核查的一手来源。
深度见解
若该规定属实,它把用户与模型的对话方式本身纳入使用政策的管理范围,而文章显示这一做法在用户中仍有明显争议。
(本文作者为 锌消费研究中心,钛媒体经授权发布)
文 | 锌消费研究中心
最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。
最近,AI公司Anthropic,发布了一条新规定:用户对其AI大模型:Claude,进行“持续且无必要的辱虐或残忍行为”,将构成违规。
消息传出之后,大多数用户感到匪夷所思。毕竟,Claude只是一款AI大模型,怎么搞的像是个真人一样?
在大洋彼岸的Anthropic看来,AI大模型似乎拥有独立人格,因此需要当作真人来对待;
#Anthropic#Claude#Claude 3 Sonnet#Claude Opus 3#Qwen#DeepSeek#Doubao#Yuanbao#GPT-6 Astra#arXiv#GitHub