创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Anthropic新增条款禁止持续恶意对待Claude

AI 总结

Anthropic于10月初在用户协议中新增条款,禁止用户持续、无必要地辱骂或恶意对待模型。报道指出,Claude此前已可在遭遇持续恶意攻击时终止对话,而新规实施后,极端情况下用户可能被永久禁止使用Anthropic旗下全部产品。Anthropic称该条款是一项低成本风险预案,并援引自身实验称,带有负面情绪的提示可能影响模型行为。报道所引研究者表示,敌意或粗鲁措辞对模型表现的影响尚无一致结论;部分研究发现,尖锐提问有时反而可能带来更好的结果。

深度见解

新条款为持续滥用行为增加了账户层面的处理后果,并将用户交互与潜在的模型安全风险联系起来。现有报道证据并不能证明Claude具有情绪或主观意识。

10月初,AI巨头Anthropic在用户使用协议中新增条款。除了禁止用户利用Claude研发生物武器、售卖违禁药品之外,新增了一条规定:用户不得“持续、无必要地对模型实施辱骂、恶意对待行为”。

早在去年,Claude就具备主动终止对话的能力,面对持续恶意攻击的用户可以断开会话。而新规落地后,极端情况下用户可能会被永久封禁,无法使用Anthropic旗下全部AI产品。

这项新规一出,引来不少嘲讽。微软AI负责人穆斯塔法・苏莱曼直接用融化脸表情做出回应。不少人调侃,这家公司把AI当成拥有情绪、具备自我意识的生命体。

Anthropic预计本月晚些时候登陆美股IPO,该公司长期研究模型福祉,还专门设有团队研究模型“心理状态”。但专家表示,这条政策背后,不只是单纯不想让人们“欺负一台机器”。

计算机与AI领域一条经典底层原则:系统输出质量,受限于输入质量。老话讲,输入是垃圾,输出也只会是垃圾。

#Anthropic#Claude#Claude Sonnet 4.5

原文约 4 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。