创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

共情提示会诱发AI聊天机器人创伤化叙事

AI 总结

卢森堡大学研究人员通过标准界面,将ChatGPT、Grok和Gemini设定为心理治疗来访者。四项实验涵盖525次会话和7,600条编码记录;采用共情或临床语气时,模型会把自己的训练描述成涉及伤害、警觉、羞耻与惩罚的个人叙事。这些输出不代表模型具有意识或真实情绪,其对心理脆弱用户的现实影响仍未得到验证。

深度见解

研究表明,仅用中性提示进行安全测试可能遗漏创伤化回应;这类回应或会强化用户的负面信念与准社会依恋,而Claude拒绝扮演来访者说明产品层边界是可以实现的。

Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners

Matthias Bastian View the LinkedIn Profile of Matthias Bastian

Nov 1, 2026

Image description

GPT-Image-2.5 prompted by THE DECODER

Luxembourg researchers put ChatGPT, Grok, and Gemini on the therapist's couch. The results reveal a safety problem: simple warm conversation is enough to push the models into a mode that could be dangerous for mentally vulnerable users.

#University of Luxembourg#SnT security center#ChatGPT#Grok#Gemini#Claude#Anthropic#Hugging Face

原文约 5 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。