ChatGPT记忆研究揭示系统画像与隐私风险
AI 总结
据36氪和爱范儿报道,一篇被ACM Web Conference 2026接收的论文分析了80名真实用户导出的ChatGPT对话及已存记忆。报道称,2050条记忆中95.9%由系统写入而非用户明确要求,部分内容涉及个人数据、敏感信息和心理推断。研究人员还开发了Attribution Shield,据称可在基本保持回答实用性的同时减少改写提示中的个人归因。
深度见解
这项研究从外部呈现了ChatGPT Memory形成细致用户画像的方式,关系到AI隐私、透明度与用户控制。
你以为只是和 ChatGPT 随便聊聊,它可能已经在悄悄给你画像。
你的工作、生活习惯,甚至你想要什么、害怕什么,都可能被写进它的记忆。而且很多时候,你并没有要求它记住这些。
前段时间,一篇被顶级会议 ACM Web Conference 2026 接收的论文《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》利用 GDPR 赋予用户的数据访问权,从 80 名真实用户那里获得了他们完整的 ChatGPT 对话记录,以及系统为他们存储的全部记忆,包括 1058 段对话、22971 轮交互、2050 条记忆条目。
部分来源内容未展示,可前往原文继续阅读。
#ChatGPT#OpenAI#Attribution Shield#Qwen2.5-32B#Gemma3-27B#GPT-OSS-20B#GPT-4o