研究：AI篡改图片可植入虚假记忆，且更自信
据《华盛顿邮报》梳理的多项研究，麻省理工学院媒体实验室教授帕蒂·梅斯团队向200名受试者展示24张日常照片，部分人在休息后看到经AI修改的版本（表情被改、加入军人、添加气候变化景象），随后这些受试者产生错误记忆的概率大幅上升，且对虚假记忆更为笃定。其他实验显示，观看犯罪视频后接受生成式AI聊天机器人问询的受试者，虚假记忆数量约为对照组的三倍；近半数受试者甚至“记得”从未拍摄过的电影翻拍版。乔治城大学研究者玛蒂亚·西姆的331人实验发现，读到含错误标识AI摘要的人正确记住交通标识的比例仅约45%，而读到准确摘要者约为84%，即便事先告知摘要由AI生成也未能避免影响。
西姆的研究提示，企业和机构普遍依赖的“人工复核”这一兜底手段，可能因为AI先改变了人用于判断的记忆而失效。
IT之家 10 月 19 日消息，据 Washington Post 报道，研究发现，AI 可篡改人类记忆。这项实验一开始准备了 24 张普通照片：婚礼、城市街道、赛跑场景。麻省理工学院媒体实验室教授帕蒂 · 梅斯（Pattie Maes）和同事把这些照片展示给了 200 名受试者。
短暂休息后，一部分人再次看到原图；另一部分人看到经过 AI 修改的版本 —— 人物面部表情被改动、画面中新增军人形象，或是添加气候变化相关景象。
随后研究人员开展记忆测试。
梅斯看到结果时感到震惊：观看 AI 篡改图片的受试者，产生错误记忆的概率大幅上升。更严重的是，她表示，他们对这些虚假记忆的自信程度反而更高。
#MIT Media Lab#Pattie Maes#Georgetown University#Mattea Sim#ChatGPT#Memoro#MemPal#Gideon Nave#Steven Shaw#University of Pennsylvania#King's College London