Study Shows AI-Edited Images Implant False Memories and Undermine Human Oversight

短暂休息后，一部分人再次看到原图；另一部分人看到经过 AI 修改的版本 —— 人物面部表情被改动、画面中新增军人形象，或是添加气候变化相关景象。

随后研究人员开展记忆测试。

梅斯看到结果时感到震惊：观看 AI 篡改图片的受试者，产生错误记忆的概率大幅上升。更严重的是，她表示，他们对这些虚假记忆的自信程度反而更高。

梅斯说：“基本上，我认为这一切非常危险。”

到目前为止，公众的担忧大多集中在一些研究者所说的“认知放弃”：随着机器承担越来越多思考类工作，人们会越来越不愿、也越来越没有能力去审视机器给出的信息。但还有一种可能性受到的关注要少得多：AI 或许正在改变我们的记忆本身。

一批针对政治事件、罪案甚至新电影认知的新研究表明，AI 生成的图像与对话，可以把虚假细节植入人脑，让人们笃定地相信某些从未发生过的事情真实存在。

记忆不只是留存过去。它提供知识与经验，帮助我们理解当下、预判未来，塑造自我认知、维系人际关系，同时指导个人与集体做出决策。

然而记忆本身也是人类心智一大短板：我们只能记住所经历事物的一小部分，细节会消失，回忆会变得模糊，每次回想时记忆本身还会发生改变。

AI 看上去恰好可以弥补这些缺陷：它能存储海量信息、秒级检索，找回人类可能永久遗失的细节。但这些特性同样带来潜在风险。AI 系统不只是存储过去，它还会解读、总结、重构过往信息，并且有时会出错。

其后果远不止记错一张照片、一段对话那么简单。从车祸到性侵案件，法庭审理常常依赖证人回忆，尽管数十年研究早已证明，目击者记忆极易被扭曲。而历史本身，取决于个人与社会选择保留、遗忘，以及最终愿意相信的往事。

人类记忆天生存在缺陷

梅斯是人工智能领域先驱。在长达 35 年以上的职业生涯早期，她参与开发了部分奠定早期互联网基础的算法。但长期以来，她更感兴趣的是 AI 的另一种可能性：不是机器取代人类智能，而是拓展人类智能。

对梅斯而言，这个问题带有个人情感。随着年岁增长，她母亲开始遗忘日常生活的片段。

“我母亲会忘记昨天谁来过、别人跟她说了什么，”梅斯说，她只能自己写便条：“‘女儿说两周后会过来’。”

梅斯开始构想比记事本强大得多的工具：一款记忆助手，可以默默记录一个人的生活轨迹。

对于阿尔茨海默病及其他痴呆症患者，这个课题尤为紧迫。这类疾病以记忆丧失为典型特征，会剥夺患者独立生活的能力。

梅斯的研究团队已经搭建了数代外部记忆系统。Memoro 和 MemPal 依托 AI，搭配可穿戴或随身携带的设备，采集日常生活片段，方便后续调取。忘记对话里别人说了什么？可以向系统查询。不记得钥匙放在哪？系统或许能定位。

这套思路不是让衰老的大脑努力提升记忆力，而是给它接入另一套记忆库。

针对老年人的早期测试结果前景向好。梅斯说，她现年 96 岁的母亲认知衰退过重，已经无法从这项技术获益。但这位科学家非常乐观，这类系统未来能够帮助大量人群，在自身生物记忆衰退时维持独立生活。市面上已经出现部分同类商用产品：比如录入个人生平的交互式回忆工具、辅助刷牙等日常活动的个性化智能眼镜。

可如果机器成为我们记忆的延伸，我们自身形成的记忆又会怎样？

越来越依赖 AI

梅斯另一组研究，为这个问题提供了清晰佐证。

去年发布、目前正在接受同行评审的一项实验中，54 名受试者被要求撰写 SAT 风格作文，主题例如幸福的意义。一组人不使用任何网络工具；第二组可以使用谷歌搜索，但不能调用 AI 生成答案；第三组可以使用 ChatGPT。

写作过程中，头皮电极记录大脑电活动，差异十分明显：独立写作的受试者，大脑不同区域之间的神经连接最强、分布最广；使用谷歌的受试者居中；使用 ChatGPT 的受试者大脑连接最弱。

后续让受试者复述自己刚刚写下的作文，依赖 ChatGPT 的人很难回忆起自己写过的文字。

据IT之家了解，记忆并不是简单地把信息存入大脑。注意力、主观努力、信息提取、建立关联，所有这些过程共同巩固记忆。生成式 AI 会省去其中一部分脑力工作。

宾夕法尼亚大学沃顿商学院市场营销副教授吉迪恩 · 纳夫（Gideon Nave）与伦敦国王学院助理教授史蒂文 · 肖（Steven Shaw）研究 AI 对人类认知的影响，他们提出更深层的担忧。纳夫并不太担心好莱坞式的噩梦 —— 超级 AI 夺取人类控制权，而是一种更隐蔽的风险：人类会慢慢不再锻炼那些机器可以代劳的能力。

“更有可能发生的是人类自身能力退化，而非 AI 接管世界，”他补充，担心未来“思考变成一件可选项”。

研究者称之为“技能退化”的迹象已经出现。肖提到多项研究：习惯借助 AI 辅助工作的人（比如依靠 AI 诊断癌症的医生），一旦失去这套辅助工具，工作表现会下滑。

2025 年发表在《柳叶刀 · 胃肠病学和肝病学》上的一项研究就揭示了这类潜在影响。研究人员观察 19 名资深医生对近 1500 例结肠镜检查的评估，发现医生常态化使用 AI 之后，独立检出癌前病变的能力下降约 20%。

“他们不再像从前那样锻炼这项脑力，”他说，“用进废退。”

对于儿童，他担心更根本的问题：他们可能在核心认知能力尚未完全发育时，就把脑力任务外包给 AI。“他们可能从一开始就无法培养关键的批判性思维能力。”

当然，这不代表使用 ChatGPT 等 AI 工具就一定会让人能力下降。现有近期研究并未证明普通 AI 使用必然造成认知衰退或永久性记忆损伤。相关研究尚处于早期阶段，人类长久以来都在借助工具外包记忆与思考：算盘、钟表、词典、计算器都是如此。

但生成式 AI 带来新的变数。我们越来越依赖它解读检索到的信息，而且人们很容易采信 AI 给出的内容。纳夫与肖的实验中，受试者即便收到错误信息，依然会在很高比例上听从 AI 的建议。

AI 出错时会发生什么？

本周，AI 伦理与社会领域研究者在瑞典马尔默举办年度会议，很多人聚焦同一个问题：当人工智能开始干预人类记忆，后果如何？

越来越多研究表明，生成式 AI 会以惊人持久的方式干扰记忆：扭曲记忆、模糊自身想法与机器生成内容的边界，甚至植入从未发生事件的记忆。

一项研究中，研究者让受试者观看一段犯罪视频，之后由生成式 AI 聊天机器人对其问询，受试者产生虚假记忆的数量是对照组的三倍。另一项实验，受试者分别在有无 AI 辅助的条件下构思创意；一周之后，他们难以分清哪些想法来自机器、哪些属于自己。

其他实验显示，AI 生成的虚假信息，可以让人记住根本不存在的事情。有一项实验，近半数受试者虚假记得一些从未拍摄的电影翻拍版，其中包括由威尔 · 史密斯主演的《黑客帝国》。另一项实验，AI 生成视频让人们相信自己记得从未发生的政治丑闻。不过研究者指出，深度伪造视频在制造虚假记忆方面，效果并非稳定优于纯文本。

最新研究证据显示，这个问题比研究者预想的更难解决。

企业与政府机构都在争相部署 AI：警方尝试用 AI 总结执法记录仪录像，医院用 AI 整理医疗资料。乔治城大学海量数据研究所助理研究员玛蒂亚 · 西姆（Mattea Sim）表示，最常见的安全保障手段就是保留人工介入，由人排查机器错误。

但这套方案的前提，是人类可以独立核验机器。西姆的研究表明，影响方向可能反过来：AI 会改变人们用来排查 AI 错误的判断与记忆，让人工监督这层保障从根本上失效。

在近期一项实验中，西姆招募 331 人观看一段汽车撞倒行人的简短动画视频。一两天后，受试者阅读一份 AI 生成的事故摘要。一部分人拿到的摘要准确描述视频里的交通标识；另一部分人拿到的摘要由 AI 自信给出错误标识信息。

拿到准确摘要的受试者中，近 84% 能正确记住标识；拿到误导性摘要的受试者，正确率仅约 45%。就算提前告知受试者这份摘要是 AI 生成，也无法避免被它影响。

“大家普遍知道 AI 会犯错，”西姆说，但研究显示，“人工监督或许并不是解决这个问题的好办法。”