Anthropic 揭示智能体记忆关键在于选择性遗忘
Anthropic 研究 Claude 跨会话记忆机制,发现选择性记录策略与规则优于全量存档,后者会因过时数据淹没模型。其提出的“Dreaming”后处理流程可在空闲期分析历史会话记录,自动修正错误笔记并构建结构化知识库。
报道正文
本文目录5 个章节
Anthropic 表示,智能体记忆的关键在于知道该忘记什么,而非存储多少
[Jonathan Kemper](https://the-decoder.com/author/jonathan-kemper/) [查看 Jonathan Kemper 的 LinkedIn 个人资料](https://www.linkedin.com/in/jonathankemper/) 2026年11月16日
Anthropic
要点
-
Anthropic 测试了 Claude 如何跨会话将信息存储在笔记文件中,并在后续任务中检索这些信息。
-
测试表明,有选择地记录策略和规则比记录每一步效果更好,因为后者会用过时的数据淹没模型。
-
通过一个名为“Dreaming”的会话后流程,系统会在空闲时段分析此前的会话记录,以独立纠正有误的笔记并构建结构化的知识集合。
文本 询问关于本文的问题…… 搜索
Anthropic 研究了 Claude 如何跨会话保留知识。其测试表明,有选择性的笔记优于详尽的存档,而且在事后让 Claude 审查自己的记忆可以纠正错误。
任何与 AI 智能体在项目上合作数天的人都会很快撞上一堵墙,因为每个新会话都从零开始。在一篇研究文章中,Anthropic 描述了在模型保持不变的情况下,Claude 应如何跨会话保留知识。Claude 将笔记写入一个文件夹,之后可以再读回来。
根据 Anthropic 的说法,核心问题在于选择。在知道接下来会发生什么之前,智能体必须在当下决定哪些内容以后可能重要,因此每条笔记都是对未来的一个赌注。
广告
一条关于宝可梦中心位置的错误笔记导致 Claude 反复从悬崖上掉下去。| 图片:Anthropic
保存一切的智能体会迷失方向
在一次针对《宝可梦 红》的 Anthropic 测试中,较旧的 Claude Sonnet 3.7 把所有内容都视为可能重要,在大约 10,000 个游戏步骤中,于 225 个文件夹里创建了 413 个文件,常常为它遇到的每场战斗和每件物品单独建一个文件。由于游戏状态不断变化,这些存档很快就过时了。有时,该模型除了整理笔记之外什么也不做,而不是去玩游戏,最终只获得了一枚徽章。
较新的 Claude Fable 5 将其记忆限制在少数几个文件中,并获得了四枚徽章。Fable 5 没有记录屏幕上已经可见的信息,而是写下了计划、策略以及它测试过的规则。不过,Anthropic 的对比仅涵盖每个模型的一次游玩过程。
Sonnet 3.7 在玩《宝可梦》时几乎保存了一切,而 Fable 5 只保存了策略和已验证的规则,并且走得更远。| 图片:Anthropic
Anthropic 建议向 Claude 解释记忆的用途,并让模型自行决定如何使用它。据 Anthropic 称,在一项基准测试中,诸如“只记录错误”之类的僵化指令抹去了更强模型的大部分优势。相比之下,较旧的模型则受益于明确的指令,例如被告知在每次回复前真正阅读自己的笔记。
广告
具体的记忆规则对较旧的模型有帮助,而更强的模型在僵化指令下表现更差。| 图片:Anthropic
“做梦”旨在修复错误记忆
更大的风险来自错误的笔记,而智能体之后会盲目信任这些笔记。Dreaming 正是为解决这一问题而设计的,这一想法建立在 Letta 和 UC Berkeley 的研究基础之上。就像人类大脑在睡眠中处理经历一样,Claude 会在休息期间回顾先前会话的记录,并对照这些记录检查自己的笔记。
在“Dreaming”期间,Claude 会在空闲时段处理旧的会话记录,并据此构建其记忆的上层结构。| 图片:Anthropic
在 Pokémon 测试中,Claude 错误地记下了某个地标位于山的哪一侧。由于依赖那条错误的笔记,Claude 三次落入同一个陷阱,最终想要放弃,并错失了目标。经过一次 Dreaming 处理后,Claude 通过对照会话记录检查笔记发现了错误,并找到了正确的路径。
广告
只有在 Dreaming 纠正了笔记之后,Claude 才越过月见山到达了 Cerulean City。| 图片:Anthropic
据 Anthropic 称,Dreaming 还可以组织更大的知识库。Claude 利用 Anthropic 收购的软件公司 Stainless 约 350,000 份内部文档构建了一个相互链接的 wiki。Dreaming 应当能够生成新页面,同时修复缺口、重复内容和失效链接。当 Claude 能够将 wiki 与搜索结合使用时,收益最大,因此 wiki 起到的是补充作用,而非替代作用。
Claude在Stainless文档Wiki上工作的时间越长,回答问题的表现就越好,最佳结果来自将Wiki与搜索结合使用。 | 图片:Anthropic
在Anthropic进行的另一项法律测试中,Wiki对答案分散在多个文档中的问题帮助最大。Claude使用Wiki的得分为87%,而仅使用搜索时为73%。对于简单的查找任务,Wiki的表现与搜索大致相当,而在一个案例中,它甚至比源文档还要大。
记忆仍是一项进行中的工作
Anthropic承认,一些关键问题仍未解决。在任务进行中做笔记会分散智能体对工作的注意力,Dreaming会消耗额外的算力,而且其结果只有在延迟之后才会出现。Wiki和笔记也需要定期维护,否则错误和幻觉会不断累积。Anthropic还警告不要自动将过多记忆加载到每次会话中,因为它们会占用上下文,并将任何糟糕的笔记传递给未来的每一次会话。
所有这些测试都来自Anthropic。总体结论是,有用的智能体记忆与其说取决于尽可能多地存储信息,不如说取决于保留正确的信息并在之后纠正错误。
Anthropic于5月推出了Dreaming,作为Claude Managed Agents的研究预览版,这是该公司面向AI智能体的云平台。该服务会读取现有记忆存储以及最多100次过往会话,删除重复和过时的条目,并创建一个重新组织后的存储,同时保持原始存储不变。发布时,Dreaming仅支持Claude Opus 4.7和Sonnet 4.6。
OpenAI 也把 ChatGPT 的记忆功能称为“Dreaming”,该功能在六月进行了全面改造。该系统在后台维护用户画像,并自动纠正过时信息。据 OpenAI 称,这将时间准确性从 52.2% 提升到了 75.1%。
Google 和 Google DeepMind 的研究人员也让 AI 智能体做梦,但他们利用做梦来改进智能体的搜索策略。他们的智能体利用已存储的结果来探索替代解决方案,而无需再次调用模型。Google 还构建了 WikiSkill,这是一个面向智能体的 wiki。与 Anthropic 的系统类似,WikiSkill 将原始记录、提炼知识和具体指令分别保存在不同的层级中。