The Decoder · 2026/10/13 00:10:00

微软研究揭示智能体“想法盆地”陷阱:清空历史上下文可提升解题得分 66%

出处作者 / 发布主体:Matthias Bastian原标题:Clearing chat history helps AI agents find better solutions
78AI 研判分
核心综述

微软研究院发现,长程运行的 AI 智能体容易陷入重复无效尝试的“想法盆地”,导致算力增加但性能停滞。通过引入 Fork-and-Flush 策略定期清空对话历史,迫使模型探索新路径,在同等算力预算下将标准化平均得分提升了 66%。这一机制表明,即使是前沿模型,适时的上下文重置仍是突破推理瓶颈的关键手段。

报道全文原始报道全文

本文目录4 个章节

Image 1: Matthias Bastian

2026年10月12日

Image 2: Image description

由 THE DECODER 使用 Nano Banana Pro 生成

微软研究院的一项研究发现,长时间运行的 AI 研究智能体即使增加算力也可能遭遇性能瓶颈。累积的对话上下文可能会限制其搜索范围,使其专注于类似的解决方案,而不是探索更优的方法。

微软研究人员研究了他们所谓的“自动研究智能体(Autoresearch agents)”,即那些反复提出解决方案、进行评估并根据反馈进行改进的 AI 系统。在同一任务上对同一智能体进行的八次独立运行最终达到了显著不同的性能水平,最终得分从 68.3 到 100.0 不等。根据论文所述,即使投入大量额外算力,这些差距依然存在。

智能体陷入“想法盆地”

研究人员将所有运行产生的解决方案绘制在一张二维地图上,该地图将相似的解决方案放置在一起,然后进行比较。单次运行产生的解决方案几乎总是停留在地图上的一个小区域内。作者将这些区域称为“想法盆地”。

智能体将其剩余算力预算的大部分用于在一个效率较低的区域中完善解决方案,而不是去发现其他运行所找到的更好方法。即使智能体定期压缩其对话历史,这种模式依然持续存在。

清除聊天记录有助于智能体探索新方法

所提出的“Fork-and-Flush”(分叉与刷新)方法结合了两种机制。在“分叉”阶段,智能体分裂为 K 个并行分支,每个分支继承之前的工作区及所有生成的文件。在“刷新”阶段,每个分支清除其完整的聊天上下文,但保留工作区,从而能够开启全新对话并在先前工作的基础上继续推进。

Image 3

左侧显示单次运行(灰色虚线),它在同一个想法盆地内不断细化解决方案。Fork-and-Flush 启动具有全新聊天上下文的并行分支,保留最佳分支并丢弃其余分支。右侧显示一个拥有全新上下文的分支进入了不同的想法盆地,并取得了更高的分数。| 图片:Cai, Ziakas 等人 (2026)

若分支保留父进程的聊天上下文,由于先前的推理会引导其后续步骤,该分支往往倾向于回到同一个想法盆地。全新的上下文有助于恢复搜索的多样性。虽然对话历史丢失了,但代码、文件和保存的结果仍保留在工作区中。

在相同算力预算下,归一化平均得分提高 66%

研究人员在 13 项长时运行任务上测试了 Fork-and-Flush,这些任务包括多联骨牌装箱、作业车间调度、密码分析,以及压缩 CIFAR 分类器和优化 VLIW 内核。单次运行耗时从数小时到超过 100 小时不等。智能体通过 GitHub Copilot CLI 使用 GPT-5.6-terra 和 GPT-5.5 模型。

在相同的算力预算下,Fork-and-Flush 实现了 0.78 的最小-最大归一化平均得分,而单次运行为 0.47,best-of-4 策略为 0.54。论文报告称,相对提升幅度分别为 66.0% 和 44.4%。该方法在 13 项任务中的 12 项上取得了最高的平均得分。

Fork-and-Flush 还产生了更一致的结果,归一化标准差从单次运行的 0.26 降至 0.16。仅清除聊天上下文而不进行分支操作,也能使结果提升 22%。

评估方法归一化平均分归一化标准差相对于单次运行基线的相对提升
13 项任务单次运行0.470.26基线
13 项任务Best-of-40.540.21约 +14.9%
13 项任务Fork-and-Flush0.780.16+66.0%
11 项任务单次运行0.45—基线
11 项任务仅 Flushing0.55—约 +22%

更强的模型可能仍需要上下文重置

研究人员还测试了能力更强的模型是否能避免陷入“想法盆地”(idea basins),他们使用 MAX-3-SAT 问题在三种不同规模的模型上进行了实验:Qwen3.5-4B、9B 和 27B。多次运行之间的方差呈现倒 U 形曲线,在处于模型能力边缘的任务上达到峰值,这些任务的表现大致介于随机猜测性能和参考求解器性能之间。

Image 4

结果在处于模型能力边缘的任务上变化最大,有些运行成功,而另一些则远未达到预期。模型在非常简单的任务上几乎总是成功,而在非常困难的任务上则失败。这种模式在所有测试的三种模型规模中均成立。| 图片:Cai, Ziakas 等人 (2026)

作者认为,开放性的研究问题从定义上讲就位于模型能力的极限处。他们预计,Fork-and-Flush 所利用的这种变异性将随着模型的改进而持续存在,只是边界会向更难的问题移动。结果表明,即使对于前沿的研究智能体,定期的上下文重置也可能仍然有用。