Apple Machine Learning Research · 2026/10/12 08:00:00
Self-Compacting Agent：无需微调，用轻量级 Rubric 引导模型自主决定何时压缩上下文以解决长程任务中的信息陈旧与窗口溢出问题
针对智能体在长轨迹中因固定阈值压缩导致关键中间结果丢失的痛点，提出 Self-Compacting 框架。该框架通过引入压缩工具与轻量级评估准则（Rubric），让模型自主判断子任务完成或轨迹收敛时进行上下文摘要，而非依赖外部触发器。实验表明，该方法在六个基准测试和七个模型上显著降低了单题成本，并揭示了模型缺乏自我感知上下文腐烂能力的元认知差距，证明脚手架可替代训练解决此问题。
报道全文原始报道全文
由思维链和工具调用构成的长智能体轨迹会积累陈旧内容，这些内容锚定了后续的生成过程，并最终超出上下文窗口。现有的脚手架（scaffold）通过在达到特定 token 阈值时触发固定间隔的压缩来缓解这一问题。然而，此类触发机制忽视了轨迹的结构，可能导致在推导或搜索过程中丢弃部分结果。我们提出了 SELFCOMPACT，一种允许模型自行决定何时以及如何执行压缩的脚手架。具体而言，它结合了两种推理时组件：(i) 一个供模型调用的压缩工具，用于总结累积的上下文；以及 (ii) 一套轻量级准则，规定何时触发压缩（当子任务已解决或轨迹正在收敛时）以及何时抑制压缩（在推导中途或陷入停滞时）。两者缺一不可。仅依靠该工具在不同开源权重模型中的使用效果参差不齐，往往在不恰当的时机被调用，甚至完全未被使用；而仅依靠准则则无法产生实际作用。二者结合，无需任何微调或外部监督即可实现有效的自适应压缩。我们在六个基准测试（竞赛数学和智能体搜索）及七个模型上展示了实证结果。结果表明，SELFCOMPACT 以极低的 token 成本达到了与固定间隔摘要相当甚至更优的效果；相较于无摘要基线，其在数学任务上的表现提升高达 18.1 分，在智能体搜索任务上提升 5–9 分，同时每道题目的成本降低了 30–70%。我们的研究揭示了一种元认知差距：尽管未经提示的模型无法可靠地判断自身上下文何时开始“腐烂”，但一套轻量级准则能够弥合这一差距，从而将“何时进行压缩”重新定义为一种可由脚手架提供、而无需通过训练获得的能力。
- † 约翰霍普金斯大学