Anthropic 推出 Message Threads 长对话首字延迟降 35%
作者:Matthias Bastian原标题:Anthropic's Message Threads cut time to first token by 35 percent for long conversations
78AI 研判分
Anthropic 在 Claude 平台公测 Message Threads,通过仅传输增量消息而非完整历史,将长上下文请求的首字生成时间(TTFT)降低约 35%。该功能适用于编码代理和文档处理工作流,支持 AWS、Azure 和 Google Cloud,但总 Token 消耗量保持不变。
报道正文
Anthropic 的 Message Threads 功能将长对话的首字生成时间缩短 35%
[Matthias Bastian](https://the-decoder.com/author/matthias-bastian/) [查看 Matthias Bastian 的 LinkedIn 个人资料](https://www.linkedin.com/in/matthias-bastian-128b71b1/) 2026 年 11 月 3 日 Anthropic 在其 Claude 平台上发布了 Message Threads 公开测试版。 此前,每次 API 请求都必须重新发送整个对话历史。Message Threads 仅传输自上一条消息以来发生变化的内容,据 Anthropic 称,对于包含 50 万至 100 万 token 的请求,这将首字生成时间(Time to First Token, TTFT)缩短了约 35%。
该公司表示,编码代理、计算机使用代理以及处理大量文档或图像的工作流将从中受益最多。线程在请求之间以加密形式保留在内存中,并在闲置五分钟后过期。由于 Claude 仍需读取完整的对话历史,因此 token 用量不会改变。该功能适用于 Claude 平台,并通过 AWS、Microsoft Foundry 和 Google Cloud 提供支持。详细信息请参阅文档。
AdAd