量子位官网T2·85 分
百度开源文心 Unlimited OCR 2,KV 缓存降 96%
原标题:KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
- 文心 Unlimited OCR 2 采用 SR-SWA 机制,实现 KV 缓存占用降低约 96%(47GB -> 1.77GB)。
- 支持连续解析数千页超长文档(如《哈利·波特》全集),突破传统上下文长度限制。
- 已在 GitHub 和 Hugging Face 正式开源,社区可立即部署体验。
AI 聚合热点事件 · 2026/10/27
百度正式发布并开源文心 Unlimited OCR 2,通过引入稀疏参考滑动窗口注意力机制(SR-SWA),将百页级文档推理的峰值 KV 缓存占用从 47GB 降至 1.77GB。该模型支持无上限连续处理超长文档(如3600+页小说),显著降低了显存门槛与计算开销。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%