vLLM 发布 Kimi K3.1 Pro Day-0 支持，稀疏注意力提升长文推理效率

月之暗面正式开源其迄今最强的原生多模态智能体模型 Kimi K3.1 Pro，该模型采用总参数达 2.8T、激活参数 104B 的混合专家（MoE）架构，并支持 100 万 token 的超长上下文窗口。作为首个 K3.1 系列模型，它通过大规模联合强化学习后训练，在编码、3D 生成及金融研究等复杂任务上表现显著提升。

vLLM 团队迅速宣布对该模型提供 Day-0 支持，重点解决了超大参数与长上下文带来的推理瓶颈。技术层面，Kimi K3.1 Pro 在 MLA 层引入了稀疏注意力机制（DSA），使解码时读取字节数减少约 75%。vLLM 结合 Token 分片预填充和解码上下文并行（DCP）技术，在 340K 长文本场景下将首字延迟降低至 1.69 倍加速，同时使注意力模块速度提升 1.3-1.5 倍，实现了推理效率与吞吐量的双重突破。

这一进展标志着开源大模型在“超大规模 MoE + 超长上下文”组合下的工程化落地能力迈上新台阶。对于开发者而言，Day-0 支持意味着无需等待即可部署高性能推理服务，大幅降低了使用顶级开源模型的技术门槛。稀疏注意力优化的成功验证，也为后续处理百万级 token 文档和复杂智能体任务提供了高效的架构参考，有望加速 AI 在长文档分析领域的产业化应用。