Today for AI
返回热点榜
llm热度 13.1°

AI 聚合热点事件 · 2026/10/29

vLLM 发布 Mistral Large 4 Day-0 支持 集成稀疏注意力与多模态架构

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/29 08:00:00
全景综述与最新动态
1 家信源交叉印证

vLLM 宣布对 Mistral Large 4 的 Day-0 原生支持，该模型采用混合专家（MoE）与原生多模态架构。此次集成不仅适配了 DeepSeek 风格的稀疏注意力机制，还引入了跨层 KV 共享、NoPE 层及内置投机解码等创新特性，并推动了 vLLM 在上下文并行与显存卸载方面的通用优化。

最新动向/vLLM 宣布对 Mistral Large 4 的 Day-0 原生支持，该模型采用混合专家（MoE）与原生多模态架构。此次集成不仅适配了 DeepSeek 风格的稀疏注意力机制，还引入了跨层 KV 共享、NoPE 层及内置投机解码等创新特性，并推动了 vLLM 在上下文并行与显存卸载方面的通用优化。

逐小时热度走势

3 个完整观测小时
当前
13.1
峰值
13.810-30
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. vLLM 官方博客T1·88 分

    vLLM 发布 Mistral Large 4 Day-0 支持 集成稀疏注意力与多模态架构

    原标题：Day 0 support for Mistral Large 4 on vLLM

    • Mistral Large 4 采用 72 层 MoE 架构，总参数 1T，激活参数约 49B，结合 MLA 与 DSA 稀疏索引器。
    • 引入跨层 KV 共享、NoPE 层、SSMax/LeRoPE 以及内置 DSpark 投机解码器和 Pixtral 视觉编码器。
    • 基于 vLLM Model Runner V2 (MRV2) 实现，利用可中断 CUDA Graphs，并优化了解码/预填充上下文并行及 HiSparse 显存卸载。
vLLM 发布 Mistral Large 4 Day-0 支持 集成稀疏注意力与多模态架构 | Today for AI