Today for AI
返回热点榜
compute热度 0.0°

AI 聚簇研判事件 · 2026/10/9

vLLM 适配 NVIDIA Vera Rubin NVL72：通过 FlashInfer 调优内核实现 7.8 倍吞吐提升

1 篇报道存证0 家独立信源交叉印证持续跟踪至 2026/10/9 08:00:00
全景综述与最新动态

vLLM 宣布正式支持 NVIDIA 下一代推理平台 Vera Rubin NVL72，实测吞吐量较 GB200 NVL72 提升 7.8 倍。该性能增益主要源于硬件架构升级（5 倍 NVFP4 FLOPS、2.4 倍 HBM 带宽）以及通过 FlashInfer 0.7.0 引入的针对 Rubin 优化的注意力、GEMM 和 MoE 内核，同时兼容 DeepSeek、Kimi 等主流开源模型。

最新动向/vLLM 宣布正式支持 NVIDIA 下一代推理平台 Vera Rubin NVL72，实测吞吐量较 GB200 NVL72 提升 7.8 倍。该性能增益主要源于硬件架构升级（5 倍 NVFP4 FLOPS、2.4 倍 HBM 带宽）以及通过 FlashInfer 0.7.0 引入的针对 Rubin 优化的注意力、GEMM 和 MoE 内核，同时兼容 DeepSeek、Kimi 等主流开源模型。

热度曲线逐小时热度走势

53 个完整观测小时
当前
0.0
峰值
10.711:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

TIMELINE报道时间线

共 1 篇 · 最新优先
  1. vLLM 官方博客T1·68 分

    vLLM 适配 NVIDIA Vera Rubin NVL72：通过 FlashInfer 调优内核实现 7.8 倍吞吐提升

    原标题：vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72

    • NVIDIA Vera Rubin NVL72 相比 GB200 NVL72 在 NVFP4 FLOPS 上提升 5 倍，HBM 带宽提升约 2.4 倍。
    • vLLM 利用 Blackwell 架构兼容性实现 Day-0 支持，并通过 FlashInfer 0.7.0 获得针对 Rubin 优化的底层内核。
    • 当前已支持 DeepSeek、Moonshot AI、Z.ai 和 MiniMax 等模型，并提供了 FP8 KV Cache 等高级配置选项。