Today for AI
返回热点榜
compute热度 10.8°

AI 聚合热点事件 · 2026/11/12

DeepSeek-V4.1-Flash 在 Rubin NVL72 实现 58 倍吞吐提升

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/12 08:00:00
全景综述与最新动态
1 家信源交叉印证

vLLM 团队将 DeepSeek-V4.1-Flash 部署到单台 NVIDIA Vera Rubin NVL72 机架，实现每 GPU 170 万 tokens/s 吞吐、单用户 387 tokens/s，较 GB300 NVL72 提升 58 倍，峰值吞吐达 252 万 tokens/s。性能跃升主要来自针对 Rubin 分离式内存与 FP4 张量核调优的算子、低延迟专用解码内核，以及通过 NVLink 跨机架共享的 KV 缓存与 Engram 表。

最新动向/vLLM 团队将 DeepSeek-V4.1-Flash 部署到单台 NVIDIA Vera Rubin NVL72 机架，实现每 GPU 170 万 tokens/s 吞吐、单用户 387 tokens/s，较 GB300 NVL72 提升 58 倍，峰值吞吐达 252 万 tokens/s。性能跃升主要来自针对 Rubin 分离式内存与 FP4 张量核调优的算子、低延迟专用解码内核，以及通过 NVLink 跨机架共享的 KV 缓存与 Engram 表。

逐小时热度走势

4 个完整观测小时
当前
10.8
峰值
11.807:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. vLLM 官方博客T1·78 分

    DeepSeek-V4.1-Flash 在 Rubin NVL72 实现 58 倍吞吐提升

    原标题：DeepSeek-V4.1-Flash on Vera Rubin NVL72: 58x Throughput vs. GB300 NVL72 at 387 tokens/s

    • 单台 Vera Rubin NVL72 机架即可支撑 DeepSeek-V4.1-Flash 每 GPU 170 万 tokens/s 吞吐，单用户 387 tokens/s，较 GB300 NVL72 提升 58 倍
    • 峰值吞吐达 252 万 tokens/s，单用户极限可达 1810 tokens/s
    • 性能提升来自 Rubin 分离式内存与 FP4 张量核专用算子、低延迟解码内核，以及 NVLink 跨机架共享 KV 缓存与 Engram 表