vLLM 在 GB300 NVL72 上大规模部署 DeepSeek-V4.1-Flash，性能逼近专用引擎

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/23 08:00:00

全景综述与最新动态

1 家信源交叉印证

vLLM 结合 P/D 分离与 Wide-EP 技术，在 NVIDIA GB300 NVL72 机架单 GPU 实现 954K tokens/s 的超高吞吐，解码性能与 DeepSeek 专用引擎 DeepInfer 差距小于 6%。该成果证明了通用推理引擎通过针对性工程优化，可在超大规模集群中媲美甚至超越模型专用引擎的效率。

最新动向/vLLM 结合 P/D 分离与 Wide-EP 技术，在 NVIDIA GB300 NVL72 机架单 GPU 实现 954K tokens/s 的超高吞吐，解码性能与 DeepSeek 专用引擎 DeepInfer 差距小于 6%。该成果证明了通用推理引擎通过针对性工程优化，可在超大规模集群中媲美甚至超越模型专用引擎的效率。

逐小时热度走势

3 个完整观测小时

当前

6.8

峰值

7.204:00

近 24h 变化

–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

报道时间线

共 1 篇 · 最新优先

vLLM 官方博客T110月23日 08:00·85 分
vLLM 在 GB300 NVL72 上大规模部署 DeepSeek-V4.1-Flash，性能逼近专用引擎
原标题：Serving DeepSeek-V4.1-Flash at Scale: vLLM Matches DeepInfer and Scales to GB300 NVL72
- vLLM 在 GB300 NVL72 上实现单 GPU 954K tokens/s 吞吐，较单节点提升 7.9 倍
- 通过 P/D 分离和 Wide-EP 优化，vLLM 解码性能与 DeepSeek 专用引擎 DeepInfer 差距控制在 6% 以内
- 研究指出 CPU 开销在 NVL72 规模下成为关键瓶颈，且小型 DEP 实例更利于预填充
查看关联报道与研判原始网页