返回热点榜
compute热度 26.9°

AI 聚合热点事件 · 2026/11/7

DeepSeek V4.1 Flash 在 GB300 NVL72 上单智能体推理提速 1.5 倍

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/7 04:33:47
全景综述与最新动态
1 家信源交叉印证

Artificial Analysis 的 AA-AgentPerf 基准显示,DeepSeek V4.1 Flash 在 GB300 NVL72 上单智能体吞吐从 596 tok/s 提升至 848 tok/s(1.42 倍),每 GPU 吞吐约提升 1.6 倍。提速主要来自新版 vLLM 及其针对 GB300 的新内核、FlashInfer 自动调优、更完整的 CUDA Graph 覆盖、调优后的投机解码,以及 NVIDIA Dynamo + vLLM 方案中预填充与解码同卡运行。

最新动向/Artificial Analysis 的 AA-AgentPerf 基准显示,DeepSeek V4.1 Flash 在 GB300 NVL72 上单智能体吞吐从 596 tok/s 提升至 848 tok/s(1.42 倍),每 GPU 吞吐约提升 1.6 倍。提速主要来自新版 vLLM 及其针对 GB300 的新内核、FlashInfer 自动调优、更完整的 CUDA Graph 覆盖、调优后的投机解码,以及 NVIDIA Dynamo + vLLM 方案中预填充与解码同卡运行。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时,暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先
  1. Artificial Analysis (@ArtificialAnlys)T1·72 分

    DeepSeek V4.1 Flash 在 GB300 NVL72 上单智能体推理提速 1.5 倍

    原标题:DeepSeek V4.1 Flash speeds on GB300 NVL72 have increased by up to 1.5x tok/s per agent over the past...

    • 单智能体速度达 848 tok/s,较一个月前的 596 tok/s 提升 1.42 倍
    • 在约 80 tok/s/智能体时,每 GPU 吞吐约为原来的 1.6 倍
    • 提升来自 vLLM 新内核、FlashInfer 自动调优、CUDA Graph 覆盖与投机解码调优等软件层优化