Artificial Analysis (@ArtificialAnlys)T1·72 分
DeepSeek V4.1 Flash 在 GB300 NVL72 上单智能体推理提速 1.5 倍
原标题:DeepSeek V4.1 Flash speeds on GB300 NVL72 have increased by up to 1.5x tok/s per agent over the past...
- 单智能体速度达 848 tok/s,较一个月前的 596 tok/s 提升 1.42 倍
- 在约 80 tok/s/智能体时,每 GPU 吞吐约为原来的 1.6 倍
- 提升来自 vLLM 新内核、FlashInfer 自动调优、CUDA Graph 覆盖与投机解码调优等软件层优化