InfoQ 中文T2·68 分
九章云极发布 Alaya-DFlash2,GLM-5.3 长文本解码提速 3.41 倍
原标题:突破长文本推理瓶颈 九章云极Alaya-DFlash2助GLM-5.3解码提速3.41倍
- 采用并行草稿模型与路径选择机制,解决长上下文下推测解码接受长度下降的问题
- 在 8×H200、TP=8 环境下,单并发解码速度提升至 288.2 tokens/s,为原生自回归方案的 3.41 倍
- 全并发档位(1–64)总吞吐均超越原生方案,最高提升约 3 倍,兼顾交互流畅度与服务容量