FlashMap 发布:连续流映射实现单次前向传播投机解码
作者:▲ Marktechpost AI (@Marktechpost)原标题:FlashMap, a speculative decoding drafter that writes a whole block of tokens jointly, in 1 forward p...
78AI 研判分
FlashMap 是一种新型投机解码草稿模型,通过连续流映射替代离散扩散,在单次前向传播中联合生成整块 Token。在 Qwen3-8B 上实现最高 6.14 倍无损加速,平均比重训 DFlash 快 7%,且参数量减半(0.5B vs 1B)。目前 Apache-2.0 权重与 MIT 代码已开源,支持 vLLM 和 SGLang。
报道正文
▲ Marktechpost AI · 2026-10-28 08
FlashMap,一种推测解码(speculative decoding)草稿模型生成器(drafter),能够在单次前向传播中联合写入整个 token 块。
其核心思想是将离散扩散替换为连续流映射(continuous flow map)。像 DFlash 这样的扩散式草稿模型会独立预测每个槽位,因此生成的草稿可能混杂“new”与“diego”等不连贯内容。而 FlashMap 将单个噪声样本映射为一个完整的 token 块,从而确保这 16 个 token 保持一致性。
在 Qwen3-8B 上,单步 FlashMap 实现了高达 6.14 倍的无损加速,并在全部 9 项基准测试中超越了重新训练的 DFlash,平均速度快约 7%。它仅使用一个 0.5B 参数的草稿模型,而 DFlash 使用的是 1B 参数模型。不过这也存在权衡:单步草稿在块的后部槽位接受率较低;且在温度为 0 时,在 Qwen3-4B 上有 4/9 的任务表现落后于 DFlash。
Qwen3-8B 和 Qwen3-4B 的草稿模型现已发布,采用 Apache-2.0 权重和 MIT 代码,并支持 vLLM 0.31 和 SGLang 0.5.20 插件……
完整分析:
