Today for AI
返回热点榜
llm热度 11.7°

AI 聚合热点事件 · 2026/10/21

EAGLE-4 发布 投机解码提速至 961 tokens/s

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/21 08:47:39
全景综述与最新动态
1 家信源交叉印证

EAGLE-4 作为最新的投机解码加速组件，在 Qwen3.8-27B 模型上实现了单请求 961.6 tokens/s 的推理速度。它通过优化草稿模型结构和降低 LM Head 成本，在保持输出一致性的前提下显著提升了生成效率，成为当前大模型推理优化的重要工具。

最新动向/EAGLE-4 作为最新的投机解码加速组件，在 Qwen3.8-27B 模型上实现了单请求 961.6 tokens/s 的推理速度。它通过优化草稿模型结构和降低 LM Head 成本，在保持输出一致性的前提下显著提升了生成效率，成为当前大模型推理优化的重要工具。

热度曲线逐小时热度走势

3 个完整观测小时
当前
11.7
峰值
12.509:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

TIMELINE报道时间线

共 1 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·78 分

    EAGLE-4 发布 投机解码提速至 961 tokens/s

    原标题：Some of the most useful inference work right now is happening in the speculative decoding component.

    • EAGLE-4 在 Qwen3.8-27B 上实现 961.6 tokens/s 的单请求推理速度
    • 相比 DFlash 2 和 DSpark 分别有 1.28x 和 1.40x 的性能提升
    • 核心改进在于自适应草稿结构和更廉价的草稿 LM Head
EAGLE-4 发布 投机解码提速至 961 tokens/s | Today for AI