阿里千问提出 TRACE，FP4 量化 RL Rollout 提速 5.4 倍

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/23 19:06:00

全景综述与最新动态

1 家信源交叉印证

阿里千问联合俄亥俄州立大学提出 TRACE 方法，通过让训练侧舍入方向跟随 Rollout 侧的 FP4 量化结果，解决了低精度推理导致的策略偏差与训练崩溃问题。该方法在多个 MoE 模型上实现了 FP4 权重/激活与 KV Cache 的联合量化，将最终性能拉回至 BF16 水平，同时在长序列场景下最高获得 5.4 倍的解码吞吐提升。

最新动向/阿里千问联合俄亥俄州立大学提出 TRACE 方法，通过让训练侧舍入方向跟随 Rollout 侧的 FP4 量化结果，解决了低精度推理导致的策略偏差与训练崩溃问题。该方法在多个 MoE 模型上实现了 FP4 权重/激活与 KV Cache 的联合量化，将最终性能拉回至 BF16 水平，同时在长序列场景下最高获得 5.4 倍的解码吞吐提升。

逐小时热度走势

2 个完整观测小时

连续完整观测不足 3 个小时，暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先

机器之心 (微信公众号)T210月23日 19:06·85 分
阿里千问提出 TRACE，FP4 量化 RL Rollout 提速 5.4 倍
原标题：FP4 W/A+FP4 KV的强化学习也能「又快又稳」：阿里千问提出TRACE，Rollout最高加速5.4倍
- TRACE 通过“Rollout 引导量化感知训练”机制，消除训练端与推理端因 FP4 离散边界产生的数值差异，防止 RL 训练崩溃。
- 在 Qwen3.5 和 Qwen3.8 系列 MoE 模型上验证，FP4 W/A + FP4 KV Cache 配置下的最终性能可逼近 BF16 基线。
- 在 128K 输出长度场景下，相比传统高精度 Rollout，TRACE 实现了最高 5.4 倍的解码吞吐量加速。
查看关联报道与研判原始网页