术语slug: train-inference-mismatch

训练-推理不匹配

Train-Inference Mismatch

采样与训练执行路径不同导致同一 token 的 logprob 出现偏差

收录情报动态

共 1 篇 · 第 1/1 页
Hacker News AIT2·基座大模型
74 分
TPU 上实现零误差同策略强化学习训练

针对大模型强化学习中采样器与训练器数值不一致导致训练失稳的痛点,该工作提出在 Cloud TPU 上实现逐位零误差(bitwise-zero)的训练-推理一致性方案。通过模块化内核模式与三方验证契约,使采样与训练对同一策略的评估完全对齐,可直接接入现有多主机 JAX/TPU 服务与训练流水线,并正扩展至线性注意力与 MoE 架构。

训练-推理不匹配 | Today for AI