投机解码

投机解码（Speculative Decoding）是一种加速自回归大模型生成的推理优化技术。系统先由内置草稿头（Draft Head）或小型辅助模型快速预测多个候选 Token，再由主模型在单次前向传播中并行校验并接受符合概率分布的 Token，在保持输出精度与数学一致性的同时提升生成速度。