Apple Machine Learning Research · 2026/10/8 08:00:00
宾大与 UIUC 提出 NTM：用归一化流实现四步精确似然图像生成
原标题：Normalizing Trajectory Models
78AI 研判分
核心综述
宾夕法尼亚大学与伊利诺伊大学厄巴纳-香槟分校联合推出 Normalizing Trajectory Models (NTM)，通过引入条件归一化流解决扩散模型在少步采样中丢失精确似然的问题。该架构结合浅层可逆块与深层并行预测器，支持从零训练或从预训练流匹配模型初始化，并在文生图基准测试中以仅 4 步采样达到或超越强基线性能，同时保留轨迹的精确似然以支持自蒸馏。
报道全文原始报道全文
基于扩散的模型将采样过程分解为许多微小的高斯去噪步骤，但当生成过程被压缩为少数几个粗粒度过渡时，这一假设便不再成立。现有的少步数方法通过蒸馏、一致性训练或对抗性目标来应对这一问题，但在此过程中牺牲了似然框架。我们提出了归一化轨迹模型（Normalizing Trajectory Models, NTM），它将每个反向步骤建模为一个具有精确似然训练的强表达力条件归一化流。在架构上，NTM 在每个步骤内结合浅层可逆模块，并在整个轨迹上采用深度并行预测器，形成一个端到端的网络，既可以从头开始训练，也可以从预训练的流匹配模型初始化。其精确的轨迹似然进一步支持自蒸馏：一个轻量级去噪器在由模型自身诱导的 score function 上进行训练，仅需四步即可生成高质量样本。在文本到图像基准测试中，NTM 仅用四个采样步骤即可匹敌甚至超越强大的图像生成基线模型，同时独特地保留了生成轨迹上的精确似然。
- † 宾夕法尼亚大学
- ‡ 伊利诺伊大学厄巴纳-香槟分校 (UIUC)
- ** 工作完成于 Apple 期间