Apple Machine Learning ResearchT1·基座大模型
78 分
宾夕法尼亚大学与伊利诺伊大学厄巴纳-香槟分校联合推出 Normalizing Trajectory Models (NTM),通过引入条件归一化流解决扩散模型在少步采样中丢失精确似然的问题。该架构结合浅层可逆块与深层并行预测器,支持从零训练或从预训练流匹配模型初始化,并在文生图基准测试中以仅 4 步采样达到或超越强基线性能,同时保留轨迹的精确似然以支持自蒸馏。
Normalizing Flow
通过一系列可逆变换将简单分布映射到复杂目标分布的生成模型
宾夕法尼亚大学与伊利诺伊大学厄巴纳-香槟分校联合推出 Normalizing Trajectory Models (NTM),通过引入条件归一化流解决扩散模型在少步采样中丢失精确似然的问题。该架构结合浅层可逆块与深层并行预测器,支持从零训练或从预训练流匹配模型初始化,并在文生图基准测试中以仅 4 步采样达到或超越强基线性能,同时保留轨迹的精确似然以支持自蒸馏。
一本新的入门书籍发布了,旨在通过紧凑的数学推导连接 PCA、VAE、扩散模型、GAN 等主流生成式 AI 架构。该书面向具备一定数学基础的研究者和学生,重点在于揭示不同生成模型背后的统一数学结构而非工程实现细节。
FFJORD 提出了一种结合自由形式连续动力学与流模型的可逆生成架构。该研究旨在通过神经 ODE 实现高维数据的精确似然估计,同时保持计算效率与可扩展性。
OpenAI 推出名为 Glow 的可逆生成模型,通过引入可逆 1x1 卷积简化了此前流模型的架构。该模型支持高分辨率图像的高效采样与生成,并能发现可用于数据属性操控的特征,代码及可视化工具已开源。