🤖 AI

MixFlow Training: Alleviating Exposure Bias with Slowed Interpolation Mixture

本文介绍了 MixFlow，这是一种通过利用“慢速插值混合”策略来更好地对齐训练与测试条件，从而缓解扩散模型中曝光偏差问题的创新训练方法，并在 ImageNet 上实现了最先进的图像生成结果。

原作者： Hui Li, Fu-Yun Wang, Haoyuan Xia, Jiayue Lyu, Kaihui Cheng, Siyu Zhu, Jingdong Wang

发布于 2026-07-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Hui Li, Fu-Yun Wang, Haoyuan Xia, Jiayue Lyu, Kaihui Cheng, Siyu Zhu, Jingdong Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个机器人通过缓慢转动旋钮来画图，这个旋钮能将一团静态噪声变成一张清晰的图像。这正是现代“扩散”（diffusion）模型的工作原理。它们通过观察一张照片，向其中添加静态噪声，然后尝试通过逐步去除这些噪声来还原原始图像来进行学习。

这里有一个问题：在训练（学习阶段）期间，这个机器人有点“作弊”。每当它尝试预测下一步时，它都会看到前一个步骤中那个“完美版本”的噪声图像。这就像一个学生在参加考试，老师在学生写下答案之前，就先在他耳边低声透露了上一道题的正确答案。

但在测试（机器人真正画图）期间，老师停止了低声提示。机器人必须利用它自己上一步的预测来推断下一步。如果它在早期犯了一个微小的错误，这个错误就会被传递下去，不断放大，最终导致生成的图像看起来很奇怪或模糊。这被称为“曝光偏差”（exposure bias）——机器人在学习时接触的是完美的数据，但在独自工作时面对的是混乱的数据。

“慢流”（Slow Flow）的发现

论文的作者们在观察机器人画图时，注意到了一些奇怪的现象。他们发现，当机器人在某个时刻（我们称之为“时间 T”）生成一张带噪声的图片时，那个噪声的“完美版本”（即机器人本该观察的版本）实际上属于过程中的一个更早的时间点，一个噪声更多的时刻。

可以这样理解：想象你正在参加一场赛跑。当你跑到 10 秒标记处时，你回头一看，发现你“完美位置”的实际情况其实发生在 8 秒标记处。你实际上比“地面真值”（ground truth）要“慢”。机器人的生成路径落后于完美的路径，陷入了一种被“减速”的状态，带有比预期更多的噪声。

MixFlow 解决方案

作者们并没有试图在比赛结束后去纠正机器人的跑步风格（其他方法尝试过这样做），而是决定改变机器人“学习比赛”的方式。他们引入了一种新的训练方法，称为 MixFlow。

在标准训练中，机器人只观察处于其应有时刻的完美噪声。而在 MixFlow 中，机器人被训练去观察一种“混合”后的完美噪声。它不仅观察当前时刻的完美噪声，还会观察那些处于“减速”状态、具有更多噪声的时刻的完美噪声。

类比：
想象你在学习骑自行车。

标准训练： 你只在完全平坦、光滑的路上练习。当你进入现实世界遇到颠簸和强风时，你会因为没有为这种“滞后感”做好准备而摔倒。
MixFlow 训练： 你在平滑的路上练习，但同时也会在一条稍微颠簸、呈现“减速”感的路上练习，这模拟了你稍后会感受到的滞后感。通过这种方式，你在处于安全训练阶段时，就能学会应对这种“减速”的感觉。

通过在这种“减速插值混合”（slowed interpolation mixture）上进行训练，机器人学会了如何处理其自身的预测会比完美的地面真值更“慢”、噪声更大的情况。它不再会在依赖自己的前一步预测时感到困惑。

他们排除了什么

作者们非常谨慎地测试了哪些方法是无效的。他们尝试了一种名为“输入扰动”（Input Perturbation）的方法，即通过添加随机噪声来模拟错误。他们发现，如果只是盲目地添加随机噪声而不理解其中的“慢流”模式，你可能会误导机器人，让它使用与现实不符的“更快”（噪声更少）或“更慢”（偏离太远）的数据。实验表明，盲目添加噪声往往会让情况变得更糟，而他们特定的“减速”混合才是关键。

他们还将该方法与在绘画过程中（推理阶段）通过调整步骤来解决问题进行了对比。他们发现，虽然这些调整会有所帮助，但它们就像是在试图修正一辆已经发生漂移的汽车；不如从一开始就改进“引擎”（即训练阶段）来得有效。

结果：我们有多确定？

作者们不仅仅是凭直觉猜测；他们在真实的图像数据集上进行了大规模实验。

证明： 他们在包括 120 万张包含 1,000 个不同物体类别的 ImageNet 数据集在内的多个顶级图像生成器（如 SiT、REPA 和 RAE）上测试了 MixFlow 方法。
数据： 在 256 × 256 像素的图像上，他们的 MixFlow 模型在无引导（without guidance）时达到了 1.43 分，在有引导（with guidance）时达到了 1.10 分。在更大的 512 × 512 像素图像上，无引导得分达到 1.55，有引导得分达到 1.10。
- 注：在这个领域中，较低的“FID”分数代表更好。这些数字非常低，意味着生成的图像与真实照片几乎无法分辨。
文本生成图像： 他们还在文本生成图像模型（SD 3.5）上进行了测试。当被要求绘制复杂场景时，例如“五块咸鲜可口的披萨”或“时钟左侧的一只鸟”，MixFlow 版本在遵循指令方面表现得比标准版本好得多，能够准确掌握数量和位置。

论文指出，这种方法之所以是一个重要的进步，是因为它直接解决了误差累积的根源。它不是一个魔术，而是一种更聪明的练习方式。通过让机器人练习处理“减速版”的真相，它在独自生成图像时会变得更加稳健。

简而言之，论文表明，通过将训练“食谱”改为包含“减速”数据，扩散模型可以停止在自己的脚步上绊倒，从而开始一场更加平滑的赛跑。

技术摘要：MixFlow 训练

问题陈述

本文旨在解决扩散模型（Diffusion Models）和流匹配模型（Flow Matching Models）中常见的训练-测试差异，即通常被称为**曝光偏差（Exposure Bias）**的问题。在训练期间，预测网络在每个时间步接收的是真实噪声数据（噪声与数据的插值）作为输入。相反，在测试（采样）期间，网络接收的是来自前一个步骤的已生成噪声数据。这种差异会导致预测误差、误差累积以及采样漂移。虽然以往的解决方案侧重于修改采样过程（例如 Time-Shift Samplers、Epsilon Scaling）或在训练期间应用输入扰动，但本研究提出了一种全新的训练程序来直接缓解这一问题。

方法论：MixFlow

所提出的 MixFlow 方法源于对**“慢流”（Slow Flow）现象的观察。经验分析表明，在采样时间步 $t$ ，最接近生成噪声数据的真实噪声数据通常对应于一个更高噪声的时间步**（即一个“变慢的时间步”， $m_t \leq t$ ）。换句话说，生成的数据落后于真实的轨迹。

为了利用这一观察结果，MixFlow 对训练过程进行了如下修改：

减速插值混合（Slowed Interpolation Mixture）： MixFlow 不再让预测网络 $u_\theta$ 在对应于训练时间步 $t$ 的单一插值 $x_t$ 上进行训练，而是使用来自一系列“减速”时间步的插值混合。
- 输入的噪声数据是从集合 $\mathcal{X}_t = \{x_{m_t} \mid m_t \in [(1-\gamma)t, t]\}$ 中采样的，其中 $m_t$ 代表一个更高噪声（更慢）的时间步。
- 范围大小相对于 $t$ 呈线性关系，由系数 $\gamma$ 控制。
修改后的损失函数： 训练目标使用减速插值 $x_{m_t}$ 作为输入来优化预测网络，而目标仍为减速时间步 $m_t$ 处的真实速度：
$\mathbb{E}_{t, x_0, x_1, m_t} [\| u_\theta(x_{m_t}, t) - u^*(x_{m_t}, m_t) \|_2^2]$
至关重要的一点是，传递给网络的输入时间步仍然是训练时间步 $t$ ，而非 $m_t$ 。
采样策略：
- 减速时间步 ( $m_t$ )： 从范围 $[(1-\gamma)t, t]$ 中均匀采样。
- 训练时间步 ( $t$ )： 为了确保 $(x_{m_t}, t)$ 对在所有可能的组合中被均匀采样，训练时间步 $t$ 是从 Beta(2, 1) 分布（即 $p(t) \propto t$ ）中采样的，而非均匀分布。
实现： 该方法非常轻量化，仅需对现有训练流水线进行微小的代码修改（例如，对于 RAE 仅需 5 行代码）。它可以作为预训练模型的后训练（post-training）策略使用。

核心贡献

识别“慢流”现象： 本文通过经验证明，在时间步 $t$ 的生成噪声数据在空间上最接近于较慢（更高噪声）时间步的真实数据，这为所提出的训练修改提供了理论基础。
MixFlow 训练算法： 一种新颖的训练方案，利用减速插值混合来使训练分布与测试分布更加一致，从而有效地缓解了曝光偏差。
达到最先进性能（SOTA）： 该方法在各种模型架构（SiT, REPA, RAE）和生成任务（类别条件生成和文本生成图像）中均取得了显著改进。

实验结果

作者在类别条件图像生成（ImageNet）和文本生成图像（Stable Diffusion 3.5）上评估了 MixFlow。

类别条件生成 (ImageNet)

RAE 模型： 应用于 RAE 模型的 MixFlow 取得了新的 SOTA 结果：
- 256 × 256： 1.43 FID（无引导）和 1.10 FID（有引导）。
- 512 × 512： 1.55 FID（无引导）和 1.10 FID（有引导）。
SiT 和 REPA： 在 SiT（B 和 XL 尺寸）和 REPA 模型中均观察到一致的提升。例如，SiT-B/2 在有引导的情况下将 gFID 从 4.46 提升至 3.91。
采样步数： MixFlow 的收益在较少的采样步数（如 20 步）下更为明显，这表明它有效地解决了粗略采样固有的近似误差问题。
对比： MixFlow 优于其他缓解曝光偏差的方法，包括输入扰动（Input Perturbation）、Epsilon Scaling 和 Time-Shift Samplers。

文本生成图像

应用于 Stable Diffusion 3.5，MixFlow 在 40 步和 10 步采样下，在所有评估指标（GenEval, DPG-Bench, T2I-CompBench）上均提升了性能。
定性结果显示，在计数准确性、空间关系和物体形状遵循度方面均有改进。

重要性与主张

本文声称，MixFlow 通过修改训练分布以应对“慢流”现象，为解决曝光偏差问题提供了一个简单且有效的方案。作者强调：

训练 vs. 推理： 与推理阶段的调整不同，MixFlow 通过改变训练目标来解决根本原因，使模型对训练与测试之间的分布偏移具有鲁棒性。
兼容性： 该方法兼容多种骨干架构（SiT, DiT）、插值方案（线性、方差保持）以及先进的训练范式（REPA, RAE）。
效率： 它以极低的计算开销实现了最先进的结果，仅需几行代码修改即可作为高效的后训练步骤。

作者总结道，MixFlow 显著增强了生成质量，特别是在高分辨率和低步数采样场景下，为基于扩散的图像生成树立了新的基准。