🤖 machine learning

Continuous Adversarial MeanFlow Transfer

本文介绍了 MeanFlow-Transfer 和连续对抗性均值流（Continuous Adversarial MeanFlow, CAMF），这是一个统一的框架，旨在将异构的预训练流模型适配到有限数据的全新领域，同时将生成过程加速至少步采样，从而在减少高达 125 倍神经函数评估次数的情况下，实现了最先进的生成质量。

原作者： Yara Bahram, Zahra Dehghani, Mélodie Desbos, Eric Granger, Pablo Piantanida, Mohammadhadi Shateri

发布于 2026-08-21

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yara Bahram, Zahra Dehghani, Mélodie Desbos, Eric Granger, Pablo Piantanida, Mohammadhadi Shateri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，计算机已经学会了创造出令人惊叹的逼真图像，从山峦上的日落到从未存在过的人像。这些系统通常被称为生成模型，它们通过学习数百万张照片的统计模式来工作。它们从随机噪声开始，并逐步进行精细化处理，一步步直到清晰的图像显现出来。多年来，这个过程就像是一场缓慢而细致的雕塑过程，需要数百次微小的调整才能把握好细节。虽然结果很美，但制造这些图像所需的时间和计算能力一直是一个主要的瓶颈。研究人员一直试图加速这一过程，希望能仅用几步就创造出高质量的图像，但他们面临着一个棘手的问题：那些让这些图像生成变快的工具往往被锁定在特定的格式中。一个被训练用于预测一种类型模式的模型，很难被轻易教导去预测另一种模式；而且一个为特定主题（如猫）设计的模型，在尝试适应新主题（如汽车）时，往往难以在不损失速度或质量的情况下进行转换。

蒙特利尔高等理工学院（ÉTS Montreal）的一个研究小组开发了一种能够同时解决这两个问题的新方法。他们创建了一种方法，可以将任何现有的、缓慢的图像生成器——无论其最初是如何构建的——快速适配以创建不同主题的新图像，同时使过程快上数百倍。他们的系统被称为 MeanFlow-Transfer，充当了一个“通用翻译官”。它获取预训练的慢速模型的输出，并将其转换为任何快速生成器都能理解的共享语言。这使得该系统可以从一个基于大规模通用图像数据集训练的模型开始，并仅使用少量的全新数据，就能立即教会它如何创建特定事物（如鸟类或汽车）的高质量图像。其结果是，该生成器只需寥寥数步即可产生清晰、细腻的图像，而此前完成这一任务需要数百步。

为了确保这些快速生成的图像在冲刺过程中不会丢失精细细节，研究人员在流程中加入了第二个阶段。他们引入了一个使用称为“对抗训练”学习技术的精炼步骤。在这个阶段，第二个神经网络充当“评论家”，将快速生成器产生的图像与真实照片进行对比。这个评论家不仅仅是检查整体形状是否正确，还会观察起始噪声与最终图像之间的微妙变化，检查图像生成的整个路径是否合理。这有助于系统找回那些在试图加速时经常被模糊掉的微小细节。通过将这种转换方法与这种批判性的眼光相结合，团队发现他们的系统可以达到甚至超越原始慢速模型的质量，但计算步骤减少了高达 125 倍。

研究人员通过选取四种不同类型的预训练模型（每种模型都具有不同的内部逻辑），并将它们适配到五个不同的新领域，包括鸟类、汽车和艺术品图像。在每种情况下，系统都成功地将原始模型的知识转移到了新主题中。当研究人员使用标准指标测量图像质量时，新系统产生的结果与针对新任务进行微调的原始模型一样好，甚至更好。或许更令人印象深刻的是，它在实现这一质量的同时，仅使用了极小部分的计算能力。例如，一个原本需要 250 步才能生成一张高质量鸟类图像的模型，现在只需四步即可完成，且不会失去清晰度。

该团队还发现，试图强迫旧模型遵循新的步数计划（这是其他一些研究人员尝试过的方法）实际上会导致训练不稳定并使结果变差。相反，他们的成功源于简单地将不同模型对图像的“思考方式”映射到一种单一的、通用的描述运动的方式中。他们证明了这种方法之所以奏效，是因为它尊重了图像形成的底层物理机制，而不是试图将它们强行塞入一种僵化的新模式。此外，他们表明，这种检查图像生成全过程的精炼技术，实际上是早期仅检查最终时刻的方法的一种自然延伸。随着检查之间时间步长的减小，他们的方法会平滑地转化为较旧、较简单版本，这证明了他们的新方法是前人方法的更强大、更灵活的版本。

这项工作之所以重要，是因为它打破了让快速图像生成受限于特定类型模型或主题的障碍。在此之前，如果你想要一个针对新类型图像的快速生成器，你通常必须从头开始，或者接受质量下降的代价。现在，一个单一的框架可以获取各种现有的、强大的模型，并将它们转变为适用于任何新任务的快速、专业的工具。研究人员证明，通过使用他们的方法，利用极少量的数据即可创建一个针对新领域的、高质量的生成器，这使得高级图像合成变得更加触手可及且高效。这些发现表明，生成式人工智能的未来可能不在于构建更大、更慢的模型，而在于寻找更聪明的方法来适配和加速我们现有的模型。

技术摘要：连续对抗性均值流迁移 (MF-T + CAMF)

问题陈述

本文解决了将预训练生成模型（扩散或流模型）迁移到具有有限数据的新领域时的两个主要挑战：

异构参数化与加速问题： 预训练生成器使用多样化的输出参数化方式（预测输入 $x$ 、噪声 $\epsilon$ 、瞬时速度 $v$ 或平均速度 $u$ ）。现有的加速方法与特定的参数化方式紧密耦合，导致异构模型缺乏统一的目标进行适配。此外，标准的适配过程保留了高昂的多步采样过程，阻碍了交互式应用。
少步生成的模糊问题： 在减少采样步数时，基于回归的模型倾向于对可能的输出进行平均，导致图像出现模糊。虽然对抗性细化对于提升少步生成的质量非常有效，但现有的连续对抗流模型 (CAFM) 是针对“瞬时”速度构建的。它们无法直接应用于预测“有限区间平均”速度的 MeanFlow (MF) 模型，从而产生了表示层面的鸿沟。

方法论

作者提出了一个两阶段框架：MeanFlow-Transfer (MF-T) 和 Continuous Adversarial MeanFlow (CAMF)。

1. MeanFlow-Transfer (MF-T)

MF-T 作为一个统一的接口，将异构源模型适配为目标领域上的少步 MeanFlow 生成器。

速度映射： MF-T 并不通过对齐噪声调度（作者发现这会在领域偏移下导致不稳定）来工作，而是将源模型的输出（无论是 $x, \epsilon, v$ 还是 $u$ ）映射到一个共享的瞬时速度表示中。
初始化： 该恢复的速度用于初始化目标 MeanFlow 生成器 ( $u_\theta$ )。对于单时间步输入的源模型（例如标准的 DiT），通过在架构中添加第二个时间步输入，将其转化为 MF 模型。
训练： 使用改进的 MeanFlow (iMF) 目标函数在目标领域上对初始化的生成器进行微调。这通过一个统一的训练循环将适配与加速结合在一起，将源模型压缩为少步生成器。

2. Continuous Adversarial MeanFlow (CAMF)

CAMF 是一个后训练阶段，旨在通过解决回归导致的模糊问题来优化适配后的 MF 生成器。

有限区间判别器： 不同于判别瞬时速度的 CAFM，CAMF 判别的是由 MF 预测的有限区间平均速度。
机制： 生成器将状态 $z_t$ 传输到预测的终点 $\hat{z}_r = z_t - (t-r)u_\theta$ 。标量势函数判别器 $D_\psi$ 比较实测终点 ( $z_r$ ) 与预测终点 ( $\hat{z}_r$ ) 在区间 $[r, t]$ 上的势能变化。
目标函数： 对抗损失通过最小二乘博弈，对比真实轨迹与伪造轨迹在区间内的平均势能变化 ( $A_\psi$ )。
理论保证： 作者证明，当区间 $t-r$ 趋于零时，CAMF 准则严格收敛于瞬时 CAFM 准则，确保了连贯性。
稳定性： 通过对势函数值应用中心化惩罚来防止漂移，并且该方法避免了原始端点对抗流模型所需的梯度惩罚和重置。

核心贡献

MF-T： 一种训练方案，通过共享的速度接口，将任何参数化形式（ $x, \epsilon, v, u$ ）的预训练源模型适配为高质量的少步 MeanFlow 生成器。作者证明，映射参数化比对齐调度在领域偏移下更稳定。
CAMF： 一种对抗性后训练目标，将连续对抗学习扩展到有限区间平均速度。它恢复了回归平均过程中丢失的精细细节，并被证明是 CAFM 的泛化。
统一框架： MF-T 与 CAMF 的结合使得将异构模型迁移到新领域时，能够实现高保真度且显著降低采样成本。

实验结果

该框架通过将四种 ImageNet 预训练源模型（DiT- $\epsilon$ , SiT- $v$ , JiT- $x$ , iMF- $u$ ）适配到五个目标领域（ArtBench, Caltech, CUB-Birds, Food, Stanford-Cars）进行了评估。

性能对比微调 (Fine-Tuning)： MF-T + CAMF 在质量上达到或超过了全量微调 (FT) 教师模型的水平（通过 FID 和 FDD 衡量），同时减少了高达 125 倍的神经函数评估次数 (NFE)。
- 示例： 在 SiT 上，该方法在 4 NFE 时达到了 10.30 的 FID，与 250 步的教师模型（FID 10.47）相当。
- 示例： 在 DiT 上，它在 8 NFE 时达到了 10.62 的 FID，匹配了 250 步教师模型（11.87 FID）的表现。
对抗性细化： CAMF 将 MF-T 的少步生成 FID 平均提升了 29%。
消融实验：
- 直接将 CAMF 应用于源模型的效果不如在 MF-T 适配之后应用。
- 调度对齐（Transport-v）在领域偏移下会导致训练不稳定，而速度映射（DDPM-v）则提高了泛化能力。
- 研究发现最优传输正则化是有害的，因此将其移除。

意义与主张

本文声称提供了一个统一框架，用于将任何参数化的预训练生成器适配为高质量、样本高效的目标领域生成器。

效率： 它通过实现快速、交互式的生成（少步），解决了“加速差距”问题，且不会牺牲多步微调的质量。
通用性： 它克服了以往方法受限于特定源架构或参数化的局限性。
质量： 通过将对抗学习扩展到有限区间速度，它恢复了回归平均法通常会造成模糊的感知细节。

作者指出，虽然该方法可以将生成加速到 4 步，但尚未能在有限数据下实现数据丰富源领域中所见的 1 到 2 步生成质量，将“有限数据下的高保真单步生成”作为一个开放性挑战。未来的工作建议关注更高分辨率以及文本到图像/视频的模态。