🤖 machine learning

Velocity Scheduled Flow Matching

本文介绍了速度调度流匹配（Velocity Scheduled Flow Matching, VSFM），该方法通过允许可变速度剖面，放宽了标准流匹配中的恒定速度假设，从而通过在推理时重用预训练模型或通过使用特定制动剖面进行从头训练，来优化积分调度，进而降低采样成本并提高生成质量（FID）。

原作者： Vitalii Bondar

发布于 2026-07-14

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Vitalii Bondar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图画出一幅完美的猫咪画像，但你起初面对的是一个充满静电噪声的模糊电视屏幕。在 AI 图像生成的领域中，有一种非常流行的技术叫做流匹配（Flow Matching），它就像是一个引导这场转变的 GPS。它教会神经网络如何一步步引导模糊的噪声，直到它变成一只清晰的猫。

长期以来，大家都认为这个 GPS 应该以恒定速度引导图像从模糊的起点移动到清晰的终点。这就像是在一条笔直的路上开车，你永远不会踩油门或踩刹车；你只是以完全相同的速度巡航。

但在这一篇论文中，Vitalii Bondar 提出了一个简单而有趣的疑问：如果我们不必以恒定速度行驶呢？ 如果我们可以在路况平顺时加速，而在路况曲折危险时减速呢？

核心理念：加速与减速

作者引入了一种名为**速度调度流匹配（Velocity Scheduled Flow Matching, VSFM）**的新方法。VSFM 不再强迫图像以匀速移动，而是允许你选择一个“速度剖面（speed profile）”。你可以告诉 AI 在旅程初期那些混乱的阶段快速通过，然后在接近最终精细图像时轻轻刹车。

把它想象成过山车。

旧方法（线性）： 火车以恒定、乏味的速从车站开往山顶，然后再回到原点。
新方法（VSFM）： 火车在第一座山丘（轨道较简单的部分）上飞速冲刺，然后在到达底部那些尖锐、扭曲的环形轨道之前，逐渐减速到爬行般的速度。

“魔术”技巧：无需重新训练

这是这项发现中最酷的部分。作者发现，你并不需要从头开始重新训练 AI 来使用这些新的速度剖面。如果你已经拥有了一个学会了以恒定速度行驶的训练好的 AI，你只需**改变询问它如何移动的“调度方案”**即可。

这就像是一个已经知道路线的 GPS 应用。你不需要重建道路，也不需要重新教应用如何驾驶；你只需要告诉它：“嘿，前半段走快车道，快到出口时慢下来。” 论文表明，通过仅仅在不同的非均匀时间调度下整合 AI 的指令，你就可以获得更好的图像，而无需多花一分钱的计算机训练成本。

实验结果：减速拯救全局

作者在名为 CIFAR-10 的 32x32 像素图像数据集上测试了该方法。他们尝试了六种不同的“速度剖面”（类似于机器人或动画师让物体平滑移动的方式）。

结果通过一个名为 FID（Fréchet Inception Distance）的分数来衡量，数值越低意味着图像越真实、质量越高。

“滑行（Coasting）”剖面： 该剖面起始速度较快并逐渐减速。当将其应用于现有模型进行推理阶段（即仅生成图像时），它将 FID 降低了高达 19.8%。这是一个巨大的质量飞跃！
从头训练： 当作者专门使用这种“滑行”速度来训练一个新模型时，在仅使用 4 个步骤（非常快速的生成）时，它降低了 17.4% 的 FID；在 50 个步骤时，降低了 10.4%。

为什么有效？（“曲折之路”类比）

论文通过**局部截断误差（local truncation error）**的概念解释了这一点。想象你在一条小径上行走，迈着大步。

在平坦、笔直的小径上（图像早期充满噪声的部分），迈大步没问题，你不会错过任何东西。
在有尖锐、突然转弯的小径上（图像细节形成的最后阶段），迈大步会让你踉跄并错过转弯。

“线性”方法（恒定速度）强迫你在任何地方都采取同样大小的步伐。但制动剖面（如“滑行”或“匀速减速”）则告诉你在路径变得扭曲（接近旅程终点）时采取极小、谨慎的步伐。

论文指出，“平滑着陆（Smooth Landing）”剖面在某些情况下失败了，因为它在旅程最开始采取了巨大的步伐，浪费了能量，然后又试图在最后的几个步骤中挤进所有的精度。而“滑行”剖面表现最好，因为它找到了完美的平衡：一个温柔的开始和一个平稳、谨慎的结束。

论文强调它“不是”什么

作者小心地指出，这种方法不是指什么。

它不是关于改变 AI 学习图像本身的数学方式（其“耦合”或“插值项”仍然是那条直线）。
它不是关于增加 AI 的层数或让网络变得更大。
它不是靠魔法运作的；它是由于计算机计算步骤的具体数学方式（欧拉积分器）而起作用的。

我们有多确定？

论文对这些数字非常有信心，因为它们是在 CIFAR-10 上的真实实验中测量出来的。

当应用于现有的预训练模型时，观察到了 19.8% 的提升。
当从头训练一个新模型时，测量到了 17.4% 的提升。
作者认为，之所以有效，是因为计算机计算误差的特定方式，但他们承认这只是一个局部的解释（观察单步行为），需要更多工作来证明它在全局或处理更大型、更复杂图像（如高清照片）时的具体表现。

简而言之，论文表明，通过仅仅告诉 AI “在接近终点时慢下来”，我们就能更快、更好地获得图像，且无需额外的训练成本。这只是对调度方案的一个简单微调，让整个旅程变得更加顺畅。

技术摘要：速度调度流匹配 (VSFM)

问题陈述

流匹配（Flow Matching）是一种连续时间生成建模框架，其中神经网络 $v_\theta(x, t)$ 被训练用于回归沿噪声 $x_0$ 与数据 $x_1$ 之间线性插值的条件速度。标准的流匹配将插值固定为直线 $x_t = x_0 + t(x_1 - x_0)$ ，这隐含地要求采样器在整个轨迹中必须以恒定速度运动。

采样成本由求解常微分方程（ODE） $dx/dt = v_\theta(x, t)$ 所需的函数评估次数（NFE）决定。在低 NFE 场景下（例如 4–50 步），必须使用简单的积分器（如 Euler）来高效地遍历轨迹。本文指出，恒定速度的假设是一个任意的设计选择，可能与学习到的速度场在离散化误差特性上的表现不匹配，尤其是在靠近数据流形（此处速度场变化最为剧烈）的区域。

方法论

1. 广义训练目标

作者引入了速度调度流匹配（VSFM），它将条件目标从恒定位移推广到随时间变化的形态：
$u_t(x | x_0, x_1) = v(t) \cdot (x_1 - x_0)$
其中 $v: [0, 1] \to \mathbb{R}_{\ge 0}$ 是一个非负速度剖面（velocity profile），满足 $\int_0^1 v(t) dt = 1$ 。该约束确保总位移仍为 $x_1 - x_0$ ，而 $v(t)$ 控制遍历速率。

训练目标在由运动剖面 $\alpha(t) = \int_0^t v(s) ds$ 确定的位置 $x_t$ 处，对恒定幅度的位移 $(x_1 - x_0)$ 进行回归：
$L_{VSFM}(\theta) = \mathbb{E}_{t, x_0, x_1} \left[ \| v_\theta(x_t, t) - (x_1 - x_0) \|^2 \right]$
至关重要的一点是，速度剖面 $v(t)$ 仅通过位置分布影响训练，而不通过改变损失函数的量级来影响。这避免了在 $t=1$ 附近因 $v(t)^2$ 加权导致的数值不稳定问题。

2. 多项式速度剖面

研究中使用了从运动规划边界值问题中推导出的六种多项式剖面来实例化 VSFM：

基准（Baseline）： 线性型 ( $v(t)=1$ )。
制动子系列（Braking Sub-family）： 单调递减速度（均匀减速、匀速滑行、平滑着陆）。这些剖面在 $t=0$ 附近运动较快，并在 $t=1$ 时减速至静止。
对称子系列（Symmetric Sub-family）： 两端速度均为零（缓入缓出、最小加加速度/Minimum-jerk）。

3. 推理时重调度（无需重新训练）

其核心贡献在于能够将任何可容许的剖面应用于预训练的线性流匹配模型，而无需重新训练。

机制： 预训练模型 $v_\theta$ 是在基于线性轨迹 $x_\tau = x_0 + \tau(x_1 - x_0)$ 的分布上训练的。为了在新的剖面 $v(t)$ 下进行采样，作者定义了一个适配场 $\tilde{v}(x, t) = v(t) v_\theta(x, \alpha(t))$ 。
实现： 通过变量代换 $\tau = \alpha(t)$ ，ODE 变为 $dx/d\tau = v_\theta(x, \tau)$ 。采样器在非均匀网格 $\tau_i = \alpha(i/N)$ 上对该 ODE 进行积分。
算法： 更新步骤为 $x_{i+1} = x_i + v_\theta(x_i, \tau_i) \cdot \Delta \tau_i$ ，其中 $\Delta \tau_i = \alpha((i+1)/N) - \alpha(i/N)$ 。这实际上是在由剖面诱导的非均匀时间网格上运行标准的 Euler 采样器。

4. 离散化误差分析

论文将性能提升归功于 Euler 积分器的局部截断误差。第 $i$ 步的误差与 $(\Delta \tau_i)^2 \cdot \frac{d^2x}{d\tau^2}$ 成比例。

项 $\frac{d^2x}{d\tau^2}$ （场变化率）在 $\tau=1$ （即数据流形）附近最大，因为此时速度场具有高度非线性。
制动剖面（Braking profiles） 在 $t=1$ 附近分配了较小的 $\Delta \tau_i$ （较小的步长），从而抑制了主要的误差源。
对称剖面（Symmetric profiles） 在中点处集中了较大的步长，对于噪声到数据的生成任务而言，这种做法效果较差，因为关键的非线性发生在端点处。

关键结果

实验在 CIFAR-10 (32x32) 数据集上使用类条件 UNet 和固定步长的 Euler 积分器进行。

1. 从头开始训练

在 Coasting（匀速滑行） 剖面下进行训练的效果最好：

4 NFE： FID 降低了 17.4% (35.39 vs. 42.86 基准)。
50 NFE： FID 降低了 10.4% (8.29 vs. 9.25 基准)。
均匀减速（Uniform deceleration） 也优于基准，而 平滑着陆（Smooth landing） 在低 NFE 下表现较差，原因是初始步长过大。
对称剖面在高 NFE 时有微小收益，但在低 NFE 时落后于基准。

2. 推理时适配（无需重新训练）

将 Coasting 剖面应用于公开的 TorchCFM 检查点（该模型为线性训练），且无需重新训练：

50 NFE： FID 降低了 19.8% (4.38 vs. 5.47 基准)。
32 NFE： FID 降低了 18.6% (5.23 vs. 6.43 基准)。
100 NFE： 均匀减速达到了最佳 FID (3.89, -16.0%)。
平滑着陆 在 32 NFE 时最初表现较差 (7.43 vs. 6.43)，这是由于较大的初始步长引入了截断误差，但在更高的 NFE 预算下有所改善。

意义与主张

论文声称速度剖面是一个简单、低成本的杠杆，用于提升流匹配的少步采样性能。其主要意义在于两个方面：

无需训练的适配： 它证明了预训练的线性流匹配模型可以通过仅仅改变积分调度（即速度剖面）来针对特定的 NFE 预算进行优化，而不需要额外的训练或架构更改。
理论洞察： 它指出标准流匹配中的恒定速度假设对于 Euler 积分而言是次优的。通过使步长与局部截断误差相匹配（在场变化剧烈的区域采取更小的步长），可以获得显著的质量提升，尤其是在低 NFE 场景下。

作者指出，这些发现是针对 Euler 积分器和“噪声到数据”生成任务的。他们认为，对于图像到图像的任务（源端具有结构性）或使用能抵消领先阶截断误差的高阶求解器时，结果可能会有所不同。本研究的局限性在于仅限于 CIFAR-10 和多项式剖面，在更高分辨率数据集上的复现以及对学习型或非多项式剖面的探索将是未来的工作方向。