🤖 machine learning

Second Order Drifting Models

本文引入了二阶漂移模型（Second-Order Drifting Models），该模型通过引入人工速度变量来增强漂移动力学，从而在傅里叶空间中实现类 Nesterov 加速，以此在保持单步推理的同时，克服一阶漂移模型在细微结构上收敛缓慢的问题。

原作者： Drake Brown, Yuhao Huang, Shih-Hsin Wang, Bao Wang

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

CC0 1.0

原作者： Drake Brown, Yuhao Huang, Shih-Hsin Wang, Bao Wang

原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人画画，但你不是给它一支铅笔并告诉它逐行勾勒，而是给了它一块神奇的橡皮擦，以及一套关于如何从空白页面“漂移”到最终图像的指令。这就是**生成式人工智能（Generative AI）**的世界——它是计算机科学的一个分支，其中的机器通过学习来创造新的数据，比如图像、声音或机器人运动，使其看起来与真实事物无异。

通常，这些 AI 模型的工作方式就像一部慢动作电影。为了创造一张图片，计算机必须经过数百个微小的步骤，缓慢地将一片模糊的混沌细化成一张清晰的图像。这种方式很精确，但速度很慢且计算成本高昂，就像试图通过一千次将画笔浸入水中来完成一幅杰作一样。最近，科学家们发现了一种更快的途径，称为漂移模型（Drfting Models）。与其在最后阶段进行数百步迭代，不如让模型在训练期间学习如何通过一次巨大的跨越完成整个旅程。这就像是教会机器人直接跳跃到完成后的画作。然而，这其中有一个难点：这种“单步”方法擅长学习图像的大型、模糊形状（比如脸部的轮廓），但在学习微小、锐利的细节（如皮肤的纹理或微笑的弧度）方面却表现挣扎。这就像机器人能看到森林，却看不见每一片叶子。

这篇题为《二阶漂移模型》（Second Order Drifting Models）的论文提出了一种巧妙的修复方案，旨在帮助机器人也能看到那些“叶子”。来自犹他大学的作者 Drake Brown、Yuhao Huang、Shih-Hsin Wang 和 Bao Wang 建议在机器人的训练中加入一个名为**动量（Momentum）**的概念。把它想象成一个滑板手：如果你只是向前推一下滑板，当你停止推力时，它会很快停下。但如果滑板手正高速移动并撞到了一个颠簸，他们不会立即停止，而是利用速度滑过这个颠簸。通过赋予 AI “人工速度”，模型可以滑过那些通常会阻碍其前进的高频细节。其结果是，该模型仍然可以在单步内生成图像，但比以前能更好地捕捉精细细节。

问题所在：“低通滤波器”陷阱

为了理解为什么需要这种新方法，我们必须了解原始“漂移模型”是如何工作的。想象你正试图让一群人（你的 AI 生成样本）去匹配一组特定的 VIP（真实数据）。AI 使用一个“漂移场”（Drift Field），它就像一阵无形的风，将人群推向 VIP，并远离空白区域。

问题在于，这阵风是使用一种被称为**核函数（Kernel）**的数学工具创建的，它起到了低通滤波器的作用。在日常用语中，低通滤波器就像一个筛子，它能让大石头（低频、模糊的形状）轻松通过，但会阻挡细沙（高频、锐利的细节）。因此，AI 能很快学会数据的宏观形状，但微小的、锐利的细节却被卡住了。数学证明，对于这些精细细节，这种“风”非常微弱，以至于 AI 需要极其漫长的时间才能掌握它们。这就像是用一把只能清理大污渍、却无法触及细微尘埃的羽毛掸子去擦拭布满灰尘的窗户。

解决方案：加入动量

作者意识到，AI 移动得太慢是因为它只使用了“一阶”动力学。在物理学中，一阶运动就像走路：你的速度取决于你现在的推力有多大。如果推力很弱，你就会走得很慢。

为了解决这个问题，他们引入了二阶漂移模型（Second-Order Drifting Models）。他们不再仅仅追踪 AI 样本的位置，还追踪这些样本移动的速度快慢。他们在方程中加入了一个“速度”变量。现在，AI 不仅仅是在走路，它是在玩滑板。

这就是奇迹所在：当 AI 遇到困难的高频细节（比如一个小小的尘埃点）时，动量会带着它继续前进，即使此时的“风”（漂移场）很微弱。这在数学上类似于著名的优化技术——Nesterov 加速，该技术被用于帮助计算机更快地解决问题。通过将问题提升到“相空间”（一个追踪位置和速度的专业术语），作者证明了 AI 可以更快地恢复这些精细细节，有效地绕过了由低通滤波器造成的瓶颈。

他们是如何测试的

团队不仅仅是在纸面上做数学推导；他们构建了模型，并在三个不同的世界中进行了测试，以观察其实际效果。

瑞士卷（合成数据）： 他们从一个名为“瑞士卷”（Swiss roll）的简单二维形状开始，这看起来像一张带有螺旋图案的卷曲纸张。这个形状具有尖锐的曲线和折叠。原始的漂移模型难以捕捉螺旋的紧密程度，经常产生过于平滑或丢失边缘的样本。然而，新的二阶模型完美地追踪了尖锐的曲线，在图像的高频部分显示出更小的误差。
MNIST（手写数字）： 接着，他们尝试生成手写数字（0 到 9）的图像。在这次测试中，他们使用一个名为 FID（Fréchet Inception Distance）的分数来衡量质量，数值越低越好。原始漂移模型的得分是 59.5，而他们的新二阶模型将其提升到了 48.2。这意味着生成的数字看起来更加逼真，且不再模糊。至关重要的是，他们仅用了 1 次函数评估（即一步）就完成了，保持了速度优势。
机器人控制： 最后，他们在机器人任务上测试了该模型。他们要求 AI 学习如何移动机械臂来执行任务，如“举起（Lift）”、“推动（Push）”或“悬挂工具（Tool Hang）”。在这些任务中，机器人需要进行精确且快速的调整。二阶模型学习这些任务的速度显著加快。例如，在“举起”任务中，新模型在仅 8 个训练轮次（epochs）内就达到了 100% 的成功率，而旧的漂移模型需要 50 个轮次，另一种流行的“扩散策略（Diffusion Policy）”则需要 3050 个轮次。

这意味着什么

论文表明，通过在训练过程中加入一个简单的“速度”组件，我们可以让单步生成模型变得更聪明，而不会降低其速度。作者展示了这种方法如何提高模型学习精细细节和复杂模式的能力，无论是绘制数字还是控制机器人手臂。

他们谨慎地指出，这是一种针对漂移模型的特定改进，虽然在合成数据、图像和机器人领域的结果令人鼓舞，但该方法的完整潜力在其他类型的 AI 中仍有待探索。但就目前而言，他们已经证明，赋予 AI 一点点“动量”，能帮助它滑过颠簸，从而既能看到宏观的森林，也能看清微小的叶子。

技术摘要：二阶漂移模型 (Second Order Drifting Models)

问题陈述

漂移模型（Drifting models）是一类一阶生成模型，旨在解决流模型（flow-based models）和扩散模型（diffusion models）在推理时通常需要数百次神经函数评估（NFE）导致的计算效率低下问题。虽然漂移模型通过将分布匹配过程转移到训练阶段，实现了单步生成，但它们面临着一个根本性的频谱瓶颈（spectral bottleneck）。

一阶漂移模型的训练动力学受基于核函数的漂移场控制。正如前人研究 [49] 所示，这种核平滑在傅里叶域中起到了低通滤波器的作用。因此，生成分布向目标分布的收敛具有频率依赖性：

低频模式收敛迅速。
高频模式（细微结构）的衰减极其缓慢（对于高斯核是指数级缓慢，对于拉普拉斯核是多项式级缓慢）。

这种“频谱刚性（spectral stiffness）”造成了一个瓶颈，使得模型难以准确捕捉数据分布的精细特征，尽管其具备单步推理的高效性，但限制了生成样本的保真度。

方法论：二阶漂移模型

为了在不牺牲单步推理的前提下缓解频谱刚性，作者提出了二阶漂移模型。该方法通过引入辅助速度变量，将动力学从构型空间（configuration space）提升到相空间（phase space）。

1. 相空间公式化

模型不再直接通过一阶常微分方程（ODE）演化样本位置 $x$ （即 $\dot{x} = V_{p,q}(x)$ ），而是引入速度 $v$ ，并将动力学定义为一个二阶系统：
$\begin{cases} \frac{dx}{dt} = v \\ \frac{dv}{dt} = V_{p,q}(x) - \gamma(t)v \end{cases}$
这里， $V_{p,q}(x)$ 是标准的基于核的漂移场，而 $\gamma(t)$ 是随时间变化的阻尼系数。

2. 与 Nesterov 加速的理论联系

作者在傅里叶域中分析了密度残差 $\rho_t = q_t - p$ 的线性化动力学。

一阶情况： 残差的演化遵循 $\partial_t \hat{\rho}_t(\omega) = \lambda(\omega)\hat{\rho}_t(\omega)$ ，其中 $\lambda(\omega)$ 由核谱决定。较小的 $|\lambda(\omega)|$ （高频）会导致收敛缓慢。
二阶情况： 所提议的动力学在傅里叶空间中对应于一个二阶 ODE：
$\partial^2_t \hat{\rho}_t(\omega) + \frac{\alpha}{t} \partial_t \hat{\rho}_t(\omega) - \lambda(\omega)\hat{\rho}_t(\omega) = 0$
该方程对应于 Nesterov 加速梯度法的连续时间极限。惯性的引入允许系统克服核函数的频谱刚性，从而加速高频模式的衰减。作者指出，虽然恒定阻尼（Heavy Ball 方法）可以有所帮助，但它无法同时对所有频率实现临界阻尼；因此，他们采用了随时间变化的阻尼调度（ $\alpha/t$ ）。

3. 半隐式训练算法

为了在实践中实现这一点，作者推导出了粒子动力学的半隐式离散化方案：

速度更新： $v^{(i)}_{n+1} = (1 - \frac{\alpha}{n+1})v^{(i)}_n + \eta_1 \cdot V_{p,q_n}(x^{(i)}_n)$
位置更新： $x^{(i)}_{n+1} = x^{(i)}_n + \eta_2 \cdot v^{(i)}_{n+1}$

在训练期间，网络 $f_\theta$ 通过最小化初始噪声输入与经过 $N$ 步惯性漂移后的最终位置之间的损失来进行更新，并对漂移目标使用梯度停止（stop-gradient）操作，这与原始漂移模型类似。至关重要的是，在推理时，该模型仍然是一个单步生成器（1-NFE），直接将噪声映射为数据。

核心贡献

加速视角： 本文识别出一阶漂移中的频谱失衡是一种低通偏差，并引入动量来抵消这种偏差。
二阶动力学： 提出了一种相空间公式化方法，其线性化傅里叶动力学可以恢复 Nesterov 加速，从理论上将收敛速率与受限的核谱解耦。
算法与验证： 作者开发了一种实用的半隐式训练算法，在保持单步推理特性的同时，在经验上提高了不同任务中的收敛性、稳定性和高频保真度。

实验结果

作者在四个不同的领域对该方法进行了评估，结果一致显示出优于一阶漂移基准的表现：

合成分布匹配（Swiss Roll）： 在需要追踪尖锐曲率的二维 Swiss roll 流形上，二阶模型实现了更低的 KL 散度和 MMD。傅里叶分析证实，与一阶基准相比，其在高频模式上的误差显著降低。
图像生成（MNIST）： 使用 Diffusion Transformer 骨干网络，二阶模型在保持 1-NFE 推理的同时，实现了更低的 Fréchet Inception Distance（FID: 48.2 vs. 59.5）。
序列数据生成（动力系统）： 对于 Lorenz 和 FitzHugh–Nagumo 系统，该模型展示了卓越的轨迹生成质量，表现为事件条件分布中更低的 KL 散度。
机器人控制： 在操作任务（如 Can, Tool Hang, Lift）中，二阶策略达到了与 Diffusion Policy 和一阶 Drifting Policy 相当或更高的成功率，但使用了大幅减少的训练轮数（例如，在 Can 任务中为 16 轮 vs. 3050 轮）。

重要性与主张

本文声称，二阶漂移模型提供了一种原则性的机制，用以缓解由核驱动流中固有的频谱刚性。通过将漂移模型与优化理论（特别是 Nesterov 加速）联系起来，这项工作为添加惯性如何改善训练动力学提供了理论依据。

作者强调，这种方法成功地弥合了训练效率（精细细节的快速收敛）与推理效率（单步生成）之间的差距。他们将该方法定位为现有漂移框架的一个简单且有效的扩展，能够提高处理复杂结构重建任务时的性能，且不会增加迭代推理的计算成本。

局限性： 作者谦虚地指出，目前的公式主要旨在加速漂移模型的训练动力学。这种特定的二阶提升（second-order lifting）对更广泛生成框架的适用性仍是未来研究的一个开放方向。