📊 statistics

Metropolis-Adjusted Diffusion Models

本文介绍了用于扩散模型的 Metropolis 调整 Langevin 校正器，该模型利用基于分数的接受概率和一种新颖的伯努利工厂算法来消除采样偏差，从而显著提高样本质量并降低 Fréchet 起始距离分数。

原作者： Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你试图重现一幅杰作画作，但手头只有一幅模糊且充满噪点的版本作为起点。扩散模型就像一位神奇的艺术修复师，通过逐步、分步地去除噪点，最终揭示出底下清晰的图像。

然而，这里有个问题。由于这位修复师必须按微小的离散步骤工作（就像每秒拍一张照片，而不是观看流畅的视频），最终的画面往往会略微失真或“偏离”。这就像试图通过迈开笨拙的大步来走直线；你很可能偏离轨道。

在当前的最先进方法中，艺术家们采用两步流程来修正这种偏离：

预测器（Predictor）： 大步向前，更接近目标。
修正器（Corrector）： 小幅、不稳的挪动，以微调位置。

问题在于，这种“不稳的挪动”（在论文中称为ULA）也不完美。它会引入自身微小的误差。论文提出：如果我们能让这种挪动变得完美，会怎样？

解决方案：梅特罗波利斯调整的扩散模型（MADM）

作者提出了一种名为MADM的新方法。不妨将其理解为在艺术修复过程中增加了一位“质量控制检查员”。

以下是其工作原理，使用一个简单的类比：

1. 问题：“幽灵”比率

要完美修正这种不稳的挪动，检查员需要知道“当前混乱位置”与“提议的新位置”之间的确切差异。用数学术语来说，这是一个概率比率。

难点： 在这些模型中，“完美”的图像密度是一个“幽灵”。我们无法直接看到它；我们只有一个指向清晰图像的“分数”（就像指南针指针）。由于我们没有完整的地图，因此无法计算该比率。

2. 创新：“指南针积分”

论文的重大突破在于认识到，即使我们无法看到整张地图，我们也可以通过沿着路径行走并累加沿途的指南针读数（即分数），来计算两点之间的“距离”。

类比： 假设你想知道两座山之间的海拔差，但没有地形图。你只有一个设备，能在每一步告诉你坡度。如果你从一座山走到另一座山，并将所有坡度相加，你就能确切知道一座山比另一座山高多少。

3. 两种方法

作者提出了两种利用这种“坡度总和”来判断某一步是否可行的方法：

方法 A：“魔法硬币”（精确方法）
这是数学上完美的解决方案。由于无法计算确切的比率，作者使用了一种称为伯努利工厂（或“双硬币”算法）的巧妙技巧。

类比： 想象你有一枚重量未知的硬币（即未知的比率）。你无法称重它，但你有一台机器，能以一种非常特定且随机的方式翻转这枚硬币。通过足够多次地翻转它，这台机器可以以 100% 的确定性告诉你是否接受新步骤或拒绝它，而无需知道硬币的确切重量。
结果： 这会产生一个完全无偏的样本。没有偏离，没有失真。
缺点： 计算成本高昂。机器可能需要翻转硬币数千次才能做出决定，这会拖慢速度。

方法 B：“智能猜测”（近似方法）
这是实用、日常化的解决方案。与其翻转那枚神秘硬币数千次，作者使用了一种名为辛普森法则的数学捷径。

类比： 与其走完全程来测量坡度，你只需检查起点、中点和终点的坡度，然后利用公式估算总变化量。
结果： 它极其快速（几乎零成本），且出乎意料地准确。虽然它不像“魔法硬币”那样“完美”，但它修正了几乎所有误差。
优势： 论文表明，这种方法在不会显著拖慢速度的情况下，显著提高了生成图像的质量。

他们发现了什么？

作者在两类“画作”上测试了这种方法：

简单形状（合成数据）： 他们表明，旧方法（ULA）经常留下“异常值”——即不属于画面的点。而新的 MADM 方法将这些点拉回正确的形状，使图像更加清晰。
真实图像（CIFAR-10、ImageNet 等）： 他们将此应用于著名的图像数据集。
- 他们发现，在标准过程中仅添加一个这样的“质量控制”步骤，就能持续提高图像质量。
- 他们使用一种名为FID（Fréchet Inception Distance，弗雷歇初始距离）的指标来衡量这一点，这就像是对图像逼真度的“评论家评分”。分数越低越好。
- 结果： MADM 持续降低了 FID 分数，意味着即使使用相同的底层 AI 模型，生成的图像也比以前更清晰、更逼真。

总结

这篇论文提出了一种方法，通过增加一个“检查”步骤，使 AI 图像生成器更加准确。

旧方法： 迈一步，稍微挪动一下，希望没有偏离。
新方法（MADM）： 迈一步，稍微挪动一下，然后使用“指南针积分”双重检查是否保持在轨道上。
结果： 你获得了更清晰、更逼真且误差更少的图像，既可以使用数学上完美（但较慢）的方法，也可以使用非常快速且高度准确的捷径。

技术摘要：Metropolis 调整的扩散模型 (MADM)

问题陈述

从基于分数的扩散模型中采样，本质上会因两个来源而产生偏差：学习到的分数函数的近似误差，以及数值积分器引入的时间离散化误差。在标准的预测 - 校正（Predictor-Corrector）框架中，预测步骤（通常是概率流常微分方程）将样本在不同噪声水平间移动，随后通过校正步骤（通常是非调整朗之万算法，ULA）在当前噪声水平下细化样本。

尽管 ULA 利用分数函数提出移动，但其本身是一个有偏采样器，因为它离散化了连续的朗之万扩散过程。因此，预测 - 校正方案中的“校正器”引入了其自身的离散化偏差，无法使目标边缘分布保持不变。标准的 Metropolis-Hastings (MH) 或 Barker 接受 - 拒绝机制（用于修正马尔可夫链蒙特卡洛 (MCMC) 中的此类偏差）无法直接应用于扩散模型。这是因为 MH 需要评估目标密度的比率 $p_t(\tilde{x})/p_t(x)$ ，而在扩散模型中，仅可获得分数函数 $s_\phi(x, t) \approx \nabla_x \log p_t(x)$ ，该密度比是不可处理的。

方法论

作者提出了Metropolis 调整的扩散模型 (MADM)，这是一个用接受 - 拒绝校正的朗之万步骤替换有偏 ULA 校正器的框架。其核心创新是一种仅利用分数函数计算必要接受概率的方法，从而绕过了对不可处理密度比的需求。

1. 密度比恒等式

作者确立，目标密度比的对数可以表示为沿当前状态 $x$ 与提议状态 $\tilde{x}$ 之间路径的分数函数的线积分：
$\log \left( \frac{p_t(\tilde{x})}{p_t(x)} \right) = \int_0^1 \langle s(x + u(\tilde{x} - x), t), \tilde{x} - x \rangle \, du$
该恒等式允许仅通过分数评估来估计密度比。

2. 基于伯努利工厂的精确校正

为了在不评估密度的情况下实现精确校正，作者提出了一种基于双硬币伯努利工厂（Gonçalves 等人，2017）的算法。

假设：存在一个界限 $C(x, \tilde{x})$ ，使得线积分中被积函数的绝对值被 $C$ 所界定。
机制：该算法利用泊松截断幂级数构建指数积分（经界限缩放）的无偏估计量 $W$ 。
过程：该算法使用“双硬币”程序来模拟 Barker 接受 - 拒绝决策。首先以固定概率 $\alpha'$ 拒绝，若未被拒绝，则抛掷一枚成功概率为 $W$ 的硬币。若硬币成功，则接受提议；否则，该轮重新开始。
结果：只要分数是精确的且界限假设成立，该程序即可产生一个精确的 Barker 调整朗之万校正器，使目标分布 $p_t$ 保持不变。

3. 基于辛普森法则的高效近似

认识到精确的伯努利工厂方法需要随机且可能大量的分数评估，作者提出了一种可扩展的近似方法。

方法：使用辛普森 1/3 法则（一种牛顿 - 科特斯求积规则）确定性近似线积分。这需要评估当前状态、提议状态和中点处的分数。
接受：将生成的估计值代入标准的 Metropolis-Hastings 接受概率中。
性质：虽然由于求积截断会引入微小偏差，但该近似在步长 $h$ 上实现了 $O(h^{5/2})$ 阶的精度。其计算成本低廉，每个提议仅需额外进行一次中点分数评估。

主要贡献

MADM 框架：引入了一种用于扩散模型的 Metropolis 调整校正器框架，系统地替换了有偏的 ULA 步骤。
精确方法：提出了第一种利用双硬币伯努利工厂调整扩散模型中朗之万校正的精确方法，仅需分数函数和线积分的界限。
可扩展近似：提出了一种实用的辛普森法则近似，以近乎为零的边际成本（一次额外分数评估）实现了高阶精度（ $O(h^{5/2})$ ）。
实证验证：在合成数据集和图像数据集上展示了样本质量的提升。

结果

作者使用 Karras 等人 (2022) 的预训练模型，在合成 2D 数据集和标准图像基准（CIFAR-10、FFHQ、AFHQv2、ImageNet-64）上评估了 MADM。

合成数据集：在 2D 数据集（螺旋、漏斗、谢尔宾斯基三角形、风车）上，标准的祖先采样器（等同于带有 ULA 校正器的预测器）生成的样本在真实数据分布的支持集之外存在显著的异常值。MADM 校正步骤成功将这些样本移回数据支持集，消除了异常值。
图像数据集：
- 对于无条件模型（CIFAR-10、FFHQ、AFHQv2），在每个预测步骤应用一次 MADM 校正步骤，与确定性基线（Heun 和 Euler ODE 求解器）相比，Frechet 初始距离 (FID) 取得了一致但适度的改进。
- 对于类别条件的 ImageNet-64 模型，增益更为显著。使用带有 Euler 预测器的 MADM 所获得的 FID 改进，大于使用未校正的高阶 Heun 预测器所获得的改进。这表明，当步数较多时，MH 调整在减轻离散化误差方面比单纯增加 ODE 求解器的阶数更为有效。
计算成本：精确方法（算法 2）由于需要随机数量的分数评估，被发现计算成本高昂。因此，实验主要利用辛普森法则近似（算法 3），该方法以可控的开销提供了一致的增益。

意义与主张

该论文声称提供了第一种用于调整扩散模型中朗之万校正的精确方法，解决了 ULA 校正器固有的偏差问题。通过利用分数函数经线积分估计密度比，MADM 使得在生成建模中能够使用严格的 MCMC 接受标准，而无需访问不可处理的数据密度。

作者将 MADM 定位为预测 - 校正框架的自然扩展，旨在提升样本质量。他们指出，虽然精确方法在理论上具有重要意义，但辛普森法则近似提供了一种实用且可扩展的解决方案，能够持续改善图像基准上的 FID。该工作假设分数估计是完美的，并承认这是扩散模型的固有局限性，而非其方法的特定缺陷。未来的工作建议集中于开发精确方法或其子程序的高效变体。