📊 statistics

Likelihood Matching for Diffusion Models

本文提出了一种用于训练扩散模型的似然匹配方法，该方法通过高斯拟似然函数来近似反向转移密度以估计分数函数和海森函数，从而建立了非渐近收敛保证，并通过实证评估展示了其有效性。

原作者： Lei Qian, Wu Su, Yanqi Huang, Song Xi Chen

发布于 2026-07-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Lei Qian, Wu Su, Yanqi Huang, Song Xi Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人画出一张完美的猫咪图片。这个机器人并不是从空白画布开始的；它从一张被静态噪声完全覆盖的图片开始，就像一台没有信号的电视机。机器人的任务就是一步步地清理这些噪声，直到出现一只清晰的猫。这就是“扩散模型”（diffusion models）的工作原理。

长期以来，训练这些机器人的标准方法被称为分数匹配（Score Matching）。你可以把它想象成在教机器人猜测风的方向。如果机器人站在一座山上，它学习的是如何将鼻子指向下坡方向，即指向那张清晰的图片。它擅长知道该往哪走，但它不知道山坡有多陡，也不知道地面有多滑。它只知道“往这边走”。

你正在读的这篇论文提出了一种新方法，叫做似然匹配（Likelihood Matching）。作者们认为，仅仅知道方向是不够的。为了获得最好的结果，机器人还需要知道山的形状和地面的纹理。用数学术语来说，这意味着机器人不仅需要学习“分数”（方向），还需要学习“海森矩阵”（Hessian，它告诉我们关于曲率和数据分布的信息）。

核心思想：一张更好的地图
作者们发现了一个聪明的技巧：机器人清理噪声所走的路径，在数学上等同于原始数据的路径。他们不再只是猜测方向，而是构建了一个尝试匹配整个路径概率的系统。

他们称之为“似然匹配”。想象一下你在迷宫中导航：

分数匹配就像是一个指南针，它总是指向出口。这很有用，但如果迷宫中有复杂的转弯或死胡同，你可能仍然会迷路，或者走一段漫长且曲折的路线。
似然匹配则像是拥有一个指南针，外加一张详细的地图，这张地图清楚地显示了走廊有多宽，以及墙壁是如何弯曲的。它同时利用方向（分数）和“分布”（协方差）来引导机器人。

他们的证明与排除
这篇论文对其主张非常谨慎。

他们排除了什么： 他们认为旧的方法（分数匹配）实际上只是一种间接猜测答案的方式。它是在最小化一个“上界”，这就像是通过瞄准目标的影子来试图击中目标本身。作者指出，这会导致“严重的统计效率损失”，这意味着机器人可能需要更多的练习才能变好，或者它可能永远无法达到它本可以达到的完美程度。
他们证明了什么： 他们从数学上证明了，他们的新方法（同时使用方向和曲率/海森矩阵）是学习真实数据分布的一种更直接的方式。他们证明了随着你给机器人的数据量和时间步长增加，它的预测会越来越接近真相（这种性质被称为“一致性”）。
他们有多确定？ 他们不仅仅是靠直觉，还进行了模拟和实验。他们展示了在合成数据（人造的数学问题）和真实图像（如 MNIST 手写数字和 CIFAR-10 图片）上，他们的方法始终比旧方法产生更好的结果。

“海森矩阵”的魔力
这里的秘密武器是海森矩阵（Hessian）。在实验中，他们测试了机器人需要多少这种“曲率”信息。他们发现，即使是这个额外信息的简单版本也会有所帮助。

当他们使用一个非常简单的版本（秩为 0）时，机器人的表现仍然比旧方法略好。
当他们增加了更多细节（秩为 20 或 30）时，机器人变得更加出色。
在 CIFAR-10 数据集上，旧方法（分数匹配）的 FID 分数（衡量图像真实感的指标，数值越低越好）为 3.15。而他们的新方法在秩为 30 时，将该分数降至 3.03。在 CelebA 数据集（人脸）上，分数从 2.71 降到了 2.62。

速度 vs. 质量
你可能会想：“如果这个新方法这么聪明，它运行起来会不会很慢？”作者承认，计算额外的“曲率”信息确实需要更多的计算能力。然而，他们找到了一个平衡点。因为机器人拥有了一张更好的地图，它不需要为了到达终点而采取许多细碎、犹豫不决的步骤。

在测试中，新方法比旧方法能以更少的步数达到高质量图像。
如果你观察速度与质量的关系，你会发现，尤其是在只有少量步数可以使用时，新方法（似然匹配）往往能在相同的时间内达到更好的图像效果。

总结
这篇论文表明，通过教扩散模型不仅理解去哪里，还要理解世界是如何塑造的（使用海森矩阵），我们可以更高效地训练出更高质量的图像。他们证明了这在模拟实验和真实图像数据集上都是有效的，证明了旧有的“仅靠指南针”的方法遗漏了拼图中的关键碎片。这并不是一个能瞬间解决一切的魔杖，但它是让这些 AI 艺术家变得更加精准和高效的重要一步。

技术摘要：扩散模型的似然匹配（Likelihood Matching）

问题陈述
当前主流的扩散模型，特别是基于评分的模型（Score-Based Generative Models, SGMs），主要依赖**评分匹配（Score Matching, SM）**作为其核心训练目标。虽然在经验上非常有效，但 SM 仅是在最小化不同噪声水平下参数化评分函数与真实评分函数之间的差异。从理论上讲，这种方法仅最小化了原始数据分布负对数似然的一个上界，而非似然本身。这种间接联系可能导致其统计效率低于极大似然估计（Maximum Likelihood Estimation, MLE），而 MLE 是以产生一致且高效的估计量而闻名的。此外，标准的 SM 仅专注于一阶矩信息（即评分/梯度），可能忽略了包含在转移密度中的高阶结构信息。

方法论
作者提出了**似然匹配（Likelihood Matching, LM）**框架，该框架通过利用目标数据似然与反向扩散过程路径似然之间的等价性，直接针对数据分布的似然进行优化。

理论基础：
该方法基于这样一个性质：反向扩散路径的联合似然等价于原始数据分布的似然（在与前向过程相关的常数项范围内）。作者证明了最大化反向过程的精确路径似然等价于最大化数据对数似然。
拟极大似然估计（Quasi-Maximum Likelihood Estimation, QMLE）：
由于精确的反向转移密度难以计算，作者使用拟极大似然方法对其进行近似。他们将每个反向转移密度建模为高斯分布，其中条件均值和协方差与真实的逆向过程相匹配。
- 核心见解： 反向过程的条件均值和协方差不仅取决于评分函数 ( $\nabla \log q_t$ )，还取决于海森矩阵函数 ( $\nabla^2 \log q_t$ )。
- 参数化： 作者使用神经网络（具体为 U-Net）对评分和海森矩阵进行参数化。为了管理计算复杂度，海森矩阵通常被近似为“对角加低秩”（diagonal-plus-low-rank）结构。
似然匹配目标函数：
所提出的目标函数——似然匹配（LM），是通过最小化反向转移的拟负对数似然推导而出的。
- 该目标函数统一了评分匹配与协方差匹配。
- 它通过匹配后的协方差矩阵 $(I + \sigma^2 H_t)^{-1/2}$ 引入了隐式似然权重机制，从而根据局部曲率自动调整评分匹配项的权重。
- 训练过程利用随机采样器，在扩散轨迹的各个时间步随机选择时间步来计算损失，从而确保高效利用来自前向 SDE 的演化信息。
随机采样器：
引入了一种新的采样程序，同时利用学习到的评分和海森信息。反向步骤定义为：
$\tilde{Y}_{t-1} = \hat{\mu}_{t-1|t}(\tilde{Y}_t) + \hat{\Sigma}_{t-1|t}^{1/2}(\tilde{Y}_t) Z_t$
其中均值 $\hat{\mu}$ 和协方差 $\hat{\Sigma}$ 分别是估计的评分和海森矩阵的函数。

核心贡献

新颖的训练目标： 本文引入了一种基于拟似然的训练目标（LM），该目标通过近似反向路径对数似然，有效地将评分匹配与协方差匹配结合起来，并实现了隐式似然权重分配。
海森增强采样： 推导出了一个利用评分和海森信息进行采样的随机采样器，相比于标准的 DDPM 类采样器，它能提供更准确的反向转移密度近似。
理论保证：
- 收敛性： 提供了全变分距离下的非渐近收敛保证。反向步误差界限为 $O(d^3 \log^{4.5} T / T)$ ，并包含评分和海森估计误差的附加项。
- 一致性： 文中证明了在预设参数的 Oracle 设置下，所提拟 MLE 的一致性，表明随着样本量和扩散步数的增加，估计量会收敛到真实的参数。
高效实现： 利用低秩海森近似和 Sherman-Morrison-Woodbury 公式，可以实现对似然和采样步骤的高效计算。

实验结果
作者在合成数据集和真实世界数据集上验证了该方法：

合成数据： 在高斯和 t 分布混合模型上，LM 在捕捉分离明显的模态方面始终优于标准评分匹配（SM）。在代表弯曲流形的极度卷曲瑞士卷（Swiss-roll）分布上，LM 展示了卓越的性能，验证了海森信息增强协方差的优势。
参数估计： 在参数化高斯混合设置中，LM 相比于 SM 实现了更低的平均绝对误差（MAE）和标准误差，支持了其一致性的理论主张。
图像数据集（MNIST, CIFAR-10, CelebA）：
- 与 SM 基线相比，LM 实现了更低的 Fréchet Inception Distance (FID) 和更好的负对数似然 (NLL) 分数。
- 性能随海森近似的秩 ( $r$ ) 的增加而提升，在 $r=20-30$ 左右达到顶峰。
- 速度-质量权衡： 在相似的实际运行时间内，LM 实现了更低的 FID，并且需要更少的反向采样步数即可达到高视觉质量。例如，在 MNIST 上，LM 在仅经过 20 次反向迭代后即可生成清晰的数字，而 SM 样本仍显模糊。

意义与主张
本文声称，通过通过拟似然框架直接针对数据似然，似然匹配为评分匹配提供了一个更具统计严谨性的替代方案。通过引入二阶信息（海森矩阵），该方法捕获了更丰富的转移密度，并提高了采样效率，特别是在低步数阶段和复杂的弯曲数据流形上。作者强调，尽管由于海森建模的存在，LM 每步的计算成本较高，但其减少所需采样步数以及提升生成质量（FID 和 NLL）的表现，验证了其在训练高保真生成模型方面的有效性。这项工作弥合了 MLE 的统计效率与扩散模型实际成功之间的鸿沟。

技术摘要：扩散模型的似然匹配（Likelihood Matching）

类似论文