🤖 machine learning

A Mathematical Introduction to Diffusion Models

本文为初级研究生提供了一篇面向证明的扩散模型导论，通过分层呈现核心定义、代表性估计和研究级定理，循着从经典采样动力学到现代采样器、误差分析以及推理时控制的统一路径展开。

原作者： Jianfeng Lu

发布于 2026-07-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Jianfeng Lu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：如何把蛋炒成蛋卷（还原过程）

想象你有一个完美、美味的蛋卷（你想生成的数据，比如一张猫的照片）。现在，想象你把那个蛋卷砸碎，加入一大桶水，搅拌直到它变成一碗浑浊、无味的汤（这就是添加噪声）。

**扩散模型（Diffusion Model）**的目标就是弄清楚如何将那碗浑浊的汤变回完美的蛋卷。这篇论文指出，你不能通过一个巨大的动作直接把汤“反向搅拌”回去。相反，你必须分步骤进行，一点点地移除水分并重新组装鸡蛋，同时遵循一套规则进行引导。

这篇论文是一本用于构建这些规则的“数学说明书”。它不仅仅是说“这样做”；它证明了为什么这样做有效，每一步会引入多少误差，以及如何修复这些误差。

第一乐章：随机游走的艺术（朗之万动力学）

在进入高级 AI 之前，论文首先从一个更简单的概念开始：朗之万动力学（Langevin Dynamics）。

类比： 想象你在一个黑暗的房间里，蒙着眼睛，面前有一座山丘。你想找到最高点（“目标”）。你可以感觉到脚下的坡度（梯度）。
- 如果你只是单纯地往高处走，你可能会困在一个小土包里（局部极大值）。
- 朗之万动力学就像是在爬坡的同时，偶尔会被一个隐形的、随机的朋友踢上一脚（布朗运动）。这一脚能帮你跳出小土包，从而最终找到房间里最高的峰顶。
论文的观点： 作者证明，如果你持续进行这种随机游走，最终一定会到达你应该去的地方。他们还分析了如果步子迈得太大（离散化）会发生什么，展示了你可能会稍微偏离目标，并精确计算了你会偏离多少。

第二乐章：倒放电影（基于分数的扩散）

现在我们进入用于 AI 的实际扩散模型。

类比： 把前向过程（砸碎蛋卷）看作是一部正向播放的电影。论文表明，如果你知道电影每一秒钟汤看起来是什么样子的，你就可以在数学上算出如何倒着播放这部电影。
“分数”（The Score）： 要倒着播放电影，你需要一个向导。论文将这个向导称为分数（Score）。
- 想象这碗汤是一个地形景观。“分数”就像是从稀薄、多水的区域吹向浓厚、蛋黄部分的风。
- 论文证明了一个聪明的技巧（特威迪恒等式/Tweedie's Identity）：你不需要知道制作蛋卷的完整配方，就能知道风往哪个方向吹。你只需要知道：“如果我在这里看到一滴水，那么蛋黄原本可能来自哪里？”
- AI 通过在成千上万个被砸碎的蛋卷上进行练习，来学习这种“风向”（分数）。

第三乐章：将电影转化为剧本（离散化）

在现实生活中，你无法逐帧倒放电影；你必须跳过一些帧。这就是离散化（Discretization）。

类比： 想象你要倒着穿过一个拥挤的房间。如果你步子迈得太大，你会撞到人（误差）。如果你步子迈得极小，虽然能完美到达，但会耗费太长时间。
论文的观点： 作者将误差分解为三个部分：
1. 起始误差： 我们开始时使用的是正确种类的汤吗？
2. 学习误差： 我们的“风向”向导准确吗？（如果 AI 猜错了，我们就会走错路）。
3. 步长误差： 我们迈出的步子是否太大了？
  他们证明，如果你在接近“干净”图像时减小步长，你可以将总误差控制在极低水平。他们甚至展示了如何使用一种“拒绝采样”（类似于质量控制检查员）的技巧，在不需要知道精确配方的情况下，仅凭“风向”来修正错误。

第四乐章：数字版本（离散扩散）

到目前为止，我们讨论的都是像水和蛋一样平滑、连续的事物。但如果你要生成文本（单词）或 DNA 呢？你不能拥有“半个单词”。

类比： 与其说是平滑的汤，不如想象成一盒乐高积木。你不能“抹平”一块积木，你只能把它换成另一块，或者用一个“遮罩”（空白块）把它盖住。
论文的观点： 作者展示了同样的数学逻辑也适用于乐高积木。与其使用“风”来引导，不如使用一个**概率图（Probability Map）**来告诉你：“如果你在这里看到一个空白处，有 30% 的概率它原本是‘猫’，有 70% 的概率是‘狗’。”
- 他们证明，即使存在这些离散的替换，只要你有正确的概率图，你仍然可以逆转过程来构建原始结构。

第五乐章：操纵航向（推理时控制）

最后，论文提出了一个问题：如果你不只是想要“任何”蛋卷呢？如果你想要一个“加辣”的蛋卷，或者一个“带培根”的蛋卷呢？

类比： 你有一艘船（AI），它知道如何从汤航行到蛋卷。但现在你想把船驶向特定的目的地。
论文的观点： 你不需要重建整艘船。你只需要增加一个微小的“风力”（一个引导/Guidance项），将船稍微推向“加辣”或“带培根”的方向。
- 论文从数学上证明了如何计算这种额外的推力。它表明，你可以将 AI 的自然知识与一个“奖励”（比如“让它看起来像只狗”）结合起来，从而得到你想要的结果，而不会破坏使整个系统运作的数学原理。

总结“核心要点”

这篇论文是一个严密的证明，证明了 AI 生成图像的“魔力”并非真的魔法。它是一个精心构建的数学过程，包含：

将数据**抹平（Smearing）**成噪声。
学习回到数据的方向。
仔细地向后**迈步（Stepping）**以避免误差。
**操纵（Steering）**过程以获得特定的结果。

作者提供了“收据”（证明），展示了在每一步中引入了多少误差，以及如何控制这些误差，从而确保最终结果是对原始数据的高质量重建。

技术摘要：扩散模型的数学导论

问题陈述

本文探讨了在直接采样不可行的情况下，从复杂的高维概率分布 $\pi$ （目标数据分布）中进行采样这一基本挑战。在许多现代应用中， $\pi$ 仅通过归一化常数已知，或者仅通过经验数据样本可知，而非通过显式的可解析密度公式。核心难点在于构建一个能够高效收敛至 $\pi$ 的随机过程，特别是在目标分布具有多峰性、奇异性或定义在离散空间时。

本文通过间接采样的视角来界定这一问题：与其直接对目标进行采样，不如构建一个易于模拟的随机过程，使其分布逐渐向目标分布漂移。研究重点关注两种主要的漂移机制：

朗之万动力学 (Langevin Dynamics)： 由对数密度梯度（分数/score）和布朗运动驱动的连续时间马尔可夫过程。
扩散模型 (Diffusion Models)： 一个通过向数据添加噪声来形成平滑分布路径，进而学习如何利用分数估计来逆转该过程的框架。

方法论

笔记分为五个不同的“乐章”，构建了从经典采样理论到现代生成模型的严谨数学桥梁。

1. 采样语言与朗之万动力学

基础是通过差异度量（全变差距离、Wasserstein-2 距离和 KL 散度）来定义采样问题。作者引入了过阻尼朗之万扩散 (Overdamped Langevin Diffusion)：
$dX_t = -\nabla U(X_t)dt + \sqrt{2}dB_t$
其中 $\pi(x) \propto e^{-U(x)}$ 。

收敛机制： 本文证明了 KL 散度 $D_{KL}(q_t \| \pi)$ 是一个李雅普诺夫函数（Lyapunov function）。其时间导数是相对费舍尔信息 (Relative Fisher Information, $-FI$) 的负值。在满足对数-索博列夫不等式 (Log-Sobolev Inequality, LSI) 的条件下，这产生了指数级的收敛速率。
离散化 (ULA)： 引入了作为 Euler–Maruyama 离散化的非调整朗之万算法 (Unadjusted Langevin Algorithm, ULA)。本文分析了其离散化偏差，表明虽然链是混合的，但其平稳分布 $\pi_h$ 与 $\pi$ 之间的误差阶数为 $O(h)$ 。
修正 (MALA)： 介绍了经 Metropolis 调整的朗之万算法 (Metropolis-adjusted Langevin algorithm, MALA)，作为一种通过接受-拒绝步骤消除此偏差的方法，以牺牲需要密度评估为代价来恢复精确的平稳性。

2. 连续时间基于分数的扩散模型

当目标密度未知但数据可用时，框架发生了转移。

前向加噪 (Forward Noising)： 数据 $X_0$ 被连续时间高斯过程（例如方差爆炸型或方差保持型 SDE）破坏，从而产生一系列边际分布路径 $p_t$ 。
特威迪恒等式 (Tweedie's Identity)： 一个核心恒等式将分数 $\nabla \log p_t(x)$ 与干净数据的后验均值（去噪器）联系起来：
$\nabla \log p_t(x) = \frac{1}{\sigma_t^2} \mathbb{E}[a_t X_0 - X_t | X_t = x]$
这证明了训练神经网络去预测噪声（或干净数据）可以作为学习分数的代理手段。
逆向动力学 (Reverse Dynamics)： 推导出了两种等价的反向过程：
1. 逆向 SDE： 一个包含分数项漂移项的随机过程， $dY_s = [-f_{T-s} + g_{T-s}^2 \nabla \log p_{T-s}]ds + g_{T-s} d\bar{B}_s$ 。
2. 概率流 ODE (Probability Flow ODE)： 一个确定性 ODE， $\frac{dX_t}{dt} = f_t(X_t) - \frac{1}{2}g_t^2 \nabla \log p_t(X_t)$ ，它保持与 SDE 相同的边际分布，但允许通过连续性方程进行精确的似然计算。

3. 随机定位与 Polchinski 流

论文提供了对同一高斯通道的替代理论视角：

随机定位 (Stochastic Localization)： 将该过程视为一个贝叶斯推理问题，其中隐藏信号的后验均值演化为一个鞅 (Martingale)。这一视角产生了强大的协方差恒等式（例如，后验协方差随时间消散），这对于后续的误差界限至关重要。
Polchinski 流： 将密度的平滑过程解释为重整化群流。有效势能 $U_t = -\log p_t$ 满足一个非线性偏微分方程（Polchinski 方程），将扩散模型与统计物理及粗粒化联系起来。

4. 离散化与误差分析

连续动力学被离散化为可实现的采样器 (DDPM)。论文为真实数据分布（或其平滑版本）与采样器输出之间的 KL 散度提供了一个严谨的误差分解：
$D_{KL}(p_1 \| \hat{p}_1) \leq \underbrace{\epsilon^2_{init}}_{\text{初始化}} + \underbrace{\epsilon^2_{disc}}_{\text{离散化}} + \underbrace{c \sum \eta_k \epsilon^2_{k,score}}_{\text{分数估计}}$

初始化误差： 源于在较高的噪声水平而非精确的终端分布处开始反向过程。
离散化误差： 通过 Euler–Maruyama 进行分析，并使用 Hessian 控制进行优化。本文并未假设分数的全局 Lipschitz 常数，而是使用（源自随机定位的）后验协方差预算来限制误差，从而实现了对维度 $d$ 近乎线性的依赖关系。
分数估计误差： 使用学习到的分数 $s_t$ 代替真实分数 $s^\star_t$ 产生的误差。
高精度采样： 引入了一阶拒绝采样 (First-Order Rejection Sampling, FORS) 作为一种仅基于分数的修正机制（类似于 MALA），它能实现高精度采样，且对目标误差 $\epsilon$ 仅具有多项式对数依赖，避免了标准 Euler 离散化的多项式依赖。

5. 离散扩散模型

该框架被扩展到有限状态空间（如文本、分子），在这些空间中梯度和布朗运动是未定义的。

机制： 前向破坏建模为连续时间马尔可夫链 (CTMC)（例如掩码扩散）。
逆向动力学： 反向过程也是一个 CTMC，其速率由比例分数 (Ratio Scores) $s^\star_t(x, y) = p_t(y)/p_t(x)$ 而非梯度决定。
训练： 目标是分数-熵 (Score-entropy)，这是一种源自路径空间相对熵的 Bregman 散度，可以通过对干净标记预测的监督学习进行优化。
采样： 对 $\tau$ -leaping（近似）和 一致化 (Uniformization)（精确）算法进行了分析。研究表明，一致化可以消除离散化误差，仅留下初始化和分数估计误差。

6. 推理时控制

最后一部分讨论了如何在不重新训练的情况下修改采样器以满足特定条件或最大化奖励。

奖励倾斜 (Reward Tilting)： 将目标分布重新加权为 $p_\beta(x) \propto p_0(x)e^{\beta r(x)}$ 。
引导 (Guidance)： 论文推导出倾斜分布的分数等于基础分数加上一个修正项 $\nabla \log h^\beta_t$ ，其中 $h^\beta_t$ 是奖励的后验期望。这在统一的数学框架下将分类器引导 (Classifier Guidance) 和无分类器引导 (Classifier-Free Guidance) 结合在一起。
路径空间控制： 该问题被构架为基础路径律的 Doob 变换 (Doob transform)，将推理时控制与随机控制理论联系起来。

关键结果与贡献

统一的误差分析： 论文为扩散模型提供了一个全面的、面向证明的误差分解，将初始化、离散化和分数估计误差分离开来。它证明了在弱假设（有限二阶矩）下，通过协方差预算，离散化误差对维度 $d$ 呈近线性缩放，而不是要求强凸性或全局 Lipschitz 条件。
高精度保证： 它确立了 一阶拒绝采样 (FORS) 和 一致化 (Uniformization)（对于离散模型）可以实现高精度采样，其复杂度对目标误差 $\epsilon$ 仅呈多项式对数依赖，显著优于标准的 Euler 边界。
理论统一： 该工作将扩散模型与随机定位（鞅理论）、Polchinki 流（重整化群）以及最优传输（Wasserstein 梯度流）联系起来，为这些模型为何奏效提供了更深层的几何与分析理解。
离散状态空间： 利用 CTMC 和比例分数，将扩散理论严谨地扩展到有限状态空间，为掩码扩散和离散采样器提供了完整的误差分析。
推理时控制： 它将引导和奖励倾斜形式化为测度变换（Doob 变换），阐明了基础模型、奖励函数与受引导动力学之间的数学关系。

意义与主张

本文声称提供了一个面向证明的导论，适用于具有概率背景但没有随机微分方程 (SDEs) 或扩散模型先验知识的初级研究生。其意义在于：

严谨的基础： 超越启发式解释，为核心定义（Fokker-Planck、Tweedie 恒等式、逆向 SDE）提供完整证明，并为收敛性提供代表性估计。
弥合差距： 将经典的 MCMC 理论（Langevin, MALA）与现代生成模型（DDPM, Score-Based）联系起来，表明扩散模型本质上是逆向时间采样动力学的特定、学习到的实现。
澄清假设： 明确指出收敛所需的假设（例如，对数-索博列夫不等式、光滑性），并区分“研究级定理”（附带路线图）与“代表性估计”（在简化假设下证明）。
自包含工具箱： 笔记作为一个自包含的参考工具，提供了理解和分析扩散模型所需的分析工具（Itô 微积分、Girsanov 定理、高斯恒等式），避免了为了基础机械原理而查阅零散文献。

作者明确表示，这些笔记并不旨在综述整个生成模型领域（详细讨论了流匹配、一致性模型等之外的内容），而是专注于扩散和朗之万动力学的特定数学机制，并将学习到的分数误差视为采样保证的输入，而非统计学习问题。