🤖 machine learning

Predict-Project-Renoise: Sampling Diffusion Models under Hard Constraints

本文介绍了预测 - 投影 - 重噪声（PPR）算法，该算法使预训练的扩散模型能够通过迭代地经过去噪器进行投影并重噪声，从而从满足硬物理约束（如守恒定律和边界条件）的分布中进行采样，进而在天气预报等复杂科学应用中同时实现低约束违反和高分布保真度。

原作者： Omer Rochman-Sharabi, Gilles Louppe

发布于 2026-05-14

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Omer Rochman-Sharabi, Gilles Louppe

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《Predict-Project-Renoise：在硬约束下对扩散模型进行采样》的解释，已转化为通俗易懂的语言并辅以生动的类比。

核心难题：“完美”的艺术家 vs. “严苛”的建筑师

想象你拥有一位才华横溢、享誉全球的艺术家（即扩散模型），他能画出极其逼真的风景。你请他画一片森林，他完成得棒极了。树木栩栩如生，光线恰到好处，色彩鲜艳夺目。

然而，你同时也是一位建筑师，手握一本严格的规则手册。你告诉艺术家：“你的画作必须是一片森林，但同时也必须遵守万有引力定律。树木不能悬浮。此外，河流必须严格按照测量员指定的位置流淌。如果做不到，这幅画就毫无用处。”

这位艺术家擅长让事物看起来逼真，但他们并不天生遵循你那些严格的数学规则。如果你只是让他们“再努力一点”，他们可能会画出一棵看起来逼真却悬浮在半空中的树，或者一条逆流而上的河。

在科学领域（如天气预报或流体力学），我们需要人工智能生成的数据既逼真（像真实数据），又严格遵循物理定律（如能量守恒或边界条件）。现有的方法往往顾此失彼：

它们能让结果看起来逼真，却破坏了物理定律。
它们强行让结果遵守定律，但生成的结果却像是一堆充满故障、支离破碎的乱码。

解决方案：“预测 - 投影 - 重噪声”（PPR）算法

这篇论文的作者创造了一种名为**预测 - 投影 - 重噪声（PPR）**的新三步舞，旨在解决这一问题。你可以把它理解为一种在不破坏艺术家风格的前提下引导他们的方法。

以下是这三个步骤如何运作的，我们借用雕塑家与黏土球的类比来说明：

1. 预测（艺术家的直觉）

首先，人工智能面对一个充满噪点、模糊不清的黏土球，利用其训练成果来猜测最终雕塑应该是什么样子。它“预测”出形状。

在论文中： 模型接收一张含噪图像，并利用其“去噪器”来猜测干净的图像。
问题所在： 这个猜测通常很精美，但很可能违反了你的严格规则（例如，雕塑悬浮在空中）。

2. 投影（建筑师的修正）

接下来，你拿这个美丽的猜测，强行让它符合规则。你把黏土按下去，让它稳稳地坐在桌子上，或者把悬浮的部分雕刻掉。

在论文中： 这就是“投影”步骤。算法通过数学手段将图像推向有效解的集合。
陷阱： 如果你只是强行把黏土塑造成正确的形状，可能会把它压得太狠，导致它失去了艺术美感。它可能变成一个扁平、怪异的团块，虽然在技术上遵循了规则，但看起来完全不像真正的雕塑。大多数其他方法就败在了这里。

3. 重噪声（魔法重置）

这是这篇论文的独门秘籍。在强行把黏土塑造成正确形状后，你并不只是把它留在那里。你轻轻摇晃桌子，往黏土里加回一点点“噪声”（随机性）。

为什么？ 这能让黏土“放松”下来，找到一种既在桌子上（遵循规则）又看起来像雕塑（遵循艺术家的训练）的新形状。
循环： 你重复这个循环（预测 -> 投影 -> 重噪声）很多次。每一次，雕塑都更接近完美：它遵循规则，但看起来依然像一件杰作。

为什么这比其他方法更有效

论文指出，以前的方法要么试图跳过步骤，要么顺序搞错了。

“直接推挤”的错误： 有些方法只是强行把最终图像推去符合规则。这就像试图把方形的钉子塞进圆形的孔里。结果往往是一堆破碎、锯齿状的乱码，看起来不再像真实数据。
"PPR"的优势： 通过“在去噪器中进行投影”，算法在人工智能仍在想象图像的过程中就检查规则。这就像在雕塑家还在塑造黏土时就问他们：“这部分悬浮了吗？”，而不是等到黏土变干变硬之后才去问。
“重噪声”的必要性： 论文证明，如果你不把噪声加回去（重噪声），过程就会陷入僵局。这就像试图只通过向前移动来在地图上找到完美位置；你需要能够来回微调，才能找到那个确切的最佳点。

结果：现实世界的测试

作者们在三个截然不同的挑战中测试了这种方法：

2D 形状（DATA2D）： 简单的二维图案。他们展示了 PPR 能够创造出完美契合严格数学曲线的形状，同时仍然看起来像原始图案。
流体力学（Kuramoto-Sivashinsky）： 这是一个描述流体如何流动和旋转的复杂方程。PPR 生成的流体模拟不仅看起来正确，而且实际上遵守了物理方程，没有产生“故障”（如水中突然出现的、不可能的跳跃）。
全球天气（Appa）： 他们使用了一个巨大的天气模型（包含 1.08 亿个变量！）。他们要求人工智能根据观测数据预测某一天的天气。
- 结果： PPR 生成的天气预报比其他任何方法都更准确，且更好地遵循了大气的物理定律。其他方法生成的天气图要么在物理上不可能，要么完全错误。

总结

这篇论文声称，预测 - 投影 - 重噪声是第一种成功教会人工智能成为“规则遵守者”而不将其变成丧失创造力的“机器人”的方法。

预测： 让人工智能去猜测。
投影： 温和地修正猜测以符合规则。
重噪声： 重新加入一点混乱，让人工智能能找到遵循规则的猜测中的最佳版本。

通过反复执行这一过程，人工智能学会了生成既100% 符合严格科学定律，又100% 逼真的数据。

技术摘要：预测 - 投影 - 重噪（PPR）

问题陈述

扩散模型已确立其作为深度生成建模最先进框架的地位，能够有效逼近高维数据分布 $p(x)$ 。然而，在流体力学、医学成像和气候建模等科学与工程领域，仅生成近似分布 $p$ 的样本是不够的。这些应用要求样本 $x$ 满足硬约束 $x \in C$ ，例如精确的守恒定律、边界条件、观测一致性，或不可压缩流中的零散度。

现有的约束采样方法面临显著局限：

基于训练的方法往往缺乏灵活性，针对不同约束需要重新训练，且通常仅以软方式强制执行约束。
贝叶斯分解方法（将约束视为带噪观测）不适合硬约束，因为隐式似然函数趋近于狄拉克 $\delta$ 函数。这导致梯度变得不稳定，且仅在可行集附近的极小邻域内具有信息量。
基于投影的方法可以显式强制执行可行性，但存在理论和实践上的陷阱。它们通常无法采样真实的约束分布，导致三种具体失效：(i) 违反约束，(ii) 约束分布不正确，以及 (iii) 样本落在原始数据分布支撑集 $S$ 之外（例如，在连续数据中引入不连续性）。此外，对含噪状态的直接投影通常是病态的，且重复的投影步骤会系统性地使采样器产生偏差，导致模式崩溃。

方法论：预测 - 投影 - 重噪（PPR）

作者提出，正确的约束采样需要逼近由从约束集 $C$ 开始的正向扩散随机微分方程（SDE）所诱导的约束边缘分布 $p^C_t$ 。

理论基础

本文定义了一个约束正向过程，其中初始状态 $x_0$ 从 $p^C(x_0) \propto p(x_0)\mathbb{1}_C(x_0)$ 中抽取。这诱导了一系列约束边缘分布 $\{p^C_t\}$ 。相应的反向过程涉及一个约束分数函数：
$\nabla_{x_t} \log p^C_t(x_t) = \nabla_{x_t} \log p_t(x_t) + \nabla_{x_t} \log P(x_0 \in C | x_t)$
第二项代表对数可行性的梯度，指向清洁样本 $x_0$ 可能可行的区域。

PPR 算法

为了在不重新训练的情况下从这些约束边缘分布中采样，作者识别出一个校正核 $K_t$ ，其唯一的平稳分布为 $p^C_t$ 。由于从精确的约束后验分布中采样是不可行的，他们在每个反向扩散步骤中通过三步迭代过程来近似该核：

预测：使用标准预测器（例如 DDIM）从 $x_{t+1}$ 移动到 $x_t$ 。
投影：PPR 不是直接投影含噪状态 $x_t$ 或去噪估计 $d_\theta(x_t)$ ，而是通过去噪器进行投影。它求解一个优化问题，寻找一个含噪状态 $x^*_t$ ，使得去噪后的输出满足约束：
$x^*_t = \arg \min_{x} c(d_\theta(x))$
这确保了投影后的清洁估计 $d_\theta(x^*_t)$ 保持在数据流形 $S$ 上，从而避免不连续性等伪影。
重噪：通过正向核对去噪后的可行估计 $d_\theta(x^*_t)$ 进行重噪，以在当前噪声水平 $t$ 下获得新样本 $x'_t$ 。

该预测 - 投影 - 重噪序列在每个扩散步骤中重复 $M$ 次。重噪步骤至关重要，因为它恢复了正确的噪声水平并注入了混合所需的随机性，防止采样器坍缩到固定点。

主要贡献

约束正向/反向公式：本文定义了约束正向过程，并推导了相关的反向过程和分数函数，识别出一个以约束边缘分布为其唯一平稳分布的校正核。
PPR 算法：一种无需训练的采样算法，通过迭代地通过去噪器投影并重噪来近似校正核。
组件的必要性：作者证明所有三个组件（预测、通过去噪器投影、重噪）都是必要的。移除任何组件都会导致性能急剧下降、更高的约束违反率，或样本落在数据支撑集之外。
理论误差界：本文提供了近似误差的分析，表明其分解为一个混合项（随迭代次数 $M$ 指数衰减）和一个来自点估计近似的不可约偏差。

实验结果

该方法在三种不同的设置下进行了评估：

DATA2D：具有随机约束的 2D 分布（棋盘格和高斯混合）。
Kuramoto-Sivashinsky (KS)：一个模拟湍流的 1D 偏微分方程，在 128 维轨迹上进行了测试。
WEATHER：使用 Appa 潜在天气模型进行全球天气预报（108 维大气状态）。

性能指标：

可行性：PPR 在 KS 数据集上实现了 82.7% 的可行性率（满足 $c(x) \le \epsilon$ 的样本），在 DATA2D 上实现了 79.0%。相比之下，次优方法的可行性率分别仅为约 1%（KS）和 31%（DATA2D）。
约束违反：PPR 在所有数据集上始终表现出最低的约束违反。
分布保真度：PPR 生成的样本保持在数据支撑集 $S$ 内（保持连续性和规律性），而许多基线方法（如 CPS、PDM、HDC）生成的样本不连续且落在数据流形之外。
准确性：在 KS 和天气任务上，与 DPS、MMPS 和 Trust Sampling (TS) 等基线相比，PPR 实现了更低的 RMSE、更好的 Skill 分数和更低的 CRPS（连续排序概率分数）。

意义与主张

本文声称，PPR 成功解决了在不重新训练的情况下从硬约束下的扩散模型中采样的长期挑战。其主要意义在于能够同时实现低约束违反和高分布保真度，这是现有方法无法提供的组合。

作者强调，PPR 在计算成本和样本质量之间提供了有意义的权衡：增加核应用次数（ $M$ ）始终能改善约束分布的近似。此外，通过通过去噪器进行投影，该方法确保样本与学习到的数据流形保持一致，避免了 $x_0$ 空间投影方法中常见的伪影（如不连续性）。

该工作得出结论，PPR 是一种稳健的、无需训练的解决方案，适用于需要严格遵守物理定律或观测数据的科学应用，尽管它指出了在处理不可微或离散约束方面的局限性。