🤖 machine learning

Discrete Langevin-Inspired Posterior Sampling

本文介绍了 $\Delta$ LPS，这是一种可扩展且通用的离散后验采样器，它利用梯度信息在离散状态空间内执行高效的并行更新，在不依赖连续松弛的情况下，于各类逆问题上实现了具有竞争力的性能。

原作者： Chaitanya Amballa, Sattwik Basu, Jorge Vančo Sampedro, Romit Roy Choudhury

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Chaitanya Amballa, Sattwik Basu, Jorge Vančo Sampedro, Romit Roy Choudhury

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试拼凑一幅拼图，但有人把图片拿走，用墨水涂抹，撕掉了一半的碎片，然后把这一团糟交给你。你的目标是弄清楚原始图片原本的样子。在计算机科学领域，这被称为逆问题：你拥有一个混乱的结果（ $y$ ），需要逆向推导以找到原始信号（ $x$ ）。

长期以来，如果拼图碎片是平滑且连续的（就像一幅水彩画），计算机非常擅长解决这些谜题。它们使用一种称为“扩散”的技术，这就像慢慢给图片添加噪声，直到它变成纯粹的静态噪点，然后学习如何逆转这一过程以恢复图像。

然而，我们世界中的许多事物并非平滑的水彩画；它们是由离散的、独立的块组成的，就像乐高积木、像素或句子中的单词。这些是离散状态。试图将“水彩”（连续）方法应用于“乐高”（离散）数据，就像试图把方钉子塞进圆孔里。现有的离散谜题解决方法通常试图强迫乐高积木表现得像水一样（将它们松弛到连续空间中），或者逐个移动它们，这极其缓慢。

新解决方案： $\Delta$ LPS

本文作者介绍了一种名为 $\Delta$ LPS（离散朗之万启发式后验采样器）的新工具。以下是其工作原理，使用一个简单的类比：

“跳跃”向导

想象你站在雾蒙蒙河流中的一块块踏脚石网格上（离散状态）。你想到达对岸（正确的图像），但你不能在水上行走；你必须从一块石头跳到另一块石头。

旧方法要么试图将石头变成一座桥（连续松弛），要么要求你逐个检查每一块石头，看看哪一块最好（缓慢的、顺序更新）。
$\Delta$ LPS则像一位能看透迷雾的聪明向导。向导利用“梯度”（数学斜率）告诉你：“嘿，如果你跳到左边的石头上，你会更接近目标。如果你跳到右边，你会离目标更远。”

神奇之处在于，向导利用这种“斜率”信息来决定下一步跳到哪块离散的石头，而无需离开石头网格。它不会试图漂浮在水面上；它只是挑选出最佳的一块石头供你跳跃。

“并行跳跃”

通常，在解决这些谜题时，你必须先修复图像的一部分，然后是下一部分，接着是再下一部分，就像一排人排队传递水桶一样。这需要耗费永恒的时间。
$\Delta$ LPS 则不同。因为它能同时理解每一块石头的“斜率”，它告诉所有石头同时向何处跳跃。这就像有一整队人同时跳向他们的新位置。这使得过程变得极其快速和高效。

“通用适配器”

有些拼图求解器只有在拼图由特定工厂（特定类型的训练）制造时才有效。 $\Delta$ LPS 是一个“通用适配器”。它不在乎乐高积木最初是如何制造的，也不在乎它们来自哪个工厂。无论拼图是由“掩码”积木（部分隐藏）还是“均匀”积木（全部混合）制成， $\Delta$ LPS 都能利用向导来解决它。

他们测试了什么？

作者在各种类型的谜题上测试了这一新向导：

修复受损照片：他们选取了清晰的人脸照片（FFHQ）、数字（MNIST）和物体（CIFAR），并通过模糊处理、移除部分或改变亮度来破坏它们。 $\Delta$ LPS 成功重建了原始图像，其效果往往优于以往专为离散数据设计的方法。
盲拼图：他们甚至测试了一种计算机不知道谜题是如何被破坏的场景（就像仅通过观察一个人的行走路径来猜测房间的平面图）。 $\Delta$ LPS 仍然能够推断出可能的布局。

核心结论

该论文声称， $\Delta$ LPS 是一种更快、更灵活且更准确的方法，用于让计算机解决当数据由离散的、独立的单元（如像素或单词）组成时的“逆向工程”问题。它避免了旧方法的缓慢、逐步猜测，以及其他方法的混乱“虚假平滑性”，为在数字世界中解决复杂谜题提供了一条直接路径。

技术摘要：离散朗之万启发的后验采样（∆LPS）

问题陈述

本文旨在解决离散状态空间中逆问题的挑战。逆问题涉及从间接、稀疏且含噪的测量值 $y$ 中恢复未知信号 $x$ （建模为 $y = A(x) + n$ ）。虽然连续扩散模型已成为通过后验采样解决此类问题的标准方法，但其离散对应方法仍未得到充分探索。

现有的离散后验采样方法存在三个主要局限性：

连续松弛：如 G2D2 等方法将分类变量松弛到连续空间以利用梯度引导，这改变了推理几何结构，并可能导致投影后的离散令牌解码不一致。
顺序更新：如 SGDD 等方法依赖于吉布斯式（Gibbs-style）更新，这种方式是顺序执行的，在高维空间中混合速度慢。
专用性：如 APS 等方法与特定的破坏过程（例如掩码扩散）和训练范式紧密耦合，限制了其通用性。

目标是开发一种后验采样器，使其保持完全离散，并行更新所有令牌维度，并且对离散扩散先验的具体训练范式保持无关性。

方法论：∆LPS

作者提出了**∆LPS**（离散朗之万启发的后验采样器），这是一种无需训练的算法，利用梯度信息引导离散转移，而无需离开离散状态空间。

核心公式

问题被表述在编码器 - 解码器模型的离散潜在空间 $z_0 \in \{1, \dots, K\}^L$ 中。目标是从后验分布 $p(z_0|y) \propto p(y|z_0)p_\theta(z_0)$ 中进行采样，其中 $p_\theta$ 是预训练的离散扩散先验。采样器通过首先推断与测量值和先验一致的干净潜在变量 $z_0$ ，然后将其重新加噪至下一个时间步，来近似后验转移 $p(z_s|z_t, y)$ 。

离散朗之万提议

关键创新在于将朗之万动力学适配到离散空间。在连续设置中，朗之万更新将样本 $z_0$ 沿对数后验势 $U(z_0) = \log p(y|z_0) + \log p_\theta(z_0; z_t)$ 的梯度方向移动。由于 $z_0$ 是离散的，作者不直接添加梯度向量。相反，他们利用连续朗之万动力学中的高斯提议分布来定义有效离散候选 $z'_0$ 上的转移概率：

$q(z'_0|z_0; z_t, y) \propto \exp\left( -\frac{1}{4\eta} \|z'_0 - z_0 - \eta \nabla_{z_0} U(z_0; z_t, y)\|_2^2 \right)$

通过展开指数并在有限的有效令牌集合上进行归一化，提议分布在各令牌坐标上分解。这使得采样器能够独立计算每个令牌位置 $\ell$ 的分类分布：
$q_\ell(z'_0[\ell]) = \text{Cat}\left( \sigma\left( \frac{1}{2} \nabla_{z_0[\ell]} U \cdot (k - z_0[\ell]) - \frac{(k - z_0[\ell])^2}{4\eta} \right) \right)$

该机制实现了所有 $L$ 个令牌维度的完全并行更新，避免了吉布斯采样器的顺序瓶颈。

泛化与预处理

先验无关性：该方法仅需对分类状态的预测概率，因此与掩码扩散（MDLM）和均匀状态扩散（Duo）先验兼容。
盲逆问题：对于不可微或未知的正向算子，似然梯度被替换为学习到的对比代理（使用数据和测量值的编码器），以提供平滑的引导信号。
Adam 预处理：为了处理高维潜在空间中尺度不佳的梯度，原始梯度被替换为经 Adam 预处理的方向。这自适应地重新缩放更新，抑制噪声大的梯度，同时保留始终有用的梯度，从而改善混合和收敛性。

主要贡献

完全离散后验采样：∆LPS 是一种无需训练的采样器，它将每次迭代保持在离散状态空间内，避免了软令牌优化和投影误差。
高效的并行更新：通过在坐标上分解提议分布，该方法并行更新所有令牌维度，显著提高了相对于顺序吉布斯式采样器的效率。
先验无关设计：该采样器不依赖于特定的破坏过程（掩码式与均匀式），可与任何提供预测概率的预训练离散扩散先验配合使用。

实验结果

作者在 MNIST、CIFAR-10 和 FFHQ 的多种逆问题上评估了 ∆LPS，涵盖了线性、非线性和盲设置。

图像恢复（FFHQ）：在包括图像修复、高斯去模糊、超分辨率、HDR 和运动去模糊在内的任务中，∆LPS 实现了与连续基线（如 DPS、PSLD）相当或更优的性能，并在感知质量（LPIPS）上优于现有的离散基线（SGDD、G2D2、APS）。
离散任务（MNIST/CIFAR）：该方法在不同难度级别（简单、中等、困难）下表现出鲁棒性。即使在计算预算（函数评估次数）显著低于“完整”SGDD 变体的情况下，它在令牌准确率和 PSNR 方面始终匹配或超越 SGDD 和 G2D2。
盲逆问题：在空间映射任务（从行走轨迹推断平面图，其中正向算子未知）中，∆LPS 在 F1 分数和交并比（IoU）方面优于连续基线（CoGuide、DPS 变体）。

意义与主张

本文主张，完全离散且由梯度引导的后验采样器为求解离散表示上的逆问题提供了一条可扩展且通用的路径。

可扩展性：并行更新机制解决了离散采样器在高维空间中混合速度慢的局限性。
通用性：该方法将推理算法与先验的具体训练范式解耦，使其能够利用不断发展的离散扩散模型生态系统（文本、代码、图像、音频）。
实用性：通过避免连续松弛，∆LPS 确保最终样本是有效的离散令牌，防止了“投影差距”，即连续近似无法解码为一致的离散信号的问题。

作者总结道，随着离散生成模型的扩展，像 ∆LPS 这样 principled 的推理方法将在生物分子设计、符号音乐、代码补全以及其他数据本质上是离散的领域的应用中变得日益关键。

新解决方案：Δ\DeltaΔLPS