技术摘要：用于求解线性逆问题的精确后验得分估计

问题陈述

线性逆问题涉及从带有噪声的线性测量值 $y = Ax_0 + \eta$ 中恢复未知信号 $x_0$，其中 $A$ 是已知的正向算子，$\eta$ 是观测噪声。这些问题广泛存在于成像领域（例如：修复、超分辨率、去模糊），且通常是病态的（ill-posed），这意味着多个信号都可能与同一观测值一致。目标是从后验分布 $p(x_0|y)$ 中进行采样，而非仅仅寻找单一的点估计，从而捕捉不确定性并平衡数据保真度与先验合理性。

虽然扩散模型和流匹配模型通过学习如何逆转高斯破坏过程，提供了强大的数据先验，但它们本质上提供的是无条件得分 $\nabla_{x_t} \log p(x_t)$。求解逆问题需要的是后验得分 $\nabla_{x_t} \log p(x_t|y)$。现有方法分为两类，且各具局限性：

1. 无需训练的方法（如 DPS、DDNM、$\Pi$GDM）：这类方法保持预训练去噪器固定不变，并在每个反向步骤中应用近似的测量匹配修正（如梯度步或投影）。这些方法会引入偏差，常导致过度平滑、幻觉结构或校准不佳的不确定性。
2. 基于训练的方法（如 Palette、InDI）：这类方法从头开始训练新的条件模型或通过蒸馏进行训练。虽然具有表达能力，但它们往往放弃了原有的去噪结构，要求网络端到端地学习算子依赖性，这阻碍了从预训练检查点进行高效热启动，并增加了训练成本。

方法论：精确后验得分 (EPS)

本文推导了线性高斯逆问题及一般高斯插值器下精确后验得分的闭式表达式。其核心洞察在于：后验采样本质上仍然是一个去噪问题，但具有一个感知测量的输入和一个依赖于算子的各向异性噪声协方差。

理论推导

作者证明了在时间 $t$ 的后验得分可以表示为：
$$\nabla_{x_t} \log p(x_t|y) = \frac{1}{\beta_t^2} \left( \alpha_t D_{\Sigma^\star(t)}(\mu^\star(x_t, y, t)) - x_t \right)$$
其中：

• $D_{\Sigma^\star(t)}$ 是一个各向异性去噪器，用于估计 $E[x_0 | x_0 + \xi = \mu^\star]$，其中 $\xi \sim \mathcal{N}(0, \Sigma^\star(t))$。
• $\mu^\star(x_t, y, t)$ 是后验枢轴 (posterior pivot)，它是当前噪声状态 $x_t$ 与测量值 $y$ 的精度加权融合。
• $\Sigma^\star(t)$ 是后验协方差，由逆问题参数（$A, \sigma_y$）和扩散调度（$\alpha_t, \beta_t$）导出。

至关重要的是，$\mu^\star$ 作为 $(x_t, y)$ 的充分统计量，而 $\Sigma^\star$ 捕捉了各向异性的不确定性：被 $A$ 观测到的方向变得更加确定，而未被观测的方向（在 $A$ 的零空间内）则保持不确定。

EPS 训练目标

作者定义了利用该恒等式的精确后验得分 (EPS) 训练目标：

1. 输入变换：网络不是在标准的噪声输入 $x_t$ 上进行训练，而是在枢轴 $\mu^\star(x_t, y, t)$ 上进行训练。
2. 各向异性噪声：训练目标是针对特定的各向异性协方差 $\Sigma^\star(t)$ 对 $\mu^\star$ 进行去噪。
3. 高效模拟：一个关键的理论贡献（命题 3）表明，所需的各向异性破坏会通过 $\mu^\star$ 的闭式构造自然诱导。因此，可以通过使用标准各向同性噪声采样（$x_t = \alpha_t x_0 + \beta_t \epsilon$）并解析计算 $\mu^\star$ 来进行训练，从而避免直接采样各向异性噪声。
4. 架构：网络架构与标准预训练去噪器完全相同，仅将输入通道扩展为拼接枢轴 $\mu^\star$ 和原始观测值 $y$。这使得 EPS 既可以从头开始训练，也可以更高效地从预训练的无条件去噪器进行微调。

推理

在推理阶段，EPS 使用与底层骨干网络完全相同的采样器（例如 Euler ODE）。唯一的修改是将标准的去噪器调用 $D_\theta(x_t, t)$ 替换为 $D_\theta(\mu^\star(x_t, y, t), y, t)$。这不需要似然梯度，不需要投影，在采样过程中也不需要内层优化循环。

核心贡献

1. 精确后验得分恒等式：推导了线性高斯逆问题下后验得分的闭式表达式，表明后验采样可以简化为在偏移枢轴下的去噪以及各向异性协方差下的去噪。
2. EPS 算法：一种保留了标准预训练输入/输出结构的训练目标和采样算法。它实现了对预训练检查点的快速微调，并在推理时使用未改变的骨干网络采样器。
3. 效率与性能：EPS 相比于基于梯度的采样器，实现了显著更少的网络函数评估次数 (NFE)。它能在 $\sim20$ 步内收敛，而像 DPS 或 $\Pi$GDM 这样的基线通常需要 100 多步才能达到类似的性能。
4. 高噪声极限：该方法提供了高噪声极限下后验均值 $E[x_0|y]$ 的一步估计器，提供了一个快速且满足最小均方误差 (MMSE) 最优的点估计。

实验结果

作者在五个线性逆问题（随机修复、框修复、4$\times$ 超分辨率、高斯去模糊、运动去模糊）以及 FFHQ 和 ImageNet 数据集上评估了 EPS。

• 指标：EPS 在逐点保真度（PSNR, SSIM）、感知质量（LPIPS, FID）以及分布校准度（CRPS, MMD）方面均优于训练无需类（DPS, DAPS, DDNM, $\Pi$GDM）和基于训练类（Palette）的基线。
• 采样效率：EPS 在 $\sim20$ NFE 内达到性能平台期。相比之下，基于采样的基线在 100 NFE 时仍在缓慢提升，且往往无法达到 EPS 的渐近线。
• 训练效率：当从预训练检查点进行微调时，EPS 的收敛迭代次数远少于其他基于训练的方法（如 Palette），这归功于其对预训练去噪几何结构的保留。
• 运行时间：EPS 是对比的方法中最快的逆问题求解器，其运行速度几乎与无条件预训练去噪器相同（约 1.006$\times$），因为它避免了基于梯度的方法所需的反向传播过程。
• 消融实验：实验证实，偏移枢轴 $\mu^\star$ 是性能的关键因素，且 EPS 学习到的各向异性几何结构至关重要，因为零样本枢轴化（即使用未经微调的预训练去噪器）表现较差。

意义与主张

本文声称 EPS 为线性逆问题的后验采样提供了一种原则性且经过校准的方法。通过推导精确的后验几何结构，它弥合了无需训练方法的高效性与基于训练方法的高表达力之间的鸿沟。

• 结构对齐：不同于强迫网络从头学习新条件路径的条件训练方法，EPS 使预训练先验适应由测量引起的特定各向异性几何结构。这允许快速微调并重用强大的无条件先验。
• 透明性：闭式枢轴和协方差提供了一个透明的手段来分析采样器，能够显式地分离测量方向与未观测方向。
• 实用性：该方法在推理阶段不需要复杂的采样循环或梯度计算，使其适用于低延迟应用。

作者也承认了局限性：精确推导假设了线性正向算子和高斯观测噪声。非线性算子或非高斯噪声需要局部线性化或针对真实似然进行训练，此时闭式解并不直接适用。此外，潜在扩散骨干网络需要谨慎处理，因为解码器可能会使潜在空间的线性像素空间算子变为非线性。