技术摘要：物理学在 PnP 中的重要性：基于 MMSE 与神经网络去噪器的恢复保证

1. 问题陈述

本文研究了从观测值 $y \in \mathbb{R}^m$ 中恢复随机向量 $x \in \mathbb{R}^n$ 的线性病态逆问题，其前向模型为：
$$y = Ax + e$$
其中 $A: \mathbb{R}^n \to \mathbb{R}^m$ 是一个线性算子，$e$ 是均值为零、协方差矩阵 $\Sigma_E$ 可能非对角且正定的高斯噪声。如果 $A$ 不是单射的，该问题可能是病态的且可能不具有唯一解。

作者研究了 即插即用 (Plug-and-Play, PnP) 范式，特别是前向-后向分裂 (forward-backward splitting, FBS) 迭代。与依赖显式正则化泛函的传统方法不同，PnP 使用去噪算子 $\hat{D}$ 代替近端算子 (proximal operator)。所考虑的通用迭代公式为：
$$x_{k+1} = \hat{D}(x_k + \gamma B(y - Ax_k))$$
其中 $\gamma > 0$ 是步长，$B \in \mathbb{R}^{n \times m}$ 是一个线性算子。本文研究的核心挑战是，当去噪器为 最小均方误差 (MMSE) 估计器时，为该迭代建立严格的 恢复保证（误差界），并将这些结果扩展到由神经网络 (NN) 近似 MMSE 的情况。

这项工作的关键区别在于对噪声分布的处理。虽然许多现有的 PnP 分析假设去噪器是在各向同性高斯噪声 ($\sigma^2 I$) 上训练的，但本文考虑了具有一般协方差结构的 退化高斯噪声，并承认在 PnP 迭代过程中注入去噪器的噪声取决于前向算子 $A$ 和算子 $B$ 的选择。

2. 方法论

2.1 MMSE 去噪器框架

作者将最优去噪器 $\hat{D}$ 定义为给定观测值 $Z = X + \Upsilon$ 时 $X$ 的 MMSE 估计器，其中 $\Upsilon \sim \mathcal{N}(0, \Sigma_\Upsilon)$。至关重要的是，$\Sigma_\Upsilon$ 不被假定为各向同性的；它允许是退化的（秩亏的），并且被选择以匹配 PnP 迭代过程中产生的噪声项 $\gamma B e$ 的分布。

MMSE 估计器定义为后验条件均值：
$$\hat{D}_\mu(z) = \mathbb{E}[X | Z=z] = \frac{\int x \phi(z-x; \tilde{\Sigma}_\Upsilon) d\mu(x)}{\int \phi(z-x; \tilde{\Sigma}_\Upsilon) \mu(x) d\mu(x)}$$
其中 $\phi$ 是适配于子空间 $V = \text{Im}(\Sigma_\Upsilon)$ 的高斯密度核。

2.2 关键假设

分析依赖于以下结构性假设：

• 紧致性 (Compactness)： 先验分布 $\mu_X$ 的支撑集是紧致且有界的，由 $M$ 限制。
• 子空间一致性 (Subspace Consistency)： $\mu_X$ 的支撑集位于由噪声协方差 $\Sigma_\Upsilon$ 张成的子空间 $V$ 内。
• 算子性质： 矩阵 $BA$是对称且半正定的。算子$B$将值映射入$V$。
• 受限单射性 (Restricted Injectivity)： $BA$的核与$\mu_X$ 支撑集凸包的切锥的交集是平凡的，从而确保在相关集合上的可逆性。

2.3 神经网络近似分析

意识到高维情况下精确的 MMSE 估计器在计算上是难以处理的，作者将分析扩展到了由 ReLU 神经网络参数化的去噪器。他们利用逼近理论来界定所需的网络宽度、深度和权重量级，以实现在先验支撑集上以特定精度 $\epsilon$ 近似恒等映射（从而近似 MMSE 去噪器）。

3. 核心贡献

本文做出了三个主要贡献，超越了将 PnP 去噪器视为“黑盒”的观点：

1. MMSE 去噪器的正则性与稳定性：
   作者证明了 MMSE 去噪器是 Lipschitz 连续的，并且在特定条件下（高斯噪声具有非退化协方差时）是 协同收缩的 (cocoercive)。这为 PnP 方法中经常通过启发式方法强制执行的“紧非扩张性 (firm non-expansiveness)”提供了严格的理论依据。他们还证明了去噪器对先验测度的稳定性（Wasserstein 连续性）。

2. 基于 MMSE 的 PnP 恢复保证：
   论文推导了 PnP-FBS 迭代的 逐点 (pointwise) 和 Wasserstein 距离 恢复误差界。

   • 逐点界限： 误差界取决于算子 $BA$ 在解集切锥上的条件数、噪声水平以及经验先验的采样误差。
   • Wasserstein 界限： 迭代分布收敛于真实的先验分布。该界限显式包含了一个 Bures 度量 项，该项衡量了用于训练去噪器的噪声分布 ($\Upsilon$) 与迭代中的有效噪声 ($\gamma B E$) 之间的差异。

3. 物理感知型去噪器的必要性：
   一个核心理论发现是，去噪器 不能 以与物理无关的方式进行选择。用于构建去噪器的算子 $B$ 和噪声协方差 $\Sigma_\Upsilon$ 必须是耦合的。具体而言，为了获得最优性能，去噪器必须在与变换后的观测噪声 $\gamma B E$ 相匹配的噪声统计特性上进行训练。标准选择 $B = A^\top$ 隐含地假设去噪器对前向模型是不可知的，作者表明除非满足特定条件，否则这会导致次优的恢复效果。

4. 主要结果

4.1 逐点恢复

定理 3.2 提供了重建误差 $\|x_k - x\|$ 的界限。误差收敛到由以下因素决定的解的邻域：

• 噪声放大： 与 $\gamma \|B\| \|e\|$ 成正比。
• 去噪器性能： 与真实信号与经验训练样本之间的距离相关。
• 条件性： 收敛率 $q$ 取决于 $BA$ 在解集上的条件数。
  至关重要的是，即使去噪器不是收缩映射，只要 $BA$ 的条件数相对于去噪器的 Lipschitz 常数足够有利，该界限依然成立。

4.2 分布恢复

定理 3.6 建立了迭代分布与真实先验分布之间的期望平方 Wasserstein 距离 $W_2^2(\hat{\mu}_k, \mu_X)$ 的界限。该界限表明，当训练噪声的协方差 $\Sigma_\Upsilon$ 与迭代噪声 $\gamma^2 B \Sigma_E B^\top$ 相匹配时，误差达到最小。如果这种匹配是完美的，Bures 度量项将消失，从而显著改善界限。

4.3 神经网络近似

定理 3.11 将逐点界限扩展到使用训练好的神经网络替换 MMSE 去噪器的情况。误差界限包含以下项：

• 网络的近似误差（取决于 $\epsilon$）。
• 网络的 Lipschitz 常数。
• 训练数据的采样误差。
  作者推导了实现所需近似精度所需的网络深度和宽度的具体要求，表明只要网络具有足够的表达能力，恢复保证依然成立。

5. 意义与主张

本文声称其分析从根本上改变了对 PnP 方法的理解，即证明了 物理学至关重要。

• 拒绝不可知论： 作者认为，在任意前向算子 $A$ 和噪声协方差 $\Sigma_E$ 的逆问题中使用通用噪声（如各向同性高斯噪声）训练去噪器的常见做法在理论上是有缺陷的。去噪器必须是“物理感知的”，这意味着其训练噪声分布必须与 PnP 迭代中引入的有效噪声分布保持一致。
• 放宽假设： 通过利用 MMSE 估计器的特定性质（从先验中导出的协同收缩性和 Lipschitz 界限），作者在不需要去噪器是凸泛函的近端算子或收缩映射这一强假设的情况下，推导出了恢复保证。
• 定量界限： 论文提供了显式的、非渐近的误差界限，量化了逆问题的条件性、去噪器质量（及其训练数据）以及噪声水平之间的权衡。

总之，这项工作为即插即用方法提供了严谨的理论基础，强调了去噪器的设计与选择的分裂算子 $B$ 与前向模型及特定逆问题的噪声统计特性是密不可分的。