技术摘要：卷积神经网络逆问题求解器的解析理论

1. 问题陈述

监督式卷积神经网络（CNNs）在解决成像逆问题（例如去噪、修复、反卷积、加速 MRI）方面已取得最先进的性能。尽管其经验表现成功，但这些方法常被视为“黑盒”，缺乏深入的理论理解。本工作解决的核心挑战是缺乏一个解析框架来解释训练有素的 CNN 如何作为逆问题的估计器发挥作用，特别是弥合经验神经网络输出与统计估计理论之间的差距。

作者考虑带有加性白高斯噪声的标准线性逆问题：
$$y = Ax + e$$
其中 $A: \mathbb{R}^N \to \mathbb{R}^M$ 是线性算子，$x$ 是未知信号，$e \sim \mathcal{N}(0, \sigma^2 I_M)$。目标是构建 $x$ 的估计器 $\hat{x}(y)$。虽然存在许多神经网络架构（有些与物理无关，有些则感知物理），但本文旨在刻画这些网络在最小均方误差（MMSE）准则下逼近的具体函数类。

2. 方法论

2.1. 理论框架：约束 MMSE

作者通过最小均方误差（MMSE）估计器的视角分析训练有素的神经网络，该估计器定义为条件均值 $\mathbb{E}[x|y]$。然而，标准 MMSE 估计器对于复杂分布是不可处理的。本文引入了约束经验 MMSE 估计器，其中优化被限制在编码 CNN 归纳偏置的特定函数类 $\mathcal{M}$ 中。

作者定义了三个对应于不同估计器变体的约束层级：

1. MMSE（无约束）： 对应后验均值。在经验数据集分布下，这充当一个“记忆”训练数据的核回归器（通过重加权最近邻进行重建）。
2. E-MMSE（平移等变）： 将估计器约束为平移等变。这近似于没有有限感受野约束的 CNN。作者表明，该估计器记忆了增强数据集（训练数据在所有循环平移下）。
3. LE-MMSE（局部等变 MMSE）： 将估计器约束为既是平移等变的又是局部的（有限感受野）。此类 $\mathcal{M}_{T,loc}$ 捕捉了具有权重共享和小核的标准 CNN，以及基于块的 MLP。

2.2. 闭式表达式的推导

主要的方法论贡献是在经验训练分布下推导这些约束估计器的闭式解析公式。

• 对于 E-MMSE： 估计器是增强数据集 $\mathcal{T}(D)$ 的加权平均，其中权重由测量的高斯似然度决定。

• 对于 LE-MMSE： 作者推导了一个像素级公式（定理 3.8）。在像素 $n'$ 处的估计是训练图像中所有像素的加权平均：
  $$\hat{x}_{T,loc}(y)[n'] = \sum_{x \in D} \sum_{n=1}^N x[n] \cdot w_{n',n}(x|y)$$
  权重 $w_{n',n}(x|y)$ 正比于一个高斯密度，该密度衡量了预处理 $B$ 后在 $n'$ 处观察到的块与训练图像 $x$ 中应用前向算子 $A$ 后在 $n$ 处的块之间的相似性。

  关键在于，LE-MMSE 被证明是训练块的拼贴。与保持在数据集凸包内的无约束 MMSE 不同，LE-MMSE 可以通过重新组合来自不同训练样本的局部块来进行外推。

2.3. 预逆算子 ($B$) 的分析

本研究探讨了线性算子 $B$ 的作用（例如，对于与物理无关的情况为恒等算子，对于感知物理的情况为伪逆 $A^+$）。分析揭示了一种权衡：

• 信号区分： $B$ 影响区分相似和不相似块的能力。
• 噪声鲁棒性： $B$ 影响噪声放大。
  本文表明，对于修复等任务，感知物理的 $B=A^+$ 降低了噪声敏感性，而对于反卷积，它可能会过度放大噪声，表明正则化逆通常更可取。

3. 主要贡献

1. 解析公式： 本文提供了 LE-MMSE 估计器的可处理、可解释的闭式表达式，将先前关于扩散模型的工作推广到任意线性逆问题。
2. CNN 的理论刻画： 它确立了训练有素的 CNN（UNet、ResNet、PatchMLP）紧密逼近 LE-MMSE 估计器。这将 CNN 重新定义为非黑盒，而是经典非局部均值（NLM）估计器的结构化、数据自适应推广，其中块是从训练集中提取而非从输入图像中提取。
3. 记忆与泛化： 该理论区分了仅记忆数据的估计器（MMSE、E-MMSE）和通过块重组进行泛化的估计器（LE-MMSE）。
4. 跨尺度验证： 该理论在多种逆问题（去噪、修复、反卷积）、数据集（FFHQ、CIFAR-10、FashionMNIST、FastMRI）和架构上得到了验证。

4. 实验结果

作者进行了广泛的数值实验，以验证训练有素的神经网络与推导出的 LE-MMSE 公式之间的一致性。

• 高度一致性： 在所有设置中，训练有素的神经网络输出与解析 LE-MMSE 估计器之间的 PSNR 始终很高（$\gtrsim 25$ dB）。这适用于不同的架构（UNet2D、ResNet、PatchMLP）和数据集。
• 架构的收敛性： 不同的架构收敛到同一解，该解可由解析公式很好地预测。
• 泛化行为：
  • 高密度区域： 在测量密度高的区域（例如高噪声水平下高斯混合重叠处，或在训练集上），一致性最强。
  • 低密度区域： 在测试集的低噪声体制（分布外）中出现差距，归因于这些区域中块分布的稀疏性。然而，网络仍然逼近 LE-MMSE 行为，利用局部块重建未见过的图像。
• 超参数影响：
  • 块大小： 较大的块在高噪声水平下提高了性能（更好的正则化），但由于块分布更稀疏，在低噪声水平下降低了公式与网络之间的一致性。
  • 数据集大小： 增加数据集大小略微提高了一致性，但这不是主要因素；即使对于较小的数据集，该理论也成立。
• 科学成像： 该框架成功扩展到加速 MRI 重建（fastMRI），显示 ResNet 与解析估计器之间具有强一致性（$\ge 28.6$ dB PSNR）。

5. 意义与主张

本文声称提供了理解基于 CNN 的逆问题求解器的理论基础，超越了纯粹的经验验证。

• 可解释性： 通过推导闭式表达式，作者将“黑盒”CNN 转变为可预测的估计器。这使得能够理论上分析稳定性、泛化等属性。
• 设计指导： 对预逆算子 $B$ 的分析为设计感知物理的架构提供了原则性指导，突出了数据一致性与噪声放大之间的权衡。
• 数据压缩： 作者指出，神经网络有效地压缩并重新表述了训练数据。虽然训练集包含约 $3.1 \times 10^7$ 个像素，但网络将其压缩为约 $4 \times 10^6$ 个参数，从而实现了对复杂 LE-MMSE 估计器的高效、近乎瞬时的评估。
• 未来方向： 本文建议该框架可扩展用于分析谱偏置（通过平滑约束）、非高斯噪声以及其他损失函数（例如 $\ell_1$ 损失），为逆问题深度学习未来的理论工作提供了路线图。

总之，本文认为 CNN 在逆问题中的成功并非偶然，而是源于它们逼近局部等变 MMSE的能力，这是一种统计上最优的估计器，通过重组局部训练块来平衡记忆与泛化。