技术摘要：为什么学习过程会重新发现闭式对角正则化项

问题陈述

本文研究了有界区域上的模态逆问题（modal inverse problems），特别关注如何从稀疏的传感器测量中重建物理场（声压或热扩散）。在这些问题中，状态表现为无穷特征函数展开，但传感器仅捕捉有限数量的测量值。因此，被丢弃的高频模态会表现为截断噪声（truncation noise），从而污染每一次测量。

标准的补救措施是 Tikhonov 正则化，它惩罚那些数据无法约束的模态的大振幅。这种惩罚由标量强度 $\alpha$ 和对角矩阵 $\Gamma$ 控制。虽然 $\alpha$ 的选择已有深入研究（例如通过 L-曲线或交叉验证），但最优的形状（即 $\Gamma$ 如何随不同模态进行缩放）仍然是一个开放性问题。作者研究了学习到的、针对特定房间的正则化项是否能优于简单的闭式幂律先验，或者其最优形状是否是通用的，且仅由激发过程的物理特性决定。

方法论与理论框架

1. 理论推导：各向同性与闭式解

作者提出了一个三步论证过程，用以确定最优正则化形状 $\Gamma_k \propto \lambda_k^p$：

• 第 1 步：各向同性下的贝叶斯最优性。 如果截断噪声是各向同性的（在所有保留模态中均匀分布），且信号先验遵循幂律衰减（$\sigma^2_{a,k} \propto \lambda_k^{-s}$），那么贝叶斯最优 Tikhonov 正则化项恰好为 $\Gamma_k \propto \lambda_k^s$。在这种情况下，噪声水平决定了整体强度 $\alpha$，但其形状完全由信号先验指数 $s$ 决定。
• 第 2 步：Berry 的随机波猜想。 为了证明各向同性假设的合理性，作者引用了 Berry 的猜想，该猜想认为通用区域的高频特征模态表现得像随机空间场。这意味着在随机传感器位置，不同特征模态之间的互相关性近似为零，从而使噪声贡献去相关。
• 第 3 步：Weyl 特征值计数律。 即便 Berry 猜想未能完美满足（例如在特定几何形状中），Weyl 定律也保证了存在大量的截断模态（其规模随区域面积缩放）。大量模态的存在确保了噪声贡献之和会向其各向同性平均值集中，使得噪声在重建过程中实际上表现为各向同性。

2. 经验验证

该框架在以下场景中进行了实例化测试：

• 声学房间： 187 个随机凸 2D 多边形，保留 $K=50$ 个模态，配备 $M=8$ 个麦克风。
• 热扩散： 通过热方程进行的跨 PDE 检查，该方程引入了一个振幅谱中的指数衰减因子。

作者从数据中估计先验指数 $|s|$（发现声学中 $|s| \approx 1.13$），并将固定闭式幂律正则化器（$\Gamma_k = \lambda_k^{|s|}$）的表现与以下模型进行比较：

1. 逐房间先验优化（Per-room Oracle Tuning）： 通过为每个特定房间进行网格搜索得到的最佳对角指数 $p^*$。
2. 学习型对角正则化器： 三种神经网络架构（M1, M2, M3），旨在根据房间特征或共享权重来调整对角惩罚 $\Gamma$。
3. 学习型非对角正则化器： 一种允许模态间耦合的“学习迭代岭回归”（LIR）模型。

核心贡献与结果

1. “对角饱和”原则

核心发现是：在对角矩阵族内，学习无法超越闭式幂律。

• 平坦的损失景观： 沿指数 $p$ 的重建误差景观 $P(p)$ 非常平坦。虽然随着观测时间的增加，每个房间的最优指数 $p^*$ 会发生轻微漂移，但近优性能的盆地非常宽阔，以至于固定的总体指数 $|s|$ 对于每个房间和运行点都处于该盆地之内。
• 学习重新发现了公式： 三种不同的神经网络架构（M1, M2, M3）在相同数据上训练后，其重建误差均收敛至闭式解的 1 个百分点 (pp) 以内，尽管它们学习到的频谱形状在定性上有所不同。在许多情况下，学习模型仅仅收敛到了幂律形式，这证实了闭式解是对角正则化器的饱和点。
• 缺乏适应的空间： 总体指数与逐房间先验（Oracle）之间的差距很小（中位数相对成本 < 5.82%）。作者指出，对每个房间进行指数估计过于嘈杂而难以奏效，这使得该问题处于 James-Stein 机制中——即收缩到总体均值比使用单位插值更优。

2. 学习何时发挥作用：跨模态耦合

论文指出了学习提供价值的精确边界：打破对角限制。

• 学习迭代岭回归（LIR） 模型通过迭代梯度步骤对跨模态耦合进行参数化，成功突破了逐房间对角先验（Oracle）的性能极限。
• 在 $T=100$ 个快照下，LIR 比最佳对角先验的重建误差降低了 13.5 pp。这表明，“对角限制带来的代价”是目前唯一的进步前沿；如果限制在单模态加权内，基于物理推导的公式在经验上是无法改进的。

3. 向热扩散的扩展

该框架可扩展至热方程，其中先验谱包含一个指数衰减项（$\Gamma_k \propto \lambda_k^s \cdot e^{c\lambda_k}$）。

• 指数速率 $c = 2\kappa t$ 是由格林函数（Green's function）导出的，无需从数据中学习任何自由参数。
• 逐房间拟合能够高精度地恢复预测速率（$R^2 \ge 0.998$），证实了该框架在跨 PDE 方面的一致性。

意义与主张

本文旨在解决在截断噪声下，Tikhonov 正则化在模态逆问题中的“形状问题”。其意义主要体现在以下三个断言中：

1. 闭式的普适性： 最优对角正则化形状不是房间特有的人工产物，而是激发过程的一个普遍属性（$|s|$），且独立于领域几何形状。即使在 Berry 猜想失效的情况下，只要 Weyl 定律确保了足够的截断模态（即“Weyl 主导性”），这一结论依然成立。
2. 学习的局限性： 论文解释了为什么学习型正则化器经常重新发现经典公式：因为损失景观是平坦的，且对角矩阵族已达到饱和。在这一族内，学习无法从逐房间结构中提取稳健的增益，因为噪声实际上是各向同性的，且信号的动态范围占据了主导地位。
3. 定义前沿： 本研究精确定位了学习效用的边界。只有通过超越对角正则化器并利用跨模态耦合（如 LIR 所做的那样），才可能获得收益。对于从业者而言，本文认为与其拟合复杂的房间特定正则化器，不如直接使用基于物理推导的简单幂律，因为后者往往更稳健且更优。

作者对其研究范围保持了谦逊的态度，指出其结果适用于具有高斯先验的 2D 凸多边形，并承认 3D 扩展或超越 LIR 的非对角估计器仍是开放性问题。他们还承认，使用紧凑麦克风阵列进行的实际验证确认了平坦的景观，但也揭示了由于录音链效应导致在斜率恢复上的差距，而这些效应并未包含在合成模型中。