技术摘要：方差剖面高斯测量下对角期望传播的高斯过程动力学

1. 问题陈述

本文研究了在具有**方差剖面（variance-profile）**高斯测量的维度极高的线性推断问题中，对角期望传播（Diagonal Expectation Propagation, EP）的渐近行为。标准的线性推断模型为 $y = Ax + v$，其中$A$ 是感知矩阵。虽然针对近似消息传递（AMP）和 EP 的经典分析通常假设 $A$ 由独立同分布（i.i.d.）高斯条目组成，或具有酉不变性/旋转不变性，但本研究考虑了一种更一般的情形，即 $A$ 的条目虽然是高斯的，但其方差由一个确定的方差剖面 $S = (s_{ij})$ 规定。

核心问题在于：在这种设定下，标准的“新鲜噪声”（fresh-noise）原则是否仍然成立。在传统的 i.i.d. 或旋转不变模型中，经过适当的 Onsager 或腔体（cavity）修正后，迭代算法的线性模块会向先验模块传递一个新鲜的标量高斯观测值。这使得可以使用标量递归进行严谨的**状态演化（State Evolution, SE）**描述。作者提出的问题是：在方差剖面下，标准的对角 EP 腔体是否仍能产生一个新鲜的标量高斯信道，还是说方差剖面引入了对过去迭代的依赖，从而阻止了这种简单的解耦？

2. 研究方法

本文采用了基于**高斯条件化（Gaussian conditioning）和随机矩阵理论（RMT）**的严谨有限时间大规模系统分析（当 $M, N \to \infty$ 且 $M/N \to \delta$ 时）。其方法论在以下方面不同于标准方法：

• 基于线性历史的高斯条件化： 在酉不变模型中，对过去迭代进行条件化会留下一个“新鲜”的 Haar 随机分量；而在方差剖面高斯模型中，对有限线性历史进行条件化会留下一个相关的高斯残差。该残差的协方差会受到方差剖面和已揭示历史的形变影响。
• 条件化矩阵-狄龙方程（Conditioned Matrix-Dyson Equation, MDE）： 为了控制条件化线性模块的解析解（resolvent），作者利用了一个针对相关随机矩阵的正则化 矩阵-狄龙方程 框架。这提供了一个用于线性模块协方差和响应的确定性等价物，取代了标准 SE 中使用的标量方差参数。
• 舒尔补展开（Schur-Complement Expansion）： 线性模块的输出通过坐标维度的舒尔补进行分解。这分离了瞬时响应（即 EP 腔体旨在抵消的部分）与残差波动。
• 高斯回归分解： 作者识别出残差波动形成了一个坐标相关的高斯过程。他们应用有限维高斯回归将此过程分解为一个可预测的记忆分量（给定过去残差的条件均值）和一个正交创新项（新鲜噪声）。

3. 主要贡献

本文做出了三个主要贡献：

1. 识别条件高斯对象： 作者证明了在方差剖面测量下，线性模块生成的不是新鲜的标量信道，而是一个坐标相关的高斯过程。该过程的协方差受方差剖面和算法有限线性历史的支配，并通过条件化 MDE 响应来描述。
2. 刻画记忆缺陷（Memory Defect）： 本文表明，标准的对角 EP 腔体虽然成功抵消了瞬时响应，但未能移除当前残差中与过去残差相关的可预测部分。这导致了“记忆缺陷”，意味着传递给先验模块的有效观测值是一个偏移的高斯变量，而非新鲜的变量。
3. 预言机状态演化修正（Oracle State-Evolution Correction）： 通过将高斯过程分解为可预测记忆和新鲜创新项，作者推导出了一个预言机层面的状态演化修正。该修正减去了可预测的记忆项，从而揭示了底层的、新鲜的标量高斯信道。这产生了一个相对于 MDE 生成的环境进行淬火（quenched）的坐标化状态演化，而非简单的标量递归。

4. 主要结果

核心理论结果总结如下：

• 定理 3（一般有限时间动态定理）： 确立了线性模块输出可以被一个具有特定协方差核的高斯过程近似，该核由条件化 MDE 导出。输出被证明是一个确定性线性响应、一个高斯过程 $Z_{t,j}$ 以及一个趋于零的误差项之和。
• 定理 4（记忆缺陷）： 表明标准 EP 腔体输出 $h_{t,j}$ 满足：
  $$h_{t,j} = \mu_{t,j} + \sqrt{\tau_{t,j}} W_{t,j} + o_{\ell^2_p}(1)$$
  其中 $\mu_{t,j}$ 是记忆缺陷（可从过去历史中预测），而 $W_{t,j}$ 是新鲜的标准高斯变量。除非方差剖面具有特定的对称性（例如旋转不变性），否则 $\mu_{t,j} \neq 0$。因此，标准的腔体并非新鲜的 AWGN 观测。
• 定理 5（记忆修正后的状态演化）： 定义了修正后的腔体 $\hat{h}_{t,j} = h_{t,j} - \mu_{t,j}$。该定理证明了修正后的变量表现为新鲜的标量高斯观测 ($\sqrt{\tau_{t,j}} W_{t,j}$)。这允许进行有效的状态演化描述，但该描述需要追踪完整的坐标化协方差历史和 MDE 环境，而非仅仅是标量方差。
• 定理 6（精度替换）： 弥合了证明中所使用的理论“可预测精度”动力学与实际的“自适应精度”对角 EP 算法之间的差距。它证明了自适应精度的经验范数和误差会收敛到其对应的可预测值，从而验证了理论结果对于实际算法的有效性。

5. 意义与主张

本文声称，在方差剖面高斯测量下，消息传递算法中“新鲜标量高斯信道”的标准假设是不稳健的。这项工作的意义在于：

• 完善解耦原则： 它阐明了虽然线性模块输出的高斯性质在方差剖面下得以保持，但其新鲜性（与过去迭代的独立性）通常会丧失。极限对象是一个具有剖面依赖记忆的高斯过程动力学。
• 对角 EP 的理论极限： 它确立了对于一般的方差剖面，标准的对角 EP 算法并不会自然地解耦为标量状态演化。“记忆”是算法的一个内在特征，而非算法设计的产物。
• 预言机 vs. 实践： 作者对其结果的直接实际应用持谨慎态度。他们明确指出，推导出的记忆修正是一个预言机构造（需要了解 MDE 环境和过去的历史），并非旨在提出一种有限样本算法。本文的重点在于刻画极限动力学，并识别隐藏在残差过程中的底层“新鲜”信道。

总之，本文为方差剖面测量下的对角 EP 提供了一个严谨的有限时间描述，用更复杂的、具有记忆依赖性的高斯过程动力学取代了传统的标量状态演化，并识别了标准“新鲜噪声”直觉失效的具体条件。