技术摘要：论预测编码网络在无限宽度与深度极限下的表现

问题陈述

预测编码（Predictive Coding, PC）是一种具有生物合理性的算法，作为标准反向传播（Backpropagation, BP）的一种替代方案，其神经元通过最小化局部预测误差（一个能量函数）来进行权重更新。尽管最近的重参数化方法改善了深层 PC 网络（PCNs）的训练稳定性，但这些方法扩展到大规模宽度和深度时的理论基础仍不明确。具体而言，目前尚不清楚 PC 是否能够通过扩展规模来匹配 BP 在无限宽度和无限深度极限下的稳定性和特征学习能力，或者标准的 PCNs 是否会在模型规模增加时出现不稳定性（例如输出爆炸）。此外，在这些极限条件下，PC 梯度收敛至 BP 梯度的条件也需要进行严格的表征。

研究方法

作者对在无限宽度（$N \to \infty$）和无限深度（$L \to \infty$）联合极限下的 PCNs 进行了理论与实证分析。

1. 理论框架：

   • 通用参数化： 本研究采用了针对线性多层感知机（MLPs）和残差网络（Residual Networks）的通用“abcd”参数化方案，定义了预激活值（$a_\ell$）、权重初始化方差（$b_\ell$）、学习率（$c$）和网络输出（$d$）的缩放指数。
   • 平衡能量： 对于线性网络，作者利用了“平衡能量”（$F^*$），即相对于活动值进行最小化的 PC 能量。他们证明了对于线性网络，$F^*$ 是标准均方误差（MSE）损失的一个重缩放版本：$F^*(\theta) = L(\theta) / s(\theta)$，其中 $s(\theta)$ 是一个与权重相关的重缩放因子。
   • 设计准则： 分析旨在寻找满足以下三个主要准则（改编自 BP 文献）的参数化方案：
     1. 稳定性： 当 $N \to \infty$ 时，层预激活值和网络预测必须保持有界（既不消失也不爆炸）。
     2. 特征学习： 特征在训练过程中必须进行非平凡的演化（非懒惰学习）。
     3. 深度稳定性（针对 ResNets）： 隐藏层激活值在 $L \to \infty$ 时必须保持稳定，且每个残差块对特征演化的贡献应为 $\Theta(1/L)$。

2. 推导：

   • 作者推导了满足上述设计准则所需的特定缩放指数。
   • 他们分析了重缩放因子 $s(\theta)$ 以及平衡能量梯度的渐近行为。
   • 他们证明了在这些稳定的参数化下，随着宽度的增长，PC 梯度会收敛于 BP 梯度，其误差项取决于深度与宽度的比例（$L/N$）。

3. 实证验证：

   • 实验涵盖了线性与非线性架构，包括 MLP、卷积神经网络（CNN）和 Transformer。
   • 模型在从玩具任务到 CIFAR-10、Fashion-MNIST 和 ImageNet-1k 的数据集上进行了训练。
   • 研究测量了在不同宽度和深度下，PC 梯度（在活动平衡时计算）与 BP 梯度的余弦相似度。

核心贡献

1. 稳定参数化的等价性：
   论文证明，确保 PC 既具备稳定性又具备非平凡特征学习的参数化集合与 BP 的完全相同。具体而言，对于线性 MLP 和残差网络，满足 PC 稳定性与特征学习设计准则的唯一解是“均值场”（Mean-Field）或“最大更新”（Maximal Update, $\mu$P）参数化。这意味着标准的 PCNs（使用如 PyTorch 默认值的标准参数化）在处理大规模宽度时本质上是不稳定的，会导致输出爆炸。

2. 向反向传播的收敛：
   作者展示了在这些稳定参数化下，当网络宽度远大于深度（$L/N \to 0$）时，由 PC 计算的梯度会收敛于 BP 的梯度。

   • 对于固定深度的线性 MLP，PC 与 BP 梯度之间的相对误差随 $O(N^{-1})$ 缩放。
   • 对于联合极限下的线性残差网络，相对误差随 $O(L/N)$ 缩放。
   • 这种收敛性同时适用于目标函数和梯度，这意味着在宽极限下，PC 有效地实现了 BP。

3. “快速鞍点到鞍点”机制的不稳定性：
   论文指出，此前观察到的 PC 在深而窄的网络中表现出比 BP 更快“鞍点到鞍点”动力学的机制，依赖于“标准参数化”（Standard Parameterization, SP）。作者证明该机制对于宽度和深度都是不稳定的，违反了稳定性设计准则。因此，这种加速是以牺牲大规模模型的数值稳定性为代价的。

4. 实证泛化：
   尽管理论分析是基于线性网络推导的，但实验表明，只要网络足够宽（$L/N$ 较小）且达到了活动平衡，在采用不同优化器（Adam）和损失函数的非线性架构（CNN、Transformer）中，高梯度对齐性依然存在。

结果

• 理论层面： 推导确认，输出缩放指数 $d=1/2$ 对于 PC 的非懒惰特征学习至关重要，这与 BP 中的情况一致。重缩放因子 $s(\theta)$ 在 $N \to \infty$（对于 MLPs）或 $L/N \to 0$（对于 ResNets）时趋于 1，从而导致 PC 目标函数收敛于 MSE 损失。
• 实验层面：
  • 梯度对齐： 随着宽度的增加，PC 与 BP 梯度的余弦相似度趋近于 1.0，特别是在 $L/N$ 较小的 ResNets 和 Transformer 中。
  • 非线性模型： 在 32 层残差 MLP、10 层 CNN 和 12 块 Transformer 中均观察到了高度的对齐性。
  • 标准参数化的失效： 使用标准参数化（SP）的模型在宽度增加时表现出输出爆炸和梯度对齐变差的情况，证实了理论上的不稳定性。

重要性与主张

该论文声称提供了关于可扩展 PC 参数化的首个原则性约束。其主要意义在于两个方面：

1. 约束可扩展性： 它确立了若要使 PC 具备可扩展性，必须采用与 BP 相同的参数化规则（特别是 $\mu$P）。这表明，近期深层 PC 研究中使用的“启发式”重参数化必须符合这些理论极限才是可行的。
2. BP 的生物合理性： 结果表明，大脑（其网络通常比深度宽得多）可能通过仅使用局部学习规则来实现 BP 的全局信用分配。如果大脑运行在 $L/N \to 0$ 的机制下，PC 理论上可以收敛于 BP，从而实现高效学习，而无需非局部信息的传播。

作者对局限性保持了谦逊的态度，指出理论证明依赖于线性网络和精确的活动收敛。他们承认在非线性网络中达到活动平衡的计算成本仍是一个实际的瓶颈，但暗示模拟硬件实现最终可能解决这一问题。他们并不声称 PC 在所有机制下都优于 BP，而是强调在正确的参数化下，在可扩展的宽极限下，两者在数学上是等价的。