Single State Update Predictive Coding training for Time Series Forecasting and Anomaly Detection

技术摘要：用于时间序列预测的单状态更新预测编码

问题陈述
预测编码（Predictive Coding, PC）是一种神经学习范式，它为反向传播提供了一种低复杂度的替代方案，其特点是能够进行可并行的层级更新。然而，预测编码网络（PCNs）仍存在一个显著的瓶颈：需要将误差从输出层向后逐层顺序传播。虽然 PCNs 通常通过前馈方法进行初始化以加速收敛，但这种方法要求推理步数必须等于或大于网络深度。这种顺序依赖导致了更新传播的消失，并阻碍了在线学习的效率，尤其是在对快速适应性要求极高的时序应用场景中。

方法论：引导式 PC 训练 (Guided PC Training)
为了解决顺序更新的瓶颈，作者提出了一种名为“引导式 PC”的训练技术，该技术配对了两个不同的网络：生成式 PCN (G-PCN) 和 编码式 PCN (E-PCN)。这两个网络通过并行训练以匹配它们的神经激活值，从而克服了无需顺序传播多次状态更新迭代的要求。

单个时间步 $t$ 的训练过程包含四个统一步骤：

1. 并行前馈初始化：
   • G-PCN（作为解码器）通过时间映射层 ($\theta_0$) 将前一状态 $h_{t-1}^0$ 映射到当前输入表示 $\mu_t^0$，随后预测下一时刻的数据 $\hat{x}_t$。
   • E-PCN（作为编码器）获取实际输入 $x_t$，并执行标准的前馈传递以生成激活值 $\gamma_t$。
2. 并行状态更新（引导与内部能量）：
   • 两个网络并行更新其状态，以最小化两个能量函数：
     • 引导能量 ($G$)： 两个网络激活值之间的平方差 ($\sum (\mu_l - \gamma_l)^2$)。
     • 输出层的内部能量 ($I$)： G-PCN 的预测值与实际输入之间的平方差 ($(\hat{x}_t - x_t)^2$)。
   • 这一步骤确保了两个网络的所有层都能同时接收到非零更新。
3. G-PCN 内部状态精炼：
   • G-PCN 执行经典的“原生”（Vanilla）PC 状态更新，以最小化其内部能量 ($I = \sum (h_l - \mu_l)^2)$）跨越所有层。由于状态已在第 2 步中进行了更新，此步骤利用实际输入 $x_t$ 作为参考，进一步精炼 G-PCN 的表示。E-PCN 不执行此特定步骤，而是依靠引导能量来与 G-PCN 对齐。
4. 并行权重更新：
   • 更新 G-PCN 的权重以最小化内部能量 ($I$)。
   • 更新 E-PCN 的权重以最小化引导能量 ($G$)。

在此架构中，E-PCN 充当支持网络（类似于教师模型），旨在匹配 G-PCN 的表示；而 G-PCN 则作为主要学习者（学生），利用 E-PCN 的引导进行传播更新。

核心贡献

• 单状态更新机制： 本文引入了一种技术，允许通过特定的双网络设置，在单次统一迭代中更新 PCN 的所有层，克服了标准 PC 训练中需要多次状态更新迭代的要求。
• 双网络架构： 通过将生成式 PCN 与编码式 PCN 配对，该方法强制执行层级激活匹配，从而在无需每个时间帧进行多次推理步的情况下加速状态更新。
• 并行化： 与以往的加速方法不同，该方法利用批处理数据实现了跨网络深度的并行和层级更新。

实验结果
作者在基于 Moving MNIST 数字集的连续在线学习异常检测任务上评估了该技术。

• 设置： 一个 5 层 MLP 被训练用于预测下一帧。异常被设定为运动方向（X/Y 反转）或数字值的突变。
• 性能： 引导式 PC 展示了比传统“原生”PC（需要 5 个推理步）更高的稳定性。
  • 两种方法都能快速学习初始动力学特征。
  • 在引入异常后，引导式 PC 能迅速适应并将新行为视为“正常”行为，从而实现快速恢复。
  • 原生 PC 在异常发生后出现发散，这可能是由于误差信号传播缓慢且逐渐消失所致。
• 指标： 引导式 PC 实现了更低的均方误差（MSE）峰值和更快的恢复时间，即使在仅使用一次统一状态更新步的情况下也能保持稳定性。

意义与主张
本文声称，这种训练技术通过克服对多次状态更新迭代的需求，有效地解决了预测编码中固有的顺序状态更新瓶颈。通过双网络架构在单步内实现跨所有层的并行更新，该方法增强了训练稳定性和收敛速度。作者指出，这种高效性使得该方法在边缘设备上的在线学习方面具有广阔前景，因为在这些场景下，计算资源和延迟约束至关重要。结果表明，在动态环境中，引导式 PC 能够维持持续学习的稳定性，而传统的 PC 方法可能会因无法快速适应而失效。