Single State Update Predictive Coding training for Time Series Forecasting and Anomaly Detection

技術要約：時系列予測のための単一状態更新予測符号化

問題提起
予測符号化（Predictive Coding, PC）は、層ごとの並列化可能な更新を特徴とする、バックプロパゲーションに代わる低複雑度なニューラル学習パラダイムである。しかし、重大なボトルネックが依然として存在している。それは、出力層からすべての層へと誤差を逐次的に伝播させる必要があるという、予測符号化ネットワーク（PCN）の要件である。PCNは収束を加速させるためにフィードフォワード手法によって初期化されることが多いが、このアプローチでは、ネットワークの深さに等しい、あるいはそれ以上の推論ステップが必要となる。この逐次的な依存関係は、更新の伝播における消失（vanishing）を招き、特に迅速な適応が不可なる時系列アプリケーションにおける効率性を阻害する。

手法：ガイデッドPC（Guided PC）トレーニング
この逐次的な更新のボトルネックに対処するため、著者らは、**生成型PCN（G-PCN）とエンコーディングPCN（E-PCN）**という2つの異なるネットワークを組み合わせた「ガイデッドPC」トレーニング技術を提案している。これらのネットワークは、その神経活動を一致させるように並行して訓練され、これにより、逐次的な伝播を必要とせずに複数の状態更新ステップを克服する。

単一のタイムステップ $t$ におけるトレーニングプロセスは、以下の4つの統一されたステップで構成される：

1. 並列フィードフォワード初期化：
   • G-PCN（デコーダとして機能）は、時間マッピング層（$\theta_0$）を介して前状態 $h_{t-1}^0$ を現在の入力表現 $\mu_t^0$ へと写像し、その後、次のタイムステップのデータ $\hat{x}_t$ を予測する。
   • E-PCN（エンコーダとして機能）は、実際の入力 $x_t$ を受け取り、標準的なフィードフォワードパスを実行して活性化 $\gamma_t$ を生成する。
2. 並列状態更新（ガイダンスおよび内部エネルギー）：
   • 両方のネットワークは、2つのエネルギー関数を最小化するように並行して状態を更新する：
     • ガイダンス・エネルギー（$G$）： 2つのネットワーク間の活性化の二乗差（$\sum (\mu_l - \gamma_l)^2$）。
     • 出力層における内部エネルギー（$I$）： G-PCNの予測と実際の入力との二乗差（$(\hat{x}_t - x_t)^2$）。
   • このステップにより、両方のネットワークのすべての層が同時に非ゼロの更新を受け取ることが保証される。
3. G-PCN内部状態の精緻化：
   • G-PCNは、すべての層において内部エネルギー（$I = \sum (h_l - \mu_l)^2$）を最小化するために、古典的な「バニラ（Vanilla）」PC状態更新を行う。ステップ2ですでに状態が更新されているため、このステップは実際の入力 $x_t$ を参照として用いてG-PCNの表現をさらに精緻化する。E-PCNはこの特定のステップは実行せず、G-PCNと一致させるためのガイダンス・エネルギーに依存する。
4. 並列重み更新：
   • G-PCNの重みは、内部エネルギー（$I$）を最小化するように更新される。
   • E-PCNの重みは、ガイダンス・エネルギー（$G$）を最小化するように更新される。

このアーキテクチャにおいて、E-PCNはサポートネットワーク（教師モデルに類似）として機能し、G-PCNの表現に一致するように訓練される。一方で、G-PCNは主要な学習者（生徒）として機能し、E-PCNのガイダンスを用いて更新を伝播させる。

主な貢献

• 単一状態更新メカニズム： 本論文は、特定のデュアルネットワーク構成を用いることで、標準的なPCトレーニングで見られる複数の状態更新ステップの必要性を克服し、すべての層を単一の統一されたイテレーションで更新することを可能にする技術を導入している。
• デュアルネットワーク・アーキテクチャ： 生成型PCNとエンコーディングPCNをペアにすることで、層ごとの活性化の一致を強制し、複数の推論ステップを必要とせずに状態更新を加速させる。
• 並列化： 従来の加速手法とは異なり、本手法はバッチ化されたデータを用いて、ネットワークの深さにわたる並列かつ階層的な更新を提供する。

実験結果
著者らは、Moving MNISTのデータセットを用い、時系列のアノマリー検知における連続的なオンライン学習タスクにおいて、この技術を評価した。

• セットアップ： 次のフレームを予測するように訓練された5層のMLP。アノマリー（異常）は、動きの方向（X/Y反転）や数字の値の急激な変化として導入された。
• パフォーマンス： ガイデッドPCは、従来の「バニラ」PC（5回の推論ステップを必要とする）と比較して優れた安定性を示した。
  • 両手法とも、初期のダイナミクスを迅速に学習した。
  • アノマリーの導入時、ガイデッドPCは新しい挙動を「正常」として扱うよう迅速に適応し、素早く回復した。
  • バニラPCは、アノマリー発生後に発散した。これは、誤差信号の伝播が遅く、消失したためと考えられる。
• 指標： ガイデッドPCは、MSE（平均二乗誤差）のスパイクを低く抑え、回復時間を短縮し、わずか1回の統一された状態更新ステップのみでも安定性を維持した。

意義と主張
本論文は、このトレーニング技術が、デュアルネットワーク構成を通じて複数の状態更新ステップの必要性を克服することにより、予測符号化に固有の逐次的状態更新のボトルネックを効果的に解決すると主張している。単一のステップで、デュアルネットワーク・アーキテクチャを介して全層に並列更新を可能にすることで、本手法はトレーニングの安定性と収束速度を向上させる。著者らは、この効率性が、計算リソースとレイテンシの制約が極めて重要なエッジデバイス上でのオンライン学習において、このアプローチを特に有望なものにしていると示唆している。実験結果は、ガイデッドPCが、従来のPC手法が迅速に適応できない可能性のある動的な環境においても、継続的な学習の安定性を維持できることを示している。