Predictive Coding Networks and Inference Learning: Tutorial and Survey

本論文は、従来の誤差逆伝播法よりも生物学的に妥当で、並列化により計算効率も向上し、教師あり・教師なし学習を統一的に扱える予測符号化ネットワーク（PCN）の理論的基盤と現代機械学習における位置づけを包括的にレビューし、その将来性を示唆するものである。

要約

脳の「予測ゲーム」を AI に教える：新しい学習の仕組み

この論文は、人工知能（AI）の新しい学習方法である**「予測符号化ネットワーク（PCN）」と、それを動かす「推論学習（IL）」**について詳しく解説したものです。

従来の AI は「正解を覚える」ために、間違いを後ろから順に修正する（バックプロパゲーションという方法）という、少し不自然なやり方をしています。しかし、この論文は**「人間の脳のように、AI も『予測』と『間違い』を使って学習するべきだ」**と提案しています。

わかりやすくするために、いくつかの比喩を使って説明しましょう。

---

1. 従来の AI と、脳の「予測ゲーム」の違い

🏭 従来の AI：工場の検査ライン

これまでの AI（ディープラーニング）は、巨大な工場の検査ラインに似ています。

• 仕組み: 製品（データ）がラインを流れ、最後に「合格・不合格」の判定が出ます。
• 問題: もし不合格なら、工場長は「どこが悪かったか」を最後から逆順に一つずつチェックして、前の工程に「直せ！」と伝えます。
• 欠点: 工場の規模（AI の深さ）が大きくなると、この「逆順の連絡」に時間がかかりすぎます。また、脳がやっていることとは少し違います。

🔮 新しい AI（PCN）：予測する探偵

新しい AI（PCN）は、**「常に未来を予測している探偵」**のチームに似ています。

• 仕組み: 探偵たちは、下から上がってくる情報（目撃情報）に対して、「次はこんなことが起きるはずだ」と予測を出し合います。
• 予測と誤差: もし「予測」と「実際の目撃情報」が違えば、そこには**「予測誤差（ギャップ）」**が生まれます。
• 学習: この「ギャップ」が上へ、そして下へ伝わっていきます。探偵たちは「あ、私の予測が外れた！次はこうしよう」と、その場で調整します。
• 特徴: 全員が同時に「予測」と「修正」を行えるため、工場のラインのように順番待ちする必要がありません。

2. なぜこれがすごいのか？（3 つのメリット）

この論文は、この新しい仕組みが 3 つの点で優れていると説明しています。

① 生物学的に自然（脳に近い）

人間の脳は、外界からの情報をすべて「ゼロから」処理しているわけではありません。「お、音がした！多分猫が通ったんだな」と予測を立て、実際の音と照らし合わせて「あ、猫だった（予測通り）」「あ、犬だった（予測外れ）」と修正しています。
この PCN は、まさにその脳の仕組みを AI に再現しようとしたものです。従来の AI には説明できない「脳の活動パターン」も、この仕組みなら説明できます。

② 超高速な並列処理（みんな同時に動く）

従来の AI は、下の層の計算が終わらないと上の層が動けません（直列処理）。
しかし、PCN は**「予測」と「誤差」**が同時に、すべての層で計算できます。

• 比喩: 従来の AI が「1 人ずつ順番にボールを渡す」なら、PCN は**「全員が同時にボールを投げ合い、受け取る」**ようなものです。
• メリット: AI が巨大化しても、計算時間が劇的に短縮される可能性があります。また、脳のような「ニューロモルフィック・ハードウェア」という特殊なチップでも動きやすくなります。

③ 学習の「先読み」能力（Prospective Configuration）

これが最も面白い点です。

• 従来の AI: 「間違えたから、重み（パラメータ）を直す」→ その結果、次は少し良くなる。
• PCN: 「正解に近い状態になるように、まずニューロンの活動（状態）を先に調整する」→ その状態に合わせて重みを直す。
• 比喩: 従来の AI が「失敗してから地図を修正する」のに対し、PCN は**「目的地に到着するイメージを先に頭の中で描き、そのイメージに合わせて歩き方を変える」**という「先読み」をしています。
• 効果: これにより、新しいことを学ぶときに、昔の知識を忘れる（破滅的な干渉）という問題が起きにくくなり、連続して学習する（継続学習）のが得意になります。

3. 応用範囲：ただの分類器じゃない！

この論文では、PCN が単に「画像を分類する」だけでなく、もっと広いことができることを示しています。

• 教師あり学習（分類）: 写真を見て「猫か犬か」を答える（従来の AI と同じ）。
• 教師なし学習（生成）: 何も与えられなくても、内部で「猫のイメージ」を勝手に作り出し、新しい猫の絵を描く（生成 AI）。
• 任意のネットワーク: 従来の AI は「層」が決まっていますが、PCN は**「グラフ（網の目）」**のような自由な形でも学習できます。まるで脳の神経回路のように、複雑で自由なつながりでも学習できるのです。

4. まとめ：未来の AI への架け橋

この論文は、**「予測符号化ネットワーク（PCN）」**という枠組みを、数学的に詳しく整理し、現代の AI 研究者に紹介するものです。

• 従来の AI: 「正解を覚えて、後ろから修正する」機械。
• 新しい AI（PCN）: 「予測を立て、ギャップを埋めて、未来を先読みする」生き物のようなシステム。

まだ実用化には課題（計算コストなど）もありますが、この「予測と誤差」をベースにした学習は、よりエネルギー効率よく、柔軟で、人間に近い AI を作るための**「次の時代の鍵」**になるかもしれません。

---

一言で言うと：
「AI に『答え合わせ』をさせるのではなく、『未来を予測して、そのズレを直す』という脳の仕組みを教えることで、より賢く、速く、自然な AI を作ろう！」というのがこの論文のメッセージです。

技術概要

論文「Predictive Coding Networks and Inference Learning: Tutorial and Survey」の技術的サマリー

この論文は、神経科学に着想を得た人工知能（NeuroAI）の文脈において、**予測符号化ネットワーク（Predictive Coding Networks: PCNs）と、それを学習させる推論学習（Inference Learning: IL）**に関する包括的なレビューおよびチュートリアルを提供するものです。従来のバックプロパゲーション（BP）に代わる、生物学的に妥当性が高く、数学的に拡張性の高い学習フレームワークとしての PCN の位置づけを明確にしています。

以下に、問題設定、手法、主要な貢献、結果、そして意義について詳述します。

---

1. 問題設定 (Problem)

近年の深層学習はバックプロパゲーション（BP）に依存していますが、生物の学習メカニズム（柔軟性、エネルギー効率など）と比較すると依然として劣る点があります。また、BP には以下の課題が存在します。

• 生物学的妥当性の欠如: 誤差を逆方向に伝播させる非局所的な計算が必要であり、生物のニューラルネットワークの仕組みを直接反映していません。
• 計算の非局所性と直列性: 誤差の伝播は層ごとに直列に行われるため、深いネットワークでは計算の並列化が困難です。
• 学習アルゴリズムの限界: 継続学習（Continual Learning）やオンライン学習などのタスクにおいて、BP は「破滅的干渉（Catastrophic Interference）」を起こしやすい傾向があります。

これに対し、脳が予測誤差を最小化して情報を処理するという「予測符号化（Predictive Coding: PC）」の理論を機械学習に応用する動きがありますが、ML 研究者向けに体系的に整理されたチュートリアルや、現代の ML 手法との数学的整合性を示す詳細な仕様は不足していました。

2. 手法と枠組み (Methodology)

この論文は PCN を以下の 3 つの補完的な視点から定義・分析しています（図 3 参照）。

A. 一般化された人工ニューラルネットワーク（ANN）としての PCN

• 構造: 従来のフィードフォワード NN（FNN）は、PCN の特殊なケース（推論時）として捉えられます。PCN は階層構造だけでなく、任意のグラフ構造（PC Graphs）にも一般化可能です。
• 学習アルゴリズム（IL）:
  • 活動則: 隠れ層のニューロン活動は、エネルギー関数（予測誤差の二乗和）を最小化するように反復的に更新されます（勾配降下法による推論）。
  • 学習則: 重みの更新は、局所的な予測誤差に基づいて行われます。
  • 特徴: 誤差伝播が局所的であるため、層ごとの更新を並列化でき、BP のような直列的な伝播を回避できます。
• 推論とテスト: 推論（訓練時）では隠れ層の活動値を最適化する反復計算が必要ですが、テスト時には単一のフォワードパスで済むため、FNN と同等の効率性を持ちます。

B. 確率的潜在変数モデルとしての PCN

• 定式化: PCN は階層的なガウス潜在変数モデルとして定式化されます。
• EM アルゴリズムとの関係: 推論学習（IL）は、期待値最大化（EM）アルゴリズムの一種として解釈できます。
  • E ステップ: 潜在変数（ニューロン活動）の推定（エネルギー最小化）。
  • M ステップ: 重みの更新。
• 生成モデル: 教師あり学習（識別モデル）だけでなく、教師なし学習（生成モデル）としても機能します。予測の方向を逆転させることで、入力データの生成や潜在表現の学習が可能です。

C. 学習アルゴリズムとしての比較

• BP との関係: 特定の条件下（初期化方法や推論ステップ数など）では、IL の重み更新は BP と等価になります。
• 自然な領域（Natural Regime）: 近年の研究では、BP に近づけるための特殊な修正を行わず、IL をその「自然な状態」で利用する方が、二次情報（損失関数の曲率）に敏感であるため、より優れた収束性や性能を示すことが示唆されています。

3. 主要な貢献 (Key Contributions)

1. 包括的な数学的仕様の提供: 現代の PCN に関する詳細な数式定義とチュートリアルを提供し、ML 実務家にとっての標準的なリファレンスとなっています。
2. 多角的視点の統合: PCN を「一般化された ANN」「確率的潜在変数モデル」「学習アルゴリズム」という 3 つの視点から統合的に解説し、VAE（変分オートエンコーダ）や拡散モデルなどの既存手法との関係を明確にしました。
3. PC グラフ（PC Graphs）の提案: 階層構造に限定されない任意のグラフ構造を学習可能にする「PC グラフ」の概念を強調し、これが従来の ANN の数学的な超集合（Superset）であることを示しました。これにより、BP では学習できない非階層的な脳型構造の研究が可能になります。
4. 実装ライブラリの提供: PyTorch を使用した PCN と PC グラフの実装ライブラリ（PRECO）を提供し、実践的なチュートリアルを可能にしています。

4. 結果と知見 (Results)

• 性能比較:
  • 小規模なデータセット（MNIST, CIFAR-10 など）とモデルでは、IL は BP と同等の精度を達成します。
  • 継続学習、オンライン学習、データ効率性の点で、IL は BP よりも優れているケース（最大 20% の改善など）が報告されています。
  • スケーラビリティ: 以前は IL は深いネットワークで性能が劣化する傾向がありましたが、最近の研究（Depth-μP などの重み初期化手法の適用）により、100 層以上の ResNet でも BP と同等の性能を達成できるようになりました。
• 計算効率:
  • IL は局所的な計算のみを行うため、十分な並列化がなされれば、ネットワークの深さに依存しない計算時間（O(M)）を実現できます。これは BP の O(LM)（L: 深さ）に比べて、非常に深いネットワークにおいて有利です。
  • 現状では実装のオーバーヘッドにより BP より遅い場合もありますが、並列化ハードウェア（ニューモルフィックハードウェア等）との親和性が高いです。
• 収束特性:
  • IL は損失関数の鞍点（Saddle points）を回避しやすく、二次情報（曲率）を利用することで、BP よりも速く収束する傾向があります。
  • 活性化関数として ReLU は PCN には不適切であり、tanh や Leaky ReLU などが推奨されます。

5. 意義と将来展望 (Significance)

• NeuroAI の推進: 生物学的に妥当な学習メカニズムを備えた PCN は、エネルギー効率やデータ効率において優れる可能性があり、次世代の AI 開発（NeuroAI）の重要な候補です。
• 生成 AI との融合: PCN は確率的モデルとして自然に定式化されるため、拡散モデルや VAE などの生成 AI との親和性が高く、生成モデルの新たな基盤となり得ます。
• ハードウェアへの適応: 局所的な計算と並列化の容易さは、従来の GPU 中心のアーキテクチャを超え、ニューモルフィックチップやエッジデバイスでの実装に有利です。
• 理論的基盤の確立: 従来の「BP の代替」という枠組みを超え、PCN を「ANN の一般化」として捉えることで、より広範なトポロジーを持つニューラルネットワークの研究を促進します。

この論文は、予測符号化の理論を単なる神経科学の概念から、実用的かつ数学的に厳密な機械学習フレームワークへと昇華させる重要なステップであり、今後の ML 研究における PCN の発展を加速させる基盤となるでしょう。