Self-orthogonalizing attractor neural networks emerging from the free energy principle

技術的概要：自由エネルギー原理から生じる自己直交化アトラクタ神経ネットワーク

問題提起
アトラクタ動力学は、脳を含む複雑系において、記憶、意思決定、運動制御のメカニズムとして根本的な役割を果たす。しかし、明示的に課された学習則や推論則なしに、第一原理からそのような自己組織化アトラクタネットワークがどのように出現するかを理解する上で、基礎的なギャップが存在する。従来のモデルは、しばしば生物系を支配する熱力学的または推論的制約からの統一的な導出を欠く、アドホックな学習則（例えば、ヘッビアン学習、コントラストダイバージェンス）に依存している。本論文は、ネットワークが単にアトラクタ系として機能するだけでなく、局所的相互作用を通じて自らを「構築する」適応的自己組織化を、自由エネルギー原理（FEP）から導出する必要性に取り組む。

手法
著者らは、ランダムな力学系に対する「普遍的な分割」に自由エネルギー原理を適用することで、アトラクタネットワークの出現を形式化した。具体的には、深部特異的分割（deep particular partitions）の概念を利用した。

1. 理論的枠組み：

   • 深部特異的分割：システムは、「サブパーティクル」（マイクロスケール単位）の階層に分解される。各サブパーティクルは、内部状態（$\sigma_i$）、感覚状態（$s_{ij}$）、能動状態（$a_{ij}$）を有する。これらのサブパーティクルはマルコフブランケットによって外部状態から分離され、条件付き独立性（$\sigma_i \perp \sigma_j | s_{ij}, a_{ij}$）が保証される。
   • 生成モデル：内部状態は、事前バイアスを持つ連続ベルヌーイ変数（切断指数分布）としてモデル化される。サブパーティクル間の結合は、重み行列 $J$ によって定義される。
   • 変分自由エネルギー（VFE）の最小化：核心的な導出は、システムが存続するためには変分自由エネルギーを最小化しなければならないという仮定に基づいている。この最小化は、各ノード（サブパーティクル）において、その内部状態と結合に関して局所的に行われる。

2. 動力学の導出：

   • 推論：内部状態に関する VFE の最小化は、確率的更新則をもたらす。状態の期待値は、事前バイアスと隣接ノードからの重み付き入力の和によって駆動されるランジュバン関数（シグモイド活性化）に従う。その結果、連続状態の確率的ホップフィールドネットワークの挙動が得られる。
   • 学習：結合（重み）に関する VFE の最小化は、局所的学習則をもたらす。この則は、コントラスト更新の形式をとる：$\Delta J_{ij} \propto \sigma_i \sigma_j - \hat{\sigma}_i \sigma_j$。第一項はヘッビアン（相関に基づく増強）であり、第二項はアンチヘッビアン（予測誤差に基づく抑制）である。重要なのは、この則がコントラストダイバージェンスとは異なり、分離された「クランプ」状態と「自由走行」状態の段階を必要とせず、瞬時の相関を使用することである。

3. シミュレーションプロトコル：

   • 著者らは、導出された規則を Python および JAX で実装した。
   • シミュレーション 1–2：手書き数字の画像などの相関パターンで訓練し、精度（逆温度）と証拠の強さを変化させた条件下での直交化と一般化をテストした。
   • シミュレーション 3：逐次データで訓練し、非対称結合と逐次動力学の出現をテストした。
   • シミュレーション 4：「自由走行」（バイアスゼロ）の自発的活性を通じて、破滅的忘却に対する耐性をテストした。
   • シミュレーション 5：最大 50,000 ノードまでのスケーラビリティと記憶容量を評価した。
   • シミュレーション 6：Olivetti 顔データセット（4096 ノード）に適用し、自然主義的で高次元のデータに対する性能をテストした。

主要な貢献

• 自己組織化則の導出：本論文は、学習および推論の動力学を含むアトラクタネットワークが、深部特異的分割に適用された FEP から自然に出現し、外部から課された学習則を不要にすることを示している。
• 出現する自己直交化：中心的な発見は、導出された学習則が本質的にネットワークをおよそ直交するアトラクタ表現へと駆動することである。予測精度に加えてモデルの複雑さ（冗長性）を最小化することで、ネットワークは重なり合うアトラクタにペナルティを課す。その結果、入力部分空間を効率的に張るアトラクタの集合が得られ、最大記憶容量を提供する「プロジェクタ神経ネットワーク」（Kanter-Sompolinsky）に類似する。
• 統合された推論と学習：この枠組みは、推論と学習を VFE 最小化の二つの側面として統合する。推論は証拠に一致するように状態を更新し、学習は将来の驚きを最小化するために結合を更新するが、これらはすべて連続学習レジームにおいて同時に起こる。
• ボルツマン機械の一般化：導出されたネットワークは、従来のボルツマン機械を一般化する。
  • ランダムなデータでは、対称結合（ボルツマン様）に収束する。
  • 逐次データでは、反対称結合を発達させ、等エネルギー輪郭に沿ったソレノイド（回転）流を持つ非平衡定常状態（NESS）動力学を創出する。これにより、ネットワークはエネルギー地形の定常分布を変更することなく、時間的逐次データ（ヘテロクリニックサイクル）を学習・想起できる。
• 破滅的忘却への耐性：動力学の確率的性質により、ネットワークは自由走行段階中に自発的にアトラクタを「再生」できる。この活性は既存のアトラクタを強化し、新しいデータが導入された際にも学習された表現の消失を防ぎ、効果的に破滅的忘却を緩和する。

結果

• 直交基底の形成：シミュレーションは、相関した入力で訓練された場合、ネットワークのアトラクタがおよそ直交化すること（例えば、相関を $r=0.77$ から $r=-0.19$ に低下）を確認した。この直交化は、中間的な精度における「バランスの取れたレジーム」で最も効果的であった。
• 一般化：直交化されたアトラクタにより、ネットワークは準直交基底状態を組み合わせることで、見えないデータへの一般化（ワンショット学習）を可能にし、ノイズのある入力からの再構成タスクにおいて標準的なホップフィールドネットワークを上回った。
• 逐次学習：逐次データが提示された場合、結合行列は顕著な反対称成分を発達させた。これにより、外部入力がない場合でも、等エネルギー輪郭に沿った確率流によって駆動され、学習された逐次データ（1→2→3→...）を自発的に生成することが可能になった。
• スケーラビリティと容量：ネットワークは、古典的なホップフィールド限界（$\sim 0.14N$）を大幅に上回る記憶容量を示し、出現する直交化によりプロジェクタネットワークの限界（$K \approx N$）に近づいた。実行時間のスケーリングは $O(N^2)$ であり、解析的な複雑性と一致することが確認された。
• 顔認識：Olivetti 顔データセットにおいて、ネットワークは学習されたアトラクタに基づく事前分布とノイズのある感覚証拠を統合することで、重度に破損した入力からアイデンティティを正常に再構成し、頑健なベイズ推論を実証した。

意義と主張

本論文は、神経科学と人工知能を架橋する、自己組織化アトラクタネットワークのための統合理論を提供すると主張している。

• 神経科学にとって：これらの知見は、生物学的神経ネットワークがなぜヘッビアン/アンチヘッビアン可塑性、自発的活性、直交表現を示す可能性があるのかについての規範的説明を提供する。それは、明示的なプログラミングなしに能動的推論を実行し、安定した記憶を維持する脳の能力が、自由エネルギーを最小化するという根本的な要請から生じることを示唆している。直交アトラクタの出現は、FEP 駆動系のシグネチャとして提案され、大規模脳データ（例えば、安静時ネットワーク）で検出可能である可能性がある。
• 人工知能にとって：この枠組みは、バックプロパゲーションやコントラストダイバージェンスに対する原理的な代替案を提供する。自発的動力学を通じて、継続的学習と破滅的忘却への耐性を可能にする。導出された学習則は計算効率的（自由走行段階を不要）であり、逐次学習と一般化を自然にサポートする。
• 理論的含意：この研究は、結合行列を対称成分（知覚/エネルギー最小化）と反対称成分（行動/計画/ソレノイド流）に分割することは、FEP の二重の目的とのより深い形式的対応を反映している可能性を提唱している。

著者らは、限界に関する謙虚な立場を維持しており、$O(N^2)$ のメモリフットプリントは疎近似なしに非常に大規模なネットワークには禁じ手であることを認め、現在のシミュレーションは単層アーキテクチャに限定されていることを認めている。将来の研究は、階層的な深部分割の探求と、更新の局所的・確率的性質を活用するための熱力学的またはメモリスティブハードウェアへの実装を検討すべきであると提案している。