Equilibrium Propagation with Predictive Learning in Leaky Integrate-and-Fire Spiking Neural Networks

本論文は、STDP に代わって予測学習則を採用し、逆伝播と競合する画像分類精度を達成しつつ、より持続的な隠れ層活動パターンを示すリーキー積分発火スパイキングニューラルネットワークのための生物学的に妥当な平衡伝播フレームワークを提案する。

要約

あなたがチームの小さな生体コンピュータ（スパイクニューラルネットワークと呼ばれる）に、猫と犬を区別するような画像を認識させる方法を教えようとしていると想像してください。通常、これらのコンピュータを教育するために、科学者はバックプロパゲーションと呼ばれる手法を使用します。バックプロパゲーションを、最終的なミスを評価し、その誤りに各労働者がどれだけ寄与したかを正確に計算し、それを修正するための具体的な指示を順に下流へ送る、厳格なトップダウン型の管理者だと考えてみてください。これはコンピュータ上ではうまく機能しますが、実際の脳がどのように機能するかという点ではあまり現実的ではありません。なぜなら、実際のニューロンには、ネットワーク全体に指示を送り返すような「管理者」が存在しないからです。

この論文は、これらのネットワークを教育するより自然な方法として、**平衡伝播（Equilibrium Propagation: EP）**を紹介しています。

比喩：「管理者」対「グループの集まり」

管理者が指示を送り下ろす代わりに、ニューロンのチームが**集まり（huddle）**の中で一緒にパズルを解こうとする人々のグループのように働くと想像してください。

1. 設定： ニューロンは部屋にいる人々のようなものです。彼らには目標（画像を正しく認識すること）があります。
2. 「自由」状態： まず、彼らは画像を見て最善の推測を行います。彼らは互いに話し合いますが、まだ誰も修正されてはいません。
3. 「固定」状態： 次に、誰かがグループに正しい答えをささやきます。ニューロンは、この真実に合うように内部状態をわずかに調整します。
4. 学習： ニューロンは、「自由」状態での行動と「固定」状態での行動を比較します。この 2 つの瞬間の差が、次回より良くするために接続をどのように微調整すべきかを教えてくれます。

この方法は、学習が発生する前にニューロンが平衡（equilibrium）に落ち着くため、平衡伝播と呼ばれます。これは、実際に何が起こったかと、何が起きると予想していたかをその場で比較することによって学習する、実際の脳の学習方法に非常に似ています。

新しい展開：予測学習

研究者たちは、この「グループの集まり」の方法を、**リーキー・インテグレート・アンド・ファイア（LIF）**と呼ばれる特定の種類のニューロンに応用しました。これらのニューロンは、漏れのあるバケツのように考えることができます。水（信号）が流れ込み、バケツが十分に満たされると、次の人にメッセージを送るために「こぼれ（スパイクを発火します）」ます。満たされなければ、水は漏れ出し、メッセージは失われます。

この論文の大きな革新は、これらのニューロンがどのようにこぼれるかを学習する点にあります。彼らは、STDP（「もし私があなたの直前に発火したなら、私はあなたの友人だ；もし後に発火したなら、私は友人ではない」と言うような一般的な規則）を使用するのではなく、予測学習則を使用しました。

これを天気予報士のように考えてみてください。

• ニューロンは常に次の信号が何になるかを予測しようとしています。
• 予測が正しければ、彼らは落ち着いています。
• 彼らが驚いた場合（予測が間違っていた場合）、彼らは次回予測をうまく行うために「漏れやすさ」やこぼれやすさを調整します。
• これは、脳の仕事は常に未来を推測し、驚いたときだけ学習することだという予測符号化の考え方に合致しています。

彼らは何を見つけましたか？

チームは、画像認識の標準的なテストのような 3 つの有名な画像データセット（MNIST、KMNIST、Fashion-MNIST）で、この新しい「予測的集まり」システムをテストしました。

1. 機能する： 新しいシステム（EP+LIF）は、従来の「管理者」システム（BP+LIF）とほぼ同様のスコアを達成しました。優れた結果を得るためにトップダウン型の管理者は必要なく、局所的で予測的な集まりが同じくらいうまく機能することが証明されました。
2. 異なる習慣： ニューロンの振る舞いを詳しく見ると、彼らの「性格」に違いがあることに気づきました。
   • **従来の管理者システム（BP）**は、ニューロンを非常に静かで効率的にしました。彼らは絶対に必要な場合のみ発火し、スパース（薄い）な活動パターンを作成しました。
   • **新しい予測システム（EP）**は、ニューロンをより活発で持続的に保ちました。彼らはより長い期間「目覚めて」互いに話し合い続けました。

結論

この論文は、硬直的な工学（バックプロパゲーション）ではなく、より自然な生物学（予測と集まり）に似た方法を使用して、高度な脳のようなコンピュータ・ネットワークを訓練できることを示しています。新しい方法は、従来の方法よりもニューロンが少しおしゃべりで「スパース」でない結果をもたらしますが、同じ高い精度を達成します。これは、脳が学習するためにこのような予測的かつ平衡に基づくトリックを使用している可能性を示唆しており、私たちがこれらの特定の習慣を模倣することで、より優れた AI を構築できることを示しています。

技術概要

技術的概要：リーキー・インテグレート・アンド・ファイア型スパイキングニューラルネットワークにおける予測学習を用いた均衡伝播

問題提起
逆誤差伝播法（BP）は深層ニューラルネットワークの訓練における標準的手法であるが、非局所的な重み更新と対称的な重み輸送を必要とするため、生物学的妥当性に欠ける。均衡伝播（EP）は、さまざまな機械学習タスクで競争力のある性能を達成する、生物学的に妥当な代替手法として登場した。しかし、事象ベースの計算を通じてより高い生物学的現実性を提供するスパイキングニューラルネットワーク（SNN）へ EP を拡張することは課題を伴う。既存の EP ベースの SNN 手法は、局所学習則であるスパイクタイミング依存可塑性（STDP）に依存することが多い。本研究は、従来の STDP に代わり、予測符号化の原則とより直接的に整合する学習則を用いた SNN における EP 枠組みの必要性に答えるものであり、生物学的現実性を高めつつ訓練の有効性を維持することを目的とする。

手法
著者は、リーキー・インテグレート・アンド・ファイア（LIF）ニューロンのダイナミクスと予測学習則を統合した、新規の EP ベースの SNN 枠組みを提案する。主要な手法的構成要素は以下の通りである：

• ニューロンモデル：ネットワークは、生物学的ニューロンの時間的統合と閾値挙動を捉える LIF ニューロンを利用する。
• 学習則：中核的な革新は、標準的な STDP を予測学習則に置き換えることである。この学習則は予測符号化の原則と整合するように設計され、ネットワークの局所ダイナミクス内での予測誤差を最小化することを目指す。
• 訓練枠組み：モデルは均衡伝播アルゴリズムを採用しており、2 つのフェーズで動作する。すなわち、ネットワークが平衡状態に落ち着くフリーフェーズと、出力に微小な摂動を加えてニューロン状態の差に基づき重み更新を計算するナッジドフェーズである。

実験的評価
提案モデル（EP+LIF と呼称）は、MNIST、KMNIST、Fashion-MNIST の 3 つの標準的な画像分類ベンチマークで評価された。EP+LIF の性能は、LIF ニューロンを用いた逆誤差伝播法で訓練されたベースラインモデル（BP+LIF）と直接比較された。

主要な結果

• 精度：EP+LIF モデルは、3 つのデータセットすべてで競争力のある精度を達成した。その性能は BP+LIF ベースラインに迫るものであり、非局所的な誤差伝播を必要とせずに、予測学習がスパイキングネットワークにおける EP ベースの訓練を効果的に支援し得ることを示した。
• 活動パターン：隠れ層のスパイク活動の分析により、2 つのアプローチ間には明確な動的な違いが明らかになった。EP+LIF モデルはより持続的な隠れ状態活動を生み出すのに対し、BP+LIF ベースラインはよりスパースなスパイク表現をもたらした。

意義と主張
本論文の主な貢献は、LIF 型 SNN において均衡伝播と予測学習則を組み合わせる実現可能性を実証することであると主張されている。この組み合わせは、生物学的に動機付けられた局所学習則に依存しつつ、逆誤差伝播法と同等の性能をもたらすことが確立された。さらに、観察された活動パターンの違い、すなわち EP+LIF における持続性と BP+LIF におけるスパース性については、モデルの失敗としてではなく、生物学的に妥当な学習枠組み内での活動調節およびスパースなスパイクダイナミクスの制御に関する将来の研究への動機として強調されている。著者は謙虚な立場を維持し、すべての指標において逆誤差伝播法に優位であると主張するのではなく、学習則の有効性の検証と、それによって生じるネットワークダイナミクスの特性評価に焦点を当てている。