Predictive learning with local plasticity in excitatory-inhibitory networks
本論文は、純粋に局所的な可塑性、特にBCM様則を備えた回帰的な興奮・抑制ネットワークが、一貫性多様体上に重みを維持することで予測的推論を達成し、疎な時空間的特徴を学習できることを示しており、それによって、明示的な誤差表現を必要とすることなく、予測符号化と生物学的に妥当な回路メカニズムとを結びつけている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは査読を受けていないプレプリントのAI生成解説です。医学的助言ではありません。この内容に基づいて健康上の判断をしないでください。 免責事項の全文を読む
人間の脳は、数十億ものニューロンが絶えず発火し、接続し合いながら世界を理解しようとする広大なネットワークです。この活動の中核にあるのは、ニューロンの発火を促す興奮性信号と、ニューロンを鎮める抑制性信号という、対照的な2つの力です。何十年もの間、科学者たちは、これら単純な局所的相互作用がいかにして「次に何が起こるか」を予測するという複雑な能力を脳にもたらすのかという疑問を抱いてきました。「予測符号化」と呼ばれる有力な説の一つは、脳は常に感覚入力の原因を推測しており、驚き(予測誤差)に対してのみ注意を払っているのだと示唆しています。しかし、大きな謎が残っていました。近くの細胞の即時的な活動に基づいてしか接続を調整できない生物学的ネットワークが、エラーを計算するための中央計算機を持たずに、いかにしてこのような洗練された推測ゲームを行えるのかという点です。
エディンバラ大学による新しい研究は、特定の種類の神経回路が、局所的なルールのみを用いて未来を予測することを学習できることを示すことで、説得力のある答えを提示しています。研究チームは、興奮性ニューロンが前方へ信号を送り、抑制性ニューロンがフィードバックを提供してシステムを制御するネットワークのコンピュータモデルを構築しました。彼らは、このネットワークが効果的に学習するためには、ニューロン間の接続が非常に特定のバランスを保たなければならないことを発見しました。もし興奮性の接続がこのバランスから逸脱しすぎると、ネットワークはデータ内の真のパターンを学習できなくなります。チームは、実際の動物の脳で見られるものと同様の特定の学習ルールが、ネットワークを自然にこの「スイートスポット」に留めておくことを見出しました。このルールにより、ネットワークはエッジや形状といった静止画像からも、動きの方向を予測し、入力が消失した際にシーケンスの欠落した部分を補完することさえできる動いているビデオからも、学習することが可能になります。
研究者たちはまず、交差した棒や自然の写真のパッチなど、単純な静止画像のモデルでテストを開始しました。彼らは、ネットワークが何を探すべきか指示されることなく、これらの複雑な画像を線やエッジのような基本的な構成要素へと分解できるかどうかを確認したいと考えました。彼らは、ネットワークがどのように接続を調整するかについて、いくつかの異なる方法を比較しました。ニューロン間の単純な同時性を利用する方法では、ネットワークが最適なバランスから逸脱し、不正確で乱れた学習につながりました。しかし、現在の活動が予測とどの程度一致しているかに基づいて接続を調整するルールを用いた場合、ネットワークは完璧なバランスを維持しました。著者らが「予測ルール」と呼ぶこの特定のルールは、抑制性フィードバックが、入力に含まれるノイズを打ち消すために必要なものと常に一致するように保証しました。その結果、ネットワークは画像の表現において疎な特徴セット(sparse set of features)を用いるようになりました。これは、哺乳類の視覚野が機能しているのと同様に、画像の記述のためにごく少数のニューロンのみが発火することを意味します。
研究は、モデルに「時間」の層を加えることでさらに進みました。実生活は単なる静止画の連続ではありません。それは連続的な出来事の流れです。これを模倣するために、研究者たちはネットワークの現在の状態が将来の状態に影響を与えるメカニズムを追加し、一種の記憶を作り出しました。この更新されたネットワークを動く棒のビデオで訓練したところ、ネットワークは物体の形状だけでなく、それが移動している方向をも検知することを学習しました。驚くべきことに、ネットワークはシーケンスを補完する能力を発達させました。もし動いている棒のビデオが突然空白になったとしても、ネットワークは学習した内容に基づいて、棒が同じ方向に動いていることを「見続け」、空白を埋めることができました。これは、ネットワークが運動の規則を内面化し、自身の思考の中でそれを前方に走らせることができることを示唆しており、この能力は世界をナビゲートする上で極めて重要です。
モデルをより現実的なものにするため、チームは学習ステップ間の人工的な休止を取り除き、生きた脳と同じように、連続的なデータストリームから学習できるようにしました。この連続バージョンにおいて、ネットワークは鋭く硬直した切り替えではなく、滑らかで曲線的な活動パターンを発達させました。研究者が学習完了後にランダムなノイズでこのネットワークを刺激すると、ネットワークは以前に見たシーケンスを自発的に再生しました。それは、あたかも過去の出来事を思い出しているかのように、同じ活動パターンを循環しました。これらのパターンは、ネットワークの活動空間においてリング状の構造を形成しており、この形状は方向のような単一の値を非常に精密に表現することを可能にします。この振る舞いは、動物が休息中に経路を再生する脳の海馬で起こる現象と一致しており、予測と記憶の両方の基礎となる局所的な学習ルールが同じである可能性を示唆しています。
今回の知見は、脳が期待と実際の観察との差を計算するために特別な「エラーニューロン」を必要とするという長年の見解に異を唱えるものです。代わりに、本研究は、脳は単に自身の内部予測と入ってくる信号とのミスマッチを利用して、接続を直接調整している可能性があることを示唆しています。研究者たちは、回路の興奮性と抑制性の部分を緊密かつ一貫した関係に保つことで、ネットワークが別途のエラー信号を必要とせずに複雑な推論を実行できることを示しました。これは、興奮性接続の可塑性(変化する能力)こそが予測の鍵であることを意味しています。この研究は、局所的な生物学的学習ルールと、予測という全域的な知的行動との間に強力な理論的つながりを提供しており、未来を予測する脳の能力は、その回路がバランスを保とうとする自然な帰結であることを示唆しています。
自分の分野の論文に埋もれていませんか?
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。