Local Synaptic Rules Can Implement a SIGReg Gradient Without Backpropagation

教師なしで学習するための、脳の秘密のレシピ

あなたは新しい言語を学ぼうとしていると想像してください。しかし、先生も教科書も、辞書さえもありません。ただ、音や映像の流れが目の前を通り過ぎていくだけです。どうやって「犬（dog）」と「子犬（puppy）」が関連していることや、「猫（cat）」と「吠える（bark）」が結びつかないことを理解するのでしょうか？これが、人間の脳がどのように学習するかという中心的な謎です。膨大なラベル付きデータセット（「猫」や「犬」とタグ付けされた何百万もの写真など）や、「バックプロパゲーション（誤差逆伝播法）」と呼ばれる複雑な数学的プロセスによる修正を必要とすることが多い現代のコンピュータとは異なり、脳は経験の生のフローのみを用いて、その場で学習しているように見えます。

科学者たちは、脳がこれを行うために2つの特定の局所的なルールを使用しているのではないかと、長い間疑ってきました。1つ目は「タイミングのルール」です。もしあるニューロンが別のニューロンの直前に発火すれば、それらは強い友人関係になります。もし順序が逆転すれば、それらは離れていきます。2つ目は「バランスのルール」です。ニューロンは常に自身の活動レベルをチェックし、健全な範囲内に留まるよう調整することで、暴走したり沈黙したりするのを防いでいます。大きな疑問は、「これら2つの単純な局所的ルールが、現代の人工知能が行うような重労働を実際にこなせるのか？」ということでした。具体的には、ラベルやグローバルなエラー信号なしで、コンピュータに世界を理解させることはできるのでしょうか？これが、マーティン・アンドリュースがこの論文で取り組んでいるパズルです。

論文の大きな発見：生物学的な「自己教師あり」マシン

この論文は、これら2つの生物学的ルール――スパイク・タイミング依存可塑性（STDP）と恒常性可塑性（Homeostatic Plasticity）――を組み合わせると、SIGRegと呼ばれる洗練された現代のAI手法と全く同じ方法で学習するマシンが得られることを証明しています。

その魔法を理解するために、この物語の登場人物を見てみましょう。

1. エンコーダー（脳のメインレイヤー）： 猫が歩いているビデオのような、入力のストリームを受け取るニューロンのグループを想像してください。
2. フラッシュライト・ニューロン（プローブ）： これらは、メインのグループに対して固定されたランダムな「懐中電灯」のように光を当てている、第2のニューロン・グループです。彼らは学習せず、単にメインのグループが何をしているかを測定します。メインのニューロンがバランスよく、興味深い方法で発火しているかどうかをチェックする、一連のランダムなフィルターだと考えてください。
3. 2つのルール：
   • タイミングのルール (STDP+)： このルールは時間の流れに注目します。もし時刻 $t$ における「猫」の画像に続いて、時刻 $t+1$ における「猫」の画像が現れた場合、最初の画像に対して発火したニューロンは、2番目の画像に対して発火したニューロンから「ハイタッチ（ハイファイブ）」を受け取ります。これは、「おい、お前たち二人は一緒に現れたから友達だ！」と言っているようなものです。これにより、時間的連続性の感覚が構築されます。
   • バランスのルール (ホメオスタシス)： このルールは「フラッシュライト」ニューロンを見ます。もしフラッシュライト・ニューロンの発火が多すぎる（分散が高い）、あるいは少なすぎる場合、それはメインのニューロンに対して「トーンを下げろ」あるいは「もっと声を上げろ」という逆行信号を送ります。もし2つのフラッシュライト・ニューロンが頻繁に一緒に発火している（共分散がある）場合、それらはその相関を止めるための信号を送ります。これにより、メインのニューロンが全員同じことを言ってしまう（「次元崩壊」と呼ばれる問題）のを防ぎ、情報を分散させるよう強制します。

「アハ体験（分かった！）」の瞬間：
この論文は、これら2つのルールを併用すると、数学が完璧に機能することを示しています。「タイミングのルール」はネットワークに対し、時間とともに変わらないもの（猫が動いても猫であることなど）を学習するように促し、「バランスのルール」は、すべてのニューロンが独自の役割を持つように情報を整理するよう促します。これらを合わせることで、ラベルなしで有用な表現を学習するように設計された、SIGRegという複雑なAIアルゴリズムと全く同じ数学的ステップを実行できるのです。

この論文が証明していること（および証明していないこと）：
著者たちは単に推測したのではなく、この等価性を証明するために数学を用い、シミュレーションを行いました。

• 証明： 彼らは、STDPとホメオスタシスによって引き起こされる重みの変化が、彼らの特定のモデル内において、SIGReg目的関数の勾配（改善の方向）と数学的に同一であることを示しました。これは、生物学的に妥当なセットアップが、グローバルなエラー信号やバックプロパゲーションを必要とせずに、これを達成できることを示しています（ただし、あらゆる文脈において、これらが学習が行われる唯一の方法であることを証明したわけではありません）。
• シミュレーション結果：
  • 450個のサンプルを用いた合成タスクにおいて、データが順序立てられたブロック形式（同じシーンがしばらく続く映画のような形式）で提示されたとき、ネットワークはランダムよりも大幅に優れたクラス分離を学習し、クラス分離スコア 2.49 を達成しました。同じデータをランダムにシャッフルした場合、スコアは 0.83 付近に留まりました。これは、ネットワークが隠れたラベルからではなく、時間の順序のみから学習していることを証明しています。順序立てた提示は、ランダムなベースラインと比較して分離度を約3倍に高めました。
  • 有名な MNIST データセット（手書き数字）において、これらのルールのみ（学習中のバックプロパゲーションやラベルなし）で訓練された2層ネットワークは、単純な線形プローブによるテストで 87.3% の精度を達成しました。これは非常に強力な結果であり、このメカニズムがエンドツーエンドで機能することを示しています。

STDPの抑圧（Depression）に関する論文の明確化：
この論文は、STDPの「抑圧」の側面（タイミングが間違っているときに接続を弱める部分）を明示的に調査しています。その結果、このルールは理論的には非負の重みを強制するために必要ですが、単独では学習を不安定化させることが分かりました。シミュレーションでは、特定の補償メカニズムなしに抑圧ルールを使用すると、精度が著しく低下（59.3% または 69.6% まで）しました。著者らは、これはルールが無用だからではなく、システムを安定させるために必要となる特定の抑制性介在ニューロン（バスケット細胞のようなもの）がモデルに欠けているためであると示唆しています。これは重要な今後の研究課題として残されています。

好奇心旺盛なティーンエイジャーへのまとめ：
この論文は、生物学とAIの架け橋となるものです。これは、脳が学習するために、複雑で中央集権的な「エラー修正」システムを必要としていない可能性を示唆しています。代わりに、脳は単に2つの単純な局所的な習慣――「正しいタイミングで現れる友達と一緒にいろ」そして「全員が全く同じことをしていないか確認しろ」――を持っているだけなのかもしれません。これらの習慣を組み合わせることで、脳は、世界が時間の中で展開していく様子をただ見ているだけで、世界の構造（例えば、猫が猫であることを認識することなど）を自然に発見できるのです。著者たちは、これが単なる詩的な比喩ではなく、シミュレート可能で証明可能な数学的現実であることを示しました。