Learning in Deep Networks under Dale's Constraint

技術要約：デールの制約下における深層ネットワークの学習

問題提起
ディープラーニングはシステム神経科学の主要な枠組みとなっているが、標準的なバックプロパゲーション（誤差逆伝播法）アルゴリズムは、生物学的妥当性の面で大きな障壁に直面している。中心的な障害は**デールの制約（Dale's constraint）**である。生物学的なニューロンは、純粋に興奮性であるか、あるいは純粋に抑制性のいずれかであり、シナプスが符号（正負）を変えることはできない。さらに、ニューロンの活動（発火率）は本質的に非負である。標準的なバックプロパゲーションは、符号を持つ活性化、符号を持つ誤差信号、および符号の制約を受けないシナプス重みに依存して勾配を伝播させる。既存の生物学的に妥当な学習モデル（予測符号化やフィードバック・アライメントなど）は、デールの法則と活動の非負性を同時に満たしつつ、正確な勾配更新を回復することに失敗することが多い。具体的には、多くのモデルが混合符号の値を持つニューロンを許容していたり、局所的なシナプス制約を無視したグローバルな誤差信号に依存したりしている。

手法
著者らは、デールの制約と非負の活動を厳密に遵守しながら、バックプロパゲーションのような学習をサポートする、新しいニューラルアーキテクチャと学習規則を提案している。

1. On-Off ニューロン回路モチーフ:

   • コアとなる構成要素は、興奮性ニューロンと抑制性ニューロンからなる小さな回路モチーフである。
   • このモチーフは、2つの非負の入力 ($x_1, x_2 \ge 0$) を、2つの非負の出力チャネル、すなわち $y^+$ (On) と $y^-$ (Off) にマッピングする。
   • この回路は「ソフト」な差分演算を実装する。$x_1 > x_2$ であればOnチャネルが活性化し、$x_2 > x_1$ であればOffチャネルが活性化する。
   • 符号付きの量 $d = x_1 - x_2$ は、混合符号を持つ単一のニューロンによってではなく、ペアとなった非負のチャネルによって表現される。正の差分は $y^+$ にエンコードされ、負の差分は同じ大きさで $y^-$ にエンコードされる。一度に活性化できるのは最大で一方のチャネルのみである（または差分が閾値を下回る場合は両方ともゼロとなる）。

2. ネットワークアーキテクチャ:

   • 標準的なディープネットワークは、各混合符号の隠れニューロンをOn-Offモチーフで置き換えることで構築される。
   • ネットワークは2つのストリームで動作する：
     • ボトムアップ (BU): On-Offモチーフを用いて順方向の活性化を計算する。
     • トップダウン (TD): 学習のためのフィードバック信号を伝播させる。すべてのBUモチーフに対して、2つの対応するTDモチーフ（BUのOnチャネル用とOffチャネル用）が存在する。
   • TDストリームもまた、正および負のシナプス更新を表現するために、ペアとなった非負チャネルを使用する。

3. 局所的ヘブ学習規則:

   • 学習は、シナプス前活動（BU活動）とペアになったTDフィードバック信号を組み合わせた、局所的なヘブ更新によって駆動される。
   • シナプス前活動 $x_j$ を持つシナプスについて、更新は2つのTDチャネルによって決定される：
     • 正のTDチャネル ($\bar{\partial}_i$) の活動は、ヘブ的なシナプス重みの「増加」を駆動する。
     • 負のTDチャネル ($\partial_i$) の活動は、ヘブ的なシナプス重の「減少」を駆動する。
   • 実効的な更新は $\Delta W_{ij} = \eta x_j (\bar{\partial}_i - \partial_i)$ である。
   • 決定的なのは、シナプス重 $W_{ij}$ 自体は固定された符号（興奮性または抑制性）を持つが、その「大きさ」は2つの非負のTD信号の差に基づいて更新される点である。

理論的分析
著者らは、特定の条件下において、この局所的学習スキームがバックプロパゲーションの更新を正確に回復するという理論的証明を提示している。

• 仮定: BUネットワークは線形演算とReLU非線形性で構成され、BUとTDの重みが整合（対称）しているとする。
• メカニズム: TD伝播は、バックプロパゲーションの誤差信号 ($\delta_l$) と同じ再帰を満たす。具体的には、2つの非負のTDチャネルの差（$\bar{\partial}_l - \partial_l$）は、ReLUの微分（これは活性化しているBUチャネルに対応する）によってゲートされ、標準的なバックプロパゲーションにおける符号付き誤差信号 $\delta_l$ と全く同様に後方へ伝播する。
• 結果: したがって、局所的なヘブ更新 $\eta (\bar{\partial}_l - \partial_l) h_{l-1}^T$ は、数学的に勾配降下法の更新 $-\eta \frac{\partial L}{\partial W_l}$ と等価である。

実験結果
モデルは画像分類ベンチマークを用いて評価された：

• 制御実験 (MNIST, Fashion-MNIST, CIFCIF-10):
  • （BUとTDの重みが整合している）対称ヘブモデルは、実効的な幅が同等の標準的なバックプロパゲーション学習ネットワークと同等のテスト精度を達成した。
  • 「弱い対称性」（ノイズのある整合性）や「学習されたモチーフ」の重みを持つバリアントも良好な性能を示し、このアーキテクチャが不完全な整合性に対して頑健であること、および内部重数が固定された単位大きさである必要がないことを示唆している。
  • On-Offモデルは、同程度のサイズの標準的なReLU MLPよりも優れた性能を示した。これは、ペアとなったチャネル表現が、単にニューロン数を倍増させる以上の計算上の利点を提供していることを示唆している。
• スケーリング (Tiny ImageNet):
  • より困難なTiny ImageNetベンチマーク（200クラス）において、局所的ヘブ学習を用いたOn-Offモデルは、42.31% の Top-1 精度を達成した。
  • これは、最近の生物学的に着想を得たベースラインである Self-Contrastive Forward-Forward (SCFF, 35.7%) や、幅を合わせた標準的な畳み込みベースライン (35.58%) を大幅に上回った。
  • これらの結果は、本アーキテクチャがより深い畳み込みネットワークへと効果的にスケールできることを示している。

意義と主張
本論文は、デールの法則と非負の活動に制約されたネットワークにおいて、いかにして効果的なクレジット割り当てを実現するかという、生物学的に妥当な学習における長年の不一致を解決したと主張している。

• 生物学的妥当性: 本モデルは、構造化された非負のニューロン集団（On/Offチャネル）の相互作用を通じて、符号付きの学習信号がどのように出現するかを示す。これは、網膜や視覚野におけるOn-Off経路の証拠や、近年のベクトル化された樹状突起フィードバックの知見とも一致している。
• 計算効率: 生物学的な制約が必ずしも性能を低下させるわけではないという仮定に反し、On-Offアーキテクチャは、同等のサイズの標準的な「バニラ」ネットワークと同等、あるいはそれを上回る性能を発揮する。著者らは、ペアとなったチャネル表現が、視覚的特徴（例：補完的なエッジの極性や物体・背景のコントラスト）をエンコードするための効率的な方法を提供しており、生物学的なリアリズムとともに計算上の利点をもたらしていると示唆している。
• 限界: 著者らは、本モデルが皮質学習の完全な生物学的モデルではないことも認めている。本モデルは標準的なネットワークと比較してニューロン（またはチャネル）を倍増させる必要があり、またBU経路とTD経路の整合性に依存しているが、この整合性は厳密である必要はないことも示されている。

要約すると、本研究は、デールの法則に制約されたネットワークにおけるバックプロパゲーションのような学習のための具体的なメカニズムを提供し、勾配ベースの学習の計算能力と、生物学的ニューロン回路の物理的制約との間の溝を埋めるものである。