技術要約：木構造による連鎖の打破 (Breaking Chains with Trees: HBLL)

問題提起

現代の深層ニューラルネットワーク（DNN）は誤差逆伝播法（BP）に依存しているが、このパラダイムは2つの根本的な制限をもたらす：

1. ロッキング問題（The Locking Problem）: 層ごとの更新が厳密に相互依存している。パラメータを更新する前に、完全なフォワードパスと完全なバックワードパスの両方が必要となるため、層間での並列学習が妨げられ、ハードウェアの利用率が制限される。
2. 重み輸送問題（The Weight Transport Problem）: 正確な勾配計算には、対称的なフォワード経路とバックワード経路が必要であるが、これは生物学的に不自然であり、ハードウェアへの実装においても計算コストが高い。

これらの制約により、層数 $N$ に対して訓練の逐次計算複雑度が $O(N)$ となり、大規模モデルにおけるスケーラビリティ、メモリ効率、および通信オーバーヘッドのボトルネックを生じさせている。局所学習手法も提案されてきたが、それらは歴史的に、大規模なネットワークサイズや、Transformerや再帰型ニューラルネットワーク（RNN）のような複雑なアーキテクチャへのスケールアップに苦慮してきた。

手法：階層的ブロック局所学習 (Hierarchical Block-Local Learning: HBLL)

著者らは、変分原理から導出された局所的な目的関数を用いて、階層的に連結されたブロックへと深層ネットワークを分解し、エンドツーエンドの誤差逆伝播を不要にするフレームワークである**階層的ブロック局所学習（HBLL）**を提案する。

理論的基礎

本アプローチは、DNNにおける一連の操作（$x \to z_1 \to \dots \to z_{N-1} \to y$）を、一次マルコフ連鎖として再解釈する。$O(N)$ の逐次的依存関係を克服するために、著者らは中間表現の事後分布に対する木構造の因子分解を導入する。

• 分割統治（Divide-and-Conquer）: 複数の階層レベル（例：$z_{N/2}, z_{N/4}$）で中間変数を導入することで、連鎖をより小さなサブ問題へと分解する。
• 定理1: 著者らは、中間表現の事後分布が等価な木構造の分解を許容することを証明した。これにより、計算パスが $O(N)$ から $O(\log N)$ に削減され、この計算複雑度で深層ネットワークを訓練できる初の並列アルゴリズムが可能となる。

変分学習フレームワーク

HBLLは、局所的な学習目的を定義するために変分定式化を採用する：

• 目的関数: グローバルな対数尤度損失は、変分分布 $q$（木構造によって定義される）と真の事後分布との間のカルバック・ライブラー（KL）ダイバージェンスを含む補助的な損失に置き換えられる。
• 局所更新: 変分損失における期待値は、各ブロックに関連付けられた局所的な項へと分解される。各ブロックは、自身の変分条件付き分布 $q(z_n | \text{parents})$ をフォワードモデル $p(z_n | z_{n-1})$ に適合させるように学習する。
• 実装: モンテカルロ・サンプリングと指数型分布族の仮定を用い、勾配はグローバルな勾配伝播を行うことなく、局所的な統計量（平均および分散）を用いて計算される。
• アルゴリズム: 訓練は、同じ階層の深さにあるブロック間で並列に進められる。プロセスはルート（最も深いレベル）からリーフ（葉）に向かって反復され、各ステップは $O(\log N)$ の並列時間で行われる。

再帰型アーキテクチャへの拡張 (HBLL-RNN)

このフレームワークは、階層を時間インデックス上に解釈することで、逐次モデルへと拡張される。

• 因果性（Causality）: 因果推論を保証するため、最も低層のセルは、直前の隠れ状態と現在の入力のみを消費する。
• 整合性補正（Consistency Correction）: 木構造ベースの訓練（ノードが「クリーンな」先行者を見る）と自己回帰的なロールアウト（エラーが蓄積する）の間の露出バイアス（exposure bias）の不一致に対処するため、著者らは並列的な整合性ステージを導入する。これにより、訓練中に完全な逐次的ロールアウトを必要とすることなく、自己生成された先行者を用いて再帰セルの状態を反復的に洗練させる。

主な貢献

1. HBLLフレームワーク: 深層ニューラルネットワークを、エンドツーエンドの誤差逆伝播を必要としない、局所的な目的関数で最適化された階層的組織化ブロックへと分解する新しい手法。
2. $O(\log N)$ の並列計算量: 深層ネットワークの訓練において $O(\log N)$ の並列時間を実現できる初のアルゴリズム。これは標準的な誤差逆伝播の $O(N)$ 複雑度を大幅に改善する。
3. 確率論的解釈: 効果的な情報伝達を維持しながら、分散および並列訓練を可能にする、変分原理から導出された原理的な確率論的フレームワーク。
4. 柔軟な推論: 異なる階層パスに対応する一連のサブネットワークを暗黙的に定義し、多様な有効深度および計算予算による柔軟な推論を可能にする。
5. 再帰型への拡張: BPTT（Backpropagation Through Time）を回避して逐次モデルを訓練するための、階層的局所学習アプローチである HBLL-RNN の定式化。

実験結果

著者らは、画像分類、自己回帰言語モデリング、および再帰的シーケンスモデリングのタスクにおいて、HBLLを標準的な誤差逆伝播（BP）およびContrastive Forward-Forward (CFF+M) ベースラインと比較評価した。

• MNIST (MLP): HBLLは、深度 2, 3, 4 において競争力のある精度を達成した。特筆すべきは、深度 4 において、BPの性能がほぼチャンスレベルまで崩壊した一方で、HBLLは高い精度（97.09% 対 11.32%）を維持したことであり、これは深い階層モデルを効果的に訓練できる能力を示している。
• CIFAR-10 & CIFAR-100 (Vision Transformers):
  • HBLLは、CIFAR-10（87.30% 対 88.98% [BP]）および CIFAR-100（86.09% 対 85.96% [BP]）において競争力のある性能を達成した。
  • 堅牢性: HBLLは、欠損データやラベルノイズに対して、BPよりも優れた堅牢性を示した。
  • サブネットワーク: 階層を通る短いパス（より少ないTransformerブロック）でもフル深度のベースラインと同等の性能を維持しており、柔軟な推論能力を実証した。
• WikiText-103 (言語モデリング): HBLLは、自己回帰言語モデリングタスクにおいて、完全な勾配伝播なしで競争力のあるパープレキシティ（22.22 対 18.17 [BP]）を達成し、シーケンスモデリングへの適用可能性を示した。
• Sequential MNIST (RNNs): HBLL-RNNは、Sequential MNISTおよびPermuted-Sequential MNISTにおいて、BPTTと同等の性能を維持した。ツリー・リードアウトは深度によらず安定していたが、展開された逐次チェーンは、大きな深度において予想通りの劣化を示した。HBLL-RNNは、深度 8 においてBPTTと比較して最大 3.6倍の訓練速度向上 を達成した。

意義と主張

本論文は、HBLLがスケーラブルで並列化可能なディープラーニングへの重要な一歩であることを主張している。誤差逆伝播の逐次的依存関係を打破することで、HBLLはロッキング問題を解決し、層間の依存関係を軽減し、効率的な分散訓練を可能にする。

著者らは、HBLLが深層ネットワークの訓練において $O(\log N)$ の並列時間を達成できる最初のアルゴリズム であることを強調している。彼らは、HBLLが、現代的なアーキテクチャ（Transformer、RNN）や複雑なタスク（視覚、言語）にもスケールする、理論的に裏付けられた確率論的な誤差逆伝播の代替手段を提供すると主張している。非常に大規模なスケールでは完全な誤差逆伝播モデルとの性能差があることを認めつつも、著者らは、HBLLを計算効率とモデル性能のトレードオフを提供し、かつ固有の堅牢性と柔軟な推論能力を備えた実行可能なアプローチとして位置づけている。