技術要約：Sheaf-ADMMによるマルチエージェント協調の学習

問題提起

標準的なニューラルアーキテクチャは、通常、入力を単一のモノリス（一体的な存在）として処理する。これは、限られた局所的な視界を持つエージェントの集団が、グローバルなタスクを解決するために協調するという自然界に見られる集団知能とは対照的である。本論文は、個々のエージェントが入力の不十分で小さな局所パッチ（例：画像の3x3パッチや数独のグリッド）しか保持していないシナリオにおいて、マルチエージェントの協調を学習するという課題に取り組む。目標は、中央制御装置や単一の巨大なネットワークに依存することなく、エージェントがグローバルな制約を満たすために、いかにして局所的な決定を協調させるかを学習できるフレームワークを開発することである。

手法：Sheaf-ADMM

提案されるフレームワークである Sheaf-ADMM は、分散最適化と細胞層理論（Cellular Sheaf Theory）を、完全微分可能なシステムへと結合させたものである。本手法は、協調を 交互方向マルチプライヤー法（ADMM） を用いて解かれる制約付き最適化問題として定式化する。

コアアーキテクチャ

システムは入力 $D$ を、$N$ 個の重複する局所的なビューへと分解し、それぞれをエージェントに割り当てる。各エージェント $i$ は、以下の3つの異なる状態変数を持つ：

1. 原始変数 ($x_i$): 局所的な決定または提案。
2. コンセンサス変数 ($z_i$): グローバルな一貫性を表す状態。
3. 双対変数 ($u_i$): 過去の不一致（誤差履歴）の蓄積。

エージェントは $K$ ステップのADMM反復を実行し、これはアンロール（展開）され、バックプロパゲーションを通じてエンドツーエンドで学習される。各反復は3つの更新ステップで構成される：

1. 局所最適化 ($x$-更新):
   各エージェントは、局所的なビュー $d_i$ を処理するニューラルエンコーダ $\text{Enc}_\theta$ によってパラメータ化された、局所的な凸部分問題を解く。目的関数 $f_i(x_i)$ は通常、二次関数である（スパース性のためのオプションの $\ell_1$ 正則化を含む）。更新は近接作用素（proximal operator）の形式をとる：
   $$x_i^{k+1} = \arg\min_{x_i} f_i(x_i) + \frac{\rho}{2} \|x_i - z_i^k + u_i^k\|^2$$
   二次目的関数の場合、これは閉形式の解（例：線形solveやソフト閾値処理）を持つ。

2. コンセンサス・ステップ ($z$-更新):
   エージェントは、グローバルな一貫性を強制するために協調する。全状態ベクトルの一致を要求することが多い標準的なADMMとは異なり、Sheaf-ADMMは 細胞層（Cellular Sheaves） を利用して柔軟なコンセンサスを定義する。

   • 層（Sheaf）の構造: エージェントはグラフ $G$ のノードである。各エッジ $e$ は、関連する「エッジ・ストーク（stalk）」を持つ。線形 制限写像（Restriction maps） $F_{i \to e}$ は、エージェントの状態をこれらのエッジ空間へと投影する。
   • 制約: 一貫性とは、接続されたエージェント $i, j$ について、それらの投影された状態が一致すること（$F_{i \to e}x_i = F_{j \to e}x_j$）を指す。
   • 更新: $z$-更新は、現在の状態を層のコバウンダリ演算子（一貫した状態の空間）の核（kernel）へと投影する。これは、層の拡散（Sheaf Diffusion）（層ラプラシアン $L_F = F^\top F$ に対する勾配降下法）または共役勾配法を用いて実装され、分散型のメッセージパッシングを可能にする。

3. 双対更新 ($u$-更新):
   双対変数は、局所的な提案とコンセンサスの間の不一致を蓄積する：
   $$u_i^{k+1} = u_i^k + x_i^{k+1} - z_i^{k+1}$$

学習メカニズム

パイプライン全体は微分可能である。システムは固定数のADMM反復をアンロールし、集約されたグローバル出力とターゲットとの間のタスク固有の損失（例：クロスエントロピー）を最小化する。エンコーダ、デコーダ、制限写像（ベースとなる写像のLoRAモジュレーションによる）、およびペナルティパラメータはすべてデータから学習される。

主な貢献

1. 微分可能な Sheaf-ADMM フレームワーク: 本論文は、線形制御のために固定された構造を用いた従来の層制約付きADMMを、ディープラーニングのタスクに適した、完全に学習可能なエンドツーエンドのシステムへと拡張した。
2. 細胞層によるヘテロジニアスなコンセンサス: 細胞層を用いることで、エージェントは状態ベクトル全体ではなく、特定の投影に対してのみ合意することが可能になる。これにより、ヘテロジニアスなグローバル・コンセンサスの概念（例：迷路におけるパスの接続性には合意するが、パスの全構造には合意しない等）が可能になる。
3. 解釈可能性と状態の分離: 標準的なメッセージパッシングニューラルネットワーク（MPNN）が単一の隠れ状態を伝播するのに対し、Sheaf-ADMMは局所的な提案、コンセンサス状態、および不一致のメモリを明示的に分離する。この構造により、協調ダイナミクス（原始、コンセンサス、および双対変数）を直接分析・介入することが可能になる。
4. 帰納バイアス: 本手法は、任意の学習された非線形写像ではなく、最適化理論（近接写像や層ラプラシアン）に由来する明確な帰納バイアスを導入しており、異なる汎化性能と堅牢性を実現している。

実験結果

フレームワークは、エージェントが不十分な局所的視界を持つ3つのタスクで評価された：

• MNIST 分類: エージェントは28x28の画像の3x3パッチを処理する。Sheaf-ADMMは、標準的なCNNと比較して、分布シフト（例：パディング、パッチドロップアウト、ノイズ）に対する堅牢性が向上していることを示した。例えば、16ピクセルのパディングがある場合、CNNの精度が11.4%に低下したのに対し、Sheaf-ADMMは86.3%の精度を維持した。
• 迷路の経路探索: エージェントは3x3の局所ビューを使用して19x19の迷路をナビゲートする。Sheaf-ADMMは、イン分布テストで 99.9% の解決率を達成し、2倍のサイズの分布外（OOD）迷路においても 98.1% を達成し、パラメータ数を合わせた再帰型MPNNベースライン（OODで68.3%に低下）を大幅に上回った。また、アーキテクチャの変更なしに39x39までの迷路を解決できる強力なサイズ汎化性も示した。
• 数独: エージェントは制約グループ（行、列、ボックス）に対応する。Sheaf-ADMMは1.12Mのパラメータで 92.6% の解決率を達成し、パラメータ数を合わせたMPNN（10.7%）や、より大きな4.62MパラメータのMPNN（34.7%）を大きく上回った。

アブレーション研究により、以下が確認された：

• 協調（ADMM反復）は不可欠であり、これを取り除くと（$K=0$）、性能が崩壊する。
• 学習された制限写像（特にLoRAモジュレーションを用いたもの）は、迷路のような複雑なタスクにおいて極めて重要である。
• 局所目的関数における $\ell_1$ 正則化は、スパース性を誘導することで数独や迷路の性能を向上させる。
• $z$-更新における共役勾配ソルバーは、層ラプラシアンの条件付けが良いため、単純な勾配降下法よりも優れた性能を示す。

意義と主張

本論文は、Sheaf-ADMMが 局所計算とエージェント間協調の間のクリーンな分離 を提供し、解釈可能かつ堅牢なフレームワークであることを主張している。層理論とADMMに根ざしたアーキテクチャを用いることで、著者らは、標準的なメッセージパッシングアーキテクチャでは利用できない、最適化からの解析的ツール（収束保証、スペクトル解析）をシステムが継承していると論じている。

著者らは、本研究を 「集団知能としての計算パラダイム」 の探求として位置づけており、単純なエージェントの集団が、限られた視界を持ちながら、個人の能力を超える問題を解決するためにどのように協調することを学習できるかを示している。また、現在の実装は微分可能なフレームワーク内での凸部分問題に焦点を当てているものの、このアプローチが非同期更新、混合インセンティブ、および動的な環境への道を開くものであると述べている。