Disentangling Intrinsic Importance from Emergent Structure in Multi-Expert Orchestration

技術要約：マルチエキスパート・オーケストレーションにおける内在的重要性と創発的構造の分離

問題提起
複数の大規模言語モデル（LLM）がオーケストレーターを介して複雑なタスクを解決するために協力するマルチエキスパート・システムは、高いパフォーマンスを実現するためにますます採用されている。しかし、エキスパート間の相互作用、シーケンシング、および選択を制御するオーケストレーション・ポリシーは、依然として大部分が不透明である。現在のフレームワークは、ルーティングをパフォーマンスのために最適化されたブラックボックスとして扱うことが多く、「関係的重要性」（どの程度頻繁にエキスパートが選択されるか、またはハブとして機能するか）と「内在的重要性」（エキスパートの内部表現の機能的な必要性）を区別するためのツールを欠いている。この不透明さは、脆弱なルーティング、冗長性、あるいは頻繁に選択されるものの機能的には限定的なエキスパートへの依存といった、失敗モードの診断を困難にしている。

手法：INFORMフレームワーク
著者らは、オーケストレーションを明示的かつ分析可能な計算として扱う解釈可能性分析フレームワークであるINFORMを導入する。INFORMは、コラボレーション・プロトコルを変更することなく、学習済みオーケストレーター（$O_\theta$）をプローブ（探索）することで、相互作用構造、実行順序、および機能的属性の3つの主要な次元を分離する。

本フレームワークは、凍結された指示チューニング済みのエキスパートのコンソーシアム（$E = \{E_1, \dots, E_N\}$）を管理する標準的なオーケストレーター上で動作する。オーケストレーターは、主に以下の2つのモジュールを利用する：

1. 相互作用モジュール： クエリ・キー・アテンションとセマンティック・プライアを用いて、エキスパート間の適合性をモデル化する条件付き遷移行列 $C(x)$ を計算する。
2. 選択モジュール： 微分可能なサンプリングを可能にするため、Gumbel-Softmaxトリックを用いて周辺選択分布 $s(x)$ を決定する。

INFORMは、以下の3つの特定のプローブを通じて洞察を抽出する：

• 相互作用構造のプロービング： 遷移行列 $C(x)$ のエントロピーとランクを分析し、エキスパートへの総流入ルーティング質量として定義される関係的重要性（$u_j$）を測定する。これにより、相互作用のハブを特定する。
• シーケンシング決定のプロービング： 初期選択分布 $s(x)$ のエントロピーを分析し、オーケストレーターがどのようにエキスパートの順序付けを学習するかを理解し、グローバルな能力とコンテキスト固有の必要性を区別する。
• 勾配感度による機能的属性付け： 選択決定をエキスパートの表現へとバックプロパゲーションすることで、内在的重要性（$I(E_i)$）を計算する。具体的には、選択されたエキスパートのログ確率の、エキスパートのエンコードされた表現に対する勾配ノルム（$\|\nabla_{h_i} \log P(E_i | x)\|^2$）を計算する。これは、ルーティングの決定が、意味的内容に依存した選択なのか、それともヒューリスティックな選択なのかを測定するものである。

実験設定
著者らは、行動の多様性を誘発するために制御されたデコーディング・温度変化を伴う、10個の指示チューニング済みエキスパート（LLaMA-3.1 8B、Qwen3 8B、DeepSeek-R1 8Bから抽出）の均質コンソーシアム上でINFORMを評価した。二次的に、一般化性能をテストするために異質コンソーシアム（1B〜7Bパラメータにまたがる）を使用した。実験はGSM8K、HumanEval、およびMMLUを用いて行われた。オーケストレーターは、タスク・パフォーマンスを最大化し、より大規模なオラクルLLM（推論時には存在しない）に整合するように訓練された。

主な結果と知見

1. 関係的重要性と内在的重要性の乖離： 本研究は、ルーティングの頻度と機能的な必要性の間に重大な不一致があることを明らかにしている。頻繁に選択されるエキスパートは「相互作用のハブ」として機能することが多いが、内在的な影響力は限定的であり、一方で、疎にルーティングされるエキスパートが構造的に重要である場合がある。例えば、最も内在的に重要なエキスパートを（勾配属性によって）マスクすると、頻繁に選択されるピアをマスクした場合と比較して、MMLUにおけるルーティングKLダイバージェンスが5.5倍高くなった。これは、ルーティング質量が構造的依存性の不適切なプロキシであることを裏付けている。
2. オーケストレーション・挙動の非同期的な創発： オーケストレーションのダイナミクスは非同期的に創発する。システムは、「どのように自信を持ってルーティングするか」（ルーティング・エントロピーの安定化）を解決する前に、「誰を信頼すべきか」（ルーティング質量の集中）を確立する。さらに、エキスパートの順序付けは構造化されているものの非決定的であり、オーケストレーターは厳格なシーケンスではなく、ソフトな制約を学習する。
3. タスク依存的な感度： プロンプト摂動研究により、オーケストレーターの感度はタスク特異的であることが示された。GSM8Kでは、数値トークンの削除に対して非常に敏感であり、HumanEvalおよびMMLUでは、文章のシャッフルや推論キューの除去に対してより敏感である。
4. 均質 vs 異質ダイナミクス： 均質な設定では、ルーティングは自信に満ちた集中型のパターンへと急速に収束する。異質な設定（1B〜7Bモデル）では、ルーティングはより不安定で集中性が低くなり、勾配属性はより広く多様なモデルのサブセットに分散するが、頻繁に選択されるモデルが必ずしも最高の勾配影響力を持つわけではないという、持続的な整合性のギャップが存在する。
5. アブレーションとベースライン比較：
   • アブレーション： 関係的構造または内在的スコアリングを削除すると、特にMMLUのような異質なタスクにおいてパフォーマンスが低下する。完全なINFORMの設定は、構造的安定性と意味的精度を両立させている。
   • ベースライン： 硬直的なロールベースのMetaGPTフレームワークと比較して、INFORMはHumanEvalにおいて、不要なエキスパートの呼び出しを適応的に削減することにより、約1.4%の性能向上とともに約3.5倍の高速化を達成した。

意義と主張
本論文は、INFORMが、精度指標だけでは見えないマルチエキスパート・システムにおける構造的依存性と相互作用ハブを診断するための実用的なツールを提供すると主張している。内在的重要性と創発的なルーティング構造を分離することで、INFORMは以下を明らかにする：

• 冗長性： 頻繁にルーティングされるが、機能的には不要なエキスパート。
• 脆弱性： 特定の相互作用トポロジーに依存しており、主要な内在的エキスパートがマスクされると崩壊してしまうシステム。
• 効率性： タスク解決のための最小限の機能的軌跡を特定する能力であり、これにより厳格なプロトコルと比較して計算オーバーヘッドを削減できる。

著者らは、自身のアプローチが形式的な因果グラフを確立するものではなく、局所的な計算感度を捉えるものであることを強調している。したがって、本フレームワークはオーケストレーターの内部表現と勾配へのホワイトボックス・アクセスを必要とする一方で、構成要素であるエキスパート自体はブラックボックスのままであることができる。本研究は、解釈可能性に基づいた分析が、精度指標のみが捉えることができる範囲を超えて、学習されたオーケストレーション・ポリシーの信頼性、効率性、および安全性を向上させるために不可欠であることを位置づけている。