テクニカル・サマリー：多様なエビデンスがより良い予測を生む：情報非対称性下におけるマルチエージェント審議

問題提起

大規模言語モデル（LLM）を活用したマルチエージェント・システムは、複数のエージェント間での審議が推論とキャリブレーションを向上させるという仮定の下、将来の事象の予測にますます採用されている。しかし、既存のアプローチは通常、すべてのエージェントに対して同一のエビデンス・コーパスを提供している。著者らは、この設計における決定的な欠陥を指摘している。すなわち、エージェントが同一の情報を持つ場合、審議は真の信念更新ではなく「ハーディング（群れ行動）」へと崩壊してしまうということである。このような均質な設定では、エージェントは独立して同じ結論に達するため、反復的な情報の交換は単に共有された事前分布を強化するだけに終わる。近年の理論的研究によれば、同一の入力下ではマルチエージェントによる討論はマルチンゲールとして振る舞い、期待される精度はラウンドを重ねても向上しないことが示されており、実証研究でも異なるプロバイダー間のLLMのエラーは高度に相関している（しばしば60%を超える）ことが示されている。したがって、均質な入力を用いるマルチエージェント・システムは、単一エージェントのベースラインと比較してほとんど利点を持たない。

手法：InfoDelphiと設計された情報非対称性

均質な設定におけるエラーの相関に対処するため、著者らは設計された情報非対称性を提案する。これは、情報非対称性を制限としてではなく、活用すべき設計原則として扱うものである。彼らはこの原則を、マルチエージェント予測フレームワークであるInfoDelphiにおいて実装している。

1. 理論的基礎

著者らは、アンサンブル平均二乗誤差（MSE）のバイアス・分散・共分散分解を用いて、情報非想称性の恩恵を定式化している。

• 相関するエラー： エージェントが同一のエビデンス（$E$）を受け取る場合、予測エラーは同じソースに起因するため、エージェント間のエラー相関が高くなる（$Cov(\epsilon_i, \epsilon_j) \approx Var(\epsilon)$）。これにより、アンサンブルMSEにおける多様性の項が崩壊し、集計のメリットが打ち消される。
• 分割による脱相関： 著者らは、エビデンス・コーパス $E$ を、共有されたパブリックなサブセット（$E_{pub}$）と、互いに排他的なプライベートなサブセット（$E_{priv}$）に分割することを提案している。
  • $\rho$ をパブリックなエビデンスの比率とする。
  • 理論的分析（命題 3.1）によれば、$\rho$ が 1（すべてパブリック）から 0（すべてプライベート）へと減少するにつれて、エージェント間のエラー相関は単調に減少する。
  • 具体的には、パブリック比率 $\rho=0.5$ で等しい分散成分を持つ場合、エージェント間の相関はベースラインの 1.0 から 0.5 に低下する。
• 根拠（Rationale）の共有： エージェントが互いのプライベートなシグナルから恩恵を受けられるようにするために、本フレームワークでは、単なる数値的な確率推定ではなく、根拠（推論の痕跡）の交換を要求する。著者らは、データ処理不等式を通じて、数値のみを交換することは、真実に関する情報が減少する可能性があるマルコフ連鎖を形成すると主張している。根拠を共有することでこの連鎖を打破し、プライベートなエビデンスがエージェントの境界を越えて伝播することを可能にする。

2. InfoDelphi フレームワーク

InfoDelphiは以下の3つのステージで動作する。

1. エビデンス・ルーティング： エビデンス・コーパスはBM25関連度ランキングを用いて分割される。
   • スコアの高いドキュメント（クエリに最も関連性の高いもの）は、コミュニケーションのための共通基盤を提供する共有パブリック・プール（$E_{pub}$）を構成する。
   • 残りのドキュメントは、関連度スコアに基づいてラウンドロビン方式で各エージェントに割り当てられ、排他的なプライベート・サブセット（$E_{priv}$）を作成する。これにより、各エージェントはコアとなるコンテキストを共有しつつ、独自の周辺的エビデンスを保持することになる。
2. 反復的審議： エージェントは複数の予測ラウンドを行う。各ラウンドにおいて、エージェントは自身のプライベートな視点（$E_{pub} \cup E_{priv}$）と、構造化された根拠を含む他のエージェントの過去の予測履歴に基づいて条件付けを行う。
3. 信頼度加重集計： 最終的な予測はロジット空間で集計される。集計ウェイト（$w_j$）は、エージェントの予測の極端さ（$|logit(p_j)|$）によって決定される。このメカニズムは、より強いプライベート・エビデンスを持つエージェント（より極端な、つまり自信のある予測を出す傾向がある）の予測を増幅させる。

主な貢献

1. 設計された情報非対称性： 本論文は、情報非対称性をマルチエージェント推論のための第一級の設計原則として扱うことを提案し、パブリック／プライベートなエビデンスの分割がエージェント間のエラー相関を減少させることを理論的に証明している。
2. InfoDelphi フレームワーク： 関連度を考慮したエビデンス・ルーティング、根拠に基づく反復的審議、および信頼度加重集計を通じて、この原則を実装する具体的なフレームワークを導入している。
3. POLYGYM ベンチマーク： 情報の利用可能性と検索品質を分離するため、著者らは実世界の予測市場（Polymart）から派生した375の二値予測問題からなる制御されたベンチマーク、POLYGYMを構築した。重要なことに、すべての手法は同一の固定された事前取得済みエビデス・プール上で動作するため、検索戦略による変動性が排除されている。

実験結果

実験は、$J=3$ のエージェントと $R=2$ の審議ラウンドを用いて POLYGYM 上で行われた。

• パフォーマンス： InfoDelphi はブライア・スコア 0.178 および精度 77.9% を達成した。これは、最強の単一エージェント・ベースライン（例：Chain-of-Thought, Superforecaster）やマルチエージェント・ベースライン（例：Standard Debate, MoA）を、ブライア・スコアで 12–18%、精度で 4–8 パーセントポイント 上回っている。
• 多様性の必要性： アブレーション研究により、情報非対称性を除去した場合（$\rho=1.0$、つまりすべてパブリックとした場合）、審議による利得の大部分が消失し、標準的な討論と同等のレベルまでパフォーマンスが低下することが確認された。
• 根拠共有の重要性： 根拠の共有を削除した場合（数値のみを交換した場合）、パフォーマンスが著しく低下し（ブライア・スコアが 0.211 に上昇）、閉じたシステムでの数値交換は集団的な精度を向上させられないという理論的主張が検証された。
• 汎用性： 本フレームワークは、GPT-5.4-mini、DeepSeek-V3.2、Llama-4-Scout を含む異なるモデル・バックエンド間で一貫した改善を示し、その利得はモデルの能力とともにスケールした。
• メカニズムの検証： 分析により、信頼度加重集計が機能するのは、強いプライベート・エビデンスを持つエージェントがより極端な予測を出すためであることが示された。さらに、情報非対称性は、均質な設定（分散減少率 90–92%）と比較して、エージェント間の多様性を維持（分散減少率 73%）し、システムが合意のエコーチェンバーへと崩壊するのを防いでいる。

意義と主張

本論文は、入力の多様性こそが効果的なマルチエージェント推論を可能にする鍵であると主張している。著者らは、すべてのエージェントに同一のコンテキスト・ウィンドウを提供する標準的な慣行が、マルチエージェント相互作用の価値を根本的に制限していると述べている。設計された情報非対称性を導入することで、InfoDelphi は冗長な審議を生産的な信念更新へと転換する。

著者らは、確率的予測を、ノイズが多く矛盾するエビデンスを統合する必要がある、この原則の非常に厳しいテストであると位置づけている。観察された堅牢な改善は、共有されたエビデンスに基づいてエージェントが推論を行う他のマルチエージェント・システム（協調的な質問回答や科学的仮説の評価など）への幅広い適用可能性を示唆している。

また、本論文は、理論的証明が理想化された仮定（線形エラー分解、プライベート・ノイズの独立性）に基づいていることや、現在の実装がルーティングや集計に標準的な既成の方法を使用しており、より洗練された代替案の余地を残していることを認め、限界についても謙虚な姿勢を保っている。さらに、フレームワークの上限は、依然として初期のエビデンス検索の品質によって制約を受けることも述べている。