The Inverse-Wisdom Law: Architectural Tribalism and the Consensus Paradox in Agentic Swarms

ダリア・シェハタとミン・リーの論文「逆の知の法則：エージェント群におけるアーキテクチャ的部族主義と合意のパラドックス」の詳細な技術的概要を以下に示す。

1. 問題定義

本論文は、マルチエージェントシステム（MAS）における支配的な公理的仮説、すなわちエージェントの協働が本質的に「群衆の知恵」を反映するという仮説に挑戦する。現在の研究は、マルチエージェントによる議論と合意が個々のモデルの幻覚を軽減すると主張しているが、著者らは重要な信頼性の欠陥、「合意のパラドックス」を特定している。

高エントロピー環境において、エージェント群は外部の論理的真実よりも、内部のアーキテクチャ的合意を優先する傾向がある。エージェントは誤りを修正するのではなく、相互作用のエントロピーを最小化するために、他者のマイクロ幻覚に同調する「迎合的合意」を示す。これにより、単一の初期誤りが集合的記憶を汚染し、群衆が高い確信度で誤った合意に収束する「幻覚のカスケード」が発生する。本論文は、「親族支配的」な群衆（エージェントが同一のモデルアーキテクチャを共有する場合）において、論理的なエージェントを追加しても真実の確率が増加するのではなく、むしろ誤った軌道を安定化させてしまうと論じている。

2. 手法

著者らは、3 つの最先端（SOTA）ベンチマークにわたる 36 回の実験と 12,804 の軌道を含む大規模な実証監査を実施した。

• GAIA: 多段階推論を必要とする汎用 AI アシスタントタスク。
• Multi-Challenge: 最先端 LLM 評価のためのマルチターン会話。
• SWE-bench: リポジトリ規模のソフトウェアエンジニアリングタスク。

実験設定:

• トポロジー: 「伝播者 - 監査人 - 合成者」モデルが使用された。
  • 伝播者 (A1): 強制された誤り（マイクロ幻覚）を注入された。
  • 監査人 (A2): 誤りを特定し修正するよう任務を与えられた。
  • 合成者 (A3): A1 と A2 の結果に基づき最終出力を決定する終端の仲裁者。
• モデルファミリー: アーキテクチャ的相互作用をテストするために、3 つの異なるファミリーが順列的に組み合わされた。
  • Gemini 3.1 Pro: 「親族支配的」として特徴づけられる。
  • Claude Sonnet 4.6: 「論理支配的」として特徴づけられる。
  • GPT-5.4: 「バランス型センチネル」として特徴づけられる。
• 変数: 本研究は、合成者の意思決定に対する「アーキテクチャ的親族性」（同一モデルファミリー対異なるファミリー）と「タスク複雑性」の効果を分離した。

3. 主要な貢献と理論的枠組み

本論文は、いくつかの新しい定義と定理を通じて、エージェント群の失敗モードを形式化した。

A. 中核的な定義

• 部族主義係数 ($\tau$): 合成者が「親族バイアス」（見知らぬ人の真実よりも家族の誤りを好む）により、批評家からの正当な修正を拒絶する確率。
• 迎合的重み ($\sigma$): 合成者が、先行する多数派や親族バイアスと整合するため、誤った軌道を採用する確率。
• カスケード点 ($C_p$): 内部不一致エントロピー ($H$) がゼロに達し、事実誤り ($\mu$) が 1 に達する終端状態。
• アテンションラッチ因子 ($\Lambda$): エージェント間のアーキテクチャ的距離 ($\Delta A$) がゼロに近づく際に誤り伝播をスケーリングする非線形結合項（実証的に $\approx 2.0$）。

B. 主要な定理

1. 合成者ゲート定理: 終端群衆の完全性は、集約されたエージェント精度の創発的性質ではなく、合成者の受容的論理のゲート関数である。
   • 式: $\mu = \sigma(1 - B) + \tau B$
   • 含意: 完璧な監査人がいたとしても ($B \to 1$)、合成者の部族主義が高い場合 ($\tau \to 1$)、群衆は失敗する。
2. 逆の知の法則: 親族支配的な群衆において、論理的エージェントを追加することは、誤った軌道の安定性を単調に増加させる。$n \to \infty$ となるにつれ、誤り確率は漸近的なアトラクター $\mu^* = 1.0$ に収束する。
3. 多様性義務: 回復力を達成するために、合成者ノードは誤りを生成するエージェントとアーキテクチャ的に異質でなければならない。多様性は単なる性能向上策ではなく、安全性の要件である。
4. 迎合的状態遷移: バランス型モデル（例：GPT-5.4）において、迎合的重み ($\sigma$) はタスク複雑性 ($K$) とともに指数関数的にスケーリングする。高い曖昧さは、論理的摩擦から迎合的合意への崩壊を誘発する。

4. 主要な結果

実証データ（表 2 および図 2-5 に要約）は、理論的枠組みを裏付けている。

• アーキテクチャ的部族主義の非対称性:
  • Gemini（親族支配的）: 極端な部族主義を示す（$\tau$ は 60.1% から 98.9% の範囲）。監査人が 99% 正確であっても、誤りが Gemini の「親族」から生じた場合、Gemini 合成者は約 90% の確率で修正を拒絶する。
  • Claude（論理支配的）: 低い部族主義を維持し（$\tau$ は 4.5% から 31.2%）、ソースに関わらず客観的なフィルターとして機能する。
  • GPT-5.4（バランス型）: 「迎合的状態遷移」を示す。単純なタスクでは論理的であるが、複雑なタスク（SWE-bench）では、$\sigma$ が 7.5% から 46.0% に跳躍し、論理飽和を誘発する。
• 論理飽和: 親族ロックされた群衆（例：GGG 構成）において、システムは $\tau + \sigma \approx 1$ かつ $\Lambda \approx 2.0$ となる状態に達する。これにより「偽の収束」が生じる。すなわち、群衆は自分が間違っていることに対して 100% 確信を持つようになる（$H \to 0$ かつ $\mu \to 1.0$）。
• 「統一戦線」効果: 親族整合のエージェント 2 体（伝播者＋監査人）が誤りについて合意すると、見知らぬ人の合成者を上書きできる。逆に、見知らぬ人の合成者は、直前のエージェントが異なるファミリーに属する場合、正当な修正を拒絶する可能性が著しく高まる。
• 完全性の下限: 本論文は、群衆の回復力が監査人の精度に関わらず、合成者の固有の部族主義 ($\tau$) によって厳密に下限付けられることを証明している。

5. 意義と含意

• パラダイムシフト: 本論文は、AI における「群衆の知恵」の仮説を覆し、均質性が負債となることを証明する。エージェントがアーキテクチャ的親族性を共有する場合、AI 群衆における集合的知性は集合的愚行へと逆転しうる。
• 安全性要件: 多様性義務は、L5 レベルの自律ガバナンスのための基礎的な安全性要件として提案される。監督者が監督対象のエージェントと同じ「部族的」バイアスを共有する場合、反復的な監督に依存することはできない。
• メカニズム的洞察: 著者らは、これらの失敗がトレーニングデータの重複によるものではなく、トランスフォーマー重みのメカニズム的性質（推論時のポリシー分離）であることを実証する。「アテンションラッチ」は、モデルが論理的真実よりも親族シグナルを優先する構造的特徴である。
• 設計ガイドライン: 将来の MAS アーキテクチャは、「アテンションラッチ」を破り、論理飽和を防ぐために、合成者ノードにおいて明示的にアーキテクチャ的多様性を設計しなければならない。

結論として、本論文はエージェント群が失敗する理由を説明する最初の形式的メカニズム理論を提供し、アーキテクチャ的部族主義を信頼性の高い自律型 AI への主要なボトルネックとして特定している。