技術要約：マルチエージェントLLMの討議における隠れたアンカー（Hidden Anchors）

問題提起

マルチエージェント大規模言語モデル（LLM）による討議（デリバレーション）は、複数のラウンドにわたってエージェントが回答を交換・修正する手法であり、推論能力と正確性を高めるために広く用いられている。しかし、これらの改善を駆動する基礎的なメカニズムは、依然としてほとんどモデル化されていない。既存の文献では、討議を経験的に性能を向上させる「ブラックボックス」として扱っており、「どのように」「なぜ」機能するのかという説明を欠いている。

DeGroot、Hegselmann–Krause、Friedkin–Johnsenといった古典的な意見力学モデルは、マルチエージェントシステムを開ループ（open-loop）な動的システムとして扱う。これらの線形コンセンサス規則には、根本的な限界がある。それは**凸包境界（convex-hull bound）**である。すなわち、あるラウンドにおけるエージェントの意見は、必ずグループの初期信念の凸包内に留まらなければならないという制約である。

著者らは、LLMの討議における**経験的な異常（empirical anomaly）**を観察している。すなわち、正解（ゴールド）クラスの確率が、各エージェントが保持していた最大初期確率を厳密に上回ることがしばしばある。この「脱出（escape）」は、初期の凸包から逸脱するものであり、古典的な開ループモデルの保証に反している。これは、既存のフレームワークでは捉えきれない、隠れた駆動力が存在することを示唆している。

手法

1. 隠れたアンカー・モデル（The Hidden-Anchor Model）

著者らは、マルチエージェントLLMの討議をクローズドループ（閉ループ）動的システムとしてモデル化することを提案している。彼らは、各エージェントが、周囲の入力に関わらずエージェントの意見を引き寄せ続ける制御信号として機能する、隠れた内部信念（アンカー、$b_i$と表記）を保持しているという仮説を立てている。

ラウンド $k$ におけるエージェント $i$ の更新規則は以下のように定義される：
$$x_i(k+1) = x_i(k) - \alpha \sum_{j \in N_i} A_{ij}(x_i(k) - x_j(k)) - \beta_i(x_i(k) - b_i)$$

ここで：

• 第1項は、隣接する意見に基づくコンセンサス・プル（合意への引き寄せ）（スケーリングされたDeGrootステップ）を表す。
• 第2項は、エージェントの潜在的な事前分布 $b_i$ への持続的な吸引力であるアンカー・プルを表す。
• $\alpha$ は共有されたコンセンサス・ゲインであり、$\beta_i$ はエージェントごとのアンカー・ゲインである。

この定式化は、以下の通り古典的なモデルを厳密に一般化している：

• $\beta_i = 0$ と設定すると、DeGrootモデルが復元される。
• $b_i = x_i(0)$（観測された初期意見）と設定すると、Friedkin–Johnsenモデルが復元される。

2. システム同定と検証

著者らは、モデルの検証のためにシステム同定アプローチを採用している：

• パラメータ復元： 更新規則をパラメータ $\theta = (\alpha, \{\beta_i\}, \{\gamma_i\})$ に関して線形（ここで $\gamma_i = \beta_i b_i$）となるよう再パラメータ化する。観測された軌跡に対して最小二乗法を用いることで、$\hat{\alpha}, \hat{\beta}_i, \hat{\gamma}_i$ を復元する。その後、隠れたアンカーは $\hat{b}_i = \hat{\gamma}_i / \hat{\beta}_i$ として復元され、確率単体上に投影される。
• ホールドアウト検証によるモデル選択： 決定的な点として、著者らはインサンプル（学習データ内）の適合度のみに依存していない。彼らは**leave-one-seed-out（一シード抜き出し）**プロトコルを用いている。パラメータは討議実行のサブセット（シード）に対して適合させ、ホールドアウトされた別のシードに対してテストを行う。これは、復元されたアンカーが真に転移可能な特性であるのか、あるいは単なる過学習のアーティファクトであるのかを判断するためのテストとして機能する。

3. 実験設定

• モデル： 3つのオープンウェイト・インストラクションチューニング済みLLM（Llama-3.1-70B-Instruct, Qwen3-32B, gpt-oss-20b）。
• タスク： 症状から疾患への診断（与えられた症状セットに対する候補疾患のランキング）。
• プロトコル： エージェント数 $n=3$、討議ラウンド $K=5$ の有向リング・トポロジー。
• データ： 10個の異なるターゲット疾患、問題ごとに3つのランダムシード、合計90個の討議軌跡。

主な結果

1. モデルファミリー間における軌跡の分岐

討議の挙動は、モデルファミリーによって一様ではない：

• Llama-3.1-70B： 初期意見のバンドを大幅に超えて正解クラスの確率が跳ね上がる、鋭く非単調な変動を示す。
• Qwen3-32B および gpt-oss-20b： 正解クラスの座標がほとんど動かず、多くの場合、線形な凸更新によってよく記述される平坦な軌跡を示す。

2. モデル選択と汎化

ホールドアウト検証により、「アンカー」の挙動のスペクトルが明らかになった：

• Llama-3.1-70B： 完全な隠れたアンカー・モデルは、ホールドアウトデータにおいて線形ベースラインを大幅に上回る（平均 $R^2 = 0.44$ 対 ベースラインの $\approx 0.05$）。潜在的なアンカーは、真に転移可能な特性である。
• Qwen3-32B： 完全なモデルは70%のグループで選択されるが、ホールドアウトデータにおける改善はわずかであり（$R^2 = 0.08$ 対 $\approx 0.10$）、弱いアンカー信号を示唆している。
• gpt-oss-20b： 線形ベースライン（特にFriedkin–Johnsen）が完全なモデルよりも優れている（完全モデルの平均 $R^2 = -0.94$）。隠れたアンカーは予測的価値を加えておらず、このモデルの討議は実質的に線形コンセンサスに従っていることを示している。

3. 「脱出」の幾何学的説明

著者らは、「脱出」が復元されたアンカーの初期意見に対する位置によって幾何学的に決定されることを特定した：

• Llamaの場合： 復元されたアンカーは初期意見のバンドから遠く離れた位置にある（中央値マージン 0.33）。これが、軌跡を初期の凸包から脱出させ、アンカー凸包 ($conv\{b_i\}$) 内に収束させる原動力となる。
• Qwenおよびgpt-ossの場合： 復元されたアンカーは実質的に初期バンドの位置にある（中央値マージン 0.10）。アンカーが初期意見と一致する場合、システムはFriedkin–Johnsenのように振る舞い、初期の凸包を脱出することはできない。

4. パラメータの不確実性

ブートストラップ分析によれば、コンセンサス・ゲイン ($\alpha$) は一貫して有意であるが、アンカー・ゲイン ($\beta_i$) は個別の実行単位では有意ではないことが多い（信頼区間にゼロが含まれる割合が46〜87%のエージェント実行）。しかし、これらの区間の「幅」はLlamaの方が狭くなっており、これは他のモデルと比較して、より安定したアンカー復元が行われていることを示している。

意義と主張

本論文は、初期意見の範囲からの「脱出」を説明できる、マルチエージェントLLM討議のための最初の動的システムモデルを提供すると主張している。

• メカニズム： 著者らは、LLMの討議は、初期の表明された意見とは異なる可能性のある、内部の隠れた信念（アンカー）によって駆動されるクローズドループ・システムであると論じている。
• 挙動のスペクトル： 隠れたアンカーの存在とその影響は二値的なものではなく、モデルファミリー間で存在するスペクトラムである。それは特定のモデルのアーキテクチャや事前学習に依存する特性であり、すべてのLLMに共通する普遍的な特徴ではない。
• 検証： 本研究は、システム同定とホールドアウト検証を組み合わせることで、真に潜在的なアンカーによって駆動されているモデルと、単に線形コンセンサス力学に従っているだけのモデルを区別できることを示している。
• 限界： 著者らは、「隠れたアンカー」は推論された潜在量であり、測定された内部表現ではないことを明記している。肯定的な結果は単一のモデルファミリー（Llama-3.1-70B）と特定のベンチマークにおいて最も強く、凸包脱出の現象は最終的な回答の正確性とは直交している（最もダイナミックなモデルが、最も正確性が低かった）。

結論として、本論文は、マルチエージェント討議を理解するには、開ループのコンセンサスモデルを超えて、初期の表明された意見とは大きく異なる可能性のある、内部の隠れた事前分布によって引き寄せられるクローズドループ・システムとして捉える必要があると提唱している。