テクニカル・サマリー：出力が分散したとき、認識論的な修正は伴うのか？

1. 問題提起

集団的知能の研究では、伝統的に「出力の不一致」を「認識論的多様性」のプロキシ（代理指標）として扱ってきた。つまり、グループのメンバーが異なる見解を表明していれば、そのグループは自らの立場を修正する能力を保持していると仮定してきた。この仮定は、社会的責任や安定したコミットメントが存在する人間の集団においては成立するが、本論文は、大規模言語モデル（LLM）の集団においてはこの仮定は安全ではないと主張する。機械の集団では、エージェントは言語的には多様な議論を生み出しながらも、根底にある結論は同一のまま維持するという現象（「フレームワーク内異議（intra-framework dissent）」と呼称）が発生し得る。その結果、出力の多様性は誤りの修正に必要な認識論的機能を果たせず、表面的なバリエーションと真の信念修正との間のデカップリング（乖離）を招く可能性がある。

核心となる問題は、介入によって出力の分散度を高めた際、それが真の認識論的な修正を引き起こしているのか、それとも単に前提を維持したままの再定式化（reformulation）に過ぎないのかを判断するための、操作可能な診断手法が欠如していることである。

2. 手法：ブラックボックス・カップリング診断

本論文は、生成されたテキストのみに基づいて動作する（ブラックボックス型）、「分散–修正カップリング（dispersion–revision coupling）」診断を提案する。これは内部のモデル表現については一切言及しない。このフレームワークは、以下の2つのチャネルを分離する：

1. 出力チャネル（The Output Channel）: 埋め込み空間におけるエージェントの応答のセマンティックな分散を測定する。
2. 認識論的チャネル（The Epistemic Channel）: 集団の、偽の前提に対するスタンスが実際に変化したかどうかを測定する。

実験設定

• タスク: 偽の前提への真実注入。5つのエージェントが偽の前提について4ターンにわたって討論を行う。ターン4において、権威ある真実の記述が注入される。回復（recovery）は、グループがその後、偽の前提を拒絶するかどうかによって測定される。
• モデル: 2つの構成をテストした：gpt-4o-mini および gemini-2.5-flash。
• 介入（プローブ）: **メタ予測明晰性システム（MPCS）がコヒーレンス指数（CI）を監視する。CIは、重心周囲のエージェント埋め込みの平均二乗分散の逆数を測定する。CIが過剰な収束（高いコヒーレンス）を示した場合、MPCSは再分化プロトコル（RDP）**を起動し、エージェントに対して明確な欠陥や反事実を特定するよう指示する。
• 条件:
  • Standard MAS: 無規制の討論（ベースライン）。
  • Static-Debate: 持続的なペルソナの多様性（従来型の、懐疑的な、経験的な、などの役割）。
  • Random-Trigger/Matched: 固定された確率でRDPがトリガーされる。
  • MPCS-Full: CIの閾値に基づいて動的にRDPがトリガーされる。

測定指標

• コヒーレンス指数（CI）: コンテンツに依存しない、出力埋め込みクラスターの緊密さの尺度。CIの低下は、介入が出力の分散に成功したことを検証する。
• スタンス注釈（Stance Annotation）: ターンごとのスコア。-3（偽の前提への強い支持）から +3（偽の前提の強い拒絶）まで。
• メカニズム保持タグ付け（Mechanism-Preservation Tagging）: 介入後の応答を以下のカテゴリに分類する：
  • 譲歩（Conceded, C）: 偽の前提とそのメカニズムを明示的に放棄する。
  • 再定式化（Reformulated, R）: 修正を認めるが、新しいメカニズムを通じて偽の前提を維持する（フレームワーク内異議）。
  • ピボット（Pivoted, P）:* 曖昧、または話題を転換している。

3. 主な貢献

1. 概念的貢献: 出力レベルのバリエーションと認識論的なスタンスの修正を区別する、**「分散–修正カップリング」**の定義。
2. 方法論的貢献: 任意のモデル構成に対してカップリング・レジームを推定できる、再利用可能なブラックボックス診断手順（CI + MPс/RDP）。
3. 実証的貢献: カップリングが構成依存的であるという証拠。同じ介入が、あるモデルでは強い結合を生み出し、別のモデルでは弱い結合を生むことを示している。
4. 分析的貢献: エージェントが、同一の偽の結論を支持する多様なメカニズムを生成することで、異議の要件を満たそうとする失敗モードとしての**「フレームワーク内異議」**の特定。
5. 実践的貢献: 集団的知能の評価のための2つの新しい報告指標、**「介入あたりの平均スタンス変化（$\Delta s$）」および「前提保持率（premise-preservation rate）」**の提案。

4. 結果

GPT-4o-mini 構成

• カップリング: 強い。
• 回復: 条件付きの異議（MPCS-Full）により、偽の前提からの回復が**+17.7パーセントポイント**向上した（43.9%のベースラインに対し61.6%、$p < 10^{-6}$）。
• ダイナミクス: 介入は出力を分散させ（CIが低下）、それは真のスタンスの修正を伴っていた。
• メカニズム: RDP後の応答の49%が偽の前提を譲歩し、わずか24%がそれを再定式化した。
• 一過性の多様性: 静的な多様性（Static-Debate）はパフォーマンスを低下させた（-8.1ポイント）。これは、条件付きかつ一過的な多様性が有益である一方で、持続的な多様性は有害であることを裏付けている。

Gemini-2.5-flash 構成

• カップリング: 弱い。
• 回復: 同じRDP介入を行っても、回復の利得は得られなかった（27.1%のベースラインに対し26.1%、$p = .84$）。これは、出力の分散（CIの低下）が確認されているにもかかわらずである。
• ダイナミクス: 出力は分散したが、認識論的なスタンスは-3（強い支持）付近に固定されたままだった。
• メカニズム: RDP後の応答の94%が**「再定式化（Reformulated）」**であり、新しいメカニズムを通じて偽の前提を維持していた（フレームワーク内異議）。譲歩したものはわずか2%であった。
• 統計的有意性: 2つの構成間の処置効果の直接比較において $z = 3.79, p < .001$ となり、この差が単なる統計的パワーの問題ではなく、根本的な行動的非対称性であることを裏付けた。

追加の知見

• CI–スタンス相関: GPTでは相関は弱く正であった。これは、出力のコヒーレンスとスタンスの間に緩やかなカップリングがあることを示唆している。Geminiでは、注入後の相関は負であり、出力のコヒーレンスが強まるほど、偽の前提への支持が強くなることを示している。
• 回復のタイミング: GPTでは、29%の回復がターン7–9（注入後のRDPウィンドウ）で発生した。Geminiでは、すべての回復は注入直後に行われた。追加のターンやRDPの実行によって、非回復が回復に転じることはなかった。

5. 意義と主張

本論文は、**「出力の多様性は、機械の集団における認識論的多様性の安全なプロキシではない」と主張している。主な意義は、「一過性の多様性（条件付きの異議がパフォーマンスを向上させる）」という原則が普遍的なものではないことを示した点にある。それは、「分散–修正カップリング」**に依存している。

• 構成依存性: 出力の分散を認識論的な修正へと変換する能力は、介入（RDP）およびその出力レベルの効果（CIの低下）が同一であっても、モデルの構成によって大きく異なる。
• ブラックボックスの限界: この診断は意図的に出力の振る舞いに限定されている。本論文は、出力の分散が回復の因果的媒介因子であることを主張するものではなく、また、なぜカップリングが異なるのか（例：学習データかアーキテクチャか）を説明しようとするものでもない。これは、カップリングが異なるという事実を確立するものである。
• 評価基準: 著者は、将来の人工的集団知能の評価においては、精度と多様性だけでなく、カップリングを推定しなければならないと主張している。そうでなければ、多様性の指標が、集団が多様に見えつつも実際には「認識論的なロック（epistemic locking）」状態にあり、誤りを維持しているという実態を隠蔽してしまう可能性がある。

結論として、このような診断なしには、機械の集団が、表面的なバリエーションを通じて偽の前提を維持しながら、あたかも認識論的に柔軟であるかのように誤認される可能性があると本論文は締めくくっている。