技術要約：LLMの信頼性の指標としてのクロスコンテキスト一貫性（Cross-Contextual Consistency）

問題提起

大規模言語モデル（LLM）は強力なブラックボックス・システムとして機能しており、その出力が安定した内部的な信念を反映しているのか、あるいは表面的なパターンマッチングに過ぎないのかを判断することは困難である。LLMは様々なタスクで高い性能を示す一方で、論理的一貫性を維持できないことが頻繁にある。例として、「逆転の呪い（reversal curse）」（論理的に含意される事実を関連付けられない現象）や、「コンテキスト・ハイジャック（context hijacking）」（意味的に中立なコンテキストが付加されただけで回答が変わってしまう現象）が挙げられる。既存の評価手法には以下のような重大な限界がある：

• 内部信号手法： トークンレベルの確率や隠れ状態を用いるアプローチは、クローズドソースのモデルには適用できず、自由記述形式の回答にも対応が難しい。
• 自己申告による自信度： モデルはしばしば過信を示し、誤った回答に対して高い自信スコアを提示する。
• 自己一貫性（Self-Consistency）およびパラフレーズ： これらの手法は、モデルが複数の生成過程において同じ誤った回答に陥るメカニズム的な失敗や、パラフレーズによる意味的なドリフト（変質）によって、自信の推定値が膨張してしまう可能性がある。

外部知識、モデルのパラメータ、あるいは自己申告による指標に依存しない、モデルの信頼性を評価するための原理的なブラックボックス・アプローチが求められている。

手法：クロスコンテキスト一貫性（C3）

本論文では、**クロスコンテキスト一貫性（Cross-Contextual Consistency: C3）**を提案する。これは、同一のタスクが「トピックに整合し、かつ内容に対して中立なコンテキストのバリエーション」の下で提示された場合、信頼できる回答は安定していなければならないという行動的特性である。

操作化

1. 摂動戦略（Perturbation Strategy）： 与えられたクエリ $x$ に対して、著者らはコンテキストの摂動集合 $E = \{\epsilon_1, \dots, \epsilon_n\}$ をサンプリングする。これらの摂動は元のクエリの接頭辞として付加され、$x' = [\epsilon; x]$ が作成される。
   • 制約事項： 摂動は、トピックへの整合性（ドメイン内に留まること）、内容の中立性（回答を明示したり、支持したり、あるいは矛盾させたりしないこと）、および非自明性（単なる問いの言い換えではなく、意味のある変化をもたらすこと）を満たさなければならない。
2. 分布比較： 本手法は、モデルの生成を確率過程として扱う。元のプロンプトから出力をサンプリングし（$Y \sim P(Y|x)$）、摂動を加えたプロンプトから出力をサンプリングする（$Y_E \sim P^E(Y|x)$）。
3. 指標の定義： C3は、元の出力分布と摂動後の出力分布の間の正規化された逆距離として定義される：
   $$C3(x; E) = 1 - \tilde{D}(P(Y|x), P^E(Y|x))$$
   ここで $\tilde{D}$ は $[0, 1]$ に正規化されたタスク適応型の距離関数である。主要な実装において、著者らは**最大平均偏差（Maximum Mean Discrepancy: MMD）**を距離指標として使用しており、これにより固定形式の回答と自由記述形式の回答の両方の比較が可能となる。
4. 解釈： C3スコアが高いことは、モデルの出力分布がコンテキストの変化に対して安定している（高い信頼性）ことを示し、低いことは、コンテキストに対する脆弱性（低い信頼性）を示している。

主な貢献

1. 未利用の特性の特定： 本論文は、C3をLLMの信頼性の行動指標として特定し、十分に裏付けられた回答は、クロス・エグザミネーション（コンテキストの変動による検証）の下でも安定すべきであると提唱している。
2. 操作的フレームワーク： 著者らは、多肢選択式、短文回答、長文の事実性、およびコード生成タスクに適用可能なブラックボックス評価プロトコルとしてC3を具体化した。
3. 実証的検証： 6つのベンチマークにおける16のモデルを用いた実験を通じて、C3が正解率や事実性と一致すること、ベンチマークの飽和に対する堅牢な診断ツールとなること、そして従来の精度指標に対する補完的な評価軸を提供することを実証した。（注：MMLU High School Statisticsベンチマークに限定したケーススタディでは、追加で10のモデルが含まれている。）

実験結果

著者らは、SVAMP、MMLU High School Statistics、CommonsenseQA、SimpleQA、FActScore、HumanEvalの6つのベンチマークにおいて、C3をベースライン（自己一貫性、パラフレーズ一貫性、自己申告の自信度、FActScore）と比較評価した。

• 優れた較正（Calibration）： C3は、モデルの「信頼性」を真実性と一致させるにおいて、一貫してベースラインを上回った。例えば、SVAMP（数学的推論）において、C3は自己一貫性の0.861に対し、0.917のAUROCを達成した。SimpleQA（事実性）では、C3は0.823のAUROCを達成し、自己一貫性（0.792）および自己申告（0.490）を大幅に上回った。
• 事実性の検出： C3は事実性に関連するエラーを効果的に検出した。著者らは、C3とFActScoreの間に0.624のスピアマン順位相関係数を観察しており、これはモデルの内部状態が知識の境界に関する潜在的な表現を含んでいることを示唆している。幻覚（ハルシネーション）を起こした事実は、摂動によって大きく変動する低確率領域に存在する場合が多い。
• 長文生成： C3は、既存の手法の多くが失敗する自由記述タスク（HumanEval、FActScore）においても効果的にスケールし、外部の実行環境を必要とせずに強力な較正（例：HumanEvalにおける0.110 ECE）を実現した。
• ベンチマークの診断： インスタンスレベルのパフォーマンスをC3に対してプロットすることで、著者らは4つの明確な領域を特定した：
  • 習得済み (Mastered) (高性能、高C3): 安定した、正しい理解。
  • 脆い (Brittle) (高性能、低C3): 表面的なパターンマッチングやデータ汚染によって駆動された高い精度。モデルは摂動に対して失敗する。
  • 偏向 (Biased) (低性能、高C3): 強固で誤った事前分布や誤解により、一貫して間違っている。
  • 未学習 (Unlearned) (低性能、低C3): 真の知識の欠如。
    この分析により、HumanEvalのようなベンチマークは「脆さ（過学習）」の兆候を示している一方で、SimpleQAは主に「未学習」の領域に留まっていることが明らかになった。

意義と主張

本論文は、C3が従来のベンチマークが飽和または汚染された場合でも情報を提供し続ける、補完的な評価軸を提供すると主張している。正解性を明示的にテストする方法とは異なり、C3は生成プロセスの安定性を測定する。著者らは以下の通り論じている：

• 安定性としての信頼性： モデルの応答は、論理的および意味的に等価なコンテキストに対して頑健であるべきである。もし異なるフレーミングによって出力が大幅に変化する場合、そのモデルの信頼性は損なわれる。
• ブラックボックスとしての有用性： C3はモデルのパラメータへのアクセスを必要とせず、クローズドソースのモデルにも適用可能であり、また、しばしば較正が不適切な自己申告の自信度にも依存しない。
• 診断能力： C3は、真の理解と、記憶やバイアスによって駆動された「脆い」パフォーマンスを区別するのに役立ち、標準的な精度ベースの評価が見逃してしまう回答の脆弱性を明らかにする実用的な方法を提供する。

著者らは、C3は強力な診断ツールではあるものの、真実性を保証するものとして扱うべきではないと結論付けている。なぜなら、モデルは一貫していても間違っている可能性があるからである。これは、人間の監視に代わるものではなく、コンテキストに対して脆弱な生成を特定するための補助手段として意図されている。