技術要約：予測可能な圧縮失敗（Predictable Compression Failures）

1. 問題提起

本論文は、Transformerモデルを用いた根拠に基づいたバイナリ判定（evidence-grounded binary adjudication）における極めて重要な信頼性の問題を取り上げている。支持／反駁の分類、Yes/Noの決定、あるいは検証器に裏付けられた合格／不合格の判断といったタスクにおいて、モデルの出力は、交換可能なエビデンス・チャンクが提示される順序に対して敏感である。

エビデンスの集合は理論的には交換可能（順序を入れ替えても真理値は変わらないはず）であるが、位置エンコーディングを持つTransformerは、同一のエビデンスの置換（$\pi$）に対して異なる確率（$q_\pi$）を生成する。この「順序への敏感さ」は予測の分散を生み出し、信頼性の低い回答や一貫性のない棄権率を招く。著者らは、次トークン学習が、あらゆる順序における期待条件記述長を最小化するように機能するため、モデルは平均的にはベイズ最適となり得る一方で、特定の固定された順序においては置換不変な予測器から大きく逸脱することを指摘している。この期待値（順序の平均）と実現値（固定された順序）の間の乖離が、「予測可能な圧縮失敗（predictable compression failure）」を構成する。

2. 手法および理論的枠組み

本論文は、この現象を**定量化されたマルチンゲール違反（QMV）と期待値レベルのデコンプレッション則（EDFL）**という2つの主要な理論的レンズを通じて定式化している。

2.1 定量化されたマルチンゲール違反 (QMV)

著者らは、エビデンスの順序を「妨害変数（nuisance variable）」として扱い、位置感度によって誘発される分散をモデル化している。

• 仮定: ベルヌーイ予測のロジットは、特定の減衰プロファイル（例：感度が $t^{-\alpha}$ に比例する調和減衰）を持つ局所的な隣接ランク感度を示す。
• 定理 1 & 2: これらの仮定の下で、期待絶対分散（$E_\pi |R_\pi|$）は、ランク変化に対するロジットの累積感度によって制限される。
  • 減衰が調和的（$\alpha=1$）な場合、分散は $O(\log n)$ で増大する。
  • 減衰がより遅い場合（$\alpha < 1$）、分散は多項式的に（$O(n^{1-\alpha})$）増大する。
  • 減衰がより速い場合（$\alpha > 1$）、分散は有界となる（$O(1)$）。
• 命題 2: ジェンセン・シャノンダイバージェンス（JSD）を用いて、ピンサーの不等式を通じて分散を制限する、仮定に依存しない証明を与える。

2.2 期待値レベルのデコンプレッション則 (EDFL)

EDFLは、これらの理論的境界を、バイナリ判定のための実行可能なデプロイメント指標へと変換する。これは、KL凸性とデータ処理境界をベルヌーイ述語に特化させたものである。

• 核となる概念: 事前分布の質量（$\bar{q}$）から目標とする事後分布の質量（$p$）へと確率をシフトさせるために必要な最小の情報予算（$\bar{\Delta}$）を確立する。
• 稀な事象のスケーリング: 稀な事象の場合、必要な予算は $\log(1/\bar{q})$ に比例してスケールする。
• 運用プランナー: EDFLは以下の閉形式の指標を算出する：
  • Bits-to-Trust (B2T): 目標とする信頼性 $p^\star = 1 - h^\star$ において回答を信頼するために必要な最小の情報予算。これは $KL(Ber(p^\star) \| Ber(q_{lo}))$ として計算される。ここで $q_{lo}$ は置換混合の保守的な下限である。
  • Risk-of-Hallucination (RoH): 測定された予算によって示唆される残留リスク。
  • Information Sufficiency Ratio (ISR): 利用可能な予算と必要とされる予算の比率（$\bar{\Delta} / B2T$）。

2.3 デプロイメント・メカニズム

著者らは、固定された ISRゲーティング・ルール（アルゴリズム1）を提案している：

• 決定ルール: $ISR \ge 1$ であれば回答し、そうでなければ棄権するか、さらなるエビデンスを取得する。
• 実装: これは、エビデンスの $m$ 個の置換をサンプリングし、各置換に対するモデルの確率を計算し、平均予算 $\bar{\Delta}$（KLダイバージェンス経由）を算出し、それをB2T閾値と比較することを含む。
• 参照分布: この手法には、述語 $g$ に対する参照分布 $P_{ref}$ が必要である。これは、決定論的なオラクル（データベース検索、ユニットテストなど）、評価におけるゴールドラベル、または較正された検証器を通じてインスタンス化できる。

3. 主な貢献

1. 定量化された順序感度: 本論文は、調和的な位置感度の下で置換誘発の分散が $O(\log n)$ のスケーリングに従うことを示すQMV境界を証明し、この増大に関する明示的な定数を提供している。
2. 実行可能な特化としてのEDFL: 抽象的な凸性境界を、閉形式のプランナー（B2T, RoH, ISR）および監査可能な固定された $ISR=1$ の決定境界へと変換する期待値レベルのデコンプレッション則を導出した。
3. デプロイ可能な回答／棄権インターフェース: 置換混合を用いて情報充足性を推定する実用的な手順（アルゴリズム1）を定義し、情報予算が目標とする信頼性を保証するのに不十分な場合に、モデルが回答を拒否できるようにした。

4. 実証的検証

理論は、FEVER、HotpotQA、NQ-Open、PopQA、およびカスタムのコントロール・ベンチマークからなる 3,059個の根拠に基づいたアイテム を用い、Qwen2-7BおよびLlama3.1-8Bを用いて検証された。

• 分散のスケーリング (実験 1):

  • 平均絶対残差が予測された $a + b \log n$ のスケーリング則に従うことを観察した。
  • Qwen2-7Bは、Llama3.1-8B（$b \approx 0.147$）よりも有意に高い分散勾配（$b \approx 0.377$）を示し、より強い位置感度を示した。
  • 一様置換混合は、正のジェンセン・ギャップ（クロスエントロピーの改善）をもたらし、順序の平均化が損失を減少させることを確認した。一様混合は、最適化誤差が $10^{-4}$ nats/token 未満であり、ニアMDL（最小記述長）最適であることが判明した。

• 因果的用量反応 (実験 2):

  • プロンプトの長さを一定に保ちながら、「サポート・ドーズ（支持するエビデンス・チャンクの数）」を変化させたランダム化研究。
  • 結果は因果関係を示した：サポート・ドーズを増やすと、情報予算の推定値（$\bar{\Delta}$）が減少し、ハルシネーション率が低下した。適合された勾配は、情報予算が1ナット増加するごとに、ハルシネーションが約12.7回減少することを示した。

• ホールドアウト監査 (実験 3):

  • Gemma-2-9Bをファインチューニングしたモデルを用いた、528個のホールドアウト・アイテムに対する事前指定された監査。
  • 解析的に固定された $ISR=1$ ゲート（事後的なチューニングなし）を使用することで、システムは 20.6–27.9% の棄権率（95% 信頼区間）で 0.0–0.7% のハルシネーション率を達成した。
  • これは、普遍的な較正の主張を行うのではなく、カバレッジと信頼性をトレードオフする動作点の能力を示している。

5. 意義と主張

本論文は、根拠に基づいたAIのための検証可能な、アウトオブサンプル（未知データに対する）動作点を提供すると主張している。その意義は以下の通りである：

• 学習とデプロイメントの調和: クロスエントロピーを最小化するように訓練されたモデルが、なぜ特定の順序において失敗し得るのかを説明し、このギャップを埋める手法を提示している。
• 較正を超えて: 学習された信頼度閾値（汎用性に欠ける可能性がある）に頼るのではなく、ISRゲートは情報理論的原理（KLダイバージェンス）から解析的に導出されている。
• 検証可能な信頼性: 本フレームワークは、検証器相対の述語に限定されている。著者らは、その保証が、仕様、決定論的ツール、または較正された検証器によって誘導される参照分布に対するものであることを明示している。彼らは、制約のない生成や検証プリミティブを持たないモデルに対する普遍的な較正を主張しているのではない。

本研究は「デプロイメント指向」のソリューションとして位置づけられており、情報予算が目標とする信頼性を支えるのに不十分な場合に、ハルシネーションのリスクを制御しながら回答を控える（$ISR \ge 1$ で回答する）という具体的なルールを提供している。