論文「Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models」の技術的サマリー

本論文は、大規模言語モデル（LLM）が生成する出力の事実性（Factuality）を評価・保証するための新しい**適応型コンフォーマル予測（Adaptive Conformal Prediction）**手法を提案するものです。既存のコンフォーマル予測手法が持つ「入力依存性（プロンプトの難易度や特性）を考慮していない」という限界を克服し、条件付きカバレッジ（Conditional Coverage）を改善することに成功しています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題定義と背景

• LLM の幻覚（Hallucination）問題: LLM は流暢な文章を生成しますが、事実と異なる内容（幻覚）を生成する傾向があります。医療などの高リスク分野では、この誤りが重大な結果を招く可能性があります。
• 既存のコンフォーマル予測の限界:
  • 近年、LLM の出力に対する不確実性の定量化と統計的保証（誤り率の保証）のためにコンフォーマル予測が適用されています。
  • しかし、既存手法は**プロンプト非適応的（Prompt-non-adaptive）**です。つまり、すべてのテストプロンプトに対して単一の較正済み閾値（Quantile）を一律に適用します。
  • 結果: プロンプトの難易度や曖昧さ、頻度によって、特定のタスクでは過剰カバレッジ（保守的すぎて有用な情報が失われる）や不足カバレッジ（厳しさが足りず誤った情報が残る）が発生し、プロンプトレベルでの較正が不十分になります。
• 目標: marginal coverage（平均的な保証）を維持しつつ、入力（プロンプト）に依存した条件付きカバレッジを改善し、より安定した事実性保証を実現すること。

2. 提案手法：適応型コンフォーマル予測

提案手法は、**条件付き量子回帰（Conditional Quantile Regression）**を用いて、非適合スコア（Nonconformity Score）をプロンプトに依存して変換・正規化する枠組みです。

2.1 基本的な枠組み

• 長文 QA におけるアプローチ:
  • LLM の生成文を、検証可能な「原子的事実（Atomic Claims）」に分解します。
  • 各主張 $c$ に対して、モデルに基づく不確実性スコア $s(c)$ と、真の答え $y$ に対する事実性関数 $w(c, y)$ を定義します。
  • 非適合スコア $V(x, y)$ は、「すべての保持された主張が事実的に正しい（$w(c, y) \ge \beta$）ような最大の不確実性閾値」として定義されます。
• 適応型変換（Adaptive Transformation）:
  • 従来のグローバルな閾値の代わりに、プロンプト $x$ の埋め込み表現（Embedding）に基づいて、そのプロンプトに固有の条件付き量子値 $\tau(x)$ を推定します。
  • 変換されたスコア $\tilde{V}(x, y)$ を以下のように定義します：
    $$\tilde{V}(x, y) = \frac{V(x, y)}{\hat{\tau}(x)}$$
    ここで、$\hat{\tau}(x)$ はプロンプト $x$ に対する条件付き量子値の推定値です。
  • この変換により、異なる難易度や特性を持つプロンプト間でのスコアの分布を正規化し、条件付き分布を均一化します。

2.2 実装プロセス（Algorithm 1）

1. データ分割: 較正データセットを $D_{cal1}$（量子値推定用）と $D_{cal2}$（閾値較正用）、テストデータ $D_{test}$ に分割します。
2. 条件付き量子値の学習: $D_{cal1}$ において、プロンプトの埋め込み $e(x)$ を入力とし、非適合スコア $V(x, y)$ を出力とする条件付き量子回帰モデル（MLP など）を学習し、$\hat{\tau}(x)$ を得ます。
3. スコア変換と閾値較正: $D_{cal2}$ において、学習した $\hat{\tau}(x)$ を用いてスコアを正規化し、変換後のスコアの分布から $(1-\alpha)$ 量子値（閾値）を計算します。
4. フィルタリング: テスト時、生成された主張の不確実性スコアを $\hat{\tau}(x)$ で正規化し、計算された閾値と比較して、信頼性の低い主張をフィルタリングします。

2.3 マルチチョイス QA への拡張

• 選択肢のクラスを要素とする予測集合として同様の枠組みを適用可能です。
• 非適合スコアには「Least Ambiguous Classifier (LAC)」を用い、真のクラスが予測集合に含まれる確率を $(1-\alpha)$ 以上にするように較正します。

3. 主要な貢献

1. 新しいコンフォーマル予測手法の提案:
   • LLM の幻覚検出向けに、埋め込み条件付き量子回帰を通じてプロンプト適応的な補正を学習する手法を提案しました。
2. 理論的保証の維持と条件付きカバレッジの改善:
   • 有限サンプルにおけるマージナルカバレッジ（平均的な保証）を維持しつつ、異質なプロンプト間での条件付きカバレッジを大幅に改善することを示しました。
3. 広範な実験による検証:
   • 長文 QA とマルチチョイス QA の両方のタスクにおいて、複数のモデル（Mistral, Llama, Gemma）とドメインで評価。既存のコンフォーマル手法よりも優れた幻覚検出性能と、より安定したカバレッジを実現しました。

4. 実験結果

• データセット:
  • 長文 QA: 8 種類のカテゴリ（伝記、発明、芸術作品など）から構成されるデータ。
  • マルチチョイス QA: MMLU データセットの 16 カテゴリ（マーケティング、会計、医学など）。
• 主要な発見:
  • 条件付きカバレッジの改善: 図 1 と図 2 に示されるように、既存手法（Conformal Factuality）はカテゴリ間で過剰・不足カバレッジを生じますが、提案手法（Adaptive Conformal）は各カテゴリでターゲットカバレッジに極めて近い値を達成しました。
  • 除去率の最適化: 提案手法は、カバレッジを改善しつつ、不要に除去される主張や選択肢の割合を削減する傾向がありました（例：Mistral 7B において、Landmarks や Inventions カテゴリで除去率が低下）。
  • ロバスト性: Dolan-Moré プロファイル（図 3）において、提案手法はほぼすべての問題設定で既存手法を上回る較正誤差の低さを示し、異質なカテゴリ全体でよりロバストな性能を発揮しました。
  • スコアリング手法: 主張の不確実性を測る指標として、「Claim Conditioned Probability (CCP)」が他の指標（Perplexity, Entropy など）よりも優れていることが確認されました。

5. 意義と結論

• 実用性の向上: 単に「平均的に正しい」だけでなく、「特定の難しい質問や曖昧な質問に対しても適切な信頼性保証」を提供できるため、医療や法務など高リスク分野での LLM 利用において、より安全なフィルタリングや選択的予測（Selective Prediction）を可能にします。
• 技術的革新: 従来のコンフォーマル予測が抱えていた「入力依存性の欠如」という課題に対し、埋め込み表現と量子回帰を組み合わせることで、グループ化や手動特徴量設計なしにプロンプトレベルの適応を実現しました。
• 将来展望: 本手法は、より広範な生成タスクへの拡張や、入力表現のさらなる改善、理論的保証の強化へと発展させる余地があります。

総じて、本論文は LLM の生成出力に対する信頼性評価において、「平均的な保証」から「状況に応じた適応的な保証」へのパラダイムシフトを実現する重要なステップです。