技術要約：ブラックボックス型大規模言語モデルにおける信頼度推定の改善

問題提起

医療や科学研究などの高リスクな環境における大規模言語モデル（LLM）の安全なデプロイは、モデルのハルシネーション（幻覚）への脆弱性によって阻害されている。不確実性定量化（Uncertainty Quantification: UQ）は出力の信頼性を評価することを目的としているが、既存の手法には重大な限界がある：

1. ゼロショットの限界： 現在の多くのUQ手法（ヒューリスティックなスコアリングや言語化された信頼度）は、利用可能なラベル付き評価データを活用することなく、ゼロショット形式で不確実性スコアを生成する。
2. キャリブレーションの欠如： 既存のスコアは正解性と相関する場合が多いものの、校正された（キャリブレーションされた）確率を提供するものではない。例えば、言語化された信頼度（$P_{true}$）は過度に自信過剰（overconfident）であり、ヒューリスティックなスコア（例：セマンティック・エントロピー）は直接的な確率推定値ではなく抽象的な値である。
3. 意思決定のギャップ： ヒューリスティックなスコアは主に棄却（閾値に達した場合に応答を控えること）のために設計されている。しかし、著者らは、信頼度推定（正解の校正された確率を提供すること）の方が、意思決定理論の枠組み内で期待効用を最大化できるため、ダウンストリームの意思決定において優れていると主張している。

対処すべき核心的な問題は、既存の、しばしば校正されていないゼロショットの不確実性スコアを、モデル評価の標準的な前提条件であるラベル付きデータセットを活用することで、いかにして堅牢で校正された信頼度推定へと変換するかである。

手法

著者らは、既存のUQスコアを最終的な出力ではなく「特徴量」として扱う教師あり学習フレームワークを提案している。この手法は、ブラックボックス型のLLMへのホワイトボックス的なアクセスや、ベースラインのスコアが必要とする以上の追加的なモデル生成を必要としない。

1. データ分割

利用可能なラベル付きデータセット $\mathcal{D}$ は以下のように分割される：

• 訓練セット ($\mathcal{D}_{train}$): 信頼度分類器の適合に使用される。
• 参照セット ($\mathcal{D}_{ref}$): 類似するクエリに対するLLMの履歴パフォーマンスを要約することで、補助的な特徴量を構築するために使用される。

2. 特徴量エンジニアリング

与えられたクエリと応答のペア $(q, r)$ に対して、特徴量ベクトル $X(q, r)$ は以下の2つのコンポーネントから構成される：

• ベースライン不確実性スコア ($S$): 既存の $c$ 個のスコア（例：言語化された $P_{true}$、セマンティック・エントロピー、ラプラス近似）の集合。これらは生の入力として扱われる。
• 近傍ベースの特徴量 ($f_{ref}$): ローカルな経験的パターンを捉えるために、埋め込み空間におけるコサイン類似度を用いて、参照セットからクエリ $q$ の $k$-最近傍を検索する。これらの近傍から、以下の統計量が抽出される：
  • 近傍の正解ラベル（$y_i$）のベクトル。
  • 近傍の正解率の経験的平均（$\mu_y$）および標準偏差（$\sigma_y$）。
  • クエリ $q$ とその近傍との間のコサイン類似度のベクトル。
  • これらの類似度の経験的平均（$\mu_{sim}$）および標準偏差（$\sigma_{sim}$）。

最終的な特徴量ベクトルは $X(q, r) = (S(q, r), f_{ref}(q))$ となる。

3. 教師あり分類

問題は、正解確率 $Y=1$ を予測する二値分類タスクとして定式化される。

• モデル選択: 著者らは、特定のタスクに対して最適な分類器を選択するために Auto-ML アプローチを採用している。候補には、$\ell_1$ 正則化ロジスティック回帰やランダムフォレストが含まれる。
• 訓練: モデルは $\mathcal{D}_{train}$ 上のクロスエントロピー損失を最小化するように訓練される。
• キャリブレーション: 出力確率が適切に校正されるよう（期待校正誤差（ECE）を最小化するように）、事後的な温度スケーリング（temperature scaling）が適用される。

4. 推論

推論時には、以下のプロセスが行われる：

1. ベースラインスコア $S(q, r)$ の計算。
2. $\mathcal{D}_{ref}$ からの $k$-最近傍の検索。
3. 結合された特徴量ベクトルを用いた、訓練済み分類器 $f_\theta$ による評価。
   計算オーバーヘッドは、LLMの応答を生成するコストと比較して無視できる程度である。

主な貢献

1. パラダイムシフト: 本論文は、LLMのUQは利用可能なラベル付きデータを活用する教師あり学習問題として扱うべきであり、ゼロショットのパラダイムを超越すべきであると主張している。
2. 汎用フレームワーク: この手法は、基礎となるLLMを修正することなく、あらゆる既存の不確実性スコア（ヒューリスティックまたは言語化されたもの）を集約し、校正された信頼度推定へと精緻化するための「ラッパー」として機能する。
3. 近傍統計量: 近傍ベースの特徴量（参照セットからの正解率および類似度の統計量）の導入は、モデルの信頼性に関する経験的な証拠を予測に組み込むための新しい手法を提供する。
4. タスク適応型学習器: 著者らは、最適な分類器モデルはタスクに依存することを実証しており、データの分布に基づいて線形モデルと非線形モデルの選択を行うためのAuto-MLアプローチが必要であることを示している。

実験結果

本フレームワークは、4つのデータセット（CommonSense QA, Natural Questions, SciQ, SimpleQA）および3つのGPT-4.1モデルバリアント（flagship, mini, nano）、ならびにオープンソースのLLaMA4Maverickを用いて評価された。

• パフォーマンス: 提案された Auto-ML 手法は、受信者動作特性曲線の下辺面積（AUROC）において、すべてのベースラインを一貫して上回った。ほぼすべてのシナリオにおいて最高のAUROCを達成したが、差が僅かなケースも一つ存在した。
• キャリブレーション: 本手法は、生の言語化された信頼度（$P_{true}$）と比較して大幅に低い期待校正誤差（ECE）を示し、多くの場合、温度スケーリングされたバージョン（$ts$-$P_{true}$）をも上回った。
• アブレーション研究:
  • セマンティック特徴量なし: 複雑なセマンティック不確実性スコアを除外し（$P_{true}$ と近傍統計のみに依存）、計算コストを抑えた場合でも、本手法は競争力のあるパフォーマンスを維持した。
  • モデルファミリー: 本アプローチはオープンソースモデル（LLaMA4Maverick）にも良好に一般化され、ブラックボックスAPIを超えた適用可能性を裏付けた。
  • ベースライン比較: 本手法は、APRICOT（同様の分類器ベースのアプローチ）や、様々なセマンティックベースのヒューリスティックスコア（セマンティック・エントロピー、ラプラス、カーネル・エントロピー）を大幅に上回った。特に、セマンティック手法が苦戦する多肢選択式のデータセットにおいて顕著であった。

意義と主張

本論文は、ラベル付き評価データは、LLMの不確実性推定を向上させるための、重要かつ未開拓のリソースであると主張している。著者らは以下の通り述べている：

• 信頼性: ゼロショットのヒューリスティックを超えて、より正確で校正された信頼度推定を一貫して生成できる。
• 効率性: 本手法は最小限の計算オーバーヘッドしか導入せず、実世界のアプリケーションにおける「安価で明快な強化策」となる。
• 柔軟性: ヒューリスティックなスコアを意思決定可能な確率へと変換する一般的なメカニズムとして機能し、抽象的な不確実性指標と実践的な意思決定の間の溝を埋める。
• 将来の方向性: 現在の作業は二値の正解性に焦点を当てているが、著者らは、このパラダイムを多クラス分類（例：「部分的に正しい」と「非常に優れている」の区別）へと拡張し、LLMデプロイの安全性をさらに精緻化できる可能性を示唆している。

著者らは、自身のアプローチがタスク固有の分類器の訓練を必要とし、効果的な検索のために参照セットの質とサイズに依存することを認めつつも、これらは実用的なモデル開発ライフサイクルにおける標準的な要件であると主張し、控えめな姿勢を保っている。