💬 NLP

SpanUQ: Span-Level Uncertainty Quantification for Large Language Model Generation

本論文は、DETRスタイルのデコーダを採用することで、意味的に一貫したテキストスパンの検出とベータ分布の混合による不確実性の定量化を同時に行い、複数の大規模言語モデルにおいて優れた誤差局在化と効率性を実現する、トークンレベルおよびシーケンスレベルの不確実性推定の限界に対処する軽量フレームワークであるSPANUQを紹介するものである。

原著者： Yimeng Zhang, Yingying Zhuang, Ziyi Wang, Yuxuan Lu, Pei Chen, Aman Gupta, Zhe Su, Ming Tan, Zhilin Zhang, Qun Liu, Manikandarajan Ramanathan, Rajashekar Maragoud, Edward Vul, Jing Huang, Dakuo Wang

公開日 2026-07-08

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yimeng Zhang, Yingying Zhuang, Ziyi Wang, Yuxuan Lu, Pei Chen, Aman Gupta, Zhe Su, Ming Tan, Zhilin Zhang, Qun Liu, Manikandarajan Ramanathan, Rajashekar Maragoud, Edward Vul, Jing Huang, Dakuo Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

非常に賢いものの、時折「幻覚（ハルシネーション）」を起こすAIに、「マリー・キュリーとは誰ですか？」といった質問を投げかける場面を想像してみてください。AIは自信に満ちた長い回答を返してきます。しかし、その回答のどこかに間違いが含まれていることがあります（例：彼女がノーベル賞を受賞したのは1903年ではなく、1901年であると述べるなど）。

現在のAI安全性ツールにおける問題は、その間違いが「正確にどこにあるのか」を見つけるのが苦手なことです。この論文では、AIの回答に対するハイテクな「ファクトチェック用蛍光ペン」として機能する、SPANUQという新しいツールを紹介しています。

以下に、それがどのように機能し、何が異なるのかを簡単に解説します。

1. 問題点：ぼやけすぎ、またはノイズが多すぎる

AIの回答をチェックすることを、生徒のエッセイを採点することに例えて考えてみましょう。

旧来の方法（トークン単位）： 教師が文章内の「すべての単語」に赤い線を引いていくようなものです。彼らは「the」や「was」、「a」といった単語一つひとつにスコアを付けます。これはノイズが多すぎます。どの特定の「概念」が間違っているのかを教えてくれないからです。
もう一つの旧来の方法（シーケンス単位）： 教師がエッセイ全体を見て、「C」のような一つの成績をつけるようなものです。これではエッセイに問題があることはわかりますが、「どの段落」や「どの文章」に問題があるのかまでは分かりません。どこにエラーがあるのかが分からなければ、修正することもできません。

2. 解決策：「蛍光ペン」のアプローチ（スパン単位）

著者たちは、意味の自然な単位は単一の単語でもなければ、段落全体でもないことに気づきました。それは**「スパン（Span）」**です。

スパンとは、一つの完全な概念を保持しているテキストの塊（例：「ポーランドの物理学者」や「1901年にノーベル賞を受賞した」など）のことです。
SPANUQは、これらの特定の塊を見つけ出し、それぞれに独自の「信頼度スコア」を与えるように設計されています。
結果： エッセイ全体に一つの成績をつけるのではなく、SPANUQは「ポーランドの物理学者」（緑／高信頼）、「ノーベル賞を受賞した」（緑／高信頼）、そして「1901年」（赤／極めて不確実）といった具合にハイライトします。これにより、どこを確認すべきかが明確になります。

3. 仕組み：「軽量な探偵」

通常、エラーを見つけるには、同じ質問をAIに対して20回行い、すべての回答を比較して、どこで意見が食い違うかを確認する必要があります。これは、一つの事件を解決するために20人の探偵を雇うようなもので、非常に時間がかかりコストもかかります。

SPANUQは異なります：

探偵： それは非常に小さく、軽量なアドオンです（助けとなる巨大なAIモデルと比較して、わずか約2,500万パラメータしかありません）。
トリック： AIが思考している間の「脳波（隠れ状態）」を観察します。このツールは、不確実性を示す微妙なパターンを認識するように訓練されており、20回の低速なチェックによる知識を、一度の瞬時の観察へと「蒸留」しています。
スピード： 従来のメソッドよりも10倍から20倍高速です。なぜなら、AIモデルを一度実行するだけで済むからです。

4. 「トレーニング校」（SPANUQ-BENCH）

この探偵を教えるために、著者たちはSPANUQ-BENCHと呼ばれる大規模なトレーニング校を構築しました。

彼らは20,000個の質問と回答を生成しました。
そして、どの部分のテキストが間違っており、どの程度間違っているかを正確に伝える「解答集」を作成するために、ゴールドスタンダード（標準的な手法）を用いました（AIに20回質問し、Wikipediaと照合する方法）。
彼らは、これら293,000個の具体的なテキストの塊を用いて、この探偵を訓練しました。

5. 結果：なぜ勝てるのか

彼らがSPANUQを他の手法と比較してテストしたところ：

正確性： 正確な誤りの塊を特定することにおいて、非常に優れた成績を収めました（1.0のうち約0.94のスコアを達成）。
ローカライゼーション（位置特定）： 最良の「ヒューリスティック（経験則）」を用いた手法よりも、エラーを見つける能力が39%向上しました。
汎用性： 小規模なモデルから非常に大規模なモデルまで、さまざまなサイズのAIモデルに対してうまく機能しました。

まとめ

この論文は、SPANUQが、AIの回答を即座に読み取り、それを意味のある概念へと分解し、どの概念が危ういのか、そしてどの程度危ういのかを教えてくれる初めてのツールであると主張しています。しかも、AIを何度も実行する必要がないため、AIの出力を信頼する必要があるリアルタイムのアプリケーションで使用できるほど高速です。

重要な注意点： 著者らは、このツールは「不確実性」を特定することには優れていますが、AIが真実を述べていることを保証するものではないと警告しています。これは単に、「おい、この部分はリスクが高そうだ。再確認したほうがいいぞ」と教えてくれるものです。これは人間の判断を置き換えるものではなく、人間を助けるためのツールなのです。

テクニカルサマリー：SPANUQ – 大規模言語モデル生成におけるスパンレベルの不確実性定量化

1. 問題の定式化

大規模言語モデル（LLM）における不確実性推定の現在のアプローチは、最適な粒度を実現できておらず、意味的な一貫性とエラーの局在化のバランスに失敗している。

トークンレベルの手法（例：予測エントロピー、トークンプローブ）は、個々のトークンにスコアを割り当てる。これらは意味的に不完全であり、機能語には無意味なスコアが付与され、単一のトークンが検証可能な事実を構成することは稀である。
シーケンスレベルの手法（例：意味エントロピー、マルチサンプル一貫性）は、回答全体に対して単一のスコアを生成する。これらは意味的な不確実性を捉えることはできるが、生成のどの特定の部分が信頼できないかを特定できず、正しい主張と誤った主張を、実行不可能な中間値へと平均化してしまう。

著者らは、**スパンレベル不確実性推定（SLUE）**を新しいタスクとして定式化している。「スパン」とは、単一の、一貫した意味の単位（例：原子的な事実や主張）を伝える連続したテキストセグメントであり、その不確実性を独立して評価できるものと定義される。目標は、これらの可変長ののスパンを検出し、単一のフォワードパスから各スパンに対して連続的な不確実性スコアを同時に割り当てることである。

2. 手法：SPANUQ

本論文では、高コストなマルチサンプル推論から得られる不確実性の知識を、凍結されたLLMの隠れ状態に対する単一のフォワードパスへと蒸留する、軽量なプローブ（約25Mパラメータ）であるSPANUQを導入している。

アーキテクチャ

SPANUQは、以下の5つの主要コンポーネントで構成される：

マルチレイヤー・フュージョン（Multi-Layer Fusion）: 選択されたレイヤー（通常、事実的知識がピークに達する中盤から後半のレイヤー）からの隠れ状態を、平均プーリングによって融合させる。
トークンエンコーダー（Token Encoder）: 2層のTransformerエンコーダーが、融合された状態をコンテンツプールへと文脈化する。
DETRスタイルのスパンデコーダー（DETR-Style Span Decoder）: DETRに着想を得たこのモデルは、学習可能なスパンクエリを使用してトークンシーケンスにアテンションを向ける。これにより、従来のBIOタギングの制限であった、重複するスパンの並列検出が可能になる。
スパン特徴量の強化（Span Feature Enrichment）: 微分可能なソフト境界マスクが、予測されたスパン領域からコンテンツ特徴量を抽出し、ゲート付き残差接続を介してクエリ埋め込みと融合させる。これにより、不確実性スコアラーがスパンの意味的内容に直接アクセスできることを保証する。
予測ヘッド（Prediction Heads）:
- 回帰（Regression）: 正規化された開始および終了境界を予測する。
- 妥当性分類（Validity Classification）: 真のスパンと、使用されていないクエリスロットを区別する。
- 混合ベータ分布（Mixture of Beta: MoB）: 不確実性を3つの成分を持つベータ分布の混合としてモデル化する。これは、不確実性の二峰性（スパンは非常に自信があるか、あるいは非常に不確実かのいずれかであること）を捉え、U字型の分布を可能にする。

トレーニングと洗練

2フェーズ・トレーニング: モデルはまず、信頼できるスパン境界を確立するためのウォームアップフェーズを経て、次にすべてのコンポーネントを最適化する結合フェーズへと進む。
損失関数: トレーニング目的関数は、スパン回帰（L1 + Generalized IoU）、妥当性分類、および不確実性推定を組み合わせたものである。不確実性損失には、ベータNLL（負の対数尤度）と、スパン間の不確実性の順序構造を保持するためのコントラスティブ・ランキング損失が含まれる。
不確実性条件付き反復洗練（Uncertainty-Conditioned Iterative Refinement: UCIR）: 推論時、初期の推定値はデコーダーにフィードバックされ、洗練ラウンドが行われる。この「二度目の確認」により、モデルは自身の初期予測に基づいて系統的なバイアスを修正することができ、オーバーヘッドを最小限（<15%）に抑えた上で実現される。

3. ベンチマーク：SPANUQ-BENCH

SLUEを評価するために、著者らは初のスパンレベルの不確実性ベンチマークであるSPANUQ-BENCHを構築した。

規模: 5つのドメイン（Long-form QA, TriviaQA, ELI5, Biography, FELM）にわたる20,000のプロンプトと、約293,000のアノテーション済みスパン。
ラベル付け戦略: グランドトゥルースのソフトラベル（ $u^* \in [0, 1]$ ）は、マルチサンプル蒸留を通じて導出される。各プロンプトに対して20の多様なレスポンスをサンプリングし、それらを原子的な主張へと分解し、Wikipediaに対して検証を行う。スパンの不確実性ラベルは、その主張がサポートされなかったサンプルの割合である。
評価: このベンチマークは、識別能（AUROC）、回帰精度（MAE）、およびランキングの質（Spearman相関）をテストする。

4. 主な結果

実験は、4Bから30Bのパラメータを持つ、デンス型およびMixture-of-Experts（MoE）アーキテクチャの両方を含む、Qwen3シリーズおよびMistral-7Bの5つのLLMバックボーンを用いて実施された。

スパンレベルの性能: SPANUQは、すべてのモデルにおいて一貫して最高のスパンレベルの不純性品質を達成している。
- AUROC: 0.908 – 0.944（最強のプローブ・ベースラインを約5.8ポイント、サンプリングベースの手法を13ポイント以上上回る）。
- MAE: 0.110 – 0.129。
- 効率性: 単一のフォワードパスのみを必要とするため、サンプリングベースの手法（SelfCheckGPT、Semantic Entropyなど）よりも10〜20倍高速である。
スパン検出: DETRベースの検出器はF1スコア0.910を達成し、ヒューリスティックなベースライン（スライディングウィンドウ）を**39.4%**上回った。これは、非重複の制約によりBIOタガーが大幅に失敗する（F1 = 0.079）中で、重複するスパンを正常に処理できることを示している。
シーケンスレベルの分解可能性: 著者らは、シーケンスレベルの不確実性が、スパンレベルのコンポーネントに部分的に分解可能であることを観察している。学習された重要度重み付きスパン組成は、シーケンスレベルのSpearman相関（ $\rho_{seq}$ ）で0.839を達成しており、これはスパンレベルの推定がシーケンスレベルの推定を特殊なケースとして包含していることを示唆している。
アブレーション研究の結果:
- 混合ベータ分布（MoB）: 多峰性の不確実性を捉えるために極めて重要であり、単一のベータ分布と比較してECEを62%減少させた。
- UCIR: ランキングの質（ $\rho_{span}$ ）において2番目に大きな利得を提供し、系統的なエラーを効果的に修正する。
- 回帰 vs ポインター: 境界予測における連続的な回帰は、クロスアテンション・ポインター・メカニズムよりもAUROCにおいて3.4%優れている。

5. 重要性と主張

本論文は、SPANUQが「自然な粒度」である検証可能な主張のレベルで動作することにより、トークンレベルとシーケンスレベルの不確実性推定の間の溝を埋めるものであると主張している。

解釈可能性と実行可能性: シーケンスレベルのスコアとは異なり、SPANUQは特定の主張に対する解釈可能で局在化された不確実性スコアを提供する（例：マリー・キュリーに関する文章の中で、「1901年」は不確実だが、「ポーランドの物理学者」は確実であると特定できる）。
汎用性: 本フレームワークは、バックボーンを再学習することなく、異なるモデルファミリー、スケール、およびアーキテクチャ（デンス型 vs MoE）にわたって汎用性を持つ。
実用的な展開: マルチサンプルによる不確実性を単一のフォワードパスへと蒸留することで、SPANUQは、特定のハルシネーションの特定が極めて重要となるハイステークスな領域（医療、法律、研究など）において、計算量的に実行可能なソリューションを提供する。

著者らは、制限事項についても述べている。SPANUQは隠れ状態へのホワイトボックスアクセスを必要とし、計算負荷の高い一度限りのラベル構築パイプラインに依存しており、現在は英語の事実的不確実性に焦点を当てている。彼らは、SPANUQは隠れ状態のパターンから認識論的不確実性を推定するものであり、事実的な正確性を保証するものではなく、人間の判断を置き換えるのではなく補完するものであることを強調している。