📊 statistics

MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations

本論文は、最大平均偏差（Maximum Mean Discrepancy）を利用して異なるデコーディング温度における出力の安定性を分析することで、正解ラベルなしでの信頼性の高い事実誤認の特定を可能にする、大規模言語モデルのためのテスト時ハルシネーション検出手法であるMMD-Flaggerを紹介するものである。

原著者： Kensuke Mitsuzawa, Damien Garreau

公開日 2026-08-20

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Kensuke Mitsuzawa, Damien Garreau

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

急速に進化する人工知能の世界において、大規模言語モデルは、人間のようなテキストを生成し、複雑な質問に答え、さらには自律的な意思決定を支援することさえできる強力なツールとなっています。しかし、これらのシステムには、流暢で自信に満せばあるが、事実としては完全に誤っている記述を時として生成してしまうという、根強い欠陥があります。「ハルシネーション（幻覚）」として知られるこの現象は、法務、医療、あるいは自動運転といった、たった一つの誤りが破滅的な結果を招きかねない重要な領域にこれらのモデルが導入される場合、重大な安全上のリスクをもたらします。研究者にとっての核心的な課題は、いわゆる「ゴールドスタンダード（正解）」となる解答へのアクセスなしに、いかにしてこれらのエラーをリアルタイムで検出するかという点です。これらのモデルは、実用時の外部検証なしに動作するため、科学者はモデル自身の振る舞いのみに基づいて、回答の信頼性を判断する方法を見出さなければなりません。その鍵は、モデルが内部設定のわずかな変化に対してどのように反応するかを理解することにあります。もしモデルが真実であり、事実に根ざして自信を持っているならば、生成の条件がわずかに変化しても、その回答は一貫性を保つはずです。しかし、もし回答が捏造されたものであるならば、同じ変化の下では、モデルの出力は不安定で不規則なものになる傾向があります。

この原理に基づき、フランスとドイツの研究チームは、これらのハルシネーションを捉えるための新しい手法である「MMD-Flagger」を開発しました。彼らのアプローチは、データベースと事実を照合したり、エラーを特定するために新しいモデルを訓練したりすることには依存しません。代わりに、それは安定性モニターとして機能し、生成プロセスの「温度（temperature）」が調整されたときに、言語モデルの出力がどのように変化するかを監視します。これらのモデルの文脈において、「温度」とは、モデルが次の単語を選択する際に、どの程度のランダム性を導入するかを制御する設定です。低い温度はモデルを非常に予測可能で反復的なものにし、高い温度はより創造的で多様な応答を可能にします。研究者たちは、真実の回答はこれらの異なる設定においても比較的安定している一方で、ハルシネーションによる回答は、温度が変化するにつれて形が大きく揺れ、変化するという仮説を立てました。

このアイデアをテストするために、研究者たちは、同じ質問に対して異なる温度設定を用いて複数のバージョンの回答を生成するシステムを作成しました。そして、「最大平均偏差（Maximum Mean Discrepancy）」と呼ばれる統計ツールを用いて、元の回答とこれらの多様なバージョンを比較しました。このツールは、2つのデータグループが互いにどれほど異なっているかを測定するものです。これらの差異をさまざまな温度範囲にわたってプロットすることで、システムは視覚的な経路、すなわち「軌跡（trajectory）」を作成します。研究者たちは、モデルが真実を述べているとき、この経路は滑らかで予測可能であり、ランダム性が増すにつれて着実に上昇していくことを発見しました。しかし、モデルがハルシネーションを起こしているとき、経路は独特で鋭い「U字型」を描きます。この曲線の真ん中にある落ち込みは、モデルが一貫した意味を維持することに苦慮している明確なシグナルとなり、その回答が信頼できないものであることを効果的にフラグ立てするのです。

チームは、Llama-3およびGemma-3ファミリーを含む現代的な言語モデルを用い、複数の言語にわたる事実の正確性をテストするために設計されたベンチマークデータセットを使用して、この手法を評価しました。彼らは、テキストの類似性やモデルの内部状態に依存するいくつかの既存の手法と比較しました。その結果、ハルシネーション検出の有効性は、特定のモデルアーキテクチャに強く依存することが示されました。MMD-Flagger (Ensemble) はLlama-3.1-8BおよびGemma-3-4Bにおいて最高の性能を達成しましたが、他のエスティメーター（推定器）はLlama-3.2-3Bにおいてより優れた性能を示しました。このシステムは、単語の生の持つ意味やニューラルネットワークの隠れ層など、モデルから抽出されたさまざまな種類のデータに対して柔軟に機能できることが証明されました。テレビ番組に登場する猫に関する質問を用いた特定のテストケースでは、システムは他の手法が見逃したハルシネーションを特定し、温度の変化に伴ってモデルの出力がナンセンスへと漂流し始めた瞬間を捉えました。逆に、グラスゴーの音楽グループに関する別のケーススタディでは、MMD-Flaggerが、別の手法（KLE）が正しく特定したハルシネーションを検出できなかったシナリオが明らかになり、モデルの出力の軌跡は、内容が誤っている場合でも、時に欺瞞的なほど滑らかなままにとどまることがあることを浮き彫りにしました。

これらの有望な結果にもかかわらず、研究者たちはこの手法には限界があることも認めています。信頼できる安定性プロファイルを構築するために、回答の多くのバリエーションを生成する必要があるため、計算コストが高く、単にモデルに一度回答を求めるよりも時間がかかることがあります。これは、即時レスポンスを必要とするアプリケーションには理想的ではありませんが、正確性が最優先される安全性の高いシステムにおいては、強力なツールであり続けます。この研究は、モデルの出力の安定性をさまざまな条件下で監視することにより、人工知能に対するより信頼できる監視レイヤーを構築できることを示唆しています。このアプローチは、正しい答えを事前に知ることなく、自律型エージェントの信頼性を監査する方法を提供しており、より安全で信頼できるAIシステムに向けた重要な一歩となります。

技術要約: MMD-Flagger

問題提起

大規模言語モデル（LLM）は、安全性に敏感なエージェントシステムへの導入が進んでいるが、流暢ではあるものの事実とは異なる内容を生成する「ハルシネーション（幻覚）」の傾向は、信頼構築における重大な障壁となっている。自律型エージェントにおいて、逐次的な意思決定プロセスにおける単一のハルシネーションされたステップは、壊滅的な失敗につながる可能性がある。これらのリスクを軽減するための重要な課題は、正解ラベルや外部知識ベースにアクセスすることなく、テスト時にこれらの事実誤認を検出することである。既存の一貫性に基づく不確実性定量化（UQ）手法は、複数の出力シーケンスを比較するものであるが、トークンレベルの意味的類似性に限定されることが多く、モデル内部の表現を無視している。一方、内部状態を利用する手法は、多くの場合、教師あり学習を必要とするか、特定のモデルアーキテクチャに依存するため、汎用性やデプロイの柔軟性が制限される。

手法

著者らは、デコーディング温度の変化に伴うLLM出力の安定性を最大平均偏差（Maximum Mean Discrepancy: MMD）を用いて監視する、教師なし・学習フリーのハルシネーション検出フレームワークであるMMD-Flaggerを提案する。

コア仮説

本手法は、忠実なLLMの生成は異なるデコーディングパス間で意味的な一貫性を示すのに対し、ハルシネーションを含む生成はデコーディング設定に対して非常に敏感であり、結果として意味が不安定かつ不整合になるという前提に基づいている。具体的には、著者らは、高い不確実性（ハルシネーション）は、急激で非単調な落ち込みを特徴とするU字型のMMD軌跡として現れる一方で、忠実な出力はMMD値の安定した単調増加を示すという仮説を立てている。

アルゴリズムの枠組み

確率的サンプリング: 与えられたプロンプト $x$ とターゲットとなる仮説生成 $h_{hyp}$ （特定のデコーディング戦略 $\theta_{hyp}$ の下で生成されたもの）に対し、一連のデコーディング温度 $\tau \in \mathcal{T}$ にわたって確率的サンプル集合 $S_{sto}^{\tau}$ を生成する。
特徴表現: 本手法は特徴空間に対して不可知（agnostic）であり、ワードエンベディング、隠れ状態（最終トークンまたは平均）、アテンションマップ、あるいはスペクトル特徴（ラプラシアンの固有値）といった多様な表現を利用できる。
MMD軌跡の構築: 各温度における仮説セット $S_{hyp}$ と確率的サンプルセット $S_{sto}^{\tau}$ の間の二乗MMD距離を計算する。これにより、温度の関数としての分布間距離を表す軌跡 $D(\theta_{hyp})$ が作成される。
不確実性スコアリング: 不確実性スコア $\delta$ は、この軌跡の非単調性から導出される。アルゴリズムは最小のMMD値を特定し、その最小値と、直前および直後の温度における局所的な最大値（ $\delta_{prev}$ および $\delta_{post}$ ）との絶対差を計算する。最終的なスコアは、その合計 $\delta = \delta_{prev} + \delta_{post}$ である。より深く鋭いU字型であるほど、高い不確実性スコアを示す。
アンサンブル戦略: 複数の特徴ドメインにわたる相補的な情報を活用するために、アンサンブル版では、変動係数（CV）とエントロピーに基づくヒューリスティックを用いた加重結合を使用して、アクティブなドメイン（軌跡の分散によってフィルタリングされたもの）からスコアを集計する。

主な貢献

教師なし・学習フリーの検出: MMD-Flaggerは、教師あり学習や正解ラベルを必要としないフレームワークを導入しており、ライブデプロイのシナリオに適している。
柔軟な特徴不可知性: 特定のテキストエンベディングや内部レイヤーに限定される手法とは異なり、MMD-Flaggerは、内部の隠れ状態やアテンションメカニズムを含む多様な特徴空間にわたって安定性を監査できる。
軌跡ベースの指標: 本論文は、MMD軌跡における「U字型」をハルシネーションの特有のシグネチャとして特定し、忠実な生成の単調な挙動と区別している。
包括的なベンチマーク: 本手法は、現代的なモデルファミリー（Llama-3.1, Llama-3.2, Gemma-3）を用いて、多言語ベンチマークであるMUCH（Multilingual Claim Hallucination）で評価されている。

実験結果

MUCHデータセットを用いた評価により、以下のことが明らかになった：

モデル依存性: 最適なハルシネーション検出エスティメータは、特定のLLMアーキテクチャに強く依存する。
パフォーマンス: MMD-Flagger (Ensemble) は、Llama-3.1-8B および Gemma-3-4B において最高のROC-AUCスコアを達成した。Llama-3.2-3B においては、単一の特徴構成がアンサンブルを上回っており、これは異なるアーキテクチャには異なる特徴選択やアンサンブル戦略が必要であることを示唆している。
比較: 本手法は、様々な特徴タイプにおいて、ブラックボックス・ベースライン（KLE, LexSim, Ecc）およびホワイトボックス・ベースライン（EigenScore, LapEigvals）と同等、あるいはそれらを上回る性能を示した。
限界: TriviaQAデータセットを用いた二次評価では、MMD-FlaggerはKernel Language Entropy (KLE) に劣る結果となった。これは、手法の有効性がデータセットの特性やハルシネーションの性質（例：単調な発散か、サドルポイントのダイナミクスか）によって変化することを示している。

意義と主張

著者らは、MMD-Flaggerが外部のリファレンスに依存することなく、テスト時にエージェントの出力を監査するための堅牢で柔軟なメカニズムを提供すると主張している。デコーディング温度を通じて内部および外部の表現の安定性を追跡するために最大平均偏差を利用することで、本手法は非パラメトリックな不確実性定量化のアプローチを提供する。本論文は、生成プロセス自体の本質的な不安定性を通じてハルシネーションの検出を可能にすることにより、信頼できる自律型エージェントの構築に向けた一歩として本研究を位置づけている。著者らは、有望ではあるものの、本手法はプロンプトごとに複数の確率的生成を必要とするため、リアルタイムアプリケーションにおいては計算オーバーヘッドが生じることを認めており、今後の課題としてこのサンプリングコストの削減に焦点を当てるとしている。