Do Benchmarks Underestimate LLM Performance? Evaluating Hallucination Detection With LLM-First Human-Adjudicated Assessment

技術サマリー：ベンチマークは LLM の性能を過小評価しているか？LLM 優先かつ人間による裁定を伴う評価による幻覚検出の検証

問題定義
現実と矛盾する情報や、提供された証拠に基づかない情報の生成として定義される「幻覚」は、検索拡張生成（RAG）やエージェントシステムにおいて、大規模言語モデル（LLM）にとって依然として重要な課題です。既存の文献では、QAGS-C や SummEval などの標準化されたベンチマークに依存し、人間が注釈した正解データを用いて事実の一貫性を評価していますが、本研究はこれらの固定ラベルの適切性に疑問を投げかけます。最近の証拠は、人間の注釈には体系的な変動が見られることを示しており、最先端の LLM は微妙な不一致を検出する際に現在のベンチマークを上回る可能性があることを示唆しています。本研究が扱う核心的な問題は、単回の実行による人間による注釈が最先端の LLM を評価するのに十分かどうか、あるいは潜在的にノイズの多いか曖昧なベンチマークラベルへの依存がモデル性能の過小評価につながっているかどうかです。

手法
著者は、要約生成タスクにおける幻覚検出を再評価するための、不一致を考慮した裁定ベースの評価フレームワークを提案します。手法は主に 3 つの段階で進行します。

1. LLM 推論: GPT-5 Mini と Gemini 2.5 Flash という 2 つの最先端モデルに、SummEval および QAGS-C データセットからの文書 - 要約ペアの評価を依頼しました。標準的な二値分類とは異なり、これらのモデルには、詳細な推論根拠と、幻覚の位置を示す特定のテキストスパン（一貫している場合は「なし」）を含む構造化された JSON 出力を提供するよう指示しました。
2. 不一致の特定: 本研究では、元のデータセットラベル（専門家またはクラウドソーシングによる注釈から導出）が LLM の予測と矛盾するサンプルのサブセットを特定しました。具体的には、2 つの LLM が互いに合意しているが人間のラベルとは異なっている場合、あるいは LLM と人間のラベルが完全に不一致である場合をフラグ付けしました。
3. 人間による裁定: 2 人の裁定者（異文化背景を持ち、互いの決定を盲検化）が、矛盾するサンプルを再評価しました。重要なのは、これらの裁定者に、元のデータセットラベルに加えて、LLM によって生成された理由とスパンベースの証拠が併せて提供された点です。彼らは利用可能なすべての情報に基づいて最終判断を下すよう指示され、元の人間による注釈と LLM の証拠に基づく主張の間で「裁判官」として機能しました。裁定者間の不一致が継続する場合、元のラベル、両方の LLM 予測、および両方の裁定者ラベルを含む多数決方式を用いて、最終的な正解を決定しました。

主要な結果
再評価プロセスにより、性能指標と合意率に大きな変化が見られました。

• 合意率の向上: 「トリプル合意」率（両方の LLM と裁定された人間ラベルが一致する場合）は大幅に増加しました。QAGS-C では 6.38%（82.55% から 88.93% へ）、SummEval では約 7.62%（84.75% から約 92.37% へ）増加しました。
• モデル精度の向上: 新たに裁定された正解データに対して評価した際、両方の LLM で精度が向上しました。GPT-5 Mini の精度は QAGS-C で 4.25%、SummEval で 2.34% 向上しました。Gemini 2.5 Flash はより大きな改善を示し、QAGS-C で 8.51%、SummEval で 3.80% 向上しました。
• LLM 証拠に対する裁定者の支持: 矛盾するケースにおいて、人間による裁定者は、モデルが明示的な推論とスパンベースの証拠を提供した場合、特に LLM の側に立つことが頻繁に見られました。QAGS-C の矛盾ケースでは、裁定者は LLM の幻覚判定を 82.93% の割合で支持しました。SummEval ではこの割合は 73.00% でした。
• 修正された幻覚発生率: 裁定プロセスにより、元のベンチマークが幻覚の発生率を過小評価していたことが明らかになりました。SummEval における幻覚発生率は 18.4% から 20.5% に増加し、QAGS-C では 51.9% から 56.17% に上昇しました。

意義と主張
本論文は、幻覚検出のような曖昧さの生じやすいタスクにおいては、単回の実行による注釈では不十分であり、LLM の能力の体系的な過小評価につながる可能性があると主張しています。本研究は以下の点を主張します。

1. ベンチマークの限界: 固定されたベンチマークに基づく評価は、人間の注釈を静的な神託として扱い、注釈の不一致の体系的性質や、人間が見逃した不一致を検出する LLM の可能性を無視しているため、限界があります。
2. 裁定の価値: LLM によって生成された推論とスパンレベルの証拠を取り入れた裁定ベースのプロトコルは、より信頼性が高く、意味的に根拠のあるベンチマークをもたらします。明示的な証拠（理由とスパン）の存在は人間の判断に大きな影響を与えるため、より豊かな注釈スキームは曖昧さを軽減する可能性があります。
3. 一般化可能性: 実験は要約に焦点を当てていましたが、著者らはこの現象が、複雑な推論ステップを通じてエラーが伝播する質問応答、RAG、およびエージェント AI などの他の分野にも及ぶ可能性があると仮定しています。
4. 今後の方向性: 本研究の知見は、評価プロトコルを反復的またはモデル支援による再評価へと移行し、二値の正誤を超えて局所化の質やスパンレベル出力の有用性を考慮するよう提唱しています。著者らは、今後の研究において、明示的な推論を含む LLM と人間による注釈の両方を含む微細なデータセットの開発に焦点を当てるべきであると示唆しています。

本論文は、曖昧な自然言語タスクにおいて単一の注釈実行を決定打として扱うことは誤りであり、不一致の分析と LLM 支援による裁定を統合することが、事実の一貫性を評価するためのより堅牢な代替手段を提供すると結論付けています。