💻 computer science

DeFacto: Counterfactual Thinking with Images for Enforcing Evidence-Grounded and Faithful Reasoning

本論文は、言語誘導型パイプラインを活用して専門的なデータセットを生成し、多面的な報酬に基づく GRPO 型強化学習を採用することで、マルチモーダル言語モデルの回答精度と証拠に基づく一貫性を大幅に向上させる、対照推論フレームワークである DeFacto を紹介する。

原著者： Tianrun Xu, Haoda Jing, Ye Li, Yuquan Wei, Jun Feng, Guanyu Chen, Haichuan Gao, Tianren Zhang, Feng Chen

公開日 2026-05-21

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Tianrun Xu, Haoda Jing, Ye Li, Yuquan Wei, Jun Feng, Guanyu Chen, Haichuan Gao, Tianren Zhang, Feng Chen

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが写真に関する質問に答えるテストを受けていると想像してください。ほとんどの賢いコンピュータプログラム（マルチモーダル大規模言語モデルと呼ばれる）は、本で読んだ内容に基づいて推測するのが非常に得意な生徒のようですが、目の前の実際の写真を見ようとしません。彼らは正しい答えを出すかもしれませんが、その理由は誤っていたり、写真の全く異なる部分を見ていたりする可能性があります。

この論文は、この問題を修正するための新しい手法「DeFacto」（「De Facto」の略で、「実際に」を意味する）を紹介しています。DeFacto は、生徒が実際に写真を見ていることを証明するまで回答を許さない、厳しい教師のようなものです。

以下に、簡単な比喩を用いて仕組みを分解して説明します。

1. 問題：「偽りの専門家」

現在の AI モデルは、しばしば以下の 3 つの特定の「不正」習慣に悩まされています。

盲目の推測: 画像の誤った部分を見て、誤った答えを出す。
幸運な推測: 画像の誤った部分を見るが、何らかの理由（運やテキストの暗記による）で偶然正しい答えを当てる。
誠実な過ち: 画像の正しい部分を見るが、それでも答えを間違える（関連性を結びつけられないため）。

この論文は、「賢い」だけでは不十分だと主張しています。AI は忠実である必要があります。つまり、その答えは実際に何を見ているかに直接結びついていなければなりません。

2. 解決策：「欠けたピース」ゲーム

AI が不正を止めるように教えるため、研究者たちは反事実的思考と呼ばれる特別なトレーニングゲームを作成しました。「ウォーリーはどこ？」というゲームを、少しひねって遊んでいると想像してください。

ラウンド 1（正のケース）: AI にヒントがはっきり見える完全な写真を見せます。AI はヒント（赤い帽子や特定の看板など）を見つけ、質問に答える必要があります。正解すれば、ゴールドスターが与えられます。
ラウンド 2（反事実的ケース）: ここが魔法のパートです。研究者たちは、AI が必要とする正確なヒント（赤い帽子など）を取り出し、黒い箱で覆います（マスキング）。そして、AI に同じ質問をします。
- AI がそれでも推測しようとした場合、大きなペナルティを受けます。
- AI が**「わかりません、ヒントがありません」**と言う場合、ゴールドスターが与えられます。
- これが重要な理由: これにより、証拠がない場合は答えを知ったふりをしてはいけないと AI に教えます。AI は幻覚を見るのではなく、無知を認めることを学びます。
ラウンド 3（ランダムマスキングケース）: 研究者たちは、重要ではない部分（空や背景の木など）を覆います。AI はそれでも正しく答えなければなりません。これにより、AI が「黒い箱」＝「答えない」と学習するのを防ぎます。AI は「欠けた証拠」と「無関係な背景」を区別することを学びます。

3. トレーニングプロセス：「評価された宿題」

研究者たちは、これらの質問を手作業で作成しませんでした（それは永遠にかかってしまいます）。代わりに、以下のロボットパイプラインを構築しました。

質問を読む。
画像の重要な部分（「シャツの文字」や「木の葉」など）を自動的に特定する。
これらの「覆い隠し」バージョンの画像を数千枚作成する。

彼らは AI を訓練するためにDeFacto-100K（10 万の例）と呼ばれる大規模なデータセットを作成しました。

その後、GRPO（グループ相対方策最適化）と呼ばれる特別なトレーニング手法を使用しました。これは、AI がゲームを 4 回連続でプレイするのを見守るコーチのようなものです。もし AI が他の 3 ラウンドの平均よりも 1 ラウンドでうまくいけば、報酬が与えられます。これにより、AI は一貫して学習します。常に証拠を探し、それがなければ「わかりません」と言う。

4. 結果：より良い生徒

彼らがこの新しい「DeFacto」AI を他のトップモデルと比較してテストしたところ、以下の結果が得られました。

より多くの質問に正解した。
だますのがはるかに難しかった。 証拠が隠されたとき、DeFacto AI は他のモデルが推測し続ける中で、はるかに頻繁に正しく「わかりません」と答えました。
より正直だった。 答えの理由をでっち上げるのをやめました。もし答えを正当化するために画像の特定の部分を指し示したなら、その部分には実際に証拠が含まれていました。

まとめ

要約すると、DeFactoは、AI モデルに正直な探偵になるよう教えるトレーニング手法です。単に「あり得る」ことに基づいて答えを推測するのではなく、以下のように訓練されます。

具体的な視覚的証拠を見つける。
証拠が欠けている場合は、知らないことを認める。
証拠がある場合は、それを使って答えを証明する。

この論文は、これにより AI の推論がより信頼性があり、現実に根ざしたものになり、聞こえは良いが真実ではない物語を作り出すのを防げると主張しています。

: 選択されたバウンディングボックスに明示的に基づく推論トレース。

<answer>: 最終的な予測。

2.3. 学習戦略：反事実的 GRPO

本フレームワークは、個別の値ネットワークを必要としない強化学習のために**グループ相対方策最適化（GRPO）**を利用する。学習目的は、3 つの構成要素からなる複合報酬関数（ $R$ ）によって導かれる。

回答正解性報酬（ $R_{ans}$ ）：
- 肯定的/ランダムなケース：正しい回答に報酬を与え、「不明」という応答にペナルティを課す。
- 反事実的ケース：「不明」という応答に報酬を与え、たとえ偶然正解であったとしても、具体的な推測に対して厳しくペナルティを課す。
フォーマット一貫性報酬（ $R_{fmt}$ ）： 出力が必須のスキーマ（有効な <bbox>、<bbox>、および <answer> タグ）に厳密に従うことを保証する。
領域選択の整合性報酬（ $R_{sel}$ ）：
- 予測されたバウンディングボックスと真の証拠領域（ $R^+$ ）との重なりに対して報酬を与える。
- 無関係な領域（ $R^-$ ）との重なりに対してペナルティを課す。
- 反事実的ケース（モデルが棄権すべき場合）における領域選択にはゼロ報酬を与える。

3. 主要な貢献

DeFacto フレームワーク： GRPO ベースの強化学習を通じて、回答の正解性と領域レベルの忠実性を同時に最適化する反事実的推論フレームワーク。
DeFacto-100K データセット： オープンボキャブラリー検出とターゲット証拠のマスクを人手なしで統合する、自動化された言語誘導パイプラインによって構築された大規模な反事実的データセット。
DeFacto-1.5K ベンチマーク： 単純な回答精度だけでなく、検出スタイルの指標（mAP、IoU）を精度と併用して、証拠に基づく一貫性を体系的に評価するように設計された人手アノテーションベンチマーク。
実証的検証： 強力なベースラインと比較して、DeFacto が多様なベンチマークにおいて回答精度と接地の忠実性の両方を向上させることを示す広範な実験。

4. 実験結果

著者は、Qwen2.5-VL-7B をバックボーンとして構築された DeFacto を、GRIT、DeepEyes、Visual-SR1、ViCrop などの最先端のベースラインに対して評価した。

一般的な VQA ベンチマーク： DeFacto は 6 つの一般的なベンチマーク（VQAv2、OKVQA、GQA、VSR）のうち 4 つで最良の性能を達成し、ベースの Qwen2.5-VL に対して大幅な改善を示した（例：VQAv2 で +5.1%、GQA で +10.7%）。
ドキュメントおよびテキスト中心のベンチマーク： 本モデルはドキュメント理解タスクで大幅な改善を示し、DocVQA で +2.0%、ChartQA で +7.7%、DeepForm で +17.7% 向上した。
忠実性評価（DeFacto-1.5K）：
- DeFacto は、検出スタイルの指標（mAP: 35.5、AP50: 49.8、AP75: 35.0）において最高合計スコアを達成した。
- 偽の正解性（GRIT の 11.6% に対して 5.6%）および誤った局所化かつ誤りのエラーを大幅に削減した。
- 優れた反事実的ロバスト性を示し、証拠がマスクされた場合の棄権精度が 64.1% であり、GRIT の 46.1% と比較して優れていた。

5. 意義と主張

本論文は、DeFacto が回答精度のみの最適化から証拠と回答の一貫性の強制への転換を表すと主張している。重要な視覚的証拠が欠落している場合にモデルが明示的に棄権するように訓練することで、DeFacto は言語事前知識や幻覚への依存を軽減する。

著者は、この研究を、領域に忠実な推論を強制するために反事実的監督に明示的に基づく最初の視覚言語推論フレームワークとして位置づけている。彼らは限界を認め、領域提案が既存の検出器に依存していること（ノイズを導入する可能性があること）と、現在の評価が静的画像に限定されており、動画や時間的推論が将来の方向性であることを指摘している。しかし、彼らは自身の発見が、マルチモーダル推論システムへの反事実的監督の統合に対する新たな方向性を開くことを主張している。