技術概要：Ivy-Fake と Ivy-xDetector

問題定義

Sora、DALL-E、Stable Diffusion などの拡散モデルに支えられた人工知能生成コンテンツ（AIGC）の急速な進展は、真実と捏造の境界を曖昧にする高品質な合成メディアを生み出しており、誤情報の拡散、文書改ざん、データセット汚染など、重大なセキュリティリスクをもたらしている。

現在の検出アプローチは、主に以下の 2 つの限界に直面している：

1. 多次元で説明可能なデータセットの欠如：既存のオープンソースデータセット（WildFake、GenVideo など）は、主に単純化された二値ラベル（実/偽）に依存している。これにより、訓練された検出器の説明可能性と信頼性が制限され、予測に対する詳細な根拠を提供することができない。さらに、既存のリソースは断片的であり、画像に特化したもの（FakeClue など）や動画に特化したものがあり、マルチモーダル検出のための統一されたベンチマークが欠けている。
2. MLLM ベースの検出器における解釈性の不足：従来のマルチモーダル大規模言語モデル（MLLM）検出器（FakeVLM など）は、粗粒度の解釈性を示す傾向がある。その段階的な推論は、アーティファクトの信頼性の高い局所化や、合成指紋の包括的な説明に必要な微細な詳細を欠いている。

手法

1. Ivy-Fake：統一ベンチマーク

著者は、画像と動画の両方における説明可能な AIGC 検出のために設計された、初の大規模マルチモーダルベンチマークであるIvy-Fakeを導入する。

• データ規模と構成：このデータセットは、106,000 件以上のトレーニングサンプル（61,107 件の画像と 45,272 件の動画）および5,000 件の手動検証済み評価例で構成されている。
• データソース：データは、多様な公開データセット（GenVideo、LOKI、FakeClue、WildFake、Kinetics-400、MMFakeBench、GenImage、DiffusionForensics）から収集され、最先端モデル（FLUX.1、Lora Flux、Qwen-Image）を使用して生成された。
• アノテーション戦略：二値ラベルとは異なり、Ivy-Fake は 2 つの主要な次元に分類される、豊富で微細なアノテーションを提供する：
  • 空間的特徴：画像と動画の両方に適用可能で、8 つのサブ次元を網羅する：非現実的な輝度、局所的なぼかし、判読不能な文字、欠落したコンポーネント、空間的関係、歪んだコンポーネント、色的不規則性、異常なテクスチャ。
  • 時間的特徴：動画にのみ固有で、4 つのサブ次元を網羅する：輝度の不一致、不自然な表情、重複したコンポーネント、非空間的関係。
• 品質管理：破損ファイル、解像度制約、ニアダブレット除去を含む自動フィルタリングと、10 人のユーザーによる約 1,000 時間にわたる人間による検証を含む厳格なパイプラインにより、データの完全性が保証されている。最終テストセットには、実と偽のインスタンスがバランスよく配置された 2,500 件の画像と 2,500 件の動画が含まれている。

2. Ivy-xDetector：強化学習ファインチューニング済み MLLM

Ivy-Fake データセットを活用するために、著者は堅牢な検出と説明可能な推論のために設計されたマルチモーダル大規模言語モデルIvy-xDetectorを提案する。

• トレーニングパイプライン：このモデルは 2 段階のトレーニングプロセスを経る：
  1. 指示駆動型コールドスタート（SFT）：Gemini 2.5 Pro によって生成された検出および説明のための思考の連鎖（CoT）データを使用してモデルを初期化する。この段階では、ベースモデル（Qwen2.5-VL-3B）に微細なアーティファクト知覚と説明能力が注入される。
  2. 検証可能報酬による強化学習（RLVR）：モデルは**グループ相対方策最適化（GRPO）**を使用してさらに最適化される。この段階では、以下のルールベースの報酬システムを利用する：
     • 精度報酬：<conclusion> タグが正解（実/偽）と一致する場合、スコア 1 を付与する。
     • 形式報酬：出力が構造的要件（<thought> 内の推論、<conclusion> 内の決定）を厳密に守る場合、スコア 1 を付与する。
• 効率性：Ivy-xDetector は、200,000 件未満のサンプルで最先端のパフォーマンスを達成しており、数百万のデータポイントに依存することが多い既存の検出器と比較して大幅な削減を実現している。

主な貢献

1. Ivy-Fake データセット：画像と動画の両方を網羅する、説明可能な AIGC 検出のための初の大規模統一データセット。106K 件以上のトレーニングサンプルを備え、微細な視覚アノテーションとテキスト推論を特徴とする。
2. Ivy-xDetector モデル：生成アーティファクト（画像では空間的、動画では空間的および時間的）の検出と、人間が理解できる推論連鎖の生成に優れた、強化学習ベースの MLLM。
3. 包括的評価：データセットとモデルを検証する広範な実験により、合成コンテンツ検出におけるマルチモーダル大規模モデルの能力向上への影響を実証している。

実験結果

著者は、GenImage、GenVideo、Chameleon、および内部 Ivy-Fake テストセットを含む複数のベンチマークで広範な評価を実施した。

• Ivy-Fake におけるパフォーマンス：Ivy-xDetector は、全体の精度86.4%、F1 スコア86.4%を達成し、InternVL3.5 や Qwen2.5-VL などの他のオープンソースモデルを上回り、77.9% の精度を記録した Gemini-2.5-Flash などのクローズドソースモデルのパフォーマンスに迫った。特に、Ivy-xDetector は優れた解釈性を示し、最良のオープンソースベースラインの 3.54 に対して、平均説明スコア3.85（1〜5 段階評価）を達成し、検出精度においてもそれらを大幅に上回った。
• 汎化能力：
  • GenImage（画像）：Ivy-xDetector は、Midjourney、Stable Diffusion などの各種ジェネレーターにおいて**96.32%**の平均精度を達成し、AIDE（86.88%）や DRCT（89.50%）などの以前の最先端手法を上回った。
  • GenVideo（動画）：このモデルは、平均 F1 スコア95.26%、リコール**95.28%**を達成し、以前の SOTA である DeMamba（F1 = 90.20%）を上回った。
  • Chameleon（未見ドメイン）：Chameleon ベンチマークにおいて、Ivy-xDetector は**73.17%**の全体の精度を達成し、実カテゴリに過剰適合する傾向があった AIDE に比べ、実と偽のクラス間でよりバランスの取れたパフォーマンスを示した。
• データ効率：このモデルは、競合他社が数百万のサンプルを必要とする場合が多いのに対し（例：DeMamba は 229.5 万件の動画を使用）、大幅に少ないトレーニングサンプル（約 13 万枚の画像と 6.4 万件の動画）でこれらの結果を達成した。

意義と主張

本論文は、Ivy-Fake と Ivy-xDetector が、画像と動画の検出を単一の説明可能なフレームワークに統合することで、AIGC 検出の分野における重要なギャップを埋めると主張している。著者は以下の点を強調している：

• 説明可能性の重要性：二値分類を超えて、詳細で多次元の推論へと移行することは、信頼性を高め、合成アーティファクトのより良い局所化を可能にする。
• 効率性：微細な推論を含むデータが提供される限り、数百万のラベルなしコーパスではなく、小規模で高品質、豊かにアノテーションされたデータセットでも高パフォーマンスを達成できる。
• 統一アプローチ：単一のモデルが、画像の空間的異常と動画の空間的・時間的異常の両方を効果的に処理でき、従来の画像のみまたは動画のみのソリューションの断片化を克服する。

著者は、この研究が透明性のある信頼性の高いマルチモーダル分析のための堅牢な基盤を提供し、このような微細な説明可能性データが AIGC 検出コミュニティにおける新たな研究方向を触発し得ると結論づけている。また、限界を認め、今後の研究として DeepFake や文書操作などのドメイン固有のシナリオへのベンチマークの拡張、およびアプローチの 32B や 72B パラメータなどの大規模モデルへのスケーリング可能性を示唆している。