SAGA: 生成 AI 動画のソース帰属（Source Attribution）に関する技術的概要

本論文は、IEEE/CVF コンピュータビジョンおよびパターン認識カンファレンス（CVPR）2026 において発表された「SAGA (Source Attribution of Generative AI videos)」に関する研究です。生成 AI によって作成された動画の「真偽判定（Real/Fake）」だけでなく、「どの生成モデルによって作成されたか」を特定するソース帰属を大規模かつ効率的に行うための包括的なフレームワークを提案しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

---

1. 背景と問題定義

課題の背景

生成 AI（Text-to-Video, Image-to-Video など）の急速な発展により、極めてリアルな合成動画が生成可能になりました。これに伴い、誤情報や悪用（例：AI 生成の山火事動画によるパニック）のリスクが高まっています。

既存手法の限界

現在の防御策の多くは、動画が「本物か偽物か」を判定する**二値分類（Binary Detection）**に焦点を当てています。しかし、生成モデルが急速に多様化・進化している現状では、単に「偽物であること」を指摘するだけでは不十分です。

• 真の必要性: 「どのモデル（または開発チーム、バージョン）によって生成されたか」を特定する**ソース帰属（Source Attribution）**が、デジタルフォレンジック、知的財産権の保護、堅牢な敵対的対策の構築において不可欠です。

動画ソース帰属の特有の難しさ

画像のソース帰属とは異なり、動画には以下の 3 つの大きな障壁があります。

1. 時間的ダイナミクス: 動画にはフレーム間の時間的指纹（Temporal Fingerprints）や一貫性の欠如が存在し、静的な画像解析では捉えられません。
2. モデルの多様性: 動画生成パイプラインは多様なアーキテクチャ（フレーム合成、モーションモデルなど）を含むため、帰属空間が極めて複雑です。
3. 動画圧縮: 動画コーデックは複雑な時空間アーティファクトを導入し、生成モデル固有の微細な痕跡を隠蔽・破壊する可能性があります。

---

2. 提案手法：SAGA フレームワーク

SAGA は、5 つの粒度レベル（Authenticity, Task, Model Version, Team, Specific Generator）でソースを特定できる多粒度フレームワークです。

2.1. 2 段階トレーニング戦略（Data-Efficient Strategy）

ラベル付きデータが不足しているという現実的な課題に対し、**「事前学習（Pretrain）」と「適応（Adapt）」**の 2 段階アプローチを採用しています。

• Stage 1（事前学習）: 豊富な「本物/偽物」ラベルデータを用いて、バイナリ分類器（Real vs. Fake）として動画トランスフォーマーを事前学習します。これにより、強力な視覚表現を獲得します。
• Stage 2（適応）: 事前学習済みモデルを、ソース帰属タスク（多クラス分類）に適応させます。この段階では、各クラスあたりわずか 0.5% のラベル付きデータのみを使用します。

2.2. 動画トランスフォーマーアーキテクチャ

• 基盤: 頑健なビジョン基礎モデル（Vision Foundation Model）から抽出された特徴量を使用し、ドメインギャップを軽減します。
• 構造:
  • 空間エンコーダ: 各フレーム内のパッチ間の関係を捉えるために、フレームごとのトークンに対して空間的セルフアテンションを適用。
  • 時間エンコーダ: フレーム間の依存関係を捉えるために、フレームレベルの特徴ベクトル列に対して時間的セルフアテンションを適用。
• 特徴: 多ヘッドセルフアテンション（MHSA）を用いて、時間的な不整合やアーティファクトを効果的に捕捉します。

2.3. 対照的学習とハードネガティブマイニング（HNM）

Stage 2 では、少量データでの学習を可能にするため、単純な交差エントロピー損失（CE-loss）ではなく、**ハードネガティブマイニング（HNM）を組み合わせた対照的損失（Contrastive Loss）**を採用しています。

• HNM の役割: バッチ内で最も類似している「異なるクラス」のサンプル（ハードネガティブ）を特定し、それらをクラス間隔で分離させるようにモデルを強制します。
• 効果: 生成モデル間で埋め込み空間が重なり合う場合でも、HNM を用いることで明確な分離境界を形成し、CE-loss のみでは達成できない高精度を実現します。

2.4. 時間的注意シグネチャ（Temporal Attention Signatures: T-Sigs）

SAGA の最も革新的な解釈可能性（Interpretability）機能です。

• 仕組み: 特定のソースから生成された複数の動画において、フレーム間アテンションスコアを平均化することで、各生成モデル固有の「時間的指紋」を可視化します。
• 意義: なぜ異なる生成モデルが区別可能なのかを視覚的に説明します。特定の運動ダイナミクスやフレーム間の一貫性の欠如など、モデル固有の時間的アーティファクトを浮き彫りにします。

---

3. 主要な貢献

1. 大規模な多粒度ソース帰属フレームワークの提案:

   • 従来の二値検出を超え、以下の 5 つのレベルで帰属を可能にします：
     1. BIN-L: 本物/合成
     2. TASK-L: 生成タスク（T2V, I2V）
     3. SD-L: ベースモデルのバージョン（例：Stable Diffusion 1.4 vs 1.5）
     4. TEAM-L: 開発チーム
     5. GEN-L: 具体的なモデル ID
   • 19 の異なる動画生成モデルを対象とした大規模ベンチマークを確立しました。

2. 驚異的なデータ効率:

   • 各クラスあたり0.5% のラベル付きデータのみで、100% のデータを用いた完全教師あり学習と同等、あるいはそれ以上の性能を達成しました。

3. 解釈可能性の革新（T-Sigs）:

   • 合成動画のソース帰属において、モデルが「なぜ」区別できるかを視覚的に説明する初の手法（T-Sigs）を提案しました。これにより、未知の生成モデルに対してもその特徴を抽出・可視化できます。

4. 堅牢な評価:

   • 公開データセット（DeMamba, DVF）を用いたドメイン内およびドメイン間（クロスドメイン）の評価を行い、未見の生成モデルに対しても高い汎化性能を示しました。

---

4. 実験結果

• 二値分類（BIN-L）:
  • DeMamba および DVF データセットにおいて、既存の SOTA 手法（TALL, F3Net など）を大幅に上回る精度（DeMamba で 99.94%、DVF で 95.39%）を達成しました。特に、DeMamba で学習し DVF で評価するクロスドメイン設定でも高い汎化性を示しました。
• 多粒度帰属（TASK-L, SD-L, TEAM-L, GEN-L）:
  • 0.5% データ vs 100% データ: 2 段階学習と HNM を用いることで、0.5% データでも 100% データと同等の性能を達成しました（例：GEN-L タスクで 94.99% vs 97.41%）。
  • HNM の効果: HNM を導入しない場合（CE-loss のみ）、0.5% データでは GEN-L タスクの精度が 24.55% まで低下しましたが、HNM を追加することで 94.99% まで回復しました。
• 可視化（t-SNE & T-Sigs）:
  • t-SNE 可視化により、異なる生成モデルが明確なクラスターを形成していることが確認されました。
  • T-Sigs は、トレーニングデータに含まれていない「未見の生成モデル」に対しても、独自の時間的指紋を生成できることを示し、オープンセット認識への可能性を秘めています。

---

5. 意義と結論

SAGA は、生成 AI 動画の管理とガバナンスにおいて重要な転換点となる研究です。

• 実用性: 限られたラベルデータでも高精度に動作するため、急速に進化する生成モデルに対して迅速に対応できる実用的なツールとなります。
• 透明性: T-Sigs による解釈可能性は、法執行機関や規制当局が「なぜその動画が特定のモデルと判定されたか」を理解する上で不可欠です。
• 将来展望: 単なる「偽物検知」から「出所特定」へとパラダイムシフトを起こし、デジタルフォレンジックと AI 責任あるガバナンスの基盤となるベンチマークを確立しました。

本論文は、生成 AI 動画の真偽判定だけでなく、その出所（ソース）を特定し、その根拠を説明するという、より高度で実用的な課題に対する解決策を提示しています。