GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning

技術要約：GUDA – アンラーニングによる拡散モデルのための反事実的なグループ単位データ帰属

1. 問題定義

視覚生成モデルにおける学習データの帰属（アトリビューション）は、どの学習データが特定の出力を生成する際に影響を与えたかを特定することを目的としています。既存の手法はインスタンスレベルの帰属（特定の学習サンプルを特定すること）に焦点を当てていますが、実務家はグループレベルの帰属（例：どの芸術的スタイルやオブジェクトクラスが生成に最も貢献したか）を必要とすることが多くあります。

核心となる課題は、グループの影響は非加算的かつ非線形であることです。単にインスタンスレベルのスコアを合計するだけでは、共有された表現内での相互作用を捉えることはできません。理論的な「ゴールドスタンダード」となるグループ帰属は、Leave-One-Group-Out (LOGO) 反事実モデルです。これは、特定のグループ $k$ が学習データから完全に欠如した場合に、生成されたサンプルに対するモデルの挙動がどのように変化するかを測定します。しかし、この反事実を実現するには、$N+1$ 個のモデル（フルデータモデル1つと、各グループを除去した$N$個のモデル）を再学習する必要があり、大規模な拡散モデルにおいては計算コスト的に不可能です。

2. メソドロジー：GUDA フレームワーク

著者らは、高価な LOGO 反事実モデルを、ゼロからの再学習ではなく**機械学習アンラーニング（Machine Unlearning）**を用いて近似するフレームワークである GUDA (Group Unlearning-based Data Attribution) を提案しています。

コア概念:
グループ $k$ を含まずに学習された $\theta_{logo}^{-k}$ をゼロから訓練する代わりに、GUDA はフルデータモデル $\theta_{full}$ から開始し、アンラーニング・オペレータを適用してグループ $k$ の影響を選択的に除去することで、近似的な反事実モデル $\theta_{ul}^{-k}$ を得ます。

帰属スコアリング (LOGOA):
帰属スコアは、フルモデルとアンラーニングされた反事実モデルの間の尤度ベースのスコアリングルール（具体的には Evidence Lower Bound、ELBO）の差として定義されます：
$$\text{GUDA}_k(x_0, c) = \text{ELBO}(x_0|c; \theta_{full}) - \text{ELBO}(x_0|c; \theta_{ul}^{-k})$$
正のスコアは、グループ $k$ がサンプル $(x_0, c)$ の生成に大きく貢献したことを示します。

アンラーニングの実装:
アンラーニングの目的関数は、以下の2つの項で構成されます：

1. 保持項 ($L_{preserve}$): アンラーニングされたモデルが保持セット ($D_{-k}$) に対する性能を維持することを保証するスコアマッチング損失であり、破滅的忘却を防ぎます。
2. 忘却項 ($L_{forget}$): 生成の設定によって異なります：
   • GUDA-U (無条件生成): ReTrack ベースのリダイレクションを利用します。忘却セット ($D_k$) からのサンプルを、保持セット ($D_{-k}$) から導出された重要度重み付きターゲットへとデノイズするようにモデルを訓練し、保持専用分布の事後平均を効果的に近似します。
   • GUDA-C (条件付きテキスト・トゥ・イメージ): スタイルグループの除去が画像とプロンプトの両方の分布をシフトさせてしまう課題に対処します。これには、Weighted Style-Selection Anchors を用います。忘却ペア（画像、プロンプト）に対して、コンテンツの説明は維持しつつ、スタイル記述子を保持セットからサンプリングされたもの（CLIP 重み付き類似度により選択）と入れ替えることで「アンカー」プロンプトを構築します。その後、モデルはこのアンカー条件下でのフルモデルの予測に一致するように訓練され、条件分布のミスマッチを解決します。

3. 主な貢献

1. グループ帰属の定式化: 本論文は、フルモデルとグループ除去モデルの間の ELBO の差に基づく反事実推定量 (LOGOA) としてグループ単位の帰属を定式化し、LOGO 再学習をオーラクル（真値）として確立しました。
2. アンラーニングによる近似: 反事実モデルを機械学習アンラーニングを通じて近似する実用的なフレームワークを導入し、CIFAR-10 において LOGO 再学習に対して $\sim 100\times$ の高速化を達成しました。
3. 2つの具体的な実装:
   • GUDA-U: 無条件拡散モデル向けに、ReTrack ベースの重要度重み付きリダイレクションを使用。
   • GUDA-C: 条件付きテキスト・トゥ・イメージ向けに、プロンプト分布のシフトを扱うための CLIP 重み付きスタイル選択アンカーを使用。
4. 実証的検証: GUDA が、セマンティック類似性ベースライン (CLIPA) やインスタンスレベルの集計手法 (DAS, TRAK, D-TRAK) よりも、主要な貢献グループの特定において優れていることを示しました。

4. 実験結果

著者らは2つのベンチマークで GUDA を評価しました：

• CIFAR-10 (無条件): 10 クラスと 2,048 個のクエリを用い、GUDA は LOGO オーラクルに対して 72.7% の Top-1 一致率を達成しました。これは CLIPA (66.2%) や勾配ベースの手法 (DAS: 71.6%) を上回っています（ただし DAS は大幅に低速）。GUDA は LOGO 再学習に対して $\sim 100\times$ の実時間（ウォールクロック）高速化を達成しました（2時間 vs 207時間）。
• UnlearnCanvas (条件付きテキスト・トゥ・イメージ): Stable Diffusion 1.5 と 16 の芸術的スタイルを用い、GUDA は 45.6% の Top-1 一致率を達成しました。これは CLIPA (33.8%) や、先行するアンラーニングベースの帰属手法（Wang et al., 2024、スコアはわずか 4.7%）を大幅に上回っています。また、GUDA は NDCG@3 および RBO メトリクスにおいても優れた性能を示し、最も影響力のあるスタイルとの高い整合性を示しました。

主な観察事項:

• アンラーニングの質が重要: ReTrack ベースのアンラーニングを用いた GUDA は、ESD (Erasing Stable Diffusion) アンラーニングを用いた GUDA よりも大幅に優れた性能を示し、ReTrack と LOGO 再学習の理論的なつながりを検証しました。
• 代替手法の限界: セマンティック類似性 (CLIPA) は反事実的なグループ効果を捉えることに失敗し、インスタンスレベルの手法はグループレベルの帰属へのスケールに苦しみ、ヘッド識別メトリクスにおいてほぼランダムに近い性能となりました。

5. 意義と主張

本論文は、GUDA が生成モデルの出力のプロベナンス（由来）をグループレベルで理解するための、スケーラブルで実用的なソリューションを提供すると主張しています。反事実的な再学習という理論的理想と、大規模モデルにおける計算上の現実との間の溝を埋めることで、GUDA は以下を可能にします：

• 公正な補償: どのデータグループ（例：アーティスト）が出力に貢献したかをより正確に特定する。
• デバッグ: 生成に悪影響を与える問題のあるデータソースやスタイルを特定する。
• 透明性: prohibitive なコストをかけることなく、生成モデルを監査する手法を提供する。

著者らは、GUDA は「認定された削除（certified deletion）」メカニメントではなく、帰属のための「計算上の近似」であることを強調しています。より LOGO に適合したアンラーニング手法が登場すれば、それらを GUDA フレームワークに統合することで、帰属の質をさらに向上させることができると述べています。本研究は、非線形なグループ間の相互作用を捉えられないインスタンスレベルの近似を超え、生成モデルのグループレベルの理解に向けた一歩として位置付けられています。