技術要約：拡散モデルのための局所性を考慮した継続的アンラーニング（LACU）

1. 問題提起

実世界のシナリオにおけるテキストto画像拡散モデルのデプロイには、継続的アンラーニング（Continual Unlearning: CUL）、すなわち、モデルの他のコンテンツを生成する能力を維持しながら、特定の概念（プライバシー、著作権、または安全規制によるもの）を逐次的に削除することが不可必須となります。

既存のアンラーニング手法は、主にシングルステップ（ワンショット）の削除を目的として設計されています。これらを逐次的に適用すると、急速な不安定性が生じ、通常3〜5ステップで崩壊します。著者らは、この失敗の原因となっている3つの累積的な要因を特定しています。

1. 粗いマッピングターゲット： 現在の手法は、多様な忘却プロンプトを単一の固定されたアンカー（例：空の文字列や一般的な概念）へとリダイレクトします。これにより、すべてのプロンプトに対してモデルのスコアフィールドに不必要な大きな変位が強制され、生成の忠実度の累積的な低下を引き起こします。
2. 局所的保護の欠如： アンラーニングは「波及効果」を引き起こし、意味的に隣接する概念（内部表現を共有するもの）が最も大きな副作用を被ります。既存のグローバルなリプレイ戦略は正則化を均一に分布させるため、これらの脆弱なローカル・ネイバーフッド（近傍）を保護することができません。
3. テキスト空間とモデル空間のミスマッチ： テキスト空間の類似性（CLIP埋め込みなど）に依存する手法は、拡散モデルがプロンプトを内部的にどのように処理しているかを正確に反映していません。CLIP空間で近いプロンプトであっても、極めて異なるノイズ予測を誘発する場合があり、これが逐次ステップにおけるエラーの蓄積を招く最適ではないターゲット選択につながります。

2. 手法：局所性を考慮した継続的アンラーニング（LACU）

著者らは、ターゲット選択とリプレイの両方を、単一のモデル認識原理である**スコア予測距離（Score-Prediction Distance）**に基づかせるフレームワーク、LACUを提案します。この指標は、共有されたノイズを含む潜在状態における2つのプロンプト間のノイズ予測の差を測定するものであり、モデル自身のデノイジング・ランドスケープ内における近接性を効果的に定量化します。

本フレームワークは、各継続ステップ $i$ において、凍結された前ステップのモデル $\hat{\theta}_{i-1}$ が教師（teacher）として機能し、更新されたモデル $\theta_i$ が生徒（student）となる、マルチオブジェクティブな教師・生徒プロセスとして動作します。総損失は以下のように定義されます：
$$\mathcal{L}_{\text{total}} = \lambda_{\text{unlearn}} \mathcal{L}_{\text{unlearn}} + \lambda_{\text{retain}} \mathcal{L}_{\text{retain}} + \lambda_{\text{reg}} \mathcal{L}_{\text{reg}}$$

主要コンポーネント：

1. 局所性を考慮したターゲット選択：

   • すべての忘却プロンプトを固定されたアンカーにマッピングする代わりに、LACUは各特定の忘却プロンプトに対して、文脈を保持した候補となる置換案を生成します。
   • 元の忘却プロンプトに対してスコア予測距離が最小となる候補を選択します。
   • 目標： 各ステップにおける学習済みスコアフィールドの摂動を最小限に抑え、更新が可能な限り小さく、かつターゲットを絞ったものになるようにします。

2. 局所性を考慮したリプレイ：

   • フレームワークは、モデルのノイズ予測空間において、忘却概念に最も近い保持概念を特定します（同じスコア予測距離指標を使用）。
   • これらの最近傍（nearest neighbors）を局所的な関数的正則化器としてリプレイします。
   • 目標： グローバルなリプレイ（脆弱な領域への投資が不十分）に頼るのではなく、最も脆弱な意味的近傍を直接保護することです。

3. 安定化メカニズム：

   • 教師・生徒蒸留（Teacher-Student Distillation）： 生徒は、選択されたマッピングターゲットおよび局所リプレイ近傍の両方において、教師の振る舞いを模倣します。
   • 軽量な $\ell_2$ 正則化： ペナルティ項（$\|\theta_i - \hat{\theta}_{i-1}\|_2^2$）によって、逐次ステップにおける累積的なパラメータ・ドリフトを制限します。

3. 主な貢献

• 逐次的不安定性の診断： 論文では、既存手法の継続的アンラーニングにおける崩壊の原因を、粗いマッピング、局所的保護の欠如、およびテキスト埋め込み類似性指標の不適切さに求めています。
• モデル認識型の局所性指標： テキスト埋め込み（CLIPなど）による類似性に代わり、モデルのデノイジング挙動の直接的な測定であるスコア予測距離を、優れた近接性指標として導入しました。
• デュアルコンポーネント・フレームワーク： 局所性を考慮したターゲット選択と局所性を考慮したリプレイを統合し、それらを同一の指標で結合することで、更新の大きさを最小化すると同時に、脆弱な近傍を保護することを同時に実現しました。
• 安定した10ステップのアンラーニング： ほとんどのベースラインが失敗する領域である10回の連続的なアンラーニングステップにおいても、LACUが安定した性能を維持することを実証しました。

4. 実験結果

著者らは、Stable Diffusion v1.5を用い、10種類の多様な概念（物体、芸術スタイル、個人）を5つのランダムな順序で逐次的にアンラーニングする評価を行いました。

• ベースラインとの比較：
  • 保持（Retention）： LACUは、関連保持精度（RRacc）および一般保持精度（GRacc）の両方において、最新のベースライン（ESD, UCE, AGE, DUGEなど）を大幅に上回ります。攻撃的なベースラインは高いアンラーニング精度を達成する一方で保持の崩壊（5〜10ステップ後にRRacc/GRaccがほぼ0に低下）を招きますが、LACUは高い保持スコア（例：10ステップ後でもRRacc $\approx$ 0.72, GRacc $\approx$ 0.87）を維持します。
  • アンラーニングの有効性： LACUは高いアンラーニング精度（Uacc $\approx$ 0.90–0.99）を達成し、無関係なコンテンツの生成能力を損なうことなく、ターゲットとなる概念を効果的に除去します。
• アブレーション研究：
  • 指標の選択： 選択においてスコア予測距離を使用することで、CLIPベースまたは素朴な固定アンカー選択と比較して、優れた長期的な安定性が得られることが示されました。
  • コンポーネントの寄与： 局所リプレイコンポーネントを除去すると、累積的な波及効果により保持の崩壊が起こります。正則化を除去すると、パラメータ・ドリフトが発生します。観察されたバランスを実現するには、両方の組み合わせが必要です。
• 定性的分析： 視覚的な比較により、ベースラインは（例：「Van Gogh」をアンラーニングした後に「Van Gogh スタイル」の生成に失敗するなど）保持された概念の品質を低下させる一方で、LACUはターゲットを正常に消去しつつ、保持された概念の生成品質を維持できることが示されました。

5. 意義と主張

本論文は、局所性を考慮した設計こそが、逐次的アンラーニングにおける安定性の鍵であると主張しています。アンラーニングを、グローバルなリダイレクションではなく、モデル自身の表現空間における一連の最小限かつ標的を絞った摂動として扱うことで、モデルの崩壊を招くエラーの蓄積を防いでいます。

著者らは、本手法がフル・リトレーニングを必要とせず、既存の拡散アーキテクチャと互換性があることを強調しています。しかし、以下の制限事項も述べています。

• 現在のメソッドは、候補プロンプトの生成にLLMに依存していますが、コアとなる選択ロジック自体はモデルに依存しません。
• スタイル概念は、広く共有された特徴を持つため、アンラーニングが依然として困難です。
• 実世界のデプロイメントでは、数百から数千の逐次的な削除が求められる可能性があり、これは未解決の課題です。
• 教師・生徒フレームワークは、凍結されたモデルのコピーを保持する必要があるため、単一モデルのアプローチと比較してメモリおよび計算のオーバーヘッドが増加します。

コードは https://github.com/SonyResearch/LACU で公開されています。