技術的概要：拡散モデルのための直交概念消去

問題定義

テキストから画像への（T2I）拡散モデルは卓越した生成能力を有しているが、望ましくない、安全でない、または著作権侵害となるコンテンツを生成しやすい傾向がある。概念消去はこれらのリスクを軽減するための重要な解決策として浮上しているが、既存のアプローチは、効果性、効率性、そして一般的な生成能力の維持との間で重大なトレードオフに直面している。

現在の手法は一般的に以下の 3 つのカテゴリーに分類される：

1. 推論時の介入：パラメータを変更することなくサンプリング軌道を調整する。これらは回避されやすいという弱点がある。
2. トレーニングベースの手法：概念を除去するためにモデルパラメータを微調整する。効果的である一方、高い計算コストがかかり、複数の最適化ラウンドを必要とするため、スケーラビリティが制限される。
3. 編集ベースの手法：閉形式解を用いてモデルパラメータを直接修正する。効率的であるが、既存の編集手法は通常、加法的パラメータ更新（$W + \Delta$）に依存している。著者らは、このパラダイムにおける核心的な限界を特定している：加法的更新は、本質的にニューロンの方向、大きさ、および角度幾何学の変化を絡み合わせることになる。概念の意味はニューロンの方向に強く依存する一方、全体的な生成能力は角度幾何学の維持に依存するため、加法的更新は不安定な消去と非対象概念の劣化をもたらす傾向がある。

手法：直交概念消去（OCE）

本論文は、**直交概念消去（OCE）**を提案する。これは、幾何学的駆動型の編集ベース手法であり、概念消去を加法擾乱ではなく、乗法的直交変換として再定式化するものである。

1. 幾何学的分析

著者らは、制御実験を通じて 2 つの重要な実証的主張を確立した：

• 主張 1（C1）：拡散モデルにおける概念の意味は主にニューロンの方向に符号化されており、ニューロンの大きさは意味表現にほとんど影響を与えない。
• 主張 2（C2）：角度幾何学（ニューロン間の角度と相関）を維持することは、モデルの全体的な生成品質を維持する上で決定的に重要である。

これに基づき、OCE は方向と大きさの両方を乱す加法的更新を回避する。代わりに、投影行列 $W$（特にクロスアテンション層におけるキー行列とバリュー行列）に対して、層ごとの直交変換 $P$ を適用し、$W^* = PW$ となるようにする。この操作は、ニューロンの方向を回転させて対象概念を消去しつつ、ニューロンの大きさおよびニューロン間の角度幾何学を厳密に維持する。

2. 問題定式化

本手法は、変換された対象概念とそのアンカーとの距離を最小化し、かつ変換された非対象概念とその元の表現との距離を最小化する直交行列 $P$（$P^\top P = I$）を見つける最適化問題として消去を定式化する。

• ベクトル単位の目的関数：単一概念消去の場合、目的関数は対象埋め込み $C_1$ をアンカー埋め込み $C^*$ に整合させ、保持セット $C_0$ を維持する。これは、特異値分解（SVD）を用いた古典的な直交プロクラステス問題として解かれ、閉形式解 $P = UV^\top$ が得られる。

• 部分空間レベルの目的関数：複数概念消去の場合、複数の対象に対して厳密なベクトル単位の整合を強制すると、矛盾する制約が生じる。OCE は目的関数を部分空間レベルの射影に拡張する。対象部分空間とアンカー部分空間を定義し、アンカー部分空間の直交補空間に存在する対象部分空間の成分を抑制することを目指す。これは、アンカーの直交補空間外の対象部分空間のエネルギーを最小化し、保持セットに対してベクトル単位の維持を組み合わせて達成される。

3. 実装詳細

• グローバル維持の事前知識（$K_0$）：グローバルな安定性を確保するため、本手法は大規模データセット（COCO-30k）から汎用的な維持の事前知識 $K_0$ を事前に計算し、異なる消去タスク間で再利用する。
• 非対称設計：本手法は非対称な定式を採用する：複数概念シナリオにおける矛盾を処理するための部分空間レベルの消去と、非対象概念の微細な維持を確保するためのベクトル単位の維持を組み合わせる。
• 敵対的ロバスト性：このフレームワークは、攻撃に対するロバスト性を向上させるために、敵対的編集戦略とシームレスに統合可能である。

主要な貢献

1. 幾何学的再定式化：OCE は、加法的から乗法的直交編集へのパラダイムシフトを導入する。これは、概念の意味が方向に依存し、生成能力が角度幾何学に依存するという観察に基づいて理論的に裏付けられている。
2. 閉形式解：本手法は、SVD による単一および複数概念消去の両方に対して、原理的かつ効率的な閉形式解を提供し、反復最適化の必要性を排除する。
3. スケーラブルな部分空間消去：ベクトル単位の消去を構造化された部分空間レベルの目的関数に拡張することで、OCE は大規模な複数概念消去（例：100 の概念を同時に消去）における矛盾する制約を効果的に解決する。
4. 広範な適用性：本手法は、U-Net ベースのモデル（Stable Diffusion v1.4）と DiT ベースのモデル（FLUX.1 dev）の両方に転移可能であることを示している。

実験結果

物体消去、芸術的スタイル消去、有名人消去、および暗黙の概念消去（敵対的攻撃を含む）において、広範な実験が行われた。

• 単一概念消去：CIFAR-10 物体消去において、OCE は最高の調和平均スコア（$H_o$）を達成し、平均消去失敗率（$A_{cce}$）を 4.61% に低減しつつ、非対象概念のほぼ完全な維持（$A_{ccs} \approx 98.68\%$）を維持した。UCE、MACE、SPEED などの最先端手法を上回った。
• 複数概念消去：OCE は、単一ステップで最大100 の有名人概念を正常に消去し、単一の A100 GPU 上で4.3 秒で処理を完了した。消去される概念の数が増加しても安定した性能を維持したが、他の手法は生成の崩壊または非対象維持の著しい劣化に見舞われた。
• 暗黙的消去とロバスト性：暗黙の概念消去（例：NSFW コンテンツ）および敵対的攻撃（Ring-A-Bell、MMA-Diffusion）の下で、OCE は強いロバスト性を示した。特に敵対的編集と統合された場合、一般的な生成品質（高い CLIP スコア、低い FID）を維持しつつ、低い攻撃成功率（ASR）を達成した。
• 転移性：本手法はコア編集ロジックのアーキテクチャ変更を必要とすることなく、FLUX.1 dev モデルに効果的に拡張され、物体、スタイル、有名人の効果的な消去を実現した。

意義と主張

本論文は、OCE が概念消去のための原理的、効率的、かつスケーラブルな解決策を提供すると主張している。加法的更新の幾何学的限界に対処することで、OCE は、正確な概念除去とモデルの内在的生成能力の維持との間で優れたバランスを達成する。

著者らは、OCE が生成 AI モデルの安全性と信頼性を向上させるための制御可能なメカニズムを提供することを強調している。これは、非関連概念への最小限の干渉で単一および複数概念消去をサポートし、コンテンツ作成、教育、公共プラットフォームにおけるより安全な AI の展開への実用的な道筋を提供する。この研究は、パラメータ空間に対する幾何学的視点こそが、拡散モデルのためのより効果的かつ安定した編集パラダイムへと導くことを示唆している。

認められた限界：
著者らは、SVD ベースの部分空間消去が非常に大規模なモデルにおいて計算オーバーヘッドをもたらす可能性があることに言及している。さらに、本手法は部分空間レベルで動作するため、生成された出力は微細なアンカー概念に正確に一致するのではなく、中間的な意味領域に陥る可能性があり、これは特定の編集タスクにおける適用性を制限する可能性がある。複雑な関係性または構成概念の消去については、さらなる探求が必要である。