💻 computer science

Closing the Safety Gap: Surgical Concept Erasure in Visual Autoregressive Models

本論文は、補助的な視覚トークンと特化した損失関数を活用することで、生成の品質と意味的な忠実度を維持しつつ、安全でない概念を排除するV-AREおよびS-VAREという、視覚的自己回帰モデルにおける外科的な概念消去を可能にする新しいフレームワークを導入するものである。

原著者： Xinhao Zhong, Yimin Zhou, Zhiqi Zhang, Junhao Li, Yi Sun, Bin Chen, Shu-Tao Xia, Xuan Wang, Ke Xu

公開日 2026-02-03

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Xinhao Zhong, Yimin Zhou, Zhiqi Zhang, Junhao Li, Yi Sun, Bin Chen, Shu-Tao Xia, Xuan Wang, Ke Xu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

非常に才能豊かで、超写実的なロボット・アーティストを想像してみてください。このアーティストは、キャンバス上で色を混ぜて絵を描くのではなく、レゴブロックを積み上げるように、ピクセルごとに画像を構築していきます。しかし、ここには一つ落とし穴があります。それは、このアーティストが、最初はぼやけた低解像度のスケッチから始まり、徐々に詳細を加えていくことで、層（レイヤー）を重ねて画像を作り上げていくという点です。これが**VAR（Visual Autoregressive）**モデルの仕組みです。これらはテキストから画像を作成することに長けていますが、不適切なもの（暴力的なシーンや裸体など）を描くよう指示されると、喜んでそれを作成してしまうという危険な欠点を持っています。

問題は、他のAIアーティスト（拡散モデルと呼ばれます）に使われている現在の「安全ツール」が、このレゴを積み上げるロボットには機能しないことです。これらの古いツールを新しいロボットに無理やり適用しようとするのは、デジタル時計を機械式時計用のハンマーで直そうとするようなもので、全体を壊してしまいます。

この論文は、このロボットの描画能力を損なうことなく、外科手術のように精密に修正する新しい方法を紹介しています。以下に、その手法を簡単な比喩を用いて説明します。

1. 問題点：「ドミノ倒し」のようなミス

従来の方法では、ロボットに何か悪いもの（例えば「教会」）を描かないように指示しようとする際、エンジニアはこう伝えます。「教会を描かず、代わりに一般的な建物を描きなさい」と。

しかし、ロボットは画像を層（レイヤー）ごとに構築するため（ぼやけた状態から鮮明な状態へ）、最初の層での小さなミスが第2層で増幅され、第3層では爆発的に拡大してしまいます。画像が完成する頃には、ロボットは何一つ正しく描けなくなっています。画像は溶けた塊のように見えるかもしれません。これを**誤差の累積（error accumulation）**と呼びます。

2. 解決策：「安定化ガイド」（VARE）

ロボットが崩壊するのを防ぐために、著者らは**「安定化ガイド」**を与えました。

木を描く練習をしている生徒を想像してください。単に「木を描くな」と言うのではなく、一般的な木の写真を提示して、「この写真を見て。そして、これに限りなく近いものを描いてみて。ただし、それが木であることを決定づける特定の枝の部分は描かないように」と指示するのです。

著者らは、ロボットのトレーニングに「補助的な視覚トークン（これらはガイドとなる画像です）」を追加しました。これにより、ロボットの各層の整合性が保たれます。これは、エラーの「ドミノ倒し」を防ぎ、禁止された概念を取り除こうとしている間も、ロボットが一貫性のある画像を構築し続けられるようにするためのものです。

3. メス：「フィルタリングされたクロスエントロピー」（S-VARE）

ロボットが安定した後、画像の他の部分を台無しにすることなく、特定の悪い概念を精密に取り除く方法が必要でした。

従来の方法： これは、トゲを抜くためにスレッジハンマー（大槌）を使うようなものです。ロボットの数学的処理を「安全なバージョン」に完全に一致させようとして、概念を消去しようとします。しかし、ロボットは滑らかなグラデーションではなく、デジタルな「ビット（オン/オフのスイッチ）」を扱うため、このハンマーによるアプローチはしばしば画像全体を粉砕してしまいます。
新しい方法（S-VARE）： 著者らは**「メス」**を考案しました。彼らは、ロボットが時折小さなミスを犯すものの、主要なアイデアについては概ね正しいということに気づきました。そこで、彼らは「フィルター」を作成しました。
- もしロボットがすでに画像の大部分を正しく捉えている場合（例：空と地面を正しく識別している場合）、メスはその部分を無視します。
- メスは、ロボットが「悪い」概念（裸体や特定の物体など）を描こうとしている特定の箇所に対してのみ、切り込み（調整）を入れます。
- これは、腫瘍だけに執刀し、健康な組織には手を触れない外科医のようなものです。

4. セーフティネット：「保存損失（Preservation Loss）」

特定の問題を修正しようとすると、意図せず他の部分を壊してしまうことがあります。例えば、「教会を描くな」と指示すると、ロボットが「あらゆる建物」を描く方法を忘れてしまったり、「空」という言葉の意味を理解できなくなったりすることがあります。これは「言語ドリフト（language drift）」と呼ばれます。

これを防ぐために、著者らは**「セーフティネット」**を追加しました。彼らは常にロボットに対し、「教会を取り除いている間も、空、草、そしてライティングを、以前と同じように描くように」とリマインドし続けました。これにより、ロボットが特定の禁止されたアイテムを描く能力だけを失いながら、一般的な芸術的スキルは維持できるようにしています。

結果

著者らは、この手法を「Infinity」というモデルでテストしました。その結果は驚異的でした。

成功率97%： センシティブなコンテンツ（裸体や教会などの特定の物体）を描画することを阻止することに成功しました。
最小限のダメージ： 他のものを描く能力の低下は2%未満でした。ロボットは依然として美しく高品質な画像を生成できます。
堅牢性（ロバストネス）： 人々が混乱を招くような、あるいは「敵対的な」プロンプト（悪い概念を紛れ込ませようとする試み）を使用した場合でも、ロボットは依然としてそれを描画することを拒否しました。

要約すると： 著者らは、安定化ガイド、外科用メス、そしてセーフティネットのすべてを兼ね備えた新しいフレームワークを構築しました。これにより、次世代の画像生成AIの芸術的創造能力を破壊することなく、危険な概念を外科手術のように精密に取り除くことが可能になったのです。

テクニカルサマリー：セーフティ・ギャップを埋める：視覚的自己回帰モデルにおける概念消去

問題提起

Infinityのような視覚的自己回帰（Visual Autoregressive: VAR）モデルの急速な進歩は、プログレッシブに拡大するスケールで視覚的トークンを予測することにより、テキストからの画像生成の品質と速度を大幅に向上させました。しかし、これらのモデルには効果的なセーフティ・メカニズムが欠けており、不適切なプロンプトに対して不安全なコンテンツ（例：NSFW画像、暴力、または著作権侵害の素材）を生成してしまう可能性があります。

既存の概念消去（Concept Erasure: CE）技術は、主に拡散モデル（例：U-NetやFLUXアーキテクチャ）向けに設計されており、以下の根本的なアーキテクチャの違いにより、VARモデルへの汎用性に欠けています。

予測パラダイム： 拡散モデルは連続空間におけるノイズを予測しますが、VARモデルは階層的な自己回帰形式で離散的な視覚的トークンを予測します。
誤差の蓄積： 拡散ベースのCE手法（個々のスケールで予測を整合させる手法）を、単純にVARに適用すると、スケールをまたいだ累積誤差が生じます。VARの生成は高度に自己回帰的であるため（各トークンは前の粗いスケールのトークンに依存する）、独立したアライメントを行うと、深刻な画質崩壊や意味論的な歪みを引き起こします。
最適化のミスマッチ： 拡散消去で使用される標準的な回帰損失（例：平均二乗誤差）は、VARにおけるトークン予測の離散的な確率空間には適しておらず、最適化を不安定にします。

手法

著者らは、これらの課題に対処するための2段階のフレームメントを提案しています。それが VARErasure（基礎となるフレームワーク）と S-VARE（外科的な消去手法）です。

1. VARErasure フレームワーク：補助的視覚トークン

スケール間の誤差蓄積を防ぐために、著者らは**補助的視覚トークン（auxiliary visual tokens）**を活用するフレームワークを導入しています。

メカニズム： 中立的なプロンプトに基づいてゼロからトークンを生成するようにモデルを訓練するのではなく、このフレームワークでは、元のモデルから生成された補助的トークン（元のプロンプト $c^*$ または中立的なプロンプト $c$ を使用）を、追加の入力として視覚トランスフォーマーに提供します。
効果： これにより、ファインチューニングされたモデルは、全体の生成挙動（構造と意味論）をほぼ維持したまま、ターゲットとなる概念を考慮するためにクロスアテンションの応答を調整することに集中できます。これにより、単純なファインチューニングで見られる「崩壊」を軽減します。

2. S-VARE：外科的概念消去

VAREに基づき、著者らは標準的な回帰損失を、離散的なトークン予測に特化したカスタム損失関数に置き換えた S-VARE を導入しています。

フィルタリング済みクロスエントロピー損失 ( $L_{FCE}$ ):
- VARモデル（Infinityなど）が予測を確率空間に投影するためにバイナリ球面量子化（BSQ）を使用していることを認識し、著者らはMSEをクロスエントロピーに置き換えました。
- フィルタリング戦略： 過剰な最適化（モデルが正しいトークンまで劣化してしまう現象）を避けるため、2段階のフィルタリング戦略を適用しています。
  1. ビットレベル： バイナリ分類精度に基づく閾値 $\gamma$ を使用します。
  2. トークンレベル： 不正確なビットの割合が閾値 $\alpha$ （モデルの自己修正範囲と一致する25%に設定）を下回る場合、そのトークンを損失計算から除外します。
- これにより、重大な意味論的不一致を持つトークンのみが勾配に寄与することを保証し、「外科的」な除去を可能にします。
保存損失 ( $L_{Pre}$ ):
- 言語ドリフトや多様性の低下といったファインチューニングの副作用に対抗するため、保存損失が導入されています。
- メカニズム： ファインチューニングされたモデルの出力（中立的なプロンプト $c$ を使用）を、カルバック・ライブラー（KL）ダイバージェンスを用いて、元の事前学習済みモデルの出力と整合させます。
- 目的： これにより、ファインチューニングされたモデルが、消去対象とは無関係な概念に対して、元のモデルの生成能力と多様性を保持することを保証します。

主な貢献

体系的な分析： 本論文は、拡散ベースのCE手法をVARモデルに適用する際の限界を体系的に分析した初めての研究であり、誤差の蓄積と最適化のミスマッチを主要な失敗要因として特定しました。
VAREフレームワーク： 生成を安定させ、最適化の探索空間を縮小することで、画質の崩壊を防ぐ、補助的視覚トークンを利用した新しいフレームワークを提案しています。
S-VARE手法： 以下の特徴を持つ外科的消去手法を導入しました。
- VAR予測の離散的な性質を尊重しつつ、不安全なトークンを正確にターゲットとするフィルタリング済みクロスエントロピー損失 ( $L_{FCE}$ )。
- 意味論的な忠実度と出力の多様性を維持する保存損失 ( $L_{Pre}$ )。
実証的検証： 本手法が、生成品質の低下を最小限に抑えつつ（CLIPスコアの低下は2%未満）、高い消去率（機密概念の97%）を達成することを実証しました。

実験結果

著者らは、3つの消去カテゴリ（NSFW（裸体）、オブジェクト（例：「教会」）、スタイル（例：「ゴッホ」））について、Infinity-2B モデルを用いてS-VAREを評価しました。

NSFW消去： 本手法は、正常な身体部位の生成を維持しながら、裸体の概念をほぼ完全に消去（機密コンテンツの検出を大幅に減少）しました。これは、効果的な消去に失敗するか、あるいは画質を著しく低下させたESD、UCE、FMNなどのベースラインを上回る結果となりました。
オブジェクトおよびスタイル消去： 本手法は、無関係なクラスに対する高い分類精度を維持しつつ、ターゲットとなるオブジェクトやスタイルを正常に除去し、多様で高品質な画像を生成するモデルの能力を維持しました。
堅牢性： 裸体を誘発するように設計された敵対的プロンプトデータセット（Ring-A-Bell, MMA, I2P）に対してテストした結果、S-VAREは元のモデルや他のベースラインと比較して、敵対的成功率（ASR）を大幅に減少させました。
アブレーション研究： フィルタリング済みクロスエントロピー損失が消去の有効性に不可欠であり、保存損失が生成品質と指示への忠実度を維持するために不可欠であることを確認しました。

重要性と主張

本論文は、セーフティ・ギャップを閉じることを主張しています。従来のメソッドは拡散モデルには効果的でしたが、新興のクラスであるVARモデルには適用できませんでした。VAREとS-VAREを導入することで、著者らは、VARのための初の効果的かつ外科的な概念消去ソリューションを提供しました。

この研究は、大規模な自己回帰モデルから、ゼロからの再学習という非現実的な計算負荷や、単純なファインチューニングに伴う深刻な品質低下を伴うことなく、望ましくない概念を取り除くことが可能であることを示しています。これにより、実世界のアプリケーションにおけるVARベースの生成システムの安全かつスケーラブルな展開が促進されます。