技術概要：3DEditSafe

問題定義

3D 生成編集、特に EditSplat などの 3D ガウススプラッティング（3DGS）パイプラインを利用した最近の進展は、テキストプロンプトを介して高忠実度かつ多視点整合的なシーン操作を可能にしています。しかし、これらのシステムは、基盤となる拡散モデルから安全性の脆弱性を継承しています。特定された核心的な問題は、安全でないプロンプト（例えば、過激な暴力、グロテスクな描写、または NSFW コンテンツを要求するもの）が単に孤立した安全でない 2D 画像を生成するに留まらないという点です。むしろ、2D 編集段階で導入された安全でない視覚的意味は、視点間で伝播し、多視点最適化を通じて最終的に最適化された 3D 表現に空間的に統合されてしまいます。

著者らは、主に 2D 生成段階で動作する既存の安全防御（Safe Latent Diffusion など）では不十分であると指摘しています。画像生成中に安全でない概念が部分的に抑制された場合でも、残存する安全でない信号は編集プロセスを生き延び、3D 最適化を通過し、新規視点から視認可能な一貫性のある望ましくない 3D コンテンツとして現れます。これは、安全でない意味が 3D 最適化プロセス中に蓄積・安定化されるという特定の安全課題を浮き彫りにしており、入力プロンプトや中間 2D 画像だけでなく、進化中の 3D 表現そのものに直接作用する安全メカニズムが必要であることを示しています。

手法：3DEditSafe

本論文は、3D ガウスシーンの最適化中に安全でない意味の伝播を制限するように設計された、安全性正則化された 3D 編集フレームワーク「3DEditSafe」を提案します。この手法は、事前生成フィルタリングのみに依存するのではなく、安全制約を直接 3D 最適化ループに統合します。

1. プロンプトリスク分析

システムは、安全正則化が必要かどうかを判断するためにリスクゲートを使用します。リスクスコアは以下の要素に基づいて計算されます。

• 意味的類似性: 入力プロンプトのテキスト埋め込みと、過激な暴力、グロテスクな描写、露骨なヌードなどのカテゴリを含む、事前に定義された安全でない概念の集合（$C_{unsafe}$）とのコサイン類似性。
• キーワード事前知識: 特定の安全でないトークンの存在に対する軽量なチェック。
  リスクスコアが閾値を超えた場合、安全メカニズムが活性化されます。そうでない場合は、標準的な編集パスに従います。重要なのは、このゲートがプロンプトを書き換えたりブロックしたりするのではなく、内部正則化をトリガーする点です。

2. 意味的安全投影

「拒否としての安全（safety as refusal）」（編集の質を低下させたり、プロンプトと 3D 幾何学の間にミスマッチを生じさせたりする可能性がある）を回避するため、3DEditSafe は安全を意味投影の問題として扱います。

• プロンプトと最も整合する安全でない概念の方向を特定します。
• 安全でない方向と整合する成分を除去することで、プロンプトの埋め込みを安全な部分空間に投影します。
• これにより、元の編集意図を保持しつつ特定の安全でない成分を抑制する「安全な意味方向（$E_{safe}$）」が得られます。この投影された方向は、手動のフォールバックプロンプトを必要とすることなく最適化を導きます。

3. レンダリングビュー 3D 安全正則化

核心的な革新は、最適化中に 3D シーンのレンダリングビューに対して直接安全を強制することです。総損失関数には以下が含まれます。

• 安全でない概念反発（$L^{3D}_{unsafe}$）: レンダリングビューの CLIP 画像埋め込みが安全でない概念と過度に整合する場合にペナルティを与える項。
• 安全な意味ガイダンス（$L^{3D}_{safe}$）: レンダリングビューが投影された安全な意味方向（$E_{safe}$）と整合することを促す項。これにより、編集はユーザーの意図に近いまま、安全な方法で行われることが保証されます。
• 残存抑制: 2D ターゲットマスクにおいて強い赤の飽和度や高い差異アーティファクト（暴力/グロテスクな描写で一般的）を示すピクセルを、最適化前のステップで元の画像にブレンドし、明らかな安全でない残存物が 3D シーンに焼き付けられるのを防ぎます。
• 保存損失: 編集されていない領域と元のオブジェクトマスクの整合性を維持するための項。

最終的な目的関数は、プロンプトリスクスコアで重み付けされたこれらの安全項と、標準的な編集損失を組み合わせます。

主要な貢献

1. 3D 編集の初の安全分析: 著者らは、テキスト駆動型の 3D 編集パイプラインが、安全でないプロンプトを永続的かつ視点整合的な NSFW 3D コンテンツに変換し得ることを実証しました。これは 2D 生成の失敗とは異なる現象です。
2. オブジェクト互換性の安全でないベンチマーク: 10 の EditSplat シーン全体にわたる 30 のプロンプト - シーンペア（20 の安全でないもの、10 の benign なもの）からなるベンチマークを構築しました。これは、編集可能な 3D オブジェクト（顔や動物など）に適合するように調整されています。
3. 安全意識型 3D 最適化: 3D 最適化中に安全でない意味の整合に直接ペナルティを与えつつ、元の編集指示を保持する、レンダリングビュー 3D 安全正則化の導入。
4. 制御されたトレードオフ: このフレームワークは、プロンプトを完全にブロックすることなく安全でないコンテンツの伝播を削減可能であることを示していますが、これには安全性と品質のトレードオフが伴います。

実験結果

著者らは、構築されたベンチマークにおいて、標準的な EditSplat および「2D 安全ガイダンス」ベースライン（生成段階の安全を使用するが 3D 正則化は使用しない）に対して 3DEditSafe を評価しました。

• 安全でない抑制: 3DEditSafe は、ビューレベルおよびシーンレベルの攻撃成功率（ASR）を大幅に削減しました。
  • ビューレベル ASR は、EditSplat の 0.347 から 3DEditSafe の 0.190 に低下しました。
  • シーンレベル ASR は、EditSplat の 0.722 から 3DEditSafe の 0.389 に低下しました。
  • 2D 安全ガイダンスベースラインは一貫性のない結果を示し、いくつかのケース（例：「Bear」オブジェクトにおいてシーン ASR が 1.000 のまま残るなど）でシーンレベルの安全でない統合を防げませんでした。
• 編集忠実度: 測定可能なトレードオフが存在します。3DEditSafe は、元の（安全でない）プロンプトに対する CLIP テキスト - 画像類似性が EditSplat よりも低く表示されました。これは、システムが安全でない意味を能動的に抑制するため、予想される結果です。
• 視覚的品質: 3DEditSafe は、視点全体にわたって明らかな安全でないコンテンツ（血、グロテスクな描写など）を正常に抑制しましたが、その結果得られた編集は、規制されていないベースラインと比較して、視覚的アーティファクトを示したり、忠実度が低下したりすることがありました。

意義と主張

本論文は、テキスト駆動型の 3D 編集パイプラインにおける安全でない生成を体系的に研究し、防御しようとする最初の試みであると主張しています。その主な意義は、3D 編集における安全性は 2D 生成段階のみで解決することはできず、3D 最適化プロセス自体が安全でない意味を強化・安定化させるメカニズムとして機能する点を特定したことにあります。

著者らは、3DEditSafe を安全な 3D 編集に向けた必要なステップとして位置づけ、効果的な防御には最適化された 3D 表現に直接作用するメカニズムが必要であることを強調しています。彼らは、自らの手法が安全でない伝播を削減する一方で、安全性と品質のトレードオフを導入することを控えめに認め、将来の研究として、安全な編集のリアリズムを向上させ、多視点 3D 安全のためのより堅牢な指標を開発する必要があることを示唆しています。