기술 요약: 제어 가능한 생성을 위한 시맨틱 스티어링 (Semantic Steering)

문제 정의

Stable Diffusion 3 시리즈 및 FLUX 시리즈와 같은 멀티모달 디퓨전 트랜스포머(MM-DiTs)는 기존 U-Net 기반 모델을 능가하는 품질과 해상도를 선보이며 텍스트-이미지 생성 분야에서 새로운 벤치마크를 수립했습니다. 그러나 이러한 강력한 생성 능력은 부적절한 콘텐츠(NSFW), 저작권이 있는 저작물, 실존 인물의 이미지 등을 합성할 수 있는 심각한 안전 위험을 동반합니다.

기존의 개념 삭제(concept erasure) 방법들은 MM-DiT에 적용할 때 다음과 같은 결정적인 한계에 직면합니다:

1. 파라미터 수정: 대부분의 방법은 모델 가중치를 미세 조정하거나 수정해야 합니다. 이러한 방식은 특정 아키텍처에 종속적이며, 계산 비용이 많이 들고, 대규모로 배포된 모델에는 비실용적입니다.
2. 튜닝 프리(Tuning-Free)의 한계: 네거티브 프롬프트(negative prompts)와 같은 프롬프트 기반 개입에 의존하는 현재의 튜닝 프리 접근 방식은 MM-DiT에서 어려움을 겪습니다. 광범위한 사전 학습으로 인해 MM-Di트는 내부 표현 속에 개념을 깊게 내재화하고 있어, 표면적인 프롬프트 엔지니어링으로는 이를 극복하기 어렵습니다. 또한, MM-Di트의 확장된 시맨틱 공간과 문맥 의존적인 텍스트 인코더(예: T5-XXL)는 네거티브 프롬프트가 암시적 연관성과 개념적 변이를 포착하는 데 효과적이지 않게 만듭니다.
3. 아키텍처 불일치: 대규모 언어 모델(LLM)이나 소규모 U-Net 아키텍처를 위해 설계된 방법들은 MM-DiT의 연속적이고 반복적인 디노이징 과정 및 이중 모달리티 아키텍처에 잘 적용되지 않습니다.

방법론

저자들은 모델의 내부 표현을 추론 과정에서 직접 조작하는 튜닝 프리 시맨틱 스티어링 방법을 제안합니다. 이 접근 방식은 MM-DiT 아키텍처와 그 생성 메커니즘에 대한 심층적인 분석에 기초합니다.

1. 블록별 역할 및 타임스텝 분석

경험적 분석(노이즈 주입 및 어텐션 맵 시각화)을 통해 저자들은 MM-DiT의 계층적 구조를 식별했습니다:

• 초기 블록(Early Blocks): 전역적인 이미지 구조를 인코딩합니다.
• 후기 블록(Late Blocks): 미세한 세부 사항을 정교화합니다.
• 중간 블록(Middle Blocks): 주로 대상 개념의 핵심적인 시맨틱 표현을 인코딩합니다.
• 중간 타임스텝(Intermediate Timesteps): 구조적 일관성과 시각적 세부 사항 사이의 균형을 맞추며, 대상 시맨틱을 가장 충실하게 표현합니다.

2. 스티어링 벡터 구축

이 방법은 중복되는 이미지 토큰(예: 4096개) 대신, 희소성이 높은 텍스트 브랜치(154~333개 토큰)를 활용합니다.

• 데이터 준비: 원하지 않는 개념($C^-$)을 포함하는 프롬프트와 동일한 문맥을 가진 바람직하고 안전한 개념($C^+$)을 포함하는 프롬프트로 구성된 쌍(paired prompts) 데이터셋을 생성합니다.
• 추출: 모델은 이러한 쌍을 중간 블록($b$)을 통해 처리합니다. 서로 다른 텍ual 토큰에 대한 출력 벡터를 텍스트 브랜치에서 추출합니다.
• 벡터 유도: 안전한 개념과 원하지 않는 개념의 표현 간 평균 차이를 계산하여 스티어링 벡터($v_{steer}$)를 구축합니다:
  $$v_{steer} = l \cdot \frac{v_b}{||v_b||}, \quad \text{여기서 } v_b = \frac{1}{n} \sum_{i=1}^{n} (x^+_{b,i} - x^-_{b,i})$$
  여기서 $l$은 경험적으로 결정되는 스티어링 강도 파라미터입니다.

3. 스티어링 벡터 주입

이미지를 왜곡하지 않으면서 일관된 가이드를 보장하기 위해, 벡터를 전략적으로 주입합니다:

• 공간적 전략(Spatial Strategy): 벡터를 연속적인 초기 및 중간 블록에 주입합니다. 중간/후기 블록에만 주입하면 효과가 없고, 초기 블록에만 주입하면 구조적 왜곡이 발생합니다. 여러 블록에 걸친 누적 효과는 통일된 시맨틱 변화를 보장합니다.
• 시간적 전략(Temporal Strategy): MM-DiT의 (직선적이고 결정론적인 경로를 따르는) 정류 흐름(rectified flow) 샘플링 궤적을 활용하여, 중간 타임스텝에서 계산된 동일한 스티어링 벡터를 모든 디노이징 단계에 일관되게 적용합니다. 이는 시간적 일관성을 확보하고 타임스텝별로 벡터를 새로 구축할 필요를 없애줍니다.

주요 기여

1. 경량 시맨틱 스티어링: 모델 파라미터를 수정하지 않고 추론 시점에 제어 가능한 개념 삭제를 달성하는, 대규모 MM-DiT 아키텍처에 최적화된 튜닝 프리 프레임워크를 제공합니다.
2. 아키텍처적 통찰: 이 설계는 블록별 생성 역할(중간 블록에서의 시맨틱 집중), 모달리티 간 정보 격차(희소한 텍스트 토큰 사용), 정류 흐름의 직선적 샘플링 궤적 등 MM-DiT의 특정 특성을 활용합니다.
3. 단일 벡터 효율성: 핵심 블록에 주로 주입되는 단 하나의 스티어링 벡터를 사용하여 효과적인 삭제를 달성하며, 계산 오버헤드가 거의 없습니다.
4. 포괄적 평가: 다양한 개념(유명인, 예술 스타일, 누드)을 삭제하면서도 이미지 품질과 견고함을 유지하는 SOTA(State-of-the-art) 성능을 광범위한 실험을 통해 입증했습니다.

실험 결과

본 방법은 Stable Diffusion-v3.5-medium 및 FLUX.1을 대상으로 세 가지 카테고리(유명인, 예술 스타일, 누드)에서 평가되었습니다.

• 삭제 효과성: 이 방법은 삭제 지표(GIPHY, LLaVA, Gram matrix, NudeNet)에서 베이스라인(Safe Latent Diffusion, TraSCE, 네거티브 프롬프팅 및 UCE, ESD와 같은 모델 수정 방식 포함)보다 우수한 성능을 보였습니다. 예를 들어, FLUX.1의 유명인 삭제 작업에서 UCE의 GIPHY 점수는 0.117, SLD는 0.433이었던 반면, 본 방법은 0.014를 기록했습니다.
• 이미지 품질: 본 방법은 미학적 품질과 전반적인 이미지 충실도를 보존하였으며, 낮은 FID 점수(관련 없는 이미지 생성에 미치는 영향이 최소임을 나타냄)와 경쟁력 있는 CLIP 점수를 달성했습니다.
• 견고성: 누드를 겨냥한 네 가지 유형의 적대적 공격(Ring-A-Bell, MMA-Diffusion, I2P, P4D)에 대해 탁월한 견고성을 입증하였으며, 테스트된 모든 방법 중 가장 낮은 NudeNet 점수를 기록했습니다.
• 제어 가능성: 단순히 개념을 억제하는 것을 넘어, 이 접근 방식은 **멀티 스타일 스티어링(multi-style steering)**을 허용하여 삭제된 개념을 특정하고 사용자가 정의한 안전한 스타일(예: "반 고흐 스타일"을 "만화" 또는 "수채화"로 변환)로 전환할 수 있게 합니다.

의의 및 주장

본 논문은 이 연구가 차세대 텍스트-이미지 모델의 안전성과 제어 가능성 측면에서 중요한 공백을 메운다고 주장합니다. 외부 프롬프트 엔지니어링에서 직접적인 내부 표현 개입으로 패러다임을 전환함으로써, MM-DiT에 대한 기존 튜닝 프리 접근 방식의 한계를 해결합니다.

저자들은 본 접근 방식이 다음과 같음을 강조합니다:

• 대규모 모델의 미세 조정과 관련된 계산 비용 및 배포 장벽을 피합니다.
• 프롬프트 기반 필터를 우회하는 적대적 공격에 대한 강력한 방어책을 제공합니다.
• 모델의 본질적인 생성 메커니즘을 이해함으로써, 최소한의 개입(단일 벡터)만으로 정밀한 시맨틱 제어가 가능하다는 것을 보여주며 향후 제어 가능한 생성 연구의 토대를 제공합니다.

결론적으로, 시맨틱 스티어링은 강력한 MM-DiT의 생성 능력을 저해하지 않으면서도 안전한 배포를 보장하기 위한 실행 가능하고 효과적인 전략입니다.