기술 요약: ScaleErasure

문제 정의

본 논문은 지배적인 확산 모델(Diffusion Models)과는 구별되는 패러다임인 차기 스케일 자기회귀(Next-scale Autoregressive, AR) 이미지 생성에서의 개념 삭제(Concept Erasure) 과제를 다룹니다. 개념 삭제는 모델이 일반적인 생성 능력은 유지하면서도 부적절한 콘텐츠(예: 누드, 저작권이 있는 캐릭터)를 생성하지 못하도록 방지하는 것을 목표로 하지만, 기존 방법들은 주로 확산 모델을 위해 설계되었으며 차기 스케일 AR 모델에 직접적으로 적용하기에는 어려움이 있습니다.

차기 스케일 AR 패러다임의 핵심 난제는 **심각한 의미론적 엉킴(Severe Semantic Entanglement)**에 있습니다. 고정된 해상도에서 작동하는 확산 모델과 달리, 차기 스케일 AR 모델은 매우 낮은 해상도(예: 1×1 또는 2×2 토큰)에서부터 거친 형태에서 세밀한 형태로 이미지를 생성합니다. 이 초기 스케일 단계에서는 의미 정보가 제한된 수의 토큰에 고도로 압축되어 있습니다. 결과적으로, 단일 토큰이 부적절한 의미(예: "누드")와 관련 없는 안전한 의미(예: "배경" 또는 "하늘")를 동시에 인코딩하는 경우가 많습니다. 이러한 엉킴 현상은 전체적인 이미지 구조나 무관한 콘텐츠를 훼손하지 않으면서 부적절한 개념만을 정밀하게 선택하여 삭제하는 것을 어렵게 만듭니다.

방법론: ScaleErasure

저자들은 예측된 로짓(Logits)을 선택적으로 가이드함으로써 **최소한의 개입(Minimal Intervention)**을 수행하는 추론 시점의 개념 삭제 방법인 ScaleErasure를 제안합니다. 이 방법은 모델 파라미터를 수정하지 않고, 추론 시점에 생성 과정을 조절하는 방식으로 작동합니다.

핵심 메커니즘

ScaleErasure는 부적절한 개념과 가장 관련이 깊은 로짓을 식별하고, 이를 대응하는 안전한 개념으로 유도합니다. 이는 **부적절한 개념(Unsafe Concept)**과 **안전한 개념(Safe Concept)**에 조건화된 두 번의 추가 순전파(Forward Pass)를 통해 이루어집니다. 최종 가이드된 로짓($\ell^\star_k$)은 바이너리 마스크($M_k$)에 의해 결정되는 표준 분류기-자유 가이드(Classifier-Free Guidance, CFG) 로짓과 새로운 안전 가이드(Safe Guidance, SG) 로짓의 조합입니다:
$$\ell^\star_k = M_k \cdot \ell^{SG}_k + (1 - M_k) \cdot \ell^{CFG}_k$$

정밀하고 최소한의 개입을 보장하기 위해, 로짓의 선택과 가이드 적용은 세 가지 직교하는 차원에서 수행됩니다:

1. 스케일 수준 선택 (Scale-Level Selection):

   • 근거: 초기 스케일(1×1, 2×2)은 전역적 구조를 포착하며 개입에 너무 민감합니다. 반면 후기 스케일은 부적절한 콘텐츠가 이미 고정된 고주파 세부 사항을 주로 정제합니다.
   • 전략: 가이드는 제한된 중간 범위의 스케일(예: 스케일 3~8)로 제한됩니다. 이는 또한 추가 순전파를 위한 **조기 종료 전략(Early-stop strategy)**을 가능하게 하여, 모든 스케일에 가이드를 적용할 때보다 계산 오버헤드를 크게 줄여줍니다.

2. 토큰 수준 선택 (Token-Level Selection):

   • 근거: 토큰 맵 내의 무관한 영역(예: 하늘 또는 배경)을 방해하는 것을 방지하기 위함입니다.
   • 전략: 이 방법은 모델의 내부 교차 주의(Cross-attention) 메커니즘을 활용합니다. 시각적 쿼리(Visual Queries)와 개념 키(Concept Keys, 부적절한 개념 vs 배경과 같은 무관한 개념) 사이의 유사도 점수를 계산합니다. 부적절한 개념과 관련성이 높은(임계값 $\tau_{token}$ 초과) 토큰은 개입 대상으로 선택되는 반면, 나머지는 보존됩니다.

3. 비트 채널 수준 선택 (Bit-Channel-Level Selection):

   • 근거: 차기 스케일 AR 모델(특히 이진 구형 양자화(Binary Spherical Quantization)를 사용하는 모델)은 여러 개의 독립적인 비트 채널을 통해 토큰을 표현합니다. 단일 토큰 내에서도 부적절한 비트와 안전한 비트가 공존할 수 있습니다.
   • 전략: 이 방법은 프롬프트 조건부 패스와 부적절한 개념 조건부 패스의 로짓 벡터를 비교합니다. 절대적 차이가 낮은(임계값 $\tau_{bit}$ 미만) 비트 채널은 부적절한 개념과 무관한 것으로 간주하여 가이드에서 제외합니다. 이를 통해 단일 토큰 내의 의미론적 분리를 미세하게 수행할 수 있습니다.

안전 가이드 공식 (Safe Guidance Formulation)

선택된 로짓에 대해, 이 방법은 프롬프트 조건부 로짓을 안전 가이드 버전으로 대체합니다. 가이드 공식은 잔여 부적절 활성화를 억제하기 위한 페널티 항을 포함합니다:
$$\ell^{SG}_k = \ell^{uc}_k + \beta_{CFG}(\ell^{sa}_k - \ell^{us}_k)$$
여기서 $\ell^{sa}_k$와 $\ell^{us}_k$는 각각 안전한 개념과 부적절한 개념에 조건화된 로짓입니다.

주요 기여

1. ScaleErasure 프레임워크: 저해상도에서의 심각한 의미론적 엉킴 문제를 해결하며, 차기 스케일 AR 패러다임에 특화된 새로운 추론 시점 개념 삭제 방법입니다.
2. 선택적 로짓 가이드 전략: 정밀한 개념 삭제를 가능하게 하면서 일반적인 생성 능력에 미치는 부수적인 피해를 최소화하는 3차원 선택 메커니즘(스케일, 토큰, 비트 채널)을 제공합니다.
3. 효율성 최적화: 추가 순전파를 위한 조기 종료 전략을 도입하여, 안전 성능을 유지하면서도 계산 비용과 추론 지연 시간을 실질적으로 감소시켰습니다.

실험 결과

이 방법은 Infinity-2B 모델을 대상으로 누드 삭제(I2P 벤치마크 사용) 및 저작권 삭제(피카츄 및 스폰지밥)의 두 영역에서 평가되었습니다.

• 누드 삭제: ScaleErasure는 MS-COCO에서 가장 낮은 FID(2.91)와 가장 높은 CLIP Score(30.68)를 기록하며 우수한 일반 생성 능력을 유지하는 동시에, I2P에서 가장 낮은 총 누드 수(두 번째로 우수한 베이스라인인 ESD-u의 296 대비 182)를 달-성했습니다.
• 저작권 삭제: 두 캐릭터 모두에서 억제와 보존의 균형을 맞추는 지표인 평균 $H_a$에서 최고의 성과를 거두며 일관된 효과를 입증했습니다.
• 정성적 성능: 시각적 비교 결과, ScaleErasula는 전역 구조와 배경 디테일을 보존하면서 부적절한 콘텐츠를 성공적으로 제거한 반면, 베이스라인들은 아티팩트나 왜곡을 유발하거나 개념을 완전히 삭제하지 못하는 모습을 보였습니다.
• 효율성: 조기 종료 전략을 채택함으로써, 모든 스케일에 가이드를 적용했을 때 발생하는 약 35%의 지연 시간 증가와 달리, ScaleErasure는 기본 모델 대비 약 9%의 지연 시간 증가만을 기록했습니다.

의의 및 주장

본 논문은 ScaleErasure가 안전 메커니즘 측면에서 거의 탐구되지 않았던 차기 스케일 자기회귀 모델을 안전하게 만드는 데 있어 중요한 진전임을 주장합니다. 저자들은 이 접근 방식이 심각한 의미론적 엉킴 조건 하에서도 정밀한 개념 삭제를 달 p성한다는 점을 강조합니다.

이 연구의 의의는 모델 파라미터를 영구적으로 변경하거나 모델의 일반적인 생성 충실도를 크게 저하시키지 않으면서 부적절한 콘텐츠(누드 또는 저작권 물질 등)를 억제할 수 있다는 점에 있습니다. 최소한의 개입을 통해 추론 시점에 작동하는 이 방법은, 신흥 AR 기반 이미지 생성 시스템의 안전성을 위한 유연하고 가역적이며 배포 가능한 솔루션을 제공합니다. 저자들은 이 방법이 안전성을 개선하지만, 특정 패러다임의 제약 내에서 작동하며 생성형 AI의 모든 안전 문제를 해결한다고 주장하는 것은 아님을 명시했습니다.