Erasure or Erosion? Evaluating Compositional Degradation in Unlearned Text-To-Image Diffusion Models

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 텍스트 - 이미지 (T2I) 확산 모델은 콘텐츠 생성을 혁신했으나, 학습 데이터에 포함된 저작권 스타일이나 노골적인 이미지 (성적 노출 등) 와 같은 안전하지 않은 개념을 내포하고 있습니다. 모델을 처음부터 재학습 (Retraining) 하는 것은 비용이 너무 많이 들기 때문에, 사전 학습된 모델에서 특정 개념을 제거하는 사후 학습 제거 (Post-hoc Unlearning) 기법이 주목받고 있습니다.
• 문제점: 기존 연구들은 주로 지우기 성공률 (Erasure Success) 에만 초점을 맞추고 있습니다. 즉, 특정 개념 (예: 노출) 을 요청했을 때 생성되지 않도록 하는지 여부만 평가합니다.
• 핵심 가설: 단순히 특정 개념만 지우는 것이 아니라, 모델이 구성적 일반화 (Compositional Generalization) 능력을 유지하는지 여부가 중요합니다. 구성적 일반화란 속성 결합 (예: "초록색 바나나"), 공간적 관계, 개체 수 세기 등을 다양한 프롬프트에서 올바르게 수행하는 능력을 의미합니다.
• 가정: 학습 제거 과정에서 모델의 의미론적 구문 (Semantic Syntax) 이 손상되면, 특정 개념의 제거는 성공하더라도 모델의 전체적인 생성 능력이 붕괴될 수 있습니다. 즉, "안전한" 모델이 "기능적으로 망가진" 모델이 될 수 있습니다.

2. 연구 방법론 (Methodology)

이 연구는 Stable Diffusion 1.4 를 기반으로 한 다양한 학습 제거 방법들을 평가하기 위해 이중 평가 전략 (Dual-pronged Evaluation Strategy) 을 채택했습니다.

• 평가 대상 모델: ACE, ADV, ESD, EraseDiff, FMN, SPM, Salun, Scissorhands, UCE, MACE, RECELER 등 15 개 이상의 최신 학습 제거 방법.
• 평가 지표 및 벤치마크:
  1. 안전성 (Safety): I2P 벤치마크를 사용하여 노출 (Nudity) 제거 성공률 (Unlearning Accuracy, UA) 을 측정.
  2. 유용성 및 구성적 능력 (Utility & Compositionality):
     • T2I-CompBench++: 속성 결합, 공간적 추론, 수치 인식 등 다양한 구성적 능력을 평가.
     • GenEval: 단일 객체 인식, 두 객체 구성, 위치 관계, 색상, 개수 세기 등을 평가.
     • 중립 프롬프트 평가: 학습 제거된 개념을 제외한 중립적인 프롬프트 (예: "나체 남자" → "남자") 에 대해 생성된 이미지의 품질을 BVQA, CLIP Score, FID (Fréchet Inception Distance) 로 측정.
• 실험 설계: 모든 실험은 동일한 SD 1.4 백본에서 수행되어, 성능 차이가 아키텍처가 아닌 학습 제거 전략에서 기인함을 보장했습니다.

3. 주요 결과 (Key Results)

실험 결과는 학습 제거 효과와 구성적 무결성 사이의 명확한 트레이드오프 (Trade-off) 를 보여주었습니다.

• 구성적 능력의 저하:
  • 학습 제거가 효과적일수록 (높은 UA), 모델의 구성적 생성 능력은 심각하게 저하되었습니다.
  • T2I-CompBench++ 결과: 2D 공간적 관계 (2D-Spatial) 와 속성 결합 (Color, Texture) 이 가장 취약하게 저하되었습니다. 반면, 형태 (Shape) 는 상대적으로 덜 영향을 받았습니다.
  • GenEval 결과: 단일 객체 인식은 유지되는 경우가 많았으나, 두 객체 구성 (Two-object) 과 공간적 위치 (Position) 와 같은 관계형 기술에서 심각한 성능 저하가 발생했습니다.
• 방법론별 차이:
  • 강력한 지우기 (Aggressive Erasure): EraseDiff, Scissorhands, Salun, ADV 등은 높은 안전성 (UA ≈ 100%) 을 보였으나, 구성적 벤치마크에서 거의 붕괴 (Near-collapse) 되는 결과를 보였습니다. FID 점수도 급격히 나빠져 이미지 매니폴드 (Manifold) 가 손상되었음을 시사합니다.
  • 균형 잡힌 접근: ACE, SPM, UCE 등은 UA 가 다소 낮더라도 구성적 능력을 대부분 유지하거나 baseline 과 유사한 수준을 유지했습니다.
• 시각적 증거 (Qualitative Analysis):
  • 과도한 학습 제거는 모델이 토큰 정렬을 무시하거나, 모드 붕괴 (Mode Collapse) 를 일으켜 반복적인 배경 (예: 벽돌 벽) 만 생성하거나, 중심 편향 (Centroid Bias) 으로 인해 공간 지시를 무시하는 등의 현상을 유발했습니다. 이는 특정 개념의 '수술적 제거'가 아니라 모델 전체의 의미론적 논리가 파괴된 것을 의미합니다.

4. 주요 기여 (Key Contributions)

1. 새로운 평가 패러다임 제안: 학습 제거를 평가할 때 단순한 '지우기 성공'뿐만 아니라, 구성적 무결성 (Compositional Integrity) 과 의미론적 보존 (Semantic Preservation) 을 필수적으로 고려해야 함을 주장했습니다.
2. 체계적 실증 연구: T2I-CompBench++ 와 GenEval 을 활용하여 다양한 학습 제거 방법들이 모델의 구성적 능력에 미치는 영향을 정량화하고, 지우기 효과와 기능 저하 사이의 역상관 관계를 규명했습니다.
3. 현실적 한계 지적: 현재 널리 사용되는 평가 방법론의 한계를 지적하고, 단순히 안전성만 높은 모델은 "기능적으로 깨진 (Semantically Broken)" 모델일 수 있음을 보여주었습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 핵심 통찰: 학습 제거는 "지우기 (Erasure)"가 아니라, 모델의 구조를 "침식 (Erosion)"시키는 결과를 초래할 수 있습니다. 특히 공간적 관계와 세밀한 속성 결합이 손상되면 모델의 실용성이 크게 떨어집니다.
• 미래 방향: 향후 학습 제거 연구는 안전 준수 (Safety Compliance) 와 의미론적 보존 (Semantic Preservation) 을 동시에 최적화하는 새로운 목적 함수와 평가 기준을 개발해야 합니다.
• 결론: 기술적으로 안전하지만 의미론적으로 파괴된 모델은 신뢰할 수 없습니다. 따라서 학습 제거 기술은 모델의 생성적 유용성을 해치지 않으면서 표적 개념만 정밀하게 제거하는 방향으로 발전해야 합니다.

이 논문은 AI 안전성 연구 분야에서 "무엇을 지울 것인가"보다 "무엇을 어떻게 지워야 모델의 본질적 기능을 유지할 수 있는가" 라는 더 깊은 질문을 던진 중요한 연구로 평가됩니다.