Detecting and Mitigating Memorization in Diffusion Models through Anisotropy of the Log-Probability

1. 문제 정의 (Problem Statement)

확산 모델(Diffusion Models)은 고품질 이미지를 생성하는 능력이 뛰어나지만, 학습 데이터의 일부 또는 전체를 그대로 복제하여 생성하는 '암기(Memorization)' 문제에 취약합니다. 이는 데이터 프라이버시, 저작권 침해, 평가 벤치마크의 편향성 문제를 야기합니다.

기존의 암기 탐지 방법들은 주로 **스코어 차이의 노름(Norm of score difference)**을 지표로 사용해 왔습니다. 즉, 조건부 스코어와 무조건부 스코어 사이의 차이가 클수록 암기된 샘플일 가능성이 높다고 판단합니다. 그러나 저자들은 이러한 노름 기반 지표가 로그 확률 분포가 모든 방향에서 동일한 곡률을 갖는 등방성(Isotropic) 상태일 때만 효과적이라는 한계를 지적합니다. 실제 저노이즈(Low-noise) 단계에서는 분포가 특정 방향으로 치우치는 비등방성(Anisotropic) 특성을 보이며, 이 경우 노름 기반 지표는 암기 여부를 제대로 구분하지 못하는 '위음성(False Negative)' 문제를 발생시킵니다.

2. 방법론 (Methodology)

본 논문은 로그 확률의 등방성과 비등방성 특성을 모두 활용하는 새로운 탐지 및 완화 메커니즘을 제안합니다.

A. 암기 탐지 지표 (Detection Metric)

저자들은 노이즈 수준에 따라 두 가지 레짐(Regime)을 결합한 새로운 지표 $M(x_T, c)$를 설계했습니다. 이 지표는 별도의 디노이징 과정 없이 단 두 번의 순방향 패스(Forward pass)만으로 계산 가능하여 매우 빠릅니다.

1. 등방성 레짐 (High-noise, $t \approx T$): 분포가 비교적 균일하므로, 기존 방식과 같이 조건부 스코어와 무조건부 스코어 차이의 **노름(Norm)**을 사용하여 전체적인 곡률(Curvature)을 측정합니다.
2. 비등방성 레짐 (Low-noise, $t \approx 0$): 분포가 특정 방향으로 날카로워지는 구간입니다. 저자들은 암기된 샘플의 경우, 조건부 가이드 벡터(Guidance vector)와 무조건부 스코어 사이의 **각도 정렬(Angular alignment, Cosine Similarity)**이 매우 높게 나타난다는 것을 이론적(Theorem 1) 및 실험적으로 증명했습니다. 즉, 암기된 모드에서는 가이드가 새로운 방향을 제시하기보다 기존의 무조건부 방향을 강화하는 경향이 있습니다.

최종 지표는 이 두 요소의 가중합으로 구성됩니다:
$$M(x_T, c) = \gamma_1 (\text{Cosine Similarity in Anisotropy}) + \gamma_2 (\text{Norm in Isotropy})$$

B. 암기 완화 (Mitigation Strategy)

탐지된 암기 위험을 줄이기 위해 프롬프트 증강(Prompt Augmentation) 기법을 사용합니다. 제안된 탐지 지표를 손실 함수(Loss function)로 설정하고, 텍스트 프롬프트 임베딩을 경사 하강법(Gradient Descent)으로 최적화하여 암기 가능성이 낮은 새로운 프롬프트 $c^*$를 찾아냅니다.

3. 주요 기여 (Key Contributions)

• 이론적 통찰: 기존 노름 기반 지표가 비등방성 분포(저노이즈 구간)에서 왜 실패하는지를 수학적으로 규명하고, 비등방성 구간에서의 암기 특징(높은 각도 정렬)을 새롭게 정의했습니다.
• 효율적인 탐지 알고리즘: 디노이징 과정 없이 단 두 번의 모델 호출만으로 암기를 탐지할 수 있는 Denoising-free 지표를 개발했습니다.
• 통합 프레임워크: 탐지(Detection)와 완화(Mitigation)를 하나의 일관된 프레임워크로 연결하여 실용성을 높였습니다.

4. 실험 결과 (Results)

• 탐지 성능 (Detection): Stable Diffusion v1.4 및 v2.0을 대상으로 실험한 결과, 기존의 최신 방법(Jeon et al., 2025)보다 AUC와 TPR@1%FPR 측면에서 우수한 성능을 보였습니다. 특히 엄격한 오탐률(False Positive Rate) 조건에서도 높은 탐지율을 유지했습니다.
• 효율성 (Efficiency): 기존의 가장 빠른 방법보다 약 5배 이상 빠르며, 복잡한 헤시안(Hessian) 계산이 필요 없어 매우 경제적입니다.
• 완화 성능 (Mitigation): MemBench 벤치마크 실험 결과, 제안된 방법은 생성된 이미지와 학습 데이터 간의 유사도(SSCD Similarity)를 크게 낮추면서도, 텍스트-이미지 정렬도(CLIP Score)와 이미지 미적 품질(Aesthetic Score)을 높게 유지하는 최적의 트레이드오프를 보여주었습니다.

5. 의의 (Significance)

본 연구는 확산 모델의 생성 역학을 기하학적 관점(등방성 vs 비등방성)에서 깊이 있게 분석함으로써, 생성 모델의 안전성과 신뢰성을 확보할 수 있는 빠르고 강력한 도구를 제공했습니다. 이는 향후 저작권 보호 및 데이터 프라이버시가 중요한 상용 생성 AI 서비스에서 실시간 암기 탐지 및 방지 기술로 활용될 가능성이 매우 높습니다.