Mitigating Memorization in Text-to-Image Diffusion via Region-Aware Prompt Augmentation and Multimodal Copy Detection

이 논문은 텍스트-이미지 확산 모델의 저작권 및 개인정보 침해 위험을 완화하기 위해, 훈련 중 의미론적 정렬을 유지하면서 과적합을 줄이는 '지역 인식 프롬프트 증강 (RAPTA)'과 대규모 주석 데이터 없이도 복제를 효과적으로 탐지하는 '주도 멀티모달 복제 탐지 (ADMCD)'라는 두 가지 방법을 제안하고 그 유효성을 입증합니다.

핵심

이 논문은 최근 화두가 되고 있는 'AI 그림 생성 기술 (텍스트를 입력하면 그림을 그려주는 모델)'이 학습했던 원본 그림들을 그대로 베끼거나 너무 비슷하게 만들어내는 문제를 해결하기 위한 두 가지 혁신적인 방법을 소개합니다.

비유하자면, 이 기술은 **"AI 가 그림을 그릴 때 '창의적인 재해석'을 하도록 유도하고, 만약 '도용'을 했다면 그것을 정확히 찾아내는 감시 시스템"**을 개발한 것입니다.

두 가지 핵심 기술을 일상적인 비유로 설명해 드릴게요.

---

1. RAPTA: "창의적인 요리사에게 레시피를 다양하게 바꿔달라고 요청하기"

(Region-Aware Prompt Augmentation)

상황:
기존의 AI 는 "고양이를 그려줘"라고 하면, 학습 데이터에 있던 특정 고양이 사진 (예: '누구네 집의 흰 고양이') 을 기억해내서 그걸 그대로 그려버리는 경향이 있습니다. 마치 요리사가 레시피를 외워서 똑같은 요리만 반복하는 것과 같습니다.

해결책 (RAPTA):
이 방법은 AI 가 그림을 그리는 학습 과정에서 개입합니다.

• 비유: AI 가 "고양이"를 그릴 때, 단순히 "고양이"라고만 말하지 않고, **"오른쪽 구석에 있는 누런 고양이"**나 **"왼쪽에서 뛰어오르는 검은 고양이"**처럼 구체적인 위치와 특징을 넣어주며 레시피를 바꿉니다.
• 작동 원리:
  1. AI 가 학습할 때, 먼저 그림 속의 주요 객체 (고양이, 개, 자동차 등) 를 찾아냅니다.
  2. 그 객체가 그림의 어디에 있는지 (위쪽, 왼쪽 등) 를 분석합니다.
  3. AI 에게 "그냥 고양이"가 아니라, **"왼쪽 구석에 있는 고양이"**처럼 위치 정보가 포함된 다양한 문장을 무작위로 골라주며 학습시킵니다.
• 효과: AI 는 특정 한 장의 그림을 통째로 외우는 대신, "고양이"라는 개념을 다양한 위치와 형태로 이해하게 됩니다. 결과적으로 원본 그림을 그대로 베끼는 일은 줄어들지만, 그림의 퀄리티와 의미는 그대로 유지됩니다.

---

2. ADMCD: "세 가지 눈으로 보는 정교한 위조지폐 탐지기"

(Attention-Driven Multimodal Copy Detection)

상황:
AI 가 그린 그림이 원본과 너무 비슷한지, 아니면 단순히 스타일만 닮은 것인지 구별하는 것은 매우 어렵습니다. 기존 기술들은 그림의 '색감'만 보거나 '전체적인 느낌'만 봐서, 위조지폐를 진짜로 오인하거나 진짜 위조를 놓치는 경우가 많았습니다.

해결책 (ADMCD):
이 방법은 AI 가 그린 그림과 원본을 비교할 때 세 가지 다른 '눈'을 동시에 사용합니다.

• 비유: 위조지폐를 검사할 때, 한 사람만 보는 게 아니라 세 명의 전문가가 합심해서 보는 것과 같습니다.
  1. 세부 부분 전문가 (패치): 지폐의 미세한 무늬나 선 하나하나를 확대해서 봅니다. (위치와 구조 확인)
  2. 전체 분위기 전문가 (시맨틱): 지폐의 전체적인 디자인과 느낌, 문구를 봅니다. (의미와 맥락 확인)
  3. 질감 전문가 (텍스처): 종이의 질감이나 잉크의 번짐 등을 봅니다. (재료와 디테일 확인)
• 작동 원리:
  • 이 세 전문가의 의견을 **하나의 AI (트랜스포머)**가 종합합니다.
  • 만약 세 전문가 모두 "이건 원본과 거의 똑같아!"라고 하면 **완전 도용 (Retrieve Copy)**으로 판정합니다.
  • 만약 "전체 느낌은 비슷하지만, 세부적인 건 달라"라고 하면 **스타일 모방 (Style Copy)**으로 판정합니다.
• 효과: 빛의 반사, 노이즈, 회전, 잘라내기 같은 변형이 있어도 정확하게 도용 여부를 찾아냅니다. 기존 기술들은 이런 변형에 약했지만, 이 방법은 세 가지 눈을 서로 보완하게 하여 매우 강력하고 정확한 감지가 가능합니다.

---

요약: 이 연구가 가져오는 변화

1. 창의성 보호: AI 가 학습 데이터를 '외워서' 베끼는 습관을 고쳐주어, 저작권 문제를 줄이고 더 창의적인 그림을 만들게 합니다. (RAPTA)
2. 정확한 감시: AI 가 만든 그림이 도용된 것인지, 단순한 스타일 닮음인지, 아니면 완전히 새로운 것인지 정확하게 구별할 수 있게 합니다. (ADMCD)

결론적으로, 이 논문은 "AI 가 그림을 그릴 때는 더 똑똑하고 다양하게 생각하게 만들고, 만약 도용을 했다면 누구도 놓치지 않게 찾아내는" 완벽한 시스템을 제안한 것입니다.

기술 요약

1. 문제 정의 (Problem Statement)

최첨단 텍스트 - 이미지 확산 모델 (Diffusion Models) 은 놀라운 시각적 품질을 생성하지만, 학습 데이터를 그대로 기억하고 재생산하는 기억 (Memorization) 현상이 발생할 수 있습니다. 이는 저작권 침해 및 개인정보 유출과 같은 심각한 법적, 윤리적 문제를 야기합니다.

• 기존 접근법의 한계:
  • 추론 시 (Inference-time) 대응: 기존 연구들은 추론 단계에서 프롬프트에 무작위 토큰을 삽입하거나 임베딩에 노이즈를 추가하는 방식으로 복사 (Copying) 를 줄이려 시도했습니다. 하지만 이는 이미지와 프롬프트 간의 정합성 (Alignment) 을 해치고 전체적인 화질을 저하시키는 부작용이 있었습니다. 또한, 이러한 방법은 학습 단계에서의 기억 현상 자체를 해결하지 못했습니다.
  • 탐지 (Detection) 의 한계: 기존 복사 탐지 방법들은 단일 모달리티 (예: SSIM, CLIP 유사도 등) 에 의존하여, 부분적 복사나 스타일 모방을 구별하지 못하거나, 광학적/기하학적 공격에 취약했습니다. 또한, 대규모 라벨링된 데이터셋이 부족하여 학습 기반 탐지 모델 구축이 어려웠습니다.

2. 제안 방법 (Methodology)

저자들은 기억 현상을 완화하고 탐지하기 위해 상호 보완적인 두 가지 모듈을 제안합니다.

A. 영역 인식 프롬프트 증강 (RAPTA: Region-Aware Prompt Augmentation)

학습 단계에서 모델이 특정 이미지 - 프롬프트 쌍에 과도하게 의존하는 것을 방지하기 위한 데이터 증강 기법입니다.

• 작동 원리:
  1. 객체 탐지: 각 학습 이미지에 사전 훈련된 객체 탐지기 (Faster R-CNN 등) 를 적용하여 중요한 영역 (Salient Regions) 과 클래스, 대략적인 위치를 추출합니다.
  2. 프롬프트 변형 생성: 추출된 객체 정보와 원본 프롬프트를 기반으로, "객체가 특정 위치 (예: 상단 왼쪽) 에 있다"는 식의 영역 인식 프롬프트 변형 (Region-aware variants) 세트를 생성합니다.
  3. CLIP 기반 샘플링: 생성된 변형 프롬프트들과 원본 이미지의 CLIP 점수 (일관성) 를 계산하여 가중치를 부여한 후, 각 학습 반복 (Iteration) 마다 하나의 변형 프롬프트를 무작위로 샘플링하여 모델에 입력합니다.
• 효과: 모델이 단일 프롬프트에 고정되지 않고 다양한 의미론적 설명을 학습하게 하여 과적합 (Overfitting) 을 줄이면서도, 이미지와 프롬프트 간의 의미적 정합성을 유지합니다.

B. 주의 기반 멀티모달 복사 탐지 (ADMCD: Attention-Driven Multimodal Copy Detection)

학습된 데이터 없이도 복사 여부를 탐지하고 유형을 분류하는 경량 탐지기입니다.

• 작동 원리:
  1. 3 가지 특징 스트림 추출:
     • 패치 레벨 시각 특징: Vision Transformer (ViT) 를 통해 추출.
     • 글로벌 의미 특징: CLIP 텍스트/이미지 임베딩을 활용.
     • 텍스처 특징: ResNet 백본을 통해 추출.
  2. 어텐션 퓨전 (Attention Fusion): 추출된 3 가지 특징을 경량 Transformer 를 통해 어텐션 메커니즘으로 융합하여 단일 벡터를 생성합니다.
  3. 이중 임계값 결정 규칙:
     • 1 단계 (복사 여부 판단): 생성된 이미지와 학습 이미지 간의 융합된 코사인 유사도 ($S_{fus}$) 가 임계값 $\tau_1$을 초과하면 '복사'로 간주합니다.
     • 2 단계 (복사 유형 분류): 복사된 것으로 판단된 경우, 가중치 합산 점수 ($\bar{S}$) 를 통해 검색/정확한 복사 (Retrieve/Exact Copy) 와 스타일 복사 (Style Copy) 를 구분합니다.
• 장점: 별도의 탐지 전용 학습 데이터 없이 제로샷 (Zero-shot) 으로 작동하며, 다양한 공격 (노이즈, 회전, 잘라내기 등) 에 강인합니다.

3. 주요 기여 (Key Contributions)

1. RAPTA: 학습 시 객체 중심 템플릿을 활용한 프롬프트 증강 기법을 제안하여, 의미론적 정합성을 해치지 않으면서 모델의 기억 현상을 효과적으로 완화했습니다.
2. ADMCD: 지역적 패치, 글로벌 의미, 텍스처 정보를 어텐션으로 융합한 경량 탐지기를 개발했습니다. 이는 단일 모달리티 지표보다 정교하며, 별도의 학습 없이도 정확한 복사 탐지와 유형 분류가 가능합니다.
3. 강인한 유사도 측정: ADMCD 가 생성하는 융합 유사도 점수는 기존 방법들보다 인간이 지각하는 유사도와 더 잘 일치하며, 광학적/기하학적 공격에 대해 높은 안정성을 보입니다.
4. 종합적 실험 검증: LAION-10k 및 다양한 확산 모델 (DCR, LDM, SD2.1) 을 대상으로 한 실험을 통해, RAPTA 가 복사율을 낮추면서도 생성 품질 (FID, KID) 을 유지함을 증명했습니다.

4. 실험 결과 (Results)

• 복사율 감소: RAPTA 를 적용한 모델들은 기존 베이스라인 (DCR, LDM-T2I, SD2.1) 대비 복사율이 18.8% ~ 64.9% 감소했습니다. (예: SD2.1-base 의 경우 7.4% 에서 2.6% 로 감소).
• 생성 품질 유지: 복사율이 감소했음에도 불구하고 FID(7.9 vs 8.1) 와 KID(2.9 vs 1.6) 지표는 기존 모델과同等하거나 더 우수한 성능을 보였습니다.
• 탐지 성능: ADMCD 는 단일 모달리티 지표 (LPIPS, ORB, SSIM, SSCD, DreamSim) 보다 복사 탐지 정확도가 높았으며, 특히 '검색/정확한 복사'와 '스타일 복사'를 구분하는 데 탁월한 성능을 발휘했습니다.
• 공격에 대한 강인성: 노이즈, 흐림, 회전, 잘라내기 등 10 가지 유형의 공격이 가해졌을 때, ADMCD 의 유사도 점수는 다른 방법들보다 훨씬 안정적으로 유지되었습니다. (예: 30 도 회전 시 ADMCD 는 0.939 유지, SSIM 은 0.207 로 급감).

5. 의의 및 결론 (Significance)

이 논문은 생성형 AI 의 저작권 및 윤리적 문제를 해결하기 위한 종단 간 (End-to-End) 프레임워크를 제시했습니다.

• 예방과 탐지의 결합: 학습 단계에서 기억을 방지하는 (RAPTA) 것과 추론 단계에서 복사를 탐지하는 (ADMCD) 것을 통합하여, 생성 모델의 안전성을 종합적으로 강화했습니다.
• 실용성: 대규모 라벨링 데이터 없이 작동 가능한 ADMCD 와 기존 파이프라인에 쉽게 통합 가능한 RAPTA 는 실제 산업 적용에 높은 잠재력을 가집니다.
• 정밀한 분류: 단순한 '복사/비복사' 이분법을 넘어, '정확한 복사'와 '스타일 모방'을 구분함으로써 저작권 침해 판단의 미묘한 차이를 포착할 수 있게 했습니다.

결론적으로, 이 연구는 생성형 AI 의 품질 저하 없이 지적재산권 보호와 프라이버시 보장을 동시에 달성할 수 있는 실용적인 솔루션을 제공합니다.