Generated Images Are Easier to Forget: A Machine Unlearning Perspective for Synthetic Image Detection

기술 요약: "생성된 이미지는 잊기 쉽다: 합성 이미지 탐지를 위한 머신 언러닝 관점"

문제 정의
생성 모델의 급격한 발전은 자연스러운 이미지와 구별하기 점점 더 어려워지는 AI 생성 이미지를 만들어냈으며, 이는 오정보, 개인정보 보호 및 사기 측와 관련된 상당한 위험을 초래합니다. 기존의 탐지 방법들은 주로 자연 이미지와 생성된 이미지의 레이블이 지정된 데이터셋을 사용하여 이진 분류기를 학습시키는 방식에 의존합니다. 그러나 이러한 접근 방식은 실제 테스트 환경에서 보지 못한 생성 모델이나 도메인 변화(domain shifts)를 마주했을 때 낮은 일반화 성능을 보이는 한계가 있습니다. 웹 규모의 데이터셋으로 사전 학습된 대규모 시각 모델(LVM)은 강력한 일반화 능력을 제공하지만, 저자들은 표준 LVM이 자연 이미지와 생성된 이미지 모두에 대해 비교적 낮은 손실(loss)을 보이기 때문에 직접적인 판별에는 효과적이지 않다는 점을 관찰했습니다. 핵심 과제는 특정 훈련 데이터 분포에 의존하지 않고 이 두 유형의 이미지를 구별할 수 있는 메커니즘을 찾는 것입니다.

방법론
본 논문은 결정 경계(decision boundary)를 '학습'하는 것에서 사전 학습된 모델 내의 특정 지식을 '언러닝(unlearning, 망각)'하는 것으로 패러다임을 전환할 것을 제안합니다. 저자들은 LVM이 주로 자연 이미지로 사전 학습되었기 때문에, 생성된 이미지를 분포가 이동되었거나 "희귀한" 샘플로 취급한다고 가설을 세웠습니다. 결과적으로, 모델이 언러닝(지식의 퇴화) 과정을 거칠 때 생성된 이미지와 관련된 특징들은 자연 이미지와 관련된 특징들보다 더 빠르게 잊혀집니다.

방법론은 두 가지 접근 방식으로 나뉩니다:

1. 데이터 프리 언러닝 (Data-Free Unlearning, 훈련 불필요):

   • 메커니즘: 이 방법은 생성된 이미지에 접근하지 않고도 언러닝을 유도하기 위해 가중치 프루닝(weight pruning)을 활용합니다. 낮은 크기의 가중치를 프루닝하면 빈도가 낮거나 분포가 이동된 샘플에 불균형적으로 영향을 미친다는 관찰을 바탕으로, 저자들은 사전 학습된 LVM(예: DINOv2)의 트랜스포머 블록 내 $fc2$ 레이어에서 특정 비율의 파라미터(구체적으로 절대값이 가장 작은 값들)를 제거합니다.
   • 탐지 로직: 탐지 점수는 원본 모델($F(x; \theta_F)$)과 프루닝/언러닝된 모델($F(x; \theta'_F)$)의 특징 임베딩 간의 코사인 유사도로 도출됩니다. 생성된 이미지는 프루닝 후 자연 이미지에 비해 더 큰 특징 변위(더 낮은 유사도)를 나타냅니다.
   • 이론적 근거: 저자들은 국소적 섭동 분석(Proposition 3.4)을 통해, 만약 생성된 이미지가 자연 이미지보다 프루닝 방향에 대해 더 높은 방향적 표현 민감도를 가진다면, 프루닝으로 인해 유도되는 출력 차이가 생성된 이미지에 대해 현저히 더 커질 것임을 입증했습니다.

2. 데이터 기반 언러닝 (Data-Driven Unlearning):

   • 메커니즘: 생성된 이미지를 사용할 수 있는 경우, 저자들은 생성된 이미지를 "잊도록" 명시적으로 최적화하면서 자연 이미지에 대한 지식은 유지하는 매개변수 효율적 미세 조정(LoRA 사용) 방식을 채택합니다.
   • 손실 함수: 목적 함수는 자연 이미지에 대해서는 원래 모델과 특징 유사성을 유지하도록 장려하는 동시에, 생성된 이미지에 대해서는 마진 기반의 분리(원래 모델로부터 표현이 크게 발산하도록 보장)를 강제합니다.
   • 탐지 로직: 데이터 프리 접근 방식과 마찬가지로, 최종 결정은 원본 모델과 언러닝된 모델 사이의 특징 유사성을 기반으로 합니다.

주요 기여

• 경험적 통찰: 본 논문은 LVM이 자연 이미지와 생성된 이미지 모두에 대해 유사하게 낮은 손실을 포착하지만, **서로 다른 망각 역학(forgetting dynamics)**을 보인다는 점을 식별했습니다. 구체적으로, 생성된 이미지에 대한 특징 추출 능력은 언러닝 과정 동안 자연 이미지보다 훨씬 빠르게 저하됩니다.
• 새로운 프레임워크: 저자들은 탐지 작업을 머신 언러닝 문제로 재구성했습니다. 이들은 데이터 프리 방식인 가중치 프루닝을 사용하는 방법과, 생성된 이미지 지식을 언러닝하기 위한 최적화를 사용하는 데이터 기반 방식의 두 가지 탐지 방법을 도입했습니다.
• 일반화: 학습된 경계에 집중하는 대신 지식의 언러닝에 초점을 맞춤으로써, 이 방법은 학습 기반 탐지기가 가진 도메인 변화의 한계를 극복하고자 합니다.

실험 결과
저자들은 GAN, Diffusion 모델, Midjourney 등을 포함한 다양한 생성 모델을 다루는 ImageNet, GenImage, Chameleon, LSUN-BEDROOM, DiffusionForensics를 포함한 여러 벤치마크에서 방법론을 평가했습니다.

• 성능: 언러닝 기반 접근 방식은 기존의 상태 최첨단(SOTA) 학습 기반 방법들(예: CNNspot, UnivFD, DIRE, PatchCraft) 및 훈련 불필요 베이스라인(예: AEROBLADE)을 일관되게 능가했습니다.
  • ImageNet에서 데이터 프리 언러닝 방법은 **92.20%**의 AUROC와 **91.45%**의 AP를 달연하여, 가장 우수한 훈련 불필요 베이스라인(AEROBLADE: 57.87% AUROC) 및 대부분의 학습 기반 방법들을 크게 앞질렀습니다.
  • 데이터 기반 언러닝 방법은 모든 데이터셋에 대해 평균 **98.29%**의 AUROC를 달성했으며, 특히 ImageNet에서 매우 강력한 성능(96.86% AUROC)을 보였습니다.
• 강건성: 해당 방법들은 이미지 손상(JPEG 압축, 가우시안 블러, 가우시안 노이즈)에 대해 강건함을 입증했으며, 접근 불가능한 모델(Sora 및 OpenSora)에 의해 생성된 이미지에 대해서도 우수한 성능을 보여 도메인 변화를 처리할 수 있는 능력을 검증했습니다.
• 절제 연구(Ablation Studies): 실험을 통해 이 방법이 서로 다른 사전 학습 모델(DINOv2 변형, CLIP), 서로 다른 프루닝 비율, 그리고 서로 다른 트랜스포머 블록(상위 블록을 프루닝하면 성능이 저하됨)에 대해 강건함을 확인했습니다.

의의 및 주장
본 논문은 생성된 이미지 탐지를 위한 새로운 패러다임을 구축한다고 주장합니다. 생성된 이미지가 LVM에서 자연 이미지보다 "잊기 쉽다"는 것을 입증함으로써, 저자들은 탐지가 새로운 분류기를 처음부터 학습하는 것이 아니라 이러한 망각을 유도하고 측정함으로써 달성될 수 있음을 보여줍니다. 이 연구는 다음을 강조합니다:

1. 신호로서의 언러닝: 자연 이미지와 생성된 이미지 사이의 차별적인 망각 역학은 강력한 탐지 신호 역할을 합니다.
2. 효율성 및 일반화: 데이터 프리 접근 방식은 훈련 데이터나 특정 생성 모델에 대한 접근이 필요하지 않으므로, 새롭거나 접근 불가능한 생성기에 의한 이미지를 탐지하기 위한 확장 가능한 솔루션을 제공합니다.
3. 패러다임 전환: 이 연구는 분야를 순수하게 판별적인 학습에서 언러닝을 통해 사전 학습된 모델의 내재적 특성을 활용하는 방향으로 이동시키며, 분포 변화를 다루기 위한 원칙적인 접근 방식을 제시합니다.