Attention to Neural Plagiarism: Diffusion Models Can Plagiarize Your Copyrighted Images!

이 논문은 추가 학습 없이 그라디언트 기반의 '앵커 및 쉼' 기법을 통해 워터마킹이 적용된 저작권 이미지를 복제하거나 저작권 모호성을 유발할 수 있는 확산 모델의 치명적인 취약점과 '신경 표절' 위협을 규명합니다.

핵심

1. 문제 상황: "AI 가 그림을 훔쳐먹는다?"

전통적으로 그림이나 사진에 저작권을 보호하기 위해 **물결무늬 (워터마크)**를 넣거나, 작가의 서명을 남깁니다. 마치 귀중한 보석에 "이건 내 거야"라고 적힌 라벨을 붙이는 것과 같습니다.

하지만 최근 '확산 모델 (Diffusion Model)'이라는 AI 가 등장하면서 상황이 달라졌습니다. 이 AI 는 수많은 그림을 학습해서 새로운 그림을 그릴 수 있는데, 원본 그림을 그대로 복사해내거나, 라벨만 살짝 지워버린 뒤 똑같은 그림을 다시 그릴 수 있다는 것입니다.

2. 해결책 (공격 방법): "앵커와 쉼 (Shim)"

논문 저자들은 이 AI 가 어떻게 저작권을 뚫는지 그 방법을 찾아냈습니다. 이를 설명하기 위해 배를 수리하는 비유를 들어볼까요?

• 앵커 (Anchor, 닻): 원본 그림을 AI 가 이해하는 언어 (잠재 공간) 로 변환한 '기준점'입니다. 마치 배가 떠다니는 바다의 고정된 위치와 같습니다.
• 쉼 (Shim, 쐐기): 배와 선체 사이에 끼워 넣는 작은 나무 조각입니다. 이 작은 조각을 살짝 끼우면 배의 위치가 아주 조금씩 움직이게 됩니다.

이들의 공격 원리:

1. AI 가 그리는 그림의 '기준점 (앵커)'을 잡습니다.
2. 그 기준점에 작은 '쐐기 (Shim)'를 여러 번 끼워 넣습니다.
3. 이 쐐기는 그림의 의미 (예: 머리카락 색깔, 옷 스타일) 를 아주 조금씩, 하지만 꾸준히 바꿔줍니다.
4. 결과적으로 원래 그림과 너무 비슷해서 눈으로 보면 똑같지만, AI 내부적으로는 완전히 다른 데이터가 되어버립니다.

이 과정에서 AI 는 원래 그림에 숨겨져 있던 저작권 라벨 (워터마크) 을 자연스럽게 지워버리거나, 아예 다른 사람의 라벨을 붙여버립니다.

3. 두 가지 무서운 공격 방식

이 기술은 두 가지 방식으로 저작권을 무너뜨립니다.

A. 위조 공격 (Forgery Attack) - "라벨을 지우고 내 거라고 하기"

• 상황: 원본 그림에 숨겨진 디지털 지문 (워터마크) 이 있습니다.
• 공격: AI 가 쐐기를 끼워 그림을 살짝 변형시킵니다.
• 결과: 그림은 원본과 거의 똑같지만, 디지털 지문은 완전히 사라집니다. 마치 위조 지폐를 만들어서 "이건 진짜야"라고 주장하는 것과 같습니다.

B. 모호성 공격 (Ambiguity Attack) - "내 것도 너의 것도 아닌 것처럼 만들기"

• 상황: 그림에 두 개의 서로 다른 라벨이 붙어 있습니다.
• 공격: AI 가 원본 라벨은 지우지 않고, 새로운 라벨을 추가로 붙입니다.
• 결과: "이 그림은 A 작가의 것이기도 하고, B 작가의 것이기도 하다"는 식으로 누구의 것인지 알 수 없게 만듭니다. 법적으로 소유권을 주장하기가 매우 어려워집니다.

4. 왜 이것이 위험할까요?

이 연구의 가장 무서운 점은 AI 를 다시 훈련시킬 필요가 없다는 것입니다.

• 기존에는 새로운 해킹 방법을 쓰려면 AI 를 다시 가르쳐야 했지만, 이 방법은 그림을 입력하기만 하면 AI 가 스스로 최적의 '쐐기'를 찾아서 저작권을 뚫습니다.
• 메모리도 적게 먹습니다. 고사양 컴퓨터가 아니라도 실행 가능할 정도로 효율적입니다.

5. 결론: "우리는 무엇을 해야 할까?"

이 논문은 **"AI 가 너무 똑똑해져서, 우리가 만든 저작권 보호 장치 (워터마크) 가 무용지물이 될 수 있다"**는 것을 경고합니다.

• 현재: AI 가 그림을 그릴 때, 원본 그림의 저작권을 뚫고 똑같은 그림을 만들어낼 수 있습니다.
• 미래: 만약 이 기술이 악용된다면, 유명한 화가의 작품이나 기업의 로고가 AI 에 의해 쉽게 복제되고, 누구 것이든 모호하게 만들어져 법적 분쟁이 빗발칠 수 있습니다.

한 줄 요약:

"AI 가 그림을 그릴 때, 아주 작은 '쐐기'를 살짝 끼워 저작권 보호막을 뚫고, 원본과 똑같은 그림을 만들어내거나 소유권을 혼란스럽게 만들 수 있다는 새로운 위협이 등장했습니다."

이 연구는 이러한 위협을 미리 알아차리고, 더 강력한 새로운 저작권 보호 기술을 개발해야 한다는 경고 신호입니다.

기술 요약

논문 요약: 신경 표절 (Neural Plagiarism) 에 대한 경고

이 논문은 확산 모델 (Diffusion Models) 이 기존 저작권 보호 기술 (가시적 워터마크, 시그니처, 불가시 워터마크 등) 을 우회하여 저작권이 있는 이미지를 쉽게 복제하거나 소유권을 모호하게 만들 수 있는 치명적인 위협인 **'신경 표절 (Neural Plagiarism)'**을 제기합니다. 저자들은 이를 해결하기 위해 '앵커 (Anchors)'와 '쉼 (Shims)'을 활용한 새로운 공격 기법을 제안하고, 이를 통해 기존 방어 체계의 취약점을 입증했습니다.

1. 문제 정의 (Problem)

• 신경 표절의 위협: 생성형 AI, 특히 확산 모델은 방대한 학습 데이터를 기억하거나 저작권이 있는 콘텐츠와 유사한 출력을 생성하여 저작권 침해를 일으킬 수 있습니다.
• 기존 보호 기술의 한계: 법적 규제와 불가시 워터마킹 (Invisible Watermarking) 기술 (예: Tree-Ring, Stable Signature) 이 도입되었음에도 불구하고, 확산 모델은 이러한 보호 장치를 우회하여 원본과 시각적으로 유사하지만 워터마크가 제거되거나 변조된 이미지를 생성할 수 있습니다.
• 공격 목표:
  1. 위조 공격 (Forgery Attack): 원본 워터마크를 완전히 제거하여 저작권 검증을 실패하게 만드는 것.
  2. 모호성 공격 (Ambiguity Attack): 원본 워터마크를 제거하고 새로운 워터마크를 삽입하여 소유권 주장을 혼란스럽게 만드는 것.

2. 방법론 (Methodology)

저자는 메모리 효율성을 높이고 의미론적 (Semantic) 변화를 정밀하게 제어하기 위해 '앵커 (Anchors) 와 쉼 (Shims)' 기반의 최적화 프레임워크를 제안합니다.

• 앵커 (Anchors):
  • 대상 이미지 (저작권 이미지) 를 확산 모델의 역과정 (Inverse Process) 을 통해 잠재 공간 (Latent Space) 의 시퀀스 $\{ \hat{x}_1, ..., \hat{x}_T \}$로 인코딩합니다.
  • 이 시퀀스는 원본과 의미론적으로 유사한 이미지를 생성하기 위한 기준점 (가이드라인) 으로 작용합니다.
• 쉼 (Shims):
  • 앵커와 다른 잠재 변수를 생성하기 위해 도입된 작은 교란 (Perturbation) $\delta_t$입니다.
  • 도어 설치 시 간격을 맞추기 위해 사용하는 '쐐기 (Shim)'에서 영감을 얻었으며, 잠재 공간의 특정 시점 (Timestep) 에서 앵커의 간격을 조정하여 워터마크를 무효화하거나 의미론적 변화를 유도합니다.
• 주의 메커니즘 교란 (Attention Perturbation):
  • 확산 모델의 Cross-Attention 메커니즘을 조작합니다. 텍스트 임베딩 (Text Embedding) 에 쉼을 추가하여 쿼리 (Q), 키 (K), 밸류 (V) 를 변경함으로써 원본과 유사한 출력을 유지하면서도 워터마크를 제거하거나 변경합니다.
• 최적화 목적 함수:
  • Norm Loss: 쉼의 크기를 일정 수준 이상으로 유지하여 앵커와의 거리를 확보합니다.
  • Semantic Loss: 빈 문자열 (Empty string) 임베딩을 기준으로 의미론적 일관성을 유지하도록 합니다.
  • Align Loss: 교란된 잠재 변수가 앵커와 유사한 다음 단계의 이미지를 생성하도록 정렬합니다.
  • 이 과정은 **추가 학습 (Fine-tuning) 없이 그라디언트 기반 검색 (Gradient-based Search)**만으로 수행됩니다.

3. 주요 기여 (Key Contributions)

1. 신경 표절 파이프라인 제안: 확산 모델을 이용한 저작권 침해의 새로운 위협을 체계화하고, 기존 보호 방법의 취약점을 노출하는 범용 공격 파이프라인을 제시했습니다.
2. 메모리 효율적인 검색 기반 방법: 앵커와 쉼을 도입하여 전체 역과정을 한 번에 최적화하지 않고, 선택된 시점 (Timesteps) 에서만 쉼을 조정함으로써 GPU 메모리 소모를 획기적으로 줄였습니다.
3. 포괄적인 공격 분석: 가시적 상표/서명부터 불가시 워터마크 (Tree-Ring, Stable Signature 등) 에 이르기까지 다양한 저작권 보호 수단을 우회하는 위조 및 모호성 공격 사례를 실증했습니다.

4. 실험 결과 (Results)

• 데이터셋: MS-COCO 및 실제 저작권 이미지 (디즈니 캐릭터, 예술 작품, 유명인 초상화 등).
• 불가시 워터마크 제거:
  • DwtDctSvd, RivaGAN: 기존 방법 (Regen, Rinse) 대비 워터마크 비트 정확도 (Bit Accuracy) 를 50% 수준까지 낮추어 검출을 실패하게 만들었습니다.
  • Stable Signature: 쉼을 통해 잠재 변수를 변경하여 워터마크를 우회했습니다.
  • Tree-Ring: 직접적인 제거는 어렵지만, 다른 키로 워터마크를 삽입하여 소유권 모호성을 성공적으로 유도했습니다.
• 저작권 이미지 복제:
  • 디즈니의 '엘사' 캐릭터나 일론 머스크의 초상화 등 구체적인 저작권 이미지를 복제하면서도, 원본의 특징 (머리 스타일, 얼굴 구조 등) 을 변형시켜 저작권 위반으로 간주되지 않도록 만들었습니다.
  • 100 개의 다양한 일론 머스크 복제본을 생성하여 GPT 판정기에서도 특정 인물을 식별하지 못하게 했습니다.
• 모호성 공격: 원본 워터마크를 제거하고 새로운 워터마크를 삽입하여, 동일한 이미지에 대해 서로 다른 소유권 주장이 가능하게 만들었습니다.

5. 의의 및 시사점 (Significance)

• 경고: 현재 확산 모델은 저작권 보호 기술 (워터마킹 포함) 을 우회할 수 있는 강력한 능력을 갖추고 있으며, 이는 법적/기술적 보호 장치가 무력화될 수 있음을 시사합니다.
• 연구 방향 전환: 단순한 워터마크 제거를 넘어, '의미론적 변형'을 통한 저작권 우회와 '소유권 모호화' 공격에 대한 새로운 방어 메커니즘 개발이 시급합니다.
• 실제적 영향: 생성형 AI 의 발전과 함께 저작권 침해의 형태가 더욱 정교해지고 있으며, 이는 콘텐츠 제작자, 플랫폼, 법제도에 중대한 도전을 제기합니다.

이 논문은 확산 모델이 가진 '표절'의 잠재력을 기술적으로 증명함으로써, 향후 더 강력한 저작권 보호 기술 개발의 필요성을 강력하게 역설하고 있습니다.