Blameless Users in a Clean Room: Defining Copyright Protection for Generative Models

이 논문은 생성형 AI 모델의 출력물이 훈련 데이터의 저작권을 침해할 가능성에 대한 수학적, 법적 기반을 재정의하고, 특히 '죄 없는 사용자 (blameless users)'를 보호하기 위한 새로운 프레임워크를 제시합니다. 저자 Aloni Cohen 은 기존 연구인 '근접 접근성 부재 (Near Access-Freeness, NAF)'의 한계를 지적하고, 이를 대체할 '청정실 저작권 보호 (Clean-Room Copyright Protection)' 개념과 이를 실현하는 수학적 정의를 제안합니다.

주요 내용은 다음과 같습니다.

1. 문제 제기 (Problem)

• 우발적 저작권 침해: 생성형 AI 모델 사용자는 모델이 훈련 데이터에 포함된 저작권이 있는 작품을 무심코 복제하여 법적 책임을 질까 봐 두려워합니다.
• 기존 접근법의 한계: Vyas, Kakade, Barak [VKB23] 이 제안한 '근접 접근성 부재 (NAF)'는 저작권 침해를 방지하기 위한 수학적 정의였으나, 실제로는 여러 프롬프트 조합이나 데이터 의존적 프롬프트를 통해 훈련 데이터를 그대로 재생성 (verbatim copying) 하는 것을 막지 못한다는 문제가 있었습니다.
• 목표: 사용자가 고의적으로 또는 부주의하게 침해를 유도하지 않는 한, 모델이 저작권을 침해할 가능성을 수학적으로 증명 가능한 수준으로 낮추는 '검증 가능한 저작권 보호 (provable copyright protection)'를 정의하는 것입니다.

2. 방법론 및 핵심 개념 (Methodology & Key Concepts)

A. NAF 의 실패 분석 (Tainted Models)

• 저자는 NAF 모델이 여전히 훈련 데이터를 그대로 복제할 수 있음을 증명합니다.
• Tainted (오염된) 모델: 사용자가 훈련 데이터의 표현 (expression) 을 전혀 알지 못함에도 불구하고, 비저작권적 아이디어 (ideas) 만을 입력으로 주어 훈련 데이터를 그대로 재생성할 수 있는 모델을 '오염된 (tainted)' 모델로 정의합니다.
• NAF 는 이러한 오염된 모델을 배제하지 못하므로, 저작권 보호의 충분 조건이 될 수 없습니다.

B. 죄 없는 저작권 보호 프레임워크 (Blameless Copyright Protection)

• 핵심 철학: 모델이 절대 저작권을 침해하지 않는다는 보장은 불가능하므로, **'죄 없는 사용자 (blameless user)'**를 보호하는 데 초점을 맞춥니다.
• 정의: 사용자가 침해를 유도하지 않는 한 (즉, 모델 사용이 침해의 원인이 되지 않는 한), 결과물이 저작권을 침해할 확률 ($\kappa$) 이 매우 낮아야 합니다.
• 이는 사용자가 자신의 위험 허용치 ($\kappa$) 를 설정하고, 이에 맞춰 모델의 동작을 제어할 수 있는 프레임워크를 제공합니다.

C. 청정실 저작권 보호 (Clean-Room Copyright Protection)

• 청정실 (Clean-Room) 개념: 저작권법에서 유래한 개념으로, 저작권이 있는 작품에 대한 '접근 (access)' 없이 오직 아이디어만 제공받아 독립적으로 제품을 개발하는 환경을 의미합니다.
• 수학적 정의 ($( \kappa, \beta )$-clean):
  • 청정실 분포 (Clean-room distribution, $\tau_{-c}$): 특정 저작권 작품 $c$가 훈련 데이터에서 제거된 (scrubbed) 데이터로 모델을 학습시켰을 때의 출력 분포입니다.
  • $\beta$-죄 없음 (Blameless): 사용자가 청정실 환경에서 저작권 작품과 실질적으로 유사한 (substantially similar) 결과를 낼 확률이 $\beta$ 이하인 경우, 사용자는 '죄 없다'고 간주합니다.
  • $( \kappa, \beta )$-clean 조건: 만약 사용자가 청정실 환경에서 $\beta$ 확률 이하로 침해를 일으킨다면, 실제 환경 (실제 훈련 데이터 사용) 에서 침해를 일으킬 확률 $\kappa$도 제한되어야 합니다.
• 이 정의는 사용자가 $\beta$ (청정실 내 위험) 를 조절함으로써 실제 위험 $\kappa$를 통제할 수 있게 합니다.

D. 미분 프라이버시 (Differential Privacy, DP) 와의 연결

• Golden Dataset (황금 데이터셋): 훈련 데이터셋 내의 각 항목이 최대 하나의 저작권 작품에서 파생된 경우 (중복 제거 및 저작권 의존성 제거) 를 의미합니다.
• 주요 정리: 훈련 알고리즘이 미분 프라이버시 (DP) 를 만족하고 데이터셋이 'Golden'이라면, DP 는 청정실 저작권 보호를 보장합니다.
  • 구체적으로, DP 가 적용된 모델은 사용자가 청정실에서 $\beta$ 확률로 침해를 일으킬 때, 실제 환경에서도 $(e^\epsilon N_D + 1)\beta + N_D\delta$ 이하의 확률로 침해합니다. 여기서 $N_D$는 접근 가능한 저작권 작품의 수입니다.

3. 주요 기여 (Key Contributions)

1. NAF 의 한계 증명: NAF 가 단독으로는 저작권 침해를 방지할 수 없으며, 훈련 데이터를 그대로 복제하는 '오염된 (tainted)' 모델을 허용할 수 있음을 수학적으로 증명했습니다.
2. 오염된 모델 (Tainted Models) 정의: 사용자가 저작권 표현을 알지 못함에도 훈련 데이터를 재생성할 수 있는 모델을 정의하고, 의미 있는 저작권 보호는 이를 배제해야 함을 주장했습니다.
3. 죄 없는 저작권 보호 프레임워크: 사용자의 과실이 없는 경우를 보호하는 새로운 정의적 틀을 제시했습니다.
4. 청정실 저작권 보호 ($( \kappa, \beta )$-clean): 청정실 설계 원리를 차용하여, 사용자가 청정실 내에서의 위험 ($\beta$) 을 통제함으로써 실제 위험 ($\kappa$) 을 관리할 수 있는 구체적인 정의를 제시했습니다.
5. DP 와 저작권 보호의 수학적 연결: 데이터셋이 'Golden' 조건을 만족할 때, 미분 프라이버시 (DP) 가 청정실 저작권 보호를 보장함을 증명했습니다. 이는 DP 가 저작권 표현을 '청정실' 안으로 안전하게 가져오는 방법임을 보여줍니다.

4. 결과 및 의의 (Results & Significance)

• 법적 - 기술적 교차점: 저작권 침해는 엄격 책임 (strict liability) 원칙 하에 사용자에게 불리하게 작용할 수 있으나, 생성형 AI 의 특성상 사용자가 침해 여부를 판단하기 어렵다는 점을 인정하고, 수학적 보장을 통해 불공정한 책임을 피할 수 있는 길을 제시합니다.
• 책임 소재의 명확화:
  • 모델 제공자: 데이터가 'Golden'하지 않거나 DP 가 적용되지 않아 침해가 발생한 경우 책임이 있습니다.
  • 사용자: 청정실 환경에서도 침해를 일으킬 확률 ($\beta$) 이 높게 설정된 경우 (즉, 사용자가 부주의하거나 고의적으로 유도한 경우) 책임이 있습니다.
• 보상 정책 (Indemnification Policy) 제안: 침해가 발생했을 때, 훈련 데이터에 해당 작품이 너무 자주 포함되어 있었다면 (Golden 조건 위반) 모델 제공자가 보상해야 한다는 정책적 제안을 통해, 기술적 보장이 법적 리스크 관리에 어떻게 활용될 수 있는지 보여줍니다.
• 실용성: 대규모 기초 모델 (Foundation Model) 학습을 위한 'Golden' 데이터셋 구축은 어렵지만, 수만 건 규모의 데이터셋 (파인튜닝 등) 에 대해서는 실현 가능할 것으로 봅니다.

5. 결론

이 논문은 생성형 AI 의 저작권 문제를 단순한 기술적 난제가 아닌, 수학적 정의와 법적 책임의 균형을 맞추는 문제로 접근합니다. 기존 NAF 의 결함을 지적하고, '청정실' 개념을 도입하여 사용자가 통제 가능한 위험 수준 내에서 AI 를 사용할 수 있는 이론적 토대를 마련했습니다. 특히 미분 프라이버시와 'Golden' 데이터셋의 결합을 통해 저작권 침해를 수학적으로 통제할 수 있음을 보임으로써, 향후 AI 규제 및 정책 수립에 중요한 시사점을 제공합니다.