Yes, But Not Always. Generative AI Needs Nuanced Opt-in

1. 문제 정의 (Problem)

생성형 AI 의 발전은 대규모 디지털 자산의 무단 수집 (스크래핑) 으로 인해 저작권자와 창작자로부터 강력한 반발을 초래했습니다. 현재 AI 개발자와 저작권자 간의 합의 방식은 다음과 같은 근본적인 한계를 가지고 있습니다.

• 이분법적 동의 (Binary Consent) 의 부재: 현행 시스템은 '전체 동의 (Opt-in)' 또는 '전체 거부 (Opt-out)'의 이분법적 접근을 취합니다. 그러나 창작물의 권리 구조는 복잡하며 (예: 한 곡의 음악에 작곡가, 가수, 프로듀서 등 여러 권리자가 존재), 저작권법 밖의 요소 (스타일, 초상권) 도 포함됩니다.
• Opt-out 의 비효율성: 현재는 '기본적으로 허용 (Opt-in by default)'되고, 권리자가 거부 (Opt-out) 하는 방식이 주류입니다. 하지만 이는 다음과 같은 이유로 실패하고 있습니다.
  • 기술적/행정적 부담: 권리자가 모든 AI 시스템과 데이터셋에서 자신의 작품을 거부하는 것은 불가능에 가깝습니다.
  • 준수 부족: robots.txt 등 기존 메타데이터 표준이 AI 크롤러에 의해 무시되거나 우회되는 경우가 많습니다.
  • 권리 침해의 지속성: 학습 데이터로 이미 흡수된 후의 거부 (Opt-out) 는 모델이 이미 학습했기 때문에 무효화됩니다. 또한 2 차, 3 차 생성 데이터 (Synthetic data) 에서는 원작자의 권리를 추적하기 어렵습니다.
• 맥락의 무한성: 생성형 AI 의 출력물은 무한한 맥락 (상업적, 비윤리적, 교육적 등) 에서 사용될 수 있으며, 권리자는 특정 용도나 플랫폼에 대한 통제를 원하지만 현재는 이를 제한할 수단이 없습니다.

2. 방법론 (Methodology)

저자들은 학습 (Training) 단계뿐만 아니라 추론 (Inference) 및 배포 (Dissemination) 단계에서 통제를 확장하는 새로운 아키텍처를 제안합니다.

A. 핵심 개념: 맥락적 세밀한 옵트인 (Nuanced Opt-in at Inference)

• 기본 원칙: 모든 콘텐츠는 기본적으로 거부 (Opt-out by default) 되며, 특정 조건 하에서만 명시적인 동의 (Opt-in) 가 필요합니다.
• 추론 시점의 개입: 학습 데이터의 사용 여부가 아니라, 사용자의 입력 (Prompt) 이 특정 권리자의 작품, 스타일, 초상권을 참조할 때 실시간으로 동의를 검증하는 방식을 채택합니다.
• 동의 조건의 세분화:
  • 기술적 구문 (Abstract Prompt Syntax): 사용자의 의도를 Descriptor(참조 대상), Transformation(변형 방식), Qualifier(품질/배포/목적) 로 분류합니다.
  • 조건부 동의: 권리자는 특정 참조 (예: 특정 아티스트의 목소리) 에 대해 '허용', '변형 금지', '상업적 사용 불가' 등 세밀한 조건을 설정할 수 있습니다.

B. 제안된 아키텍처: 에이전트 기반 추론 시점 옵트인 시스템

이 시스템은 세 가지 주요 에이전트와 레지스트리로 구성됩니다 (그림 2 참조):

1. 사용자 의도 에이전트 (User Intent Agent): 사용자의 프롬프트를 분석하여 고유한 엔티티 (특정 아티스트, 곡, 스타일 등) 를 식별하고 추출합니다.
2. 옵트인 에이전트 (Opt-in Agent): 추출된 엔티티가 Consent Registry 에 등록되어 있는지 확인하고, 해당 권리자의 동의 조건을 쿼리합니다. 사용자의 요청이 조건을 충족하는지 논리적으로 검증합니다.
3. 동의 레지스트리 (Consent Registry): 권리자가 설정한 세밀한 동의 조건 (조건부 허용, 기간 제한, 사용 목적 제한 등) 을 저장하고 관리하는 데이터베이스입니다. 기본적으로 '거부' 상태이며, 명시적 동의가 있을 때만 허용됩니다.
4. 작동 흐름:
   • 사용자가 프롬프트 입력 $\rightarrow$ 의도 에이전트가 엔티티 추출 $\rightarrow$ 옵트인 에이전트가 레지스트리 조회 및 조건 검증 $\rightarrow$ 조건 충족 시 생성 (Generation) 허용 및 출처 추적 (Attribution) $\rightarrow$ 미충족 시 사용자에게 피드백 및 요청 수정 유도.

3. 주요 기여 (Key Contributions)

1. 패러다임 전환: '학습 데이터 중심의 Opt-out'에서 '추론 시점의 세밀한 Opt-in'으로의 접근법 전환을 제안했습니다.
2. 권리자의 통제권 확장: 학습 단계뿐만 아니라, 생성 단계 (Inference) 와 배포 단계 (Dissemination) 에서도 권리자가 자신의 IP, 스타일, 초상권에 대한 통제권을 행사할 수 있는 메커니즘을 설계했습니다.
3. 세밀한 동의 조건 모델링: 저작권법으로 보호받지 않는 '스타일'과 '초상권'을 포함한 다양한 창작 요소를 고려한 동의 조건 (Descriptor, Transformation, Qualifier) 을 체계화했습니다.
4. 음악 산업 사례 연구: Grimes 와 같은 아티스트의 사례를 통해, "Rolling in the Deep"이라는 곡에 Grimes 의 목소리를 입히는 요청이 어떻게 조건부 동의 검증 (Voice 사용은 허용되나, 타 곡과의 결합은 제한됨) 을 통해 처리되는지 구체적으로 시뮬레이션했습니다.

4. 결과 및 시뮬레이션 (Results)

• 음악 사례 연구 결과:
  • 사용자가 "Rolling in the Deep"을 Grimes 의 목소리로 만들어달라고 요청했을 때, 시스템은 'Grimes'와 'Rolling in the Deep'을 식별합니다.
  • Grimes 의 동의 레지스트리에는 '목소리 사용은 허용'되지만 '타 저작권 작품과의 결합은 허용되지 않음'이라는 조건이 있습니다.
  • 결과: 시스템은 Grimes 의 목소리 사용을 거부하고 사용자에게 "원본 녹음이나 가사를 직접 업로드하면 가능하지만, 타인의 저작권이 있는 곡과 결합하는 것은 불가능합니다"라는 피드백을 제공합니다.
  • 이는 권리자가 자신의 스타일과 초상권을 보호하면서도, 합법적인 사용 (예: 팬이 자신의 노래에 아티스트 목소리를 입히는 경우) 은 허용하는 균형을 보여줍니다.
• 보상 메커니즘: 이 아키텍처는 학습 데이터에 대한 선불 라이선싱뿐만 아니라, 사용자 입력을 통한 IP 사용에 대한 재발생 보상 (Recurring compensation) 및 배포 수익 공유를 가능하게 합니다.

5. 의의 및 중요성 (Significance)

• 창작 생태계의 균형 회복: AI 개발자와 권리자 간의 힘의 불균형을 해소하고, 창작자가 자신의 작품과 스타일에 대한 통제권과 경제적 이익을 유지할 수 있도록 돕습니다.
• 법적/윤리적 문제 해결: 저작권법 밖의 영역 (스타일, 초상권) 에 대한 보호를 제공하며, '공정 사용 (Fair Use)' 논쟁을 넘어선 실용적인 해결책을 제시합니다.
• 지속 가능한 AI 발전: 권리자의 신뢰를 바탕으로 고품질 데이터와 다양한 스타일의 AI 활용을 장려하여, AI 의 발전과 문화적 주권 (Cultural Sovereignty) 을 동시에 달성할 수 있는 길을 엽니다.
• 한계점 인정: 구현의 기술적 난이도, 편향성 (인기 있는 아티스트 위주의 혜택), 그리고 일부 창작자가 AI 자체를 반대하는 경우 등 여전히 해결해야 할 과제가 있음을 인정하면서도, 현행 Opt-out 방식보다 진보된 접근임을 강조합니다.

이 논문은 생성형 AI 의 윤리적 사용을 위해 단순한 '거부'를 넘어, 상황에 따라 유연하게 적용 가능한 '조건부 동의 (Nuanced Opt-in)' 시스템이 필수적임을 강력하게 주장합니다.