기술 요약: 자가 공개(Self-Disclosure)는 언제 최적인가? 생성형 AI 콘텐츠의 인센티브와 거버넌스

1. 문제 제기

디지털 플랫폼에서 생성형 AI(Gen-AI)의 확산은 거버넌스의 딜레마를 제시한다: AI는 생산 비용을 절감하고 콘텐츠 출력을 확장하지만, 진정성, 신뢰성 및 사용자 신뢰에 대한 우려를 불러일으킨다. 현재 플랫폼은 이를 관리하기 위해 두 가지 주요 메커니는에 의존하고 있다:

1. 알고리즘 탐지: 창작자의 입력 없이 AI 콘텐츠를 식별하는 불완전하고 비용이 많이 드는 시스템.
2. 자가 공개 정책: 창작자에게 AI 사용 표기를 의무화하고, 미준수 시 처벌을 부과하는 제도.

본 논문이 다루는 핵심 경제적 질문은 플랫폼이 탐지에만 전적으로 의존하는 대신 자가 공개를 의무화해야 하는 조건이 무엇인가 하는 점이다. 구체적으로, 본 논문은 공개 체제가 창작자의 인센티브(채택, 은폐, 진실한 표기)를 어떻게 재편하고, 플랫폼의 수익성에 어떤 영향을 미치며, 총체적인 콘텐츠 품질과 창작자 잉여를 어떻게 변화시키는지 조사한다.

2. 방법론

저자들은 이질적인 창작자들의 연속체와 플랫폼이 참여하는 정식 게임 이론 모델을 개발하였다. 이 모델은 플랫폼 정책, 창작자 행동, 그리고 시청자 인식을 포착한다.

모델 구성 요소

• 행위자:
  • 플랫폼: 규제 체제(비공개 vs. 의무적 자가 공개)를 선택하고 미준수에 대한 벌금($p$)을 설정한다. 플랫폼은 수수료율($r$)을 보유한다.
  • 창작자: 관객의 신뢰도에 대한 민감도(신뢰도 파라미터 $f$로 모델링됨)에 따라 이질적이다. 이들은 인간 생성 콘텐츠($N_{AI}$)와 AI 생성 콘텐츠($AI$) 사이에서 선택한다. 공개 체제 하에서, 이들은 AI 사용 여부를 진실하게 공개할지 혹은 은폐할지를 추가로 선택한다.
  • 시청자: 콘텐츠 품질로부터 효용을 얻지만, AI로 표기된 콘텐츠에는 신뢰 할인(credibility discount, $f$)을 적용한다. 만약 창작자가 AI 사용을 은폐했다가 적발될 경우, 시청자는 추가적인 신뢰 패널티(trust penalty, $k$)를 적용한다.
• 기술:
  • 인간 콘텐츠: 비용 $c$, 정규화된 품질 1.
  • AI 콘텐츠: 감소된 비용 $\delta c$ ($\delta \in (0,1)$) 및 가변적 품질 $v$.
• 탐지: 플랫폼의 알고리즘은 확률 $\beta$로 AI 콘텐츠를 탐지한다(불완전한 탐지).
• 비교되는 체제:
  1. 비공개 ($N$): 창작자에게 표기 의무가 없으며, 플랫폼이 탐지된 AI 콘텐츠를 표기한다.
  2. 의무적 자가 공개 ($D$): 창작자가 반드시 표기해야 한다. 미공개 시 탐지될 경우 벌금($p$)과 신뢰 패널티($k$)가 부과된다.

분석 접근 방식

저자들은 역진 귀납법(backward induction)을 사용하여 **부분 게임 완전 균형(Subgame Perfect Equilibrium)**을 도출한다:

1. 시청자 반응: 라벨(표기) 및 탐지 결과에 따른 참여도를 결정한다.
2. 창작자 전략: 창작자는 체제, 패널티, 그리고 각자의 신뢰도 파라미터 $f$를 고려하여 기대 효용을 극대화한다. 이는 창작자들의 컷오프 기반 세분화로 이어진다.
3. 플랫폼 최적화: 플랫폼은 AI 품질($v$)과 비용 효율성($\delta$)의 다양한 범위에 따른 결과를 비교하며, 수익을 극대화하기 위해 최적의 체제와 패널티 수준을 선택한다.

3. 주요 기여

본 논문은 플랫폼 거버넌스와 AI 기반 생산에 관한 문헌에 다음과 같은 세 가지 방식으로 기여한다:

1. 내생적 인센티브 메커니즘: 공개를 단순히 수동적인 투명성 요구 사항으로 취급하는 기존 연구와 달리, 본 모델은 공개를 채택, 은폐, 콘텐츠 포지셔닝에 관한 창작자의 결정을 능동적으로 형성하는 전략적 도구로 프레임화한다.
2. 신뢰 마찰의 통합: 불완전한 탐지, 시청자의 AI 할인, 이질적인 창작자 신뢰도를 통합하여 신뢰 외부성이 기술적 효율성과 어떻게 상호작용하는지 분석한다.
3. 통합적 경제적 관점: 플랫폼 정책 설계와 창작자 행동에 대한 비교 분석을 제공하며, 정보 공개 모델을 생성형 AI 맥락으로 확장하여 공개가 어떻게 창작자 유형 간의 AI 사용을 재배분하는지 보여준다.

4. 주요 결과

최적 공개 조건

공개가 항상 최적인 것은 아니다. 플랫폼은 AI 콘텐츠의 내재적 가치($v$)와 비용 절감 이점(낮은 $\delta$)이 모두 중간 단계일 때만 의무적 자가 공개 체제를 채택한다.

• 낮은 AI 품질/비용 절감: 공개는 채택을 억제할 뿐 콘텐츠 가치를 개선하지 못하므로, 비공개가 선호된다.
• 높은 AI 품질: 공개는 역효м효과를 낳는다. 신뢰 할인과 집행 비용은 효율적인 채택을 왜곡하여 전체적인 콘텐츠 채택을 저해한다. 따라서 비공개가 선호된다.
• 중간 영역: 공개는 효과적인 스크리닝 장치로 작용하여, 진정성에 민감한 창작자들 사이의 채택을 제한하면서도 총체적인 품질을 보존한다.

집행 전략의 진화

AI 역량이 향려함에 따라 플랫폼의 최적 집행 전략은 다음과 같이 진화한다:

1. 엄격한 억제: AI 품질이 낮을 때는 높은 패널티를 사용하여 은폐를 방지하고 투명성을 유지한다.
2. 부분적 스크리닝: AI 품질이 중간일 때, 플랫폼은 중간 정도의 패널티를 설정한다. 이는 저신뢰 창작자를 걸러내는 것과 고가치 AI 콘텐츠를 유지하는 것 사이의 절충안이며, 일부 전략적 은폐가 지속되도록 허용한다.
3. 규제 완화: AI 품질이 충분히 높을 때, 최적의 패널티는 0($p^*=0$)으로 떨어진다. 플랫폼은 창작자들이 은폐와 공개 사이에서 내생적으로 분류되도록 허용하는데, 이는 패널티가 우수한 AI 콘텐츠의 실현 가치를 불필요하게 감소시킬 수 있기 때문이다.

이해관계자 영향

• 플랫폼 수익: 중간 영역에서는 신뢰 외부성을 완화함으로써 공개 하에서 증가할 수 있다. 그러나 수익은 AI 품질에 따라 비용 절감 정도에 따라 비단조적(U자형 또는 W자형)인 양상을 보인다.
• 창작자 잉여: 자가 공개는 총체적인 창작자 잉여를 감소시킨다 ($CS_D < CS_N$). 이는 투명성을 높이지만, 준수 비용과 신뢰 비용을 창작자에게 전가하기 때문이다.
• 투명성 대 품질:
  • 공개는 투명성을 엄격하게 증가시킨다 ($T_D > T_N$).
  • 공개는 AI가 인간의 창작보다 기술적으로 열등할 때만($v < 1$) 총체적인 콘텐츠 품질을 개선한다.
  • AI가 우월할 경우($v > 1$), 공개는 신뢰 할인으로 인해 고품질 AI 채택을 억제함으로써 총체적인 콘텐츠 품질을 저하시킨다.

5. 의의 및 주장

본 논문은 공개가 중립적인 투명성 메커니즘이 아니라 전략적 거버넌스 도구라고 결론짓는다. 공개의 효과는 기술적 성숙도와 신뢰 마찰의 크기에 따라 달라진다.

• 전략적 재배치: 공개는 단순히 채택의 경계선을 옮기는 것이 아니라, 창작자 유형 간의 생산 기술을 재배치함으로써 콘텐츠의 구성을 근본적으로 변화시킨다.
• 트레이드오프: 투명성과 생산적 효율성 사이에는 근본적인 트레이드오프가 존재한다. 공개는 정보의 불투명성을 줄여주지만, 효율적인 AI 채택을 왜곡하여 고품질 콘텐츠를 억제하고 창작자 인센티브를 감소시킬 수 있다.
• 정책적 시사점: 결과는 "원 사이즈(one-size-fits-all)" 방식의 공개 의무화가 차선책이 될 수 있음을 시사한다. 플랫폼은 투명성 확보가 생태계 가치와 창작자 복지를 희생할 수 있음을 인식하고, 사용 중인 AI 도구의 품질 및 비용 효율성 특성에 따라 공개 및 집행 강도를 조정해야 한다.