기술 요약: 거대한 실종의 행위 — 생성형 검색과 섀도 배닝(Shadow Banning)

문제 정의

본 논문은 인터넷의 탈중앙화된 성격을 저해하고 독립적인 콘텐츠 제작자들의 지속 가능성을 위협하는 두 가지 불투명한 알고리즘 매개 관행인 **생성형 검색(Generative Search)**과 **섀도 배닝(Shadow Banning)**을 식별한다.

1. 생성형 검색: 검색 증강 생성(RAG)에 의해 구동되는 이 시스템은 다양한 웹사이트의 콘텐츠를 합성하여 직접적인 답변을 제공함으로써 원본 소스를 우회한다. 이는 원본 웹사이트로부터 트래픽을 "전용(diverts)"하여, 해당 사이트의 광고 수익, 구독 및 가시성을 박탈한다. 저자는 이것이 중소기업(SME)과 개방형 웹 생태계의 경제적 생존력을 위협한다고 주장한다.
2. 섀도 배닝: 이는 알고리즘적 중재(예: 순위 하락, 트래픽 감소)를 통해 사회관계망서비스(SNS) 게시물의 가시성을 의도적으로 줄이는 것을 의미하며, 절차적 투명성 없이 이루어진다. 이러한 관행은 표현의 자유를 위축시키고 책임을 제한하며, 플랫폼이 저작권 침해에 대한 법적 리스크를 완화하기 위해 콘텐츠를 명시적으로 삭제하지 않고도 사용하는 방식으로 활용된다.

핵심 문제는 두 관행 모두 인터넷을 소수의 플랫폼이 지배하는 중앙집중식 통제 모델로 전환시켜, 혁신과 다양성보다는 이익과 리스크 관리를 우선시하도록 만든다는 점이다.

방법론

본 논문은 이러한 현상을 조사하기 위해 법적 및 규제적 분석과 기술적 검토를 결합한 방법을 채택한다. 새로운 경험적 데이터나 실험 결과를 제시하는 대신, 기존의 법적 교리, 기술적 프레임워크 및 규제 텍스트를 종합한다.

• 기술적 분석: 논문은 검색 기술의 진화를 초기 인덱서(Archie, Jughead)에서 시맨틱 검색(Hummingbird, BERT), 그리고 최종적으로 RAG 기반 생성 시스템으로 추적한다. RAG의 메커니즘을 상세히 설명하며, 어떻게 외부 문서를 검색하고 맥락을 강화하며 답변을 합성함으로써 사용자와 소스 웹사이트 간의 연결을 끊는지 설명한다.
• 법적 교리 분석: 저자는 생성형 검색 제공자에 대해 다음과 같은 잠재적 법적 청구를 분석한다:
  • 저작권 침류: 실질적 유사성, 접근성 및 "공정 이용(fair use)" 방어의 적용 가능성을 평가한다(Harper & Row 및 Authors Guild v. Google 사례 참조).
  • 표절 및 "세미 표절(Semi-Plagiarism)": 완전한 출처 미표기와 특정 텍스트 세그먼트를 소스에 연결하지 못하는 부분적 출처 표기 사이의 차이를 구분한다.
  • 부정경쟁: 생성형 검색이 노동 집약적 콘텐츠의 무단 도용에 해당한다고 주장하기 위해 "핫 뉴스(hot news)" 교리(INS v. AP)를 적용한다.
  • 부당이득 및 과실: 지배적 플랫폼(예: 구글)이 트래픽 감소를 일으키는 변화에 대해 의존적인 웹사이트 보유자에게 알릴 합리적인 주의를 기울이지 못한 것에 대해 책임을 질 수 있다고 주장한다.
• 비교 규제 프레임워크 분석: 이러한 문제를 해결하기 위한 기존 규제의 효용성을 평가한다:
  • 중국: 투명성, 사용자 항소 요구 사항, 저작권 집행과 예외/제한 사이의 균형에 초점을 맞춘 *알고리즘 추천 규정(RAR)*을 분석한다.
  • 유럽 연 Union: *인공지능법(AIA)*을 검토하며, 특히 위험 기반 접근 방식과 자동 콘텐츠 인식 필터가 표현의 자유와 같은 기본권을 위협하는 "고위험" 시스템에 해당하는지 여부를 조사한다.

주요 기여

본 논문은 AI 및 인터넷 거버넌스 담론에 대해 다음과 같은 개념적, 분석적 기여를 한다:

1. "세미 표절"의 개념화: 저자는 생성형 검색 결과가 소스 참조는 제공하지만, 생성된 텍스트의 특정 세그먼트를 해당 소스에 명확하게 연결하지 못함으로써 정보의 기원을 모호하게 만드는 현상을 설명하기 위해 "세미 표절"이라는 용어를 도입한다.
2. "알고리즘적 억제(Algorithmic Dissuasion)"의 정의: 섀도 배닝을 단순한 콘텐츠 삭제가 아니라, 콘텐츠를 공식적인 삭제 절차를 트리거하지 않으면서도 "찾을 수 없게" 만드는 순위 하락 및 트래픽 감소를 포함한 전략적 스펙트럼으로서 "알고리즘적 억제"로 프레임화한다.
3. 중재의 "다크 데이터(Dark Data)": 섀도 배닝의 맥락에서 트래픽 감소가 사용자에게 불투명하여 탐지하거나 증명하는 것이 불가능해지는 "다크 데이터" 개념을 강조하며, 이로 인해 효과적인 구제 메커니즘이 사라짐을 지적한다.
4. 현재의 법적 대응에 대한 비판: 현재의 법적 프레임워크(저작권, 불법행위, 부정경쟁)와 규제 시도(RAR, AIA)가 불충분하다고 주장한다. 저자는 이러한 제도들이 부분적인 해결책을 제공할 수는 있으나, 출처 표기의 소멸과 관객 접근성의 상실에 대한 공정성, 투명성 및 강력한 구제책을 보장하는 데는 실패한다고 본다.
5. 부분적 구제책으로서의 기술적 솔루션: 자율적인 AI 에이전트가 콘텐츠 제공자와 협상하고 보상할 수 있는 **에이전틱 AI(Agentic AI)**를 잠재적인 미래의 구제책으로 탐구하지만, 이 기술이 아직 완전히 실현되지 않았음을 언급한다.

결과 및 조사 내용

분석을 통해 다음과 같은 조사 결과를 도출하였다:

• 기술적 영향: RAG 기반 생성형 검색은 소스 웹사이트로의 클릭을 요구하지 않고 사용자 질의를 충족하는 답변을 합성함으로써 정보 구조를 근본적으로 변화시킨다. 이는 뉴스 및 콘텐츠 사이트의 유기적 트래픽 감소(15%에서 90% 감소 추정치 인용)로 이어진다.
• 법적 한계:
  • 저작권: 저작권 침해 청구는 실행 가능하지만, AI 기업들이 흔 часто 사용하는 '변형적 성격' 논리에 따라 "공정 이용" 방어가 여전히 큰 장애물로 남아 있다.
  • 표절: 전통적인 표절 규범은 법적으로 불법이나 범죄가 아닌 경우가 많아 집행이 어렵지만, 평판 측면의 무게를 가진다.
  • 부정경쟁: "핫 뉴스" 교리는 잠재적인 경로를 제공하지만, 특정한 역사적 맥락에 의해 제한된다.
  • 과실/부당이득: 이러한 청구는 급변하는 기술 환경 속에서 주의 의무와 "부당함"의 정의에 관한 높은 장벽에 직면한다.
• 규제 격차:
  • 중국의 RAR: 투명성과 항소 메커니즘을 명령하고 있지만, 본 논문은 자동 콘텐츠 인식 알고리즘이 현재 저작권 예외 및 제한(3단계 테스트)을 적절히 적용할 만큼 정교하지 못하여 과잉 집행을 초래한다고 본다.
  • EU의 AIA: 이 법안은 AI 시스템을 위험도에 따라 분류하지만, 표현의 자유와 같은 기본권을 침해할 가능성이 있음에도 불구하고 자동 콘텐츠 인식 필터를 "고위험"으로 명시적으로 분류하지 않았다.
• 시장 집중: 현재의 궤적은 라이선스 계약(예: OpenAI와 News Corp의 계약)을 협상할 능력이 있는 대형 출판사들에게 유리하게 작용하는 반면, 중소기업(SME)은 유사한 보호를 확보할 협상력이 부족하여 시장 집중을 가속화한다.

의의 및 주장

본 논문은 생성형 검색과 섀도 배닝이 인터넷의 민주화된 공론장으로서의 성격에 대한 구조적 위협이라고 주장한다. 저자는 이것이 단순한 기술적 진화가 아니라, "관심을 사유화"하고 "알고리즘적으로 참여를 게이트키핑"하는 관행이라고 주장한다.

이 연구의 의의는 저작권, 불법행위 및 행정법의 규범적 및 교리적 재조정을 촉구하는 데 있다. 저자는 다음과 같은 사항을 의무화하는 규제 개입 없이는 다음과 같은 위험이 있다고 주장한다:

1. 알고리즘 투명성: 특히 콘텐츠가 어떻게 순위가 낮아지거나 합성되는지에 관한 투명성.
2. 형평성 있는 프레임워크: 중소기업이 라이선스 계약에 의해 소외되지 않도록 보장하는 것.
3. 구제 메커니즘: 사용자와 제작자에게 불투명한 알고리즘 결정에 이의를 제기할 수 있는 효과적인 경로를 제공하는 것.

인터넷은 현대적 공론장의 역할을 잃고, 리스크 관리와 이익을 우선시하는 중앙집중형 플랫폼에 의해 혁신과 다양한 표현이 억제되는 엄격히 통제된 공간이 될 위험이 있다. 논문은 법적 및 기술적 대응이 나타나고는 있지만, 디지털 생태계의 균형을 회복하기에는 현재로서는 불충분하다고 결론짓는다.