기술적 요약: 생성형 검색 엔진 인용문 감사 및 AI 생성 출처 증거 분석

문제 제기

ChatGPT, Copilot, Gemini, Perplexity 와 같은 대화형 인터페이스가 웹 정보를 종합하여 사용자의 질의에 답변하는 생성형 검색 엔진 (GSE) 의 급증은 정보 탐색 방식을 변혁시켰다. 그러나 이러한 시스템이 출처 메커니즘에 대해 불투명하다는 점은 중대한 우려를 야기한다. 구체적으로 GSE 가 AI 생성 콘텐츠를 권위 있는 출처로 인용할 위험이 있다. AI 생성 콘텐츠는 환각, 편향, 부정확성으로 고통받을 수 있으며, 웹은 종종'AI 슬롭 (AI slop)'이라고 불리는 이러한 콘텐츠로 점점 더 포화 상태에 이르렀다. 따라서 사용자는 정치, 건강, 환경과 같은 고위험 분야에서 특히 저품질이거나 오해의 소지가 있는 정보를 모르게 소비할 수 있다. 본 연구가 다루는 핵심 문제는 주요 GSE 의 인용 풀 내에 AI 생성 출처가 얼마나 널리 퍼져 있는지, 그리고 이러한 엔진이 이를 필터링하는 데 얼마나 신뢰할 수 있는지에 대한 경험적 증거의 부재다.

방법론

본 연구는 ChatGPT(웹 검색 활성화), Copilot, Gemini, Perplexity 등 네 가지 주요 GSE 를 평가하기 위해 사회기술적 감사 (socio-technical audit) 접근법을 사용했다.

1. 데이터 큐레이션 및 질의 선정:

• 소스 데이터셋: 연구진은 712 개의 실제 세계 단일 턴 영어 질의 샘플을 큐레이션했다.
  • 정치 및 건강: 432 개의 질의는 정보적 의도와 미국 맥락의 관련성을 필터링한 Search Arena 데이터셋 (Miroyan et al. 2025) 에서 파생되었다.
  • 환경: 280 개의 질의는 영어와 미국 관련성을 필터링한 Climate Q&A 데이터셋 (De La Calzada et al. 2024) 에서 발췌되었다.
• 주제: 질의는 정치, 건강, 환경이라는 세 가지 공공적 중요도 영역에 걸쳐 있다.

2. 데이터 수집 (스크래핑):

• Playwright 를 사용한 맞춤형 Python 스크래퍼가 사용자와의 상호작용을 시뮬레이션하여 GSE 에 질의를 제출했다.
• 시스템은 생성된 응답을 캡처하고 모든 인-텍스트 인용문 (URL) 을 추출했다.
• 본 연구는 네 가지 엔진을 통해 26,266 개의 고유한 소스 URL 을 수집했다.
• 콘텐츠는 19,154 개의 URL(72.9%) 에서 스크래핑되었으며, 나머지 비텍스트 형식 (PDF, 이미지) 이나 접근 불가로 인해 제외되었다.

3. AI 콘텐츠 탐지:

• 평가된 도구: Pangram 과 GPTZero 두 가지 탐지 도구가 RAID 벤치마크의 큐레이션된 인간 작성 텍스트와 알려진 AI 생성 텍스트에 대해 벤치마킹되었다.
• 도구 선정: 두 도구 모두 벤치마크에서 높은 정확도를 보였으나, Pangram 은 위음성 (false negatives) 에 대해 보수적인 접근 방식을 취하여 AI 생성 콘텐츠의 유포율에 대한 하한선을 설정하려는 연구의 목표와 부합하므로 주 분석에 선정되었다.
• 분류 기준: 도구가 텍스트를"매우 가능성 높은 AI"또는"가능성 높은 AI"로 예측한 경우"AI 생성"으로 분류되었다. 모호한 카테고리 ("혼합"또는"아마도 AI") 는 추정치를 과장하지 않기 위해 제외되었으나, "혼합"사례의 경우 합산 점수가 인간 신뢰도 임계값을 초과하면 재평가되었다.

4. 분석:

• 본 연구는 인용된 소스 도메인의 분포, 인용의 집중도 (지니 계수 사용), 그리고 제공자 및 주제별 AI 생성 콘텐츠의 비율을 분석했다.

주요 결과

1. AI 생성 출처의 유포율:

• 성공적으로 스크래핑된 19,154 개의 고유한 인용 출처 중 약 16%(3,056 개) 가 AI 생성으로 확인되었다.
• 이 유포율은 제공자별로 상이했다:
  • Copilot: 인용된 출처의 27.8% 가 AI 생성이었다.
  • Gemini: 14.7%.
  • Perplexity: 9.4%.
  • ChatGPT: 7.3%.
• 주제별 변동: AI 생성 출처는 환경 관련 질의에 대한 응답에서 가장 널리 퍼져 있었으며 (전체 인용문의 13.3%), 그다음으로 건강 (해당 카테고리 인용문의 16.3%), 정치 (11.1%) 순이었다.

2. 인용 패턴 및 집중도:

• 롱테일 분포: 인용문은 불균등하게 분포되어 있다 (지니 계수 = 0.68). 소수의 도메인이 반복적으로 인용되는 반면 ("헤드"), 대다수 (59.1%) 는 단 한 번만 인용된다.
• 상위 도메인: 상위 25 개 가장 많이 인용된 도메인은 모든 인용문의 23.8% 를 차지한다. 위키피디아는 단일 최다 인용 도메인이며 (상위 25 개 중 15.2%), 정부 웹사이트는 collectively 상위 25 개 중 33.0% 를 차지하는 반면, 소셜 미디어 (레딧, 유튜브) 는 8.8% 를 차지한다.
• AI 생성 출처 분포: AI 생성 출처의 16% 는 분포의"롱테일"에서 주로 발견된다. 상위 25 개 도메인은 AI 생성 출처의 2.9% 만을 차지하는 반면, AI 생성 출처의 97.1% 는 나머지 덜 자주 인용되는 도메인에서 나온다.
• 특정 도메인: 본 연구는 sustainability-directory.com 변형, factually.co와 같은 틈새 환경 및 건강 사이트뿐만 아니라 pmc.ncbi.nlm.nih.gov, earth.gov와 같은 정부 및 정부 간 사이트를 포함하여 AI 생성 콘텐츠가 고농도로 존재하는 특정 도메인을 식별했다.

3. 인용 공백:

• 응답의 약 8.8% 는 전혀 인용문이 포함되지 않았다. 이는 건강 관련 질의에서 가장 흔하게 발생했으며 (11.6%), 이러한 경우 외부 웹 소스 대신 LLM 의 내부 지식에 의존했음을 시사한다.

주요 기여

• AI 생성 인용문에 대한 경험적 증거: 본 연구는 주요 GSE 가 AI 생성 콘텐츠를 출처로 자주 인용한다는 것을 보여주는 첫 번째 체계적 감사를 제공한다. 인용된 출처 중 약 6 분의 1 이 AI 생성일 정도로 유포율이 높다.
• 출처 생태계 매핑: 본 연구는 GSE 의 인용 지형을 매핑하여 정부, 위키피디아와 같은 소수의 고빈도 도메인에 대한 중대한 의존성과 함께, 많은 부분이 AI 생성 콘텐츠를 포함하는 최소 인용 도메인의 거대한 롱테일을 드러냈다.
• 제공자 간 차이: 본 감사는 제공자 간 출처 선정 관행에서 상당한 차이를 강조하며, Copilot 은 모든 주제에서 AI 생성 출처를 인용하는 비율이 가장 높았다.
• 방법론적 프레임워크: 본 논문은 웹 스크래핑과 AI 탐지 도구를 사용하여 GSE 인용문을 감사하는 파이프라인을 확립하여 향후 정보 품질 연구를 위한 재현 가능한 접근 방식을 제공한다.

중요성 및 주장

본 논문은 이 작업을 생성형 검색 엔진이 야기하는 위험을 이해하기 위한 초기 단계로 위치시킨다. 저자들은 그들의 발견이 다음과 같다고 주장한다:

• 신뢰성 한계 강조: GSE 는 현재 건강과 정치와 같은 고위험 분야에서 특히 합성 출처를 생략하는 데 신뢰할 수 없음을 보여준다.
• 거버넌스 정보 제공: 특정 웹 도메인의 식별과 AI 생성 콘텐츠의 유포율은 개발자와 위험 평가자에게 AI 생성 인용문을 필터링하거나 라벨링하는 것과 같은 출처 관리 전략을 개선하도록 정보를 제공할 수 있다.
• 인식 제고: 결과는 이러한 시스템의 한계와 권위 있는 인용문이라는 이름으로 허위 정보가 유포될 가능성에 대한 대중의 인식이 필요함을 강조한다.
• 기준 설정: 이 발견은 온라인에서 AI 생성 콘텐츠의 유포와 정보 검색 시스템으로의 통합을 추적하기 위한 향후 연구의 기준선 역할을 한다.

저자들은 단일 탐지 도구 (Pangram) 에 대한 의존성, 비텍스트 모달리티 (동영상, 이미지) 의 제외, 미국 중심 질의에 대한 초점과 같은 한계를 인정하며 겸손한 어조를 유지한다. 그들은 보고된 16% 라는 수치는 하한선으로 해석되어야 하며, 공식 정부 웹사이트에 AI 생성 콘텐츠가 존재한다는 사실은 이러한 사례가 고품질인지 저품질 합성 콘텐츠를 반영하는지 여부를 더 조사해야 함을 강조한다.