WETBench: A Benchmark for Detecting Task-Specific Machine-Generated Text on Wikipedia

기술 요약: WETBench: 위키피디아의 작업 특화형 기계 생성 텍스트 탐지를 위한 벤치마크

문제 제기
위키피디아는 대규모 언어 모델(LLM) 학습을 위한 기초적인 데이터셋 역할을 하고 있으나, 저품질 기계 생성 텍스트(MGT)의 확산으로 인해 플랫폼이 직면한 위험이 커지고 있습니다. 기존 연구들이 기계 생성 텍스트를 위한 탐지기를 개발해 왔으나, 이러한 벤치마크들은 주로 일반적이고 개방적인 생성 작업(예: "X에 대한 기사를 작성하라")을 평가하는 데 치중되어 있습니다. 저자들은 이러한 접근 방식이 실제 위키피디아 편집 관행인 작업 특화적이고, 점진적이며, 문맥에 조건화된 방식과 일치하지 않는다고 주장합니다. 결과적으로, 일반적인 데이터로 학습된 탐지기는 현실적인 편집 시나리오에서 일반화에 실패할 수 있으며, 이는 플랫폼을 환각(hallucination), 편향성 및 콘텐츠 무결성 문제에 취약하게 만듭니다. 또한, 이전 연구들은 종종 전체 기사를 생성하기 위해 단일 프롬프트에 의존하는데, 이는 위키피디아 커뮤니티에서 명시적으로 권장하지 않는 방식입니다.

방법론
이러한 불일치를 해결하기 위해, 저자들은 실제 편집자 워크플로우를 시뮬레이션하도록 설계된 다국어, 다중 생성기 기반의 작업 특화형 벤치마크인 WETBench를 소개합니다. 방법론은 세 가지 핵심 구성 요소로 이루어집니다:

1. 데이터셋 구축: 저자들은 영어, 포르투갈어, 베트남어를 아우르는 두 가지 새로운 코퍼스를 구축했습니다:

   • WikiPS: MGT에 의한 오염이 없음을 보장하기 위해 필터링된(ChatGPT 이전의 수정본 사용) 고품질 위키피디아 단락 및 리드-정보상-본문 삼중항(lead–infobox–body triplets)의 대규모 컬렉션입니다.
   • mWNC: 편향된 텍스트와 중립화된 텍스트의 문장 단위 및 단락 단위 쌍을 포함하는 위키피디아 중립성 코퍼스(WNC)의 다국어 확장판입니다.

2. 작업 정의 및 프롬프트 엔지니어링: 벤치마크는 편집자의 사용 사례에 근거한 세 가지 편집 작업을 정의합니다:

   • 단락 작성 (Paragraph Writing): 새로운 섹션 단락을 처음부터 생성합니다. 저자들은 최소한의 지시부터 내용 조건부 프롬프트, 그리고 검색 증강 생성(Naive RAG)에 이르는 프롬프트를 평가했습니다. Naive RAG가 MGT 생성을 위한 최적의 전략으로 선택되었습니다.
   • 요약 (Summarisation): 문서 본문과 정보상을 바탕으로 리드 섹션을 생성합니다. 원샷(One-shot) 프롬프팅이 가장 효과적인 전략으로 결정되었습니다.
   • 텍스트 스타일 변환 (Text Style Transfer, TST): 위키피디아의 중립적 관점(NPOV) 정책에 부합하도록 편향된 문장이나 단락을 중립화합니다. 파이브샷(Five-shot) 프롬프팅이 가장 좋은 결과를 냈습니다.

3. 실험 설정:

   • 생성기 (Generators): MGT는 세 가지 언어에 걸쳐 네 가지 모델(GPT-4o mini, Gemini 2.0 Flash, Qwen2.5-7B-Instruct, Mistral-7B-Instruct)을 사용하여 생성되었습니다.
   • 탐지기 (Detectors): 벤치마크는 세 가지 계열의 8가지 최첨단(SOTA) 탐지기를 평가했습니다: 학습 기반(XLM-RoBERTa, mDeBERTa), 제로샷 화이트박스(Binoculars, LLR, FastDetectGPT-WB), 제로샷 블랙박스(Revise-Detect, GECScore, FastDetectGPT-BB).
   • 규모: 최종 벤마크는 작업, 언어, 생성기에 걸쳐 101,940개의 텍스트(인간 작성 및 기계 생성)로 구성됩니다.

주요 기여

• WETBench 벤치마크: 세 가지 언어, 네 가지 생성기, 여덟 가지 탐지기를 포함하며 101,940개의 작업 특화형 텍스트를 담은 포괄적인 벤치마크를 공개했습니다.
• 새로운 코퍼스: MGT 탐지 이외의 광범위한 AI 연구를 위해 사용 가능한 WikiPS(단락 및 리드-내용 쌍)와 mWNC(단락 단위 쌍을 포함한 다국어 중립성 코퍼스)를 제작하여 공개했습니다.
• 경험적 평가: 일반적인 개방형 생성 벤치마크와 극명하게 대조되는, 현실적이고 작업 특화된 편집 시나리오에서의 SOTA 탐지기에 대한 체계적인 평가를 수행했습니다.

결과
평가는 현실적인 설정에서 현재의 탐지 방법들이 직면한 상당한 어려움을 드러냅니다:

• 전반적인 성능: 탐지기들은 일반적인 벤치마크 결과와 비교했을 때 성능이 크게 떨어집니다. 학습 기반 탐지기는 평균 **78%**의 정확도를 달성한 반면, 제로샷 탐지기는 평균 **58%**에 그쳤습니다.
• 작업별 편차: 탐지 정확도는 작업에 따라 달랐습니다. 요약이 가장 탐지하기 쉬웠으며(지도 학습 기반 탐지기가 약 89% 정확도 도달), 그 다음은 단락 작성이었습니다. **텍스트 스타일 변환 (TST)**은 가장 어려운 작업으로 나타났으며, 제로샷 방식의 경우 정확도가 종종 무작위 추측 수준 근처에 머물렀고, 지도 학습 기반 방식도 약간 높은 수준에 그쳤습니다.
• 방법론별 편차: 지도 학습(학습 기반) 탐지기가 모든 작업과 언어에서 제로샷 방식보다 일관되게 우수한 성능을 보였습니다. 제로샷 방식 중에서는 블랙박스 탐지기(특히 GECScore)가 일반적으로 화이트박스 방식보다 더 나은 성능을 보였으나, 언어와 생성기에 따라 성능 차이가 있었습니다.
• 모델 및 언어 효과: 작은 규모의 생성기(예: Mistral, Qwen)는 학습 기반 모델이 포착할 수 있는 더 많은 흔적을 남긴 반면, 큰 규모의 모델(예: GPT-4o)은 탐지하기가 더 어려웠습니다. 성능은 저자원 언어(베트남어)에서 저하되었는데, 일부 모델(예: Mistral)은 지시사항을 따르는 데 실패하여 학습 기반 탐지기가 이용할 수 있는 인공물(artifact)을 생성했지만, 제로샷 방식은 이를 활용하지 못했습니다.

의의 및 주장
본 논문은 WETBench가 MGT 탐지 분야에 필요한 '현실 점검(reality check)'을 제공한다고 주장합니다. 저자들은 기존의 탐지기들이 일반적인 작업에는 효과적이지만, 위키피디아의 실제 편집자 중심 맥락에 필요한 일반화 능력이 부족하다고 단언합니다. 결과는 다음을 강조합니다:

1. 작업 특수성의 중요성: 작업 특화형 MGT의 텍스트적 특성(예: 문장을 중립화하는 것)은 인간의 글쓰기와 매우 유사하여, 개방형 생성보다 구별하기가 더 어렵습니다.
2. 현재의 한계: 자동화된 탐지 방법이 위키피디아의 지식 무결성을 보호하는 데 있어 신뢰할 수 있는지에 대해 상당한 불확실성이 존재합니다.
3. 미래 방향: 저자들은 탐지기를 단순한 합성적, 개방형 생성 데이터가 아니라 실제 편집자 워크플로우를 반영하는 데이터로 평가할 것을 권고합니다. 저자들은 WETBench를 MGT 탐지 문제를 완전히 해결했다고 주장하기보다는, 위키미디어 커뮤니티와 더 넓은 AI 연구 커뮤니티에 MGT 탐지의 현재 실현 가능성과 한계를 알리기 위한 도구로 위치시킵니다.

논문은 현재의 한계를 강조하면서도, 이 벤치마크가 분야의 발전에 따라 추가적인 작업, 언어 및 생성기로 확장될 수 있도록 설계되었다는 완곡한 전망을 하며 마무리됩니다.