$k$NNProxy: Efficient Training-Free Proxy Alignment for Black-Box Zero-Shot LLM-Generated Text Detection

1. 문제 정의 (Problem Definition)

대규모 언어 모델 (LLM) 이 생성한 텍스트 (LGT) 를 탐지하는 것은 디지털 신뢰성과 학문적 정직성을 유지하는 데 필수적입니다. 기존 LGT 탐지 방법은 크게 **학습 기반 (Learning-based)**과 제로샷 (Zero-shot) 방법으로 나뉩니다.

• 학습 기반: 특정 도메인 데이터로 분류기를 학습시키지만, 새로운 도메인이나 LLM 에서는 일반화 성능이 떨어집니다.
• 제로샷 (Zero-shot): 별도의 학습 없이 프록시 (Proxy) LLM 을 사용하여 통계적 패턴을 분석합니다. 이는 훈련 비용이 없으므로 유망하지만, **프록시 LLM 과 실제 소스 LLM 간의 분포 불일치 (Misalignment)**에 매우 취약합니다.
• 기존 해결책의 한계: 프록시와 소스 LLM 간의 격차를 줄이기 위해 기존 방법들 (DALD, Glimpse 등) 은 프록시 LLM 의 **지도 학습 (Supervised Fine-tuning)**이나 상용 API 와의 반복적 상호작용을 요구합니다. 이는 높은 비용, API 변경에 따른 취약성, 그리고 도메인 이동 (Domain Shift) 하에서의 낮은 견고성을 초래합니다.

2. 제안 방법론 (Methodology)

저자들은 kNNProxy를 제안하여, 학습이 필요 없고 쿼리 효율적인 프록시 정렬 (Proxy Alignment) 프레임워크를 구축했습니다. 핵심 아이디어는 **kNN-LM(k-Nearest Neighbor Language Model)**의 검색 메커니즘을 고정된 프록시 LLM 을 위한 '도메인 어댑터'로 재사용하는 것입니다.

A. kNNProxy 의 핵심 구조

1. 오프라인 데이터스토어 구축 (Offline Datastore Construction):
   • 목표 LLM 의 특성을 반영하는 LGT 코퍼스 (예: WildChat 데이터 또는 기존 데이터셋) 를 수집합니다.
   • 고정된 프록시 LLM 을 사용하여 문맥 (Context) 을 인코딩하고, 다음 토큰 (Next-token) 과 짝을 지어 데이터스토어를 구성합니다. 이 과정은 학습 없이 한 번만 수행됩니다.
2. 검색 유도 분포 (Retrieval-induced Distribution):
   • 추론 시, 의심스러운 텍스트의 각 토큰 위치에서 프록시 LLM 이 생성한 문맥을 기반으로 데이터스토어에서 가장 유사한 $k$개의 이웃 (Nearest Neighbors) 을 검색합니다.
   • 검색된 이웃들의 다음 토큰 분포를 거리 기반 가중치로 합산하여 **kNN 분포 ($\pi_{knn}$)**를 생성합니다.
3. 정렬된 분포 (Aligned Distribution):
   • 프록시 LLM 의 원래 출력 ($\pi_{prx}$) 과 검색 기반 분포 ($\pi_{knn}$) 를 보간 (Interpolation) 하여 최종 정렬된 분포 ($\hat{\pi}$) 를 만듭니다.
   • 공식: $\hat{\pi} = \lambda \pi_{prx} + (1-\lambda) \pi_{knn}$
   • 이를 통해 프록시 LLM 이 소스 LLM 의 토큰 선호도를 더 잘 반영하도록 보정됩니다.
4. 제로샷 탐지 적용:
   • 이렇게 정렬된 분포를 사용하여 Fast-DetectGPT 나 Binoculars 와 같은 기존 제로샷 탐지기들의 점수를 재계산합니다.

B. 도메인 이동 대응: MoP (Mixture of Proxies)

• 단일 데이터스토어는 도메인 이동 (예: 학술 논문에서 소셜 미디어로 변경) 시 성능이 저하될 수 있습니다.
• 이를 해결하기 위해 MoP를 제안했습니다. 여러 도메인별 (주제별) 데이터스토어를 구축하고, 입력 텍스트의 도메인을 분류하는 경량 라우터 (Router) 를 통해 가장 적합한 도메인별 kNNProxy 전문가 (Expert) 를 선택하여 검색을 수행합니다.

C. 이론적 분석 및 적응형 하이퍼파라미터

• 오차 한계 이론: 검색 기반 정렬의 오차를 코퍼스 크기에 의존하는 이론적 상한선으로 유도했습니다.
• 적응형 하이퍼파라미터: 이론적 분석을 바탕으로, 토큰마다 이웃 수 ($k$), 온도 ($\tau$), 보간 가중치 ($\lambda$) 를 동적으로 조정하는 전략을 개발했습니다. 이는 검색 신뢰도가 낮은 지역에서는 프록시 출력을 더 신뢰하고, 신뢰도가 높은 지역에서는 검색 증거를 더 활용하도록 합니다.

3. 주요 기여 (Key Contributions)

1. 학습 없는 프록시 정렬: 프록시 LLM 의 미세 조정 (Fine-tuning) 이나 테스트 시 API 반복 호출 없이, 오프라인 데이터스토어와 kNN 검색만으로 강력한 정렬을 달성했습니다.
2. 도메인 이동에 강한 견고성: MoP(Mixture of Proxies) 아키텍처를 통해 도메인별 특성에 맞는 검색을 수행하여, 도메인 이동 하에서도 안정적인 탐지 성능을 유지합니다.
3. 이론에 기반한 적응형 설계: 검색 오차 이론을 바탕으로 토큰 단위 적응형 하이퍼파라미터를 도입하여, 비용이 많이 드는 그리드 서치 (Grid Search) 없이도 최적의 성능을 확보했습니다.
4. SOTA 성능 달성: 8 개의 최신 상용 LLM(GPT-4, Claude-3, Gemini 등) 에 대한 실험에서 평균 AUROC 0.99를 기록하여 기존 최첨단 (SOTA) 방법 대비 6.45% 향상된 성능을 보였습니다. 또한, 폐쇄형 LLM 소스 추적 (Source Attribution) 에서도 평균 정확도 0.84 를 달성했습니다.

4. 실험 결과 (Results)

• 벤치마크: Mix8(8 개 상용 LLM, 4 개 도메인) 과 DetectRL(공격 및 변형 데이터 포함) 에서 평가 수행.
• 성능 비교:
  • Mix8: 기존 제로샷 방법 (Fast-DetectGPT, Binoculars) 에 kNNProxy 를 적용했을 때, DALD(미세조정 기반) 나 Glimpse(API 기반) 보다 우수한 성능을 보였습니다. 특히 Binoculars + kNNProxy 조합은 평균 AUROC 0.990 을 기록했습니다.
  • DetectRL (도메인 이동): 도메인 이동 및 다양한 공격 (Paraphrasing, Perturbation) 하에서도 kNNProxy 는 기존 방법 대비 F1 점수가 17~23% 이상 향상되었으며, MoP 를 적용 시 추가적인 견고성을 입증했습니다.
• 소스 추적 (Attribution): 특정 LLM 이 생성한 텍스트를 식별하는 작업에서도 높은 정확도를 보였습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 kNN-LM 의 검색 메커니즘을 생성 (Generation) 이 아닌 판별 (Discrimination/Forensics) 작업에 성공적으로 적용했다는 점에서 의미가 큽니다.

• 비용 효율성: 고비용의 모델 미세조정이나 실시간 API 의존성을 제거하여 실제 배포 환경에 적합합니다.
• 실용성: 오프라인 데이터스토어 구축만으로 다양한 도메인과 LLM 에 대응 가능하므로, 빠르게 진화하는 LLM 생태계에서 지속 가능한 탐지 솔루션을 제공합니다.
• 신뢰성: 이론적 분석과 적응형 메커니즘을 통해 블랙박스 환경에서도 신뢰할 수 있는 탐지 신호를 제공하며, AI 생성 텍스트 탐지 분야의 새로운 표준을 제시합니다.

요약하자면, kNNProxy는 학습 비용 없이도 프록시 LLM 과 실제 생성 모델 간의 간극을 효과적으로 메워, 블랙박스 환경에서의 LLM 생성 텍스트 탐지 성능을 획기적으로 향상시킨 혁신적인 프레임워크입니다.