기술 요약: 일반화된 제인센-샌논 발산을 이용한 LLM 생성 텍스트의 블랙박스 탐지

문제 제기

대형 언어 모델 (LLM) 의 급속한 발전은 인간이 작성한 텍스트와 기계가 생성한 텍스트 간의 구분을 모호하게 만들었으며, 이로 인해 허위 정보, 표절, 사기, 그리고 재귀적 피드백 루프를 통한 학습 데이터 품질 저하에 대한 우려가 제기되고 있습니다. 기존 탐지 방법은 실제 블랙박스 시나리오에서 다음과 같은 중대한 한계에 직면해 있습니다:

• 분류기 기반 탐지기는 도메인이나 생성기가 변경될 때 비용이 많이 드는 재학습이 필요하며, 고품질의 레이블이 지정된 데이터에 의존합니다.
• 전역 통계 방법(예: 가능성, 순위, 엔트로피)은 보정 불일치 및 도메인 이동 하에서 종종 불안정합니다.
• 분포 통계 방법(예: DetectGPT, DNA-GPT)은 일반적으로 지역 발산을 추정하기 위해 인스턴스별 재생성 또는 교란을 필요로 하므로, 고처리량 애플리케이션에 비현실적인 높은 계산 비용과 지연 시간을 초래합니다.

또한, 블랙박스 제약 조건은 스코어링에 사용되는 프록시 모델이 알려지지 않은 소스 모델과 불일치할 수 있는 문제를 악화시킵니다. 본 논문은 재학습과 인스턴스별 재생성을 피하면서도 분포 이동 및 프록시 모델 불일치 하에서 견고한 탐지기의 필요성에 대응합니다.

방법론: SurpMark

저자들은 SurpMark를 제안합니다. 이는 참조 기반의 블랙박스 탐지기로, 귀속 문제를 가능성 없는 가설 검정으로 규정합니다. 이 프레임워크는 두 단계로 작동합니다:

1. 오프라인 참조 구축

기존 인간 및 기계 말뭉치를 사용하여 고정된 참조 전이 행렬을 구축합니다:

• 놀라움 (Surprisal) 추정: 고정된 프록시 언어 모델 (LM) 이 참조 텍스트에 대한 토큰 수준의 놀라움 ($s_t = -\log p_\theta(x_t | x_{<t})$) 을 계산합니다.
• 이산화: 연속적인 놀라움 값은 공유 $k$-평균 양자화기를 사용하여 $k$개의 해석 가능한 상태 (예: "예측 가능", "놀라움") 로 양자화됩니다. 이를 통해 시퀀스가 이산 상태 시퀀스 $\{a_t\}$로 변환됩니다.
• 전이 모델링: 상태 시퀀스는 1 차 마르코프 체인으로 모델링됩니다. 경험적 전이 확률 행렬 ($\hat{M}_{human}$ 및 $\hat{M}_{machine}$) 은 참조 말뭉치 내의 상태 전이를 세어 추정됩니다.

2. 온라인 탐지

테스트 텍스트 패스에 대해:

• 특징 추출: 동일한 프록시 LM 이 놀라움을 계산하며, 공유 양자화기를 사용하여 이산화하여 상태 시퀀스를 형성합니다.
• 전이 추정: 테스트 텍스트에 대한 경험적 전이 행렬 ($\hat{M}_{test}$) 이 계산됩니다.
• 스코어링: 탐지기는 일반화된 제인센-샌논 (GJS) 발산 스코어를 계산합니다. 구체적으로, 기계 참조에 대한 GJS 거리와 인간 참조에 대한 GJS 거리 간의 차이를 계산합니다:
  $$\Delta GJS_n = GJS(\hat{M}_{machine}, \hat{M}_{test}, \alpha) - GJS(\hat{M}_{human}, \hat{M}_{test}, \alpha)$$
  여기서 $\alpha$는 참조 길이와 테스트 길이의 비율입니다.
• 결정: $\Delta GJS_n \leq \tau$ (여기서 $\tau$는 임계값으로 일반적으로 0) 인 경우 텍스트는 기계 생성으로 분류되고, 그렇지 않으면 인간 작성으로 분류됩니다.

이론적 정당성

이 논문은 이산화된 놀라움 상태에 대한 이상화된 1 차 마르코프 근사 하에서 이론적 분석을 제공합니다:

• 이산화 - 추정 트레이드오프: 저자들은 바인 (bin) 수 $k$에 대한 스케일링 법칙을 유도합니다. 이산화 오차 ($O(1/k)$) 와 통계적 추정 오차 ($O(k^{3/2}/\sqrt{N})$) 를 균형 있게 맞추면, 최적의 바인 수는 $k^* = \Theta(N^{1/5})$로 스케일링되며, 여기서 $N$은 참조 데이터의 총 길이입니다.
• 통계 유효성: $\Delta GJS_n$ 통계량은 두 가설 (인간 대 기계) 간의 정규화된 로그 가능도 비율과 동등함이 입증되었습니다. 저자들은 점근적 정규성을 증명하여 결정 규칙을 위한 원칙적인 기초를 제공합니다.
• 1 차 충분성: 경험적 및 이론적 분석 (Gray 의 근사 이론 기반) 은 1 차 마르코프 모델에서 2 차 마르코프 모델로 이동함으로써 얻어지는 조건부 상호 정보가 미미하다는 (퍼플렉시티 감소가 1% 미만) 것을 나타내며, 데이터 효율성을 위해 1 차 모델을 사용하는 것을 정당화합니다.

주요 기여

1. SurpMark 프레임워크: 절대적 가능성 대신 토큰 놀라움 역학 (상태 전이) 을 통해 텍스트를 요약하는 참조 기반 탐지기로, 인스턴스별 재생성 필요성을 제거합니다.
2. 이론적 분석: 이산화 바인 스케일링 ($k \propto N^{1/5}$) 을 위한 설계 지침 유도 및 로그 가능도 비율로서의 GJS 기반 검정 통계량에 대한 원칙적 정당화.
3. 종합 평가: 다양한 데이터셋, 소스 모델 (오픈 소스 및 클로즈드 소스), 시나리오 (혼합 도메인, 문맥 재구성, 적대적 공격) 에 걸친 견고성을 입증하는 광범위한 실험.

실험 결과

SurpMark 는 13 개의 베이스라인 (DetectGPT, Lastde++, R-Detect, Binoculars 포함) 과 비교하여 여러 데이터셋 (XSum, WritingPrompts, SQuAD, WMT19, HC3, DetectRL) 과 모델 (오픈 소스 9 개, 클로즈드 소스 3 개) 에서 평가되었습니다.

• 성능: SurpMark 는 일관되게 베이스라인과 일치하거나 능가합니다. 9 개의 오픈 소스 모델 중 6 개에서 가장 높은 평균 AUROC 를 달성했으며, 경계 통계량이 종종 실패하는 3 개의 클로즈드 소스 모델 (GPT-5-Chat 포함) 에서 모두 1 위를 차지했습니다.
• 효율성: 인입별 재생성이 필요한 분포 방법 (예: DetectGPT, Lastde++) 과 달리 SurpMark 는 단일 패스로 텍스트를 스코어링합니다. 일회성 전처리 비용을 상쇄한 후 베이스라인보다 높은 처리량을 달성하여 실시간 배포에 적합합니다.
• 견고성:
  • 프록시 불일치: 많은 베이스라인이 저하되는 반면, SurpMark 는 프록시 LM 이 소스 생성기와 크게 다르더라도 안정적으로 유지됩니다.
  • 도메인 이동: 이 방법은 혼합 도메인 및 혼합 생성기 설정 (DetectRL 벤치마크) 에서 높은 성능을 유지합니다.
  • 적대적 공격: SurpMark 는 문맥 재구성 공격 (다듬기, 역번역, DIPPER) 과 인간 스타일을 모방하거나 탐지를 회피하도록 설계된 프롬프트 엔지니어링 적대적 공격에 대해 강력한 회복 탄력성을 보여줍니다.
  • OOD 일반화: 참조 텍스트가 테스트 세트와 다른 도메인에서 오더라도 탐지기가 잘 수행되며, 이는 도메인별 아티팩트가 아닌 전이 가능한 신호를 포착함을 나타냅니다.

중요성 및 주장

이 논문은 SurpMark 가 블랙박스 LLM 텍스트 탐지를 위한 견고하고 효율적이며 이론적으로 근거된 솔루션을 제공한다고 주장합니다. 그 중요성은 다음과 같습니다:

• 소스 모델과의 분리: 고정된 참조에 대한 토큰 놀라움의 역학에 의존함으로써 특정 생성기로 훈련된 분류기의 취약성을 피합니다.
• 계산 효율성: 인스턴스별 재생성과 관련된 지연 시간과 비용을 제거하여 확장 가능한 배포를 가능하게 합니다.
• 고급 모델 처리: 이 방법은 인간 텍스트와 수렴하는 경계 놀라움 분포를 가지지만 전이 역학은 여전히 구별되는 강력한 클로즈드 소스 모델 (GPT-5 등) 의 텍스트 탐지 과제를 특히 해결합니다.

저자들은 겸손하게 한계를 지적하며, 이산화된 상태 공간에 대한 1 차 마르코프 근사는 이상화이며 프록시 모델의 인간 텍스트 사전 학습 노출이 이론적으로 위양성을 증가시킬 수 있음을 인정합니다. 다만 실험은 이 효과가 미미함을 시사합니다. 그들은 탐지기가 확률적 신호를 제공하며 인간의 검토 없이 고위험 의사결정의 유일한 근거로 사용되어서는 안 된다고 강조합니다.