기술 요약: AI 생성 텍스트 탐지를 위한 잠재 궤적 판별 (Latent Trajectory Discrimination)

1. 문제 정의

현재의 AI 생성 텍스트 탐지(AIGTD) 접근 방식은 주로 문서를 정적인 객체로 취급하며, 분류 결정을 내리기 위해 집계 통계나 전역적으로 압축된 임베딩(예: CLS 토큰 풀링)에 의존합니다. 이러한 정적인 관점은 자기회귀적(autoregressive) 생성의 본질적인 동적 특성, 즉 콘텐츠가 잠재 공간(latent space)을 통해 점진적으로 진화하는 과정을 간과합니다. 지도 학습 기반 분류기, 제로샷 확률적 접근 방식, 워터마킹 기법을 포함한 기존 방법들은 시퀀스를 따라 잠재 표현이 어떻게 진화하는지를 모델링하는 데 어려움을 겪습니다. 결과적으로, 이들은 교차 모델 일반화, 적대적 패러프레이징(adversarial paraphrasing), 그리고 인간과 합성 텍스트 사이의 표면적 차이가 줄어드는 현상에 취약합니다. 저자들은 자기회귀적 생성의 독특한 시그니처가 고립된 어휘적 흔적이 아니라, 생성 프로세스의 동적 구조, 구체적으로 텍스트가 생성됨에 따라 의미적 표현이 점진적으로 어떻게 진화하는지에 있다고 가설을 세웁니다.

2. 방법론: GTCL 프레임워크

본 논문은 AIGTD를 정적인 문서 표현이 아닌 잠재 생성 궤적을 구별하는 문제로 재정의하는 기하학적 궤적 및 대조 학습(Geometric Trajectory and Contrastive Learning, GTCL) 프레임워크를 제안합니다. 워크플로우는 다음과 같은 세 가지 주요 단계로 구성됩니다.

2.1 궤적 기반 텍스트 표현

문서는 단일 전역 임베딩 대신 잠재 공간에서의 이산 궤적으로 모델링됩니다:

• 세그멘테이션(Segmentation): 텍스트는 슬라이딩 윈도우 메커니즘(파라미터: 윈도우 길이 $M$, 슬라이딩 스텝 $Q$)을 사용하여 순서가 있는 고정 길이의 중첩된 윈도우로 분할됩니다.
• 인코딩(Encoding): 각 윈도우는 동결된 사전 학습된 문장 임베딩 인코더($E$)와 학습 가능한 트랜스포머 기반 투영 모듈을 사용하여 특징 벡터로 인코딩됩니다.
• 궤적 구축(Trajectory Construction): 특징 벡터의 시퀀스는 문서의 내부적 의미 진화를 나타내는 구조화된 행렬 $X_T \in \mathbb{R}^{N \times D}$를 형성합니다.

2.2 궤적 역학 모델링

절대적인 위치가 아닌 진화를 포착하기 위해, GTCL은 연속적인 특징 벡터 간의 1차 차분(first-order differences)을 계산합니다:

• 차분 행렬(Difference Matrix): 각 행 $\delta_i = z_{i+1} - z_i$가 로컬한 의미적 전이를 나타내는 $\Delta_T$가 구축됩니다.
• 불변성(Invariance): 이 접근 방식은 투영 공간에서의 전역적 평행 이동(translational shifts)에 대해 불변하게 만들어, 연속적인 의미 상태 사이의 상대적 전이에만 집중합니다.

2.3 시간적 정렬 유사도 및 대조 학습

GTCL은 이러한 궤적 차분에 대해 지도 대조 학습(supervised contrastive learning)을 적용합니다:

• 시간적 정렬 유사도(Temporally Aligned Similarity): 커스텀 유사도 측정치 $s(\Delta_{T_a}, \Delta_{T_b})$가 정의됩니다. 이는 시간적 근접성과 방향성 정렬($j \le i$)을 강제하는 가중치 $w_{ij}$를 사용하여 로컬 전이들의 쌍별 내적을 집계합니다. 이는 비교가 생성 프로세스의 순방향 진행을 존중하도록 보장하여, 한 문서의 초기 단계 차이가 다른 문서의 후기 단계 차이와 정렬되지 않는 문제를 방지합니다.
• 하드 대조 그룹(Hard Contrastive Groups): 각 앵커 문서에 대해, 프레임워크는 "하드 포지티브"(동일 클래스의 서로 다른 문서)와 "하드 네거티브"(반대 클래스의 유사한 문서)를 포함하는 그룹을 구성합니다.
• 손실 함수(Loss Function): 지도 대조 손실이 적용되어 하드 포지티브는 임베딩 공간에서 더 가깝게 끌어당기고, 하드 네거티브는 서로 밀어내어, 자기회귀적 생성에 특화된 기하학적 규칙성을 학습합니다.
• 분류(Classification): 추론 단계에서는 추가적인 분류기 헤드를 학습시키지 않고 학습된 표현에 직접 $k$-최근접 이웃($k$-NN) 분류기를 운용합니다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 명시합니다:

1. AIGTD의 재정의: 탐지 패러다임을 정적인 문서 표현에서 궤적 차이의 식별으로 전환했습니다.
2. 시간적 정렬 유사도: 텍text 생성의 순차적 특성을 존중하면서, 방향성과 로컬 구조를 갖춘 의미적 전이를 포착하는 1차 임베딩 차이 기반의 유사도 측정치를 도입했습니다.
3. GTCL 프레임워크: 로짓(logits)이나 모델 내부 상태에 대한 접근 없이도 생성 특유의 기하학적 역학에 따라 투영 공간을 구조화하는 궤적 수준의 지도 대조 학습 프레임워크를 제안했습니다.
4. 실증적 검증: 세 가지 다양한 벤치마크(RAID, NYT-AI, 커스텀 OpenReview 기반 데이터셋)를 통해 기존 베이스라인 모델들을 일관되게 능가함을 입증했습니다.

4. 실험 결과

저자들은 세 가지 데이터셋에 대해 GTCL을 평가했습니다:

• RAID: 패러프레이징에 대한 강건성을 테스트하는 적대적 벤치마크입니다.
• NYT-AI: 인간 기사 및 6개의 다양한 LLM으로부터 생성된 합성 기사를 포함하는 데이터셋입니다.
• Reviews: 과학 논문 리뷰 데이터셋 (인간 작성 vs. Gemini/GPT-4o에 의해 생성된 AI 작성).

주요 결과:

• 성능: GTCL은 모든 데이터셋에서 기존 베이스라인(DeTeCtive, ModernBERT, Binoculars, RADAR 포함)을 일관되게 능가했습니다.
  • Reviews 데이터셋에서 GTCL은 0.98의 정확도와 F1 스코어를 달성하였으며, 이는 두 번째로 우수한 접근 방식인 DeTeCtive보다 약 8.89% 높은 수치입니다.
  • NYT-AI에서 GTCL은 0.98의 정확도를 달성하였으며, 특히 다른 모델들이 어려움을 겪었던 인간 생성 텍스트 탐지에서 강점을 보였습니다 (DeTeCtive의 F1-score 0.78 대비 0.91).
  • 적대적 데이터셋인 RAID에서도 GTCL은 가장 높은 성능(0.83 정확도)을 유지하며 패러프레이징에 대한 강건성을 입증했습니다.
• 기하학적 분석: Mann–Whitney U 검정을 통한 통계적 분석 결과, 인간이 생성한 궤적은 AI가 생성한 궤적과 유의미하게 다른 기하학적 특성을 보였습니다. 인간의 궤적은 더 길고, 더 구불구불하며(높은 곡률), 스텝 크기와 방향이 더 불규칙한 것으로 나타났는데, 이는 의미 공간을 탐색할 때 제약이 덜함을 시사합니다.
• 절제 연구 및 하이퍼파라미터: 프레임워크는 백본 인코더의 선택(Nomic Embed Text v1.5와 더 큰 규모의 Jina Embeddings V3 모두 유사한 성능 수행)에 대해 견고함을 증명했습니다. 또한 중간 정도의 윈도우 길이와 슬라이딩 스텝에서 최적의 성능을 보였으며, 시간적 정렬 유사도($\gamma$)가 로컬 의존성을 포착하는 데 결정적인 역할을 했습니다.

5. 의의 및 주장

본 논문은 순차적 역학을 명시적으로 모델링하는 것이 정적 표현이 놓치는 강력한 변별 신호를 제공한다고 주장합니다. GTCL의 의의는 다음과 같습니다:

• 개념적 재구성: "텍스트가 무엇처럼 보이는가"(정적 콘텐츠)에서 "텍스트가 어떻게 진화하는가"(동적 궤적)로의 전환.
• 일반화 가능성: 생성 모델의 내부 상태(로짓)나 워터마크에 대한 접근을 요구하지 않으므로, 임의의 모델에서 생성된 모든 텍스트에 적용 가능합니다.
• 균형 잡힌 탐지: GTCL은 기존 탐지기에서 흔히 발견되는 비대칭성 문제를 해결하며, 인간과 AI 클래스 모두에 대해 균형 잡힌 탐지 성능을 유지합니다.
• 구조적 근거: 결과는 자기회귀적 생성의 기하학적 규칙성이 적대적 상황에서도 활용될 수 있는 근본적이고 모델 불가지론적인(model-agnostic) 속성임을 시사합니다.

저자들은 GTCL이 효과적이지만, 향후 연구는 해석 가능성(탐지에 기여하는 특정 윈도우 식별)을 개선하고, 이와 다른 기하학적 특성을 가질 수 있는 비자기회귀 모델(예: 확산 기반 언어 모델)로 프레임워크를 확장하는 데 집중해야 한다고 결론지었습니다.