논문 개요

이 연구는 대규모 언어 모델 (LLM) 이 프롬프트 (Prompting) 를 통해 특정 작가의 문체 (Idiolect) 를 모방하여 작성한 텍스트가 기존의 저자 검증 (Authorship Verification, AV) 시스템을 우회할 수 있는지, 그리고 이러한 '텍스트 딥페이크'가 디지털 포렌식 분야에서 얼마나 효과적인 위협이 되는지를 실증적으로 분석한 것입니다.

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 저자 검증 (AV) 은 두 개 이상의 텍스트가 동일한 저자에 의해 작성되었는지 판단하는 포렌식 언어학의 핵심 과제입니다. 과거에는 범죄자들이 피해자의 휴대폰을 이용해 가족에게 메시지를 보내는 등 수동적인 위조 (Impersonation) 를 시도했으나, 최근 LLM 의 발전으로 고도화된 문체 모방이 가능해졌습니다.
• 문제: LLM 이 특정 저자의 언어적 특징을 학습하여 새로운 텍스트를 생성할 때, 이것이 기존 AV 시스템 (비신경망 및 신경망 기반) 을 속여 '동일 저자'로 오인하게 만들 수 있는가?
• 가정: 악의적인 공격자가 공개적으로 이용 가능한 LLM (예: GPT-4o) 과 프롬프트 엔지니어링만 사용하여 저자 위조를 시도할 경우, 현재 AV 시스템은 얼마나 견고한가?

2. 방법론 (Methodology)

가. 데이터셋 (Datasets)

포렌식 조사에서 빈번하게 사용되는 3 가지 장르의 코퍼스를 사용했습니다.

• Enron Email Corpus: 기업 이메일 (76 명의 저자, 345 개 텍스트).
• BOLT English SMS/Chat: 단문 메시지 및 채팅 (46 명, 3,716 개 텍스트).
• Twitter Corpus: 소셜 미디어 트윗 (60 명, 10,933 개 텍스트).
• 실험 설계: 각 저자의 알려진 텍스트를 LLM 에게 제공하고, 다른 저자가 쓴 '원본 텍스트 (Source Text)'를 LLM 에게 해당 저자의 스타일로 재작성 (Impersonation) 하도록 지시했습니다.

나. LLM 및 프롬프트 전략 (Adversary Model)

• 모델: OpenAI 의 GPT-4o 사용.
• 4 가지 프롬프트 조건:
  1. Naive Prompting: 단순한 지시 ("이 예시처럼 다시 써라").
  2. Self-prompting: 모델이 스스로 상세한 지시문 (체크리스트 등) 을 생성한 후 이를 바탕으로 텍스트를 작성.
  3. Role-Playing Prompting: 시스템 프롬프트로 역할 부여 후, 언어적 특징 (구두점, 희귀어, 문법 오류 등) 을 명시적으로 강조하는 지시.
  4. Tree-of-Thoughts (ToT): 계획 수립 (Planning) 과 초안 작성 (Drafting) 단계를 거치고, 내부 투표 (Voting) 를 통해 최적의 텍스트를 선택하는 다단계 접근법.

다. 평가 지표 및 검증 방법 (Evaluation)

생성된 위조 텍스트를 6 가지 AV 시스템에 입력하여 우도비 (Likelihood Ratio, LLR) 점수를 산출했습니다.

• 비신경망 방법 (Non-Neural):
  • N-gram Tracing (문자 n-gram 유사도)
  • Ranking-Based Impostors (RBI) Method
  • LambdaG (구문 모델 기반, 기능어 위주)
• 신경망 방법 (Neural):
  • AdHominem (계층적 주의 기반 시아메스 네트워크)
  • LUAR (범용 저자 표현 학습)
  • STAR (스타일 트랜스포머)
• 전처리: 주제 편향을 제거하기 위해 비신경망 방법에는 POSNoise(내용어 마스킹) 를 적용했습니다.

3. 주요 결과 (Key Results)

가. 저자 검증 시스템의 견고성 (Robustness)

• 전반적 실패: 모든 코퍼스와 프롬프트 전략에서 LLM 생성 텍스트는 AV 시스템에 의해 대부분 '다른 저자'로 판별되었습니다.
• LLR 점수: 대부분의 LLR 값이 음수 (Negative) 였으며, 이는 시스템이 위조 텍스트를 신뢰하지 않았음을 의미합니다.
• 프롬프트의 한계: Naive 프롬프트부터 복잡한 ToT 전략까지, 프롬프트의 정교함이 AV 시스템을 우회하는 데 유의미한 향상을 가져오지 못했습니다.

나. 방법별 성능 차이

• STAR 및 LUAR: 가장 강력한 견고성을 보였습니다. 특히 STAR 는 모든 조건에서 매우 강한 음수 LLR 을 기록하여 위조 텍스트를 확실하게 배제했습니다.
• AdHominem: 상대적으로 가장 취약했으나, 여전히 명확한 '동일 저자' 판정을 내리지 못했습니다 (LLR 이 0 에 가까움).
• 역설적 발견 (TNR 향상): 흥미롭게도, STAR 와 LUAR 같은 신경망 모델은 실제 인간이 쓴 '부정 샘플 (Negative samples)'보다 LLM 위조 텍스트를 더 높은 확신 (높은 True Negative Rate) 으로 거부했습니다.

다. 코퍼스별 차이

• Twitter: LLM 이 생성한 위조 텍스트를 AV 시스템이 가장 쉽게 식별하여 강력하게 거부했습니다.
• Enron: 이메일 도메인에서 AV 시스템의 거부 확신이 상대적으로 낮았으나, 여전히 위조를 성공적으로 탐지했습니다.

라. 원인 분석: 어휘 다양성 (Lexical Diversity)

• 발견: LLM 생성 텍스트는 인간 텍스트에 비해 압축 크기 (Compressed Size) 가 크고, 엔트로피 (Entropy) 가 높으며, Type-Token Ratio (TTR) 가 높았습니다.
• 해석: LLM 은 인간의 고유한 반복적 어휘 습관 (Idiolect) 을 완벽하게 모방하지 못하며, 오히려 과도하게 다양하고 예측 불가능한 어휘 분포를 보입니다.
• 결과: 이러한 '기계적인 다양성'이 오히려 AV 시스템 (특히 STAR, LUAR, N-gram) 에게 위조 텍스트임을 드러내는 단서가 되어, 시스템이 인간 텍스트보다 더 확신 있게 위조를 거부하게 만들었습니다.

4. 주요 기여 (Key Contributions)

1. 포렌식 프레임워크 내 실증적 평가: 기존 연구가 주로 NLP 벤치마크나 인간 판독에 의존했던 것과 달리, 법정 증거로 채택 가능한 우도비 (LLR) 프레임워크를 사용하여 LLM 위조 공격을 체계적으로 평가했습니다.
2. 다양한 공격 시나리오 검증: 단순 프롬프트부터 ToT, 자기 프롬프팅 등 다양한 공격 벡터를 테스트하여, 현재 접근 가능한 LLM 기술만으로는 고도화된 저자 위조가 불가능함을 입증했습니다.
3. 역설적 견고성 발견: LLM 텍스트가 인간 텍스트보다 더 쉽게 탐지된다는 역설적 현상을 발견하고, 이를 높은 어휘 다양성과 엔트로피로 설명했습니다.
4. 현실적 위협 수준 제시: 현재 LLM 의 접근성은 높지만, '초급 수준의 공격자 (Entry-level adversary)'가 프롬프트만으로 AV 시스템을 무력화하는 것은 어렵다는 결론을 도출하여 포렌식 현장의 안심을 주었습니다.

5. 의의 및 결론 (Significance)

• 현실적 시사점: LLM 의 급속한 발전에도 불구하고, 현재 개발된 저자 검증 기술은 여전히 강력하며, 악의적인 행위자가 프롬프트만으로 이를 우회하기는 어렵습니다.
• 미래 연구 방향:
  • 현재 연구는 '프롬프트 기반' 공격에 국한되었으므로, **파인튜닝 (Fine-tuning)**이나 적응형 공격 (Adversarial attacks) 등 더 고도화된 공격 기법에 대한 연구가 필요합니다.
  • 알고리즘은 위조를 탐지하지만, 일반인 (가족, 동료 등) 은 위조된 텍스트를 인간처럼 믿을 수 있는지에 대한 인간 주체 실험 (Human Subject Study) 이 필요합니다.
• 종합 결론: LLM 기반 저자 위조는 포렌식 언어학에 새로운 도전이 되었으나, 현재로서는 기존 AV 시스템이 이러한 위협에 대해 견고하게 (Robustly) 대응하고 있음을 입증했습니다.