📊 statistics

Token-Level Likelihood-Array Regression for Membership Inference and AI-Generated Text Detection

본 논문은 토큰 수준의 확률을 중첩된 컨텍스트 윈도우 전반에 걸쳐 구조화된 배열로 구성함으로써, 기존의 가능도 기반 베이스라인들이 놓치는 컨텍스트 규모와 토큰 위치에 대한 미세한 정보를 포착하여 멤버십 추론 및 AI 생성 텍스트 탐지 성능을 크게 향상시키는 새로운 방법론인 Likelihood-Array Regression(LAR)을 제안한다.

원저자: Jiajun Sun, Zhanrui Cai

게시일 2026-08-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jiajun Sun, Zhanrui Cai

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

디지털 시대에 언어 모델은 인간의 글쓰기를 모방하는 데 매우 능숙해졌으며, 이로 인해 사람이 쓴 문장과 기계가 생성한 문장을 구별하는 것이 점점 더 어려워지고 있습니다. 이러한 도전은 오늘날 연구자들과 사회가 직면한 두 가지 중요한 질문의 핵심에 자리 잡고 있습니다. 첫 번째는 개인정보 보호 및 저작권에 관한 문제입니다. 즉, 특정 텍스트가 애초에 모델 학습에 사용되었는지 여부를 알 수 있는가 하는 것입니다. 이는 자신의 저작물이 허가 없이 인공지능에 의해 흡수되었는지 알고 싶어 하는 출판사와 작가들에게 매우 중요합니다. 두 번째 질문은 기원에 관한 것입니다. 주어진 텍스트가 인간에 의해 만들어졌는가, 아니면 알고리즘에 의해 만들어졌는가 하는 점입니다. 이러한 구분은 저널리즘, 학술적 작업, 그리고 온라인 담론에서 신뢰를 유지하는 데 필수적입니다. 이 질문들에 답하기 위해 과학자들은 오랫동안 모델이 문장의 다음 단어를 예측할 확률을 살펴보는 방법에 의존해 왔습니다. 만약 모델이 다음 단어에 대해 매우 높은 확신을 가진다면, 이는 해당 텍스트가 모델에게 익숙하거나 모델에 의해 생성되었음을 시사합니다. 그러나 전통적인 방식은 이러한 확신을 하나의 정적인 숫자로 취급하여, 모델이 주변 문맥을 더 많이 혹은 더 적게 읽음에 따라 확신도가 어떻게 변하는지는 무시하는 경우가 많았습니다.

연구자 자준 선(Jiajun Sun)과 잔루이 차이(Zhanrui Cai)의 새로운 연구는 언어 모델의 확신도를 단일 지점이 아닌 풍부하고 구조화된 지형으로 다루는 더 미묘한 방식을 제안합니다. 연구진은 모델에게 전체 문장을 바탕으로 단어를 판단하게 하는 대신, 동일한 단어를 매번 서로 다른 양의 문맥과 함께 반복해서 판단하도록 요청했습니다. 그들은 바로 직전의 단어 하나로 시작하여, 하나를 더 추가하고, 또 하나를 더 추가하는 방식으로 문장 전체에 이르기까지 과정을 진행했습니다. 이 과정은 가용 정보량이 증가함에 따라 모델의 확신도가 어떻게 변화하는지에 대한 상세한 지도를 만들어냈습니다. 연구진은 이 수천 개의 확신도 점수들을 구조화된 배열로 정리함으로써, 전체 문장만을 보았을 때는 보이지 않았던 패턴들을 포착할 수 있었습니다. 그런 다음 통계적 기법을 사용하여 이 지도의 어느 부분(짧은 문맥, 긴 문맥, 또는 텍스트 내의 특정 위치 등)이 텍스트가 인간이 쓴 것인지, 기계가 생성한 것인지, 혹은 모델의 학습 데이터의 일부인지를 나타내는 가장 신뢰할 수 있는 지표인지 학습했습니다.

이러한 접근 방식의 결과는 놀라울 정도로 효과적이었습니다. 텍스트가 모델 학습에 사용되었는지 묻는 멤버십 추론(membership inference) 테스트에서, 이 새로운 방법은 다섯 가지 서로 다른 언어 모델에 걸쳐 91.4%에서 98.3% 사이의 성공률을 달enc성했습니다. 이는 일반적으로 50%에서 87% 사이를 맴돌던 기존 방식보다 유의미한 향상입니다. AI 생성 텍스트를 탐지하는 데 있어서는 이 방법이 더욱 뛰어난 성능을 보이며 98.5%에서 99.6% 사이의 성공률에 도달했습니다. 연구 결과, 가장 가치 있는 정보는 종종 짧은 문맥에서 오는 것으로 밝혀졌습니다. 모델이 판단을 내리기 위해 전체 문장이 필요하다는 가정과는 반대로, 연구진은 단 몇 개의 앞선 단어만을 바탕으로 한 모델의 반응이 전체 문장 관점에서는 놓칠 수 있는 고유한 신호를 포함하고 있다는 것을 발견했습니다. 나아가, 이 연구는 멤버십 추론을 위해 서로 다른 문맥 길이에 따라 모델의 확신도가 어떻게 변하는지를 살펴보는 것이 추가적인 단서를 제공하며, 이를 통해 더 단순한 방법들이 간과했던 미세한 반복이나 암기 패턴을 탐지할 수 있음을 보여주었습니다.

연구진은 또한 탐지의 정확도를 높이기 위해 얼마나 많은 데이터가 필요한지도 탐구했습니다. 그들은 아주 적은 양의 레이블이 지정된 예시만으로도 새로운 방식이 전통적인 접근법보다 우수한 성능을 보인다는 것을 발견했습니다. 레이블이 지정된 텍xt가 불과 100개뿐일 때도 시스템은 인간과 기계의 글쓰기를 높은 신뢰도로 구별할 수 있었으며, 데이터가 추가됨에 따라 정확도는 계속 상승했습니다. 이는 이 방법이 효율적이며 효과를 내기 위해 거대한 데이터셋을 요구하지 않음을 시사합니다. 또한 이 연구는 텍스트를 분석하는 데 사용되는 모델이 텍스트를 생성한 모델과 다르더라도 이 방식이 잘 작동한다는 것을 입증했습니다. 이는 이 기술이 콘텐츠를 생성한 AI의 정확한 정체를 알 필요 없이 광범위하게 적용될 수 있다는 점에서 매우 중요한 발견입니다.

단일 숫자 요약을 벗어나 언어 모델이 문맥을 처리하는 방식의 전체적인 복잡성을 수용함으로써, 이 연구는 인공지능을 감사하기 위한 강력한 새로운 도구를 제공합니다. 이는 AI의 행동을 이해하는 길이 데이터를 단순화하는 것이 아니라, 그 구조를 존중하는 방식으로 데이터를 조직하는 데 있음을 확인시켜 줍니다. 이 연구는 인간과 기계의 창작물 사이의 경계가 점점 더 모호해지는 시대에 지적 재산을 보호하고 텍스트의 진위성을 검증하기 위한 명확하고 데이터 중심적인 경로를 제시합니다. 연구 결과는 모델이 글을 읽어 내려감에 따라 발생하는 미세한 확신의 변화에 주목함으로써, 학습 데이터와 생성 과정의 숨겨진 지문을 찾아낼 수 있으며, 이를 통해 디지털 환경에 대한 강력한 방어 체계와 더 명확한 시각을 제공할 수 있음을 시사합니다.

기술 요약: 멤버십 추론 및 AI 생성 텍스트 탐지를 위한 토큰 수준 가능도 배열 회귀(Token-Level Likelihood-Array Regression)

문제 정의
본 논문은 언어 모델에 대한 두 가지 핵심적인 감사 작업인 멤버십 추론(텍스트가 모델의 학습 데이터에 포함되었는지 여부 판별)과 AI 생성 텍스트 탐지(모델이 생성한 텍스트와 인간이 작성한 글을 구분)를 다룹다. 두 작업 모두 조건부 토큰 확률에 기반한 이진 분류 문제로 프레임화할 수 있지만, 기존의 가능도 기반 방법들은 상당한 정보 손실을 겪는다. 현재의 접근 방식들은 일반적으로 토큰 수준의 확률을 몇 개의 스칼라 요약치(예: 평균 손실, Min-K%, 또는 퍼플렉시티)로 압축하며, 종종 전체 이전 문맥( $\ell_{full}(t)$ )에 조건화된 확률에만 의존한다. 이러한 집계 방식은 다양한 문맥 길이와 토큰 위치에 따른 가능도 정보의 결합 변동성을 버리게 된다. 또한, 라벨링된 코퍼스로 학습된 지도 학습 기반 탐지기들은 새로운 모델이나 도메인에 적응하기 위해 광범을한 미세 조정(fine-tuning)과 추가적인 라벨링 데이터를 필요로 한다. 저자들은 엄격한 구조적 가정을 부과하지 않으면서, 문맥 길이 및 토큰 위치와 함께 변화하는 가능도 정보를 어떻게 표현하고 모델링할 것인가라는 통계적 질문을 제기한다.

방법론: 가능도 배열 회귀 (Likelihood-Array Regression, LAR)
저자들은 고정된 스코어링 언어 모델로부터 얻은 조건부 토큰 확률을 스칼라 요약이 아닌, 구조화된 가변 길이 배열로 취급하는 토큰 수준 가능도 배열 회귀(LAR) 프레임워크를 제안한다.

가능도 배열 구축:
- 각 대상 토큰 $x_t$ 에 대해, 스코어링 모델은 전체 이전 시퀀스( $x_1, \dots, x_{t-1}$ )에서 단일 토큰( $x_{t-1}$ )에 이르기까지 중첩된 좌측 문맥 윈도우(nested left-context windows) 하에서의 조건부 로그 확률을 평가한다.
- 이를 통해 각 토کن에 대해 문맥 규모가 감소함에 따라 모델의 평가가 어떻게 변화하는지를 기록하는 "대상 토큰 경로(target-token path)"를 생성한다.
- 이러한 경로들은 삼각형 형태의 가능도 배열 $L(X) = \{(s, t, \ell(s, t))\}$ 를 형성하며, 여기서 $s$ 는 문맥의 시작이고 $t$ 는 대상 토큰이다.
정렬 및 특징 공학 (Alignment and Feature Engineering):
- 가변적인 텍스트 길이를 처리하기 위해, 저자들은 문맥 규모( $u$ )와 상대적 토큰 위치( $v$ )를 공통 도메인 $[0, 1] \times [0, 1]$ 로 정규화한다.
- 셀(cell)들은 고정된 문맥 규모 그리드 위로 선형 보간을 통해 정렬된다.
- 각 정렬된 셀은 5차원 채널 벡터 $h$ $h$ 로 증강된다:
  - 관측된 토큰 로그 확률 ( $\ell$ ).
  - 문맥 대비(Context contrast, $\delta$ ): 문맥이 있는 경우와 없는 경우(BOS)의 토큰 확률의 로그 비율.
  - 표준화된 로그 확률 ( $z$ ) 및 표준화된 문맥 대비 ( $z_\delta$ ): 모델의 예측 어휘 분포에 대해 정규화됨.
  - 국소 기울기 (Local slope, $\dot{z}$ ): 문맥이 증가함에 따라 표준화된 예측 가능성의 변화율.
회귀 모델:
- LAR-1 (1차): 클래스 로그 오즈(log-odds)를 개별 정렬된 셀들의 가산적 기여의 합으로 모델링한다. 이는 $b(u, v, h)$ 라는 함수를 학습하여 문맥 규모, 위치, 특징을 로그 오즈로 매핑하며, 효과적으로 가능도 패턴이 문서 내 위치와 문맥 길이에 따라 어떻게 다르게 기여하는지를 학습한다.
- LAR-2 (2차): LAR-1에 **경로 내 이차 특징(within-path quadratic features)**을 추가한다. 이는 서로 다른 문맥 길이에서 동일한 대상 토큰에 대한 평가 쌍 간의 상호작용을 포착한다. 이를 통해 모델은 가능도의 변화(예: 짧은 문맥에서는 낮으나 긴 문맥에서는 높아지는 가능도)가 레이블에 어떻게 정보를 제공하는지 탐지할 수 있다.
추정 (Estimation):
- 무한 차원 함수 모델은 유한 기저 확장(스플라인의 텐서 곱 및 무작위 삼각 함수)을 사용하여 근사된다.
- 이차 항은 차원을 축소하면서도 경로 내 구조를 보존하기 위해 **무작위 제곱 투영(random squared projections)**을 사용하여 추정된다.
- 최종 추정기는 이러한 확장에서 유도된 문서 수준 특징들을 사용하여 **릿지 로지스틱 회귀(ridge logistic regression)**를 통해 적합된다.

주요 기여

새로운 표현 방식: 본 논문은 기존 연구에서 사용되는 스칼라 요약을 넘어, 문맥 규모와 토큰 위치에 따른 가능도의 결합 변동성을 보존하는 가능도 배열 표현을 도입한다.
이론적 경계: 내부 경로 이차 모델(within-path quadratic model)에 대해, 저자들은 곱 형태의 공분산 붕괴(product-form covariance decay) 하에서 $\{\log(en)/n\}^{\nu/(\nu+1)}$ 의 속도를 갖는 일치하는 미니맥스(minimax) 하한 및 상한 예측 경계를 설정한다. 또한 유한 차원 근사와 무작위 투영으로 발생하는 오류를 규명하며, 오라클 스펙트럴 시브(oracle spectral sieve)가 미니맥스 속도를 달성하는 조건을 보여준다.
경험적 우월성: 본 프레임워크는 다양한 스코어링 모델과 도메인에 걸쳐 기존의 가능도 기반 베이스라인 및 지도 학습 기반 탐지기들을 실질적으로 능가함을 입증했다.
정보원에 대한 통찰: 분석 결과, 짧은 문맥의 가능도가 기존의 전체 문맥 확률 이상의 유의미한 정보를 포함하고 있으며, **이차 특징(second-order features)**이 특히 멤버십 추론에서 상당한 이득을 제공한다는 점을 밝혀냈다.

결과
저자들은 두 가지 벤치마크에서 LAR를 평가했다:

WikiMIA (멤버십 추론): 1,650개의 텍스트와 5개의 스코어링 모델(Pythia, LLaMA-2, Falcon)을 사용하였다.
- LAR-1은 평균 AUC 0.914–0.960을 달성했다.
- LAR-2는 이를 0.953–0.983으로 개선하여, 가장 우수한 기존 베이스라인(ReCaLL, 최대 AUC 0.871)과 미세 조정된 지도 학습 방식(Fine-tuned Score Deviation, 최대 AUC 0.90)을 크게 앞질렀다.
- 짧은 문맥 셀만 사용했을 때의 AUC는 약 0.907이었으며, 이는 전체 문맥 셀만 사용했을 때의 약 0.802와 대조적이다.
AI 생성 텍스트 탐지: GPT-4o가 생성하고 5개의 오픈 웨이트 모델이 스코어링한 4개 도메인(소설, 뉴스, 에세이, 리뷰)의 1,200개 텍스트를 사용하였다.
- LAR-1은 평균 AUC 0.985–0.996을 달성했다.
- LAR-2는 0.987–0.995를 달성했다.
- 이러한 결과는 모든 베이스라인, 즉 지도 학습 탐지기인 StatDetectLLM(AUC 0.980)과 RADAR(AUC 0.839)를 능가했다.
- 이 작업에서 이차 특징으로부터의 이득은 미미했으며, 이는 일차 함수적 패턴이 대부분의 분리 신호를 포착함을 시사한다.

의의 및 주장
본 논문은 LAR가 문맥 및 위치에 따라 변하는 가능도 정보를 표현하는 문제에 대해 통계적으로 원칙 있는 해결책을 제공한다고 주장한다. 토큰 수준의 데이터를 미리 지정된 점수로 집계하는 것을 피함으로써, LAR는 기존에 무시되곤 했던 짧은 문맥으로부터 더 풍부한 신호를 추출한다. 이론적으로, 본 연구는 특정 클래스의 경로 내 이차 모델에 대한 최초의 미니맥스 분석을 제공하며, 예측 오차를 AUC 수렴과 연결시킨다. 실무적으로, 이 방법은 미세 조정이 필요 없는 강력한 비-미세 조정 대안을 제공하며, 고정된 스코어링 모델과 회귀 단계를 위한 라벨링된 데이터셋만을 필요로 하면서도 개인정보 감사(privacy auditing)와 AI 탐지 모두에서 최첨단 성능을 달s한다. 저자들은 LAR가 전체 문맥 스코어링보다 계산 비용은 더 많이 들지만, 성능 향상이 그 비용을 정당화한다고 언급하며, 향-후 연구에서는 계산 오버헤드를 줄이기 위해 적응형 문맥 윈도우 선택을 탐구할 수 있다고 덧붙였다.

유사한 논문