Text Corpora as Concept Fields: Black-Box Hallucination and Novelty Measurement

기술 요약: 개념 필드로서의 텍스트 말뭉치

문제 제기
LLM 환각 탐지 또는 근거성 (groundedness) 평가를 위한 현재 방법론들은 종종 화이트-박스 모델 내부, 그레이-박스 퍼플렉시티 지표, 또는 무거운 보정이 필요한 블랙-박스 접근법 (예: LLM-as-judge) 에 의존합니다. 이러한 기존 솔루션들은 비용이 많이 들거나, 아키텍처에 의존적이거나, 운영상의 해석 가능성이 부족한 경우가 많습니다. 또한, 임베딩 공간의 많은 기하학적 접근법들은 쌍별 비교 (예: DTW) 에 국한되거나 말뭉치 내의 국소적 불확실성을 고려할 메커니즘이 부족합니다. 저자들은 환각을 이진적 실패로 보는 관점에서, 목표 말뭉치에 의해 출력이 지지되는지 여부를 판단하는 더 넓은 개념인 **근거성 (groundedness)**으로의 전환을 제안합니다. 이러한 프레임은 편차가 부정적인 준수 (compliance) 상황과 편차가 긍정적인 창의성 (creativity) 상황 모두에 적용됩니다.

방법론
핵심 기여는 문장 임베딩 공간에서 점별 불확실성이 추정된 국소적 드리프트 필드인 **개념 필드 (Concept Field)**입니다. 방법론은 다음과 같이 진행됩니다:

1. 벡터 시퀀스 데이터베이스 (VSDB): 저자들은 고정 차원의 문장 임베딩과 시퀀스 위치 메타데이터 및 "다음 델타" 정보 ($\Delta_{i,j} = v_{p+1} - v_p$) 를 함께 보유하는 저장 계층을 도입합니다. 이를 통해 시스템은 말뭉치를 단순한 문장들의 집합이 아닌, 임베딩 공간에서의 궤적들의 집합으로 취급할 수 있습니다.
2. 개념 필드 구성: VSDB 를 사용하여 저자들은 문장 전환의 국소적 확률 밀도를 계산합니다. 말뭉치를 "벡터 필드"로 취급함으로써, 현재 문장이 주어졌을 때 가장 가능성 있는 다음 개념을 나타내는 "흐름"이 결정론적 드리프트를 정의합니다. 이 필드는 임베딩 공간에서 가장 가까운 이웃 (nearest neighbors) 에 대한 역거리 가중치 (IDW) 보간을 사용하여 추정됩니다.
3. 점수화 메커니즘 ($\zeta$): 후보 문장 전환을 평가하기 위해 시스템은 관찰된 델타와 개념 필드의 국소적 가우스 추정치 사이의 평균 절대 z-거리 ($\zeta$) 를 계산합니다.
   • 작은 $\zeta$는 말뭉치 흐름과 통계적 일치를 나타냅니다 (근거성 있음).
   • 큰 $\zeta$는 말뭉치 흐름에서의 이탈을 나타냅니다 (근거성 없음 또는 신규성).
   • 이 점수는 완전히 블랙-박스이며 (모델 내부 정보 불필요), 특정 말뭉치 문장으로 거슬러 추적 가능하고 (corpus-attributable), 직접적인 확률론적 해석을 허용합니다.
4. 기하학적 분석: 저자들은 밀집된 클러스터에서 개념 필드의 발산 (divergence) 과 회전 (curl) 을 탐구합니다. 높은 발산은 "논리적 근원 (logic sources)"(일반적인 시작점) 또는 "논리적 싱크 (logic sinks)"(일반적인 결론) 를 나타내는 반면, 높은 회전은 "암묵적 주제"나 벡터가 명확한 선형 흐름 없이 중심 개념 주변을 순환하는 영역을 시사합니다.

주요 기여

1. VSDB 를 통한 개념 필드: 국소적 불확실성을 갖춘 문장 시퀀스 흐름의 말뭉치 수준 표현으로, 새로운 벡터 시퀀스 데이터베이스를 통해 구현됨.
2. 선택적 근거성 탐지: $\zeta$ 임계값에 기반한 분류 정책 (Grounded / Ungrounded / Unsure). 이 접근법은 "불확실" 버킷을 유지하면서 수용된 사례에서 강력한 오류율을 달성합니다.
3. 교차 도메인 견고성: 동일한 메커니즘이 임계값의 재보정 없이 법적 텍스트에서의 환각 탐지 (준수 스타일 근거성 검사) 와 문학에서의 창의적 이탈 탐지 (신규성 스타일 편차 검사) 를 모두 지원합니다.
4. 말뭉치 기하학: 개념 필드의 위상적 특징 (발산/회전) 이 일반적인 추론 흐름이나 회피 영역과 같은 의미 있는 의미론적 패턴에 대응한다는 정성적 증거.

실험 결과
저자들은 두 가지 대규모 설정에서 이 접근법을 평가했습니다:

• CFR (연방 규정법전): 환각 탐지를 테스트하는 데 사용된 사실적/법적 말뭉치. 시스템은 의미를 보존한 것 (근거성 있음) 과 의미론을 변경한 것 (근거성 없음) 을 구분하는 LLM 재문장화 문장 쌍에 대해 테스트되었습니다.
• 프로젝트 구텐베르크: 신규성 탐지를 테스트하는 데 사용된 일반 문학 말뭉치. 여기서 "근거성 없음" (높은 $\zeta$) 은 창의적 글쓰기에 바람직한 특성입니다.

성능 발견:

• 선택적 분류: 분류 정책 (예: $\zeta_{low}=1, \zeta_{high}=3.75$) 하에서, 이 방법은 CFR 데이터셋에서 약 56% 의 커버리지 (44% 의 예시가 "불확실"로 표시됨) 로 F1 점수 0.978과 AUC 0.984를 달성했습니다.
• 베이스라인 비교: 개념 필드는 VSDB 에서 단순 최인접 거리 (유클리드 또는 코사인) 를 사용한 베이스라인들을 능가하거나 일치시켰습니다. 결정적으로, 거리 기반 베이스라인들은 말뭉치별 임계값 조정이 필요했던 반면, 개념 필드는 CFR 과 구텐베르크 도메인 전반에 걸쳐 일관된 성능과 임계값 해석을 유지했습니다.
• 커버리지 - 위험 행동: 이 방법은 두 도메인 전반에 걸쳐 유사한 커버리지 - 위험 트레이드오프를 보여주어, $\zeta$의 확률론적 해석이 사실적 및 창의적 말뭉치 간에 효과적으로 전이된다는 주장을 뒷받침했습니다.
• 기하학적 통찰: 발산과 회전에 대한 정성적 분석은 의미론적으로 일관된 클러스터를 드러냈습니다 (예: 스포츠 해설에서의 "GOOOOAAALL!!"을 논리적 싱크로 간주하거나, CFR 에서의 특정 규정 문구를 논리적 근원/싱크로 간주).

의의 및 주장
이 논문은 개념 필드가 LLM-as-judge 와 화이트-박스 탐지기를 보완하는 빠르고 경량이며 해석 가능한 근거성 및 신규성 신호를 제공한다고 주장합니다.

• 해석 가능성: 블랙-박스 판사와 달리, 모든 점수는 인근 말뭉치 문장으로 거슬러 추적되어 설명 가능성을 제공합니다.
• 효율성: 인덱싱된 후, 이 방법은 LLM 기반 평가보다 빠르고 저렴하며 (API 토큰 사용 없음), 상용 CPU 에서 실행됩니다.
• 언어 중립성: 이 접근법은 특정 모델 아키텍처에 묶여 있지 않아 다양한 세계 언어에 적용 가능합니다.
• 겸손함: 저자들은 기하학적 분석 (발산/회전) 을 확정적인 정량적 결과보다는 "가설 생성"으로 프레임합니다. 그들은 개념 필드의 품질이 데이터에 의존하며, 논리적으로 일관된 말뭉치 (예: 법률) 가 노이즈가 많은 인터넷 데이터보다 더 신뢰할 수 있는 필드를 생성한다고 인정합니다. 이 작업은 임베딩 체계 및 보간 방법을 개선할 여지를 남기며 기초적인 단계로 제시됩니다.