1. 연구 배경 및 문제 정의 (Problem)

배경:
확산 기반 대규모 언어 모델 (D-LLMs) 은 autoregressive 모델 (AR-LLMs) 의 대안으로 주목받고 있으며, 반복적인 정제 (iterative refinement) 과정을 통해 전역적 일관성을 보장합니다. 그러나 D-LLMs 도 사실적 오류 (할루시네이션) 를 생성하는 문제가 있어 신뢰성을 저해합니다.

기존 방법의 한계:
기존 AR-LLMs 의 할루시네이션 탐지 방법 (최종 토큰 확률, 엔트로피, 다중 샘플 일관성 등) 은 D-LLMs 에 직접 적용하기 어렵습니다.

1. 공간적 불균형 (Spatial Imbalance): D-LLMs 는 고정된 길이의 시퀀스를 생성합니다. 이 과정에서 의미 있는 답변 토큰은 소수이고, 대부분은 구조적 패딩이나 중간 추측 (나중에 마스킹됨) 으로 이루어져 있습니다. 기존 방법들은 모든 토큰의 불확실성을 평균화하여, 실제 할루시네이션 신호가 중요한 소수의 토큰에 집중되는 것을 간과하고 노이즈에 가립니다.
2. 시간적 역동성 무시 (Temporal Dynamics Neglect): 할루시네이션의 증거는 최종 단계의 출력뿐만 아니라, 전체 디노이징 (denoising) 과정에서의 불확실성 (엔트로피) 의 변화 추이에 분포해 있습니다. 기존 연구 (예: TraceDet) 는 과정 신호의 중요성을 인지했으나, 구체적인 디노이징 역동성 (불확실성의 수렴, 정체, 반등 등) 을 체계적으로 모델링하지 못했습니다.

2. 제안 방법: DynHD (Methodology)

저자들은 DynHD를 제안하여 공간적 (토큰 시퀀스) 과 시간적 (디노이징 역동성) 관점의 격차를 해결합니다.

A. 의미 인식 증거 구성 (Semantic-aware Evidence Construction)

정보 밀도 불균형 문제를 해결하기 위해 2 단계 전략을 사용합니다.

1. 의미 있는 토큰 필터링: 고정 길이 생성으로 인한 구조적 노이즈 (제어 마커, 구두점, 불필요한 정지 단어 등) 를 규칙 기반 필터링을 통해 제거합니다. 이를 통해 의미 있는 토큰 집합 ($K_t$) 만을 추출합니다.
2. 통계적 증거 구축: 필터링된 토큰들의 엔트로피를 단순 평균하는 대신, 3 가지 통계적 모멘트를 추출하여 증거 벡터 ($a_t$) 를 구성합니다.
   • 평균 불확실성 ($\mu_{avg}$): 전체 시퀀스의 수렴 정도.
   • 최대 엔트로피 ($s_{max}$): 국소적인 사실적 오류 (예: 잘못된 개체명) 포착.
   • Top-k 평균 엔트로피 ($\mu_{top-k}$): 의미 있는 구 (phrase) 수준의 불확실성.
   • 이를 통해 각 디노이징 단계의 불확실성 궤적을 압축된 증거 시퀀스 ($E$) 로 변환합니다.

B. 역동적 편차 학습 (Dynamical Deviation Learning)

할루시네이션 탐지를 위해 증거의 시간적 변화를 모델링합니다.

1. 참조 증거 역동성 생성기 (Reference Evidence Dynamics Generator):
   • 입력 질문 ($q$) 과 시간 단계 임베딩 ($e_t$) 을 기반으로 사실적인 (factual) 데이터만 학습하여 기대되는 정상적인 디노이징 궤적 (참조 경로, $\hat{a}_t$) 을 생성합니다.
   • 이는 다양한 질문 시나리오에서의 정상적인 불확실성 변화 패턴을 학습한 기준선 역할을 합니다.
2. 편차 기반 할루시네이션 탐지기 (Deviation-based Detector):
   • 실제 관측된 증거 경로 ($a_t$) 와 참조 경로 ($\hat{a}_t$) 간의 편차를 측정합니다.
   • 특징 벡터: 현재 상태, 참조 상태, 그리고 단계별 속도 ($\Delta a_t$) 를 결합합니다.
   • 시간적 어텐션: 디노이징 과정의 각 단계가 탐지에 기여하는 정도를 학습 가능한 가중치 ($\omega_t$) 로 조절하여, 중요한 단계 (특히 후기 단계) 에 집중합니다.
3. 정규화 손실 (Regularization Losses):
   • 경로 편차 (Path Deviation): 사실적 샘플은 참조 경로와 가까워야 하고, 할루시네이션은 멀어지도록 유도합니다.
   • 반등 점수 (Rebound Score): 디노이징 후기 단계에서 불확실성이 비정상적으로 증가하는 (수렴하지 않고 다시 튀어 오르는) 패턴을 감지하여 할루시네이션을 강력하게 처벌합니다.

3. 주요 기여 (Key Contributions)

1. 공간적 노이즈 제거: D-LLMs 의 고정 길이 생성 특성에서 발생하는 구조적 노이즈를 필터링하여, 의미 있는 토큰의 불확실성 신호만 추출하는 의미 인식 증거 구성 모듈을 제안했습니다.
2. 시간적 역동성 모델링: 단순한 불확실성 값이 아닌, 디노이징 과정 전체의 궤적 형태 (수렴, 정체, 반등) 를 학습하는 편차 기반 탐지 프레임워크를 최초로 도입했습니다.
3. 효율성: 외부 검색이나 반복적인 샘플링 없이, 모델의 기존 디노이징 과정 (uncertainty trajectory) 만을 활용하여 실시간 탐지가 가능하도록 설계되었습니다.

4. 실험 결과 (Results)

• 데이터셋 및 모델: TriviaQA, HotpotQA, CommonsenseQA 데이터셋에서 LLaDA-8B 와 Dream-7B 모델을 사용하여 평가했습니다.
• 성능:
  • DynHD 는 기존 최첨단 방법 (TraceDet 포함) 보다 평균 AUROC 12.2% 이상 향상된 성능을 보였습니다.
  • LLaDA-8B 에서 평균 84.2%, Dream-7B 에서 84.3% 의 AUROC 를 기록하며 모든 벤치마크에서 SOTA 를 달성했습니다.
• 효율성: 다중 샘플링이 필요한 방법 (Semantic Entropy 등) 에 비해 계산 비용이 훨씬 낮으며, 추론 속도에 큰 지연을 주지 않습니다.
• 일반화 능력: 제로샷 (Zero-shot) 교차 데이터셋 평가에서 다른 도메인에서도 높은 성능을 유지하여 강력한 일반화 능력을 입증했습니다.
• 분석:
  • 사실적인 샘플은 디노이징 과정에서 매끄럽게 수렴하는 반면, 할루시네이션 샘플은 후기 단계에서 불확실성이 정체되거나 반등하는 (rebound) 패턴을 보임이 시각화되었습니다.
  • 토큰 필터링을 제거하거나 시간적 어텐션을 없애면 성능이 크게 저하되어, 제안된 모듈들의 필수성을 입증했습니다.

5. 의의 및 결론 (Significance)

이 논문은 D-LLMs 의 할루시네이션 탐지 분야에서 정적 (static) 인 출력 분석에서 동적 (dynamic) 인 과정 분석으로의 패러다임 전환을 이룩했습니다.

• D-LLMs 의 고유한 생성 메커니즘 (반복적 디노이징) 을 활용하여, 모델이 "어떻게" 답을 만들어내는지에 초점을 맞췄습니다.
• 특히, 후기 단계의 불확실성 반등 (uncertainty rebound) 현상을 핵심 지표로 규명함으로써, 모델이 사실을 기억하지 못하거나 모순을 해결하지 못할 때 발생하는 미세한 신호를 포착할 수 있게 되었습니다.
• 이 연구는 D-LLMs 의 신뢰성을 높이는 실용적인 도구로서, 외부 리소스 없이도 모델 내부의 역동성을 활용하여 고효율·고정확도 할루시네이션 탐지를 가능하게 한다는 점에서 중요한 의의를 가집니다.