💬 NLP

TDGNet: Hallucination Detection in Diffusion Language Models via Temporal Dynamic Graphs

이 논문은 확산 언어 모델(D-LLM)의 환각 현상을 탐지하기 위해, 디노이징 과정 중 변화하는 토큰별 어텐션 그래프의 시계열적 변화를 추적하고 통합하여 분석하는 **TDGNet** 프레임워크를 제안합니다.

원저자: Arshia Hemmat, Philip Torr, Yongqiang Chen, Junchi Yu

게시일 2026-02-10

📖 2 분 읽기☕ 가벼운 읽기

원저자: Arshia Hemmat, Philip Torr, Yongqiang Chen, Junchi Yu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 배경: AI의 '거짓말'과 새로운 방식의 등장

기존의 AI(챗GPT 같은 방식)는 글을 쓸 때 단어를 하나씩 순서대로 이어 붙이는 '릴레이 달리기' 방식입니다. 그래서 "이 단어 다음에 올 말이 맞나?"를 확인하기가 비교적 쉬웠죠.

하지만 최근 등장한 **'디퓨전 언어 모델'**은 방식이 완전히 다릅니다. 마치 조각가가 거친 돌덩어리에서 불필요한 부분을 조금씩 깎아내며 정교한 조각상을 만드는 것과 같습니다. 처음에는 아무 의미 없는 노이즈(돌덩이) 상태에서 시작해서, 여러 단계를 거쳐 점점 선명한 문장(조각상)을 완성해 나가는 **'조각 방식'**이죠.

문제는 여기서 발생합니다. 조각 과정 중간에 AI가 엉뚱한 방향으로 깎기 시작하면, 마지막 결과물은 아주 그럴싸해 보여도 사실은 틀린 내용(거짓말)이 될 수 있습니다. 기존의 검사 방식으로는 이 '조각 과정'의 미묘한 변화를 읽어내지 못해 거짓말을 놓치기 일쑤였습니다.

2. 핵심 아이디어: TDGNet (시간의 흐름을 읽는 '관찰 카메라')

연구진은 이 문제를 해결하기 위해 TDGNet이라는 새로운 탐지기를 만들었습니다. 이 탐지기는 단순히 완성된 조각상만 보고 "이거 가짜네!"라고 말하는 게 아니라, **조각이 진행되는 전 과정을 지켜보는 'CCTV 관찰 카메라'**와 같습니다.

이 관찰 카메라는 두 가지를 동시에 봅니다.

관계의 그물망 (Graph): 문장 속 단어들이 서로 어떻게 연결되어 있는지(어떤 단어가 어떤 단어를 지탱하고 있는지)를 그물망처럼 그려서 봅니다.
시간의 흐름 (Temporal): 조각이 진행됨에 따라 이 그물망이 어떻게 변하는지를 추적합니다.

3. TDGNet이 잡아내는 3가지 거짓말 유형 (비유)

이 논문은 AI가 거짓말을 하는 패턴을 세 가지로 분류했는데, TDGNet은 이를 아주 잘 잡아냅니다.

유형 1: "잠깐의 방황" (Self-Correction)
- 상황: 조각가가 중간에 실수로 엉뚱한 곳을 깎았지만, 다시 정신 차리고 원래대로 멋진 조각을 완성한 경우입니다.
- 기존 방식: "중간에 실수했네? 이건 실패작이야!"라고 오해합니다.
- TDGNet: "중간에 흔들렸지만 결국 제대로 완성했으니, 이건 진짜야!"라고 정답을 맞힙니다.
유형 2: "엉뚱한 길로 빠지기" (Drifting)
- 상황: 처음에는 제대로 조각하는 듯하더니, 점점 자기만의 환상에 빠져서 엉뚱한 모양으로 조각을 완성해가는 경우입니다. (예: 세종대왕에 대해 말하다가 갑자기 이순신 이야기로 슬쩍 넘어감)
- TDGNet: "어? 단어들 사이의 연결 고리가 점점 이상한 방향으로 쏠리는데? 이건 거짓말이야!"라고 알아챕니다.
유형 3: "처음부터 잘못된 고집" (Persistent Error)
- 상황: 처음부터 돌덩이를 잘못된 방향으로 깎기 시작해서, 끝까지 아주 자신만만하게 틀린 모양을 만들어낸 경우입니다. 겉보기엔 아주 매끄럽고 완벽한 조각상 같습니다.
- TDGNet: "겉은 멀쩡해 보이지만, 단어들끼리 서로를 지탱하는 근거(연결망)가 질문 내용과 맞지 않아! 이건 가짜야!"라고 꿰뚫어 봅니다.

4. 요약하자면?

이 논문의 결론은 이렇습니다.
"AI의 거짓말을 잡으려면 완성된 결과물만 보지 말고, AI가 생각을 만들어가는 '과정의 변화'를 관찰해야 한다!"

TDGNet은 단어들 사이의 관계가 시간에 따라 어떻게 변하는지를 추적함으로써, 기존 방식보다 훨씬 더 정확하고 빠르게 AI의 거짓말을 찾아낼 수 있음을 증명했습니다. 이는 앞으로 우리가 AI를 더 믿고 사용할 수 있게 만드는 중요한 기술적 토대가 될 것입니다.

[기술 요약] TDGNet: 시공간 동적 그래프를 이용한 확산 언어 모델의 환각 탐지

1. 문제 정의 (Problem Statement)

최근 **확산 언어 모델(Diffusion Language Models, D-LLMs)**은 병렬 디노이징(denoising)과 양방향 문맥 파악 능력을 바탕으로 기존의 자기회귀(Auto-regressive, AR) 모델의 강력한 대안으로 부상하고 있습니다. 그러나 D-LLM의 환각(Hallucination) 탐지 연구는 AR 모델에 비해 매우 미진한 상태입니다.

본 논문은 기존 AR 모델용 탐지 기법을 D-LLM에 직접 적용할 수 없는 두 가지 핵심적인 **구조적 불일치(Architectural Mismatches)**를 지적합니다:

확률적 계산의 어려움: D-LLM은 생성 과정이 반복적이고 확률적이라, AR 모델처럼 단일 패스(single-pass)로 신뢰도 점수(예: Perplexity)를 계산하기 어렵습니다.
시간적 변동성(Temporal Oscillation): D-LLM은 디노이징 과정 중에 예측값이 사실적 상태와 환각 상태 사이를 오가는 동적인 특성을 보입니다. 즉, 환각은 정적인 오류가 아니라 **자기 수정(Self-correction), 후기 단계의 표류(Late-stage drift), 또는 지속적 오류(Persistent error)**와 같은 '시간적 이벤트'로 나타납니다.

2. 제안 방법론 (Methodology: TDGNet)

저자들은 환각이 디노이징 궤적(trajectory) 전체에 걸쳐 분포한다는 점에 착안하여, 이를 시공간 동적 그래프(Temporal Dynamic Graph) 학습 문제로 정의한 TDGNet 프레임워크를 제안합니다.

핵심 아키텍처 구성:

TDGNet은 디노이징 단계별로 변화하는 토큰 간의 관계를 추적하기 위해 세 단계의 파이프라인을 거칩니다.

동적 그래프 구축 (Dynamic Graph Construction):
- 각 디노이징 단계( $t$ )에서 모델의 양방향 어텐션(Bidirectional Attention) 맵을 추출합니다.
- 특정 임계값( $\tau$ ) 이상의 어텐션 가중치를 가진 토큰 쌍을 에지(edge)로 연결하여 **희소 어텐션 그래프(Sparse Attention Graph)**를 생성합니다. 이를 통해 토큰 간의 관계 구조를 포착합니다.
시공간 그래프 학습 (Temporal Graph Learning):
- 공간적 집계 (Spatial Aggregation): 메시지 전달 신경망(MPNN)을 사용하여 각 단계에서 주변 토큰으로부터 정보를 집계합니다. 이는 토큰의 즉각적인 관계적 구조를 반영합니다.
- 시간적 메모리 업데이트 (Temporal Memory Update): 각 토큰에 대해 GRU(Gated Recurrent Unit) 기반의 지속적 메모리( $s_i^{(t)}$ )를 유지합니다. 이를 통해 디노이징 과정 전반에 걸쳐 토큰의 역할이 어떻게 변하는지(예: 갑자기 관계가 끊어지는지 등)를 추적합니다.
- 궤적 어텐션 리드아웃 (Temporal Attention Readout): 모든 디노이징 단계의 메모리를 동일하게 취급하지 않고, Temporal Attention 메커니즘을 통해 환각 신호가 가장 뚜렷하게 나타나는 유의미한 단계를 가중치 있게 통합합니다.
이중 작업 헤드 (Dual-Task Readout):
- 응답 수준 탐지 (Response-level): 전체 문장의 환각 여부를 판별합니다.
- 토큰 수준 탐지 (Token-level): 문장 내 어떤 특정 토큰이 환각을 유발했는지 위치를 찾아냅니다(Localization).

3. 주요 기여 (Key Contributions)

환각 역학 분석: D-LLM의 환각이 단일 단계에서는 약한 신호를 보이지만, 디노이징 궤적 전체를 통해 축적된다는 점을 이론적/실험적으로 증명했습니다.
새로운 프레임워크 제안: 토큰 간의 관계(Graph)와 시간적 진화(Temporal)를 동시에 모델링하는 TDGNet을 통해 D-LLM에 최적화된 탐지 모델을 제시했습니다.
다양한 환각 패턴 포착: 단순한 오류뿐만 아니라 **자기 수정(Self-correction), 의미적 표류(Semantic drift), 지속적 오류(Persistent error)**와 같은 복잡한 동적 패턴을 구분할 수 있음을 보여주었습니다.

4. 실험 결과 (Results)

성능 우위: LLaDA-8B 및 Dream-7B 모델을 대상으로 한 QA 벤치마크 실험에서, TDGNet은 기존의 출력 기반(Output-based), 잠재 변수 기반(Latent-based), 정적 그래프(Static-graph) 방식보다 일관되게 높은 AUROC를 기록했습니다.
효율성: 여러 번의 샘플링이 필요한 기존 방식(Semantic Entropy 등)에 비해, TDGNet은 단일 디노이징 궤적만을 사용하므로 훨씬 빠르면서도(약 4.8배 속도 향상) 강력한 성능을 유지합니다.
일반화 능력: 한 데이터셋에서 학습한 모델이 다른 유형의 데이터셋에서도 효과적으로 작동하는 제로샷(Zero-shot) 일반화 성능을 입증했습니다.

5. 의의 (Significance)

본 논문은 D-LLM의 신뢰성을 확보하기 위한 중요한 이정표를 제시합니다. 환각을 단순한 '결과물'의 오류가 아닌 **'생성 과정의 동적 궤적'**으로 바라보는 관점의 전환을 가져왔으며, 이는 향후 확산 기반 생성 모델의 안전한 배포와 실시간 모니터링을 위한 핵심 기술이 될 것입니다.