Retromorphic Testing with Hierarchical Verification for Hallucination Detection in RAG

1. 문제 정의 (Problem Statement)

검색 증강 생성 (RAG) 시스템은 대규모 언어 모델 (LLM) 이 검색된 문맥을 기반으로 답변을 생성하지만, 여전히 환각 (Hallucination) 현상이 발생합니다. 즉, 검색된 문맥을 지지하지 않거나 문맥과 직접적으로 모순되는 주장을 생성하는 것입니다.

기존의 환각 감지 기술은 다음과 같은 한계를 가지고 있습니다:

• 전체 답변 수준의 점수 (Holistic Scoring): Vectara 와 같은 상용 도구는 전체 답변에 대한 단일 스칼라 점수만 제공하여, 어느 부분이 잘못되었는지 알 수 없습니다.
• 증거 부재 (Lack of Evidence Grounding): LettuceDetect 와 같은 일부 도구는 의심스러운 문단을 식별할 수 있지만, 이를 뒷받침하거나 반박하는 구체적인 검색 문맥 (Context) 의 증거를 제공하지 못합니다.
• 검증의 미흡: 기존 벤치마크 (예: RAGTruth) 는 환각이 포함된 스팬에 대한 주석이 누락된 경우가 많아 (False Negative), 정확한 평가를 어렵게 합니다.

따라서, 검색된 문맥을 유일한 권위 있는 정보원으로 간주하고, 답변의 각 주장을 구체적인 문맥 증거와 연결하여 세밀하게 감사 (Auditing) 할 수 있는 도구가 필요합니다.

2. 방법론: RT4CHART 프레임워크

저자들은 RT4CHART (Retromorphic Testing for Context-grounded Hallucination Assessment in Retrieval-Augmented Text) 라는 새로운 프레임워크를 제안합니다. 이는 소프트웨어 공학의 '역형성 테스트 (Retromorphic Testing)' 개념을 RAG 환각 감지에 적용한 것입니다.

핵심 개념: 역형성 테스트 (Retromorphic Testing)

• 전향 프로그램 (Forward Program, P): RAG 파이프라인이 (문맥 $C$, 질문 $Q$) 를 입력받아 답변 $A$를 생성합니다.
• 역행 프로그램 (Backward Program, B): 생성된 답변 $A$를 분석하여 검증 궤적 (Verification Trace) $T$를 생성하고, 이를 원래 입력 ($C, Q$) 과 대조하여 일관성을 확인합니다.
• 목표: 생성된 답변의 모든 주장이 검색된 문맥에 의해 지지되거나, 반박되거나, 혹은 근거가 없음을 명확히 증명하는 것입니다.

계층적 검증 파이프라인 (Hierarchical Verification Pipeline)

RT4CHART 는 다음과 같은 4 단계 프로세스를 거칩니다:

1. 주장 분해 (Claim Decomposition):

   • 생성된 답변 $A$를 독립적으로 검증 가능한 개별 주장 (Claims) 들의 리스트로 분해합니다.
   • 각 주장은 답변의 특정 문장 (Span) 과 연결되어 위치 추적이 가능합니다.

2. 국소 검증 (Local Verification):

   • 검색된 문맥 $C$를 중첩된 슬라이딩 윈도우 (Chunks) 로 나눕니다.
   • 각 주장에 대해 국소적인 문맥 청크를 스캔하여 지지 (Entailed), 반박 (Contradicted), 또는 근거 없음 (Baseless) 을 판단합니다.
   • OR-Join: 여러 청크 중 하나라도 반박 (Con) 이면 반박, 지지 (Ent) 가 있으면 지지, 모두 근거가 없으면 근거 없음으로 국소 라벨을 결정합니다.

3. 전역 검증 (Global Verification):

   • 국소 검증의 결과를 힌트로 활용하되, 전체 문맥 $C$를 다시 읽어 최종 판단을 내립니다.
   • 국소 검증에서 놓친 분산된 증거를 찾거나, 국소적 오해를 바로잡기 위해 수행됩니다.
   • 각 주장에 대해 최종 라벨 ($y^*_i$) 과 해당 주장을 지지하거나 반박하는 구체적인 문맥 증거 (Evidence Spans) 를 할당합니다.

4. 답변 수준 집계 (Answer-Level Aggregation):

   • 모든 주장의 최종 라벨을 AND-Join 규칙으로 집계합니다.
   • 하나의 주장이라도 환각 (반박 또는 근거 없음) 이면 전체 답변을 환각으로 간주합니다. 이는 부분적 환각을 놓치지 않기 위함입니다.

3. 주요 기여 (Key Contributions)

1. 역형성 테스트 기반 프레임워크: RAG 환각 감지를 '추적 가능성 (Traceability)' 문제로 재정의하고, 주장 수준의 판단, 국소화된 스팬, 그리고 문맥 증거를 동시에 제공하는 RT4CHART 를 개발했습니다.
2. 계층적 검증 파이프라인: 국소 검증 (세밀한 탐지) 과 전역 검증 (일관성 유지) 을 결합하여 긴 검색 문맥에서도 정밀한 검증을 가능하게 했습니다.
3. 고도화된 벤치마크 (RAGTruth-Enhance): 기존 RAGTruth 벤치마크의 주석 누락 문제를 해결하기 위해, 2,675 개의 샘플에 대해 재주석을 수행했습니다. 이를 통해 기존 레이블보다 1.68 배 더 많은 환각 사례를 발견했습니다.
4. 강력한 실험 결과: 기존 벤치마크 (RAGTruth++, RAGTruth-Enhance) 에서 기존 최강의 베이스라인 대비 뛰어난 성능을 입증했습니다.

4. 실험 결과 (Results)

• 답변 수준 감지 (Answer-level Detection):
  • **RAGTruth++**에서 F1 점수가 0.776으로, 기존 최강 베이스라인 (Vectara, 0.424) 대비 83% 향상을 보였습니다.
  • RAGTruth-Enhance에서도 F1 점수가 0.845로, 베이스라인 대비 17% 향상되었습니다.
  • 특히 **Recall(재현율)**이 매우 높아, 부분적으로 환각이 포함된 답변을 놓치지 않고 탐지하는 데 탁월합니다.
• 스팬 수준 국소화 (Span-level Localization):
  • 환각이 발생한 텍스트 구간을 정확히 찾아내는 성능 (F1) 에서도 **47.5%**를 기록하여, 기존 스팬 기반 도구 (Lettuce) 보다 우수한 재현율을 보였습니다.
• 증거 기반 진단:
  • 환각 주장에 대해 이를 반박하는 구체적인 문맥 문장을 제공하여, 사용자가 왜 그 부분이 틀렸는지 이해할 수 있게 합니다.
• ** Ablation Study:**
  • 계층적 검증 (국소 + 전역) 이 성능 향상의 주된 동인임을 확인했습니다. 특히 국소 검증이 핵심 역할을 하며, 전역 검증은 증거가 여러 청크에 분산된 경우 성능을 보완합니다.

5. 의의 및 결론 (Significance)

• 검증 가능성과 투명성: RT4CHART 는 단순히 "답변이 틀렸다"고 점수만 매기는 것이 아니라, 어떤 주장이, 어떤 문맥 근거 때문에 틀렸는지 명확히 보여줍니다. 이는 실제 운영 환경에서 RAG 시스템의 신뢰성을 확보하고 감사 (Auditing) 하는 데 필수적입니다.
• 벤치마크의 한계 지적: 기존 벤치마크가 환각을 과소평가하고 있음을 보여주며, 더 정밀한 주석이 필요함을 강조했습니다.
• 실용성: GPT-4o mini 를 사용할 경우 샘플당 약 0.01 달러의 비용으로 실행 가능하여, 실제 RAG 파이프라인의 업데이트 후 정기적인 감사에 적용하기 적합합니다.

결론적으로, 이 논문은 RAG 시스템의 환각을 감지하는 새로운 패러다임을 제시하며, 증거 기반의 세밀한 진단을 통해 LLM 의 신뢰성을 높이는 데 기여합니다.