기술 요약: 인과적 검색 증강 생성 (CR-RAG)

1. 문제 정의

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)을 외부 지식에 기반하도록 만드는 표준 패러다임으로 자리 잡았습니다. 그러나 현재의 RAG 시스템은 질문의 특징과 검색된 증거 사이의 **가짜 상관관계(spurious correlations)**에 취약하다는 근본적인 결함을 가지고 있습니다.

본 논문은 RAG 시스템이 유창하지만 사실과 다른 답변(환각)을 생성하게 만드는 세 가지 구조적 편향의 원인을 식별합니다:

1. 인기 혼란 (Popularity Conforming): 밀집 검색기(Dense retriever)는 인기 있는 엔티티를 포함하는 구절에 편향되어 있습니다. 질문이 희귀한 엔티티를 대상으로 하더라도, 검색기는 임베딩 공간을 지배하는 인기 있는 공통 등장 엔티티에 관한 구절을 반환하는 경우가 많습니다.
2. 어휘 중첩 편향 (Lexical-Overlap Bias): 검색기 목적 함수(주로 대조 학습)는 질문과 표면적인 n-gram을 공유하는 구절을 선호합니다. 이때 단어가 무관한 경우(예: 관용구)에도 불구하고, 이는 생성기가 표면적으로는 관련이 있지만 사실적으로는 틀린 텍스트에 고착되게 만듭니다.
3. 선택 편향 (Selection Bias): Top-K 절단 메커니즘은 "검색됨"을 "정보가 있음"과 혼동합니다. 컷오프 바로 아래에 있는 구절은 정답을 포함하고 있을 수 있는 반면, 컷오프 위에 있는 구절은 질문과 단순히 혼란 변수(confounder)만을 공유할 수 있습니다.

저자들은 이러한 문제들이 단순한 최적화 실패가 아니라 인과 추론 문제라고 주장합니다. 표준 RAG는 조건부 확률 $p(A|Q, R)$을 추정하며, 이 과정에서 혼란 편향이 흡수됩니다. 목표는 진정한 인과 경로인 증거에서 답변으로 이어지는 경로를 격리하여, 인과 효과 $p(A|do(Q), do(R))$를 추정하는 것입니다.

2. 방법론: CR-RAG 프레임워크

본 논문은 **인과적 검색 증강 생성(CR-RAG)**을 제안하며, 이 프레임워크는 RAG 파이프라인을 **구조적 인과 모델(SCM)**로 모델링합니다. 이는 검색기와 생성기 사이에 가볍고 검색기에 독립적인(retriever-agnostic) 인과 계층을 도입합니다.

A. 구조적 인과 모델 (SCM)

파이프라인은 다음과 같이 정형화됩니다:

• 내생 변수 (Endogenous Variables): 질문 ($Q$), 검색된 증거 ($R$), 답변 ($A$).
• 혼란 변수 (Confounders): 관측 가능한 혼란 변수 $C$ (인기, 어휘적 속성)와 잠재적 혼란 변수 $U$ (주제적 맥락).
• 백도어 경로 (Backdoor Path): $Q \leftarrow C \rightarrow R \rightarrow A$ 경로는 가짜 상관관계를 생성합니다. CR-RAG는 이 경로를 차단하여 진정한 인과 효과를 추정하는 것을 목표로 합니다.

B. 핵심 구성 요소

CR-RAG는 네 가지 구체적인 인과 기술을 통합합니다:

1. 저차원 혼란 표현 (Backdoor Adjustment):

   • 소규모 다층 퍼셉트론(MLP)이 혼란 상태를 나타내는 저차원 임베딩 $g(Q, C)$를 학습합니다.
   • 이 임베딩은 **백도어 조정(backdoor adjustment)**을 수행하는 데 사용되며, 혼란 변수에 대해 조건화함으로써 가짜 경로를 효과적으로 차단합니다.
   • 정규화 항은 임베딩이 결과 정보(answer information)를 누출하지 않고 혼란 변수만을 포착하도록 보장합니다 (모델이 단순히 정답을 암기하는 것을 방지함).

2. 역 성향 가중치 재설정 (Inverse-Propensity Reweighting, IPW):

   • 이진 분류기가 성향 점수(propensity score) $e(R|Q, C)$를 추정합니다. 이는 질문의 내용이 아닌 오직 혼란 변수만을 바탕으로 구절이 검색될 확률을 의미합니다.
   • 구절들은 $w = 1/(e + \epsilon)$에 의해 재가중치 처리됩니다. 인기나 어휘적 편향 때문에 주로 검색된 구절(높은 성향)은 가중치가 낮아지고, 실제 관련성 때문에 검색된 구절은 가중치가 높아집니다.

3. 인과적 구절 스코어러 (Causal Passage Scorer):

   • 가벼운 트랜스포머 스코어러가 do-개입($do(R)$) 하에서의 관련성을 추정합니다.
   • 이는 답변 중복 신호를 이용한 약지도 학습(weak supervision)을 통해 훈련됩니다. 정답 문자열을 포함하는 구절은 양성(positive)으로, n-gram은 공유하지만 정답은 없는 구절은 음성(negative)으로 처리됩니다.
   • 이 스코어러는 후보 집합을 정제하여 인과적으로 관련 있는 증거만을 유지합니다.

4. 반사실적 데이터 증강 (Counterfactual Data Augmentation):

   • 훈련 중에 시스템은 검색된 구절의 일부를 "혼란 변수가 일치하는 부정 사례(confounder-matched negatives)"(유사한 인기/어휘적 특성을 가졌으나 정답은 다른 구절)로 교체하여 개입된 증거 집합($\tilde{R}$)을 구축합니다.
   • 대조 학습 손실(contrastive loss)은 생성기가 실제 증거($R$)와 반사실적 증거($\tilde{R}$)를 구분하도록 강제하여, 혼란 변수 기반의 대리 지표를 무시하도록 학습시킵니다.

C. 훈련 목적 함수

결합 손실 함수는 표준 생성 손실과 백도어 조정, IPW 훈련, 반사실적 대조, 그리고 혼란 변수 정규화를 위한 항들을 결합합니다. 이 프레임레이크는 **검색기에 독립적(retriever-agnostic)**이며 추론 지연 시간을 거의 늘리지 않습니다 (<5%).

3. 주요 기여

본 논문은 다음과 같은 기여를 주장합니다:

• 최초의 엔드투엔드 인과적 정식화: 저차원 혼란 가정 하에서 정답 조건부 가능성을 식별할 수 있음을 증명하며, 전체 검색-생성 파이프라인에 대한 최초의 통합적 인과 처리를 제공합니다.
• 모듈형 프레임워크 (CR-RAG): 기본 LLM이나 검색기를 수정하지 않고도 백도어 조정, IPW, 반사실적 대조 학습, 인과적 스코어링을 결합한 새로운 아키텍처를 제시합니다.
• 인과적 구절 스코어러: 수동적인 구절 레이블 없이도 $do$-개입 관련성을 추정할 수 있도록 약지도 학습으로 훈련된 새로운 구성 요소를 도입합니다.
• 재현 가능한 평가: 인기 편향을 직접 측정하기 위해 PopQA 데이터셋의 혼란 변수 층화 분할(stratifed split)을 공개하며, 상세한 절제 연구(ablation studies)를 제공합니다.

4. 실험 결과

프레임워크는 네 가지 지식 집약적 벤치마크인 Natural Questions (NQ), TriviaQA, HotpotQA, PopQA에서 평가되었습니다.

• 성능 향상: CR-RAG는 강력한 베이스라인들(RAG, FiD, REPLUG, Self-RAG, Atlas 포함)을 일관되게 능가했습니다.
  • 성능 향상은 1.2에서 3.7 Exact Match (EM) 포인트 범위에 달했습니다.
  • 가장 큰 폭의 향상은 인기 혼란이 가장 심한 PopQA에서 관찰되었습니다 (3.7 EM 향상).
• 롱테일 성능: 시스템은 엔티티의 인기가 낮아질수록 단조로운 개선을 보였습니다. PopQA의 "매우 희귀한(very-rare)" 그룹에서 CR-RAG는 표준 RAG 대비 환각을 43% 상대적으로 감소시켰습니다.
• 환각 완화: 모든 데이터셋에서 이 프레임워크는 근거 없는 답변을 줄였으며, 특히 검색이 결정적인 저인기 엔티티에서 가장 큰 효과를 보였습니다.
• 효율성: 인과 계층은 9.7M 파라미터(7B 생성기의 0.14%)와 쿼리당 11ms의 지연 시간만을 추가하여 매우 높은 계산 효율성을 입증했습니다.
• 전이 가능성: NQ에서 훈련된 모델은 데이터셋별 튜닝 없이도 멀티홉 QA(2WikiMultihopQA) 및 사실 검증(FEVER)으로 성공적으로 전이되었습니다.

5. 의의 및 주장

본 논문은 CR-RAG를 단순히 LLM을 위한 새로운 아키텍처가 아니라, 추정 대상(estimand)을 연관 관계($p(A|Q, R)$)에서 인과 관계($p(A|do(Q), do(R))$)로 전환하는 원칙적인 변화로 규정합니다.

• 근본 원인 해결: 환각 증상(예: 사후 검증이나 자기 성찰을 통한 해결)을 처리하는 기존 방식과 달리, CR-RAG는 환각을 유발하는 상류의 검색 편향을 직접 다룹니다.
• 지식의 형평성: 이 프레임워크는 특히 "롱테일" 실패 모드를 타겟팅하여, 희귀한 엔티티와 덜 유명한 사실들이 인기 있는 것들만큼 정확하게 검색되고 답변되도록 함으로써 지식 집약적 QA의 형평성을 높입니다.
• 산업적 실행 가능성: 가볍고 모듈화된 인과 계층 덕 기존 시스템(블랙박스 LLM 포함)에 드롭인(drop-in) 컴포넌트로 배포가 가능하며, 이는 사실성이 필수적인 도메인(법률, 의료, 과학 등)의 생산 환경에 적용하기 용이합니다.

저자들은 다음 세대의 검색 증강 시스템에는 명시적인 인과 추론이 필수적이며, 이를 통해 인간 지식의 분포 전반에 걸쳐 더 충실하고 형평성 있는 LLM 애플리케이션으로 나아가는 길을 제시한다고 결론짓습니다.