기술 요약: 효율적인 다단계 RAG를 위한 근거 기반 델타 플래닝 (Grounded Delta Planning)

문제 정의

다중 홉 질의응답(Multi-hop QA)은 검색 증강 생성(RAG) 시스템에서 여전히 중요한 과제로 남아 있습니다. 기존의 접근 방식은 일반적으로 다음 두 가지 범주로 나뉘며, 두 방식 모두 결정적인 한계에 직면해 있습니다:

1. 단계별 방식 (Step-wise Methods) (예: ReAct, Self-Ask): 이 방식은 검색과 추론을 동적으로 교차 수행합니다. 유연하지만, 컨텍스트 오버플로우로 인한 "중간 소실(lost-in-the-middle)" 문제를 겪으며, 초기 단계의 실수가 전체 추론 과정으로 전이되는 오류 전파(error propagation) 현상을 증폭시킵니다.
2. 플랜 기반 방식 (Plan-based Methods) (예: ReWOO, PlanRAG): 이 방식은 하위 단계를 격리하고 연쇄적인 오류를 줄이기 위해 실행 전 정적인 글로벌 플랜을 구축합니다. 그러나 이들은 주로 파라미터 지식(parametric knowledge)에만 의존하여 플랜을 생성하기 때문에, 오버 플래닝(over-planning)(이미 가용한 정보에 대해 중복된 서브 쿼리를 생성함) 또는 언더 플래닝(under-planning)(필요한 의존 관계를 놓침) 문제를 야기합니다. 또한, 엄격하게 고정된 플랜을 따르는 것은 각 실행 단계의 비용이 상당해짐에 따라 효율성 문제를 발생시킵니다.

핵심 과제는 오류 전파와 컨텍스트 오버플로우를 피하는 동시에, 중복된 추론 단계를 제거하고 필수적인 정보가 누락되지 않도록 보장함으로써 계산 비용을 최소화하는 프레임워크를 설계하는 것입니다.

방법론: 근거 기반 델타 플래닝 RAG (GDP-RAG)

저자들은 완전한 추론 체인을 생성하는 대신, 초기 검색 이후 누락된 특정 지식인 **정보 델타($\Delta$)**만을 타겟팅하는 플랜 패러다임의 전환을 제안하는 플랜 기반 프레임워크인 GDP-RAG를 제안합니다. 이 프레임워크는 세 가지 뚜렷한 단계로 작동합니다:

1. 플래닝 단계 (근거 기반 델타 플래닝)

GDP-RAG는 단순히 파라미터 지식만을 사용하여 쿼리를 분해하는 대신, 먼저 **예비 검색(Preliminary Retrieval)**을 수행하여 관련 문서 집합($D_{rel}$)을 수집합니다. 그 후 플래너는 세 가지 설계 선택 사항을 바탕으로 **골격 궤적(Skeletal Trajectory, $T_{skel}$)**을 생성합니다:

• 근거화(Grounding): 플래너는 이미 어떤 정보가 가용할지 이해하기 위해 $D_{rel}$을 조건부로 사용합니다.
• 격차 인지 쿼리 분해(Gap-aware Query Decomposition): 프롬프트는 플래너가 $D_{rel}$에 존재하는 정보를 식별하고, 남은 격차($\Delta$)에 대해서만 서브 쿼리를 생성하도록 지시합니다.
• 골격 궤적 구조(Skeletal Trajectory Structure): 출력은 튜플 $\langle (\theta_i, q_i) \rangle$의 시퀀스입니다. 여기서 $q_i$는 누락된 정보에 대한 서브 쿼리이며, $\theta_i$ (사고/Thought)는 해당 단계와 관련된 $D_{rel}$의 증거를 포착합니다. 이는 실행 과정 중 정보 손실를 방지하며 궤적 전반에 걸쳐 증거를 보존합니다.

이 방식은 세 가지 구조적 이점을 제공합니다:

• 추론 단계 압축: $D_{rel}$에 이미 존재하는 사실을 검색하기 위해 필요했을 단계들을 건너뜁니다.
• 오버 플래닝 제거: 환각된 필요성에 기반한 중복 서브 쿼리가 제거됩니다. 이는 플래너가 실제 검색된 문서에 대해 가정을 검증하기 때문입니다.
• 언더 플래닝 정교화: 광범위한 초기 검색의 의미론적 정보는 좁고 타겟팅된 서브 쿼리가 놓칠 수 있는 의존 관계를 복구하는 데 도움을 줍니다.

2. 궤적 생성 단계

골격 플랜은 PAR-RAG에서 변형된 반복적인 Act-Review-Update 사이클을 통해 실행됩니다:

• Act (실행): 특정 서브 쿼리 $q_t$에 대한 문서를 검색하고, 뒷받침하는 증거를 인용하며 잠정적인 답변 $\hat{a}_t$를 생성합니다.
• Review (검토): 2차 검색을 수행하기 위한 검증 쿼리를 구성하여, $\hat{a}_t$를 새로운 증거와 대조함으로써 사실적 불일치를 교정합니다.
• Update (업데이트): 검증된 튜플 $(\theta_t, q_t, d_t, a_t)$를 **궤적 메모리(Trajectory Memory)**에 기록하고, 축적된 증거를 바탕으로 다음 서브 쿼리 $q_{t+1}$를 정교화하여 런타임 적응성을 보장합니다.

3. 답변 단계

시스템은 쿼리 $Q$를 완전히 근거가 있고 검증된 궤적 $T$와 통합하여 최종 답변 $A$를 합성하며, 이를 통해 응답이 논리적으로 일관되고 검색된 문서에 의해 엄격히 뒷받침되도록 보장합니다.

주요 기여

1. 프레임워크 제안: GDP-RAG는 먼저 검색을 수행하고 정보 델타에 대해서만 플래닝을 수행하여, 답변 품질을 희생하지 않으면서도 간결한 추론 궤적을 산출하는 학습이 필요 없는(training-free) 플랜 기반 다단계 RAG 프레임워크입니다.
2. 성능: 광범한 실험을 통해 GDP-RAG가 비교 대상 시스템 중 가장 높은 정확도를 달성하는 동시에 현저히 낮은 계산 비용을 유지함을 입증했습니다.
3. 절제 연구 (Ablation Analysis): 저자들은 예비 검색, 격차 인지 지침, 골격 궤적이라는 각 설계 선택 사항이 단계 효율성, 비용 절감 및 답변 정확도에 고유하게 기여함을 확인했습니다.

실험 결과

프레임워크는 GPT-4.1-mini를 사용하여 생성된 세 가지 다중 홉 QA 벤치마크(HotpotQA, 2WikiMultiHopQA, MuSiQue)에서 평가되었습니다.

• 정확도: GDP-RAG는 가장 강력한 베이스라인인 PAR-RAG(58.20%)를 2.43% 포인트 차이로 앞서며 **60.63%**의 최고 종합 정확도를 달성했습니다. 또한 HotpotQA(64.75% vs 62.79%)와 MuSiQue(44.53% vs 42.70%)에서도 PAR-RAG를 능가했습니다.
• 효율성 (Cost-of-Pass): 주요 지표인 cost-of-pass(하나의 정답을 생성하는 데 드는 예상 비용)는 GDP-RAG의 경우 0.51이었습니다. 이는 PAR-RAG(0.65)보다 22% 낮으며, KnowTrace(1.57)보다는 68% 낮습니다.
• 파레토 최적성 (Pareto Optimality): GDP-R가 성능 공간의 "높은 정확도, 낮은 비용" 코너를 점유합니다. 어떤 다른 방법도 더 높은 정확도와 더 낮은 비용을 동시에 달성하지 못했습니다. 더 저렴한 방법들(예: Standard RAG, IRCoT)은 정확도가 10~23포인트 뒤처졌습니다.
• 단계 감소: 근거 기반 델타 플래닝은 직접 플래닝(Direct Planning) 대비 유효 추론 단계를 61.0%(3,561개에서 1,388개로) 줄였고, 중복 단계를 77.0% 제거했습니다.

의의 및 주장

본 논문은 GDP-RAG가 플래닝 과정을 근본적으로 변경함으로써 현재 다중 홉 RAG 시스템의 근본적인 비효율성을 해결한다고 주장합니다. 예비 검색에 근거하여 플래너를 구동함으로써, 시스템은 단계별 오류 전파와 플랜 기반 오버 플래닝의 특징인 "맹목적인" 추론 단계 생성을 피합니다.

저자들은 이 접근 방식이 해결되지 않은 격차에만 계산을 집중함으로써 간결하고 신뢰할 수 있는 추론 궤적을 생성한다고 강조합니다. 결과는 "근거 기반 델타 플래닝"이 작업 복잡도에 따라 시스템이 적응할 수 있게 하며, 필요한 정보의 높은 커버리지를 유지하면서 추가 홉(hop)의 비용을 상쇄할 수 있음을 시사합니다. 이 프레임워크는 LLM의 다단계 추론에서 경제적 효율성과 사실적 신뢰도를 모두 개선하는 강력하고 학습이 필요 없는 솔루션으로 제시됩니다.