🤖 AI

D $^2$ F-ReAG: Dynamic Decomposition and Filtering for Multi-Hop Reasoning-Augmented Generation

본 논문은 초기 추론의 신뢰성에 따라 직접 답변할지 또는 동적으로 하위 질문을 분해하고 필터링할지를 적응적으로 결정함으로써 멀티홉 추론의 정확도와 효율성을 개선하는 새로운 검색 증강 생성 프레임워크인 D $^2$ F-ReAG를 제안한다.

원저자: Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

게시일 2026-08-06

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 미스터리를 풀려고 노력하고 있다고 상상해 보세요. 하지만 단서들이 하나의 수첩에 모여 있는 것이 아니라, 거대한 도서관의 수천 권의 책 속에 여기저기 흩어져 있습니다. 이것이 바로 현대의 "대규모 언어 모델(LLM)"—이야기를 쓰고, 질문에 답하며, 우리와 대화하는 초지능형 컴퓨터 두뇌—이 직면한 도전 과제입니다. 이 모델들은 훈련 과정에서 방대한 도서관의 책들을 읽은 아주 똑똑한 학생과 같지만, 모든 것을 완벽하게 기억하지는 못하며 때때로 이야기를 지어내기도 합니다(과학자들이 "환각(hallucination)"이라고 부르는 문제입니다). 이를 해결하기 위해 연구자들은 **검색 증강 생성(Retrieval-Augmented Generation, RAG)**이라는 기술을 사용합니다. RAG를 학생에게 검색 엔진을 주는 것이라고 생각해보세요. 질문을 받았을 때, 컴퓨터는 답변을 적기 전에 먼저 자신의 도서관에 있는 책들에서 답을 찾아봅니다.

"해리 포터를 누가 썼나요?"와 같은 간단한 질문의 경우, 검색 엔진은 한 번의 빠른 단계로 답을 찾아냅니다. 하지만 **다단계 추론(multi-hop reasoning)**의 경우, 퍼즐은 훨씬 더 어려워집니다. 예를 들어, "1995년에 오스카상을 받은 배우가 출연한 영화보다 먼저 개봉한 영화의 감독은 누구인가요?"라고 묻는 것과 같습니다. 이 질문에 답하려면 단순히 한 가지 사실을 찾는 것만으로는 부족합니다. 배우를 찾고, 그 배우가 출연한 영화를 찾고, 그다음 감독을 찾고, 마지막으로 개봉일을 찾아내며 서로 다른 페이지에 걸쳐 점들을 연결해야 합니다. 현재의 방식들은 이 미로 속에서 길을 잃곤 합니다. 질문을 너무 작고 혼란스러운 조각들로 나누어 버리거나, 찾아낸 잘못된 단서들을 걸러내는 데 실패하곤 합니다.

여기, Jiaoyang Li와 그의 팀이 제안한 새로운 프레임워크인 D2F-ReAG가 등장했습니다. D2F-ReAG를 확신이 들 때까지 추측하기를 거부하는 매우 영리하고 신중한 탐정이라고 생각해 보세요. 이 새로운 방식은 모든 질문을 무작정 작은 하위 질문들로 나누어 시간을 낭비하거나(과잉 분해), 혹은 한 번의 거대한 도약으로 전체를 해결하려고 시도하여 오류를 범하는(단일 단계 시도) 대신, "신뢰도 체크"를 사용합니다.

이 탐정이 작동하는 방식은 다음과 같습니다:

첫 번째 추측: 시스템은 먼저 즉시 찾아낸 정보를 사용하여 큰 질문에 대한 답을 시도합니다.
신뢰도 체크: 특별한 "판사" 모델이 그 첫 번째 추측을 보고 "확실합니까?"라고 묻습니다. 만약 답변이 확신 있고 신뢰할 수 있다면, 탐정은 거기서 멈추고 최종 답변을 작성합니다. 이는 쉬운 질문들을 위해 많은 시간을 절약해 줍니다.
세분화: 만약 판사가 "아니요, 그것은 올바르지 않아 보입니다"라고 말한다면, 그제서야 시스템은 큰 질문을 관리 가능한 작은 하위 질문들로 나눕니다. 시스템은 이 작은 퍼즐들을 하나씩 해결해 나갑니다.
필터링: 결정적으로, 시스템은 작은 퍼즐들로부터 얻은 모든 답을 다시 큰 질문에 쏟아붓지 않습니다. 각 작은 답변이 실제로 관련이 있고 정확한지를 확인합니다. 만약 작은 답변이 틀렸거나 주제에서 벗어났다면, 그것은 버려집니다. 만약 옳다면, 그것은 큰 질문에 대한 답을 수정하고 개선하는 데 사용됩니다.

연구진은 이 아이디어를 세 가지 "미스터리" 데이터셋(HotpotQA, 2WikiMultiHopQA, MuSiQue)으로 테스트했습니다. 이 데이터셋들은 까다롭기로 설계된 것들입니다. 연구 결과, D2F-ReAG는 복잡한 퍼즐을 푸는 데 있어 기존 방식들보다 뛰어난 성능을 보였습니다. 예를 들어, 2WikiMultiHopQA 테스트에서 D2F-ReAG는 엄격한 일치 메트릭(strict matching metric)을 사용하여 70.3점을, 유연한 의미론적 검사(flexible semantic check)를 사용하여 68.9점을 기록하며, 각각 65.3점과 62.6점을 기록한 이전 최고 방식인 LogicRAG를 앞질렀습니다.

이 논문은 이러한 "온디맨드(on-demand, 필요할 때만 수행하는)" 접근 방식이 핵심이라고 제안합니다. 질문이 필요할 때만 문제를 나누고 잘못된 정보를 걸러냄으로써, 시스템은 너무 많은 노이즈 때문에 혼란에 빠지는 것을 피합니다. 이는 마치 요리사가 주방에 있는 모든 재료를 다 다져놓고 그중 무엇이 맞는지 기대하는 것이 아니라, 레시피에 실제로 필요할 때만 채소를 써는 요리사와 같습니다. 실험 결과에 따르면, 이 방법은 정답을 더 많이 맞힐 뿐만 아니라 무관한 정보라는 "노이즈"를 더 잘 처리하여, 복잡하고 여러 단계가 필요한 질문에 대해 더 정확하고 신뢰할 수 있는 결과를 만들어냅니다.

기술 요약: D2F-ReAG

문제 정의

대규모 언语言 모델(LLM)은 구식의 파라미터 지식에 의존하고 환각 현상을 일으키는 문제로 인해, 지식 집약적인 시나리오에서 사실과 다르거나 근거 없는 출력을 생성하는 경우가 빈번합니다. 검색 증강 생성(RAG)은 외부 지식을 통합함으로써 단일 홉(single-hop) 질의에 대해서는 이러한 문제를 완화하지만, 여러 문서에 흩어진 증거를 연결해야 하는 다중 홉 추론(multi-hop reasoning) 질문에는 어려움을 겪습니다.

기존의 다중 홉 RAG 방식들은 다음과 같은 구체적인 한계점에 직면해 있습니다:

그래프 기반 방법(예: GraphRAG, HippoRAG)은 사전 구축된 그래프 구조에 의존합니다. 이러한 구조는 구축 및 유지 관리에 비용이 많이 들고, 불완전할 수 있으며, 기초 지식이 진화함에 따라 효과가 떨어질 수 있습니다.
프롬프트 기반 분해 방법(예: LogicRAG, ChainRAG)은 복잡한 질의를 하위 질문으로 분해합니다. 그러나 이들은 종종 경직된 분해 전략(단순한 질문을 불필요하게 분해하거나, 복잡한 질문을 충분히 깊게 분해하지 못함)과 효과적인 필터링의 부재라는 문제점을 가집니다. 이는 반복 과정에서 노이즈와 오류가 있는 중간 결과가 누적되어 최종 답변의 정확도를 저하시키는 결과를 초래합니다.

방법론: D2F-ReAG

저자들은 현재의 추론 상태의 신뢰도에 따라 추론 깊이를 적응적으로 제어하도록 설계된 프레임워크인 D2F-ReAG(Dynamic Decomposition and Filtering for Multi-Hop Reasoning-Augmented Generation)를 제안합니다. 이 프로세스는 네 가지 반복 단계로 작동합니다:

검색 및 생성 (Retrieval & Generation):
주어진 질문(초기에는 루트 질문)에 대해, 시스템은 밀집 검색기(dense retriever)를 사용하여 상위- $k$ 개의 관련 문서를 검색합니다. 생성 모델은 검색된 문서들을 바탕으로 외부 증거에 근거한 추론 과정( $r(q)$ )을 생성합니다.
신뢰도 판정 (Judge Reliability):
LLM 기반 스코어링 메커니즘이 생성된 추론의 신뢰도를 평가합니다. 시스템은 논리적 일관성, 검색된 문서와의 사실적 일치성, 답변의 완전성을 평가하여 점수 $s_r(q) \in [0, 10]$ 를 할당합니다.
- 만약 $s_r(q) > \theta$ (임계값 $\theta = 7$ 로 설정)이면, 질문이 해결된 것으로 간주되어 최종 답변이 생성됩니다.
- 만약 $s_r(q) \le \theta$ 이면, 추론이 신뢰할 수 없는 것으로 간주되어 분해 단계가 트리거됩니다.
분해 및 재작성 (Decomposition & Rewriting):
질문이 해결되지 않은 경우, 이를 더 작고 다루기 쉬운 하위 질문($sub(q)$)으로 논리적으로 분해합니다.
- 반복적 해결: 하위 질문들은 순차적으로 해결됩니다.
- 재작성: 하위 질문이 높은 확신도로 해결되면, 검증된 추론( $r_q$ )을 사용하여 관련 후속 하위 질문을 **재작성(rewrite)**합니다. 이는 모호한 참조와 누락된 엔티티를 해결하여, 후속 검색이 타겟팅되고 중복되거나 모순된 경로를 피할 수 있도록 보장합니다.
ReAG (Reasoning-Augmented Generation):
해결된 하위 질문들로부터 검증되고 관련 있는 추론 흔적들이 루트 추론 과정으로 통합됩니다. 이 단계는 정확한 중간 결론을 통해 루트 추론( $r'(q_{root})$ )을 업데이트하며, 점진적으로 글로벌 컨텍스트를 풍부하게 만듭니다.
- 관련성 체크: 지엽적인 하위 질문을 걸러내어 노이즈 오염을 방지하는 메커니즘이 작동합니다.
- 조기 종료: 루트 질문의 추론 점수가 임계값을 초과하면 즉시 프로세스를 종료하여 불필요한 계산 오버헤드와 과도한 분해를 방지합니다.

주요 기여

본 논문은 세 가지 주요 기여를 설명합니다:

동적 분해 프레임워크: 추론 신뢰도에 따라 온디맨드(on-demand) 방식으로 질문을 분해하는 새로운 패러다임을 제시합니다. 고정된 깊이의 방식과 달리, 이 방식은 정확한 중간 결과가 손실되는 메모리 압축 과정에서 사라지지 않고, 최종 답변을 가이드하기 위해 다시 전달되도록 보장합니다.
적응형 제어 메커니즘: 신뢰도 기반의 접근 방식을 통해 분해 깊이의 균형을 맞춥니다. 복잡한 질문에 대해서는 깊은 분해를 수행하는 동시에, 단순한 질의에 대해서는 불필요한 단계를 피함으로써 진정한 의미의 적응형 추론을 달 achieve 합니다.
반복적 오류 수정: 신뢰할 수 있는 하위 질문의 추론 체인을 활용하여 루트 추론 과정을 반복적으로 업데이트하고 수정하는 방법입니다. 이는 중간 오류를 식별하고 수정함으로써 추론 단계 전반의 오류 누적을 효과적으로 줄입니다.

실험 결과

저자들은 세 가지 표준 다중 홉 벤치마크인 HotpotQA, 2WikiMultiHopQA, MuSiQue에서 D2F-ReAG를 평가했습니다. 성능은 Str-Acc(엄격한 어휘 매칭)와 LLM-Acc(강력한 LLM이 판단한 의미적 동등성)를 사용하여 측정되었습니다.

성능: D2F-ReAG는 모든 데이터셋에서 최고 또는 최상위 수준의 결과를 달성했습니다. 특히 2WikiMultiHopQA에서 70.3 Str-Acc와 68.9 LLM-Acc를 기록하며, 가장 강력한 베이스라인인 LogicRAG를 각각 5.4 및 6.4 포인트 차이로 앞질렀습니다. HotpotQA에서는 가장 높은 LLM-Acc(63.4)를 달성했습니다.
효율성: "분해 포함" 대 "분해 미포함"을 비교한 어블레이션 연구(ablation study)에 따르면, 상당수의 질문이 분해 없이 해결될 수 있음을 보여주었습니다. 동적 접근 방식은 쉬운 사례에 대해서는 불필요한 단계를 건너뜀으로써, 항상 분해를 수행하는 방식보다 성능과 효율성의 균형을 더 잘 맞춥니다.
사례 연구: LogicRAG와의 정성적 비교를 통해, D2F-ReAG가 쿼리를 분해하고 검증된 사실을 바탕으로 하위 질문을 재작성함으로써 중간 오류(예: 누락된 비교 대상)를 성공적으로 수정하는 반면, LogicRAG는 경직된 분해와 검증 부재로 인해 실패함을 입증했습니다.

의의 및 주장

본 논문은 D2F-ReAG가 기존 RAG 방식의 핵심적 한계인 고정된 분해 전략과 추론 과정 중 오류 정보를 필터링하지 못하는 능력을 해결한다고 주장합니다.

필요할 때만 질문을 적응적으로 분해하고 신뢰성에 따라 중간 추론을 선택적으로 필터링함으로써, D2F-ReAG는 오류 전파를 효과적으로 억제합니다. 저자들은 이 접근 방식이 더 충실한 추론 체인을 생성하며, 그래프 기반 구조의 높은 유지 관리 비용이나 경직된 프롬프트 기반 방식의 노이즈 누적 없이도 도전적인 다중 홉 벤치마크에서 강력한 성능을 달성한다고 단언합니다. 이 프레임워크는 LLM의 더욱 인간과 유사하고 효율적이며 정확한 추론을 향한 단계로 제시됩니다.