A-RAG: Scaling Agentic Retrieval-Augmented Generation via Hierarchical Retrieval Interfaces

기술 요약: A-RAG: 계층적 검색 인터페이스를 통한 에이전트형 검색 증강 생성(RAG)의 확장

문제 정의

본 논문은 진화하는 프런티어 언어 모델(LLM)의 능력과 기존 검색 증강 생성(RAG) 시스템 사이의 심각한 불일치를 지적한다. 현대적인 LLM은 강력한 추론 및 장기적 도구 사용 능력을 입증했으나, 현재의 RAG 패러다임은 이러한 속성을 활용하지 못하고 있다. 저자들은 기존 방식이 두 가지 제한적인 패러다임에 의존하고 있다고 주장한다:

1. 단발성 검색(Single-Shot Retrieval): 알고리즘이 한 번에 여러 구절을 검색하여 모델의 입력값으로 결합하며, 이는 모델이 검색 결정에 참여하는 것을 방지한다.
2. 사전 정의된 워크플로우(Predefined Workflows): 시스템이 모델에게 고정된 단계별 워크플フロー(예: IRCoT, FLARE)를 실행하도록 프롬프트를 제공하지만, 이는 특정 작업의 특성에 따라 전략을 조정하거나 충분한 증거가 수집되었는지 판단할 수 있는 자율성이 부족하다.

두 방식 모두 모델이 상호작作用 전략을 동적으로 선택하게 하지 못하므로, 모델의 개선에 따른 효율적인 확장이 불가능하다. 본 논문은 RAG가 정적인 파이프라인에서 모델이 검색 프로세스에 대한 자율성을 갖는 동적인 에이전트 기반 시스템으로 전환되어야 한다고 상정한다.

방법론: A-RAG 프레임워크

이러한 한계를 해결하기 위해, 저자들은 계층적 검색 인터페이스를 모델에 직접 노출하도록 설계된 에이전트형 RAG 프레임워크인 A-RAG를 소개한다. 핵심 통찰은 코퍼스(corpus) 정보가 본질적으로 다양한 세밀도(granularity)로 조직되어 있으며, 에이전트는 이러한 수준들에 적응적으로 접근할 수 있어야 한다는 것이다.

1. 계층적 인덱스 구축

이 프레임워크는 두 단계로 구성된 경량 인덱싱 절차를 활용한다:

• 청킹(Chunking): 코퍼스를 의미적 일관성을 유지하기 위해 문장 경계에 맞춰 약 1,000 토큰 단위의 청크로 분할한다.
• 임베딩(Embedding): 각 청크를 문장 단위로 분해하고, 이 문장들에 대한 밀집 벡터 표현(dense vector representations)을 계산한다. 이를 통해 문장에서 상위 청크로의 매핑을 생성한다.
• 키워드 수준(Keyword-Level): 그래프 기반 방식과 달리 키워드 정보는 사전에 인덱싱되지 않으며, 계산 오버헤드를 최소화하기 위해 쿼리 시점에 정확한 텍스트 매칭을 수행한다.

그 결과, 세 단계의 정보 표현이 생성된다: 암시적 키워드 수준, 문장 수준 임베딩, 그리고 청크 수준 저장소.

2. 계층적 검색 인터페이스

A-RAG는 에이전트에게 세 가지 뚜렷한 도구를 제공하여, 쿼리에 따라 적절한 세밀도를 선택할 수 있게 한다:

• 키워드 검색(Keyword Search): 특정 용어를 포함하는 청크를 찾기 위해 정확한 어휘 매칭을 수행한다. 이는 용어 빈도와 길이에 따라 가중치가 부여된 축약된 스니펫을 반환한다.
• 시맨틱 검색(Semantic Search): 밀집 검색을 사용하여 의미적으로 유사한 구절을 찾는다. 쿼리를 인코딩하고 문장 임베딩에 대한 코사인 유사도를 계산하며, 결과를 상위 청크별로 집계한다.
• 청크 읽기(Chunk Read): 이전 도구들에 의해 식별된 특정 청크(또는 인접 청크)의 전체 내용에 접근할 수 있도록 한다. 이를 통해 에이전트는 필요한 경우에만 전체 문맥을 읽을 수 있어 토큰 오버헤드를 최소화할 수 있다.

3. 에이전트 루프

프레임워크는 단순한 ReAct 스타일의 에이전트 루프(추론과 도구 호출이 교차됨)를 채택한다. 에이전트는 도구를 선택하고, 결과를 관찰하며, 다음 행동을 결정하는 과정을 반복한다.

• 컨텍스트 트래커(Context Tracker): 중복을 방지하기 위해 시스템은 읽은 청크를 추적한다. 만약 에이전트가 이미 접근한 청크를 읽으려고 시도하면, 도구는 전체 텍스트 대신 알림을 반환하여 토큰을 절약하고 새로운 정보 탐색을 유도한다.
• 종료(Termination): 루프는 에이전트가 답변을 제공하거나 최대 반복 예산에 도달할 때까지 계속되며, 이 시점에서 수집된 정보를 바탕으로 응답을 합성한다.

주요 기여

1. 패러다임 전환 식별: 본 논문은 RAG를 정적인 파이프라인에서 모델이 검색 전략을 자율적으로 관리하는 동적인 에이전트형 프레임워크로 전환해야 할 필요성을 강조한다.
2. A-RAG 프레임워크: 에이전트가 다양한 세밀도에 걸쳐 정보를 적응적으로 검색하고 추출할 수 있도록 하는 계층적 검색 인터페이스(키워드, 시맨틱, 청크 수준)를 갖춘 프레임워크를 도입한다.
3. 확장성 분석: A-RAG가 모델 크기와 테스트 시간 계산량(test-time compute) 모두에 따라 효율적으로 확장됨을 보여주는 체계적인 연구를 제시하며, 계산 자원이 증가함에 따라 성능 향상을 보여준다.

실험 결과

저자들은 GPT-4o-mini와 GPT-5-mini를 백본 모델로 사용하여 네 가지 멀티홉 QA 벤치마크(HotpotQA, 2WikiMultiHopQA, MuSiQue, GraphRAG-Bench)에서 A-RAG를 평가했다.

• 성능: A-RAG는 Naive RAG, Graph-RAG(예: GraphRAG, HippoRAG2), Workflow RAG(예: FaithfulRAG, MA-RAG)를 포함한 기존 베이스라인들을 일관되게 능가했다.
  • GPT-5-mini를 사용했을 때, **A-RAG (Full)**는 모든 데이터셋에서 가장 높은 정확도를 달em했다 (예: HotpotQA에서 94.5% LLM-Acc, 2Wiki에서 89.7%).
  • 단 하나의 임베딩 도구만을 갖춘 **A-RAG (Naive)**조차 대부분의 복잡한 Graph-RAG 및 Workflow 방식보다 뛰어난 성능을 보였는데, 이는 에이전트의 자율성 자체가 성능의 주요 동력임을 시사한다.
• 효율성: 더 많은 콘텐츠를 검색할수록 결과가 좋아진다는 직관과 달리, A-R한 A-RAG (Full)는 전통적인 RAG 방식보다 유사하거나 더 적은 토큰을 검색하면서도 우수한 정확도를 달성했다. 예를 들어, HotpotQA에서 A-RAG (Full)는 약 2,737 토큰을 검색한 반면, Naive RAG는 약 5,358 토큰을 검색했다.
• 테스트 시간 확장성(Test-Time Scaling): 실험 결과, 최대 추론 단계(5단계에서 20단계로)와 추론 노력을 늘릴수록, 특히 GPT-5-mini와 같은 강력한 추론 모델에서 꾸준한 성능 향상이 나타났다.
• 절제 연구(Ablation Studies): 계층적 도구 세트(키워드 검색, 시맨틱 검색, 청크 읽기) 중 하나라도 제거하면 성능 저하가 발생하여, 다중 세밀도 도구의 필요성을 확인했다.

의의 및 주장

본 논문은 A-RAG가 RAG 설계의 근본적인 변화를 나타낸다고 주장한다. 계층적 인터페이스를 노출함으로써, 이 프레임워크는 모델이 경직된 알고리즘을 따르는 대신 내재된 추론 능력을 활용하여 전략을 동적으로 조정할 수 있게 한다.

• 에이전트 친화성: 결과는 프레임워크의 "에이전트적" 성격, 즉 도구와 전략을 자율적으로 선택하는 능력이 밑단의 복잡한 검색 알고리즘보다 더 중요하다는 것을 시사한다.
• 확장성: 프레임워크는 모델 능력 및 테스트 시간 계산량의 발전에 따라 효과적으로 확장됨을 보여주며, 미래의 RAG 시스템을 위한 유망한 방향을 제시한다.
• 미래 방향: 저자들은 향-후 연구가 복잡한 검색 알고리즘을 설계하는 것보다 에이전트 친화적인 인터페이스를 설계하는 데 집중해야 한다고 제안한다. 또한 리소스 제약으로 인해 더 큰 프런티어 모델(예: GPT-5, Gemini-3)에 대한 검증이 부족하다는 점과, 멀티홉 QA를 넘어선 작업(예: 사실 검증, 대화)으로의 일반화 연구가 필요함을 언급한다.

요약하자면, 본 논문은 더 효과적인 RAG로 가는 길은 더 복잡한 검색 그래프나 사전 정의된 워크플로우를 구축하는 것이 아니라, 적응적인 도구 사용을 통해 정보 계층 구조를 탐색할 수 있는 자율성을 모델에게 부여하는 데 있다고 주장한다.