Talk to Right Specialists: Iterative Routing in Multi-agent Systems for Question Answering

1. 문제 정의 (Problem)

최근 지식 주권 (Knowledge Sovereignty) 및 개인정보 보호, 접근 제어 등의 제약으로 인해 기업 내 지식 베이스가 중앙 집중화되지 않고 여러 개의 분리된 RAG(Retrieval-Augmented Generation) 에이전트에 분산되어 있는 경우가 많습니다. 이러한 환경에서 사용자의 질문에 답하기 위해 기존에 시도되던 방식들은 다음과 같은 한계를 가집니다.

• 중앙 집중화 (Centralization): 모든 에이전트의 데이터를 하나로 합치는 것은 법적, 기술적 제약으로 인해 비현실적입니다. 또한, 거대한 단일 지식 베이스는 검색 품질 저하와 추론 능력 감소를 초래할 수 있습니다.
• 전체 브로드캐스트 (Broadcast-to-All): 서버가 모든 에이전트에게 질문을 전달하고 결과를 집계하는 방식은 비효율적입니다.
  • 비효율성: 관련 없는 에이전트까지 호출하여 계산 및 통신 자원을 낭비합니다.
  • 지연 시간 증가: 느린 에이전트 대기 및 긴 컨텍스트 처리로 인해 응답 시간이 길어집니다.
  • 정확도 저하: 너무 길고 노이즈가 많은 컨텍스트는 모델이 핵심 증거를 놓치게 하여 ("Lost-in-the-middle" 현상) 답변 품질을 떨어뜨립니다.
• 기존 라우팅 방법의 한계:
  • 기술 기반 (Description-based): 에이전트 설명에 의존하지만, 복잡한 하위 주제를 가진 에이전트의 지식 경계를 정확히 파악하기 어렵습니다.
  • 학습 기반 (Learning-based): 특정 태스크 데이터로 학습된 라우터는 분산된 비파라메트릭 지식 베이스의 전체를 효과적으로 커버하는 데이터셋 구축이 어렵습니다.

따라서, 원시 데이터 공유 없이 에이전트의 지식 능력을 정확하게 파악하고, 복잡한 질문을 해결하기 위해 에이전트 간 증거를 조합할 수 있는 새로운 오케스트레이션 프레임워크가 필요합니다.

2. 제안 방법: RIRS (Routing and Iterative Refining-Solving)

저자들은 RIRS라는 훈련이 필요 없는 (training-free) 오케스트레이션 프레임워크를 제안합니다. RIRS 는 크게 **오프라인 지식 요약 (Knowledge Summarization)**과 온라인 질의 해결 (Query Solving) 두 단계로 구성됩니다.

2.1 오프라인: 지식 요약 (Knowledge Summarization)

각 RAG 에이전트는 서버에 원시 데이터를 공유하지 않고, 자신의 로컬 지식 베이스를 임베딩 공간에서 요약하여 서버에 업로드합니다.

• 클러스터링: 에이전트는 로컬 문서 조각 (chunks) 을 임베딩한 후, 의미적으로 일관된 클러스터로 분할합니다.
• 최대 - 최소 유사도 최적화: 클러스터 내 모든 쌍의 최소 유사도를 최대화하는 방식으로 클러스터링을 수행하여, 각 클러스터가 단단하고 일관된 주제를 갖도록 합니다.
• 센트로이드 (Centroid) 업로드: 각 클러스터의 중심 (센트로이드) 벡터와 에이전트 식별자만 서버에 업로드합니다. 이는 에이전트의 지식 능력을 임베딩 공간에서 압축적으로 표현한 것입니다.
• 이론적 보장: 논문은 클러스터가 일관성 (coherence) 을 가진다면, 센트로이드 기반 라우팅이 실제 지식 조각 기반 라우팅과 비교하여 오차 범위가 수학적으로 제한됨을 증명했습니다.

2.2 온라인: 라우팅 및 반복적 정제 - 해결 (Routing and Iterative Refining-Solving)

서버는 업로드된 센트로이드를 기반으로 질의를 처리합니다.

• 라우팅 (Routing): 사용자 질문을 임베딩하여 가장 유사한 Top-K 개의 센트로이드를 찾습니다. 해당 센트로이드에 속한 에이전트들만 선택하여 질의를 전달합니다.
• 반응 평가 (Response Evaluation): 선택된 에이전트들의 응답을 수집한 후, 서버의 평가기 (Evaluator) 가 응답이 질문을 해결했는지 (Fully addressed), 부분적으로 해결했는지 (Partially addressed), 아니면 해결하지 못했는지 (Not addressed) 판단합니다.
• 반복적 정제 (Iterative Refining-Solving):
  • 단일 홉 (Single-hop): 질문이 해결되면 답변을 생성합니다.
  • 멀티 홉 (Multi-hop): 질문이 완전히 해결되지 않은 경우, 서버는 **질문 단순화기 (Question Simplifier)**를 통해 해결된 부분을 제거하고 미해결 부분에 초점을 맞춘 새로운 질문을 생성합니다.
  • 이 과정을 질문이 해결되거나 더 이상 진행이 불가능할 때까지 반복합니다. 이를 통해 에이전트 간, 그리고 라운드 간 증거를 조합 (Evidence Composition) 할 수 있습니다.

3. 주요 기여 (Key Contributions)

1. 새로운 설정 연구: 지식 주권 제약으로 인해 중앙 집중화가 불가능한 분산된 RAG 에이전트 환경에서의 질의응답 문제를 체계적으로 연구했습니다.
2. RIRS 프레임워크 제안:
   • 훈련 불필요: 원시 데이터 공유 없이 클러스터 수준의 임베딩 요약으로 라우팅을 수행합니다.
   • 이론적 분석: 센트로이드 기반 요약의 라우팅 오차에 대한 상한선 (bound) 을 이론적으로 증명했습니다.
   • 반복적 정제: 복잡한 질문을 해결하기 위해 부분적 진행 상황을 평가하고 질문을 정제하는 반복적 루프를 도입했습니다.
3. 성능 입증: 실험을 통해 RIRS 가 기존 라우팅 방법 (Chameleon, RouterDC 등) 보다 더 정확한 에이전트 선택과 복잡한 질의에 대한 높은 정확도를 보임을 입증했습니다.

4. 실험 결과 (Results)

논문은 Natural Questions (NQ), HotpotQA, 2WikiMultiHopQA, MuSiQue, Multi-Hop RAG (MHR) 등 다양한 벤치마크에서 실험을 수행했습니다.

• 라우팅 정확도 및 효율성:
  • RIRS 는 Chameleon(기술 기반) 과 RouterDC(학습 기반) 보다 모든 데이터셋에서 더 높은 정확도 (Accuracy) 를 기록했습니다. 특히 LLaMA-3.1-8B 와 같은 상대적으로 약한 백본 모델에서도 성능 향상이 두드러졌습니다.
  • "Broadcast-to-All" 방식에 비해 응답 시간 (Latency) 이 크게 단축되었고, 불필요한 에이전트 호출로 인한 노이즈가 줄어들어 정확도가 향상되었습니다.
• 복잡한 질문 해결:
  • 멀티 홉 질문에서 RIRS 는 단계별 증거 조합을 통해 GoldRouter(이상적인 오라클 라우팅) 에 근접하는 성능을 보였습니다.
  • 단일 에이전트 시스템 (모든 데이터를 하나의 RAG 에 통합) 보다 분산된 에이전트 시스템이 관련 없는 정보 (distractors) 를 줄여 더 높은 성능을 보였습니다.
• 모델 구성의 유연성:
  • 서버에는 강력한 모델 (Qwen-Plus) 을, 에이전트에는 경량 모델 (LLaMA-3.1-8B) 을 사용하는 혼합 구성 (Mixed Setting) 이 비용 효율적이면서도 높은 성능을 달성함을 보여주었습니다. 이는 서버의 평가기 (Evaluator) 가 노이즈가 있는 중간 응답을 필터링하는 데 중요함을 시사합니다.

5. 의의 및 중요성 (Significance)

• 실용적인 배포 가능성: RIRS 는 원시 데이터 공유 없이도 분산된 지식 베이스를 효과적으로 활용할 수 있게 하여, 기업 환경에서의 지식 주권 및 개인정보 보호 요구사항을 충족합니다.
• 비용 효율성: 불필요한 에이전트 호출을 줄이고, 서버와 에이전트 간 모델 크기를 유연하게 조절할 수 있어 운영 비용을 절감합니다.
• 복잡한 추론 지원: 단순한 검색을 넘어, 여러 에이전트와 여러 라운드를 거치며 점진적으로 질문을 정제하고 증거를 조합하는 메커니즘은 복잡한 다단계 추론 문제를 해결하는 데 필수적입니다.
• 미래 지향적 아키텍처: 중앙 집중식 데이터베이스의 한계를 극복하고, 분산된 전문 에이전트들이 협력하여 지능형 시스템을 구축하는 새로운 패러다임을 제시합니다.

결론적으로, 이 논문은 분산된 RAG 에이전트 환경에서 "누구에게 물어볼지" (라우팅) 와 "어떻게 답을 조합할지" (반복적 정제) 라는 두 가지 핵심 문제를 해결하여, 신뢰할 수 있고 효율적인 멀티 에이전트 질의응답 시스템을 구축하는 방법을 제시했습니다.