기술 요약: HMARS

문제 정의

긴 문맥 추론(Long-context reasoning)은 모델이 방대한 문서, 대화, 상호작는 이력 전반에 흩어져 있는 증거를 접근, 검색 및 통합할 것을 요구합니다. 표준적인 검색 증강 생성(RAG) 방식은 일반적으로 이 과제를 임베딩 유사도에 기반한 수동적인 top-$K$ 청크(chunk) 검색 과정으로 축소하여 처리합니다. 저자들은 이러한 수동적인 인터페이스가 복잡한 추론 작업에 있어 근본적으로 결함이 있다고 주장하는데, 이는 관련성이 국소적이며 정적으로 측정 가능하다는 가정을 전제로 하기 때문입니다. 결과적으로 RAG는 특히 다음과 같은 상황에서 추론이 시작되기도 전에 관련 증거를 폐기해 버리는 경우가 많습니다:

1. 증거의 폭(Evidence Breadth): 필요한 정보가 문서의 먼 영역들에 흩어져 있어, 인접하지 않은 많은 청크들을 통합해야 하는 경우.
2. 문맥 의존적 관련성(Context-Dependent Relevance): 특정 구절이 광범위한 문맥이나 다른 곳에 명시된 정보에 비추어 해석될 때만 관련성을 갖게 되는 경우(예: 예산 제약에 대한 초기 언급이 이후 주거 관련 질문에 필수적이게 되는 경우). 이는 쿼리와의 어휘적 중첩도가 낮더라도 발생할 수 있습니다.

더 큰 문맥 창(context window), 계층적 요약, 또는 다중 에이전트 순차 읽기와 같은 기존 솔루션들은 종-종 수동적이거나 중앙 집중적인 상태로 남아 있으며, 조기 배제 없이 쿼리에 조건화된 평가를 위해 로컬 영역이 능동적으로 참여하는 진정한 메모리 시스템을 제공하지 못합니다.

방법론: HMARS

저자들은 HMARS(Hierarchical Multi-Agent Memory System, 계층적 다중 에이전트 메모리 시스템)를 제안하며, 이는 긴 문맥을 평면적인 검색 코퍼스가 아닌 관리되는 메모리로 취급합니다. 이 시스템은 비대칭적 모델 계층 구조($L_{sub} \ll L_{mid} \ll L_{base}$)를 채택하며 두 단계로 작동합니다:

1. 인덱싱 단계 (Indexing Phase)

• 분할(Partitioning): 입력 문서 또는 상호작용 이력을 경계가 있는 로컬 영역으로 분할합니다.
• 서브 에이전트(Sub-Agents): 각 영역은 경량화된 서브 에이전트($L_{sub}$)에 의해 관리됩니다. 영역은 다시 고정된 크기의 페이지들로 나뉩니다. 각 서브 에이전트는 요약, 주제, 엔티티 및 페이지 인덱스를 포함하는 **로컬 메모리 카드(Local Memory Card)**를 생성합니다. 이 카드는 최종 증거로서 기능하기보다는, 서브 에이전트가 알고 있는 바를 다음 레벨로 노출하는 역할을 합니다.
• 미드 에이전트(Mid-Agents): 서브 에이전트들은 미드 에이전트($L_{mid}$) 아래에 그룹화됩니다. 미드 에이전트는 할당된 서브 에이전트들의 메모리 카드를 집계하여 **공유 지역 메모리(Shared Regional Memory)**를 구축합니다. 여기에는 영역 수준의 요약, 주제/엔티티에 대한 서브 에이전트 매핑, 그리고 고립된 서브 에이전트 간의 의존성(예: 공유 엔티티, 시간적 업데이트)을 추적하기 위한 교차 참조 메커니즘이 포함됩니다.

2. 쿼리 단계 (Query Phase)

• 브로드캐스트 및 해석(Broadcast & Interpretation): 쿼리를 받으면, 각 미드 에이전트는 자신의 공유 지역 메모리를 바탕으로 쿼리를 해석합니다. 하드한 라우팅 결정을 내리는 대신, 미드 에이전트는 영역 수준의 쿼리 해석($\gamma$)과 각 서브 에이전트를 위한 구체적인 힌트($h$)를 생성합니다.
• 병렬 로컬 평가(Parallel Local Assessment): 결정적으로, 모든 서브 에이전트는 미드 에이전트의 힌트에 따라 자신의 로컬 페이지들에 대해 쿼리 조건부 평가를 병렬로 수행합니다. 이를 통해 조기 top-$K$ 필터링에 의해 문서 영역이 폐기되는 것을 방지합니다.
• 근거 기반 증거 검색(Grounded Evidence Retrieval): 선택된 페이지들은 중복 제거되고, 글로벌 토큰 오프셋에 따라 정렬되며, 근거가 있는 증거 문맥으로 재구성됩니다.
• 최종 추론(Final Reasoning): 프런티어 베이스 모델($L_{base}$)은 검색된 근거 증거 페이지들을 엄격히 기반으로 하여 최종 추론 및 답변 합성을 수행합니다.

주요 기여

1. 진단 벤치마크(Diagnostic Benchmarks): 저자들은 단순한 순차적 홉(hop)을 넘어 증거의 폭과 문맥 의존적 관련성을 스트레스 테스트하도록 설계된 두 가지 벤치마크를 구축했습니다:
   • Long-Document 벤치마크: LongBench-v2에서 파생되었으며, 낮은 RAG 재현율을 보이면서도 최소 4개의 먼 청크로부터 증거를 필요로 하는 질문들을 필터링하여 구성되었습니다.
   • 누적 상호작용 메모리 벤치마크(Cumulative Interaction Memory Benchmark): RealMem에서 영감을 얻었으며, 핵심 사실들이 흩어져 있고 이후의 문맥 하에서만 관련성을 갖게 되는 다회차 대화를 특징으로 합니다.
2. 문제 프레이밍(Problem Framing): 본 논문은 긴 문맥 실패를 패시브한 청크 기반 메모리 접근의 한계로 프레이밍하며, 특히 광범위한 증거 커버리지와 문맥 의존적 관련성을 처리하지 못하는 표준 RAG의 무능력을 강조합니다.
3. HMARS 아키텍처: 로컬 메모리 관리, 지역적 조정, 그리고 최종 추론을 분리하여, 로컬 에이전트가 전체 문맥을 고려하도록 보장하면서도 강력한 프런티어 모델을 최종 합성을 위해서만 예약하는 계층적 시스템을 도입했습니다.

실험 결과

HMARS는 데스 RAG(다양한 예산 및 청크 크기 적용), 데스 리랭킹(dense reranking), 풀 컨텍스트 프롬프팅(full-context prompting), 그리고 에이전틱 베이스라인(Chain-of-Agents, MemAgent)을 대상으로 평가되었습니다.

• 성능: HMARS는 두 벤치마크 모두에서 최고의 종합 성능을 달아냈습니다. 다회차 메모리 작업에서 모든 베이스라인을 능가했으며, 대부분의 긴 문서 추론 카테고리(합성, 비교, 인과, 교차 참조)에서 가장 높은 정확도를 달성했습니다.
• 증거 커버리지: 분석 결과, RAG 변형 모델들은 높은 예산을 사용하더라도 약 57%의 주석 처리된 지원 청크만을 커버한 반면, HMARS는 99.4%를 커버했습니다. 이는 HMARS의 이점이 단순히 최종 답변 프롬프트를 바꾸는 것이 아니라, 필요한 증거를 더 완전하게 검색하는 데서 온다는 것을 확인시켜 줍니다.
• 효율성: 여러 번의 모델 호출에도 불구하고, HMAR스(HMARS)는 우수한 정확도-연산량 트레이드오프를 제공합니다. 전체 문맥을 읽는 데 막대한 FLOPs를 사용하는 Full-Context 프롬프팅이나 고예산 RAG보다 높은 정확도를 달성하면서도, 연산을 비싼 프런티어 모델이 전체 문맥을 읽는 것에서 경량 모델이 메모리 접근을 관리하는 것으로 전환함으로써 효율성을 높였습니다.
• 어블레이션 연구(Ablation Studies):
  • 전체 팬아웃(Full Fanout): 참여를 미드 에이전트가 선택한 서브 에이전트로 제한했을 때 정확도가 크게 감소하여, 모든 로컬 영역이 관련성을 평가해야 할 필요성을 입증했습니다.
  • 미드 에이전트 조정(Mid-Agent Coordination): 미드 에이전트 레이어를 제거하면 특히 다회차 작업에서 성능이 저하되어, 공유 지역 문맥의 필요성을 증명했습니다.
  • 모델 할당(Model Allocation): 서브 에이전트에 더 큰 모델을 사용하는 것은 유의미한 이득을 주지 못했으며, 이는 로컬 페이지를 관리하는 데 경량 모델을 사용하는 비대칭 설계가 적절함을 뒷받침합니다.

의의 및 주장

본 논문은 긴 문맥 추론이 단순히 더 많은 청크를 검색하거나 문맥 창을 확장하는 것으로 프레임화되어서는 안 된다고 주장합니다. 대신, 입력을 능동적으로 관리하고, 접근하며, 증거를 근거화하는 메모리 시스템을 구축해야 한다고 강조합니다.

저자들은 HMARS를 통해 다음을 입증했다고 주장합니다:

1. 수동적인 top-$K$ 검색은 증거가 흩어져 있거나 문맥 의존적일 때 실패한다.
2. 입력을 관리되는 로컬 메모리로 조직하여 모든 영역이 쿼리 조건부 평가에 참여하게 하는 것이 중앙 집중식 또는 순차적 처리보다 효과적이다.
3. 비대칭적 모델 할당을 통해 프런티어 모델에 전체 문맥을 입력하는 과도한 비용을 들이지 않고도 전체 문맥에 대한 고려를 가능하게 한다.

결론적으로, H-MARS는 증거 접근성을 개선하지만, 로컬 에이전트가 여전히 페이지를 놓칠 수 있으므로 완벽한 재현(recall)을 보장하지는 못한다고 밝힙니다. 또한, 저자들은 자신들의 진단 벤치마크가 특히 증거의 폭과 문맥 의존성을 겨냥하고 있으며, 시스템의 이점은 누적 상호작용 메모리 작업에서 가장 두드러진다고 언급했습니다.