🤖 AI

HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation

HyMem은 고수준 계획을 실행 흔적으로부터 격리하고 구조화된 요약을 사용하여 집중도와 정확도를 유지함으로써 장기적 관점의 LLM 에이전트 성능을 향상시키는 계층적 컨텍스트 관리 프레임워크로, GAIA 및 Browsecomp-plus 벤치마크에서 최첨단(SOTA) 결과를 달성했습니다.

원저자: XinQi Wang, Jinwei Xiao, Sijia Cui, Hongming Zhang, Yanna Wang, Qingyang Zhang, Bo Xu

게시일 2026-08-18

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: XinQi Wang, Jinwei Xiao, Sijia Cui, Hongming Zhang, Yanna Wang, Qingyang Zhang, Bo Xu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

놀라운 능력을 갖춘, 인터넷을 검색하고 추론하며 복잡한 문제를 해결할 수 있는 유능한 비서가 있다고 상상해 보십시오. 수년 동안 과학자들은 이 디지털 조력자들이 과학적 탐사 계획을 세우거나 특정 역사적 사실을 찾기 위해 웹사이트를 탐색하는 것과 같은 복잡하고 다단계적인 과제를 수행할 수 있기를 기대하며 대규모 언어 모델을 사용하여 이들을 구축해 왔습니다. 그러나 하나의 지속적인 문제가 이들의 발목을 잡았습니다. 바로 이 조력자들이 작업을 오래 수행하고 더 많은 정보를 수집할수록, 그들의 '기억'이 엉망진창이 된다는 점입니다. 조력자는 자신이 수행한 모든 검색 결과의 원문, 모든 실패한 시도, 그리고 모든 중간 단계의 생각들과 같은 자신의 행동에 대한 세부 정보 속에 잠겨, 원래 도달하고자 했던 목표를 잊어버리기 시작합니다. 이는 마치 단 한 권의 책을 찾으려던 사서가 자신이 넘겼던 모든 페이지의 산더미에 파묻혀, 정작 찾고 있던 제목을 놓쳐버리는 것과 같습니다.

중국과학원 자동화연구소의 연구진은 이 문제를 해결하기 위해 디지털 메모리를 조직하는 새로운 방법을 제안했습니다. 그들은 이 시스템을 HyMem이라고 부르며, 서로 다른 유형의 정보를 엄격하게 분리함으로써 장기적인 과제를 궤도에서 벗어나지 않게 유지하도록 설계된 방법입니다. 모든 데이터를 하나의 긴 목록으로 섞어 놓는 대신, HyMem은 고차원적인 계획은 깨끗하고 조용한 방에서 이루어지고, 검색과 테스트라는 시끄럽고 무질서한 작업은 별도의 격리된 공간에서 이루어지는 구조를 구축합니다. 이러한 접근 방식은 조력자가 자신의 일상적인 작업이라는 소음 때문에 주의가 분산되지 않고 거시적인 관점에 집중할 수 있게 해줍니다.

이 연구의 핵심 아이디어는 모든 정보가 동일한 가치를 지니지는 않는다는 것입니다. 에이전트가 긴 과제를 수행할 때, 두 가지 매우 다른 종류의 데이터를 생성합니다. 한 유형은 전략적 계획, 즉 목표, 검증된 사실, 그리고 일을 끝내기 위해 필요한 단계들입니다. 다른 유형은 실행 흔적(execution trace)으로, 도구를 사용하거나 웹사이트를 탐색하거나 세부 사항을 확인하는 과정에서 발생하는 원시적이고 종종 반복적이며 때로는 실패한 시도들입니다. 기존 시스템에서는 이 두 유형의 정보가 하나의 스트림에 뒤섞여 있었습니다. 과제가 진행됨에 따라, 무질서한 실행 흔적의 엄청난 양이 희소하고 결정적인 계획 신호를 압도하게 됩니다. 조서은 자신의 역사의 소음 속에서 중요한 목표와 이를 구분하지 못하고 길을 잃게 됩니다.

이를 해결하기 위해 연구진은 정보의 엄격한 문지기 역할을 하는 프레임워크를 설계했습니다. 그들은 주요 전략을 보유하는 '플래너(Planner)' 계층과 실제 도구 사용 작업을 처리하는 별도의 '익스큐터(Executor, 실행자)' 계층을 만들었습니다. 플래너가 사실을 확인하거나 검색을 실행해야 할 때, 플래너는 익스큐터에게 구체적인 지침을 보냅니다. 익스큐터는 가서 작업을 수행하며 모든 원시 데이터를 수집하지만, 그 원시 데이터를 플래너의 메인 메모리로 다시 쏟아붓지는 않습니다. 대신, 익스큐터는 정보를 처리하고 노이즈를 걸러내어, 찾아낸 내용에 대한 깨끗하고 구조화된 요약본만을 반환합니다. 이 요약본은 플래너의 메모리에 추가되는 반면, 무질서한 세부 사항들은 폐기됩니다.

또한 이 시스템은 특히 까다로운 하위 문제들을 위한 특별한 '격리된 추론(Isolated Reasoning)' 모듈을 포함하고 있습니다. 만약 어떤 과제가 깊은 사고나 상충하는 증거를 확인하는 것을 필요로 한다면, 플래너는 해당 특정 문제를 이 격리된 모듈로 보냅니다. 이 모듈은 독자적으로 문제를 풀어나가며, 자신의 내부적인 생각과 중간 단계들을 메인 플래너로부터 숨긴 채 작업합니다. 모듈이 결론에 도달하면, 그 결론과 핵심 증거만을 보낼 뿐, 그곳에 도달하기까지 거친 길고 긴 경로를 메인 플래너의 메모리에 남기지 않습니다. 이를 통해 주요 의사 결정권자가 위임된 하위 작업의 복잡성에 휩쓸리지 않도록 보장합니다.

시스템이 장기간 원활하게 작동하도록 하기 위해, HyMem은 서류 보관함처럼 구조화된 메모리 시스템을 사용합니다. 이 시스템은 과거의 사건, 현재의 목표, 그리고 도구 사용법에 대해 배운 교훈들을 깔끔하고 압축된 요약본으로 정리합니다. 시스템이 자신이 수행한 일을 기억해야 할 때, 모든 세부 사항을 하나하나 떠올리는 대신 이 정리된 파일들을 참조합니다. 이를 통해 조력자는 많은 시간의 작업 후에도 기억이 관리 가능한 수준으로 커지지 않으면서, 진행 상황과 연속성을 명확하게 유지할 수 있습니다.

연구진은 이 새로운 접근 방식을 두 가지 도전적인 과제 세트에 대해 테스트했습니다. 하나는 일반적인 추론 및 도구 사용을 포함하는 것이었고, 다른 하나는 인터넷 전반에서 특정 사실을 찾아내는 깊이 있는 연구 질문에 초점을 맞춘 것이었습니다. 그들은 이 시스템을 대화 기록 전체를 짧은 요약본으로 압축하려고 시도했던 기존의 여러 방법들과 비교했습니다. 결과는 계획과 실행을 분리함으로써 HyMem 시스템이 훨씬 더 성공적이었다는 것을 보여주었습니다. 일반 추론 과제에서 약 66.7%의 문제를 정확히 해결했으며, 심층 연구 과제에서는 61.3%를 해결했습니다. 이 수치들은 과제가 길어지고 복잡해짐에 따라 집중력을 유지하는 데 어려움을 겪었던 기존의 최고 성능 대안 방법들보다 눈에 띄게 높았습니다.

연구진은 또한 시스템이 답에 도달하기 위해 얼마나 많은 정보를 처리해야 했는지도 조사했습니다. 연구진은 HyMem 시스템이 단순히 더 많은 컴퓨팅 파워를 사용하거나 더 많은 텍ек스트를 읽어서 문제를 해결한 것이 아님을 발견했습니다. 대신, 이 시스템은 중요한 정보에만 주의를 기울임으로써 더 효율적으로 문제를 해결했습니다. 메인 계획 메모리는 목표에 집중하며 매우 느리게 성장한 반면, 격리된 공간들이 무거운 작업들을 처리했습니다. 이는 길고 어려운 문제를 해결하는 열쇠가 단순히 더 큰 메모리를 갖는 것이 아니라, 그것을 조직하는 더 똑똑한 방법을 갖는 것임을 시사합니다.

결과는 유망하지만, 연구진은 이 시스템이 엄격한 지침을 따르고 잘 조직된 요약본을 생성할 수 있는 기초적인 인공지능 능력에 의존한다는 점을 언급했습니다. 만약 모델이 이러한 규칙을 따를 수 없다면, 시스템의 이점은 나타나지 않을 수 있습니다. 그러나 지속적인 주의력과 복잡한 정보를 오랜 시간 동안 탐색하는 능력을 요구하는 과제의 경우, 이 계층적 접근 방식은 명확한 길을 제시합니다. 신호와 소음을 분리함으로써, HyMem은 작업이 매우 복잡하더라도 디지털 에이전트가 명확하게 생각할 수 있도록 해줍니다.

기술 요약: HyMem – 장기 실행 에이전트를 위한 계층적 컨텍스트 관리

1. 문제 정의

대규모 언어 모델(LLM) 에이전트는 **컨텍스트 희석(context dilution)**으로 인해 복잡하고 긴 호흡의 과업을 수행하는 데 어려움을 겪습니다. 상호작용이 축적됨에 따라 컨텍스트 창은 밀도 높고 노이즈가 많은 실행 흔적(예: 원시 도구 출력, 브라우징 로그, 중간 숙고 과정)과 일시적인 세부 사항들로 가득 차게 됩니다. 이러한 "정보의 범람"은 희소하지만 결정적인 고수준 계획 신호(목표, 제약 조건, 검증된 사실)를 가려버려, 에이전트가 전략적 목표를 놓치게 만듭니다.

컨텍스트 압축이나 외부 메모리 검색과 같은 기존 솔루션은 일반적으로 단일한 평면적 시퀀스 상에서 작동합니다. 이러한 방식은 전략적 계획과 실행 노이즈를 근본적으로 분리하지 못하며, 이로 인해 추론 체인의 손실이나 고수준 목표와 저수준 도구 사용 간의 구분을 하지 못하는 문제가 자주 발생합니다. 핵심 문제는 단순히 컨텍스트의 길이가 아니라, 이질적인 정보 스트림이 단일 시퀀스 내에 혼재되어 발생하는 **정보 밀도의 불일치(information-density mismatch)**입니다.

2. 방법론: HyMem 프레임워크

이를 해결하기 위해 저자들은 **계층적 컨텍스트 격리(hierarchical context isolation)**를 강제하는 학습 불필요(training-free), 추론 시점(inference-time) 프레임워크인 HyMem을 제안합니다. HyMem은 컨텍스트를 수동적인 로그로 취급하는 대신, 에이전트의 인지 과정을 별도의 기능적 계층과 컨텍스트 공간으로 분리함으로써 정보 흐름을 능동적으로 관리합니다.

핵심 아키텍처

HyMem은 에이전트의 동작을 네 가지 별도의 구성 요소로 분리하여, 원시 실행 흔적과 중간 추론 과정이 메인 계획 컨텍스트를 직접적으로 오염시키지 않도록 보장합니다.

플래너 계층 (Planner Layer): 지속적인 고수준 결정 컨텍스트를 유지합니다. 여기에는 다른 모듈로부터 정제된 스키마 제약 기반의 반환값과 구조화된 메모리 요약만이 포함됩니다. 이 계층은 과업 분해, 전략적 계획 및 결과 합성을 담당합니다.
실행 계층 (Executor Layer): 도구 상호작용과 저수준 실행을 처리합니다. 지시를 받으면 도구 호출을 수행하기 위해 새롭고 격리된 컨텍스트를 생성합니다. 관찰된 데이터는 (내비게이션 텍스트, 오류, 무관한 조각들을 제거하여) 정제된 후, 구조화된 RESULTS 메시지로 합성되어 플래너에게 전달됩니다. 원시 컨텍스트는 폐기됩니다.
격리된 추론 모듈 (Isolated Reasoning Module): 다단계 분석, 가설 검증 또는 증거 조정이 필요한 복잡한 하위 과업을 위해 설계되었습니다. 트리거될 경우, 자체 컨텍스트를 가진 별도의 추론 세션을 생성합니다. 중간 숙고 흔적은 이 세션 내에만 비공개로 유지됩니다. 결론, 뒷받침하는 사실, 신뢰 점수를 포함하는 구조화된 RETURN 메시지만이 플래너로 전달됩니다.
메모리 관리 모듈 (Memory Management Module): 컨텍스트 갱신 시 연속성을 보존하기 위해 세 가지 재작성 가능한 메모리 구조로 역사적 궤적을 압축합니다.
- 에피소드 메모리 (Episode Memory): 완료된 마일스톤, 검증된 사실, 주요 결정을 기록합니다.
- 워킹 메모리 (Working Memory): 현재 목표, 미결 과제, 즉각적인 다음 단계를 추적합니다.
- 도구 메모리 (Tool Memory): 효과적인 도구 사용 패턴, 실패한 쿼리, 도메인 특화된 주의 사항을 저장합니다.

운영 메커니즘

프레임워크는 **타입화된 컨텍스트 격리(typed context isolation)**를 통해 작동합니다. 플래너는 스키마 제약이 있는 메시지(예: <TASK>, <ISOREASON>, <RESULTS>, <RETURN>)를 통해서만 실행자 및 격리된 추론 모듈과 상호작용합니다.

컨텍스트 경계: 원시 관찰값과 중간 추론 토큰은 각각의 임시 컨텍스트(실행자 또는 격리된 추론 모듈) 내에 엄격히 격리됩니다. 구조화된 반환값이 생성되면 이들은 삭제됩니다.
메모리 폴딩 (Memory Folding): 특정 조건(예: 높은 토큰 활용도, 연속된 실패, 턴 제한 등)이 충족되면 FOLD 연산자가 트리거됩니다. 이는 메모리를 재작성하여, 플래너 컨텍스트가 모든 상호작용의 선형적 역사를 축적하는 대신 과업 관련 정보에 집중하며 느리게 성장하도록 보장합니다.

3. 주요 기여

본 논문은 장기 실행 추론 문제를 정보 밀도의 불일치로 공식화하고 다음과 같은 기여를 합니다.

컨텍스트 희석의 공식화: 저자들은 에이전트 성능의 저하를 실행 흔적( $|X_t|$ )의 급격한 축적으로 인한 계획 관련 정보의 상대적 밀도( $\rho_t$ ) 감소로 정의합니다.
HyMem 프레임워크: 계층적 컨텍스트 격리를 구현하는 학습 불필요, 플러그 앤 플레이(plug-and-play) 아키텍처를 도입합니다. 이는 플래너, 실행자, 격리된 추론, 메모리 관리를 별도의 공간으로 명시적으로 분리하여, 실행 노이즈가 의사결정 공간으로 전파되는 것을 방지합니다.
실증적 검증: GAIA 및 Browsecomp-plus 벤치마크에 대한 포괄적인 평가를 통해, HyMem이 유사한 자원 소비를 유지하면서도 강력한 베이스라인(ReAct, ReSum, A-MEM, THREAD)을 유의미하게 능가함을 입증했습니다.

4. 실험 결과

프레임워크는 DeepSeek-V4와 Qwen3-32B 백본을 사용하여 두 가지 데이터셋에서 평가되었습니다.

GAIA (General AI Assistants): DeepSeek-V4를 탑재한 HyMem은 평균 **Pass@1 66.7%**를 달성하여, ReAct 베이스라인(56.6%)보다 10.1 퍼센트 포인트, ReSum 베이스라인(60.6%)보다 6.1 퍼센트 포인트 높은 성능을 보였습니다. 이러한 향상은 모든 난이도 수준에서 일관되게 나타났으며, 특히 레벨 3(Hard) 문제에서 가장 큰 폭의 상승을 보였습니다.
Browsecomp-plus (Deep Research): DeepSeek-V4를 탑재한 HyMem은 평균 **Pass@1 61.3%**를 달성하여, ReAct(56.6%)를 4.7 퍼센트 포인트 앞질렀습니다. 특히 어려운 과업의 경우, Pass@1이 14.0%에서 30.0%로 증가했습니다.
절제 연구 (Ablation Studies): 격리된 추론 모듈을 제거했을 때 성능이 크게 하락(Browsecomp-plus에서 5.0 pp, GAIA에서 18.6 pp)하여, 복잡한 하위 과업 분석을 격리하는 것이 필수적임을 확인했습니다. 마찬가지로 메모리 관리를 제거하면 성능이 저하되어, 구조화된 연속성의 필요성을 강조했습니다.
효율성: 컨텍스트 성장 분석(그림 4)에 따르면, 전체 컨텍스트(임시 모듈 포함)는 증가하지만, 플래너의 지속적 컨텍스트는 ReAct와 같은 평면적 아키텍처보다 훨씬 느리게 성장합니다. 이를 통해 광범위한 탐색을 수행하면서도 전략적 집중력을 유지할 수 있습니다.

5. 의의 및 주장

본 논문은 효과적인 장기 실행 추론을 위해서는 단순한 컨텍스트 압축이 아닌, 선택적 정보 격리와 연속성 보존이 결합되어야 한다고 주장합니다.

아키텍처의 전환: HyMem은 단일한 혼합 궤적을 관리하는 패러다임에서 여러 개의 격리된 정보 스트림을 관리하는 패러다임으로 전환합니다. 이는 전략적 신호를 잠식하는 "정보의 범람"을 근본적으로 차단합니다.
학습 불필요의 이점: 학습이 필요 없는 솔루션으로서, HyMem은 미세 조정(fine-tuning)이나 복잡한 메모리 연산을 학습할 필요 없이 기존 LLM에 즉시 적용 가능합니다.
확장성: 프레임워크는 의사결정 컨텍스트를 깨끗하게 유지함으로써, 상호작용 횟수가 증가하더라도 전략적 명확성을 지속할 수 있음을 보여주며, 복잡하고 긴 호흡의 과업에서도 에이전트가 집중력과 정확도를 유지할 수 있음을 입증합니다.

저자들은 HyMem의 효과가 타입화된 제어 명령을 따르고 신뢰할 수 있는 구조화된 반환을 생성하는 백본 모델의 능력에 달려 있다고 언급합니다. DeepSeek-V4와 같은 강력한 모델에서는 견고한 이점을 보여주었으나, 특정 벤치마크(Browsecomp-plus)에서 Qwen3-32B와 같은 작은 모델의 성능은 더 미묘한 양상을 보였으며, 이는 컨텍스트 격리의 이점이 엄격한 지시 이행 능력을 갖춘 모델과 결합될 때 극대화됨을 시사합니다.