Toward a Theory of Hierarchical Memory for Language Agents

1. 문제 제기 (Problem)

최근 언어 에이전트 (Language Agents) 는 긴 문맥 (long-context) 과 대량의 외부 지식을 처리해야 하지만, 단순히 컨텍스트 창 (context window) 을 늘리는 것만으로는 정보 활용도가 보장되지 않습니다.

• 중간 문맥 무시 (Lost in the Middle): 모델이 긴 문서의 중간 부분에 있는 증거를 간과하는 경향이 있습니다.
• 단일 사실 검색 실패: 긴 문서에서 특정 사실을 찾는 데 어려움을 겪습니다.
• 컨텍스트 희석 (Context Dilution): 문맥이 길어질수록 성능이 저하되는 현상이 발생합니다.

기존의 계층적 기억 시스템들 (RAPTOR, GraphRAG, xMemory 등) 은 데이터를 추출하고, 그룹화하여 압축하며, 예산 (token budget) 내에서 선택적으로 확장하는 방식으로 작동합니다. 그러나 각 시스템은 고립된 설계 사례로 제시되어, 서로 다른 설계 선택을 비교하거나 공통된 원리를 도출하기 어렵다는 이론적 공백이 존재했습니다.

2. 방법론 (Methodology)

저자들은 모든 계층적 기억 시스템을 **세 가지 연산자 (Operators)**로 구성된 단일 파이프라인으로 통일하여 수학적으로 형식화했습니다.

A. 핵심 연산자 (The Three Operators)

1. 추출 (Extraction, $\alpha$):
   • 원시 데이터 ($D$) 를 구조화된 '원자 단위 정보 (atomic information units)'의 그래프 ($G_0$) 로 매핑합니다.
   • 청킹 (chunking), 개체명 인식 (NER), 경로 할당 등 모든 전처리가 이 단계에서 이루어집니다.
2. 세밀화/압축 (Coarsening, $C = (\pi, \rho)$):
   • 그룹화 ($\pi$): 단위들을 그룹으로 분할합니다.
   • 대표자 생성 ($\rho$): 각 그룹에 대한 대표 정보 (예: 요약, 레이블) 를 생성합니다.
   • 이 과정을 반복하여 $G_0$에서 $G_1, G_2, \dots, G_L$로 이어지는 계층 구조 (Hierarchy) 를 형성합니다.
3. 탐색 (Traversal, $\tau$):
   • 주어진 쿼리 ($q$) 와 토큰 예산 ($B$) 을 기반으로 계층 구조를 탐색하여 컨텍스트에 포함할 원자 단위들의 부분집합 ($S$) 을 선택합니다.

B. 핵심 이론적 발견: 자기충족성 스펙트럼과 C-T 결합

가장 중요한 이론적 기여는 **대표자 함수 ($\rho$) 의 '자기충족성 (Self-Sufficiency)'**을 정의하고, 이것이 탐색 전략과 어떻게 결합되는지를 규명한 것입니다.

• 자기충족성 (Self-Sufficiency, SS):
  • 정의: $SS(\rho, G_j) = \frac{I(G_j; \rho(G_j))}{H(G_j)}$ (그룹의 정보가 대표자에 얼마나 보존되었는지).
  • 높은 SS: 대표자가 그룹의 대부분 정보를 포함 (예: LLM 생성 요약). 쿼리에 직접 답변 가능.
  • 낮은 SS: 대표자가 단순한 라벨이나 라우팅 지표 역할만 함 (예: 도메인 이름). 세부 정보는 하위 노드에서 찾아야 함.
• C-T 결합 (Coarsening-Traversal Coupling):
  • 대표자의 자기충족성 수준이 유효한 탐색 전략을 결정합니다.
  • 높은 SS (Self-sufficient): **압축된 검색 (Collapsed Search)**이 유효합니다. 모든 레벨의 노드를 한 번에 검색하여 대표자만으로 답변을 도출할 수 있습니다 (예: RAPTOR).
  • 낮은 SS (Referential): **상향식 정제 (Top-down Refinement)**가 필수적입니다. 상위 노드가 라우팅만 하므로, 하위 노드로 내려가며 세부 정보를 찾아야 합니다 (예: H-MEM, xMemory).
  • 결합 불일치: 잘못된 조합 (예: 낮은 SS 대표자에 압축된 검색 적용) 은 토큰 예산을 낭비하고 성능을 저하시킵니다.

3. 주요 기여 (Key Contributions)

1. 통일된 이론적 프레임워크: 문서 계층 구조, 대화 기억, 에이전트 실행 트레이스 (execution traces) 등 다양한 시스템 (11 개 사례) 을 $(\alpha, C, \tau)$ 파이프라인으로 통일하여 설명했습니다.
2. 정보 이론적 기반: 계층화 과정이 정보 손실 (Information Loss) 을 수반함을 증명하고, 데이터 처리 부등식 (Data Processing Inequality) 을 적용하여 계층별 정보 엔트로피가 감소함을 수학적으로 보였습니다.
3. C-T 결합 규칙: 대표자의 품질 (자기충족성) 이 탐색 전략을 결정해야 함을 명시했습니다. 이는 시스템 설계 시 $\rho$와 $\tau$를 분리해서 생각하지 않고 함께 최적화해야 함을 시사합니다.
4. 실용적 지표 제안:
   • $SS_\theta$: LLM 을 이용해 대표자의 신뢰성을 측정하는 계산 가능한 지표.
   • Fano Bound: 대표자의 정보량과 탐색 오류율, 그리고 계층의 분기 인자 (branching factor) 간의 관계를 정량화했습니다.

4. 결과 및 검증 (Results & Instantiation)

저자들은 제안된 프레임워크를 11 가지 기존 시스템에 적용하여 그 일반성을 입증했습니다.

• 데이터 기반 시스템:
  • RAPTOR: 높은 자기충족성 (LLM 요약) 을 가지므로 압축된 검색/상향식 정제 모두 가능.
  • GraphRAG: 커뮤니티 리포트 (높은 SS) 를 생성하여 글로벌 검색 지원.
  • xMemory, H-MEM: 중간/낮은 SS (사실 증류 또는 도메인 라벨) 를 가지므로 상향식 정제 (Top-down) 전략 사용.
• 에이전트 실행 트레이스 시스템:
  • MemoBrain, StackPlanner: 실행 로그를 그룹화하고 압축 (Fold/Condensation) 하여 작업 컨텍스트를 재구성합니다.
  • AgeMem, InfiAgent: 저장/검색/필터링을 도구로 노출하거나 상태 기반 재구성을 수행합니다.
• 결론: 데이터 기억과 에이전트 트레이스 기억은 서로 다른 동기에서 출발했으나, 동일한 $(\alpha, C, \tau)$ 구조로 귀결됨을 보였습니다.

5. 의의 및 향후 과제 (Significance & Future Work)

• 설계 언어의 제공: 서로 다른 기억 시스템 간의 비교와 설계를 위한 공통된 언어를 제공했습니다.
• 동적 계층의 필요성: 현재 프레임워크는 정적 계층을 가정하지만, 실제 에이전트는 메모리에 삽입, 재구조화, 강화/소멸이 동적으로 일어납니다. 이러한 **동적 계층 (Dynamic Hierarchy)**을 다루기 위한 적응형 정보 이론이나 온라인 학습 기반의 확장이 필요하다고 지적했습니다.
• 다중 계층 정렬: 데이터 계층 ($H_{data}$), 트레이스 계층 ($H_{trace}$), 작업 계층 ($H_{task}$) 간의 정렬 문제를 해결하는 것이 향후 핵심 과제로 제시되었습니다.

요약

이 논문은 언어 에이전트의 계층적 기억 시스템을 단순한 공학적 구현을 넘어 추출, 압축, 탐색이라는 세 가지 연산자와 자기충족성이라는 정보 이론적 개념으로 체계화했습니다. 이를 통해 "어떤 기억 표현 방식이 어떤 검색 전략과 짝을 이루어야 하는지"에 대한 이론적 근거를 제시하였으며, 다양한 에이전트 시스템의 설계와 최적화에 중요한 지침을 제공합니다.