Mnemis: 장기 LLM 메모리를 위한 계층적 그래프 기반 이중 경로 검색 기술 요약

이 논문은 대규모 언어 모델 (LLM) 의 장기 기억 (Long-Term Memory) 관리 및 검색 문제를 해결하기 위해 제안된 Mnemis라는 새로운 프레임워크를 소개합니다. Mnemis 는 인간의 인지 과정에 영감을 받아, 단순한 유사성 기반 검색 (System-1) 과 의식적인 전역적 추론 (System-2) 을 결합한 이중 경로 검색 (Dual-Route Retrieval) 메커니즘을 통해 기존 방법론의 한계를 극복합니다.

1. 문제 정의 (Problem)

기존 LLM 메모리 시스템은 주로 검색 증강 생성 (RAG) 및 **그래프 기반 RAG (Graph-RAG)**에 의존합니다.

• 기존 접근법의 한계: 대부분의 방법은 텍스트 유사도 (BM25, 임베딩 코사인 유사도) 에 기반한 'System-1' 방식의 검색만 사용합니다. 이는 빠르고 효율적이지만, 전역적 추론 (Global Reasoning) 이 필요하거나 모든 관련 정보를 포괄적으로 찾아야 하는 복잡한 시나리오에서는 실패합니다.
• 구체적 문제: 예를 들어, "2023 년 Dave 가 방문한 도시는 어디인가?"와 같은 질문에서, '디트로이트'에 대한 언급이 긴 대화 기록 속에 숨어 있거나 질문과 직접적인 단어 매칭이 약할 경우, 기존 시스템은 이를 놓치기 쉽습니다. 하위 쿼리 (Sub-query) 를 반복 생성하는 방식도 전역적 관점이 부족하여 한계가 있습니다.

2. 방법론 (Methodology)

Mnemis 는 메모리를 **Base Graph(기본 그래프)**와 **Hierarchical Graph(계층적 그래프)**로 구성하고, 이에 대응하는 두 가지 검색 경로를 운영합니다.

A. 메모리 구조

1. Base Graph (System-1 검색용):

   • 기존 Graph-RAG 와 유사하게 과거 대화 (Episodes) 에서 엔티티 (Entities), 엣지 (Edges), **에피소드 (Episodes)**를 추출하여 저장합니다.
   • System-1 유사성 검색: 쿼리와 메모리 항목 간의 임베딩 유사도 및 텍스트 매칭 (BM25) 을 통해 빠르게 관련 정보를 검색합니다.

2. Hierarchical Graph (System-2 검색용):

   • 엔티티들을 상위 수준의 **카테고리 (Categories)**로 추상화하여 계층 구조를 형성합니다.
   • System-2 전역 선택 (Global Selection): 사용자가 질문을 입력하면, LLM 이 계층 그래프의 최상위에서부터 하위로 내려가는 Top-Down 방식으로 의식적으로 경로를 탐색합니다. 이는 인간의 의미론적 계층 구조 (Semantic Hierarchy) 를 모방한 것입니다.
   • 설계 원칙:
     • 최소 개념 추상화 (Minimum Concept Abstraction): 하위 노드의 공유 특성을 충실히 반영하되, 지나치게 추상화하지 않도록 합니다.
     • 다대다 매핑 (Many-to-Many Mapping): 하나의 엔티티가 여러 카테고리에 속할 수 있게 하여 다양한 관점에서의 검색을 가능하게 합니다.
     • 압축 효율성 제약 (Compression Efficiency Constraint): 계층의 효율성을 위해 각 카테고리당 최소 노드 수와 상위 레이어의 노드 수 감소를 강제합니다.

B. 검색 및 재순위화 (Retrieval & Re-ranking)

• 이중 경로 실행:
  1. System-1: 유사성 기반 검색을 수행하여 관련 Episodes, Entities, Edges 를 찾습니다.
  2. System-2: 계층 그래프를 따라 관련 카테고리를 선택하고, 해당 하위 엔티티와 연결된 모든 메모리 항목을 검색합니다.
• 결합 및 재순위화: 두 경로부터 얻은 결과의 합집합을 **재순위화 모델 (Re-ranker)**을 통해 통합합니다. System-1 은 세밀한 의미적 유사성을 제공하고, System-2 는 구조적으로 관련성이 높지만 의미적 거리가 먼 중요한 정보를 보완합니다.

3. 주요 기여 (Key Contributions)

1. Mnemis 프레임워크 도입: System-1(유사성 검색) 과 System-2(전역적 선택/추론) 를 통합하여 의미적 검색과 의도적인 메모리 스캐닝을 동시에 수행하는 최초의 프레임워크 중 하나입니다.
2. 계층적 그래프 구축 알고리즘: 엔티티를 계층적으로 조직화하기 위한 세 가지 핵심 원칙 (최소 추상화, 다대다 매핑, 압축 효율성) 을 제안하여, 질의에 따른 유연하고 포괄적인 검색을 가능하게 합니다.
3. 성능 입증: 장기 메모리 벤치마크에서 기존 최첨단 (SOTA) 방법론들을 압도하는 성능을 기록했습니다.

4. 실험 결과 (Results)

Mnemis 는 LoCoMo와 LongMemEval-S 두 가지 주요 벤치마크에서 GPT-4.1-mini 를 사용하여 평가되었습니다.

• 성능 지표:
  • LoCoMo: 93.9점 (기존 최고점 대비 우위)
  • LongMemEval-S: 91.6점
• 비교 분석:
  • Full Context: 문맥 길이가 길어질수록 (115K 토큰 이상) 성능이 급격히 저하됨.
  • 기존 RAG/Graph-RAG: Multi-Hop(다단계 추론) 이나 Temporal(시간적 추론) 질문에서 Mnemis 보다 낮은 점수 기록.
  • Ablation Study: System-1 만 사용하거나 System-2 만 사용하는 것보다, 두 경로를 결합했을 때 모든 질문 유형 (Multi-Hop, Temporal 등) 에서 성능이 가장 크게 향상됨. 특히 System-2 는 표면적인 유사성 (예: '위염') 을 넘어 근본적인 원인 (예: '체중 문제') 을 찾아내는 데 결정적인 역할을 함.

5. 의의 및 결론 (Significance)

• 인지 과학의 적용: 인간의 '이중 처리 이론 (Dual-Process Theory)'을 LLM 메모리 시스템에 성공적으로 적용하여, 단순한 검색을 넘어 **의식적인 추론 (Deliberate Reasoning)**이 가능한 AI 에이전트를 구현했습니다.
• 실용성: 장기 대화 기록이 쌓이는 환경에서, 관련 정보를 놓치지 않고 포괄적으로 찾아내는 능력을 제공하여, AI 에이전트의 신뢰성과 유용성을 크게 높였습니다.
• 미래 방향: 다양한 데이터 모달리티 지원 및 더 유연한 그래프 탐색 메커니즘을 통해 확장 가능성을 열어두었습니다.

결론적으로, Mnemis 는 단순한 정보 검색을 넘어, 복잡한 맥락과 시간적 흐름을 이해하는 차세대 AI 장기 기억 시스템의 새로운 표준을 제시합니다.