MemORAI: Memory Organization and Retrieval via Adaptive Graph Intelligence for LLM Conversational Agents

기술 요약: MemORAI

문제 제기
대규모 언어 모델 (LLM) 은 현재 장기적이고 개인화된 대화를 수행하는 데 필요한 지속적 기억 능력을 결여하고 있습니다. 검색 증강 생성 (RAG) 과 벡터 기반 시스템이 사실적 근거 확보를 발전시켰음에도 불구하고, 다중 세션 대화에 내재된 관계적 및 시간적 구조를 처리하는 데는 어려움을 겪고 있습니다. 기존 그래프 기반 기억 시스템은 다음과 같은 치명적인 한계를 보입니다: 사용자 페르소나와 관련된 콘텐츠에서 일반적인 대화를 필터링하지 못해 정보 희석이 발생하는 경우가 많으며, 미세한 수준의 출처 추적이 부족하여 검색된 정보의 사실적 기원을 감사하기 어렵습니다. 또한 표준 PageRank 와 같은 균일 검색 메커니즘을 사용하여 쿼리 컨텍스트를 무시함으로써, 의미상 관련성이 높지만 구조적으로 희소한 노드의 순위 매김이 최적화되지 못합니다.

방법론
MemORAI(Adaptive Graph Intelligence 를 통한 기억 조직화 및 검색) 는 선택적 저장, 풍부화된 표현, 적응형 검색을 통합하도록 설계된 3 단계 파이프라인을 통해 이러한 격차를 해소합니다.

1. 세그먼트 분할 및 선택적 압축:
   시스템은 먼저 원시 다중 세션 대화를 의미적으로 일관된 세그먼트로 분해합니다. 이후 '기억 게이트 (memory gate)'가 선택적 필터링을 적용하여 사용자 특정 일화적 콘텐츠 (예: 개인적 사실, 선호도, 약속) 를 포함하는 메시지만 유지하고 일반적인 담화는 폐기합니다. 전역 컨텍스트의 손실을 방지하기 위해 시스템은 폐기된 콘텐츠에 대해 세그먼트 수준의 요약을 생성합니다. 이 이중 계층 접근 방식은 미세한 개인 콘텐츠와 전역 컨텍스트 앵커를 함께 저장하여 저장 오버헤드와 노이즈를 크게 줄입니다.

2. 출처가 풍부해진 그래프 구성:
   필터링된 콘텐츠로부터 MemORAI 는 이질적인 다중 관계 지식 그래프 ($G = (V, E)$) 를 구성합니다. 이 그래프는 세 가지 노드 유형을 포함합니다:

   • 개체 노드 (Entity nodes): 특정 턴 ID 와 연결된 이름과 미세한 자연어 설명 (예: "알렉스—소프트웨어 엔지니어...") 을 저장합니다.
   • 턴 노드 (Turn nodes): 대화 턴의 원시 텍스트를 저장합니다.
   • 세그먼트 노드 (Segment nodes): 세그먼트 수준의 요약을 저장합니다.
     에지는 개체와 그 언급을 연결하고, 턴과 세그먼트를 연결하며, 타입이 지정된 관계를 통해 개체 간 연결을 형성합니다. 핵심적으로 모든 트리플과 노드에는 명시적인 턴 수준의 출처가 포함되어 사실적 기원의 투명한 감사를 가능하게 합니다.

3. 쿼리 적응형 서브그래프 검색 및 순위 매김:
   사용자 쿼리를 받으면 시스템은 전체 기억 그래프를 탐색하지 않습니다. 대신 의미적 유사성을 기반으로 상위-k 개의 시드 노드 (세그먼트, 개체, 관계) 를 식별하기 위해 다면적 병렬 검색을 수행합니다. 그런 다음 이러한 시드에서 1 홉을 확장하여 희소하고 쿼리 중심의 서브그래프를 구성합니다.
   순위 매김은 동적 가중치 PageRank(DW-PR) 를 사용하여 수행됩니다. 기존 PageRank 나 균일 전파 방법과 달리 DW-PR 은 쿼리 조건부 에지 가중치에 기반하여 점수 전파를 조절합니다. 에지 가중치는 쿼리와 연결된 노드 또는 관계의 설명 간의 코사인 유사도로 계산됩니다. 이를 통해 노드가 희소하게 연결되어 있더라도 의미적으로 정렬된 증거가 우선시되어, 구조적 편향이 문맥상 중요한 기억을 압도하는 것을 방지합니다.

주요 기여
본 논문은 세 가지 주요 혁신을 제시합니다:

• 선택적 기억 필터링: 세그먼트 요약을 통해 전역 컨텍스트를 보존하면서 사용자 페르소나와 관련된 콘텐츠만 유지하는 메커니즘으로, 저장 효율성과 검색 정밀도를 모두 향상시킵니다.
• 출처가 풍부해진 지식 그래프: 명시적인 턴 수준 출처 추적을 특징으로 하는 이질적 아키텍처로, 미세한 수준의 검색과 사실적 기원의 투명한 감사를 가능하게 합니다.
• 동적 가중치 PageRank: 탐색 과정에서 쿼리 조건부 에지 가중치를 적용하는 쿼리 적응형 검색 방법으로, 전체 그래프 탐색 없이 의미적으로 정렬된 증거를 우선시할 수 있게 합니다.

실험 결과
MemORAI 는 장기 대화 기억을 목표로 하는 LongMemEval-s 및 LOCOMO-10 벤치마크에서 평가되었습니다. 이 프레임워크는 전체 컨텍스트 베이스라인, 밀집 검색 모델 (예: Contriever, BGE-M3), 구조화된 RAG 접근법 (예: HippoRAG 2, RAPTOR) 을 포함한 다양한 베이스라인과 비교되었습니다.

• 검색 성능: MemORAI 는 세그먼트 수준 및 턴 수준 검색 모두에서 최첨단 성능을 달성했습니다. LongMemEval-s 에서 세그먼트 수준 Recall@3 은 90.17% 를, 턴 수준 Recall@3 은 71.13% 를 기록하여 HippoRAG 2(세그먼트 75.53%, 턴 27.80%) 와 같은 강력한 그래프 기반 베이스라인을 능가했습니다.
• 생성 성능: 응답 생성 측면에서 MemORAI 는 모든 베이스라인에 비해 가장 높은 GPT-4o 심사자 점수 (LongMemEval-s 기준 75.55%, LOCOMO-10 기준 60.22%) 와 우수한 어휘 지표 (F1, BLEU, ROUGE) 를 달성했습니다.
• 애블레이션 연구: 통제된 실험을 통해 주제 분할이 기억 조직화를 위한 가장 강력한 구조적 사전 지식을 제공하며, 동적 에지 가중치가 균일 가중치보다 검색 정확도를 지속적으로 향상시킨다는 것이 확인되었습니다. 쿼리 중심 서브그래프의 사용은 재현율을 희생하지 않으면서 지연 시간을 줄였습니다.

의의 및 주장
본 논문은 선택적 저장, 풍부화된 표현, 적응형 검색이 일관성 있고 개인화된 LLM 에이전트에 필수적임을 MemORAI 를 통해 입증한다고 주장합니다. 이러한 구성 요소를 통합함으로써 프레임워크는 검색 정밀도와 생성 충실도 간의 격차를 해소합니다. 저자들은 기존 시스템의 정보 희석 한계를 극복하고, 턴 수준에서 출처를 추적하며, 검색 가중치를 쿼리 의미에 맞게 조정함으로써 기존 시스템의 한계를 극복했다고 주장합니다.

논문은 한계를 인정하며, 턴 수준 출처 의존성과 정적 개체 링크는 사용자 의도가 급격히 변하는 매우 역동적인 컨텍스트에서 적응성을 제한할 수 있다고 지적합니다. 또한 시스템은 현재 경량 임베딩 전용 파이프라인에 비해 인덱싱 단계에서 더 높은 계산 오버헤드를 발생시키지만, 이는 실시간 추론 지연 시간과 분리되어 있습니다. 저자들은 향후 연구가 지식 증류 (knowledge distillation) 를 활용하여 리소스 제약 환경에 맞춰 프레임워크를 최적화할 수 있음을 제안합니다.