Mnemis: Dual-Route Retrieval on Hierarchical Graphs for Long-Term LLM Memory

1. El Problema

A medida que los Modelos de Lenguaje Grande (LLMs) evolucionan hacia agentes interactivos persistentes, la capacidad de organizar y recuperar información histórica a largo plazo es crucial. Las metodologías actuales, como la Generación Aumentada por Recuperación (RAG) y el Graph-RAG, se basan principalmente en mecanismos de recuperación por similitud (búsqueda semántica basada en embeddings o coincidencia de texto).

• Limitación del "Sistema 1": Estos métodos actúan como un proceso de pensamiento rápido (Sistema 1 de Kahneman): son eficientes pero puramente reactivos. Fallan cuando las consultas requieren razonamiento global, cobertura exhaustiva de información relevante o cuando la información clave está semánticamente distante de la consulta pero estructuralmente conectada.
• Falta de perspectiva global: Generar sub-consultas iterativas para mitigar esto es difícil sin una visión global de la memoria, lo que lleva a omitir información crítica enterrada en mensajes largos o relaciones indirectas.

2. Metodología: Mnemis

Mnemis propone un marco de memoria unificado que integra dos rutas de recuperación complementarias, inspiradas en la teoría del doble proceso cognitivo: Sistema 1 (rápido, intuitivo) y Sistema 2 (lento, deliberado).

A. Componentes de Almacenamiento

Mnemis organiza la memoria en dos grafos interconectados:

1. Grafo Base (Base Graph):

   • Diseñado para la búsqueda por similitud (Sistema 1).
   • Extrae Episodios (textos históricos), Entidades (personas, lugares, conceptos), Aristas (relaciones/hechos) y Aristas Episódicas.
   • Utiliza embeddings y búsqueda de texto completo (BM25) para recuperar información semánticamente relevante.

2. Grafo Jerárquico (Hierarchical Graph):

   • Diseñado para la selección global (Sistema 2).
   • Abstrae las entidades del nivel 0 en Categorías de múltiples niveles mediante un proceso de abajo hacia arriba.
   • Principios de diseño clave:
     • Abstracción Mínima de Conceptos: Las categorías deben ser lo suficientemente específicas para ser informativas, pero lo suficientemente generales para permitir abstracción.
     • Mapeo Muchos-a-Muchos: Un nodo hijo puede pertenecer a múltiples categorías superiores, permitiendo recuperar información desde diferentes facetas semánticas.
     • Restricción de Eficiencia de Compresión: Regula la densidad de nodos por capa para asegurar que la jerarquía sea manejable y eficiente.

B. Mecanismos de Recuperación

Cuando llega una consulta, Mnemis ejecuta dos rutas paralelas:

1. Búsqueda por Similitud (Sistema 1):

   • Realiza una búsqueda semántica rápida sobre el Grafo Base utilizando similitud de cosenos y BM25.
   • Recupera los top-k episodios, entidades y aristas más relevantes.

2. Selección Global (Sistema 2):

   • Realiza un recorrido deliberado de arriba hacia abajo en el Grafo Jerárquico.
   • El LLM selecciona categorías relevantes en la capa superior y navega progresivamente hacia abajo hasta llegar a las entidades específicas.
   • Una vez seleccionadas las entidades, recupera todos los episodios y aristas conectados a ellas, independientemente de su similitud semántica directa con la consulta.

3. Fusión y Re-ranking:

   • Los resultados de ambas rutas se unen y se vuelven a clasificar (re-rank) utilizando un modelo de re-ranking (ej. Qwen3-Reranker) para aprovechar las señales complementarias: la precisión semántica del Sistema 1 y la relevancia estructural del Sistema 2.

3. Contribuciones Clave

• Marco Híbrido Mnemis: Introducción de un sistema que combina la búsqueda semántica rápida con un razonamiento estructurado y deliberado sobre una jerarquía de memoria.
• Grafo Jerárquico Dinámico: Propuesta de una estructura de grafo que soporta mapeos muchos-a-muchos y abstracción controlada, permitiendo a los modelos "navegar" la memoria como lo haría un humano al recordar conceptos generales antes que detalles específicos.
• Rendimiento Superior: Demostración experimental de que la combinación de ambas rutas supera significativamente a los métodos basados únicamente en similitud o en grafos planos.

4. Resultados Experimentales

El modelo se evaluó en dos benchmarks líderes de memoria a largo plazo: LoCoMo y LongMemEval-S, utilizando GPT-4.1-mini como modelo base.

• Rendimiento en LoCoMo: Mnemis logró una puntuación de 93.9, superando a todos los métodos comparados (incluyendo RAG, Graph-RAG, Mem0, Zep, Nemori, etc.). Destacó especialmente en tareas de Multi-Hop (89.7 vs 74.7 del siguiente mejor) y Razonamiento Temporal.
• Rendimiento en LongMemEval-S: Logró una puntuación de 91.6, nuevamente superando a los baselines más fuertes.
• Análisis de Ablación:
  • El uso exclusivo de Sistema 1 (RAG + Graph) obtuvo un 89.1.
  • El uso exclusivo de Sistema 2 (Selección Global) obtuvo un 87.7.
  • La combinación de ambas rutas fue la que alcanzó el máximo rendimiento (93.3 en la configuración base, 93.9 con ajustes), confirmando que las rutas son complementarias y no redundantes.
• Estudios de Caso: Se demostró que mientras la búsqueda por similitud se queda en causas superficiales (ej. "gastritis"), la Selección Global permite navegar la jerarquía para encontrar la causa raíz estructural (ej. "problema de peso" que motivó el cambio de estilo de vida).

5. Significado e Impacto

Mnemis representa un avance fundamental en la arquitectura de memoria para agentes de IA:

• Superación de la limitación de ventana de contexto: Permite manejar historiales de conversación de meses o años sin depender únicamente de la ventana de contexto nativa del modelo, que es costosa y propensa a la distracción.
• Razonamiento Estructurado: Introduce la capacidad de realizar un "pensamiento lento" (Sistema 2) sobre la memoria, permitiendo a los agentes realizar búsquedas exhaustivas y razonamientos complejos que los métodos actuales de RAG no pueden ejecutar.
• Escalabilidad: Aunque introduce un costo computacional adicional en la fase de ingestión y selección global, los resultados demuestran que es necesario para aplicaciones de agentes persistentes de alta fidelidad donde la precisión y la cobertura de la memoria son críticas.

En resumen, Mnemis establece un nuevo estado del arte (SOTA) al demostrar que la memoria efectiva para LLMs no debe ser solo una base de datos de similitudes, sino una estructura jerárquica que permita tanto la recuperación rápida como el razonamiento deliberado.