GAAMA: Graph Augmented Associative Memory for Agents

Resumen Técnico: GAAMA (Memoria Asociativa Aumentada con Grafos para Agentes)

1. El Problema

Los agentes de IA que interactúan con usuarios a lo largo de múltiples sesiones requieren una memoria a largo plazo (LTM) persistente para mantener un comportamiento coherente y personalizado. Las aproximaciones actuales presentan limitaciones fundamentales:

• RAG (Generación Aumentada por Recuperación) Plana: Se basa en la similitud de embeddings de fragmentos de texto, perdiendo las relaciones estructurales entre entidades, eventos y hechos a través de diferentes conversaciones.
• Enfoques de Contexto Completo: Inyectar todo el historial en la ventana de contexto del LLM es prohibitivamente costoso y no escala.
• Técnicas Basadas en Grafos Existente (ej. HippoRAG): Sufren de problemas de "nodos hub" (nodos de alto grado, como nombres de personas recurrentes) que diluyen la precisión de la recuperación al distribuir uniformemente la masa del Personalized PageRank (PPR). Además, a menudo pierden contexto durante la indexación y carecen de un razonamiento jerárquico efectivo sobre la memoria evolutiva.
• Sistemas No Gráficos (ej. A-Mem, Nemori): Utilizan recuperación por similitud vectorial sin propagación de relevancia basada en grafos o carecen de caminos asociativos mediados por grafos.

2. Metodología

GAAMA propone un sistema de memoria asociativa aumentada con grafos que opera en dos fases principales: Construcción del Grafo y Recuperación Híbrida.

A. Pipeline de Construcción del Grafo de Conocimiento (3 Pasos)
El sistema construye un grafo de conocimiento jerárquico mediado por conceptos mediante un pipeline que separa operaciones estructurales baratas de extracciones costosas con LLM:

1. Preservación de Episodios (Sin LLM): Cada turno de conversación se almacena verbatim como un nodo de "Episodio". Se preservan las referencias temporales exactas y se encadenan mediante aristas de tipo NEXT para mantener el orden secuencial.
2. Extracción de Hechos y Conceptos (Con LLM):
   • Hechos: El LLM extrae afirmaciones factuales atómicas de los episodios, vinculándolas a su fuente mediante aristas DERIVED_FROM.
   • Conceptos: Se generan etiquetas de nivel temático (ej. pottery_hobby, camping_trip) que capturan el contenido temático. A diferencia de los nodos de entidades (nombres de personas), los conceptos evitan la creación de "megahubs". Se vinculan mediante aristas HAS_CONCEPT (episodio a concepto) y ABOUT_CONCEPT (hecho a concepto).
3. Síntesis de Reflexiones (Con LLM): Un segundo paso con LLM sintetiza conocimientos de alto nivel (patrones, preferencias, lecciones) a partir de múltiples hechos, creando nodos de "Reflexión" vinculados mediante DERIVED_FROM_FACT.

B. Esquema del Grafo
El grafo resultante contiene 4 tipos de nodos (Episodio, Hecho, Reflexión, Concepto) y 5 tipos de aristas estructurales. Los nodos de concepto actúan como caminos de traversa transversales que complementan la similitud semántica sin crear cuellos de botella.

C. Recuperación Híbrida con Personalized PageRank (PPR)
La recuperación combina la búsqueda por similitud semántica con la propagación de relevancia en el grafo:

1. Selección de Semillas: Se recuperan candidatos iniciales (KNN) basados en similitud de coseno con la consulta.
2. Expansión del Grafo: Se expande desde las semillas hacia adyacentes (profundidad $d=2$) para descubrir nodos estructuralmente conectados pero semánticamente distantes.
3. PPR Sensible al Tipo de Arista: Se ejecuta un algoritmo PPR con pesos específicos por tipo de arista (ej. NEXT y HAS_CONCEPT tienen peso 0.8, DERIVED_FROM_FACT 0.5). Incluye un mecanismo de amortiguación de hubs para nodos con grado > 50.
4. Puntuación Aditiva: La puntuación final es una suma ponderada:
   $$score(n) = w_{ppr} \cdot ppr(n) + w_{sim} \cdot sim(n, q)$$
   Donde $w_{ppr} = 0.1$ y $w_{sim} = 1.0$. Esto asegura que el grafo aumente la recuperación semántica sin dominarla ni introducir ruido.

3. Contribuciones Clave

1. Grafo Mediado por Conceptos: Un diseño que evita el problema de los "megahubs" de las entidades, utilizando conceptos temáticos para crear caminos de traversa estructurales no redundantes.
2. Pipeline de Construcción Jerárquico: La separación de la preservación de episodios crudos, la extracción de hechos atómicos y la síntesis de reflexiones permite un razonamiento temporal y cruzado entre sesiones más efectivo.
3. Recuperación Híbrida Ligera: La demostración de que una ponderación baja de PPR (0.1) combinada con similitud semántica mejora consistentemente la recuperación, actuando como un desempate estructural en lugar de un reemplazo de la búsqueda vectorial.
4. Preservación de Referencias Temporales: Al mantener los episodios verbatim y encadenarlos, el sistema resuelve consultas temporales ("la semana pasada") con mayor precisión que los sistemas que solo resumen.

4. Resultados

El sistema se evaluó en el benchmark LoCoMo-10 (1,540 preguntas en 10 conversaciones multi-sesión):

• Rendimiento General: GAAMA alcanzó un 78.9% de recompensa media, superando al RAG ajustado (75.0%), HippoRAG (69.9%), A-Mem (47.2%) y Nemori (52.1%).
• Mejoras por Categoría:
  • Preguntas Temporales (Cat2): +12.9 pp sobre RAG (71.9% vs 59.0%), gracias a la preservación de orden y hechos atómicos.
  • Preguntas Multi-hop (Cat1): +4.7 pp sobre RAG, debido a la capacidad de sintetizar patrones a través de sesiones.
  • Preguntas de Un Solo Salto (Cat4): Rendimiento comparable al RAG (87.2% vs 87.1%), mostrando que el grafo no degrada la recuperación directa.
• Análisis de Ablación:
  • La construcción del grafo por sí sola (recuperación semántica sobre los hechos/reflexiones extraídos) ya supera al RAG plano en 3.0 pp.
  • La adición de la traversa de grafos (PPR) aporta una mejora adicional consistente de +1.0 pp sobre la recuperación puramente semántica.
  • Se demostró que un peso de PPR alto (1.0) degrada el rendimiento, confirmando que la augmentación debe ser ligera.

5. Significado e Implicaciones

El trabajo de GAAMA es significativo porque:

• Resuelve el problema de los "Hubs": Demuestra que el diseño centrado en entidades (como en HippoRAG) es subóptimo para conversaciones multi-sesión y propone una arquitectura basada en conceptos como solución escalable.
• Equilibrio entre Estructura y Semántica: Establece un nuevo estándar para la recuperación en agentes, donde la estructura del grafo no reemplaza la semántica, sino que la complementa de manera controlada para mejorar el razonamiento multi-paso y temporal.
• Eficiencia en la Construcción: El pipeline de tres pasos optimiza el uso de LLM, realizando operaciones estructurales sin costo computacional (preservación de episodios) y reservando el LLM para la extracción de valor semántico y síntesis.
• Direcciones Futuras: Identifica la necesidad de canonicación de conceptos (unificar variantes singulares/plurales) y el aprendizaje de pesos de aristas para refinar aún más la propagación de relevancia.

En conclusión, GAAMA presenta una arquitectura robusta para la memoria de agentes que logra un rendimiento superior al combinar la preservación de contexto crudo, la extracción de conocimiento estructurado y una recuperación híbrida inteligente.