Resumen Técnico: Nous – Un Modelo de Mundo Predictivo para la Memoria de Agentes a Largo Plazo

Declaración del Problema

Los agentes actuales de Modelos de Lenguaje Extensos (LLM) sufren de una falta de memoria a largo plazo que evolucione continuamente. Mientras que las ventanas de contexto proporcionan recuerdo a corto plazo, el historial de conversación se pierde una vez que termina una sesión, a menos que se persista externamente. Los sistemas de memoria existentes (por ejemplo, RAG, grafos de conocimiento o almacenes episódicos como MemGPT) tratan la memoria como una base de datos estática de hechos. Los autores argumentan que este paradigma de "almacenamiento" conduce a tres modos de falla estructurales:

1. Ceguera ante Conflictos: Se acumulan registros contradictorios (por ejemplo, un usuario cambiando de empleo) sin una resolución basada en principios.
2. Olvido Heurístico: La eliminación se basa en el tiempo en lugar de la relevancia semántica o la incertidumbre.
3. Desajuste de Granularidad de Recuperación: Los almacenes de hechos devuelven registros individuales, careciendo de mecanismos para agregar valores a lo largo del tiempo (por ejemplo, enumerar todas las actividades que una persona ha realizado alguna vez).

El artículo postula que estas fallas surgen de tratar la memoria como almacenamiento en lugar de un modelo de mundo predictivo, análogo a cómo el cerebro mantiene un modelo generativo del entorno actualizado por errores de predicción.

Metodología: La Arquitectura Nous

Nous implementa la memoria como una colección de distribuciones de probabilidad categórica, denominadas dimensiones, en lugar de hechos deterministas.

Abstracciones Principales

• Dimensiones ($D_{e,a}$): Para cada par entidad-atributo (por ejemplo, Pranav, empleador), Nous mantiene una distribución categórica $p(v)$ sobre un vocabulario de posibles valores. La moda de esta distribución representa la mejor creencia actual del agente.
• Deltas ($\Delta$): El artefacto almacenado primordial no es el hecho en sí, sino el delta —un registro del cambio de la creencia previa a la posterior. Un delta incluye la distribución previa, la distribución posterior, la sorpresa de la teoría de la información, la marca de tiempo y la evidencia de soporte.
• Actualizaciones Impulsadas por la Sorpresa: Las observaciones entrantes se califican mediante la sorpresa de la teoría de la información: $S = -\log_2 P(obs | D)$. Una alta sorpresa (evidencia contradictoria) desencadena una revisión significativa de la creencia, mientras que una baja sorpresa (evidencia confirmatoria) resulta en un cambio insignificante.
• Posterior Bayesiano: Las actualizaciones se computan mediante una posterior de Bayes de forma cerrada (Ec. 3). Esto permite que la masa de probabilidad se desplace naturalmente hacia la evidencia contradictoria sin una lógica explícita de detección de conflictos.
• Decaimiento de la Entropía (Olvido): Las dimensiones que no son actualizadas durante un periodo $\Delta t$ experimentan una mezcla exponencial hacia una distribución uniforme (Ec. 4). Esto simula el olvido natural a medida que la incertidumbre crece con el tiempo, una propiedad ausente en las reglas de eliminación heurísticas.
• Resolución de Identidad: Las entidades se fusionan si la divergencia KL simetrizada entre sus conjuntos de dimensiones compartidas es baja.

Manejo de Atributos Multivalorados

Una limitación de las distribuciones categóricas unimodales es la incapacidad de representar atributos inherentemente multivalorados (por ejemplo, una lista de ciudades visitadas) sin descartar alternativas históricas. Nous aborda esto mediante la agregación de log-deltas: al momento de la consulta, cualquier valor que haya aparecido con una sorpresa superior a un umbral $\theta_{min}$ se incluye en el contexto. Esto preserva el modelo de mundo Bayesiano para la "mejor creencia actual" mientras permite la agregación exhaustiva para consultas específicas.

Pipelines

• Ingestión: Un LLM extrae triples $(e, a, v)$ de las sesiones. Para cada uno, el sistema calcula la sorpresa, actualiza la posterior y anexa un delta al registro.
• Consulta: El sistema realiza una búsqueda en anchura sobre el grafo de entidades (hasta dos saltos) para sembrar las entidades relevantes. Formatea los estados de las dimensiones como líneas de hechos y anexa los $k$ registros de delta superiores (basados en la similitud BM25) como evidencia. Este contexto se pasa a un LLM de respuesta.

Contribuciones Clave

1. Paradigma de Modelo de Mundo Predictivo: Formalización de la memoria del agente como una colección de dimensiones actualizadas por inferencia Bayesiana impulsada por la sorpresa, en lugar de un almacén de hechos.
2. Implementación de Código Abierto: Un sistema completo que no requiere bases de datos vectoriales externas ni motores de grafos.
3. Evaluación y Benchmarking Honesto: Evaluación del rendimiento en el benchmark LoCoMo, acompañada de una discusión explícita sobre los problemas de reproducibilidad encontrados en la literatura respecto a las comparaciones con las líneas base (específicamente A-MEM) y un análisis comparativo contra BeliefMem, un sistema concurrente con premisas similares.

Resultados

Evaluado en el benchmark LoCoMo (10 conversaciones, 1,540 preguntas) utilizando GPT-4o-mini como columna vertebral:

• Rendimiento: Nous logró las siguientes puntuaciones de F1 de Tokens:
  • Single-hop: 63.50
  • Multi-hop: 55.32
  • Temporal: 58.57
  • Open-domain: 62.50
• Comparación con A-MEM: Nous mostró ganancias sustanciales sobre los números reportados por A-MEM para GPT-4o-mini en tres de cuatro categorías. Los autores señalan un problema de reproducibilidad donde las citas independientes de los resultados de A-MEM discrepan en la asignación de categorías, aunque los valores numéricos subyacentes son consistentes.
• Comparación con BeliefMem: Contra BeliefMem (otro sistema basado en creencias), los números reportados por Nous excedieron a BeliefMem en las cuatro categorías (por ejemplo, 63.50 frente a 48.41 en single-hop). Sin embargo, los autores declaran explícitamente que esto no es una comparación totalmente controlada debido a diferencias en los prompts de extracción, mecanismos de recuperación (BM25/BFS frente a similitud/decaimiento) y recuentos de preguntas no verificados.
• Análisis de Fallas:
  • Single-hop: Alta recuperación de contexto (86.07%) pero F1 más bajo (63.50), indicando que el cuello de botella es la generación de la respuesta por parte del LLM, no la recuperación.
  • Open-domain: Menor recuperación de contexto (47.50%) y mayor tasa de error de recuperación (37%), sugiriendo que el modelo de dimensión de atributo-entidad tiene dificultades para mapear claramente preguntas de personalidad/hábitos.
  • Temporal: Sufre de baja recuperación de contexto (61.82%) porque los datos temporales suelen estar embebidos en el texto de la evidencia en lugar de ser extraídos como valores de dimensión explícitos.

Significancia y Reivindicaciones

El artículo afirma que Nous demuestra una alternativa viable a las arquitecturas de memoria centradas en bases de datos. Al modelar la memoria del agente no como un repositorio de "qué sucedió", sino como una distribución de probabilidad refinada continuamente sobre el estado del mundo, aborda de forma natural la contradicción (vía desplazamientos de probabilidad), el olvido (vía decaimiento de entropía) y la agregación (vía logs de delta).

Los autores posicionan este trabajo como un primer reporte público sobre una nueva arquitectura. Enfatizan la modestia respecto a los resultados:

• La comparación con BeliefMem es "sugestiva más que concluyente" a la espera de una comparación controlada y ejecutada por ellos mismos con pipelines emparejados.
• La naturaleza unimodal de las dimensiones se reconoce como una limitación para atributos de tipo conjunto, con un movimiento hacia distribuciones de Bernoulli independientes planeado.
• La evaluación está actualmente limitada a LoCoMo y GPT-4o-mini; se planea la generalización a otras columnas vertebrales y benchmarks más difíciles (LongMemEval).

La significancia central reside en el cambio arquitectónico: tratar la memoria del agente no como un repositorio de "lo que pasó", sino como una distribución de probabilidad sobre el estado del mundo que se refina continuamente, fundamentada en principios de ciencia cognitiva como la codificación predictiva y el principio de la energía libre.