PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

Resumen Técnico de PraMem: Memoria Experiencial Derivada de la Práctica para la Predicción de Comportamiento de Largo Alcance

Planteamiento del Problema
La predicción de comportamiento de largo alcance busca inferir la siguiente acción de un usuario basándose en secuencias extensas de registros de escenas y acciones. Aunque los Modelos de Lenguaje de Gran Escala (LLMs) ofrecen un enfoque autorregresivo prometedor, enfrentan dos desafíos fundamentales en este dominio:

1. Inducción de Patrones Latentes: Factores finos que influyen en las acciones del usuario (por ejemplo, preferencias específicas por marca, precio o calidad) están ocultos y dispersos en secuencias ultra largas, lo que dificulta que los LLMs los capturen con precisión sobre la marcha.
2. Sesgos Cognitivos Intrínsecos del Modelo: Los LLMs exhiben sesgos inherentes durante la predicción, como la tendencia a seguir a la mayoría, prejuicios inducidos por el entrenamiento o una atención desproporcionada a los registros recientes (sesgo proximal), lo que degrada la precisión de la predicción incluso cuando se proporciona información relevante.

Los métodos existentes de gestión de memoria siguen principalmente un paradigma de "compresión de contexto", intentando aliviar la carga de las secuencias largas mediante la extracción, agregación y recuperación. Sin embargo, los autores argumentan que este enfoque falla porque la compresión no equivale a la inducción de patrones de comportamiento, y estos métodos carecen de mecanismos para percibir o corregir los sesgos cognitivos intrínsecos del LLM.

Metodología: PraMem
Los autores proponen PraMem, un marco de trabajo libre de entrenamiento (training-free) que cambia el paradigma de ver las secuencias históricas como una carga a tratarlas como un recurso valioso para la "práctica". Inspirado en la filosofía dialéctica, PraMem realiza una práctica previa sobre la secuencia histórica para construir una Memoria Experiencial específica del usuario y en evolución temporal. Esta memoria sirve como entrada asistida para una predicción precisa y consta de dos componentes:

• Experiencia de Patrón: Resúmenes de los patrones de comportamiento latentes del usuario (por ejemplo, "Este usuario prefiere la electrónica de Apple").
• Experiencia de Alerta de Sesgo: Alertas sobre los sesgos cognitivos intrínsecos del LLM al razonar sobre este usuario específico (por ejemplo, "Evite el sesgo proximal; no dependa excesivamente de la última acción").

El marco mantiene esta memoria a través de un bucle iterativo que comprende tres etapas:

1. Ensayo de Experiencia Existente: El sistema toma muestras de segmentos de la secuencia histórica para construir muestras de práctica con etiquetas de verdad fundamental (ground-truth). El LLM realiza un "pensamiento profundo" explícito utilizando la memoria experiencial actual para predecir la acción, exponiendo las deficiencias de la experiencia existente.
2. Generación de Propuesta Reflexiva: El LLM reflexiona sobre los resultados del ensayo (comparando las predicciones con la verdad fundamental) para generar propuestas de revisión, poda o suplemento de la memoria.
3. Ajuste de Experiencia Consensuada: Para asegurar la estabilidad y evitar el ruido de comportamientos ocasionales, los ajustes se activan periódicamente. El sistema adopta únicamente las operaciones que son apoyadas consistentemente por múltiples propuestas en el grupo (pool).

Innovación Clave: El Mecanismo de Autorrevisión
Un componente crítico de PraMem es un mecanismo de autorrevisión diseñado para asegurar la calidad de las propuestas reflexivas antes de que entren en el grupo de propuestas. Este mecanismo filtra las propuestas que carecen de fundamentación (groundedness) o generalizabilidad:

• Revisión de Fundamentación: El sistema perturba la secuencia histórica de una muestra de práctica para alterar sustancialmente los patrones de comportamiento subyacentes. Si una propuesta aún se mantiene tras esta perturbación, se considera que no está genuinamente fundamentada en los datos y es rechazada.
• Revisión de Generalizabilidad: El sistema reescribe la escena de predicción para generar múltiples escenas virtuales con estructuras similares pero entidades diferentes. Si una propuesta puede identificar de manera inequívoca solo la escena original entre estas opciones, se considera excesivamente específica y es rechazada. Solo las propuestas que son tanto bien fundamentadas como generalizables son retenidas.

Resultados Experimentales
Los autores evaluaron PraMem en dos bancos de pruebas: OminiBehavior (que cubre navegación de video, transmisión en vivo, anuncios y comercio electrónico) y MovieLens-1M.

• Desempeño: PraMem superó significativamente a los fuertes modelos de base, incluyendo entradas de contexto largo, truncamiento, RAG, métodos basados en resúmenes y sistemas de memoria avanzados como Mem0, MemOS y ProEx. En OminiBehavior, PraMem mejoró la precisión (ACC) del 73.5% (Truncamiento) al 84.7%, y el F1-score de 24.7 a 31.6.
• Generalizabilidad: La memoria experiencial construida por PraMem demostró transferibilidad a través de diferentes arquitecturas de LLM (GPT-OSS-120B y Qwen3.5-35B-A3B), indicando que los patrones destilados y las alertas de sesgo son robustos.
• Evolución: El análisis mostró que el desempeño mejoró de forma monótona con más rondas de práctica, mientras que el recuento de tokens de la memoria se estabilizó tras un aumento inicial, evitando la "explosión de longitud" común en otros métodos de acumulación de memoria.

Significancia y Reivindicaciones
El artículo afirma que PraMem ofrece una dirección prometedora para la predicción de comportamiento de largo alcance al reencuadrar la secuencia histórica como un recurso para la práctica iterativa en lugar de un objetivo de compresión. Los autores sostienen que:

• PraMem aborda con éxito los desafíos duales de la inducción de patrones latentes y la mitigación del sesgo cognitivo, que los métodos previos de compresión de contexto no lograron resolver.
• El enfoque "derivado de la práctica" permite al modelo inducir patrones de comportamiento fiables y autocorregir sesgos, lo que conduce a una precisión de predicción superior.
• El mecanismo de autorrevisión es esencial para asegurar que la memoria experiencial permanezca fiel a los datos y sea aplicable a escenarios no vistos.

Los autores reconocen una limitación respecto al costo de construcción, señalando que el proceso de práctica iterativa requiere más tiempo offline en comparación con los métodos basados en extracción, aunque esto no afecta la latencia de la predicción online. Enfatizan que el método está libre de entrenamiento y depende de las capacidades de razonamiento inherentes del LLM potenciadas por esta evolución estructurada de la memoria.