PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

Resumo Técnico do PraMem: Memória Experiencial Derivada de Prática para Predição de Comportamento de Longo Horizonte

Declaração do Problema
A predição de comportamento de longo horizonte visa inferir a próxima ação de um usuário com base em sequências extensas de registros de cena-ação. Embora os Grandes Modelos de Linguagem (LLMs) ofereçam uma abordagem autorregressiva promissora, eles enfrentam dois desafios centrais neste domínio:

1. Indução de Padrões Latentes: Fatores detalhados que influenciam as ações do usuário (ex: preferências específicas por marca, preço ou qualidade) estão ocultos e espalhados por sequências ultra-longas, tornando-os difíceis de serem capturados com precisão pelos LLMs em tempo real.
2. Vieses Cognitivos Intrínsecos ao Modelo: Os LLMs exibem vieses inerentes durante a predição, como a tendência de seguir a maioria, preconceitos induzidos pelo treinamento ou atenção desproporcional a registros recentes (viés proximal), o que degrada a precisão da predição mesmo quando informações relevantes são fornecidas.

Os métodos existentes de gerenciamento de memória seguem primariamente um paradigma de "compressão de contexto", tentando aliviar o fardo das sequências longas através de extração, agregação e recuperação. No entanto, os autores argumentam que essa abordagem falha porque a compressão não equivale à indução de padrões comportamentais, e esses métodos carecem de mecanismos para perceber ou corrigir os vieses cognitivos intrínsecos do LLM.

Metodologia: PraMem
Os autores propõem o PraMem, um framework livre de treinamento (training-free) que desloca o paradigma de ver as sequências históricas como um fardo para tratá-las como um recurso valioso para "prática". Inspirado pela filosofia dialética, o PraMem realiza uma prática prévia sobre a sequência histórica para construir uma Memória Experiencial específica do usuário e em evolução temporal. Esta memória serve como entrada assistida para predições precisas e consiste em dois componentes:

• Experiência de Padrão: Resumos dos padrões comportamentais latentes do usuário (ex: "Este usuário prefere eletrônicos da Apple").
• Experiência de Alerta de Viés: Alertas sobre os vieses cognitivos intrínsecos do LLM ao raciocinar sobre este usuário específico (ex: "Evite o viés proximal; não dependa excessivamente da última ação").

O framework mantém esta memória através de um loop iterativo composto por três estágios:

1. Tentativa de Experiência Existente: O sistema amostra segmentos da sequência histórica para construir amostras de prática com rótulos de verdade fundamental (ground-truth). O LLM realiza um "pensamento profundo" explícito usando a memória experiencial atual para prever a ação, expondo as deficiências da experiência existente.
2. Geração de Proposta Reflexiva: O LLM reflete sobre os resultados da tentativa (comparando predições com a verdade fundamental) para gerar propostas para revisar, podar ou suplementar a memória.
3. Ajuste de Experiência Consensual: Para garantir a estabilidade e evitar ruídos de comportamentos ocasionais, ajustes são disparados periodicamente. O sistema adota apenas operações que são consistentemente apoiadas por múltiplas propostas no pool.

Inovação Chave: O Mecanismo de Auto-revisão
Um componente crítico do PraMem é um mecanismo de auto-revisão projetado para garantir a qualidade das propostas reflexivas antes que elas entrem no pool de propostas. Este mecanismo filtra propostas que carecem de fundamentação (groundedness) ou generalizabilidade:

• Revisão de Fundamentação: O sistema perturba a sequência histórica de uma amostra de prática para alterar substancialmente os padrões comportamentais subjacentes. Se uma proposta ainda se mantém após essa perturbação, ela é considerada não genuinamente fundamentada nos dados e é rejeitada.
• Revisão de Generalizabilidade: O sistema reescreve a cena de predição para gerar múltiplas cenas virtuais com estruturas semelhantes, mas entidades diferentes. Se uma proposta consegue identificar de forma inequívoca apenas a cena original entre estas opções, ela é considerada excessivamente específica e rejeitada. Apenas propostas que são tanto bem fundamentadas quanto generalizáveis são retidas.

Resultados Experimentais
Os autores avaliaram o PraMem em dois benchmarks: OminiBehavior (abrangendo navegação de vídeo, live streaming, anúncios e e-commerce) e MovieLens-1M.

• Desempenho: O PraMem superou significativamente os fortes baselines, incluindo Long-context inputs, Truncation, RAG, métodos baseados em Sumário e sistemas de memória avançados como Mem0, MemOS e ProEx. No OminiBehavior, o PraMem melhorou a acurácia (ACC) de 73,5% (Truncation) para 84,7% e o F1-score de 24,7 para 31,6.
• Generalizabilidade: A memória experiencial construída pelo PraMem demonstrou transferibilidade entre diferentes backbones de LLM (GPT-OSS-120B e Qwen3.5-35B-A3B), indicando que os padrões destilados e alertas de viés são robustos.
• Evolução: A análise mostrou que o desempenho melhorou monotonicamente com mais rodadas de prática, enquanto a contagem de tokens da memória estabilizou após um aumento inicial, evitando a "explosão de comprimento" comum em outros métodos de acumulação de memória.

Significância e Alegações
O artigo afirma que o PraMem oferece uma direção promissora para a predição de comportamento de longo horizonte ao reformular a sequência histórica como um recurso para prática iterativa, em vez de um alvo de compressão. Os autores asseveram que:

• O PraMem aborda com sucesso os desafios duplos da indução de padrões latentes e mitigação de viés cognitivo, os quais os métodos anteriores de compressão de contexto não conseguiram resolver.
• A abordagem "derivada de prática" permite que o modelo induza padrões comportamentais confiáveis e se autocorrija em relação aos vieses, levando a uma predição superior.
• O mecanismo de auto-revisão é essencial para garantir que a memória experiencial permaneça fiel aos dados e aplicável a cenários não vistos.

Os autores reconhecem uma limitação em relação ao custo de construção, observando que o processo de prática iterativa requer mais tempo offline comparado a métodos baseados em extração, embora isso não impacte a latência da predição online. Eles enfatizam que o método é livre de treinamento e depende da capacidade de raciocínio inerente do LLM, potencializada por esta evolução estruturada da memória.