💬 NLP

Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History

O artigo apresenta o Engram, um motor de memória bi-temporal de código aberto que supera os modelos de linha de base de contexto total em precisão e eficiência ao combinar uma via de escrita sem perdas com uma estratégia de leitura híbrida que monta um contexto compacto e com marcação de proveniência a partir de um grafo de conhecimento bi-temporal, alcançando uma pontuação de 83,6% no LongMemEval_S enquanto utiliza significativamente menos tokens.

Autores originais: Liuyin Wang

Publicado 2026-06-10

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Liuyin Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: A "Mochila Sobrecarregada"

Imagine que você está tentando resolver um mistério, mas seu parceiro detetive (a IA) tem uma mochila que fica mais pesada toda vez que vocês conversam.

O Jeito Antigo: Para se lembrar de uma pista de três dias atrás, você despeja a mochila inteira sobre a mesa. Ela está cheia de tudo: o relatório do tempo de terça-feira, o cardápio de um restaurante que você visitou na semana passada e a pista real que você precisa.
O Resultado: O detetive fica sobrecarregado pelo lixo (distrações). Eles gastam tanto tempo vasculhando o lixo que perdem a pista ou ficam confusos com o ruído. Além disso, carregar essa mochila pesada é lento e caro.

A Solução: Engram (O "Bibliotecário Inteligente")

Os autores criaram um novo sistema chamado Engram. Em vez de despejar a mochila inteira, o Engram age como um bibliotecário superinteligente que mantém um arquivo perfeito e organizado. Quando você faz uma pergunta, o bibliotecário não traz a biblioteca inteira para você; ele traz apenas as páginas específicas de que você precisa, além de uma nota clara sobre quando essas páginas foram escritas.

Veja como funciona, dividido em três partes simples:

1. O Processo de Escrita de Duas Etapas (Sistema-1 e Sistema-2)

O Engram escreve memórias de duas maneiras diferentes, como um cérebro humano:

A Escrita Rápida (Sistema-1): Quando você conversa, o Engram salva instantaneamente uma cópia bruta e sem perdas da conversa (como uma gravação de câmera de segurança). Isso acontece em milissegundos e não te atrasa.
O Pensar Lento (Sistema-2): Mais tarde, quando o sistema está ocioso, ele lê essa gravação e a transforma em fatos atômicos (declarações simples como "X trabalha em Y"). Ele constrói uma linha do tempo desses fatos.
- O Truque Mágico: Se um fato muda (ex: "X trabalha em Y" torna-se "X trabalha em Z"), o Engram não deleta o antigo. Ele marca o antigo como "expirado" e o vincula ao novo. Isso cria uma "cadeia de sucessão". Você sempre pode olhar para trás e ver: "Ah, às 14:00, pensávamos que X trabalhava em Y, mas às 15:00, atualizamos para Z".

2. O Filtro "As-Of" (Viagem no Tempo)

Como o Engram mantém uma linha do tempo de quando os fatos eram verdadeiros, ele pode responder perguntas baseadas em quando você está perguntando.

Analogia: Se você perguntar "Onde X trabalhava?", o Engram sabe que deve verificar a linha do tempo. Se você estiver perguntando sobre o mês passado, ele mostra o emprego antigo. Se estiver perguntando sobre hoje, ele mostra o emprego novo. Ele não se confunde com contradições porque sabe exatamente quando cada versão era válida.

3. A Leitura Híbrida (O Melhor dos Dois Mundos)

Quando você faz uma pergunta, o Engram não apenas adivinha. Ele usa uma busca "híbrida":

Ele procura pelos fatos (as notas limpas e organizadas).
Ele também pega os fragmentos brutos (os trechos originais da conversa) para garantir que não perderá pequenos detalhes.
Ele mistura esses elementos, filtra o lixo e entrega ao detetive uma pilha de papéis minúscula e perfeita (cerca de 9.600 palavras) em vez da biblioteca inteira (79.000 palavras).

Os Resultados: Menos é Mais

Os autores testaram isso em um exame de 500 perguntas chamado LongMemEvalS.

A Equipe de Contexto Total: Tentou responder lendo todo o histórico todas as vezes. Eles acertaram 73,2%.
A Equipe Engram: Respondeu usando apenas a pequena pilha filtrada de papéis relevantes. Eles acertaram 83,6%.

A Surpresa: Ao jogar fora 87% do texto (as distrações), o Engram tornou-se, na verdade, mais preciso. O ruído no histórico completo estava, na verdade, prejudicando o desempenho da IA.

Por Que Isso Importa (Segundo o Artigo)

Precisão sobre Custo: Geralmente, as pessoas tentam economizar dinheiro usando menos memória. O Engram prova que usar menos memória pode, na verdade, tornar a IA mais inteligente, porque impede que a IA se distraia.
Sem "Números Falsos": Os autores são muito rigorosos com a honestidade. Eles construíram uma ferramenta de teste ("harness") pública e reproduzível para que qualquer pessoa possa rodar o teste e ver os mesmos resultados. Eles corrigiram erros comuns onde outros pesquisadores acidentalmente davam a si mesmos uma vantagem injusta (como deixar a IA ver a resposta no histórico completo).
Privacidade e Controle: Como o sistema mantém um rastro claro de "o que era acreditado e quando", é mais fácil deletar memórias específicas se um usuário pedir para ser esquecido. Além disso, ele roda localmente, o que significa que seus dados não precisam sair do seu computador.

Conclusão

O Engram mostra que, para agentes de IA, a qualidade da memória importa mais do que a quantidade. Em vez de forçar a IA a ler toda a história de sua vida para responder a uma pergunta simples, um sistema inteligente e consciente do tempo, que recupera apenas os fatos relevantes e verificados, pode resolver problemas de forma mais rápida, barata e precisa.

Resumo Técnico: Engram – Um Mecanismo de Memória Bi-Temporal para Agentes de LLM

1. Declaração do Problema

A memória de longo prazo permanece uma lacuna crítica para agentes de LLM, que são inerentemente sem estado (stateless) entre sessões. A solução paliativa predominante — concatenar todo o histórico da conversa no prompt — sofre de três problemas cumulativos:

Custo e Latência: Os custos de tokens e a latência de inferência crescem linearmente com o comprimento do histórico.
Degradação de Precisão: À medida que turnos irrelevantes se acumulam ("distratores"), o modelo tem dificuldade em localizar evidências relevantes, um fenômeno conhecido como "perdido no meio" (lost in the middle).
Crise de Reprodutibilidade: Os benchmarks de memória existentes sofrem de harnesses de avaliação inconsistentes (métodos de ingestão, prompts de resposta e juízes variados), levando a relatórios de desempenho contraditórios onde o mesmo sistema apresenta pontuações vastamente diferentes entre fontes.

Os sistemas de memória atuais frequentemente otimizam para custo ou velocidade, mas falham em superar a precisão da linha de base de contexto total. O artigo postula que um recorte de contexto precisamente recuperado e enxuto não deve apenas ser mais barato, mas também mais preciso do que a janela completa e ruidosa.

2. Metodologia: O Sistema Engram

O Engram é um mecanismo de memória de processo duplo, de código aberto, construído sobre um modelo de dados bi-temporal. Ele separa as operações de memória em um caminho de escrita rápida e um caminho de consolidação assíncrona, alimentando um caminho de leitura híbrido.

2.1 Modelo de Dados Bi-Temporal

O sistema trata o tempo como um cidadão de primeira classe usando dois eixos:

Tempo do Evento (Tempo de Validade): Quando um fato era verdadeiro no mundo.
Tempo de Transação: Quando o sistema aprendeu ou retratou o fato.
Estruturas de Dados:
- Episódios: Turnos/eventos brutos e sem perdas, carimbados com ambos os eixos temporais.
- Fatos: Alegações atômicas (Sujeito, Predicado, Objeto) com texto de superfície, embeddings, pontuações de saliência e proveniência. Os fatos carregam carimbos de tempo valid_at/invalid_at e created_at/expired_at.
- Grafo: Entidades e relações com arestas bi-temporais.
Invariante: Fatos nunca são excluídos permanentemente. Fatos contraditos são invalidados (marcados com invalid_at) e substituídos por novos fatos, preservando um rastro de auditoria e proveniência completo.

2.2 Arquitetura de Processo Duplo

Sistema-1 (Caminho de Escrita Quente/Hot Write Path):
- Operação: Anexa episódios sem perdas, resolve a identidade entre sessões, computa embeddings leves e enfileira para consolidação.
- Restrição: Sem chamadas de LLM no caminho crítico; a latência é mantida abaixo de 50ms.
Sistema-2 (Consolidação Assíncrona):
- Operação: Extrai fatos atômicos (baseados em regras ou LLM), constrói o grafo de conhecimento bi-temporal, detecta conflitos e invalida fatos substituídos.
- Resolução de Conflitos: Utiliza uma política de "baixo custo, depois escalonamento". Correspondências exatas de slots ou contradições temporais claras são resolvidas sem chamadas de LLM. Casos ambíguos escalam para um adjudicador de LLM.
- Saliência: Aplica pontuação de decaimento/reforço para desvanecer memórias não reforçadas.
Caminho de Leitura Híbrido:
- Recuperação: Decompõe consultas e recupera através de quatro canais paralelos: semântica densa (embeddings BGE), lexical (BM25), travessia de grafo (n-hop) e recência/saliência.
- Fusão: Combina listas ranqueadas usando Reciprocal Rank Fusion (RRF) e reranking opcional por cross-encoder.
- Filtragem: Aplica um filtro bi-temporal "as-of" (recuperando fatos válidos em um ponto específico no tempo) e um portão de abstenção (recusando responder se a evidência estiver ausente).
- Montagem de Contexto: Constrói um contexto compacto contendo fatos resolvidos de conflitos, fragmentos de sessão brutos relevantes e resumos de sessão.

2.3 Harness de Avaliação Reproduzível

Os autores contribuem com um harness de avaliação neutro, residente no repositório, projetado para eliminar problemas de integridade de medição:

Juiz Oficial: Utiliza os prompts de juiz específicos por categoria do LongMemEvalS, evitando juízes criados internamente.
Linha de Base de Contexto Total: Inclui o histórico completo na comparação de cada vez.
Correções de Integridade: Corrige problemas como truncamento de contexto total (garantindo que a linha de base veja todo o "palheiro") e "fatos prependados ao histórico total" (garantindo que o teste meça a recuperação, não apenas o aumento de memória).
Determinismo: Executa com fallbacks offline sem dependências para testes unitários; logs brutos por pergunta são publicados para cada métrica.

3. Principais Contribuições

Mecanismo de Processo Duplo: Um sistema de memória com resolução de conflitos não destrutiva (invalidação vs. sobrescrita) que resolve a maioria dos conflitos sem chamadas de LLM.
Ganho de Precisão Empírica: Demonstração de que um contexto enxuto e recuperado (~~9.6k tokens) supera a linha de base de contexto total (~~79k tokens) em precisão.
Harness Neutro: Um pipeline de avaliação reproduzível com juízes oficiais integrados, linhas de base de contexto total e logs brutos publicados para abordar a crise de reprodutibilidade do campo.
Insight do Caminho de Leitura Híbrido: Identificação de que um caminho de recuperação de "apenas fatos" perde recall; combinar fatos resolvidos de conflitos com fragmentos de sessão brutos é necessário para recuperar detalhes.

4. Resultados

Avaliado no benchmark LongMemEvalS (500 perguntas em 7 categorias) usando o juiz oficial:

Precisão Geral: A configuração enxuta do Engram alcançou 83,6% de precisão, comparado a 73,2% da linha de base de contexto total (+10,4 pontos).
Eficiência: A configuração enxuta usou ~8× menos tokens (9.6k vs 79k) enquanto mantinha maior precisão.
Significância Estatística: O ganho é decisivo estatisticamente (teste exato de McNemar, $p < 10^{-6}$ ). O Engram estava correto em 81 perguntas que a linha de base perdeu, contra 29 no sentido inverso.
Taxa de Erro: 0 erros em 500 perguntas para ambos os sistemas (nenhuma falha de sistema).
Desempenho por Categoria:
- Atualização de Conhecimento (Knowledge-Update): 87,5% (beneficia-se de invalidação/substituição).
- Raciocínio Temporal: 81,1% (beneficia-se de filtragem "as-of").
- Abstenção: 86,7% (o sistema declina corretamente quando a memória carece de respostas).
- Agregação Multi-sessão e Preferência: Pontuações mais baixas (79,3% e 73,3%), identificadas como áreas com margem para melhoria.
Observação de Ablação: Uma variante que prependeu fatos ao histórico total (engram_full) pontuou 83,4%, semelhante à versão enxuta. Isso sugere que os fatos estruturados impulsionam o ganho de precisão, enquanto o histórico total adiciona tokens sem melhorar a correção.

5. Significância e Alegações

O artigo reivindica duas contribuições primárias:

Melhoria de Qualidade sobre Otimização de Custo: O Engram demonstra que a memória de longo prazo pode ser um mecanismo de melhoria de qualidade, não apenas de economia de custos. Ao filtrar distratores, um recorte recuperado enxuto é mais preciso do que o contexto total.
Integridade de Medição: O artigo argumenta que os números de benchmarks do campo são frequentemente contestados devido a harnesses inconsistentes. Ao fornecer um harness neutro e reproduzível com o juiz oficial e a linha de base de contexto total, os autores afirmam que o "placar confiável" é tão valioso quanto o próprio sistema.

Os autores permanecem modestos quanto às limitações, observando que os resultados baseiam-se em um único benchmark e um único backbone de resposta. Eles identificam a agregação multi-sessão e o tratamento de preferências como desafios abertos e convocam trabalhos futuros envolvendo múltiplos backbones e ablações controladas de componentes. O sistema foi projetado para ser auto-hospedável com fallbacks offline, garantindo privacidade de dados e reprodutibilidade sem dependências de APIs externas.