Resumo Técnico: Tenure – Estado de Crença Estruturado na Memória de LLM

1. O Problema: O Imposto de Reorientação e a Falha na Abstração de Busca

O artigo identifica uma ineficiência fundamental nos fluxos de trabalho atuais de Modelos de Linguagem de Grande Escala (LLM): o imposto de reorientação. Toda nova sessão de LLM começa com uma janela de contexto em branco, forçando os usuários a reestabelecer preferências, restrições técnicas e decisões de projeto (por exemplo, "TypeScript com modo estrito", "driver MongoDB raw") em cada interação. Sem esse contexto, os modelos geram com confiança saídas incorretas, exigindo prompts corretivos que aumentam a sobrecarga.

A resposta dominante da indústria tem sido a Memória Aumentada por Recuperação (RAM): armazenar o histórico de conversas, incorporá-lo e recuperar fragmentos semanticamente similares por meio de busca vetorial (por exemplo, similaridade de Cosseno). Os autores argumentam que essa é a abstração errada por três razões:

1. A memória é um problema de estado, não de busca: Preferências e decisões são restrições estruturais ativas, não fatos passivos a serem recuperados apenas quando uma consulta corresponde. A recuperação introduz condicionalidade desnecessária onde uma garantia estrutural é exigida.
2. A busca por similaridade falha em contextos de vocabulário limitado: Em ambientes de usuário único ou equipes convergentes, todas as crenças sobre um domínio técnico específico (por exemplo, infraestrutura) são semanticamente próximas. A busca vetorial não consegue discriminar entre uma consulta sobre "Redis" e crenças sobre "MongoDB" ou "Kubernetes", pois ocupam a mesma região semântica (escores de cosseno de 0,65 a 0,83). Isso leva a uma alta recuperação, mas a uma precisão catastrófica.
3. Rotação de Contexto: Sistemas que carecem de gerenciamento explícito de estado acumulam fatos obsoletos, superados ou contraditórios. Sem um mecanismo para supersessão, os sistemas de memória eventualmente produzem respostas confiantes fundamentadas em contexto desatualizado.

2. Metodologia: A Arquitetura Tenure

O Tenure é proposto como um proxy local-first que trata a memória como um estado de crença tipado, em vez de um índice de busca. Ele opera sob um paradigma de recuperação "precisão primeiro", substituindo a similaridade semântica por extração estruturada e correspondência de termos ponderada por aliases.

2.1 O Esquema de Crença

A unidade atômica da memória é a Crença, uma tupla de 14 campos derivada da arquitetura Crença-Desejo-Intenção (BDI), mas delimitada ao estado persistente. Componentes-chave incluem:

• Tipos: preferência, decisão, entidade, questão aberta, relação.
• Status Epistêmico: ativa, inferida, exploratória, superada. Crucialmente, crenças superadas são mantidas para auditoria, mas nunca injetadas, prevenindo a rotação de contexto.
• Âmbito: Rótulos de isolamento rígido (por exemplo, usuário:universal, domínio:código, projeto:<slug>) que atuam como filtros estruturais, não como pesos probabilísticos.
• O Campo "Por Que Importa": Uma instrução imperativa que converte um fato em uma ação (por exemplo, "Molda todos os exemplos de código para TypeScript..."). Este campo é gerado no momento da escrita, quando o modelo tem contexto total, fornecendo "inferência cristalizada" em vez de material bruto para o modelo re-derivar.

2.2 Recuperação Precisão-Primeiro (BM25 sobre Vetores)

O Tenure rejeita a similaridade de incorporação para o caminho de leitura. Em vez disso, utiliza BM25 com impulsionamento ponderado por aliases em um repositório de crenças, onde os aliases são autorados para corresponder às superfícies de consulta esperadas.

• Assimetria Índice-Busca: O sistema explora o problema de recuperação invertido (consultas longas versus documentos curtos e estruturados). Utiliza analisadores personalizados para mapear nomes canônicos em snake_case (por exemplo, redis_cache) para formas tokenizadas e aplica geração de shingle para correspondência de frases.
• Volante de Enriquecimento de Alias: O sistema indexa continuamente novas formas de superfície (aliases) observadas nas consultas do usuário, aumentando a precisão ao longo do tempo.
• Propriedade de Sinal Contrário: Os aliases incluem termos para tecnologias rejeitadas (por exemplo, express na lista de aliases de uma crença fastify), permitindo que o sistema traga à tona a preferência ativa quando um usuário consulta uma alternativa rejeitada.

2.3 Extração e Compactação

• Extração no Momento da Escrita: As crenças são extraídas assincronamente por meio de um bloco sidecar. Um portão de nível garante que apenas modelos com alta confiabilidade de saída estruturada realizem a extração.
• Compactação: Para evitar o acúmulo de ruído, o sistema funde crenças sobrepostas, elimina preferências duplicadas e sintetiza níveis de expertise. Isso previne o modo de falha de "acúmulo de alucinação" observado em sistemas de memória não estruturados.
• Isolamento de Âmbito: Um filtro rígido pós-busca garante que crenças de âmbitos não autorizados (por exemplo, projeto:cliente-b quando em projeto:cliente-a) nunca sejam recuperadas, independentemente da similaridade semântica.

3. Contribuições Principais

1. Esquema Formal de Crença: Um esquema tipado com status epistêmico, supersessão versionada e instruções imperativas de "por que importa".
2. Design de Recuperação Precisão-Primeiro: Uma demonstração empírica de que o BM25 ponderado por aliases supera a busca vetorial densa em contextos de vocabulário limitado.
3. Arquitetura de Compactação: Mecanismos para enriquecimento de aliases, indexação de sinal contrário e fusão de crenças para evitar o acúmulo do piso de ruído.
4. Suite de Avaliação de 72 Casos: Um benchmark reutilizável cobrindo resolução de aliases, desambiguação de âmbito, cadeias de supersessão e derivação de tópico em múltiplas voltas.

4. Resultados

O artigo apresenta uma avaliação controlada em 72 casos de recuperação (60 estáticos, 12 em nível de sessão) comparando o backend BM25 do Tenure com um backend vetorial padrão (nomic-embed-text, 768-dim).

• Precisão de Recuperação Estática:

  • BM25: 72/72 casos passaram (Precisão Média: 1,0).
  • Busca Vetorial: 8/72 casos passaram (Precisão Média: 0,12).
  • Observação: A busca vetorial recuperou a crença correta, mas foi acompanhada por 8 a 9 crenças de ruído de domínios semanticamente adjacentes (por exemplo, recuperar crenças do MongoDB ao consultar Redis).

• Derivação de Tópico em Múltiplas Voltas (Avaliação de Sessão):

  • Sob acúmulo em múltiplas voltas com derivação de tópico (por exemplo, alternar de Redis para Kubernetes/React), a pontuação de derivação do backend vetorial (fração de crenças de ruído recuperadas) subiu para 0,43–0,50.
  • O BM25 manteve uma pontuação de derivação de 0,0 em todas as voltas, isolando com sucesso a consulta de reentrada do ruído acumulado da sessão.

• Âmbito e Supersessão:

  • O BM25 aplicou corretamente o isolamento rígido de âmbito e as cadeias de supersessão (por exemplo, filtrando TSLint quando ESLint e Biome estavam ativos), enquanto a busca vetorial falhou em discriminar com base nessas restrições estruturais.

5. Significado e Alegações

O artigo argumenta que a memória de LLM entre sessões é um problema de gerenciamento de estado, não de busca.

• Garantia Estrutural vs. Recuperação Probabilística: O Tenure fornece uma garantia estrutural de que "as crenças certas aparecem, e apenas dentro dos limites que o usuário autorizou". Isso contrasta com sistemas baseados em busca, onde o modelo deve discriminar a relevância no momento da geração, reintroduzindo a sobrecarga cognitiva que o sistema visa eliminar.
• Inferência Acionável: Ao converter fatos em instruções imperativas ("por que importa") no momento da escrita, o Tenure garante que o modelo receba "inferência cristalizada" em vez de transcrições brutas que exigem re-derivação.
• Âmbito Modesto: Os autores afirmam explicitamente que a precisão da recuperação é uma condição necessária para a qualidade da resposta, não uma condição suficiente. O imposto de reorientação é uma alegação observacional; o artigo estabelece que o Tenure resolve a lacuna de precisão necessária para tornar a injeção de contexto viável, deixando a medição da qualidade final da resposta como uma questão em aberto.
• Aplicabilidade: Embora demonstrado em um corpus de usuário único, a arquitetura é alegada como extensível a equipes de engenharia onde bases de código compartilhadas e manuais de operação criam um "vocabulário convergente", satisfazendo as mesmas condições estruturais para precisão ponderada por aliases.

O artigo conclui que o Tenure oferece uma resposta coerente ao imposto de reorientação por meio de um esquema que torna o estado de crença auditável, um design de recuperação que garante precisão e uma arquitetura de compactação que mantém a integridade do repositório ao longo do tempo.