Auditing Forgetting in Limited Memory Language Models

Resumo Técnico: Auditoria de Esquecimento em Modelos de Linguagem de Memória Limitada

Definição do Problema
Modelos de Linguagem de Memória Limitada (LMLMs) representam uma arquitetura híbrida que separa a competência linguística (codificada nos parâmetros do modelo) do conhecimento factual (armazenado em um banco de dados externo). Este design visa permitir o "desaprendizado baseado em exclusão", onde a remoção de fatos do banco de dados elimina o acesso a eles sem a necessidade de retreinar o modelo. No entanto, os métodos de avaliação existentes para o esquecimento são insuficientes. Eles tipicamente medem a correção agregada antes e depois da exclusão, mas falham em distinguir o mecanismo da correção pós-exclusão. Um modelo pode ainda responder corretamente devido a:

1. Memória paramétrica residual: O fato permanece codificado nos pesos do modelo.
2. Caminhos de recuperação alternativos: O fato é recuperado via aliases, paráfrases ou entradas semanticamente relacionadas que não foram explicitamente deletadas.
3. Artefatos de recuperação: O modelo gera a resposta correta baseando-se em candidatos vizinhos próximos que não são equivalentes ao fato deletado (gold-equivalent).

As métricas atuais não conseguem determinar se o conhecimento foi com sucesso externalizado ou se ele persiste internamente dentro dos parâmetros do modelo.

Metodologia: Estrutura de Auditoria Causal
Os autores propõem uma estrutura de auditoria causal que mantém o modelo fixo enquanto varia o estado do banco de dados no momento da inferência. A estrutura avalia 12.228 exclusões de fechamento de alias em treze bancos de dados (incluindo o banco de dados LMLM lançado e doze variantes customizadas) utilizando seis formulações de prompt diferentes.

A estrutura emprega três estados de intervenção controlados:

1. FULL (COMPLETO): O banco de dados está intacto e a recuperação está habilitada. Isso estabelece a precisão basal (baseline).
2. DEL-ON (DELEÇÃO ATIVA): O fato alvo (e seus equivalentes de alias) é deletado do banco de dados, mas a recuperação permanece habilitada. Isso testa a recuperação via caminhos alternativos ou artefatos.
3. DEL-OFF (DELEÇÃO INATIVA): O fato alvo é deletado e a recuperação é desabilitada. Isso isola a recuperação paramétrica, forçando o modelo a responder sem evidência externa.

Principais Métricas e Decomposição
A estrutura decompõe o comportamento pós-exclusão em três componentes distintos:

• Vazamento Paramétrico ($L(f)$): Ocorre quando o modelo responde corretamente no estado DEL-OFF. Isso indica que o fato deletado persiste nos parâmetros do modelo.
• Correção Mediada por Recuperação ($R(f)$): Ocorre quando o modelo está correto em DEL-ON, mas incorreto em DEL-OFF. Isso indica que a resposta foi recuperada via grafo de recuperação.
• Taxa de Artefato de Recuperação ($A(f)$): Ocorre quando o modelo produz a resposta correta em DEL-ON, apesar de não haver um candidato equivalente ao "gold" presente no traço de recuperação. Isso indica que a resposta foi reconstituída a partir de candidatos vizinhos próximos (ex: decoys parafrásticos).

Os autores constroem variantes customizadas do banco de dados para testar modos de falha específicos:

• Base: Apenas tripletos canônicos (baseline limpo).
• Alias: Fatos armazenados apenas sob formas de alias (testa a completude do fechamento de alias).
• Noise (Ruído): Tripletos de decoy com sujeitos parafrásticos apontando para o mesmo objeto (testa a reconstrução por vizinhos próximos).
• Collision (Colisão): Tripletos de "quase acerto" compartilhando o mesmo sujeito, mas roteando para um objeto diferente (testa o desvio por vizinhos confundíveis).

Principais Resultados
A auditoria produz várias descobertas críticas através de 36.684 conclusões do modelo:

1. Vazamento Paramétrico Próximo de Zero: Em todas as variantes de banco de dados e estilos de prompt, o vazamento paramétrico ($\hat{L}$) é efetivamente zero (0,11% em média). O modelo raramente retorna uma resposta deletada na ausência de recuperação. Isso sugere que, para esta classe de LMLM, a operação de "desaprendizado" dentro dos parâmetros do modelo é limpa; o modelo se comporta como se nunca tivesse visto o fato uma vez que a recuperação é desabilitada.
2. Resíduos Vivem no Grafo de Recuperação: A correção sobrevivente após a exclusão é quase inteiramente atribuível ao grafo de recuperação, não ao modelo. A taxa de correção mediada por recuperação ($R(f)$) coincide com a taxa de artefato de recuperação ($A(f)$) dentro de erros de arredondamento em todas as variantes. Isso confirma que a correção pós-exclusão é predominantemente reconstituída a partir da recuperação de vizinhos próximos em vez de ser lembrada.
3. A Topologia do Banco de Dados Controla os Resíduos: A magnitude do resíduo (a porcentagem de fatos deletados que sobrevivem) é determinada pela topologia do banco de dados, não pela arquitetura do modelo ou pelo estilo do prompt.
   • Base: ~3,7% de resíduo.
   • Alias: ~6,2% de resíduo.
   • Collision: ~7,2% de resíduo.
   • Noise: ~13,6% de resíduo (o pior caso, onde decoys parafrásticos permitem que a recuperação recupere a resposta).
   • Banco de Dados LMLM Lançado: ~0,7% de resíduo.
4. Impacto da Formulação do Prompt: Embora o estilo do prompt afete significamente a precisão basal (FULL) (variando de ~17% a ~57% de F1), ele tem controle independente mínimo sobre o resíduo pós-exclusão. Uma vez que a evidência de suporte é removida, a taxa de sobrevivência de um fato é ditada pela estrutura do grafo de recuperação, não pela forma superficial da pergunta.

Significância e Alegações
O artigo alega que a principal contribuição é uma decomposição do comportamento de esquecimento, em vez de uma única métrica agregada. Ao isolar a recuperação paramétrica da correção do lado da recuperação, a auditoria revela que:

• A "fronteira de desaprendizado" nesta classe de LMLM é desenhada primariamente pelo administrador do banco de dados, não pelo modelo.
• Procedimentos de exclusão padrão que apenas removem o tripletos canônicos e equivalentes de alias são insuficientes se o grafo de recuperação contiver decoys parafrásticos (como visto na variante "Noise").
• A correção residual observada em estudos anteriores (ex: o artigo original do LMLM) é provavelmente uma propriedade do grafo de recuperação específico utilizado (que era benigno) e não uma falha do modelo em esquecer.

Os autores concluem que, para um desaprendizado eficaz em LMLMs, a governança deve se estender além dos aliases de entidades para incluir a topologia do grafo de recuperação, garantindo que as rotas parafrásticas para informações sensíveis também sejam fechadas no momento da exclusão. O artigo não afirma que os LMLMs são universalmente perfeitos no desaprendizado, mas sim que seus modos de falha são estruturais ao design do banco de dados, e não inerentes à memória paramétrica do modelo.