Resumo Técnico: O Acesso Compartilhado Repetido Permite o Grokking, mas a Propagação de Edição Depende de uma Memória Endereçável de Grão Fino

Declaração do Problema

Este artigo investiga os mecanismos subjacentes à propagação de edição factual em tarefas de raciocínio composicional. Embora trabalhos recentes tenham estabelecido que tanto os transformers em loop quanto os modelos aumentados por memória podem superar a barreira do "grokking" (generalização tardia para composições fora de distribuição, ou OOD), onde transformers densos padrão falham, permanece incerto se essas arquiteturas são funcionalmente equivalentes para edição. Especificamente, se um modelo aprende com sucesso uma tarefa composicional, uma edição localizada a um único fato atômico se propaga corretamente através de composições subsequentes? Os autores visam determinar se a capacidade de propagar edições é uma consequência do acesso compartilhado repetido (um ingrediente comum para o aprendizado) ou se requer um substrato de memória endereçável específico.

Metodologia

O estudo emprega um cenário controlado de QA de Grafos de Conhecimento (KG) sintético (baseado em Wang et al. [26]) envolvendo fatos atômicos e composições de 2 saltos (2-hop). Os autores utilizam uma grade experimental 2×2 cruzando dois fatores:

1. Tipo de Backbone: Denso (passagem única) vs. em Loop (recomputação repetida com pesos atados).
2. Acesso à Memória: Nenhum vs. Memória Compartilhada (memória armazenada explicitamente consultada entre as iterações).

Isso resulta em quatro arquiteturas:

• Dense (Denso): Transformer padrão, sem memória, sem loop.
• Loop: Transformer em loop, sem memória externa.
• Dense+Mem: Backbone denso com memória compartilhada (sem loop).
• LMC (Acoplamento Loop-Memória): Backbone em loop com memória compartilhada.

Protocolo Experimental:

• Estudo 1 (Aprendizado): Mede o "grokking" (o início da acurácia OOD > 0,1) para identificar quais arquiteturas cruzam a barreira de generalização. Controles auxiliares incluem uma memória FFN única e compartilhada e um loop parcialmente compartilhado para isolar a necessidade de roteamento esparso e recorrência total.
• Estudo 2 (Edição): Utiliza um protocolo comum de propagação de edição. Uma edição direta bem-sucedida (inversão de uma previsão de um salto/single-hop) é aplicada a cada substrato. A propagação é medida pela verificação se a composição de 2 saltos atualiza corretamente para refletir o novo fato de ponte.
• Localização: Intervenções de causal patching e interchange são usadas para verificar se os fatos são armazenados em locais de memória específicos e dominantes e se são reutilizados durante a composição.
• Diagnósticos: Um diagnóstico de intercâmbio "HOLDANS" (Hold-Answer-Subspace) é usado para medir o tempo de injeção do fato e o tamanho da janela de reutilização.

Principais Contribuições

1. O Acesso Compartilhado Repetido como o Princípio Habilitador para o Grokking

O artigo confirma que o acesso compartilhado repetido é o ingrediente comum que permite a generalização OOD (grokking), independentemente da implementação específica.

• Tanto o Loop (recomputação repetida) quanto o LMC/Dense+Mem (releitura de memória repetida) cruzam com sucesso a barreira OOD.
• Modelos Dense (sem compartilhamento) falham em generalizar.
• Controles auxiliares mostram que o roteamento MoE esparso não é estritamente necessário para o grokking (um FFN único e compartilhado é suficiente), nem o atamento total de pesos (compartilhamento parcial funciona). O fator crítico é a capacidade de reutilizar um substrato portador de fatos através das iterações.

2. Localização de Fatos em Sítios Endereçáveis

Na arquitetura LMC, o estudo demonstra que fatos atômicos são localizados em especialistas de memória dominantes e reutilizados durante a composição.

• Regime de Armazenamento Único: Para 199/199 átomos testados, o especialista dominante na etapa de um salto (step0) é idêntico ao especialista dominante usado quando o fato serve como uma ponte em uma consulta de 2 saltos (step1).
• Controle Causal: Suprimir o especialista dominante colapsa a recuperação, enquanto suprimir outros não o faz. Intervenções de substituição de ponte confirmam que a composição depende de buscas iterativas de um salto em vez de memorização direta de dois saltos.

3. A Endereçabilidade Determina a Propagação de Edição

A descoberta central é uma dissociação entre competência de aprendizado e capacidade de edição. Enquanto o acesso repetido permite o aprendizado, a memória endereçável é necessária para uma propagação de edição robusta.

• Substratos Portadores de Memória (LMC, Dense+Mem): Exibem forte propagação de edição (0,71–0,96). Uma edição localizada a um único fato atualiza com sucesso a composição de 2 saltos.
• Substratos Sem Memória (Loop, Dense): Exibem propagação fraca ou inexistente.
  • Loop: Mostra propagação intermediária (0,04–0,30). Eles compartilham computação, mas carecem de um site endereçável explícito para ser alvo de edição.
  • Dense: Propagação quase nula (0,00–0,03).
• Separação Estatística: A divisão entre células portadoras de memória e sem memória é estatisticamente significativa (Mann–Whitney $p=0,008$), enquanto as duas células portadoras de memória são estatisticamente indistinguíveis ($p=0,55$).

4. Precisão da Edição no LMC

A edição no LMC é altamente precisa.

• Edições de Uma Linha (One-Row Edits): Modificar apenas a linha do maior valor ativado ($m=1$) no site de memória dominante alcança 100% de sucesso direto e média de 0,989 de propagação em sondagens internas.
• Localidade: Esta edição esparsa minimiza danos colaterais a fatos não relacionados (~0,1%). No entanto, fatos "co-residentes" (aqueles que compartilham o mesmo especialista) podem vazar em proporção à similaridade do estado oculto, apoiando uma visão de superposição de localidade.

Resumo dos Resultados

Arquitetura	Backbone	Memória	Grokking (OOD)	Propagação de Edição (Forte)
Dense	Denso	Nenhum	Não	0,00 – 0,03
Loop	Em Loop	Nenhum	Sim	0,04 – 0,30 (Intermediária)
Dense+Mem	Denso	Compartilhada	Sim	0,71 – 0,96 (Forte)
LMC	Em Loop	Compartilhada	Sim	0,78 – 0,92 (Forte)

• Janela de Injeção: O diagnóstico "HOLDANS" sugere uma ordenação grosseira: o LMC injeta fatos precocemente em um site endereçável com uma ampla janela de reutilização; o Loop injeta tardiamente com uma janela estreita; o Dense não possui uma janela confiável. No entanto, este é um diagnóstico de nível de substrato e não prevê a propagação no nível da semente (ex: dentro do Loop, altos escores de HOLDANS não correlacionam com alta propagação).

Significância e Alegações

O artigo afirma fornecer um estudo de mecanismo controlado (um "organismo modelo" para propagação de edição) em vez de uma nova proposta de arquitetura. Sua significância reside em:

1. Dissociar Aprendizado de Edição: Demonstra que os mecanismos que permitem a um modelo aprender tarefas composicionais (acesso compartilhado repetido) são distintos daqueles que permitem editar essas tarefas (endereçabilidade de grão fino).
2. Refinar o Papel dos Loops: Transformers em loop são mostrados como um caso intermediário e parcial para edição. Eles compartilham computação (permitindo o aprendizado), mas carecem do site endereçável explícito necessário para uma edição limpa e direcionada.
3. A Necessidade de Endereçabilidade: A propagação de edição bem-sucedida depende de se o substrato expõe uma memória endereçável de grão fino que a computação de fluxo direto possa escrever e, posteriormente, reler.
4. Dependência de Granularidade: O artigo observa que a vantagem de edição da memória escala com a finura do armazenamento endereçável. Embora os resultados primários usem roteamento de grão fino ($N=128$), um teste de grão grosso ($N=13$) mostrou que a vantagem persiste, mas atenua, sugerindo que a "endereçabilidade" é o fator central, embora sua eficácia seja modulada pela granularidade do roteamento.

Os autores declaram explicitamente que estas descobertas derivam de um cenário sintético controlado e não pretendem generalizar diretamente para pré-treinamento de linguagem natural ou sistemas de recuperação aumentada sem validação adicional. O trabalho estabelece um precondição mecanística: para que a propagação de edição ocorra, o modelo deve armazenar fatos em uma memória endereçável, dentro do loop, que é relida pela computação normal.