💬 NLP

Factual Retrieval in LLMs Is a Redundant, Distributed and Non-Contiguous Process

Este artigo revela que a recuperação de fatos em grandes modelos de linguagem depende de caminhos computacionais redundantes, distribuídos e não contíguos através de múltiplas camadas, desafiando a suposição de armazenamento de conhecimento localizado e explicando a discrepância observada na edição de conhecimento.

Autores originais: Hail Hochman, Natalie Shapira, Yoav Goldberg

Publicado 2026-06-23

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Hail Hochman, Natalie Shapira, Yoav Goldberg

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um Modelo de Linguagem Grande (LLM) como uma biblioteca massiva de vários andares, onde cada livro contém um pequeno pedaço do conhecimento do mundo. Por muito tempo, pesquisadores pensaram que, se você quisesse encontrar um fato específico — como "Qual é a língua materna de Angela Merkel?" — a resposta estaria armazenada em uma sala específica (uma camada específica do modelo) e seria recuperada em uma linha reta, andar por andar.

Este artigo argumenta que a realidade é muito mais caótica, flexível e redundante. Aqui está o detalhamento de suas descobertas usando analogias simples:

1. A Viagem de Elevador "Não Contígua"

A Ideia Antiga: Para obter uma resposta, o "elevador" interno do modelo (o processamento de dados) para em todos os andares, verificando a informação em cada etapa, do térreo ao topo.

A Descoberta do Artigo: O elevador não para em todos os andares. Na verdade, ele frequentemente pula andares inteiros.

A Analogia: Imagine que você está tentando fazer uma entrega de um pacote. Você não precisa que o caminhão de entrega pare em todas as casas da rua. Às vezes, o caminhão pode saltar do 2º andar diretamente para o 8º andar, ignorando os andares intermediários, e ainda assim entregar o pacote na porta certa.
A Descoberta: Os autores descobriram que, para recuperar um fato, o modelo só precisa de um conjunto específico e disperso de camadas. Ele pode "teletransportar" a informação através da rede, pulando muitos passos intermediários que acabam sendo desnecessários para aquele fato específico.

2. As "Rotas de Backup Redundantes"

A Ideia Antiga: Existe um caminho "correto" para encontrar um fato. Se você bloquear esse caminho, o modelo falha.

A Descoberta do Artigo: O modelo possui múltiplas rotas de backup que funcionam tão bem quanto a original.

A Analogia: Pense em uma cidade com uma rodovia principal. Se você bloquear a rodovia, o tráfego não para; ele é instantaneamente redirecionado para uma rede complexa de estradas secundárias, ruas laterais e até uma rodovia diferente que segue um trajeto mais longo e sinuoso. Ambas as rotas levam ao mesmo destino, mas parecem completamente diferentes.
A Descoberta: Para quase todos os fatos testados, os pesquisadores encontraram um "caminho primário" (a rota mais curta e eficiente) e pelo menos um "caminho alternativo" (uma rota mais longa e profunda). Se você bloquear o caminho primário, o modelo ainda consegue encontrar a resposta usando o caminho de backup. Isso significa que o conhecimento não está armazenado em apenas um lugar; ele é distribuído e redundante.

3. A "Equipe Mínima" vs. A Orquestra Inteira

A Ideia Antiga: Todo o modelo trabalha junto para gerar cada resposta.

A Descoberta do Artigo: Você só precisa de uma pequena equipe específica de camadas para realizar o trabalho.

A Analogia: Imagine uma orquestra sinfônica tocando uma música. Você pode assumir que todos os músicos são necessários para cada nota. Mas os autores descobriram que, para um fato específico, apenas alguns músicos específicos (camadas) estão realmente tocando as notas. O restante da orquestra está essencialmente em silêncio ou fazendo outra coisa.
A Descoberta: Eles identificaram um "caminho de computação de atributo mínimo". Este é o menor grupo de camadas necessário para produzir a resposta correta. Surpreendentemente, este grupo geralmente termina no meio do modelo. Uma vez que a informação é processada por essas poucas camadas, o restante do modelo não precisa fazer mais nenhum esforio pesado para saber a resposta.

4. O Mistério do "Descompasso de Edição"

A Ideia Antiga: Se você quiser alterar um fato no modelo (por exemplo, mudar "a língua de Merkel é alemão" para "francês"), você deve editar a camada específica onde esse fato está armazenado.

A Descoberta do Artigo: Onde o fato é "armazenado" e onde você precisa "editá-lo" costumam ser lugares diferentes.

A Analogia: Imagine uma linha de montagem de uma fábrica. A parte que fabrica o produto pode estar no início da linha, mas a parte que corrige um erro pode estar bem no final. Se você tentar consertar o produto no início, pode quebrar a máquina.
A Descoberta: Como o modelo utiliza esses caminhos dispersos e redundantes, simplesmente encontrar a camada onde os dados "parecem" ser a resposta não é suficiente. Para editar um fato com sucesso, você muitas vezes tem que intervir em um estágio de "transformação" específico no caminho, e não necessariamente onde o conhecimento parece estar sentado.

Resumo da "Visão Geral"

Os autores concluem que a maneira como os LLMs armazenam e recuperam fatos não é como um arquivo onde você puxa uma única gaveta. Em vez disso, é como uma rede neural altamente flexível e redundante onde:

O conhecimento é distribuído: Ele está espalhado por muitas camadas, não trancado em uma só.
Os caminhos são flexíveis: O modelo pode seguir rotas curtas e diretas ou rotas de backup longas e sinuosas para encontrar a mesma resposta.
Pular etapas é normal: O modelo frequentemente ignora camadas intermediárias, saltando diretamente para onde a informação é necessária.

Isso explica por que os modelos de IA são tão robustos (eles possuem backups), mas também por que é tão difícil identificar exatamente "onde" um fato vive ou como alterá-lo de forma confiável. O processo é uma dança complexa de várias etapas que acontece de uma forma não linear e dispersa.

Resumo Técnico: A Recuperação de Fatos em LLMs é um Processo Redundante, Distribuído e Não Contíguo

Declaração do Problema

Embora os Grandes Modelos de Linguagem (LLMs) demonstrem armazenar e recuperar conhecimento factual (por exemplo, prevendo "German" para "The mother tongue of Angela Merkel is"), o mecanismo preciso pelo qual as representações de entidades são transformadas para permitir a recuperação de atributos específicos permanece subexplorado. A literatura existente postula que a recuperação de fatos ocorre no posicionamento final do token da entidade e envolve um processo de três estágios: consolidação da entidade, enriquecimento da entidade (carregamento de atributos via MLPs) e extração do atributo. No entanto, os cálculos causais específicos necessários para transformar uma representação de entidade em um estado suficiente para a recuperação de atributos permanecem, em grande parte, não mapeados. É ambíguo se a recuperação é uma acumulação contínua de informações através das camadas ou um estado discreto alcançado em um ponto específico, e se o processo depende de um circuito único e localizado ou de um mecanismo distribuído.

Metodologia

Os autores propõem um framework centrado no caminho de computação de atributo: uma sequência de etapas computacionais (camadas do transformer) sobre uma representação de entidade necessária para eliciar um atributo alvo. O objetivo central é identificar um caminho de computação de atributo mínimo — um subconjunto de camadas que seja tanto suficiente quanto necessário para a computação, onde a remoção de qualquer camada interrompe a saída.

Para alcançar isso, os autores introduzem um novo protocolo de patching de ativação iterativo envolvendo três estágios principais:

Localizando o Ponto de Terminação ( $\ell_{attr}$ ):
Usando uma operação chamada lock (bloqueio), os autores realizam o patching da representação da entidade de uma camada específica $\ell$ para todas as camadas subsequentes. Eles identificam a camada mais precoce $\ell_{attr}$ tal que o bloqueio da representação neste ponto preserva a previsão correta do atributo. Isso estabelece um limite superior para o caminho mínimo, confirmando que nenhum processamento adicional é necessário além desta camada para que o atributo esteja totalmente disponível.
Identificando o Caminho Mínimo (Busca Gananciosa Iterativa):
Partindo do embedding da entidade, o algoritmo realiza uma busca gananciosa para encontrar a sequência mínima de camadas. Ele utiliza prompts contrafatuais (por exemplo, trocando "Angela Merkel" por "Bill Gates") para definir uma operação isolate (isolar). Nesta operação:
- A primeira camada do caminho candidato recebe o embedding limpo da entidade.
- As camadas subsequentes no caminho recebem a saída computada da camada anterior do caminho.
- Todas as camadas intermediárias entre as camadas do caminho recebem ativações da execução contrafatual.
  O algoritmo estende iterativamente o caminho pulando o máximo de camadas possível enquanto mantém a validade da previsão (ou seja, o modelo ainda produz o atributo correto). Isso garante que o caminho resultante seja mínimo e não contíguo.
Descobrindo Caminhos Alternativos:
Ao relaxar a restrição de que o caminho deve terminar em $\ell_{attr}$ e permitir que a busca se estenda para camadas mais profundas, os autores identificam caminhos mínimos alternativos. Esses caminhos são funcionalmente equivalentes ao caminho primário, mas diferem em comprimento, profundidade e composição de camadas.

O método foi aplicado ao LLaMA 3.1 8B (32 camadas) e Qwen3 8B (36 camadas) usando 2.000 prompts do dataset CounterFact.

Principais Resultados

1. Não Contiguidade e Esparsidade

Os caminhos de computação de atributo mínimos são frequentemente não contíguos. Os modelos frequentemente pulam camadas intermediárias inteiras durante o processo de recuperação.

LLaMA: 33,1% dos caminhos pulam pelo menos uma camada (tamanho médio do pulo: 0,7).
Qwen: 78,6% dos caminhos pulam pelo menos uma camada (tamanho médio do pulo: 2,0).
Isso indica que a recuperação de conhecimento factual não requer um fluxo contínuo através de todas as camadas; em vez disso, um subconjunto esparso de camadas realiza as transformações necessárias.

2. Processamento Distribuído e de Múltiplos Passos

Ao contrário da hipótese de que uma única camada ou uma faixa estreita de camadas é responsável pela recuperação, os caminhos mínimos envolvem consistentemente múltiplas camadas (comprimento médio do caminho: ~5,9 para LLaMA, ~7,9 para Qwen). A representação da entidade deve passar por várias transformações distintas antes que o atributo esteja totalmente disponível.

3. Redundância e Caminhos Alternativos

O estudo revela um alto grau de redundância. Para a maioria dos fatos explorados:

LLaMA: 80,1% dos casos possuem pelo menos um caminho alternativo funcionalmente equivalente.
Qwen: 82,7% dos casos possuem caminhos alternativos.
Esses caminhos alternativos são tipicamente mais profundos e longos do que os caminhos primários usados nas passagens progressivas padrão. Eles dependem de saltos não sequenciais massivos e recrutam conjuntos distintos e mais profundos de módulos, efetivamente contornando os centros de processamento primários.

4. Papéis Funcionais das Camadas

Profundidade de Terminação: As computações de atributo tipicamente completam-se em camadas iniciais a intermediárias (média de $\ell_{attr}$ : 4,61 para LLaMA, 7,97 para Qwen).
Suficiência de Representação: A representação em $\ell_{attr}$ é estritamente necessária (anulá-la interrompe >94% das previsões). No entanto, ela frequentemente não é suficiente por si só; camadas do caminho intermediário são necessárias para impulsionar as camadas superiores do modelo em uma parte significativa dos casos (taxa de falha de 44% para caminhos primários do LLaMA quando apenas $\ell_{attr}$ é injetado).
Propagação: Caminhos mais longos e não padronizados dependem mais fortemente da propagação de informação entre tokens via mecanismos de atenção em comparação aos caminhos primários.

5. Flexibilidade Modular

Os autores demonstraram que caminhos "híbridos" — construídos pela concatenação de prefixos de caminhos primários com sufixos de caminhos alternativos — podem restaurar com sucesso as previsões de atributos. Isso confirma que diferentes sequências de camadas podem realizar transformações funcionalmente equivalentes, e que os papéis das camadas não são estritamente um-para-um entre circuitos primários e de backup.

6. Resolução de Entidade vs. Recuperação de Atributo

O estudo encontrou uma forte dissociação entre Resolução de Entidade (ER) (a capacidade de reconstruir o nome da entidade) e a suficiência do atributo. Etapas de ER detectáveis ocorreram em uma minoria dos caminhos primários (12,9% para LLaMA) e ainda menos nos caminhos alternativos, sugerindo que a recuperação de atributos ocorre frequentemente de forma implícita, sem um "estado de identidade" distinguível acessível por métodos de sondagem.

Significância e Alegações

O artigo alega fornecer uma nova perspectiva sobre o subprocesso de enriquecimento de entidades, desafiando a "visão popular" de que os fatos são armazenados em camadas MLP específicas e localizadas. Em vez disso, os autores argumentam que:

O Conhecimento é Distribuído: A informação factual é armazenada e processada de maneira distribuída através de múltiplas camadas, exigendo uma sequência específica e não contígua de transformações para a recuperação.
O Conhecimento é Redundante: Os modelos possuem múltiplos caminhos computacionais funcionalmente equivalentes para o mesmo fato, explicando o "efeito hidra" onde os modelos se autorreparam quando os circuitos primários são ablados.
Descompasso de Localização-Edição: As descobertas oferecem uma explicação para o motivo pelo qual a edição de conhecimento frequentemente tem sucesso em locais diferentes de onde o conhecimento está localizado. Como a computação do atributo requer múltiplas transformações, a edição tem sucesso ao intervir em um estágio de transformação necessário, em vez de em um local de armazenamento específico.

Os autores concluem que o mecanismo de recuperação de fatos é muito mais complexo e elaborado do que anteriormente compreendido, caracterizado por alta redundância e computação distribuída, em vez de um circuito de recuperação linear e único. O trabalho fornece uma visão precisa de como o conhecimento factual enriquece as representações de entidades através de um novo protocolo de patching de ativação.