Mechanistic Circuit-Based Knowledge Editing in Large Language Models

Título: Preenchendo a Lacuna de Raciocínio: Edição de Conhecimento Baseada em Circuitos Mecanísticos em Grandes Modelos de Linguagem

1. O Problema: A "Lacuna de Raciocínio" (Reasoning Gap)

A implementação de Grandes Modelos de Linguagem (LLMs) em ambientes dinâmicos enfrenta o desafio de atualizar seu conhecimento pré-treinado sem retreinamento completo. Embora métodos existentes de edição de conhecimento (como ROME e MEMIT) consigam corrigir fatos isolados com sucesso, eles frequentemente falham em um fenômeno crítico denominado "Lacuna de Raciocínio".

• O Fenômeno: O modelo consegue recordar o fato editado quando solicitado diretamente (ex: "Quem é o primeiro-ministro?"), mas falha ao utilizar essa informação em cadeias de raciocínio de múltiplos passos (ex: "De qual partido político o primeiro-ministro é líder?").
• A Causa: A edição tradicional trata o conhecimento como unidades atômicas isoladas armazenadas em camadas específicas (MLPs). No entanto, a interpretação mecanística sugere que a recuperação e o uso do conhecimento são governados por circuitos de raciocínio distribuídos (subgrafos computacionais esparsos compostos por cabeças de atenção e MLPs).
• A Falha: Ao editar apenas o "armazenamento" do fato, os métodos tradicionais não reparam as "fios" lógicos (rotas de roteamento) necessários para propagar essa informação através das camadas do modelo durante inferências complexas.

2. Metodologia: MCircKE (Mechanistic Circuit-based Knowledge Editing)

Os autores propõem o MCircKE, um novo framework que abandona a estratégia de "localizar e substituir" (baseada em heurísticas de camadas) ou a estimulação indireta via dados (como o CaKE), adotando uma abordagem de "mapear e adaptar" baseada em mecanismos.

O processo ocorre em três etapas principais:

1. Descoberta do Circuito (Circuit Discovery):

   • O modelo é tratado como um Grafo Acíclico Direcionado (DAG).
   • Utiliza-se a técnica EAP-IG (Edge Attribution Patching with Integrated Gradients) para atribuir importância causal a cada aresta (conexão) da rede. O EAP-IG supera a saturação de gradientes comum em redes profundas, permitindo identificar quais caminhos específicos transportam a informação para uma tarefa de raciocínio.
   • São criados pares de entrada "limpa" (com o fato correto) e "corrompida" (com um fato alternativo) para calcular os escores de atribuição.
   • Aplica-se uma poda top-K para isolar o subgrafo esparsos (o circuito) que é causalmente responsável pela tarefa de raciocínio.

2. Adaptação Guiada por Circuito (Circuit-Guided Low-Rank Adaptation):

   • Uma vez mapeado o circuito, a atualização dos parâmetros é restrita exclusivamente aos módulos dentro desse circuito.
   • Utiliza-se LoRA (Low-Rank Adaptation) apenas nas matrizes de peso identificadas no circuito ($W_{new} = W + \alpha BA$).
   • Parâmetros fora do circuito são congelados ($\Delta W' = 0$), garantindo que a edição seja cirúrgica e mecanicamente localizada, reconfigurando o fluxo de informação lógico sem perturbar o restante do modelo.

3. Contribuições Chave

• Insight Mecanístico: Realizaram uma análise diagnóstica que revela que a falha em edições de múltiplos saltos (multi-hop) não é apenas uma falha de recuperação, mas um desalinhamento estrutural. Mostraram que o raciocínio multi-hop ativa nós e arestas adicionais em camadas intermediárias e tardias que não são ativadas em recuperações de único salto.
• Novo Framework (MCircKE): Propõem o primeiro framework de edição que mapeia explicitamente circuitos de raciocínio dinâmicos e realiza atualizações cirúrgicas restritas a esses caminhos, em vez de depender de heurísticas de camadas ou apenas de aumento de dados.
• Validação Empírica: Demonstraram experimentalmente que a abordagem baseada em circuitos supera significativamente os métodos existentes na integração de conhecimento editado em cadeias de raciocínio complexas.

4. Resultados Experimentais

Os experimentos foram conduzidos no benchmark MQuAKE-3K (focado em perguntas de múltiplos saltos) em variantes do GPT-2 (Large, XL) e GPT-J.

• Desempenho em Raciocínio Multi-hop: O MCircKE superou consistentemente todos os baselines (incluindo LoRA, ROME, MEMIT, WISE, AlphaEdit e CaKE).
  • No GPT-2 Large, atingiu 50,4% de precisão em multi-hop, superando o melhor método anterior (CaKE) em mais de 15 pontos percentuais.
  • No GPT-2 XL e GPT-J, também obteve as melhores taxas de precisão, demonstrando ganhos consistentes em perguntas de 2, 3 e 4 saltos.
• Análise de Trade-off (Raciocínio vs. Recordação): Enquanto o CaKE (que usa dados sintéticos) manteve uma leve vantagem na recordação de único salto (single-hop), o MCircKE foi superior em raciocínio complexo. Isso sugere que reparar a estrutura do circuito gera uma generalização mais robusta do que a imitação comportamental implícita.
• Localidade e Estabilidade: O método demonstrou alta localidade, com mudanças mínimas de desempenho em benchmarks não relacionados (MMLU, CommonsenseQA), indicando que a edição cirúrgica não degrada o conhecimento existente.
• Estudo de Ablação:
  • Atualizar apenas os MLPs (como fazem métodos tradicionais) resultou em colapso no desempenho multi-hop (26% vs 67% do MCircKE), validando a hipótese de que o "roteamento" é tão crucial quanto o "armazenamento".
  • Atualizar arestas aleatórias ou todo o gráfico (Full Graph) foi inferior, confirmando que a restrição ao circuito causal atua como uma regularização estrutural eficaz.

5. Significância e Conclusão

O trabalho é significativo porque muda o paradigma da edição de conhecimento: de uma abordagem baseada em armazenamento estático para uma baseada em fluxo de informação dinâmico.

• Implicação Teórica: Demonstra que a inteligência de raciocínio em LLMs reside em circuitos transitórios e esparsos, e que editar o modelo exige a compreensão e modificação desses caminhos lógicos, não apenas dos pesos de camadas específicas.
• Implicação Prática: Oferece uma solução viável para manter LLMs atualizados em ambientes dinâmicos, garantindo que novos fatos sejam não apenas memorizados, mas logicamente integrados para suportar inferências complexas.

Limitações Notadas: O custo computacional para calcular os gradientes integrados (EAP-IG) pode ser alto para modelos extremamente grandes em tempo real, e a estratégia de poda top-K fixa pode não ser ideal para todos os tipos de fatos (simples vs. complexos), sugerindo a necessidade de limiares adaptativos futuros.