Resumo Técnico: MAAT: Multi-phase Adapter-Aware Targeted Unlearning

1. Declaração do Problema

O artigo identifica um viés estrutural crítico nos benchmarks de desaprendizado (unlearning) de modelos existentes (ex: CounterFact, ZSRE, TOFU, MUSE, WMDP-Cyber). Esses conjuntos de dados são fortemente enviesados para perguntas centradas em entidades do tipo "O quê", "Quem", "Quando" e "Onde", enquanto perguntas do tipo "Por que" — que investigam cadeias de conhecimento causal e relacional — compõem menos de 0,06% a 1,3% desses datasets.

Essa representação quase nula cria uma lacuna de medição: métodos de desaprendizado que falham em remover o conhecimento causal ainda podem alcançar pontuações agregadas elevadas. Os autores argumentam que o conhecimento causal é qualitativamente mais difícil de desaprender devido a dois fatores:

1. Extensão e Complexidade: As respostas para "Por que" possuem média de 40,1 tokens (vs. 4,2–10,5 para os outros) e 44% envolvem cadeias de raciocínio de múltiplos saltos (multi-hop) (vs. ≤2% para os outros).
2. Diluição de Gradiente: O sinal de ascensão necessário para desaprender esses fatos é espalhado por extensões de tokens longas sem uma direção dominante, fazendo com que métodos baseados em gradiente padrão falhem ou degradem o conhecimento retido quando forçados a ser agressivos.

Métodos existentes (Ascensão de Gradiente, GA regularizada por KL, Negação de Adaptadores) enfrentam um tradeoff fundamental: o esquecimento agressivo degrada a utilidade do modelo (retenção), enquanto métodos conservadores falham em esquecer fatos causais.

2. Metodologia: O Framework MAAT

Os autores propõem o MAAT (Multi-phase Adapter-Aware Targeted Unlearning), um framework de três fases que opera diretamente nos pesos dos adaptadores LoRA sem fundi-los ao modelo base. Isso permite uma "cirurgia de adaptador" estruturada em vez de uma pressão de gradiente uniforme.

Fase 1: Ascensão com Projeção de Gradiente

A ascensão de gradiente padrão aplica atualizações de forma uniforme, o que pode erodir o conhecimento retido se o gradiente de esquecimento ($g_f$) se alinhar com o gradiente de retenção ($g_r$). O MAAT emprega projeção ortogonal condicional:

• Se $g_f \cdot g_r > 0$ (conflito), o componente de $g_f$ alinhado com $g_r$ é removido via projeção:
  $$g^\perp_f = g_f - \frac{g_f \cdot g_r}{\|g_r\|^2 + \epsilon} g_r$$
• Se não houver conflito, a direção completa de ascensão de esquecimento é preservada.
• O objetivo minimiza a perda de esquecimento enquanto ancora no estado do adaptador pré-desaprendizado via divergência KL.

Fase 2a: Poda de Rank-Dimensão SVD (Apenas MLP)

Para abordar sinais residuais em direções de baixa magnitude, o MAAT pontua as dimensões do rank de Multi-Layer Perceptron (MLP) com base em suas normas de coluna de gradiente sobre o conjunto de esquecimento.

• A fração top-$\rho$ das dimensões de rank são zeradas nas matrizes $A$ e $B$ dos módulos MLP (down_proj, up_proj, gate_proj).
• Crucialmente, os módulos de atenção são excluídos da poda para evitar a destruição das capacidades de seguimento de instrução.

Fase 2b: Negação de Vetor de Tarefa

Esta fase visa o subspace de esquecimento específico identificado na Fase 2a.

• As dimensões de rank top-$k_F$ (ex: 50%) pontuadas para esquecimento de cada matriz LoRA $B$ são mascaradas para formar um "vetor de tarefa de esquecimento" $\tau^F_l$.
• Este vetor é subtraído dos pesos: $B_l \leftarrow B_l - \alpha \cdot \tau^F_l$.
• Isso alcança a supressão direcionada sem apagar indiscriminadamente as direções associadas à retenção.

Fase 3: Reparo Híbrido de Retenção

Para recuperar o desempenho degradado pela poda e pela negação, um objetivo de reparo híbrido é minimizado. Ele combina quatro termos:

1. Divergência KL: Ancora o modelo à distribuição de retenção.
2. Distância de Estado Oculto: Minimiza a distância entre os estados ocultos atuais e de referência para amostras de retenção.
3. Maximização de Entropia: Um termo de entropia negativa ($-w_{ent} H_F$) maximiza a entropia nas previsões do conjunto de esquecimento, impedindo o modelo de reaprender o conteúdo esquecido durante o reparo.
4. Penalidade de Vetor de Tarefa: Penaliza a similaridade de cosseno entre os pesos atuais e o vetor de tarefa de esquecimento.

3. Principais Contribuições

1. Benchmark 5WBENCH

Os autores introduzem o 5WBENCH, um benchmark equilibrado de 5.000 amostras derivado do corpus Factify-5WQA.

• Estrutura: 1.000 exemplos para cada categoria 5W (Quem, O quê, Quando, Onde, Por que).
• Significância: Fornece a primeira cobertura estatisticamente significativa de perguntas "Por que" (20% do dataset), permitindo a quantificação de falhas de desaprendizado causal anteriormente indetectáveis em benchmarks enviesados.
• Formato: Compatível com EasyEdit, incluindo respostas de verdade fundamental (ground-truth), rótulos e variantes refraseadas para testes de robustez.

2. Algoritmo MAAT

O MAAT é o primeiro método que alcança simultaneamente alto esquecimento e alta retenção de conhecimento causal (tipo "Por que"). Ele opera sobre as propriedades estruturais dos adaptadores LoRA, utilizando pontuação SVD e negação de vetor de tarefa para isolar e suprimir dimensões de rank específicas ativadas por entradas do conjunto de esquecimento.

4. Resultados Experimentais

O framework foi avaliado no LLaMA 3.2-3B e Gemma 3-4B usando um LLM-as-a-Judge Qwen 2.5-7B.

Desempenho no 5WBENCH

• Fronteira de Pareto: O MAAT alcança um novo ponto operacional, excedendo simultaneamente 60% de Taxa de Sucesso de Esquecimento (FSR) e 60% de Taxa de Sucesso de Retenção (RSR) em todas as cinco categorias 5W no LLaMA 3.2-3B.
  • Llama 3.2-3B: 77,4% FSR / 71,6% RSR (Agregado).
  • Gemma 3-4B: 64,0% FSR / 61,8% RSR (Agregado).
• Desempenho do Tipo "Por que":
  • MAAT: 63% FSR / 65% RSR (Llama).
  • Baselines (GA, GA+KL, AN, RO-FT) falham em atingir este equilíbrio. Por exemplo, a Ascensão de Gradiente (GA) atinge 44% FSR mas 78% RSR, o que os autores atribuem ao "sub-esquecimento" (o modelo retém fatos simplesmente porque não os esqueceu, não porque preservou a utilidade).
• Falhas dos Baselines:
  • Negação de Adaptador (AN): Alcança um esquecimento quase perfeito (99,8% FSR), mas causa um colapso catastrófico na retenção (0,4% RSR), confirmando que a negação total do vetor de tarefa remove tanto o conhecimento de esquecimento quanto o de retenção indiscriminadamente.
  • RO-FT: Alta retenção, mas menor eficiência de esquecimento comparado ao MAAT.

Desempenho no TOFU

No dataset TOFU (que carece de cobertura significativa de "Por que"), o MAMA alcança resultados competitivos (67,5% FSR / 46,6% RSR no Llama), demonstrando robustez em diferentes distribuições de dados, embora o artigo note que o desequilíbrio de categorias do TOFU limita sua utilidade para análise causal.

Estudos de Ablação

• Projeção de Gradiente: Essencial para proteger o conhecimento retido durante a ascensão.
• Reparo Híbrido: Necessário para recuperar a retenção perdida durante a poda/negação; sem o termo de entropia, a fase de reparo inadvertidamente recupera o conteúdo esquecido.
• Negação de Vetor de Tarefa vs. Poda de Atenção: Substituir a poda de atenção pela negação de vetor de tarefa (Condição D) melhora significamente a retenção (76% vs. 54% RSR) enquanto mantém uma força de esquecimento semelhante, validando a decisão de excluir módulos de atenção da poda estrutural.

5. Significância e Alegações

O artigo afirma que o MAAT é o primeiro método a navegar com sucesso pelo tradeoff esquecimento-retenção especificamente para o conhecimento causal (tipo "Por que"), um domínio onde os baselines existentes falham.

• Insight Estrutural: Os autores demonstram que a dificuldade de desaprender fatos causais advém da complexidade relacional e da diluição do gradiente, e não de uma pegada única no espaço de pesos (a análise de codificação mostra codificação distribuída uniformemente em todas as categorias 5W).
• Impacto na Avaliação: Ao introduzir o 5WBENCH, o artigo fornece uma ferramenta para expor artefatos de "sub-esquecimento" em métodos existentes, onde altas pontuações de retenção são, na verdade, um subproduto de um esquecimento falho.
• Sensibilidade à Arquitetura: Os resultados sugerem que o desaprendizado baseado em adaptadores herda a estrutura de codificação de conhecimento do modelo base. A lacuna de desempenho entre LLaMA e Gemma indica que a separabilidade do conhecimento nas dimensões de rank do adaptador é dependente da arquitetura.

Os autores concluem que, embora o MAAT alcance uma nova fronteira de Pareto, o campo requer taxonomias de avaliação equilibradas para detectar falhas no desaprendizado de conhecimento causal, algo que os benchmarks padrão atualmente obscurecem.