Resumo Técnico: Não Esqueça Seus Embeddings: Apagamento de Conhecimento Robusto via Edição Precisa de Embeddings

Declaração do Problema

À medida que os modelos de linguagem (LMs) são cada vez mais implantados, a capacidade de apagar permanentemente conhecimentos específicos (ex: dados privados, conteúdo protegido por direitos autorais ou tópicos sensíveis à segurança) torna-se crítica. Os métodos de apagamento persistente existentes focam primariamente na atualização dos parâmetros do modelo, especificamente dentro das camadas de Perceptron Multicamadas (MLP), utilizando frequentemente autoencoders esparsos (SAEs) ou manipulação de pesos (weight steering). No entanto, esses métodos frequentemente falam em alcançar um apagamento robusto. O conhecimento alvo costuma permanecer recuperável através de prompts adversariais ou de novo aprendizado (relearning — ajuste fino em dados relacionados ao conceito), e a eficácia do apagamento é frequentemente dependente do formato (falhando em generalizar de múltipla escolha para geração de texto aberto).

Os autores hipotetizam que essas limitações decorrem do fato de que as técnicas existentes negligenciam a camada de embedding de tokens. Embora as MLPs sejam conhecidas por desempenhar um papel fundamental na recuperação de conhecimento, os LMs também codificam uma parte não trivial de seu conhecimento diretamente em seus embeddings de tokens. Ignorar essa camada deixa um caminho para o modelo "reaprender" conceitos apagados e força os métodos existentes a depender de atualizações de parâmetros amplas e agressivas que degradam a utilidade geral do modelo.

Metodologia: EMBER

O artigo apresenta o EMBER (EMBedding ERasure), um módulo plug-and-play projetado para editar precisamente os embeddings de tokens para aumentar os métodos de apagamento existentes focados em MLP. O EMBER segue uma abordagem de "localizar-então-editar", consistindo em três estágios:

1. Fatoração de Matriz Esparsa (Sparse MF) para Localização de Características:
   Em vez de usar SAEs, o EMBER aplica a Fatoração de Matriz Esparsa diretamente à matriz de embedding $E$. Ele decompõe os embeddings de um conjunto específico de tokens (aqueles que aparecem em sentenças relacionadas ao conceito e neutras) em um dicionário de fatores $Z$ (características de embedding) e uma matriz de coeficientes $Y$.

   • Restrição de Esparsidade: Para garantir que as características correspondam a conceitos localizados e interpretáveis, uma restrição de "vencedor leva tudo" (winner-takes-all - WTA) é aplicada aos coeficientes $Y$, mantendo apenas os 1% de maiores magnitudes por fator. Isso força a fatoração a identificar características compartilhadas por subconjuntos pequenos e específicos de tokens.

2. Identificação de Características Relacionadas ao Conceito:
   O método pontua as características recuperadas para distinguir características específicas do conceito de características gerais. Ele calcula uma estatística de razão de massa comparando a contribuição de uma característica para tokens rotulados como conceito versus tokens neutros. Características com uma razão alta são filtradas adicionalmente usando um LLM como juiz (LLM-as-a-judge) para verificar se os tokens associados correspondem semanticamente ao conceito alvo.

3. Apagamento Preciso via Subtração:
   Uma vez identificadas as características relacionadas ao conceito ($F_C$), o EMBER subtrai sua contribuição dos embeddings dos tokens relevantes. Para um embedding de token $e_t$, a atualização é:
   $$e_t \leftarrow e_t - \delta \sum_{i \in F_C} Y_{i,t} z_i$$
   onde $\delta$ é um hiperparâmetro de força. Esta operação remove o componente específico do conceito enquanto mantém o restante do embedding intacto. O método é aplicado apenas aos tokens que possuem coeficientes não nulos para as características de conceito identificadas.

O EMBER é projetado para ser combinado com métodos de apagamento existentes baseados em MLP (ex: RMU, CRISP, SNMF) para criar um conjunto que visa tanto a camada de embedding quanto as camadas MLP.

Principais Contribuições

• Identificação do Gargalo de Embedding: O artigo fornece o primeiro estudo empírico estabelecendo a camada de embedding como um gargalo crítico para o apagamento robusto de conceitos. Demonstra que ignorar os embeddings permite que os modelos recuperem o conhecimento apagado mais facilmente.
• Algoritmo EMBER: Um novo método usando Fatoração de Matriz Esparsa para desagregar e remover precisamente características relacionadas ao conceito dos embeddings de tokens sem exigir o ajuste fino completo do modelo.
• Aumento Plug-and-Play: O EMBER mostra-se compatível com frameworks de apagamento existentes, aumentando significativamente seu desempenho sem exigir um redesenho completo do pipeline de apagamento.

Resultados Experimentais

Os autores avaliaram o EMBER no Gemma-2-2B-it e Llama-3.1-8B-Instruct em 18 conceitos diversos (variando de obras fictícias como Harry Potter a tópicos de segurança como Cannabis).

• Eficácia e Especificidade: Aumentar os métodos existentes (RMU, CRISP, SNMF) com o EMBER melhorou consistentemente a eficácia do apagamento (reduzindo a precisão do conceito) e a especificidade (mantendo o desempenho em domínios similares e MMLU).
• Robustez ao Reaprendizado: Este é o principal ganho. O EMBER reduziu dramaticamente a capacidade do modelo de reaprender conceitos apagados.
  • No Llama-3.1, a precisão de reaprendizado para métodos anteriores (RMU, CRISP) foi reduzida de 70%–76% para 35% quando combinado com o EMBER (uma redução de ~50%).
  • No Gemma, a precisão de reaprendizado foi reduzida em 16%–24%.
  • O pipeline completo baseado em MF (SNMF + EMBER) alcançou a menor precisão de reaprendizado (35% no Llama), superando significativamente os baselines.
• Coerência e Localização: O custo para a coerência de geração foi mínimo. A análise mostrou que o EMBER modifica no máximo 0,14% do vocabulário por conceito. A degradação da coerência foi altamente localizada em tokens "exclusivos do conceito" (ex: "Hogwarts" ao apagar Harry Potter), enquanto tokens gerais (ex: "Harry" no contexto de Prince Harry) permaneceram amplamente inalterados.
• Generalização: Embora os hiperparâmetros tenham sido ajustados em tarefas de múltipla escolha (MC), as melhorias transferiram-se efetivamente para questões de resposta aberta (OE), sugerindo que as edições visam o conhecimento conceitual em vez de atalhos específicos de formato.

Significância e Alegações

O artigo alega que a edição precisa e direcionada da matriz de embedding é fundamental para alcançar um apagamento de conceito robusto. Ao deslocar o foco além da visão centrada em MLP dos trabalhos anteriores, o EMBER aborda o problema do "desaprendizado superficial" (shallow unlearning), onde o conhecimento é apenas suprimido, em vez de removido.

Os autores concluem que:

1. Intervenções no nível de embedding são necessárias para prevenir ataques de reaprendizado.
2. Métodos de apagamento existentes podem ser significativamente aprimorados ao serem aumentados com edições no nível de embedding.
3. O compromisso (trade-off) entre eficácia de apagamento e utilidade do modelo (coerência) pode ser melhorado ao localizar as edições em características específicas de conceitos, em vez de aplicar atualizações de pesos amplas.

O trabalho estabelece uma nova direção para a edição de modelos, destacando que a camada de embedding é um locus de armazenamento de conhecimento vital, porém anteriormente subexplorado, que deve ser abordado para aplicações de segurança e conformidade.