💻 computer science

Consistency-Aware Editing for Entity-level Unlearning in Language Models

Este artigo apresenta o Consistency-Aware Editing (CAE), um novo framework que adapta técnicas de edição de modelos para um desaprendizado de nível de entidade eficiente e robusto ao otimizar conjuntamente atualizações de baixo posto através de diversos prompts relacionados a entidades para garantir a remoção abrangente de conhecimento enquanto preserva as capacidades do modelo.

Autores originais: Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

Publicado 2026-01-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: O Dilema da "Amnésia Digital"

Imagine um Grande Modelo de Linguagem (LLM) como uma superenciclopédia que leu quase tudo na internet. Às vezes, essa enciclopédia acidentalmente memoriza coisas que não deveria, como o endereço residencial privado de uma celebridade, capítulos de livros protegidos por direitos autorais ou estereótipos prejudiciais.

Queremos ensinar a enciclopédia a esquecer essas coisas específicas. No entanto, há um detalhe:

Não queremos queimar a biblioteca inteira. Queremos apenas remover as páginas específicas sobre "Jackie Chan", não as páginas sobre "Artes Marciais" ou "Cinema" em geral.
Não podemos apenas apagar uma frase. Se você perguntar "Onde Jackie Chan nasceu?", o modelo deve dizer "Eu não sei". Mas se você perguntar "Quem é o ator de Rush Hour?", ele também deve dizer "Eu não sei".

O Desafio: Os métodos existentes são como tentar apagar um nome de uma lista riscando uma linha específica. Se alguém fizer a pergunta de uma forma ligeiramente diferente (uma "paráfrase"), o modelo ainda pode lembrar a resposta porque esqueceu apenas a frase específica, não o conceito.

A Solução: CAE (Edição com Consciência de Consistência)

Os autores propõem um novo método chamado CAE. Pense nele como um Borrachão Mestre que trabalha de forma diferente dos antigos.

1. O Jeito Antigo: O "Borrachão Aleatório"

Imagine que você tem um quadro branco com 100 maneiras diferentes de perguntar sobre "Jackie Chan" (ex: "Onde ele nasceu?", "Qual é o seu aniversário?", "Quem é o cara de Rush Hour?").

Método Antigo: Você usa um apagador separado para cada pergunta. Você apaga a resposta da Pergunta nº 1, depois a da Pergunta nº 2, depois a da Pergunta nº 3.
O Problema: Como você está apagando uma por uma sem um plano, você pode acidentalmente apagar a resposta da Pergunta nº 1 ao tentar corrigir a Pergunta nº 2. Ou você pode deixar a Pergunta nº 5 intacta porque seu apagador escorregou. O resultado é bagunçado: o modelo esquece algumas coisas mas lembra de outras, ou fica confuso e começa a alucinar.

2. O Novo Jeito (CAE): A "Equipe Sincronizada"

O CAE muda a estratégia. Em vez de apagar um por um, ele trata todas as 100 perguntas como uma equipe única.

A Estratégia: Ele reúne todas as diferentes maneiras de perguntar sobre "Jackie Chan".
A Regra da "Consistência": Ele força todos os apagadores a se moverem exatamente na mesma direção. É como uma equipe de nado sincronizado; cada nadador move o braço exatamente no mesmo ângulo e velocidade.
O Resultado: Em vez de fazer 100 pequenos riscos bagunçados, a equipe faz uma limpeza única, grande e unificada que remove o conceito inteiro de Jackie Chan do cérebro do modelo, independentemente de como a pergunta é formulada.

Como Funciona (A Mecânica "Por Trás das Câmeras")

O artigo investiga como o modelo "pensa" para encontrar o melhor lugar para aplicar este apagador.

Encontrando a Memória: Os pesquisadores descobriram que o modelo armazena fatos sobre pessoas específicas (como Jackie Chan) em uma parte específica de seu cérebro chamada camadas MLP (pense nel que estas como os arquivos de gavetas do modelo).
A Seleção da "Chave": Eles não pegam perguntas aleatórias. Eles usam uma ferramenta matemática (SVD) para escolher as 70 perguntas mais importantes que melhor representam o conceito "Jackie Chan". É como escolher as 70 fotos mais representativas de uma pessoa para garantir que você a reconheça de qualquer ângulo.
A Atualização de "Baixo Rank" (Low-Rank): Em vez de reescrever toda a enciclopédia (o que leva uma eternidade e custa muito dinheiro), eles fazem um ajuste minúsculo e preciso no arquivo de gavetas. É como mudar apenas uma etiqueta em uma prateleira em vez de reconstruir todo o armazém.

O Que Eles Descobriram (Os Resultados)

A equipe testou isso em dois benchmarks principais (RWKU e ToFU) e comparou com outros métodos.

Melhor Esquecimento: O CAE é muito melhor em fazer o modelo dizer "Eu não sei" para qualquer pergunta sobre a entidade alvo, inclusive perguntas complicadas onde o nome não é mencionado diretamente.
Menos Danos Colaterais: Como os "apagadores" se movem em sincronia, eles não apagam acidentalmente o conhecimento sobre tópicos relacionados. Por exemplo, o modelo ainda sabe falar sobre filmes ou atores; ele apenas não sabe sobre Jackie Chan especificamente.
Eficiência: É incrivelmente rápido. Enquanto outros métodos podem precisar treinar todo o modelo novamente (como estudar para um diploma inteiro novo), o CAE faz apenas uma edição rápida e direcionada. Ele pode fazer isso com apenas algumas dezenas de exemplos.
Estabilidade: O artigo mostra que, mesmo se você embaralhar a ordem das perguntas ou usar modelos diferentes, o CAE funciona de forma consistente. É robusto.

A Conclusão Final

O artigo argumenta que, para realmente "desaprender" uma pessoa ou entidade específica de uma IA, você não pode apenas remendar buracos individuais. Você precisa de uma abordagem coordenada e consistente que entenda como a IA armazena essa informação.

O CAE é como um laser de precisão que mira em toda a pasta "Jackie Chan" na memória do modelo e a deleta de forma limpa, deixando o resto da biblioteca perfeitamente intacto. Ele resolve o problema do modelo lembrar a resposta quando a pergunta é feita de uma nova maneira, o que era a maior fraqueza dos métodos anteriores.

Resumo Técnico: Edição com Consciência de Consistência para Desaprendizado em Nível de Entidade em Modelos de Linguagem

1. Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) memorizam inadvertidamente informações sensíveis, protegidas por direitos autorais ou prejudiciais, o que gera riscos de privacidade e segurança. Embora o desaprendizado de conhecimento (knowledge unlearning) vise remover conhecimentos específicos indesejados, os métodos existentes enfrentam limitações significativas quando aplicados ao desaprendizado em nível de entidade.

As abordagens atuais focam primariamente no desaprendizado em nível de instância, que visa a exclusão de fatos ou expressões específicas de um conjunto de esquecimento curado. No entanto, o desaprendizado em nível de entidade exige a eliminação abrangente de todas as informações associadas a uma entidade específica (ex: "Jackie Chan"), independentemente da frase ou contexto. As técnicas existentes frequentemente falham neste domínio porque:

Sobreajuste a Formas de Superfície: Elas tendem a sofrer overfitting às formas de superfície específicas dos prompts de treinamento, tendo dificuldade em generalizar através de diversas realizações linguísticas (paráfrases) da mesma entidade.
Inconsistência na Edição: Métodos de edição baseados em localização, que modificam parâmetros para fatos específicos, tipicamente tratam cada entrada de forma independente. Quando aplicados a múltiplos prompts relacionados à mesma entidade, essas otimizações independentes resultam em direções de edição inconsistentes. Atualizações para diferentes fatos podem conflitar ou apagar apenas parcialmente o conhecimento alvo, levando a "vazamentos" (leakage), onde o modelo ainda responde corretamente a algumas consultas parafraseadas.
Danos Colaterais: Expandir o conjunto de esquecimento para melhorar a cobertura frequentemente resulta em uma degradação substancial do desempenho do modelo em fatos não relacionados ou entidades intimamente relacionadas.

2. Metodologia: Edição com Consciência de Consistência (CAE)

Os autores propõem a Edição com Consciência de Consistência (CAE), um framework que adapta técnicas de edição de modelos para um desaprendizado eficaz em nível de entidade. O insight central é que o conhecimento em nível de entidade está armazenado nos módulos MLP (Perceptron de Camada Multicamada) do transformer, especificamente nos pesos de saída ( $W_{out}$ ). O CAE aborda o problema da inconsistência otimizando conjuntamente as atualizações através de diversos prompts associados a uma entidade alvo.

Componentes Principais:

Agregação e Seleção de Dados:
- O método recupera um conjunto diversificado de fatos sobre uma entidade alvo a partir do Wikidata, convertendo-os em prompts de linguagem natural ( $T_e$ ).
- Esses prompts são posteriormente aumentados via paráfrase usando um modelo de geração de texto para criar um conjunto aumentado ( $T_g$ ).
- Seleção baseada em SVD: Para evitar redundância e atualizações conflitantes, os vetores de chave ( $K_f$ ) derivados desses prompts são processados via Decomposição de Valor Singular (SVD). O método seleciona os top- $r$ vetores de chave que capturam a energia de projeção mais significativa, garantindo um subconjunto compacto e informativo para edição.
Otimização com Consciência de Consistência:
- Em vez de editar cada prompt independentemente, o CAE introduz uma restrição de consistência.
- Para cada prompt $x_j$ , um vetor residual $\delta_j$ é otimizado para suprimir as associações fáticas da entidade.
- Uma perda de consistência ( $L_{Cons}$ ) é adicionada à função objetivo, que minimiza a variância dos estados ocultos atualizados ( $h_j^L + \delta_j$ ) através do conjunto de prompts. Isso força todos os resíduos a se alinharem em uma direção comum, garantindo que a atualização de parâmetros seja coerente através de todas as paráfrases da entidade.
- O objetivo final combina a perda de log-verossimilhança negativa (para induzir incerteza, ex: "Eu não sei") com o regularizador de consistência.
Propagação Multi-Camada:
- Os resíduos otimizados são distribuídos através das camadas subsequentes para garantir que o efeito de supressão se propague pela rede.
- Uma atualização de baixo posto (modificação de posto um) é aplicada às matrizes $W_{out}$ das camadas MLP, deletando efetivamente o conhecimento da entidade sem o retreinamento de todo o modelo.

3. Principais Contribuições

Identificação de Limitações: O artigo revela que os métodos de edição baseados em localização falham no desaprendizado em nível de entidade devido à inconsistência introduzida pela edição independente de múltiplos prompts associados à mesma entidade. Também identifica que o conhecimento em nível de entidade reside primariamente nos módulos MLP.
Novo Framework (CAE): Os autores introduzem um framework de edição com consciência de consistência que otimiza conjuntamente fatos valiosos sob uma restrição de consistência. Isso permite o desaprendizado coerente e abrangente de uma entidade inteira.
Seleção de Fatos baseada em SVD: Uma estratégia é proposta para selecionar os fatos mais valiosos para uma entidade usando SVD, reduzindo o número de prompts necessários enquanto maximiza a eficácia do desaprendizado.
Validação Empírica: O método é rigorosamente avaliado em dois benchmarks desafiadores, RWKU (100 entidades) e ToFU (20 entidades), demonstrando desempenho superior sobre as linhas de base de desaprendizado e edição existentes.

4. Resultados Experimentais

Os autores avaliaram o CAE no LLaMA3-Instruct (8B) e LLaMA3.1-Instruct (8B), comparando-o com métodos baseados em gradiente (GA, DPO, NPO), métodos baseados em prompt (ICU, RepE) e métodos baseados em edição (MEMIT, EMMET, AlphaEdit).

Desempenho de Esquecimento: O CAE alcançou as pontuações mais baixas nos conjuntos de esquecimento (indicando remoção bem-sucedida de conhecimento) nas sondagens de Preenchimento de Lacunas (FB), Pergunta-Resposta (QA) e Ataque Adversário (AA). Por exemplo, no RWKU com LLaMA3, o CAE alcançou um score de esquecimento "All" de 15.9, superando o próximo melhor método de edição (EMMET com 29.0) e métodos baseados em treinamento.
Robustez e Generalização: O CAE manteceu alto desempenho em Conjuntos Vizinhos (fatos semanticamente próximos, mas não relacionados) e Conjuntos de Utilidade (capacidades gerais como MMLU, TruthfulQA). Ele alcançou o maior Mean FN (uma métrica que equilibra esquecimento e preservação de vizinhos), indicando um trade-off superior entre apagar o conhecimento alvo e reter o contexto útil.
Eficiência: O CAE requer significativamente menos exemplos (tão pouco quanto 100, muitas vezes menos) e menos recursos computacionais (um único GPU de 40GB) em comparação com abordagens de ajuste fino total (full fine-tuning).
Desaprendizado Sequencial: O método demonstrou estabilidade ao remover múltiplas entidades sequencialmente, sem degradar o desempenho de esquecimento de entidades previamente desaprendidas.
Estudos de Ablação:
- Seleção de Token: Editar o Último Token do Sujeito (LST) provou ser mais eficaz e estável do que editar o Último Token (LT).
- Peso de Consistência: O método permaneceu robusto através de diferentes pesos para a restrição de consistência.
- Fonte de Dados: O método generalizou bem ao usar dados sintéticos gerados por LLM em vez de Wikidata.

5. Significância e Alegações

O artigo afirma que a Edição com Consciência de Consistência representa um avanço significativo no campo do desaprendizado de conhecimento ao preencher a lacuna entre a edição de nível de instância e o requisito mais complexo de desaprendizado em nível de entidade.

Escalabilidade: O CAE oferece uma solução escalável para remover entidades usando apenas dezenas de prompts cuidadosamente selecionados, evitando o custo computacional do retreinamento total.
Precisão: Ao alinhar as direções de edição através de uma restrição de consistência, o CAE evita o "esquecimento parcial" e o vazamento de conhecimento comuns em abordagens de edição independente.
Insight: O trabalho fornece insights sobre como o conhecimento em nível de entidade é representado internamente em LLMs (primariamente em MLPs) e como ele pode ser sistematicamente deletado.

Os autores concluem que o CAE fornece um trade-off mais favorável e estável entre esquecimento e retenção, tornando-se uma direção promissora para a implantação segura e responsável de LLMs onde entidades específicas devem ser compreensivamente desaprendidas.