💬 NLP

Position: The Term "Machine Unlearning" Is Overused in LLMs

Este artigo de posição argumenta que o termo "desaprendizado de máquina" é atualmente sobreutilizado na pesquisa de LLM para descrever tarefas diversas como recusa ou supressão, e pede que o termo seja reservado estritamente para a exclusão definida pelo conjunto de dados com garantias de equivalência de retreinamento para evitar avaliações enganosas e garantir a terminologia apropriada para diferentes objetivos.

Autores originais: Sangyeon Yoon, Yeachan Jun, Albert No

Publicado 2026-06-29

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Sangyeon Yoon, Yeachan Jun, Albert No

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Grande Ideia: O termo "Desaprendizado" está sendo usado de forma errada

Imagine que você tem um estudante que estudou uma biblioteca imensa de livros para se tornar um especialista. Agora, imagine que um desses livros foi roubado, ou o autor exige que ele seja removido da mente do estudante.

O artigo argumenta que os pesquisadores estão usando o termo "Machine Unlearning" (Desaprendizado de Máquina) de forma muito vaga. Eles estão chamando muitas coisas diferentes de "desaprendizado", mas na verdade estão realizando tarefas muito distintas.

Os autores dizem que precisamos parar de misturar essas coisas. Precisamos reservar o termo estrito "Machine Unlearning" para um trabalho específico e muito difícil, e usar nomes diferentes para os outros trabalhos, que são mais fáceis.

1. A Definição Estrita: "A Borracha"

O que realmente significa:
O verdadeiro "Machine Unlearning" é como usar uma borracha mágica em uma pintura. Você quer remover um conjunto específico de pinceladas (o "conjunto de esquecimento") de forma tão perfeita que a pintura pareça exatamente igual à que o artista teria feito se nunca tivesse pintado aquelas pinceladas em primeiro lugar.

O Padrão de Ouro: Para provar que você fez um bom trabalho, você deve comparar sua pintura "apagada" com uma pintura nova feita por um artista que começou do zero com os livros restantes, sem nunca ter visto o livro roubado.
O Objetivo: As duas pinturas devem ser indistinguíveis. Se o estudante ainda conseguir resolver um problema de matemática que aprendeu apenas através do livro roubado, ele não "desaprendeu" de verdade, mesmo que se recuse a responder à pergunta específica sobre ele.

2. A Confusão: O que as pessoas realmente fazem

Atualmente, muitos pesquisadores dizem que estão "desaprendendo" quando, na verdade, estão fazendo uma destas outras coisas:

A "Recusa" (O Cão de Guarda): O modelo é treinado para dizer "Eu não sei" ou "Não posso responder a isso" quando questionado sobre o tópico proibido.
- Analogia: É como um cão de guarda que late e impede você de entrar na sala. O cão ainda sabe que a sala existe, mas não deixa você entrar. O cão não esqueceu a sala; ele apenas foi treinado para te bloquear.
A "Supressão" (O Botão de Mudo): O modelo é ajustado para que seja muito improvável que ele diga as palavras específicas associadas ao tópico proibido.
- Analogia: É como colocar um botão de mudo em uma palavra específica. A palavra ainda está no dicionário, mas o falante é treinado para passar por cima dela.
A "Edição" (A Reescrita): O modelo é ensinado um novo fato para substituir o antigo.
- Analogia: Em vez de apagar a memória de "Paris é a capital da França", você a sobrescreve com "Londres é a capital". A antiga memória pode ainda estar lá, apenas enterrada sob uma nova.

O Problema: Pesquisadores frequentemente afirmam que "desaprenderam" algo porque o modelo parou de responder perguntas (o Cão de Guarda latiu). Mas os autores dizem que isso é um truque. O modelo pode ainda saber a informação lá no fundo; ele está apenas fingindo que não sabe.

3. O Perigo Oculto: "Capacidades Derivadas"

Esta é a parte mais crítica do artigo. Às vezes, aprender algo específico te dá um superpoder que vai além de apenas aquele fato isolado.

A Analogia: Imagine que um estudante aprende a resolver um tipo específico de problema matemático usando um livro didático roubado. Mesmo que você o faça "esquecer" as respostas específicas do livro, ele pode ainda ter aprendido a lógica ou a habilidade de raciocínio ao ler o livro.
O Risco: Se você apenas verificar se ele consegue recitar as respostas (Falha de Saída), ele pode passar no teste. Mas se você lhe der um novo problema matemático que utiliza a mesma lógica, ele pode resolvê-lo perfeitamente.
O Ponto do Artigo: O verdadeiro "desaprendizado" significa remover esse superpoder também. Se o livro roubado deu a ele uma habilidade, e você a "desaprende", ele deve perder essa habilidade, mesmo que isso o torne ligeiramente pior em matemática no geral. Se ele mantiver a habilidade, ele não desaprendeu de verdade a influência daquele livro.

4. Por que os testes atuais estão falhando

O artigo aponta que a maioria dos testes atuais são como testes de múltipla escolha.

Teste Atual: "O modelo consegue responder à Pergunta A?" Se o modelo diz "Eu não sei", o teste conclui: "Ótimo! Você esqueceu!"
A Falha: Isso apenas testa se o modelo está escondendo a resposta. Não testa se o modelo deletou o conhecimento.
A Solução: Precisamos comparar o modelo "desaprendido" com um modelo "retreinado" (aquele que nunca viu os dados ruins). Se o modelo desaprendido ainda for melhor que o retreinado em uma tarefa específica, significa que os "dados ruins" ainda o estão influenciando.

5. A Solução dos Autores: Um Novo Livro de Regras

Os autores propõem três mudanças principais para consertar essa bagunça:

Pare de usar "Desaprendizado" como um termo genérico.
- Se você está apenas fazendo o modelo recusar responder, chame de "Recusa" ou "Supressão".
- Se você está realmente removendo a influência do treinamento para corresponder a um modelo retreinado, então chame de "Machine Unlearning".
Use um "Modelo de Referência" para comparação.
- Você não pode apenas dizer "O modelo esqueceu". Você deve dizer: "O modelo se comporta exatamente como um modelo que foi treinado sem aqueles dados".
- (Os autores admitem que retreinar modelos gigantes é caro, mas dizem que devemos usar o melhor proxy possível ou admitir que não estamos fazendo desaprendizado real).
Teste para "Superpoderes" (Capacidades Derivadas).
- Não pergunte ao modelo apenas as mesmas perguntas em que ele foi treinado. Faça novas perguntas que exijam as habilidades que ele possa ter aprendido com os dados ruins. Se ele ainda conseguir realizar essas novas tarefas, o desaprendizado falhou.

Resumo

O artigo é um apelo pela honestidade na ciência.

Não chame uma "Recusa" (dizer "Eu não sei") de "Desaprendizado" (apagar a memória).
Não pense que porque um modelo não responde a uma pergunta, ele esqueceu o conhecimento. Ele pode estar apenas brincando de esconde-esconde.
Sim, compare seus resultados com um modelo que nunca viu os dados ruins desde o início.
Sim, verifique se o modelo ainda possui os "superpoderes" que obteve dos dados ruins.

Se não corrigirmos essa terminologia, podemos pensar que estamos seguros e em conformidade quando, na verdade, estamos apenas escondendo a verdade.

Resumo Técnico: "O Termo 'Machine Unlearning' é Superutilizado em LLMs"

Definição do Problema
Os Grandes Modelos de Linguagem (LLMs) enfrentam pressões regulatórias e comerciais crescentes para "esquecer" dados de treinamento específicos, impulsionadas por direitos de privacidade (ex: o Direito ao Esquecimento), disputas de direitos autorais e políticas de segurança. No entanto, o termo "machine unlearning" (desaprendizado de máquina) tornou-se terminologicamente sobrecarregado na pesquisa de LLMs. Atualmente, ele é aplicado amplamente a diversos objetivos, incluindo a recusa de comportamentos prejudiciais, remoção de entidades, supressão de conhecimento e ofuscação de saída.

O problema central identificado é que esses distintos objetivos são frequentemente avaliados usando as mesmas métricas e benchmarks, apesar de buscarem objetivos fundamentalmente diferentes. Muitos métodos rotulados como "unlearning" visam meramente suprimir saídas específicas ou recusar certas consultas (controle de comportamento baseado em política) em vez de remover a influência subjacente de um subconjunto de dados de treinamento específico. Essa confluência leva a avaliações que recompensam a não divulgação superficial (ex: baixos escores ROUGE ou falha em responder a perguntas específicas), enquanto falham em verificar se o modelo é verdadeiramente indistinguível de um modelo que foi retreinado sem os dados. Consequentemente, capacidades derivadas — habilidades generalizáveis ou padrões de raciocínio aprendidos a partir do "conjunto de esquecimento" (forget set) — podem persistir mesmo quando a memorização direta é suprimida.

Metodologia e Estrutura
Este artigo de posição não propõe um novo algoritmo ou estrutura experimental. Em vez disso, oferece uma estrutura conceitual e uma taxonomia para esclarecer o campo:

Definição Formal de Machine Unlearning: Os autores definem o verdadeiro machine unlearning estritamente como um problema de deleção definida pelo conjunto de dados. Dado um conjunto de treinamento $D$ e um conjunto de esquecimento $F \subset D$ , o objetivo é produzir um modelo atualizado $\Theta'$ que seja (aproximadamente) indistinguível de um modelo contrafactual $\Theta_R$ retreinado do zero em $D \setminus F$ . O sucesso é medido pela divergência entre as distribuições de $\Theta'$ e $\Theta_R$ (ex: via $(\epsilon, \delta)$ -indistinguibilidade ou outras métricas de divergência), não apenas pela falha de saída em prompts específicos.
Taxonomia de "Unlearning" por Intenção: O artigo categoriza outros usos comuns do termo na literatura de LLM em categorias distintas baseadas em suas garantias reais:
- Supressão de Verossimilhança de Saída (Output Likelihood Suppression): Métodos (ex: Gradient Ascent, NPO) que reduzem a probabilidade de tokens ou respostas específicas sem garantir equivalência de retreinamento.
- Ofuscação de Representação Interna: Técnicas que induzem alta entropia ou baixa confiança em entradas alvo, distorcendo ativações internas em vez de remover a influência dos dados.
- Edição de Conhecimento (Knowledge Editing): Abordagens que sobrescrevem fatos ou associações específicas (ex: via ajuste fino contrafactual) para redirecionar saídas, em vez de remover a influência do treinamento dos dados originais.
- Recusa Comportamental (Behavioral Refusal): Estratégias que treinam modelos para se absterem ou dizerem "eu não sei" para consultas específicas, funcionando como alinhamento de política em vez de deleção de dados.
- Intervenções em Tempo de Inferência: Filtros externos ou restrições de decodificação que impedem a divulgação sem modificar os pesos do modelo.
Análise de Capacidades Derivadas: O artigo introduz o conceito de "capacidades derivadas" — comportamentos ou competências (ex: raciocínio matemático) que se generalizam além dos exemplos específicos no conjunto de esquecimento. Argumenta-se que, se o treinamento em $F$ contribui para tal capacidade, um modelo que verdadeiramente desaprende $F$ deve perder essa capacidade, assim como um modelo retreinado em $D \setminus F$ faria.

Principais Contribuições

Esclarecimento Terminológico: O artigo argumenta para reservar o termo "machine unlearning" exclusivamente para a garantia de indistinguibilidade de retreinamento. Postula que tarefas de "esquecimento" voltadas para segurança ou política devem ser rotuladas e avaliadas como problemas distintos (ex: supressão, alinhamento ou edição).
Crítica aos Benchmarks Atuais: Os autores analisam os principais benchmarks (TOFU, MUSE, RWKU, WMDP) e demonstram como muitos se afastaram das referências de retreinamento em favor de métricas de falha de saída. Eles mostram que métricas como ROUGE ou acurácia de QA em prompts de esquecimento frequentemente medem o controle de saída em vez da remoção da influência do treinamento, permitindo que métodos pareçam bem-sucedidos enquanto retêm conhecimento latente.
Recomendações de Protocolo de Avaliação: O artigo propõe um padrão rigoroso de avaliação para reivindicações de machine unlearning:
- Avaliação Baseada em Referência: As reivindicações devem estar ancoradas a um modelo de referência explícito (idealmente um modelo retreinado em $D \setminus F$ ou um proxy claramente declarado).
- Sondas de Capacidade Derivada: As avaliações devem incluir testes para capacidades transferíveis (ex: tarefas de raciocínio fora da distribuição) e testes de recuperação baseados em intervenção (ex: verificar se o conhecimento "esquecido" pode ser recuperado via ajuste fino benigno) para garantir que a influência do treinamento foi realmente removida.

Resultados e Evidências
Como um artigo de posição, o trabalho não apresenta novos resultados experimentais. Em vez disso, sintetiza evidências da literatura existente para apoiar seus argumentos:

Cita trabalhos anteriores mostrando que métodos que parecem bem-sucedidos sob protocolos de prompting fixos frequentemente falham sob condições adversariais (parafraseamento, jailbreaks) ou pós-processamento benigno (quantização, ajuste fino), indicando que o conhecimento foi suprimido, não desaprendido.
Destaca casos onde métodos de "unlearning" falham em remover comportamentos induzidos em cenários de envenenamento de dados, demonstrando ainda mais a lacuna entre supressão de saída e remoção de influência.
Demonstra que os benchmarks atuais frequentemente carecem da linha de base de retreinamento necessária para distinguir entre um modelo que verdadeiramente esqueceu os dados e um que apenas aprendeu a recusar consultas específicas.

Significância e Alegações
O artigo alega que a confusão terminológica atual não é meramente cosmética, mas tem consequências práticas e científicas significativas. Ao confundir o controle de comportamento baseado em política com a deleção definida pelo conjunto de dados, o campo corre o risco de:

Benchmarks Enganosos: Recompensar a não divulgação superficial enquanto ignora a persistência da influência do treinamento e das capacidades derivadas.
Comparações Incompatíveis: Tornar impossível comparar métodos que reivindicam garantias diferentes sob o mesmo rótulo.
Riscos de Conformidade: Falhar em atender aos requisitos estritos de deleção regulatória (que muitas vezes exigem a remoção da influência, não apenas a supressão da saída).

Os autores concluem que resolver essa confusão requer uma terminologia mais estrita ligada a garantias explícitas e modelos de referência. Eles defendem que as avaliações correspondam ao objetivo reivindicado: se o objetivo é o machine unlearning, a avaliação deve demonstrar a indistinguibilidade de um modelo retreinado, incluindo a perda de qualquer capacidade derivada atribuível ao conjunto de esquecimento. Se o objetivo é conformidade de política ou supressão de saída, estes devem ser formulados e avaliados como objetivos distintos.