💬 NLP

Model Unlearning Objectives Vary for Distinct Language Functions

Este artigo argumenta que o esquecimento em modelos de linguagem deve ser adaptado a funções específicas, em vez de ser tratado como uma tarefa monolítica, demonstrando por meio de experimentos em modelos de 7 a 8 bilhões de parâmetros que objetivos distintos — especificamente uma abordagem meta-aprendida baseada em cosseno para conhecimento perigoso e um método baseado em sondas multicamadas para toxicidade — produzem resultados superiores para seus respectivos objetivos.

Autores originais: Berk Atil, Vipul Gupta, Rebecca J. Passonneau

Publicado 2026-05-27

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Berk Atil, Vipul Gupta, Rebecca J. Passonneau

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine os Modelos de Linguagem de Grande Escala (LLMs) como alunos incrivelmente talentosos, mas ligeiramente imprudentes, que leram quase tudo na internet. Eles são ótimos em escrever histórias e responder perguntas, mas também adquiriram alguns maus hábitos: às vezes sabem segredos perigosos (como construir uma bomba) e, às vezes, usam linguagem ofensiva ou tóxica.

O artigo argumenta que tentar "desaprender" esses maus hábitos não é uma tarefa que se encaixa em todos os casos. Assim como um professor usa métodos diferentes para impedir que um aluno trapaceie em uma prova de matemática versus impedir que ele seja rude com os colegas, os pesquisadores de IA precisam de ferramentas diferentes para problemas diferentes.

Abaixo está uma explicação de sua abordagem usando analogias simples:

1. O Problema Central: Um Tamanho Não Serve para Todos

Os autores afirmam que o "desaprendizado" (ensinar a IA a esquecer coisas específicas) não deve ser tratado como uma única tarefa genérica.

Conhecimento Perigoso é como um aluno memorizando um fato específico e perigoso (por exemplo, "Como fazer veneno"). Isso é armazenado no modelo como um arquivo específico em uma biblioteca.
Toxicidade é como a má atitude de um aluno ou a tendência de ser rude. Isso não é apenas um fato; é uma vibração ou um padrão que se espalha por toda a personalidade do aluno.

O artigo afirma que, como esses dois problemas são armazenados de maneira diferente dentro do "cérebro" da IA, são necessárias duas estratégias distintas para corrigi-los.

2. Estratégia A: Esquecer Fatos Perigosos (A Abordagem "Cosseno")

Quando a IA conhece fatos perigosos, os autores testaram um novo método baseado em direção em vez de distância.

O Jeito Antigo (Perda L2): Imagine tentar afastar um carrinho de brinquedo de um penhasco. O método antigo media a distância exata entre o carrinho e o penhasco. Se o carrinho se movesse 1 polegada, isso contava como progresso. Mas, se o carrinho fosse enorme, mover 1 polegada talvez não fosse suficiente.
O Novo Jeito (Perda Cosseno): Os autores sugerem que não devemos nos importar com a distância exata. Em vez disso, devemos nos importar com a direção para a qual o carrinho está apontando. Se o carrinho estiver apontando para o penhasco, giramos 180 graus para que ele aponte na direção oposta. Mesmo que ainda esteja perto da borda, agora está apontando para longe do perigo.
O Resultado: Eles também usaram um "treinador inteligente" (meta-aprendizado) que descobre automaticamente quão forte empurrar o carrinho para girá-lo sem fazê-lo esquecer como dirigir (conhecimento geral). Isso funcionou muito bem para remover fatos perigosos.

3. Estratégia B: Esquecer Toxicidade (A Abordagem "Multicamada")

Quando a IA está sendo tóxica, o método de "girar o carrinho" falhou. Por quê? Porque a toxicidade não é armazenada em um único local específico; é como uma mancha que impregnou o tecido do cérebro da IA através de muitas camadas diferentes.

O Problema: Se você apenas esfregar um ponto em uma camisa manchada, a mancha ainda está lá.
A Solução: Os autores construíram um "esfregador multicamada". Eles olharam para o cérebro da IA em diferentes profundidades (camadas iniciais, médias e tardias) e descobriram que o "sinal de toxicidade" parece diferente em cada nível.
O Método: Eles treinaram detectores especiais (sondas) em várias camadas para encontrar exatamente onde a toxicidade está se escondendo. Em seguida, eles forçaram a IA a mudar seu comportamento em todas essas camadas simultaneamente, efetivamente esfregando a mancha de toda a camisa, não apenas de um ponto.

4. O Placar: S-Unlearning

Como saber se a IA está melhor? Você não pode apenas dizer: "É menos tóxica", porque talvez ela também tenha parado de ser útil.
Os autores criaram uma nova pontuação chamada S-Unlearning.

Imagine uma balança de dois pratos. De um lado está "Quão bem removemos as coisas ruins?" e do outro "Quão bem mantivemos as coisas boas?".
A pontuação S-Unlearning é como a área de um retângulo formado por esses dois lados. Você quer um retângulo grande (alta remoção de coisas ruins E alta retenção de coisas boas). Se você remover as coisas ruins, mas quebrar a IA a ponto de ela não conseguir mais falar, seu retângulo encolhe para zero.

5. O Que Eles Encontraram

Eles testaram isso em quatro modelos de IA de código aberto diferentes (como Llama, Mistral e Qwen).

Para Fatos Perigosos: Seu novo método "baseado em direção" funcionou melhor do que métodos anteriores ao fazer a IA esquecer informações perigosas sem perder sua inteligência geral.
Para Toxicidade: Seu "esfregador multicamada" foi muito mais eficaz do que tentar usar o mesmo método usado para fatos perigosos. Eles descobriram que a toxicidade está, de fato, espalhada, e você precisa mirar em várias camadas para corrigi-la.
A Grande Conclusão: Você não pode usar uma única "varinha mágica" para resolver todos os problemas de IA. Você precisa entender como a IA armazena o problema (como um fato específico ou como um comportamento disperso) e escolher a ferramenta certa para corrigi-lo.

Em resumo: Para corrigir um fato específico, mude a direção. Para corrigir uma má atitude, esfregue todo o sistema camada por camada.

Resumo Técnico: Objetivos de Esquecimento de Modelo Variam para Funções Linguísticas Distintas

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) adquirem propriedades indesejadas durante o pré-treinamento, incluindo conhecimento factual perigoso (por exemplo, riscos de biossegurança) e geração de linguagem tóxica. Embora métodos pós-treinamento utilizem objetivos distintos para moldar comportamentos diferentes (por exemplo, seguimento de instruções versus segurança), as abordagens existentes de esquecimento frequentemente tratam a remoção dessas propriedades distintas como um único problema genérico.

Os autores argumentam que o esquecimento deve ser dependente do objetivo, análogo à diversidade de objetivos de pós-treinamento. Especificamente, eles postulam que conhecimento perigoso (informação factual/procedimental) e toxicidade (comportamento socialmente prejudicial) são representados de maneira diferente dentro da mecânica interna do modelo. Consequentemente, um único objetivo de esquecimento pode ser ineficaz para ambos. Os métodos atuais frequentemente falham em remover robustamente essas capacidades ou degradam inadvertidamente a utilidade geral do modelo.

Metodologia

O artigo propõe estratégias de esquecimento distintas, adaptadas à natureza mecânica específica da propriedade-alvo, avaliadas em quatro modelos de código aberto de 7–8B (Llama3.1-8B, Mistral-7B, Qwen2.5-7B, Olmo3-7B).

1. Esquecimento de Conhecimento Perigoso

Com base em evidências mecânicas de que o conhecimento factual é armazenado em locais relativamente estáveis (posições de sujeito, objeto e último token) através das camadas, os autores modificam o framework de Desvio de Representação para Esquecimento (RMU):

Perda Baseada em Cosseno: Eles substituem a perda de distância L2 padrão por uma perda baseada em cosseno. A hipótese é que a direção representacional é mais crítica do que a posição euclidiana exata. Isso otimiza o alinhamento entre a representação atualizada e a direção-alvo sem penalizar mudanças de magnitude inofensivas.
Coeficiente Meta-Aprendido ( $\alpha$ ): Em vez de fixar o coeficiente de compensação entre os objetivos de esquecer e reter, os autores tratam $\alpha$ como um parâmetro aprendível. Usando REINFORCE, o modelo atualiza adaptativamente $\alpha$ durante o ajuste fino para equilibrar o esquecimento e a retenção, removendo a necessidade de ajuste manual extensivo.

2. Esquecimento de Toxicidade

Estudos mecânicos sugerem que a toxicidade é representada de maneira diferente, frequentemente elicita em camadas MLP posteriores e não necessariamente removida por métodos de alinhamento como DPO. Uma abordagem de camada única ou direção única provou ser ineficaz.

Objetivo Multi-Camada: Os autores propõem uma perda de esquecimento que visa sinais relevantes para toxicidade através de múltiplas camadas.
Sondas Específicas por Camada: Eles treinam sondas de regressão logística linear nas representações de último token de um modelo de referência congelado em várias camadas para identificar direções específicas de toxicidade por camada ( $LR_i$ ).
Ortogonalização: A perda de esquecimento incentiva as representações do modelo atualizado de entradas tóxicas a se tornarem ortogonais à direção de toxicidade em cada camada-alvo. A perda eleva ao quadrado o produto escalar para garantir não negatividade e gradientes simétricos, atribuindo gradientes maiores a representações fortemente alinhadas com a toxicidade.
Seleção de Camada: Experimentos indicam que o esquecimento eficaz requer atualizações coordenadas através de profundidades dispersas (camadas iniciais, médias e tardias), pois as direções de toxicidade rotacionam significativamente através da profundidade da rede.

3. Métrica de Avaliação: S-Esquecimento

Para resumir o compromisso entre desempenho de esquecimento ( $U$ ) e utilidade retida ( $R$ ), os autores introduzem o S-esquecimento:

As pontuações de utilidade e esquecimento são corrigidas pelo acaso.
A pontuação final é o produto $\bar{U} \cdot \bar{R}$ .
Esta métrica varia de 0 a 1, maximizando quando o esquecimento é forte e a utilidade é alta, e caindo para zero se a utilidade cair para níveis de acaso. É geometricamente equivalente à área do retângulo definido pelo ponto $(\bar{U}, \bar{R})$ .

Resultados Principais

Os métodos propostos foram avaliados em quatro modelos usando WMDP para conhecimento perigoso e RealToxicityPrompts para toxicidade.

Conhecimento Perigoso: A variante RMU baseada em cosseno e meta-aprendida alcançou resultados fortes, superando o RMU padrão e o RMU Adaptativo na maioria dos modelos (Mistral, Qwen, Olmo) enquanto preservava capacidades gerais (MMLU). Alcançou o melhor compromisso S-esquecimento em três dos quatro modelos.
Toxicidade: O objetivo multi-camada superou significativamente as linhas de base. Enquanto o RMU padrão e o RMU Adaptativo reduziram a toxicidade apenas em 2–3%, o método proposto alcançou reduções de 6–24%.
- O método produziu as pontuações S-esquecimento mais altas para toxicidade em todos os modelos.
- Análise de Camada: As sondas revelaram que as direções de toxicidade são amplamente específicas por camada (similaridade de cosseno < 0,5 entre a maioria dos pares cruzados de camadas), validando a necessidade de intervenção multi-camada.
- Ablação: Atualizar três ou mais camadas (especificamente uma mistura de camadas médias e tardias) produziu os melhores compromissos segurança-utilidade. Intervenções de camada única frequentemente falharam em reduzir a toxicidade significativamente.

Significado e Alegações

O artigo alega que o esquecimento deve ser estudado como uma família de problemas em vez de uma única intervenção genérica.

Consciência Mecânica: Os resultados apoiam a visão de que diferentes funções linguísticas (recordação factual versus geração tóxica) dependem de mecanismos internos distintos. Portanto, os objetivos de esquecimento devem ser personalizados para a função específica sendo removida.
Geometria do Esquecimento: Para conhecimento factual, preservar a estrutura direcional via perda de cosseno é superior à distância L2. Para toxicidade, a natureza distribuída e rotativa da representação requer ortogonalização guiada por sondas e multi-camada.
Avaliação: A métrica S-esquecimento fornece uma maneira unificada de capturar os compromissos complexos inerentes ao esquecimento, facilitando uma melhor comparação entre métodos.

Os autores concluem que o esquecimento eficaz requer uma compreensão mais profunda do que está sendo esquecido, indo além de abordagens de tamanho único para métodos que respeitam as propriedades geométricas e estruturais específicas da capacidade-alvo dentro do LLM.