🤖 machine learning

Understanding Machine Unlearning Through the Lens of Mode Connectivity

Este artigo introduz o conceito de conectividade de modo no desaprendizado (MCU) para analisar a geometria de otimização do desaprendizado de máquina, revelando que modelos desaprendidos frequentemente residem em bacias de baixa perda conectadas com mecanismos distintos do retreinamento, ao mesmo tempo em que oferece insights sobre métricas de privacidade, progresso de desaprendizado não linear e robustez aprimorada através de ensembling.

Autores originais: Jiali Cheng, Hadi Amiri

Publicado 2026-07-28

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jiali Cheng, Hadi Amiri

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um cérebro digital superinteligente, um modelo de aprendizado de máquina, que leu toda a internet. Ele sabe tudo, desde como assar um bolo até a receita secreta de um biscoito famoso. Mas então, alguém pede para ele esquecer essa receita de biscoito porque ela tem direitos autorais ou talvez esteja desatualizada. Você não pode simplesmente deletar algumas linhas de código; o cérebro teceu esse conhecimento em sua própria estrutura. Se você tentar arrancá-lo, pode acidentalmente quebrar sua capacidade de assar o bolo ou responder perguntas simples. Este é o mundo complicado do Desaprendizado de Máquina (Machine Unlearning): a arte de fazer uma IA esquecer coisas específicas sem arruinar sua inteligência geral.

Para entender como isso funciona, os cientistas observam o "cenário de perda" (loss landscape). Pense neste cenário como um terreno gigante e montanhoso, onde a altura do solo representa o quão ruim a IA é em seu trabalho. A IA quer encontrar o vale mais profundo (o ponto mais baixo) onde ela cometa o mínimo de erros. Normalmente, se você treinar duas IAs diferentes do zero, elas podem acabar em vales diferentes. Mas uma descoberta legal chamada Conectividade de Modos (Mode Connectivity) mostrou que esses vales separados são frequentemente conectados por caminhos suaves e baixos. Você pode caminhar da solução de uma IA para a outra sem nunca subir uma colina íngreme. Este artigo faz uma nova pergunta: se pegarmos uma IA e a forçarmos a esquecer algo, ela terminará em um vale que ainda está conectado a outras versões "esquecidas" de si mesma? E o caminho entre elas permanece suave ou se torna um penhasco irregular e quebrado?

Os pesquisadores, Jiali Cheng e Hadi Amiri, decidiram explorar isso introduzindo um novo conceito chamado Conectividade de Modos no Desaprendizado (MCU). Eles trataram o processo de esquecimento como uma jornada através de um mapa. Em vez de apenas verificar se a IA esqueceu a coisa certa, eles observaram o "terreno" entre duas versões diferentes de uma IA que esqueceu. Eles descobriram que, para muitos métodos, o caminho é de fato suave. Você pode deslizar de um modelo "esquecido" para outro sem que a IA subitamente se lembre do biscoito secreto ou perca sua capacidade de assar um bolo. O cenário do esquecimento é frequentemente um vale largo e plano, em vez de um monte de poços isolados.

No entanto, a jornada nem sempre é a mesma. O artigo revela que como você ensina a IA a esquecer importa muito. Se você usar diferentes truques de treinamento — como mudar a ordem das lições (aprendizado por currículo) ou usar um método matemático mais complexo (otimização de segunda ordem) — você pode acabar em vales completamente diferentes que não estão conectados. É como seguir dois caminhos diferentes para o mesmo destino; um pode ser uma rodovia suave, enquanto o outro é uma estrada de terra acidentada que leva a um bairro totalmente diferente.

Uma das descobertas mais surpreendentes é que, mesmo quando dois modelos "esquecidos" parecem idênticos no papel (estão no mesmo vale suave), eles podem agir de forma muito diferente em segredo. Os pesquisadores descobriram que, embora os modelos tivessem desempenhos semelhantes em testes padrão, seus níveis de "privacidade" podiam flutuar drasticamente. Um modelo poderia estar seguro contra hackers tentando enganá-lo para que ele se lembrasse do segredo, enquanto seu gêmeo no mesmo vale poderia ser perigosamente vazante. Isso sugere que só porque uma IA parece ter esquecido, não significa que ela seja verdadeiramente segura.

O artigo também descobriu um padrão estranho na forma como o esquecimento acontece. Não acontece de uma vez só. No início, a IA para de repetir as palavras exatas do segredo (como um papagaio parando uma frase), mas ainda mantém a ideia subjacente. Somente mais tarde, conforme você pressiona mais adiante no caminho, é que ela realmente perde o conhecimento profundo. É como se a IA primeiro parasse de dizer "A receita do biscoito é..." mas ainda soubesse como assá-lo, até que eventualmente esquecesse a receita inteira.

Finalmente, os autores sugerem que essa "suavidade" do caminho é uma ferramenta útil. Se o caminho entre dois modelos esquecidos for acidentado e cheio de barreiras, significa que o trabalho de esquecer foi muito difícil. Se o caminho for suave, o trabalho foi mais fácil. Eles até mostraram que, ao misturar modelos de diferentes pontos ao longo deste caminho suave, você pode criar uma IA super Robusta que é mais difícil de ser enganada para lembrar o segredo novamente.

Em resumo, este artigo não apenas nos diz se uma IA pode esquecer; ele nos dá um mapa de como ela esquece. Ele mostra que o cenário do desaprendizado é complexo, às vezes suave e às vezes irregular, e que a maneira como navegamos nele muda tudo sobre o quão seguras e confiáveis são nossas IAs que esqueceram.

Resumo Técnico: Compreendendo o Desaprendizado de Máquina através da Lente da Conectividade de Modos

Definição do Problema

O desaprendizado de máquina (machine unlearning) visa remover conhecimentos específicos (o "conjunto para esquecer" $D_f$ ) de um modelo treinado, enquanto preserva o desempenho nos dados restantes (o "conjunto de retenção" $D_r$ ) sem a necessidade de retreinamento completo. Apesar dos progressos recentes, a paisagem de perda (loss landscape) e a geometria de otimização do desaprendizado permanecem pouco compreendidas. Pesquisas existentes têm se concentrado amplamente em dinâmicas de treinamento padrão ou melhorias algorítmicas específicas, deixando uma lacuna na compreensão das propriedades estruturais dos modelos desaprendidos, sua similaridade mecanística com o retreinamento e sua robustez contra ataques adversários como o reaprendizado (relearning).

Metodologia: Conectividade de Modos no Desaprendizado (MCU)

Os autores introduzem a Conectividade de Modos no Desaprendizado (MCU), um framework que aplica o conceito de conectividade de modos ao domínio do desaprendizado. Na conectividade de modos padrão, modelos treinados independentemente são conectados por um caminho suave de baixa perda no espaço de parâmetros. A MCU estende isso definindo um caminho $\phi(t)$ que conecta dois modelos desaprendidos ( $\theta'_1$ e $\theta'_2$ ) que deve satisfazer simultaneamente dois objetivos duais:

Desempenho de Retenção: O caminho deve manter uma perda de tarefa baixa no conjunto de retenção $D_r$ .
Desempenho de Esquecimento: O caminho deve manter uma perda de tarefa alta no conjunto de esquecimento $D_f$ .

Formalmente, para todo $t \in [0, 1]$ , o caminho deve satisfazer:
$L(D_r; \phi(t)) \leq (1-t)L(D_r; \theta'_1) + tL(D_r; \theta'_2)$
$L(D_f; \phi(t)) \geq (1-t)L(D_f; \theta'_1) + tL(D_f; \theta'_2)$

O estudo avalia a MCU em diversos cenários:

Datasets: Benchmarks de LLM (TOFU, MUSE, WMDP) e benchmarks de classificação (CIFAR-10, DDI2013, NLVR2) do MU-Bench.
Métodos de Desaprendizado: Ascensão de Gradiente (GA), GradDiff (GD), Otimização de Preferência Negativa (NPO), SimNPO, RMU, Rotulagem Aleatória (RL), Bad Teaching (BT) e Desaprendizado de Saliência (SU).
Dinâmicas de Treinamento: Variações em aprendizado por currículo (CL), otimização de segunda ordem (SO) vs. primeira ordem, e diferentes sementes aleatórias.
Tipos de Curva: Interpolação linear e curvas quadráticas (onde um ponto médio é explicitamente treinado para minimizar a perda acumulada).

Principais Resultados

1. Paisagens de Perda Suaves e Convergência de Bacia

O estudo descobre que a MCU é prevalente em muitos cenários de desaprendizado. Modelos desaprendidos gerados por diferentes sementes aleatórias ou algoritmos específicos frequentemente residem na mesma bacia conectada de baixa perda.

Efeitos de Escala: À medida que o tamanho do modelo aumenta ou o conjunto para esquecer cresce, as curvas de MCU tornam-se mais suaves (barreiras menores). No entanto, esse aumento de suavidade correlaciona-se com um pior desempenho de desaprendizado, sugerindo que escalar o desaprendizado em modelos maiores é geometricamente mais desafiador.
Paradigmas de Treinamento: Mudanças nas dinâmicas de treinamento, especificamente entre Aprendizado por Currículo (CL) e otimização de Segunda Ordem (SO), podem fazer com que os métodos de desaprendizado convirjam para bacias diferentes e desconectadas. Quando os pontos finais são treinados com paradigmas mistos (ex: um CL, outro não-CL), barreiras significativas aparecem, indicando estruturas de solução divergentes.

2. Heterogeneidade Funcional dentro das Bacias

Modelos que residem na mesma bacia de baixa perda podem exibir comportamentos funcionais drasticamente diferentes, particularmente em relação a métricas de privacidade.

Volatilidade de Privacidade: No dataset MUSE usando RMU, modelos ao longo de uma curva MCU suave mostraram desempenho estável em métricas de conhecimento de esquecimento/retenção, mas exibiram flutuações massivas na vazão de privacidade ($|PrivLeak|$), variando de +100 a -100.
Implicação: Isso revela que a proximidade no espaço de parâmetros não garante propriedades de privacidade idênticas, destacando uma limitação nos protocolos de avaliação atuais que dependem apenas de métricas de pontos finais.

3. Dinâmicas de Desaprendizado Não Lineares

Sondar o caminho do modelo original para o modelo desaprendido revela que o desaprendizado não é um processo linear.

Suprimir Primeiro, Desaprender Depois: A remoção de memorização superficial (ex: texto verbatim) ocorre mais cedo no caminho de parâmetros do que a remoção de conhecimento profundo. Os modelos podem parar de reproduzir textos específicos enquanto retêm o conhecimento subjacente até que um limite específico seja cruzado, após o qual ocorre o desaprendizado profundo.

4. Distinção Mecanística do Retreinamento

A análise de MCU sugere que métodos de desaprendizado aproximado são mecanisticamente distintos do retreinamento do zero.

Falta de Conectividade: A maioria dos métodos de desaprendizado (exceto NPO) não forma uma conexão linear suave com um modelo retreinado do zero, mesmo quando sua utilidade final é comparável. Isso implica que o desaprendizado atinge pontos finais válidos via trajetórias de otimização diferentes, em vez de aproximar a solução de retreinamento ao longo de um subespaço compartilhado.
Similaridade de Métodos: O GA mostra conectividade suave com todos os outros métodos no conjunto de esquecimento, sugerindo um mecanismo compartilhado para lidar com amostras de esquecimento, enquanto métodos como NPO e SimNPO compartilham mecanismos distintos do GradDiff.

5. Ensembling Baseado em MCU e Robustez

Generalização: A média de modelos amostrados ao longo da curva MCU (ensembling baseado em MCU) pode melhorar o equilíbrio entre esquecimento e retenção, frequentemente superando os pontos finais individuais.
Robustez: Modelos obtidos via ensembling de MCU demonstram significativamente maior robustez contra ataques de reaprendizado (ajuste fino em dados genéricos para recuperar o conhecimento esquecido) em comparação com modelos desaprendidos padrão. Isso corrobora a hipótese de que paisagens de perda mais suaves correlacionam-se com maior robustez adversária.

6. Suavidade da MCU como Proxy de Dificuldade

A suavidade da curva MCU (medida pela altura da barreira) serve como um proxy para a dificuldade do desaprendizado. Conjuntos para esquecer "difíceis" (ex: dados adversários ou altamente memorizados) resultam em curvas de MCU com barreiras mais altas e mais irregularidade em comparação com conjuntos para esquecer "fáceis".

Significância e Alegações

O artigo afirma ser o primeiro estudo a investigar o desaprendizado de máquina através da lente da conectividade de modos. Sua significância reside em:

Utilidade Diagnóstica: Fornecer um framework geomético para entender as dinâmicas de otimização, a estrutura do espaço de solução e as similaridades mecanísticas dos métodos de desaprendizado.
Aplicação Prática: Demonstrar que a MCU pode ser usada como uma ferramenta para selecionar modelos desaprendidos mais robustos e melhorar a generalização através de ensembling.
Insight Teórico: Revelar que as paisagens de desaprendizado são frequentemente suaves e conectadas, mas que propriedades funcionais (como privacidade) podem variar significativamente dentro dessas bacias, e que o desaprendizado segue uma progressão não linear distinta do retreinamento padrão.

Os autores concluem que a MCU oferece novos caminhos para pesquisas futuras, particularmente no design de métodos de desaprendizado que naveguem em regiões mais suaves e robustas da paisagem de perda.