🤖 machine learning

OFMU: Optimization-Driven Framework for Machine Unlearning

Este artigo introduz o OFMU, um framework de otimização de nível duplo baseado em penalidade que resolve a instabilidade e a degradação de utilidade dos métodos existentes de desaprendizado de máquina ao priorizar explicitamente o esquecimento de dados por meio de uma penalidade consciente de similaridade, enquanto preserva o desempenho do modelo nos dados retidos, alcançando eficácia superior e garantias de convergência em benchmarks de visão e linguagem.

Autores originais: Sadia Asif, Mohammad Mohammadi Amiri

Publicado 2026-06-23

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Sadia Asif, Mohammad Mohammadi Amiri

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um bibliotecário muito inteligente e culto (o modelo de IA) que memorizou milhões de livros. Um dia, um cliente pede ao bibliotecário para "desaprender" uma história específica e sensível que ele lhe contou — talvez porque a história fosse um segredo, protegida por direitos autorais ou simplesmente não fosse mais verdadeira. O cliente quer que o bibliotecário esqueça essa história completamente, mas que ainda se lembre de todo o resto perfeitamente para que possa continuar ajudando com outras perguntas.

Este é o problema do Desaprendizado de Máquina (Machine Unlearning). O artigo apresenta um novo método chamado OFMU para resolver esse delicado equilíbrio.

Aqui está como o artigo explica o problema e a sua solução, usando analogias simples:

O Problema: O "Cabo de Guerra"

A maioria dos métodos atuais tenta fazer o bibliotecário esquecer a história ruim puxando uma corda na direção oposta. No entanto, eles tratam "esquecer a história ruim" e "lembrar das histórias boas" como duas tarefas iguais acontecendo ao mesmo tempo.

O artigo argumenta que isso é como um Cabo de Guerra, onde duas equipes puxam a mesma corda com a mesma força.

Se a equipe do "esquecimento" puxar demais, o bibliotecário esquece tudo, incluindo as histórias boas (o modelo quebra).
Se a equipe da "lembrança" puxar demais, o bibliotecário nunca chega a esquecer a história ruim (o desaprendizado falha).
Como as direções de "esquecer" e "lembrar" frequentemente conflitam, o bibliotecário fica confuso, levando a resultados instáveis.

A Solução: OFMU (A Abordagem do "Chefe Rigoroso")

Os autores propõem o OFMU, que muda as regras do jogo. Em vez de um Cabo de Guerra, eles estabelecem uma estrutura hierárquica (um chefe e um funcionário).

O Ciclo Interno (O Chefe Rigoroso): Primeiro, o sistema foca apenas na tarefa de "esquecer". Ele age como um chefe rigoroso que diz: "Seu único trabalho agora é apagar esta memória específica". Para garantir que isso não danifique acidentalmente as outras memórias, o sistema utiliza uma ferramenta especial chamada penalidade de consciência de similaridade (similarity-aware penalty).
- Analogia: Imagine que o bibliotecário está apagando uma página específica de um livro. A "penalidade" é como um guarda que observa a mão do bibliotecário. Se a mão do bibliotecário começar a se mover de uma forma que acidentalmente rasgaria uma outra página (uma boa memória), o guarda o interrompe. Isso garante que a ação de "esquecer" não atrapalhe a ação de "reter".
O Ciclo Externo (O Funcionário Prestativo): Uma vez que o "esquecimento" foi concluído e a memória ruim se foi, o sistema muda para a tarefa de "lembrar". Ele ajusta suavemente o bibliotecário para que ele fique afiado e prestativo novamente, mas apenas depois que a memória ruim for confirmada como removida.

Como Eles Fazem Isso (O Algoritmo de Dois Ciclos)

O artigo descreve um processo de "dois ciclos", que é como uma rotina de ensaio e performance:

Ensaio (Ciclo Interno): O bibliotecário pratica o ato de esquecer a história ruim por alguns minutos. Eles não precisam dominar isso perfeitamente a cada vez; eles só precisam chegar perto do ponto onde a memória desapareceu.
Performance (Ciclo Externo): Assim que o ensaio é concluído, o bibliotecário realiza a tarefa principal: responder perguntas sobre as boas histórias. Eles usam uma "penalidade" matemática para garantir que não escorregaram e trouxeram a história ruim de volta acidentalmente.

Os autores provam matematicamente que este método é estável e converge (funciona de forma confiável) mesmo para modelos muito complexos e grandes.

Os Resultados: Melhor Equilíbrio

O artigo testou isso em dois tipos de "bibliotecários":

Modelos de Linguagem (LLMs): Como o LLaMA, usados para texto e conversação.
Modelos de Visão: Usados para reconhecer imagens (como identificar gatos vs. cachorros).

O que eles descobriram:

Os métodos antigos eram como uma marreta: ou esmagavam a memória ruim mas quebravam a biblioteca inteira (perdendo toda a utilidade), ou mantinham a biblioteca segura mas falhavam em remover a memória ruim.
O OFMU era como um cirurgião: removeu com sucesso a memória ruim enquanto mantinha o restante da biblioteca em perfeitas condições. Em testes, o OFMU foi melhor em "desaprender" itens difíceis sem causar o colapso do modelo ou torná-lo inútil. Também tornou o modelo mais seguro contra pessoas tentando adivinhar quais dados estavam dentro dele (um teste chamado Inferência de Pertencimento/Membership Inference).

Resumo

Em suma, o artigo diz: "Não tente esquecer e lembrar ao mesmo tempo com o mesmo peso. Primeiro, force o modelo a esquecer os dados ruins específicos usando um sistema de penalidade inteligente e protetor. Uma vez feito isso, corrija o desempenho geral do modelo. Essa hierarquia de 'esquecer primeiro' cria uma maneira muito mais estável e eficaz de limpar modelos de IA."

Resumo Técnico de OFMU: Estrutura de Otimização para Machine Unlearning

Declaração do Problema
Grandes Modelos de Linguagem (LLMs) e outros modelos de aprendizado profundo treinados em corpora massivos frequentemente contêm informações sensíveis, protegidas por direitos autorais ou prejudiciais. Regulamentações como o GDPR exigem o "direito ao esquecimento", requerendo que os modelos removam a influência de dados específicos (o conjunto de esquecimento, $D_f$ ) sem retreinar do zero, enquanto mantêm o desempenho nos dados restantes (o conjunto de retenção, $D_r$ ).

Os métodos de unlearning baseados em modelos existentes tipicamente formulam isso como um problema de otimização multiobjetivo escalarizado, combinando perdas de esquecimento e retenção com pesos fixos. O artigo identifica três limitações críticas nesta abordagem:

Ponderação Estática: Pesos fixos falham em se adaptar à natureza dinâmica do unlearning, onde as etapas iniciais devem priorizar o esquecimento e as etapas posteriores devem focar na restauração da utilidade.
Instabilidade: A escalarização leva a dinâmicas de treinamento instáveis. Se o objetivo de esquecimento dominar, a utilidade do modelo colapsa; se o objetivo de retenção dominar, o esquecimento permanece incompleto.
Emaranhamento de Gradiente: Em amostras "difíceis de esquecer", os gradientes para esquecimento e retenção estão fortemente acoplados. Atualizações agressivas para remover o conhecimento frequentemente causam danos colaterais desproporcionais ao conhecimento retido.

Metodologia: OFMU
Os autores propõem o OFMU (Optimization-Driven Framework for Machine Unlearning), uma estrutura de otimização bi-nível baseada em penalidade que separa explicitamente os objetivos em uma estrutura hierárquica. A filosofia central é que o esquecimento é um objetivo primário não negociável, enquanto a preservação da utilidade é um objetivo secundário condicional ao sucesso do esquecimento.

Formulação Bi-nível:
- Maximização Interna (Esquecimento): O problema interno busca parâmetros $\theta^*$ que maximizam a perda no conjunto de esquecimento enquanto minimizam a similaridade entre os gradientes de esquecimento e retenção. Isso é definido pelo objetivo $\Phi(\theta) = L_f(\theta) - \beta \cdot \text{Sim}(\nabla L_f, \nabla L_r)$ , onde $\beta$ controla a penalidade de decorrelação de gradiente.
- Minimização Externa (Utilidade): O problema externo minimiza a perda no conjunto de retenção $L_r(\theta)$ , sujeito à restrição de que os parâmetros são pontos estacionários do objetivo interno ( $\nabla \Phi(\theta) = 0$ ).
Reformulação Baseada em Penalidade:
Resolver diretamente o problema bi-nível é computacionalmente proibitivo devido à necessidade de maximização interna repetida e derivadas de ordem superior. O OFMU reformula isso em um problema de nível único sem restrições usando um termo de penalidade:
$F(\theta) = L_r(\theta) + \rho \|\nabla \Phi(\theta)\|^2$
Aqui, $\rho$ é um parâmetro de penalidade que impõe a estacionalidade do objetivo interno. À medida que $\rho \to \infty$ , o minimizador de $F(\theta)$ satisfaz as restrições bi-níveis originais.
Algoritmo de Dois Loops:
Para garantir a escalabilidade, os autores desenvolvem um algoritmo de dois loops:
- Loop Interno: Realiza $T$ passos de ascensão de gradiente em $\Phi(\theta)$ para maximizar o esquecimento e decorrelacionar os gradientes.
- Loop Externo: Realiza um passo de descida de gradiente em $F(\theta)$ para restaurar a utilidade. Este passo envolve o cálculo de um produto Hessiano-vetor (via diferenciação automática) para lidar com o termo de penalidade $\|\nabla \Phi(\theta)\|^2$ .
- Cronograma de Penalidade: O parâmetro de penalidade $\rho$ é aumentado ao longo das iterações para fortalecer gradualmente a imposição da condição de estacionalidade interna.

Principais Contribuições

Estrutura Inovadora: Introdução do OFMU, uma estrutura bi-nível que prioriza o esquecimento sobre a preservação da utilidade, capturando a assimetria inerente da tarefa de unlearning.
Algoritmo Escalável: Desenvolvimento de um algoritmo de dois loops com garantias de convergência comprováveis que evita os gargalos computacionais da otimização bi-nível tradicional (ex: convergência interna total).
Penalidade Sensível à Similaridade: Design de um termo de penalidade que decorrelaciona dinamicamente os gradientes de esquecimento e retenção, mitigando a interferência destrutiva durante as atualizações.
Análise Teórica: Análise de convergência rigorosa mostrando que o algoritmo converge para um ponto $\epsilon$ -estacionário tanto em cenários convexos quanto não-convexos, com limites específicos de subotimalidade.

Resultados Experimentais
Os autores avaliaram o OFMU em benchmarks de linguagem e visão:

Linguagem (Benchmark TOFU): Usando LLaMA-2-7B e LLaMA-3.2-1B, o OFMU foi testado para remover 1%, 5% e 10% do dataset.
- Desempenho: O OFMU alcançou um equilíbrio superior entre Qualidade de Esquecimento (FQ), Utilidade do Modelo (MU) e Razão de Verdade de Esquecimento (FTR).
- Comparação: Ao contrário do Gradient Ascent (GA) e Gradient Difference (GradDiff), que alcançaram alto FQ mas causaram o colapso da utilidade (MU $\approx$ 0), o OFMU manteve alta utilidade (ex: MU $\approx$ 0,65 no LLaMA-2 para 5% de esquecimento) enquanto impunha um esquecimento forte. Superou baselines como NPO e RMU em pontuações normalizadas gerais.
Visão (CIFAR-10): Testado sob configurações de esquecimento por classe e aleatório.
- Por Classe: O OFMU alcançou 81,51% de Acurácia de Unlearning (UA) e 93,51% de Acurácia de Retenção (RA), oferecendo um melhor trade-off do que o Influence Unlearning (IU), que possuía UA mais alta, porém era computacionalmente caro.
- Aleatório: No desafiador cenário de esquecimento aleatório (10% dos dados), o OFMU alcançou 7,71% de UA, superando ligeiramente o retreinamento (6,79%), enquanto manteve robustez contra Ataques de Inferência de Membro (MIA).

Significância e Alegações
O artigo afirma que o OFMU aborda a instabilidade fundamental dos métodos de unlearning escalarizados ao reconhecer a natureza hierárquica do problema. Ao impor o esquecimento como uma restrição primária antes de otimizar a utilidade, o OFMU alcança trade-offs de estado da arte em ambas as tarefas de linguagem e visão. Os autores afirmam que sua abordagem fornece:

Estabilidade: Desempenho consistente mesmo em amostras difíceis de esquecer, onde outros métodos falham.
Robustez: Maior resiliência contra ataques de inferência de membro comparado aos baselines existentes.
Fundamentação Teórica: Uma abordagem principista com garantias de convergência em regimes não-convexos, indo além de esquemas de ponderação heurísticos.

O artigo conclui que, embora o OFMU represente um avanço significativo, trabalhos futuros poderiam explorar cenários de unlearning contínuo, cronogramas de penalidade adaptativos e aplicação a modelos fundacionais maiores e dados multimodais.

O Problema: O "Cabo de Guerra"

A Solução: OFMU (A Abordagem do "Chefe Rigoroso")

Como Eles Fazem Isso (O Algoritmo de Dois Ciclos)

Os Resultados: Melhor Equilíbrio

Resumo

Mais como este