EvoMU: Evolutionary Machine Unlearning

Resumo Técnico: EvoMU (Machine Unlearning Evolucionário)

1. O Problema: O Gargalo do Design de Funções de Perda

O Machine Unlearning (desaprendizado de máquina) visa remover informações específicas (sensíveis, protegidas por direitos autorais ou prejudiciais) de um modelo treinado sem a necessidade de um retreinamento completo. A abordagem predominante é o ajuste fino (fine-tuning) utilizando uma função de perda (loss function) projetada para suprimir os dados de esquecimento (forget set) enquanto preserva a utilidade nos dados de retenção (retain set).

Os autores identificam dois desafios críticos:

• Vastidão do Espaço de Busca: O espaço de funções de perda possíveis é imenso, tornando a busca por uma função ideal extremamente difícil para humanos.
• Falta de Universalidade: Não existe uma função de perda universal. O sucesso depende da geometria dos dados (sobreposição entre o que deve ser esquecido e o que deve ser mantido). Uma perda mal projetada pode causar over-unlearning (destruir a utilidade geral do modelo) ou under-unlearning (não esquecer o suficiente).

2. Metodologia: EvoMU como um "AI Co-Scientist"

O EvoMU propõe tratar o design de funções de perda como um problema de Descoberta Científica Automatizada (ASD). Em vez de depender de especialistas humanos, o sistema utiliza um loop evolutivo impulsionado por um LLM (neste caso, o modelo de pequeno porte Qwen3-4B-Thinking).

O fluxo de trabalho consiste em:

1. Proposição (LLM Proposer): Um LLM gera candidatas de funções de perda em código Python executável, incluindo também o orçamento de treinamento (número de épocas).
2. Treinamento e Avaliação: Cada função candidata é testada treinando adaptadores LoRA leves. O modelo resultante é avaliado por métricas padronizadas de esquecimento e utilidade.
3. Seleção (Top-K): As melhores funções são selecionadas com base em um score que equilibra eficácia de esquecimento e preservação de utilidade.
4. Mutação (LLM Mutator): O LLM recebe o código da função, o histórico de treinamento e os resultados da avaliação. Ele então "muta" as melhores funções (ajustando coeficientes, mudando a estrutura matemática ou o orçamento de treinamento) para gerar uma nova geração de candidatas.

Este ciclo de verificar $\rightarrow$ selecionar $\rightarrow$ mutar é repetido para refinar as funções até atingir o estado da arte (SotA).

3. Principais Contribuições

• Framework de Descoberta de Objetivos: Um pipeline de ponta a ponta que automatiza a criação de funções de perda executáveis.
• Eficiência com Modelos Pequenos: Demonstra que um modelo de apenas 4 bilhões de parâmetros (em vez de modelos gigantescos e fechados) é capaz de realizar descobertas científicas eficazes.
• Perdas Específicas para a Tarefa: O estudo prova que as funções de perda devem ser adaptadas à estrutura de cada dataset, e o EvoMU consegue sintetizar essas funções personalizadas.
• Descoberta de Novas Estruturas: O método não apenas ajusta hiperparâmetros de funções existentes, mas descobre novas formas matemáticas (ex: transformações exponenciais ou barreiras de hinge) que superam as abordagens manuais.

4. Resultados Experimentais

O EvoMU foi testado em quatro benchmarks principais: TOFU (5% e 10%), MUSE (News e Books) e WMDP.

• TOFU: O EvoMU alcançou o melhor equilíbrio entre esquecimento e utilidade (score MU), superando métodos como NPO e SimNPO. No cenário de 10% (mais difícil), ele evitou o colapso de utilidade que afetou outros métodos.
• MUSE: No dataset Books (onde os dados de esquecimento e retenção são muito parecidos/entrançados), o EvoMU conseguiu reduzir a memorização sem destruir a capacidade do modelo de responder sobre o mesmo universo temático.
• WMDP: No combate ao conhecimento perigoso, o EvoMU superou o SimNPO em utilidade geral (MMLU) mantendo níveis de esquecimento comparáveis ou superiores.
• Resistência ao Reaprendizado: Testes mostraram que o conhecimento esquecido pelo EvoMU é mais difícil de ser recuperado via fine-tuning subsequente (relearning) do que nos métodos tradicionais.

5. Significância e Conclusão

A importância deste trabalho reside na mudança de paradigma: em vez de projetar componentes de aprendizado profundo manualmente, devemos usar a IA para descobrir esses componentes através de busca evolutiva.

O EvoMU torna o machine unlearning mais prático, auditável e eficiente, permitindo que organizações respondam a solicitações de exclusão de dados ou mitiguem riscos de segurança de forma muito mais precisa e com menos recursos computacionais do que as abordagens atuais.