Resumo Técnico: Locality-Aware Continual Unlearning para Modelos de Difusão

1. Definição do Problema

A implantação de modelos de difusão de texto-para-imagem em cenários do mundo real exige o Desaprendizado Contínuo (Continual Unlearning - CUL): a remoção sequencial de conceitos específicos (por exemplo, devido a questões de privacidade, direitos autorais ou regulamentações de segurança) enquanto se preserva a capacidade do modelo de gerar todo o outro conteúdo.

Os métodos de desaprendizado existentes são projetados primariamente para exclusão de etapa única (one-shot). Quando aplicados sequencialmente, esses métodos exibem uma instabilidade rápida, tipicamente colapsando após apenas 3 a 5 etapas. Os autores identificam três fatores cumulativos responsáveis por essa falha:

1. Alvos de Mapeamento Coesos: Os métodos atuais redirecionam diversos prompts de esquecimento para um único âncora fixo (por exemplo, uma string vazia ou um conceito genérico). Isso força deslocamentos desnecessariamente grandes no campo de score do modelo para cada prompt, causando uma degradação cumulativa da fidelidade generativa.
2. Falta de Proteção Local: O desaprendizado induz um "efeito cascata" (ripple effect), onde conceitos semanticamente vizinhos (aqueles que compartilham representações internas) sofrem o maior dano colateral. As estratégias de replay global existentes distribuem a regularização uniformemente, falhando em proteger esses vizinhanças locais vulneráveis.
3. Descompasso entre Espaço de Texto e Espaço do Modelo: Métodos que dependem de similaridade no espaço de texto (por exemplo, embeddings do CLIP) não refletem com precisão como o modelo de difusão processa internamente os prompts. Prompts próximos no espaço CLIP podem induzir previsões de ruído vastamente diferentes, levando a uma seleção de alvo subótima que acumula erros ao longo de etapas sequenciais.

2. Metodologia: Locality-Aware Continual Unlearning (LACU)

Os autores propõem o LACU, um framework que fundamenta tanto a seleção de alvo quanto o replay em um princípio único e consciente do modelo: a Distância de Predição de Score (Score-Prediction Distance). Esta métrica mede a diferença nas previsões de ruído entre dois prompts em estados latentes ruidosos compartilhados, quantificando efetivamente a proximidade dentro do próprio panorama de denoising do modelo.

O framework opera como um processo professor-aluno de múltiplos objetivos em cada etapa contínua $i$, onde o modelo anterior congelado $\hat{\theta}_{i-1}$ atua como o professor e o modelo atualizado $\theta_i$ é o aluno. A perda total é definida como:
$$\mathcal{L}_{\text{total}} = \lambda_{\text{unlearn}} \mathcal{L}_{\text{unlearn}} + \lambda_{\text{retain}} \mathcal{L}_{\text{retain}} + \lambda_{\text{reg}} \mathcal{L}_{\text{reg}}$$

Componentes Principais:

1. Seleção de Alvo Consciente de Localidade (Locality-Aware Target Selection):

   • Em vez de mapear todos os prompts de esquecimento para um âncora fixo, o LACU gera substituições de candidatos que preservam o contexto para cada prompt de esquecimento específico.
   • Ele seleciona o candidato com a menor distância de predição de score em relação ao prompt de esquecimento original.
   • Objetivo: Minimizar a perturbação do campo de score aprendido para cada etapa, garantindo que as atualizações sejam o mais pequenas e direcionadas possível.

2. Replay Consciente de Localidade (Locality-Aware Replay):

   • O framework identifica conceitos de retenção que estão mais próximos do conceito de esquecimento no espaço de predição de ruído do modelo (usando a mesma métrica de distância de predição de score).
   • Esses vizinhos mais próximos são reproduzidos (replayed) como um regularizador funcional local.
   • Objetivo: Blindar diretamente a vizinhança semântica mais vulnerável do efeito cascata, em vez de depender de um replay global que sub-investe nessas regiões frágeis.

3. Mecanismos de Estabilização:

   • Destilação Professor-Aluno: O aluno imita o comportamento do professor tanto nos alvos de mapeamento selecionados quanto nos vizinhos de replay local.
   • Regularização $\ell_2$ Leve: Um termo de penalidade ($\|\theta_i - \hat{\theta}_{i-1}\|_2^2$) limita o desvio cumulativo de parâmetros ao longo das etapas sequenciais.

3. Principais Contribuições

• Diagnóstico de Instabilidade Sequencial: O artigo rastreia o colapso dos métodos existentes em CUL até o mapeamento coeso, a falta de proteção local e a inadequação das métricas de similaridade de espaço de texto.
• Métrica de Localidade Consciente do Modelo: Introdução da Distância de Predição de Score como uma métrica superior para medir a proximidade de conceitos, substituindo similaridades de embedding de texto (como CLIP) por medições diretas do comportamento de denoising do modelo.
• Framework de Dois Componentes: A integração da Seleção de Alvo Consciente de Localidade e do Replay Consciente de Localidade, acoplados via a mesma métrica, para simultaneamente minimizar a magnitude da atualização e proteger vizinhos vulneráveis.
• Desaprendizado Estável de 10 Etapas: Demonstração de que o LACU mantém o desempenho estável ao longo de 10 etapas sequenciais de desaprendizado, um regime onde a maioria das linhas de base (baselines) falha.

4. Resultados Experimentais

Os autores avaliaram o LACU no Stable Diffusion v1.5, desaprendendo sequencialmente 10 conceitos diversos (objetos, estilos artísticos e indivíduos) através de 5 ordenações aleatórias.

• Desempenho vs. Baselines:
  • Retenção: O LACU supera significativamente as linhas de base recentes (ex: ESD, UCE, AGE, DUGE) em Acurácia de Retenção Relacionada (RRacc) e Acurácia de Retenção Geral (GRacc). Enquanto baselines agressivos alcançam alta acurácia de desaprendizado, mas sofrem colapso de retenção (RRacc/GRacc caindo próximo a 0 após 5–10 etapas), o LACU mantém altos escores de retenção (ex: RRacc $\approx$ 0,72, GRacc $\approx$ 0,87 após 10 etapas).
  • Eficácia do Desaprendizado: O LACU alcança alta Acurácia de Desaprendizado (Uacc $\approx$ 0,90–0,99), removendo efetivamente os conceitos alvo sem sacrificar a capacidade de gerar conteúdo não relacionado.
• Estudos de Ablação:
  • Escolha da Métrica: O uso da distância de predição de score para seleção produz uma estabilidade de longo prazo superior em comparação com seleções baseadas em CLIP ou âncoras fixas ingênuas.
  • Contribuição dos Componentes: Remover o componente de replay local leva ao colapso da retenção devido aos efeitos de cascata cumulativos. Remover a regularização leva ao desvio de parâmetros. A combinação de ambos é necessária para o equilíbrio observado.
• Análise Qualitativa: Comparações visuais mostram que, enquanto as baselines degradam a qualidade dos conceitos retidos (ex: falhando em gerar o estilo "Van Gogh" após desaprender "Van Gogh"), o LACU preserva a qualidade generativa dos conceitos retidos enquanto apaga com sucesso o alvo.

5. Significância e Alegações

O artigo afirma que o design consciente de localidade é a chave para a estabilidade no desaprendizado sequencial. Ao tratar o desaprendizado como uma série de perturbações mínimas e direcionadas no próprio espaço de representação do modelo — em vez de um redirecionamento global — o framework evita o acúmulo de erros que leva ao colapso do modelo.

Os autores enfatizam que sua abordagem não requer retreinamento total e é compatível com arquiteturas de difusão existentes. No entanto, eles observam limitações:

• O método atualmente depende de um LLM para gerar prompts candidatos, embora a lógica central de seleção seja agnóstica ao modelo.
• Conceitos de estilo permanecem desafiadores de desaprender devido a características amplamente compartilhadas.
• A implantação no mundo real pode exigir a escala para centenas ou milhares de exclusões sequenciais, o que permanece um desafio aberto.
• O framework professor-aluno requer a manutenção de uma cópia congelada do modelo, aumentando o overhead de memória e computação em comparação com abordagens de modelo único.

O código está disponível em https://github.com/SonyResearch/LACU.