Not Every Time and Frequency Need to Be Forgotten in Diffusion Unlearning

Resumo Técnico: Nem Todo Tempo e Frequência Precisam Ser Esquecidos na Difusão de Desaprendizado (Diffusion Unlearning)

Definição do Problema
O desaprendizado de dados (data unlearning) em modelos de difusão visa remover a influência de amostras de treinamento específicas (o "conjunto de esquecimento" ou forget set) de um modelo pré-treinado, enquanto preserva a utilidade dos dados restantes (o "conjunto de retenção" ou retain set). As abordagens atuais de ajuste fino (fine-tuning), como o Gradiente Ascendente (GA) ou a Otimização de Preferência Negativa (NPO), dependem tipicamente da maximização da perda sobre o conjunto de esquecimento. No entanto, esses métodos sofrem frequentemente de dois problemas críticos:

1. Esquecimento Incompleto: O modelo pode falar em apagar totalmente a instância específica.
2. Degradação de Qualidade: O desaprendizado agressivo frequentemente leva a gerações ruidosas, esteticamente pobres ou distorcidas para o conjunto de retenção.

Os métodos existentes geralmente tratam todos os passos de tempo e componentes de frequência de forma uniforme durante o processo de desaprendizado. Este artigo argumenta que tal tratamento uniforme ignora a dinâmica inerente aos modelos de difusão, onde diferentes estágios do processo reverso (do ruído para os dados) e diferentes componentes de frequência contribuem desigualmente para a identidade semântica, a memorização ao nível da instância e o detalhe refinado.

Metodologia
Os autores propõem uma estrutura de Desaprendizado Seletivo de Tempo e Frequência que visa regiões específicas do processo de difusão, em vez de aplicar atualizações uniformes.

1. Esquecimento Seletivo de Tempo:

   • Análise: O artigo utiliza o entendimento teórico das dinâmicas de difusão, identificando dois pontos de transição críticos: o Tempo de Especiação ($t_S$) e o Tempo de Colapso ($t_C$).
     • Fase I ($t > t_S$): Captura semântica grosseira e identidade de classe.
     • Fase II ($t_C < t < t_S$): Envolve atração ao nível da instância e a formação de detalhes específicos.
     • Fase III ($t < t_C$): Refina detalhes finos e texturas.
   • Estratégia:
     • Para o Desaprendizado Incondicional, o método foca na Fase II (passos de tempo intermediários), onde a atração ao nível da instância é mais forte, evitando a degradação de detalhes finos na Fase III.
     • Para o Desaprendizado Condicional (texto-para-imagem), o método visa a Fase I ($t > t_S$), onde a orientação condicional domina a trajetória antes que a especiação ocorra.
   • Implementação: Uma função de peso temporal $P(t)$ é aplicada à função de perda, atribuindo maior probabilidade a intervalos específicos (ex: $[t_C, t_S]$ ou $[t_S, T]$) enquanto suprime atualizações em outros. Um método adaptativo também é proposto para buscar o ponto de transição ideal $\tau$ (análogo a $t_S$) com base na magnitude da orientação.

2. Esquecimento Seletivo de Frequência:

   • Análise: A análise espectral empírica revela que o desaprendizado frequentemente introduz ruído de alta frequência indesejado, degradando a qualidade da amostra. A distribuição de alta frequência do conjunto de retenção deve permanecer amplamente inalterada.
   • Estratégia: Um filtro passa-baixa é aplicado ao resíduo da perda durante o desaprendizado. O sinal do gradiente é projetado para remover componentes de alta frequência do conjunto de esquecimento, enquanto a entrada para o denoiser permanece como a amostra ruidosa natural.
   • Implementação: Usando a Transformada Rápida de Fourier (FFT), o resíduo da perda é mascarado para excluir frequências acima de um raio de corte $r_t$. Isso garante que o processo de desaprendizado não perturbe os detalhes de alta frequência essenciais para a qualidade da imagem.

3. Justificativa Teórica:

   • Os autores formulam uma função de utilidade de esquecimento-preservação $J_\beta(m)$ baseada na divergência de Kullback-Leibler (KL) entre as medidas de caminho originais e desaprendidas.
   • Eles provam que o desaprendizado seletivo (atualizando apenas na região $S$) produz um hiato de utilidade estritamente positivo em comparação ao desaprendizado total, desde que as atualizações seletivas amplifiquem as mudanças na região alvo ($\mu \ge 1$) e suprimam as mudanças nas regiões não-alvo ($\eta \le 1$).

4. Métrica de Avaliação:

   • O artigo introduz o $SSCD_{norm}$, uma métrica melhorada que normaliza a distância de perturbação. Diferente do SSCD padrão, que pode ser artificialmente baixo para imagens borradas ou degradadas, o $SSCD_{norm}$ considera a qualidade da imagem gerada, garantindo que uma baixa dissimilaridade não seja alcançada ao custo de degradação estética.

Resultados Principais
O método proposto foi avaliado no CelebA-HQ (incondicional) e no Stable Diffusion v1.4 (condicional texto-para-imagem) através de várias linhas de base (GA, SISS, DPO, KTO).

• Desaprendizado Incondicional: Aplicar seleção de tempo (focando em $t \in [250, 750]$) e seleção de frequência (filtro passa-baixa com $r_t=0.15$) melhorou significativamente o $SSCD_{norm}$ e os Scores Estéticos em comparação com as linhas de base. Por exemplo, com SISS, o score estético melhorou em ~34,8% em $t=250$ e ~25,8% em $t=500$, enquanto mantinha ou melhorava as métricas de esquecimento.
• Desaprendizado Condicional: No Stable Diffusion, a abordagem seletiva alcançou uma maior taxa de sucesso de desaprendizado e uma convergência mais rápida do que a linha de base SISS. Ela removeu com sucesso prompts memorizados enquanto manteve scores de qualidade CLIP-IQA mais altos.
• Ataques de Inferência de Membros (MIA): Métodos existentes mostraram extrema vulnerabilidade a MIA (erros relativos de até $\times 10^7$), indicando excesso de esquecimento (over-forgetting). O método proposto mitigou substancialmente essa distorção colateral (reduzindo os erros para $\times 5.76$ e $\times 53.20$), sugerindo uma melhor preservação do manifold de dados.
• Generalização: O método demonstrou eficácia em diferentes backbones (U-Net e Diffusion Transformer) e cenários de desaprendizado de conceitos (ex: detecção de nudez).

Significância e Alegações
O artigo afirma fornecer insights práticos para compreender e melhorar o desaprendizado de dados em modelos de difusão, demonstrando que o esquecimento não é um processo uniforme. As principais contribuições são:

1. Estudo Sistemático: Uma análise detalhada de como os passos de tempo e os domínios espectrais contribuem de forma diferente para a memorização e utilidade.
2. Estrutura Simples: Uma abordagem de desaprendizado seletivo que é compatível com objetivos existentes (GA, SISS, DPO, KTO) e requer mudanças arquiteturais mínimas.
3. Preservação de Qualidade: A capacidade de alcançar altas taxas de sucesso de desaprendizado sem a severa degradação de qualidade tipicamente associada ao desaprendizado baseado em gradiente.
4. Avaliação Melhorada: A introdução do $SSCD_{norm}$ para evitar a avaliação de métodos de desaprendizado que dependem da degradação da imagem como um proxy para o esquecimento.

Os autores observam modestamente que, embora seu método identifique efetivamente as regiões ideais com base em limites teóricos existentes, ele ainda não fornece um método totalmente automatizado para descobrir essas regiões ideais para cada conjunto de dados específico sem conhecimento prévio ou sobrecarga de busca adaptativa. No entanto, o trabalho destaca que o desaprendizado direcionado em janelas específicas de tempo e frequência é crucial para equilibrar o compromisso entre privacidade (desaprendizado) e utilidade (qualidade de geração).