Concept Unlearning via Cross-Attention Activation Projection for Diffusion Models

Resumo Técnico: Esquecimento de Conceitos via Projeção de Ativação de Atenção Cruzada para Modelos de Difusão

Declaração do Problema

O esquecimento de conceitos visa remover conceitos-alvo específicos (por exemplo, estilos protegidos por direitos autorais, semelhanças com celebridades ou imagens inseguras) de modelos de difusão texto-para-imagem pré-treinados, sem o custo computacional de retreinar do zero. O esquecimento eficaz deve satisfazer dois requisitos simultâneos: esquecer o conceito-alvo mesmo sob prompts parafraseados ou adversariais, e preservar a capacidade do modelo de gerar todos os outros conceitos não relacionados.

Os métodos de forma fechada existentes, que aplicam uma única edição determinística aos pesos do modelo sem ajuste fino baseado em gradiente, enfrentam uma limitação crítica. Esses métodos (por exemplo, UCE, CURE) constroem a "base de esquecimento" usando incorporações de codificador de texto derivadas de prompts âncora curtos (por exemplo, "Van Gogh"). Os autores argumentam que as incorporações de texto descrevem o prompt do usuário, mas falham em capturar como o modelo realmente utiliza esse prompt durante o processo de remoção de ruído. Consequentemente, prompts parafraseados que evocam o conceito-alvo sem corresponder aos modelos de prompt âncora frequentemente contornam a edição de esquecimento, levando ao "vazamento do alvo".

Metodologia: PURE

O artigo propõe o PURE (Projeção no Renderização do U-Net para Apagamento), um método de esquecimento de forma fechada que desloca a construção da base do espaço de incorporação do codificador de texto para o espaço de ativação de atenção cruzada dentro do U-Net.

Hipótese Central:
As ativações de atenção cruzada ($h^\ell$) na camada $\ell$ refletem como o removedor de ruído utiliza a condição de texto sob o estado latente e o passo de tempo atuais. Diferentemente das incorporações de texto estáticas, essas ativações capturam a evidência específica do conceito realmente utilizada durante a geração da imagem, oferecendo melhor generalização para formulações diversas de prompts.

Procedimento Algorítmico:

1. Captura de Ativação: Para um conjunto de âncoras de esquecimento ($\mathcal{A}_f$) e âncoras de retenção ($\mathcal{A}_r$), o modelo executa uma trajetória curta de remoção de ruído. Em cada camada $\ell$ e passo de tempo, as ativações pós-atenção são extraídas, agrupadas espacialmente por média e agregadas em matrizes $H^\ell_F$ e $H^\ell_R$.
2. Construção do Subespaço: Uma Decomposição em Valores Singulares (SVD) é realizada em $H^\ell_F$ e $H^\ell_R$ para cada camada. Os vetores singulares superiores, até um limiar de variância cumulativa ($\tau_F, \tau_R$), formam a base de esquecimento ($V^\ell_F$) e a base de retenção ($V^\ell_R$).
3. Edição Linear: O método aplica uma única atualização linear às matrizes de projeção de chave ($W^\ell_K$) e valor ($W^\ell_V$) da atenção cruzada. O operador de atualização $E^\ell$ é definido como:
   $$E^\ell = I - P^\ell_F (I - P^\ell_R)$$
   onde $P^\ell_F = V^\ell_F (V^\ell_F)^\top$ e $P^\ell_R = V^\ell_R (V^\ell_R)^\top$.
   Os pesos são atualizados via multiplicação à esquerda: $W^\ell \leftarrow E^\ell W^\ell$.
   • Mecanismo: O termo $(I - P^\ell_R)$ remove componentes alinhados com conceitos de retenção, garantindo que $P^\ell_F$ atue apenas no subespaço ortogonal. Subtrair isso da identidade garante que entradas alinhadas com conceitos de retenção passem inalteradas.
   • Mudança Estrutural: Diferentemente de métodos anteriores que multiplicam à direita no espaço de texto, o PURE multiplica à esquerda no espaço de ativação ($d_\ell \times d_\ell$), necessitando de uma edição por camada.

Principais Contribuições

1. Base Baseada em Ativação: O artigo identifica que construir a base de esquecimento a partir de ativações de atenção cruzada, em vez de incorporações de texto, melhora significativamente a detecção de conceitos-alvo em prompts naturais e adversariais diversos.
2. Experimento de Sondagem: Um experimento de classificação binária demonstra que uma base baseada em ativação alcança aproximadamente cinco vezes maior recall em prompts parafraseados naturais em comparação com uma base baseada em texto, confirmando que as características de ativação capturam melhor a evidência de conceito relevante para a geração.
3. Eficiência de Forma Fechada: O PURE mantém as vantagens da edição de forma fechada: não requer treinamento por gradiente, não utiliza funções de perda auxiliares, não exige ajuste de hiperparâmetros de taxas de aprendizado e não adiciona custo no tempo de inferência após a edição ser aplicada.
4. Edição Específica por Camada: O método realiza uma SVD e edição por camada, reconhecendo que a representação do conceito varia através da profundidade do U-Net.

Resultados Experimentais

Os autores avaliaram o PURE no Holistic Unlearning Benchmark (HUB), cobrindo dez conceitos em quatro categorias: Estilo Artístico, Propriedade Intelectual (PI), Celebridade e NSFW.

• Compromisso Esquecer-Reter: O PURE alcança a melhor pontuação de média harmônica em todas as categorias em comparação com cinco baselines (ESD, MACE, RECELER, UCE, CURE).
• Supressão do Alvo: O PURE reduz significativamente o vazamento do alvo sob prompts parafraseados e adversariais em comparação com o CURE, que frequentemente falha em suprimir paráfrases.
• Retenção: O PURE preserva conceitos de "retenção" (conceitos vizinhos na mesma categoria) melhor do que métodos agressivos baseados em treinamento (que prejudicam a retenção) e melhor do que métodos de forma fechada no espaço de texto (que frequentemente sacrificam a retenção para supressão em categorias de Estilo).
• Estudos de Ablação:
  • Tamanho da Âncora: Aumentar o número de âncoras de esquecimento naturais melhora a supressão da base de texto, mas degrada a retenção. A base de ativação mantém supressão forte com perda mínima de retenção mesmo à medida que os conjuntos de âncoras crescem.
  • Passos de Remoção de Ruído: O uso de um único passo de remoção de ruído ($T=1$) degrada severamente o desempenho, indicando que capturar o sinal do conceito ao longo da trajetória é essencial.
  • Média Latente: A média sobre múltiplos latentes aleatórios ($n_{lat}$) estabiliza a base em direção a direções de nível de conceito, em vez de artefatos específicos de ruído.

Significado e Alegações

O artigo alega que o PURE representa uma mudança fundamental na abordagem do esquecimento de forma fechada. Ao deslocar a construção da base do espaço estático do codificador de texto para o espaço dinâmico de ativação de atenção cruzada, o método supera o modo de falha primário das técnicas de forma fechada existentes: a incapacidade de lidar com variações de prompt que caem fora dos modelos de prompt âncora.

Os autores afirmam que o PURE fornece uma solução robusta, eficiente e state-of-the-art para o esquecimento de conceitos, oferecendo um equilíbrio superior entre apagar conceitos indesejados e preservar a utilidade geral do modelo, sem a sobrecarga computacional de retreinamento. O trabalho sugere que a "direção de esquecimento" é definida com mais precisão pelo processo de renderização interno do modelo do que pelo texto de entrada sozinho.