Resumo Técnico: Look But Don't Touch com Sparse Autoencoders para Unlearning em Modelos de Difusão

Declaração do Problema

O artigo aborda o desafio do desaprendizado de máquina (machine unlearning) em modelos de difusão (DMs), especificamente a erradicação seletiva de conceitos indesejados (ex: objetos ou estilos específicos) sem a necessidade de retreinar o modelo. Embora os Sparse Autoencoders (SAEs) tenham emergido como ferramentas promissoras para a manipulação de conceitos devido à sua capacidade de decompor ativações neurais densas em características esparsas e monossêmicas, sua aplicação em DMs enfrenta um modo de falha crítico.

Os métodos existentes de unlearning baseados em SAE seguem tipicamente um pipeline onde os latentes do SAE que representam um conceito alvo são identificados e, em seguida, direcionados (steered) (manipulados via multiplicadores negativos) para suprimir o conceito. Os autores observam que essa intervenção direta induz frequentemente ativações fora da distribuição (OOD - out-of-distribution). Como os vetores latentes manipulados não residem no manufoldo aprendido pelo modelo de difusão, o processo de reconstrução gera artefatos visuais severos, degradando a qualidade da imagem e comprometendo o objetivo de unlearning. O problema central é a lacuna entre a detecção de conceitos (que os SAEs realizam bem) e a intervenção de conceitos (onde os SAEs falham nos DMs).

Metodologia

Os autores propõem um framework chamado Patch Embedding Replacement (PER) para desacoplar a detecção da intervenção. Em vez de manipular o espaço latente diretamente, o PER utiliza os SAEs exclusivamente como detectores semânticos.

1. Treinamento de SAE e Identificação de Conceitos

• Arquitetura SAE: Os autores aplicam SAEs ao fluxo residual das camadas de atenção cruzada (cross-attention) na rede de denoising dos DMs (ex: Stable Diffusion v1.5, SDXL Turbo). Eles utilizam TopK SAEs, que impõem esparsidade retendo apenas os $k$ latentes mais ativados, garantindo um nível de esparsidade fixo.
• Mapeamento Conceito-Latente: Uma análise baseada em pontuação identifica quais latentes do SAE correspondem a conceitos específicos. Os latentes são classificados com base em sua frequência de ativação em conjuntos de dados contendo o conceito alvo versus aqueles sem ele.
• Máscara de Detecção: Durante a inferência, uma máscara de detecção binária $M^c$ é gerada para um conceito $c$. Uma localização espacial $(h, w)$ é marcada como contendo o conceito se pelo menos um latente associado exceder seu limiar de ativação média em um conjunto de validação.

2. Patch Embedding Replacement (PER)

Em vez de aplicar um multiplicador negativo aos latentes do SAE (o que causa desvios OOD), o PER substitui o dado problemático diretamente no mapa de características (feature map):

• Estratégia de Substituição: Para cada patch embedding $\mathbf{X}_{h,w}$ onde a máscara de detecção $M^c_{h,w} = 1$, o embedding é substituído por um embedding $\mathbf{X}_{h',w'}$ amostrado uniformemente de localizações onde o conceito não é detectado ($M^c_{h',w'} = 0$).
• Formulação Matemática:
  $$\tilde{\mathbf{X}}_{h,w} = (1 - \mathbf{M}^c_{h,w})\mathbf{X}_{h,w} + \mathbf{M}^c_{h,w}\mathbf{X}_{h',w'}$$
  onde $(h', w') \sim \mathcal{U}(\{(i, j) \mid \mathbf{M}^c_{i,j} = 0\})$.
• Dilatação: Para considerar correlações espaciais onde a informação do conceito vaza para os patches vizinhos, a máscara de detecção pode ser dilatada por um fator de preenchimento (padding) $p$. Os autores consideram que $p=1$ é o equilíbrio ideal entre cobertura e preservação de conteúdo não relacionado.
• Garantia de Distribuição Interna (In-Distribution): Como todas as ativações de substituição originam-se da mesma passagem direta (forward pass) da rede de denoising, as ativações resultantes $\tilde{\mathbf{X}}$ permanecem estritamente dentro da distribuição (ID), preservando a estatística de ativação do modelo e evitando os artefatos causados pelo direcionamento OOD.

Principais Contribuições

1. Identificação de Modos de Falha: O artigo caracteriza sistematicamente um modo de falha concreto em métodos de unlearning baseados em SAE para DMs: o direcionamento direto de latentes via multiplicadores negativos empurra as ativações para fora do manufoldo de treinamento do DM, resultando em artefatos visuais sistemáticos.
2. Framework Baseado em Detecção (PER): Os autores introduzem o PER, um método que utiliza os SAEs exclusivamente para localização de conceitos. Ao substituir os patch embeddings detectados por embeddings livres de conceitos da mesma passagem de características, o PER remove conceitos indesejados enquanto mantém a coerência visual e a integridade da distribuição.
3. Melhorias de Desempenho: O método elimina a necessidade de buscas exaustivas em grade (grid searches) para a força de intervenção ($\gamma$) e alcança resultados de estado da arte no benchmark UnlearnCanvas.

Resultados Experimentais

Os autores avaliaram o PER em quatro pipelines de SAE existentes (SAeUron, SAEmnesia, G-SAE e SAE em SDXL Turbo) através do benchmark UnlearnCanvas (20 classes de objetos, 5 estilos artísticos).

• Redução de Artefatos: Métodos de direcionamento por multiplicador produziram altas Taxas de Artefato (AR) (ex: 57,0% para SAeUron, 61,0% para SAE em SDXL Turbo). A aplicação do PER reduziu drasticamente essas taxas (ex: para 16,3% para SAeUron e 8,0% para SDXL Turbo).
• Precisão de Unlearning: O PER manteve ou melhorou a Precisão de Unlearning (UA) enquanto aumentou significativamente a Precisão de Retenção Cross-domain (CRA). Por exemplo, no SAEmnesia, o PER melhorou a pontuação de Média Global (GA) de 81,18% para 91,44%, impulsionado principalmente por um aumento no CRA de 88,48% para 97,97%.
• Avaliação Humana: Em um estudo de usuário comparando SAEmnesia e SAEmnesia+PER, os anotadores humanos preferiram o resultado do PER em 95,5% dos casos sem empate.
• Robustez Adversária: O PER demonstrou robustez competitiva contra ataques adversários (UnlearnDiffAtk), mostrando menor degradação na eficácia do unlearning em comparação com as linhas de base em certas configurações.
• Eficiência: O PER não requer ajuste fino (fine-tuning) do modelo, nem treinamento adicional de SAE, e não exige busca de hiperparâmetros para a força de intervenção, oferecendo uma alternativa computacionalmente eficiente aos métodos existentes.

Significância e Alegações

O artigo posiciona os SAEs como poderosas ferramentas de interpretabilidade para analisar modelos generativos, mas destaca uma limitação fundamental: características monossêmicas ou esparsas não são inerentemente adequadas como botões de controle para o direcionamento direto em modelos de difusão.

Os autores afirmam que seu trabalho revela um "gap fundamental entre a detecção de conceitos e a intervenção de conceitos". Ao desacoplar essas tarefas — usando SAEs apenas para encontrar o conceito e dados padrão da distribuição para substituí-lo — o método alcança resultados de erradicação mais limpos. O artigo conclui que, para o unlearning em modelos de difusão, preservar o manufoldo de ativação é mais crítico do que a interpretabilidade do vetor de intervenção e que "Olhar, mas Não Tocar" (Look But Don't Touch — detectar, mas não direcionar) é uma estratégia mais eficaz do que a manipulação direta.