Selective Aggregation of Attention Maps Improves Diffusion-Based Visual Interpretation

Título: Agregação Seletiva de Mapas de Atenção Melhora a Interpretação Visual Baseada em Difusão

1. Problema e Motivação

Os modelos generativos de texto para imagem (T2I), como o Stable Diffusion e o Imagen, utilizam camadas de atenção cruzada (cross-attention) para alinhar o texto de entrada com a geração de imagens. Métodos existentes de interpretabilidade, como o DAAM (Diffusion-based Attention Map Aggregation), agregam os mapas de atenção de todos os cabeças de atenção (attention heads) e de todos os passos de tempo para visualizar quais tokens de texto influenciam quais regiões da imagem.

No entanto, o artigo identifica uma lacuna crítica:

• Heterogeneidade dos Cabeças de Atenção: Diferentes cabeças de atenção possuem características distintas e não são igualmente relevantes para conceitos visuais específicos.
• Ruído na Agregação: A agregação indiscriminada de todos os cabeças (como feito no DAAM) dilui os sinais importantes com cabeças irrelevantes, reduzindo a precisão da interpretação e da segmentação semântica.
• Diagnóstico de Erros: É difícil diagnosticar visualmente quando um modelo interpreta mal um prompt ambíguo (ex: a palavra "mouse" gerando tanto um animal quanto um dispositivo eletrônico) usando mapas de atenção agregados de forma genérica.

2. Metodologia

A proposta dos autores é uma agregação seletiva de mapas de atenção, onde apenas um subconjunto de cabeças de atenção, consideradas as mais relevantes para um conceito-alvo, é utilizado para gerar o mapa final.

O processo segue os seguintes passos:

1. Cálculo de Relevância (HRV): Utiliza-se o método Head Relevance Vector (HRV) de um estudo anterior [7] para pontuar cada cabeça de atenção com base na sua relevância para um conjunto de conceitos visuais específicos. O HRV gera um vetor que indica quais cabeças respondem mais fortemente a cada conceito.
2. Seleção de Cabeças: Em vez de usar todas as $H$ cabeças, o método seleciona o top 20-25% (ou um número fixo, como 30 cabeças em um modelo com 128 cabeças) das cabeças com as maiores pontuações de relevância para o conceito de interesse.
3. Agregação Seletiva: Os mapas de atenção cruzada ($M_t^{(h)}$) são agregados apenas para o subconjunto selecionado de cabeças ($H_n$), em vez de todas. A equação modificada para o mapa agregado ($\hat{M}^{Ours}$) é:
   $$\hat{M}^{Ours} = \frac{1}{|H_n|} \sum_{h \in H_n} F_h \left( \frac{1}{T} \sum_{t=1}^{T} M_t^{(h)} \right)$$
   Onde $F_h$ é a interpolação bicúbica para alinhar as resoluções espaciais.
4. Avaliação: Os mapas gerados são comparados com mapas de segmentação semântica de "ground-truth" (obtidos via Grounded-SAM) usando a métrica IoU (Interseção sobre União).

3. Contribuições Principais

• Método de Agregação Seletiva: Demonstração de que a seleção de cabeças de atenção específicas melhora a precisão da interpretação visual em comparação com a média global (DAAM).
• Validação Quantitativa: Evidência de que as cabeças mais relevantes capturam características específicas do conceito com muito mais precisão do que as cabeças menos relevantes.
• Ferramenta de Diagnóstico: Proposta de usar a agregação seletiva para diagnosticar erros de interpretação de prompts. Ao separar as cabeças por conceito (ex: "Animais" vs. "Eletrônicos"), é possível visualizar como o modelo está dividindo a atenção entre significados ambíguos.
• Superioridade sobre o Estado da Arte: O método supera o DAAM em tarefas de segmentação de objetos baseada em difusão.

4. Resultados Experimentais

Os experimentos foram conduzidos no Stable Diffusion v1.4 com o conjunto de dados focado na categoria "Animais" (100 imagens geradas).

• Desempenho de Segmentação (IoU):

  • O método proposto ("Ours") alcançou consistentemente maiores pontuações de IoU médio do que o DAAM em todos os limiares de binarização testados (0.3, 0.4, 0.5).
  • Exemplo (Limiar 0.4): DAAM obteve 0.7540, enquanto o método proposto obteve 0.7765.
  • A ablação mostrou que selecionar 30 cabeças (aproximadamente 23% das 128 cabeças) foi o ponto ótimo de desempenho.

• Análise Qualitativa:

  • Cabeças Relevantes vs. Irrelevantes: A agregação usando as 30 cabeças menos relevantes resultou em uma queda drástica no IoU (ex: 0.6172 para 0.4 vs. 0.7765 para as mais relevantes) e focou em regiões fora dos objetos desejados.
  • Diagnóstico de Ambiguidade: No caso do prompt "A mouse and other office objects...", o DAAM mostrava atenção em ambos os significados (animal e dispositivo) simultaneamente. A agregação seletiva permitiu isolar visualmente:
    • Cabeças de "Animais": Focaram apenas no rato (animal).
    • Cabeças de "Eletrônicos": Focaram apenas no mouse (dispositivo).
      Isso revela a origem da confusão do modelo.

5. Significado e Conclusão

O estudo conclui que a agregação indiscriminada de mapas de atenção é subótima para a interpretabilidade e o controle de modelos T2I. Ao selecionar seletivamente as cabeças de atenção mais relevantes para um conceito, os pesquisadores podem:

1. Obter mapas de atenção mais limpos e precisos para segmentação e edição de imagem.
2. Diagnosticar e entender falhas de interpretação de prompts ambíguos.
3. Oferecer um caminho promissor para aumentar a controlabilidade e a transparência dos modelos generativos.

O trabalho sugere que futuras pesquisas devem expandir essa abordagem para uma gama mais ampla de conceitos visuais e outras arquiteturas de modelos T2I, consolidando a seleção de cabeças como uma técnica fundamental para a interpretabilidade de IA.