Resumo Técnico: CAMAL

Declaração do Problema

Modelos de visão implantados em aplicações do mundo real exigem interpretabilidade para garantir que suas decisões sejam confiáveis. Mapas de Ativação de Classe (CAMs) são amplamente utilizados para visualizar a atenção de um modelo, destacando regiões que o modelo percebe como discriminativas. No entanto, abordagens existentes sofrem de duas limitações críticas:

1. Falta de Alinhamento de Atenção: Modelos frequentemente atendem a regiões espúrias em vez de regiões discriminativas verdadeiras, um fenômeno conhecido como "aprendizado por atalho".
2. Falta de Fidedignidade de Atenção: Mesmo que a atenção se alinhe a uma região, isso não garante que a atenção influencie causalmente a decisão do modelo.

Tentativas recentes de abordar isso via "supervisão de atenção" basearam-se em regiões pseudo-discriminativas derivadas de modelos pré-treinados zero-shot (por exemplo, CLIP) como sinais de referência. Os autores argumentam que esses priores são pouco confiáveis porque são otimizados para generalização ampla em vez de localização espacial precisa, resultando frequentemente em regiões de referência fragmentadas ou espúrias. Além disso, métodos existentes frequentemente falham em escalar eficientemente para grandes conjuntos de dados porque dependem da extração de atenção baseada em gradiente por amostra, o que incorre em sobrecarga computacional proibitiva.

Metodologia: CAMAL

Os autores propõem Aprendizado de Atenção de Mapa de Ativação de Classe (CAMAL), um método que utiliza máscaras de segmentação como regiões de referência confiáveis para guiar a atenção do modelo.

1. Regiões de Referência Confiáveis

Diferentemente de trabalhos anteriores que utilizam priores baseados em CLIP, o CAMAL utiliza máscaras de segmentação (frequentemente verificadas por humanos ou geradas por ferramentas como SAM) para definir regiões discriminativas verdadeiras. Essas máscaras fornecem informações espaciais estruturadas, completas e precisas.

2. Regularização Auxiliar Guiada por Máscara

O CAMAL formula um objetivo de regularização auxiliar que otimiza conjuntamente duas métricas derivadas do mapa de calor de atenção do modelo $H_c$ e da máscara de segmentação $M_c$:

• $\alpha$ (Atenção Dentro da Máscara): A atenção média dentro das regiões discriminativas verdadeiras.
• $\beta$ (Atenção Fora da Máscara): A atenção média fora dessas regiões.

A função objetivo minimiza a diferença $(\beta - \alpha)$, efetivamente incentivando o modelo a aumentar a atenção dentro da máscara ($\alpha \uparrow$) e suprimir a atenção em regiões espúrias ($\beta \downarrow$). Isso é adicionado como um regularizador à perda padrão de entropia cruzada:
$$L = L_{CE} + \lambda \sum_{b} (\beta_b - \alpha_b)$$
onde $\lambda$ controla a força da regularização.

3. Extração de Atenção Eficiente em Nível de Lote

Uma contribuição técnica chave é a resolução do gargalo de escalabilidade na extração de atenção baseada em gradiente (por exemplo, Grad-CAM). Métodos padrão exigem uma passagem de retropropagação separada para cada amostra em um mini-lote (complexidade $O(B)$). O CAMAL introduz uma formulação eficiente onde os logits para todas as amostras em um mini-lote são somados em um único escalar antes de realizar uma única passagem de retropropagação.

• Garantia Teórica: Devido à linearidade da diferenciação e à independência das amostras dentro de um lote, essa única passagem de retropropagação produz gradientes idênticos aos calculados individualmente (complexidade $O(1)$).
• Impacto: Isso reduz significativamente a sobrecarga de treinamento, tornando a supervisão de atenção viável para regimes de treinamento em grande escala.

4. Agnosticismo de Arquitetura e Tarefa

O CAMAL é projetado para ser agnóstico à arquitetura da rede (aplicável a CNNs, Transformers como ViT e modelos híbridos) e paradigmas de aprendizado. Em Aprendizado por Reforço Profundo (DRL), onde rótulos verdadeiros estão ausentes, o CAMAL usa a estimativa de valor do crítico $V(s)$ como alvo para o cálculo de atenção, permitindo supervisão em configurações fracamente supervisionadas.

Principais Contribuições

1. Supervisão de Atenção Principiada: Introdução do CAMAL, que fundamenta o aprendizado de atenção em máscaras de segmentação confiáveis em vez de regiões pseudo não verificadas.
2. Objetivo de Regularização Novel: Uma formulação que simultaneamente incentiva a atenção dentro de regiões verdadeiras e a suprime em outros lugares, abordando as limitações de regularizadores de "apenas supressão".
3. Método de Extração Escalável: Uma técnica eficiente de extração de atenção em nível de lote que reduz a complexidade computacional de $O(B)$ para $O(1)$, permitindo supervisão escalável.
4. Avaliação Abrangente: Uma avaliação estatisticamente rigorosa através dos paradigmas de Aprendizado Profundo (DL) e Aprendizado por Reforço Profundo (DRL).

Resultados Experimentais

Os autores avaliaram o CAMAL contra duas linhas de base: Vanilla (sem supervisão de atenção) e Prior (supervisão de atenção usando regiões pseudo baseadas em CLIP).

Alinhamento de Atenção

• Métrica: Interseção sobre União (IoU) entre a atenção do modelo e máscaras verdadeiras.
• Resultados DL: O CAMAL alcançou melhorias estatisticamente significativas no IoU em todos os 6 modelos (ResNet, ConvNeXt, EfficientNet, ViT, Swin, MaxViT) e 3 conjuntos de dados (BUSI, Oxford-IIIT-Pet, Oxford-Flower). As pontuações de IoU do CAMAL foram substancialmente mais altas do que as do Vanilla e do Prior (por exemplo, ~33-42% para CAMAL vs. ~2-12% para Prior em vários conjuntos de dados).
• Resultados DRL: Em ambientes ViZDoom, o CAMAL mostrou IoU médio significativamente maior em comparação com o Vanilla, com significância estatística confirmada via Intervalos de Confiança Bootstrap Estratificados (SBCI) e Probabilidade de Melhoria (POI).

Fidedignidade de Atenção

• Métrica: Impacto causal medido removendo/inserindo pixels com base na importância da atenção e observando mudanças na confiança do modelo.
• Resultados: O CAMAL demonstrou atenção mais fiel do que o Prior. Sob remoção de pixels, a confiança do modelo do CAMAL caiu mais rapidamente, indicando que sua atenção identificou corretamente características críticas. Sob inserção de pixels, a confiança se recuperou mais rapidamente. O CAMAL alcançou uma Área sob a Curva (AUC) 35,3% maior do que o Prior em cenários de inserção.

Desempenho de Generalização

• DL: O CAMAL consistentemente superou o Vanilla em precisão de classificação na maioria das combinações modelo-conjunto de dados, com ganhos estatisticamente significativos na maioria dos casos.
• DRL: O CAMAL mostrou uma tendência de melhoria no retorno médio em comparação com o Vanilla, embora os ganhos nem sempre tenham sido estatisticamente significativos em todos os ambientes, sugerindo que a supervisão de atenção beneficia a generalização, mas pode exigir refinamento para dinâmicas complexas de DRL.
• Comparação com Prior: O CAMAL performou de forma equivalente ou melhor que o Prior em generalização, sugerindo que o benefício principal da supervisão de atenção reside na melhoria da qualidade da atenção aprendida, em vez de impulsionar drasticamente o desempenho da tarefa.

Significado e Alegações

O artigo afirma que o CAMAL demonstra que informações espaciais em máscaras de segmentação podem ser efetivamente aproveitadas para guiar a atenção do modelo. Os autores enfatizam que:

• Confiabilidade é Fundamental: A supervisão de atenção deve ser fundamentada em regiões de referência confiáveis (máscaras de segmentação) para ser confiável; confiar em regiões pseudo de modelos zero-shot leva a correções pouco confiáveis.
• Qualidade sobre Quantidade: O benefício principal da supervisão de atenção é a melhoria da qualidade da atenção aprendida (alinhamento e fidedignidade), com ganhos de desempenho da tarefa sendo modestos e dependentes do contexto.
• Escalabilidade: O método de extração em nível de lote proposto torna a supervisão de atenção prática para treinamento moderno em grande escala sem aumentar os custos de inferência.

Os autores concluem que o CAMAL estabelece uma linha de base confiável para futuros métodos de supervisão de atenção, destacando que realizar o potencial pleno de tais métodos exige fundamentá-los em informações espaciais verdadeiras e precisas.