Consistent Evidence, Robust Recognition: Faithful Attribution Regularization under Geometric Transformations

Resumo Técnico: Evidência Consistente, Reconhecimento Robusto

Definição do Problema
Métodos de atribuição são amplamente utilizados para identificar a evidência de entrada subjacente às previsões de redes neurais profundas. No entanto, seu potencial para melhorar ativamente o comportamento do modelo permanece pouco explorado. Uma questão crítica é a inconsistência de atribuição sob transformações geométricas que preservam o rótulo (ex: inversão ou rotação). Embora a classe prevista possa permanecer inalterada, o modelo frequentemente altera sua dependência da evidência do objeto original para regiões diferentes ou irrelevantes. Isso indica uma sensibilidade a transformações geométricas que compromete a robustez.

Abordagens existentes de regularização de atribuição geralmente dependem de objetivos de consistência autossupervisionados derivados de mapas baseados em gradiente (ex: Grad-CAM). Uma limitação fundamental desses métodos é a fidelidade (faithfulness): mapas baseados em gradiente nem sempre refletem com precisão a evidência que impulsiona a decisão do modelo. Consequentemente, alinhar esses mapas garante consistência na saída da explicação, mas não garante consistência no processo de decisão subjacente. Um modelo pode alcançar consistência ao nível da explicação, mas ainda assim depender de evidências sensíveis a transformações. O desafio central abordado por este trabalho é como converter a atribuição fiel e vinculada à decisão em um sinal de treinamento eficaz para impor a dependência de evidência consistente sem anotações humanas.

Metodologia
Os autores propõem um framework de regularização de atribuição livre de anotações baseado em busca submodular sobre regiões de imagem. O método opera em duas etapas:

1. Etapa de Consulta (Gerando Supervisão):
   Em vez de usar mapas de calor baseados em gradiente, o framework emprega um método de atribuição baseado em busca (especificamente LIMA) para extrair evidências compactas e discriminativas de classe. O processo seleciona avidamente regiões de imagem que maximizam uma função de pontuação submodular, que combina métricas de consistência, confiança e colaboração. A busca termina quando um limiar de consistência é atingido.

   • Filtragem: Apenas amostras que são classificadas corretamente, possuem alta confiança e resultam em uma área de atribuição compacta são retidas. Isso garante que o sinal de supervisão seja derivado de um comportamento confiável do modelo.
   • Sequência de Supervisão: Para as amostras retidas, a sequência ordenada das regiões selecionadas e a condição de parada constituem a "supervisão derivada da busca".

2. Etapa de Treinamento (Perda de Ranking Submodular):
   Para regularizar o modelo, o framework alinha a trajetória de busca de atribuição de uma imagem transformada com a trajetória espacialmente correspondente da imagem original. Como o processo de busca é discreto e sequencial, um substituto diferenciável é necessário. Os autores introduzem a Perda de Ranking Submodular (Submodular Ranking Loss), composta por dois termos:

   • Perda de Seleção-Ranking ($L_{SelR}$): Em cada etapa da busca gananciosa na imagem transformada, este termo impõe que a região alvo espacialmente correspondente (da sequência original) tenha um ranking superior a todos os candidatos não-alvo restantes.
   • Perda de Seleção-Truncamento ($L_{SelT}$): Este termo incentiva a evidência acumulada da trajetória transformada a satisfazer o mesmo critério de parada que a sequência de consulta original no passo terminal alvo.

O objetivo total combina a perda de classificação padrão com a Perda de Ranking Submodular, ponderada por um hiperparâmetro $\lambda$. O framework é implementado com otimizações como espaços de busca restritos e regularização esparsa para gerenciar o overhead computacional.

Principais Contribuições

1. Pré-requisito de Atribuição Fiel: O trabalho formula a regularização de atribuição em torno do princípio de que a supervisão deve representar fielmente a evidência subjacente à previsão, indo além da simples consistência de mapas.
2. Framework Livre de Anotações: Um novo framework que deriva sequências de supervisão compactas a partir de buscas submodulares filtradas, eliminando a necessidade de anotações de relevância fornecidas por humanos.
3. Perda de Ranking Submodular: Uma função de perda diferenciável que alinha a seleção de candidatos ao longo de trajetórias transformadas e impõe critérios de parada, fornecendo um substituto para o processo de seleção de evidência, que de outra forma seria discreto.
4. Validação Empírica: Experimentos extensos demonstrando melhoria na estabilidade e fidelidade da atribuição, juntamente com maior robustez a entradas transformadas, com impacto mínimo na precisão de imagens limpas.

Resultos Experimentais
O método foi avaliado no ImageNet-100 e ImageNet-1K usando arquiteturas ViT-B/16, ViT-L/16, ResNet-50 e ConvNeXt-B.

• Qualidade de Atribuição (ImageNet-100, Vi-T-B/16):
  • A estabilidade da atribuição aumentou de 0,14 para 0,27.
  • A pontuação de Inserção (Insertion) melhorou em 52,1%.
  • A pontuação de Deleção (Deletion) reduziu em 62,2%.
  • A precisão de classificação caiu apenas 0,28 pontos percentuais.
• Robustez (ImageNet-1K):
  • A precisão média de entradas transformadas melhorou 0,55 (ResNet-50) e 0,33 (ConvNeXt-B) pontos percentuais.
  • A redução da precisão em imagens limpas foi limitada a 0,30 pontos.
• Eficiência: O método alcança um throughput de treinamento comparável ao CGC e mais rápido que o CLIP-AFT, com requisitos de memória GPU significativamente menores do que métodos de gradiente de segunda ordem.

Significância e Alegações
O artigo afirma que a atribuição fiel promove a dependência de evidência consistente sem comprometer materialmente o desempenho preditivo. Ao mudar o foco do alinhamento de mapas de gradiente potencialmente infiéis para o alinhamento do processo real de seleção de evidência derivado da busca submodular, o método aborda a causa raiz da sensibilidade à transformação. Os resultados sugerem que impor equivariância na evidência relevante para a decisão, em vez de apenas na saída da explicação, leva a modelos mais robustos que dependem de evidências espacialmente correspondentes através de transformações geométricas. Os autores observam que o código será liberado em breve para facilitar pesquisas futuras.