Resumo Técnico: Gradientes Integrados Espectrais para Atribuição de Características de Grossa para Fina

Declaração do Problema

Gradientes Integrados (IG) é um método amplamente adotado de atribuição de características fundamentado em propriedades axiomáticas, como sensibilidade, invariância de implementação e completude. No entanto, a qualidade das atribuições do IG depende fortemente da escolha do caminho de integração. A abordagem padrão do IG utiliza um caminho de linha reta que interpola uniformemente entre uma linha de base (tipicamente uma imagem preta) e a entrada alvo. Essa interpolação uniforme trata todas as diferenças de pixels igualmente, introduzindo simultaneamente tanto características estruturais dominantes quanto ruído de alta frequência (texturas finas e artefatos) ao longo de toda a trajetória de integração.

Consequentemente, o acúmulo de gradientes ao longo desse caminho frequentemente inclui contribuições erráticas de ruído de alta frequência no início do processo. Isso leva a mapas de atribuição que exibem pontuações de importância dispersas e padrões de ruído "salpicados", obscurecendo as características semânticas verdadeiras que impulsionam a previsão do modelo. Embora existam métodos alternativos baseados em caminhos (por exemplo, IG Guiado, IG baseado em Variedade), eles frequentemente exigem computações iterativas de gradiente por etapa, dependência de modelos generativos treinados separadamente ou busca estocástica, introduzindo complexidade computacional significativa.

Metodologia: Gradientes Integrados Espectrais (SIG)

Os autores propõem Gradientes Integrados Espectrais (SIG), um método de atribuição baseado em caminhos que constrói caminhos de integração com base na Decomposição em Valores Singulares (SVD) da diferença entre a entrada e a linha de base. A ideia central é que a SVD fornece uma hierarquia natural e adaptativa aos dados de informação visual:

• Grandes valores singulares correspondem a padrões estruturais dominantes (formas globais, limites de objetos, energia de baixa frequência).
• Pequenos valores singulares correspondem a detalhes de alta granularidade, texturas de alta frequência e ruído.

O SIG aproveita essa hierarquia para impor uma progressão de grossa para fina. Em vez de ativar todas as características simultaneamente, o SIG ativa progressivamente componentes singulares do maior para o menor. Isso garante que o caminho de integração priorize estruturas semânticas robustas antes de introduzir detalhes finos, suprimindo assim o acúmulo de gradientes ruidosos durante os estágios iniciais da integração.

Formulação Técnica

1. Decomposição Espectral: Seja $\Delta = x - x'$ o tensor de diferença entre a entrada $x$ e a linha de base $x'$. A SVD decompõe essa diferença em componentes de posto único: $\Delta = \sum_{i=1}^R \sigma_i u_i v_i^\top$, onde $\sigma_1 \ge \sigma_2 \ge \dots \ge 0$.
2. Construção do Caminho via Otimização: Os autores enquadram a construção do caminho como um problema de otimização onde a diferença intermediária $\Delta(\alpha)$ no passo $\alpha$ deve preservar a máxima informação da diferença alvo sob uma restrição de posto. Pelo teorema de Eckart-Young-Mirsky, a solução ótima é a SVD truncada, ativando componentes sequencialmente.
3. Relaxação Contínua: Para evitar descontinuidades inerentes ao truncamento rígido de posto, o SIG introduz uma função de gate suave $\phi_i(\alpha; \omega)$. Essa função controla a ativação do $i$-ésimo componente singular com base no progresso do caminho $\alpha$ e em um parâmetro de sobreposição $\omega$.
   • Componentes com maiores $\sigma_i$ ativam mais cedo (menor limite inicial $s_i$).
   • O parâmetro $\omega$ controla a sobreposição entre as janelas de ativação. À medida que $\omega \to 1$, o SIG recupera o caminho linear padrão do IG; à medida que $\omega \to 0$, aproxima-se de uma ordem espectral estritamente sequencial. Os autores definem empiricamente $\omega = 0.4$ para equilibrar continuidade e ordenação espectral.
4. Propriedades Axiomáticas: Como um método baseado em caminhos que satisfaz as condições de contorno $\gamma(0)=x'$ e $\gamma(1)=x$, o SIG herda as garantias axiomáticas do IG (Completude, Sensibilidade, Invariância de Implementação). Adicionalmente, os autores provam que o SIG preserva Simetria Geométrica, garantindo que, se o modelo for invariante a transformações espaciais (por exemplo, rotação), o mapa de atribuição se transforme de forma equivariante.

Contribuições Principais

1. Construção de Caminho Espectral: A introdução do SIG, que utiliza SVD para construir caminhos de integração que respeitam a hierarquia espectral da informação visual, priorizando estruturas grossas sobre detalhes finos.
2. Justificativa Teórica: Fornecer uma base teórica para a construção do caminho via otimização com restrição de posto (teorema de Eckart-Young-Mirsky), oferecendo uma garantia de otimalidade para o critério de construção do caminho que outros métodos (por exemplo, GIG, BIG) não possuem.
3. Eficiência: O SIG requer apenas um único cálculo de SVD por imagem e avaliações padrão de gradiente, adicionando sobrecarga computacional negligenciável em comparação com o IG padrão, ao contrário de métodos que exigem otimização iterativa ou modelos generativos.
4. Avaliação Abrangente: Validação empírica extensa em diversos conjuntos de dados (ImageNet, Oxford-IIIT Pet, Oxford 102 Flower) e arquiteturas (ResNet, VGG, Inception) usando múltiplas métricas de avaliação.

Resultados Experimentais

O artigo avalia o SIG contra um conjunto abrangente de linhas de base, incluindo Gradiente $\times$ Entrada, IG padrão, IG Guiado (GIG), IG com Desfoque (BIG), IG baseado em Variedade (MIG) e outros.

• Análise Qualitativa: O SIG produz mapas de atribuição visivelmente mais limpos, menos ruidosos e mais focados em regiões semanticamente relevantes em comparação com o IG e outras linhas de base. Ele suprime efetivamente gradientes espúrios associados a ruído de alta frequência e artefatos de limite.
• Desempenho Quantitativo (Fidelidade):
  • DiffID & Inserção/Exclusão: O SIG consistentemente iguala ou supera os métodos existentes em três conjuntos de dados e três arquiteturas. Ele alcança os melhores resultados em quase todas as configurações no ImageNet e resultados competitivos de primeira linha em conjuntos de dados de alta granularidade.
  • ROAR (RemOve And Retrain): No CIFAR-10, o SIG induz a degradação mais acentuada na precisão do modelo quando os pixels de maior atribuição são removidos e o modelo é retreinado, indicando que ele identifica as características mais discriminativas.
  • Consciente de Vazamento (ROAD): O SIG alcança as melhores pontuações GAP no ImageNet, demonstrando robustez contra vazamento de informação através de máscaras de perturbação.
  • Localização Não Perturbativa: O SIG alcança a melhor precisão média do Jogo de Apontamento e as melhores pontuações de IoU do SAM 2, confirmando a localização espacial superior dos objetos previstos.
• Eficiência: O SIG mantém uma posição Pareto-ótima entre qualidade da explicação e tempo de execução. Ele introduz apenas uma sobrecarga computacional marginal (~16% de aumento) sobre o IG padrão, superando significativamente métodos computacionalmente caros como o SAMP.

Significado e Alegações

O artigo alega que o SIG oferece uma solução simples, porém eficaz para o problema de acúmulo de ruído nos Gradientes Integrados. Ao aderir a uma hierarquia espectral, o SIG segue naturalmente uma progressão de grossa para fina que se alinha com a semântica estrutural de imagens naturais.

Os autores enfatizam que, embora a otimização com restrição de posto justifique a construção do caminho, a fidelidade das atribuições resultantes é uma descoberta empírica apoiada por avaliações trianguladas (baseadas em perturbação, conscientes de vazamento e métricas de localização), em vez de uma garantia formal derivada exclusivamente da construção do caminho.

O método é posicionado como uma melhoria prática para tarefas de classificação de imagens onde a ordenação de variância da SVD se alinha com a estrutura espacial. Os autores observam modestamente que o viés indutivo de grossa para fina é mais benéfico para imagens; um estudo piloto em classificação de texto sugere que o método se aproxima do desempenho padrão do IG apenas quando o parâmetro de sobreposição é grande, indicando que a ordenação espectral pode não corresponder universalmente à importância semântica em domínios não visuais.

O trabalho conclui que o SIG melhora a qualidade da atribuição sem custos computacionais proibitivos, tornando-o um padrão viável para atribuição de características em aplicações de alto risco que exigem diagnósticos de modelo confiáveis.