Resumo Técnico: FAME – Explicação de Mapa de Ativação de Recursos

Declaração do Problema

Modelos de aprendizado profundo, particularmente em classificação de imagens (IC) e reconhecimento facial (FR), alcançam alta precisão, mas operam como "caixas pretas", obscurecendo o raciocínio por trás de suas previsões. Os métodos existentes de Inteligência Artificial Explicável (XAI) dividem-se em duas categorias principais, cada uma com limitações significativas:

1. Mapeamento de Ativação de Classe baseado em Gradiente (CAM): Métodos como Grad-CAM computam atribuições com base nas ativações de mapas de recursos e os reamostram para a resolução da imagem. Essa abordagem baseia-se na suposição de que os elementos do mapa de recursos são influenciados apenas pelas regiões de pixels subjacentes (campos receptivos locais). Os autores argumentam que essa suposição falha em redes mais profundas, onde os campos receptivos são grandes, sobrepostos e não locais, levando a mapas de atribuição enganosos.
2. Métodos baseados em Perturbação: Técnicas como CorrRISE perturbam imagens de entrada com patches fixos (por exemplo, quadrados pretos ou ruído) para observar mudanças na saída. Esses métodos frequentemente introduzem bordas artificiais ou falham em remover informações efetivamente (já que redes modernas lidam bem com entradas desfocadas). Além disso, dependem de mascaramento aleatório estocástico e parâmetros definidos manualmente, carecendo de uma abordagem principial para perturbação.

Metodologia: Explicação de Mapa de Ativação de Recursos (FAME)

Os autores propõem o FAME, um framework unificado que une os paradigmas baseados em gradiente e baseados em perturbação. O FAME é construído sobre a Síntese de Origem Alvo por Camada (LOTS), uma técnica de ataque adversarial originalmente projetada para modificar imagens e forçar uma rede em direção a uma saída específica em uma determinada camada.

Mecanismo Central

Em vez de usar patches fixos ou reamostragem simples de gradiente, o FAME trata a geração de um mapa de atribuição como um problema de otimização:

1. Perturbação Iterativa: Começando com uma imagem de entrada $x$, o FAME atualiza iterativamente a imagem para $\bar{x}$ usando gradientes normalizados para minimizar uma função de perda específica $\mathcal{L}$ em relação a um alvo $t$ em uma camada escolhida da rede.
   $$\bar{x} \leftarrow \bar{x} - \eta \frac{\nabla_{\bar{x}}}{\max |\nabla_{\bar{x}|}}$$
   onde $\nabla_{\bar{x}} = \frac{\partial \mathcal{L}(f^l(\bar{x}) \mid t^l)}{\partial \bar{x}}$.
2. Derivação de Atribuição: O mapa de atribuição é derivado da diferença absoluta entre a imagem original e a imagem perturbada: $\Delta x = |\bar{x} - x|$.
3. Suavização: O mapa de perturbação resultante em nível de pixel é suavizado usando um kernel Gaussiano e normalizado por máximo para produzir o mapa de atribuição final $e \in [0, 1]^{H \times W}$.

Adaptações Específicas para Tarefas

O FAME adapta a função de perda e o alvo com base na tarefa:

• Análise de Mapa de Recursos: Para testar a validade das suposições do CAM, o alvo é definido como zero para elementos específicos do mapa de recursos $a[k]$. A perda $\mathcal{L}_a = \|a[k] - 0\|_1$ identifica quais pixels de entrada devem ser removidos para anular uma ativação específica de recurso.
• Classificação de Imagens: A perda é definida diretamente no logit de uma classe alvo ($L_{cls} = z_o$), retropropagando para a entrada para destacar pixels críticos para aquela previsão de classe.
• Reconhecimento Facial: O método minimiza ou maximiza a pontuação de similaridade $s$ entre uma imagem de galeria ($x_g$) e uma imagem de sonda ($x_p$).
  • Similar ($e^+$): Minimizar similaridade ($L_+ = s$) para encontrar regiões que suportam a correspondência.
  • Dissimilar ($e^-$): Maximizar similaridade ($L_- = 1-s$) para encontrar regiões que causam a incompatibilidade.
  • Diferentemente de métodos relacionados (por exemplo, FGGB), o FAME não requer limiarização arbitrária para separar regiões similares e dissimilares.

Contribuições Principais

1. Refutação das Suposições do CAM: O artigo fornece evidências empíricas de que a suposição de campos receptivos locais em métodos baseados em CAM não se sustenta para redes mais profundas. Usando o FAME, os autores demonstram que elementos de mapas de recursos em redes profundas (por exemplo, IResNet101) agregam informações de grandes regiões deslocadas e sobrepostas da entrada, tornando a simples reamostragem pouco confiável.
2. Framework Unificado: O FAME oferece uma abordagem única, baseada em otimização, aplicável tanto a tarefas de IC quanto a FR, sem exigir alterações arquiteturais específicas para a tarefa ou seleção manual de limiares.
3. Perturbação Principial: Ao usar perturbações orientadas por gradiente em vez de patches fixos, o FAME evita a introdução de artefatos artificiais (como bordas nítidas de quadrados pretos) e fornece uma interpretação mais natural de como mudanças na entrada afetam as saídas da rede.

Resultados Experimentais

Os autores avaliaram o FAME no ImageNet (IC) e em três conjuntos de dados de Reconhecimento Facial (AR Face, SCface, CFP) usando várias arquiteturas (ResNet, VGG, ConvNeXt, IResNet).

Classificação de Imagens

• Qualitativo: O FAME produz mapas de atribuição mais compactos e semanticamente relevantes em comparação com Grad-CAM e Grad-CAM-EW, que frequentemente destacam regiões de fundo difusas ou focam apenas em partes específicas (por exemplo, apenas a cabeça de um pássaro).
• Quantitativo: No ImageNet, o FAME alcança pontuações competitivas de Interseção sobre União (IoU), ficando ligeiramente atrás do FullGradCAM, mas superando variantes padrão do Grad-CAM. Crucialmente, nas avaliações ROAD-Delete (medindo a degradação de desempenho conforme pixels salientes são removidos), o FAME alcança as maiores pontuações em baixas taxas de remoção (10% e 30%), indicando que identifica os pixels mais críticos para a decisão do modelo de forma mais eficaz do que os concorrentes.

Reconhecimento Facial

• Qualitativo: O FAME gera mapas espacialmente coerentes que se alinham com a intuição humana. Para rostos ocluídos (por exemplo, cachecóis, óculos escuros), o FAME foca corretamente em pistas de identidade visíveis (olhos, testa) enquanto ignora áreas ocluídas. Em contraste, métodos como CorrRISE e FGGB frequentemente produzem mapas ruidosos ou destacam regiões de fundo irrelevantes.
• Quantitativo: Em múltiplos protocolos de FR e profundidades de rede, o FAME supera consistentemente Grad-CAM, CorrRISE e FGGB tanto nas métricas Delete (queda de precisão) quanto Insert (recuperação de precisão). Notavelmente, o FAME alcança as maiores pontuações de Insert (até 96,7% no CFP), demonstrando sua capacidade de identificar regiões que, quando restauradas, recuperam rapidamente a precisão de verificação.

Significado e Alegações

O artigo afirma que o FAME fornece um framework baseado em otimização e adaptativo à tarefa que gera explicações estáveis e relevantes para o modelo. Seu significado principal reside em:

• Correção de Equívocos: Desafia a dependência de reamostragem espacial ingênua em redes profundas, mostrando que arquiteturas mais profundas codificam padrões globalmente integrados em vez de características localizadas.
• Robustez: O FAME demonstra robustez superior a variações em pose, oclusão e resolução em comparação com métodos XAI de última geração.
• Generalidade: Elimina a necessidade de limiares arbitrários (uma limitação do FGGB) e parâmetros de perturbação fixos (uma limitação do CorrRISE), oferecendo uma abordagem mais principial para atribuição.

Os autores reconhecem que o FAME é computacionalmente mais lento do que métodos baseados em gradiente devido à sua natureza iterativa, mas sugerem que a velocidade pode ser melhorada por meio de parada antecipada ou tamanhos de passo maiores com impacto mínimo na qualidade. Um trabalho futuro é proposto para estender o FAME a arquiteturas de transformadores e tarefas de detecção de objetos.