A Human-Centered Validation of the Explainability-Performance Coefficient

Resumo Técnico: Uma Validação Centrada no Humano do Coeficiente de Explicabilidade-Desempenho

Definição do Problema
A rápida adoção de Aprendizado Profundo (Deep Learning - DL) em domínios de alto risco intensificou a necessidade de uma Inteligência Artificial Explicável (XAI) confiável. No entanto, avaliar objetivamente a fidelidade das explicações permanece um desafio crítico. As métricas de avaliação existentes frequentemente dependem de medidas indiretas (proxies) como fidelidade, estabilidade ou robustez, que capturam apenas aspectos parciais da qualidade da explicação. Crucialmente, muitas métricas atuais falham em considerar explicitamente o compromisso (trade-off) entre a esparsidade das características selecionadas e a preservação do desempenho preditivo do modelo. Além disso, há uma falta de consenso sobre se explicações com pontuações altas se alinham com a compreensão centrada no humano, particularmente através de diversas modalidades de dados (tabulares, texto e imagem) e arquiteturas de rede.

Metodologia
Os autores propõem uma métrica agnóstica ao modelo, a pontuação EPC, que serve como um resumo escalar do Coeficiente de Explicabilidade-Desempenho (EPC). A metodologia baseia-se na premissa de que uma explicação significativa deve não apenas destacar características relevantes, mas também preservar a capacidade preditiva do modelo quando restrita a essas características.

1. Estrutura Teórica: O EPC quantifica a "lacuna de desempenho" entre dois regimes de perturbação baseados em um vetor de relevância $R_x$ gerado por um explicador:

   • Deleção Top-k: Anulação dos $k\%$ das características consideradas mais relevantes. Uma explicação fiel deve causar uma queda rápida na confiança do modelo.
   • Deleção Bottom-k: Anulamento dos $k\%$ das características consideradas menos relevantes. Uma explicação robusta deve manter a confiança do modelo, conforme as características não essenciais são removidas.
     O gráfico EPC plota essa lacuna de desempenho contra o nível de esparsidade $k$. A pontuação EPC é derivada calculando a área entre a curva EPC observada e um teto de referência linear ideal ($f(k) = k/100$), normalizada para produzir um valor escalar único onde pontuações mais altas indicam um melhor alinhamento com o compromisso ideal.

2. Configuração Experimental: O framework foi validado através de três modalidades de dados:

   • Dados Tabulares: Conjunto de dados de inadimplência de empréstimos bancários (Kaggle).
   • Dados de Imagem: MNIST (reconhecimento de dígitos) e ImageNet (via subconjunto Imagenette).
   • Dados de Texto: Análise de sentimento IMDB.

   O estudo avaliou um conjunto diversificado de explicadores locais, incluindo métodos agnósticos ao modelo (SHAP, LIME) e métodos específicos do modelo (Gradient $\times$ Input, LRP, Integrated Gradients, Grad-CAM). Um componente crítico da metodologia envolveu o teste de diferentes estratégias de nulificação ($\Phi$). Para dados de imagem, os autores compararam a máscara de zero padrão contra o desfoque gaussiano (Gaussian blurring) para mitigar artefatos fora da distribuição (out-of-distribution) que poderiam enviesar as avaliações visuais.

3. Validação Centrada no Humano: Para avaliar o alinhamento com a compreensão humana, as pontuações EPC foram correlacionadas com recursos independentes anotados por humanos:

   • Texto: O léxico de sentimento AFINN, medindo o acordo entre os rankings de relevância de palavras e a polaridade de sentimento curada por humanos.
   • Imagem: Anotações de localização de objetos do ImageNet (Regiões de Interesse - ROIs), medindo a precisão espacial das explicações contra limites de objetos identificados por humanos.

Principais Resultados

• Desempenho da Métrica: A pontuação EPC consegue discriminar entre explicações de alta qualidade e superficiais. Em todas as modalidades e arquiteturas (MLPs, CNNs, LSTMs), o Integrated Gradients (IG) alcançou consistentemente as maiores pontuações EPC, superando métodos baseados em gradiente mais simples e abordagens agnósticas ao modelo.
• Viabilidade Computacional: Métodos agnósticos ao modelo (SHAP, LIME) exibiram custos computacionais proibitivos em espaços de alta dimensão (ex: ImageNet), levando à sua exclusão de benchmarks complexos. Métodos baseados em gradiente foram significativamente mais eficientes.
• Impacto da Estratégia de Nulificação: Na classificação de imagens, a escolha do operador de nulificação alterou significativamente os resultados. A máscara de zero favoreceu métodos de grão grosso como o Grad-CAM devido à introdução de bordas artificiais. Por outro lado, o desfoque gaussiano eliminou esse viés estrutural, revelando que explicadores de nível de pixel (especificamente o IG) possuem fidelidade superior, alcançando pontuações EPC significativamente maiores do que métodos regionais grosseiros.
• Alinhamento Humano:
  • Texto: Explicadores com pontuações EPC mais altas mostraram uma forte correlação de Pearson com o léxico de sentimento AFINN. O IG alcançou a maior correlação ($\rho = 0.65$), confirmando que a métrica se alinha com os julgamentos de sentimento lexical humano.
  • Imagem: Pontuações EPC mais altas correlacionaram-se com uma precisão superior na identificação de Regiões de Interesse (ROIs) anotadas por humanos em limiares finos (Top@1). O estudo revelou que, embora a localização de objetos (ROI) e a fidelidade da explicação estejam relacionadas, elas não são equivalentes; métodos de nível de pixel identificaram a evidência necessária dentro de uma ROI de forma mais eficaz do que métodos grosseiros, que frequentemente destacavam contextos de fundo dispensáveis.

Significância e Alegações
O artigo alega que a pontuação EPC fornece um framework robusto, padronizado e quantitativo para comparar métodos de XAI através de diversas arquiteturas e tipos de dados. Sua principal significância reside na sua validação centrada no humano: os autores demonstram que a pontuação EPC não é meramente um construto matemático abstrato, mas correlaciona-se fortemente com julgamentos humanos independentes (sentimento lexical e anotações espaciais).

O trabalho destaca que a fidelidade da explicação está intrinsecamente ligada à modalidade de dados, à arquitetura da rede e às condições operacionais do explicador (ex: funções de ativação e estratégias de nulificação). Especificamente, os autores argumentam que:

1. Integrated Gradients é o explicador mais robusto em todos os benchmarks avaliados.
2. Viés de Avaliação: Avaliações de fidelidade visual são altamente sensíveis às estratégias de perturbação; o desfoque gaussiano é necessário para avaliar justamente métodos de nível de pixel.
3. Dimensões Complementares: A localização de objetos (onde está a evidência) e a fidelidade da explicação (quais partes da evidência são necessárias) são dimensões complementares, não equivalentes, da explicabilidade. A pontuação EPC captura efetivamente esta última, estendendo a validação além da simples localização de objetos para a necessidade de características específicas para a predição do modelo.

Os autores concluem que a pontuação EPC serve como uma ferramenta de diagnóstico confiável para identificar explicações fiéis, embora notem que trabalhos futuros devam explorar técnicas de inpainting generativo para nulificação e estender a métrica para Grandes Modelos de Linguagem (LLMs) e Transformers de Visão-Linguagem.