Resumo Técnico: Informação de Fisher Dependente da Entrada para Análise de Sensibilidade Local de Classificadores de Imagens Médicas

Declaração do Problema

Redes neurais profundas alcançaram alto desempenho na classificação de imagens médicas, mas frequentemente operam como "caixas pretas". Embora métodos de interpretação post-hoc (ex: Grad-CAM, Integrated Gradients) sejam amplamente utilizados para visualizar regiões associadas aos outputs do modelo, eles frequentemente dependem de quantidades heurísticas que variam entre arquiteturas e implementações. Crucialmente, esses mapas de atribuição nem sempre fornecem uma caracterização fundamentada de como a distribuição preditiva de um classificador responde a perturbações no input. Há uma necessidade de uma ferramenta intrínseca ao modelo para analisar a sensibilidade de decisão local sem exigir o redesenho da arquitetura ou supervisão adicional.

Metodologia

Os autores propõem um framework de análise de sensibilidade local baseado na Informação de Fisher Dependente da Entrada (iFIM). Esta abordagem quantifica a sensibilidade local da distribuição preditiva de um classificador a perturbações infinitesimais da imagem de entrada.

Framework Central

1. Definição de iFIM: Para um classificador treinado $f_\theta$ e uma imagem de entrada $x$, a iFIM $F(x)$ é definida como o produto externo esperado dos gradientes do log-predição em relação ao input:
   $$F(x) = \mathbb{E}_{y \sim p_\theta(\cdot|x)} [\nabla_x \log p_\theta(y|x) \nabla_x \log p_\theta(y|x)^\top]$$
   Esta matriz caracteriza como a distribuição preditiva muda localmente em torno de $x$.

2. Fatoração da Matriz de Gram: Construir diretamente a matriz Fisher completa de $d \times d$ (onde $d$ é o número de pixels) é computacionalmente inviável para inputs de escala de imagem. Os autores utilizam uma formulação de matriz de Gram para recuperar o espectro de autovalores não nulos de forma eficiente. Ao definir uma matriz $G(x)$ contendo gradientes de classe ponderados, a iFIM é expressa como $F(x) = G(x)G(x)^\top$. Os autovalores não nulos da matriz de Gram $K(x) = G(x)^\top G(x)$, muito menor ($C \times C$, onde $C$ é o número de classes), coincidem com os de $F(x)$. Isso permite a computação tratável dos principais autovetores.

3. Decomposição de Imagem: A imagem de entrada é decomposta em dois componentes ortogonais baseados na estrutura espectral da iFIM:

   • Componente Sensível à Tarefa ($x_{sens}$): A projeção da imagem no subespaço gerado pelos principais autovetores da iFIM (associados aos maiores autovalores). Este componente corresponde a direções de alta sensibilidade preditiva local.
   • Componente Insensível à Tarefa ($x_{comp}$): O complemento ortogonal, contendo direções de menor sensibilidade e componentes do nulidade (nullspace).

   A decomposição é definida como $x = x_{sens} + x_{comp}$. Os autores enfatizam que estas são projeções sobre direções de sensibilidade, não necessariamente segmentações semânticas de anatomia.

Principais Contribuições

• Formulação: Um framework de teoria da informação usando a iFIM para caracterizar a sensibilidade de decisão local de um classificador de imagens médicas treinado a perturbações de input.
• Eficiência Computacional: Um método de fatoração de matriz de Gram que recupera o espectro de autovalores não nulos da iFIM sem construir a matriz Fisher completa da dimensão da imagem, permitindo a aplicação a dados de imagem de alta dimensão.
• Definição de Decomposição: Uma decomposição baseada em projeção de imagens de entrada em componentes de alta sensibilidade e componentes ortogonais de baixa sensibilidade, com interpretação esclarecida para configurações de baixo posto (ex: classificação binária).
• Avaliação: Avaliação abrangente através de tarefas de classificação de imagens médicas controladas e clínicas usando análises baseadas em perturbação e comparações entre múltiplas arquiteturas.

Resultados Experimentais

O framework foi avaliado em três tarefas:

1. OCT de Retina: Classificação de três classes (Normal, Drusen, CNV).
2. Raio-X de Tórax: Detecção de cardiomegalia.
3. MRI Estilizada: Tarefa de sinal conhecido estatisticamente/background conhecido estatisticamente (SKS/BKS).

Descobertas:

• Visualização: Em configurações controladas de MRI, o componente sensível à tarefa concentrou-se em torno de regiões de sinal conhecidas. Em tarefas clínicas (OCT e Raio-X), os mapas sensíveis à tarefa alinharam-se com regiões portadoras de patologia (ex: camadas retinianas para Drusen/CNV, silhueta cardíaca para cardiomegalia), enquanto o componente insensível capturou variações de fundo.
• Dependência de Arquitetura: A distribuição espacial do componente de alta sensibilidade variou entre as arquiteturas VGG16 e ResNet18, mesmo quando ambas atingiram desempenho preditivo similar. Isso sugere que a iFIM revela geometrias de decisão locais específicas da arquitetura.
• Análise de Perturbação:
  • Perturbação Contrastiva: Quando pixels com alta magnitude no mapa iFIM sensível à tarefa foram perturbados (substituídos por ruído), o F1-score do classificador degradou significativamente mais do que quando pixels do mapa insensível à tarefa foram perturbados. O método baseado em iFIM alcançou uma razão de degradação de desempenho superior comparado a outros métodos de atribuição (DeepSHAP, variantes de Grad-CAM, etc.).
  • Robustez Adversária: O mapa iFIM sensível à tarefa exibiu a menor correlação entre inputs limpos e adversariamente perturbados (aproximando-se de zero para as tarefas de OCT e Raio-X), indicando que a representação é altamente sensível a perturbações que alteram a decisão.

Significância e Alegações

O artigo postula que o framework iFIM serve como uma ferramenta fundamentada para analisar a sensibilidade de decisão local em classificadores de imagens médicas. Diferente dos mapas de calor de atribuição convencionais que oferecem pontuações de importância pixel a pixel, a iFIM fornece uma descrição geométrica e intrínseca ao modelo de como perturbações próximas a um dado input influenciam a distribuição preditiva.

Os autores alegam que:

1. Componentes de alta sensibilidade da iFIM estão mais fortemente acoplados a mudanças na confiança preditiva e no desempenho de classificação do que componentes de baixa sensibilidade.
2. O framework complementa os métodos existentes de interpretabilidade baseados em atribuição em vez de substituí-los, oferecendo uma perspectiva diferente focada na estrutura de sensibilidade local da distribuição preditiva.
3. O método permite a análise de classificadores padrão treinados sem modificar a arquitetura do modelo.

Os autores mantêm a modéstia quanto a alegações semânticas ou causais, observando que, embora a decomposição se alinhe com estruturas de sinal conhecidas em configurações controladas e com patologia em configurações clínicas, alegações fortes sobre relevância semântica ou causal para a tarefa exigiriam validação contra padrões de referência independentes (ex: anotações de especialistas). A principal contribuição é a caracterização da sensibilidade preditiva local.