Resumo Técnico: Além de Mapas de Calor: Raciocínio de Grafo de Conceitos Não Supervisionado para Explicação Visual Interpretável

Definição do Problema

Modelos de aprendizado profundo em visão computacional, embora altamente precisos, sofrem com processos de tomada de decisão opacos que dificultam a implementação em domínios críticos de segurança, como o diagnóstico médico. As abordagens de interpretabilidade existentes enfrentam limitações significativas:

• Métodos de Saliência Post-hoc (ex: Grad-CAM): Fornecem mapas de calor ao nível de pixel indicando onde o modelo presta atenção, mas falham em identificar quais conceitos visuais impulsionam a predição. Eles frequentemente carecem de confiabilidade e falham em testes de sanidade.
• Métodos de Conceito Post-hoc: Identificam conceitos visuais, mas não os integram ao pipeline de predição, falhando em modelar as dependências entre conceitos.
• Modelos de Gargalo de Conceito (CBMs): Integram a interpretabilidade no processo de predição, mas tipicamente dependem de vocabulários de conceitos pré-definidos e caros ou de anotações supervisionadas. Além disso, os CBMs padrão reduzem conceitos a pontuações únicas ao nível da imagem, descartando a recorrência espacial (onde os conceitos aparecem) e falhando em modelar dependências não lineares entre conceitos via classificadores lineares. Eles também carecem de um embasamento (grounding) explícito de conceitos no espaço de entrada.

Metodologia: Modelo de Gargalo de Conceito Baseado em Grafo (G-CBM)

Os autores propõem o G-CBM, um framework intrinsecamente interpretável que realiza classificação e explicação simultaneamente sem exigir anotações manuais de conceitos. O framework opera em duas etapas:

Estágio I: Descoberta Não Supervisionada de Base de Conceitos

1. Extração de Características: As imagens de treinamento são divididas em patches (regiões) e passadas por uma rede de backbone congelada (ex: ResNet-50) para extrair características ao nível da região.
2. Decomposição NMF: A Fatoração de Matriz Não Negativa (NMF) é aplicada à matriz de ativação desses patches. A NMF descobre um conjunto de bases de conceitos reutilizáveis e não negativas ($C$) que capturam padrões visuais recorrentes (ex: "roda", "listra", "padrão-de-pigmentação").
3. Seleção de Conceitos: O número de conceitos ($r$) é selecionado com base em uma métrica de pontuação que equilibra a cobertura de classes e o poder discriminativo. Essas bases são congeladas e servem como os nós do grafo de conceitos.

Estágio II: Predição e Explicação Baseada em Grafo de Conceitos

1. Projeção e Filtragem: Para uma nova imagem de entrada, as características ao nível da região são projetadas sobre as bases de conceitos congeladas usando Mínimos Quadrados Não Negativos (NNLS). Um limiar ajustável ($\tau$) filtra características de região fracas, suprimindo ruído e controlando a seletividade da explicação.
2. Construção do Grafo: Um grafo de conceitos por imagem é construído onde:
   • Nós: Representam as bases de conceitos descobertas. As características dos nós são inicializadas pela agregação das características de região dos patches que correspondem ao conceito, ponderadas por seus escores de ativação.
   • Arestas: Representam as relações entre todos os nós de conceito.
3. Rede de Atenção de Grafo (GAT): Uma GAT processa o grafo para modelar dependências inter-conceituais não lineares. Diferente dos classificadores lineares, a GAT permite que cada nó de conceito atenda aos outros, capturando interações complexas.
4. Predição: O grafo é agrupado (pooled) e passado por uma cabeça de classificação para produzir a predição final.

Saídas de Interpretabilidade

O G-CBM fornece três sinais interpretativos distintos:

• Seleção de Conceito (O quê): Identifica quais nós de conceito possuem evidência limiarizada positiva, indicando quais conceitos influenciaram a predição.
• Embasamento de Conceito (Onde): Localiza conceitos atribuindo escores de grounding aos patches da imagem com base na sua ativação dos conceitos selecionados, visualizados via caixas delimitadoras (bounding boxes).
• Escores de Importância (Quanto): Calcula as sensibilidades baseadas em gradiente das probabilidades de classe predita em relação a cada característica do nó de conceito para quantificar a contribuição.

Principais Contribuições

1. Framework G-CBM: Um framework de classificação de imagem intrinsecamente interpretável que realiza classificação e explicação de forma conjunta. Ele combina a descoberta de conceitos não supervisionada (via NMF) com o raciocínio relacional baseado em grafos (via GAT) para produzir seleção de conceito, grounding e escores de importância em um pipeline unificado.
2. Representação de Grafo de Conceitos por Imagem: Introduz uma representação de grafo onde os nós agregam características de região, preservando a recorrência espacial, e as arestas aprendidas via atenção de grafo capturam dependências inter-conceituais não lineares.
3. Filtragem de Conceito Ajustável: Propõe um limiar ($\tau$) que suprime características de região fracas antes da agregação. Isso permite o controle explícito sobre a seletividade da explicação e melhora o grounding do conceito sem remover nós do grafo.
4. Validação Empírica: Valida a abordagem em quatro datasets (ImageNet, HAM10000, PH2, Derm7pt), demonstrando desempenho competitivo contra métodos supervisionados sem exigir anotações manuais.

Resultados Experimentais

• Desempenho: O G-CBM alcança um aumento médio relativo de AUC de 3,7% sobre uma linha de base ResNet-50 nos quatro datasets. No HAM10000, supera a linha de base CNN mais forte (0,923 vs. 0,912). No PH2, atinge um AUC de 0,960 usando apenas 2 de 10 conceitos disponíveis em média.
• Comparação com Métodos Supervisionados: Nos benchmarks de dermoscopia (Derm7pt, PH2), o G-CBM é competitivo com abordagens supervisionadas (ex: PCBM, CBE, MICA) que exigem anotações externas de conceitos, apesar de o G-CBM não exigir tais anotações.
• Fidelidade (Faithfulness): Análises de deleção/inserção com controles de ablação aleatória confirmam que a importância do conceito ranqueada por gradiente reflete fielmente as predições do modelo. O ranking "Mais-Relevante-Primeiro" supera significativamente os baselines aleatórios nesses testes de perturbação.
• Seletividade: O limiar de filtragem de conceito permite que o modelo atinja o pico de desempenho com um subconjunto esparso de conceitos (ex: 3,8 de 9 conceitos no HAM10000), demonstrando que evidências de conceito de alta confiança são suficientes para uma predição precisa.

Significância e Alegações

O artigo afirma que o G-CBM aborda as limitações dos métodos existentes ao fornecer um framework que responde quais conceitos estão presentes, onde eles aparecem e quanto eles contribuem, tudo dentro do processo de predição.

• Descoberta Não Supervisionada: Elimina a necessidade de anotações de conceitos supervisionadas dispendiosas ou a dependência de modelos de fundação opacos (LLMs/CLIP) para geração de conceitos.
• Raciocínio Não Linear: Ao usar uma GAT, ele modela dependências não lineares entre conceitos, o que os CBMs lineares não conseguem fazer.
• Grounding Espacial: Ele ancora (grounds) explicitamente os conceitos em regiões da imagem, preservando a recorrência espacial em vez de colapsá-los em pontuações únicas ao nível da imagem.
• Interpretabilidade vs. Acurácia: Os resultados sugerem que classificadores visuais podem raciocinar através de conceitos localizados e reutilizáveis sem sacrificar o desempenho preditivo, ofereando um caminho viável para a IA interpretável em domínios de segurança crítica.