Explaining Digital Pathology Models via Clustering Activations

Resumo Técnico: Explicação de Modelos de Patologia Digital via Agrupamento de Ativações

Declaração do Problema
A adoção de modelos de aprendizado profundo na patologia digital clínica é impedida por uma "lacuna de confiança". Embora as Redes Neurais Convolucionais (CNNs) possam classificar com precisão lâminas de tecido (por exemplo, detectando câncer de próstata), elas funcionam como "caixas pretas" opacas. Os patologistas relutam em confiar nesses modelos porque as técnicas padrão de explicabilidade, como oclusão, GradCAM ou propagação de relevância, fornecem apenas mapas de saliência unidimensionais e locais. Esses mapas destacam regiões que contribuem para uma única previsão, mas falham em explicar o raciocínio por trás da decisão ou o comportamento global do modelo. Diferentemente dos patologistas humanos, que sintetizam várias características morfológicas e tipos de tecido, os métodos atuais não revelam as representações semânticas internas que o modelo utiliza para distinguir entre tecido saudável e canceroso.

Metodologia
Os autores propõem uma técnica de explicabilidade baseada em agrupamento que visualiza o comportamento global dos modelos CNN agrupando ativações de características semelhantes. O método opera da seguinte forma:

1. Extração de Características: Para um modelo CNN dado, vetores de características são extraídos de uma camada convolucional específica $\ell$ para cada localização espacial $(i, j)$ dos tiles de imagem de entrada. Esses vetores representam os valores de ativação em todos os canais $C$.
2. Fatoração de Matriz Não Negativa (NMF): Para garantir a interpretabilidade semântica, os autores empregam NMF nos vetores de características. Como a NMF requer entradas não negativas, eles utilizam as saídas da camada após a função de ativação ReLU.
3. Processo de Agrupamento:
   • Treinamento: Uma matriz de treinamento $V$ de vetores de características é decomposta em matrizes não negativas $W$ e $H$ minimizando a norma de Frobenius $\|V - WH\|_F^2$. A matriz $H$ representa $K$ vetores de classe (centróides de agrupamento), enquanto $W$ representa a intensidade (peso) de cada classe para cada vetor de características.
   • Inferência: Para novos dados, $H$ permanece fixo e $W$ é otimizado. Cada localização espacial é atribuída ao agrupamento com o maior peso de intensidade.
4. Adaptação para Imagens de Lâmina Completa (WSI): Para lidar com a escala massiva de WSIs (centenas de milhares de pixels) e a questão da sobreposição de tiles:
   • A borda de 2 pixels dos vetores de características em cada tile é descartada para mitigar artefatos de borda.
   • Vetores de características de tiles sobrepostos na mesma localização espacial são medidos para criar uma representação única e consistente por pixel.
   • Tiles sem sobreposição de tecido (fundo) são descartados para focar o cálculo em áreas relevantes.

Principais Contribuições

• Explicação Global vs. Local: Diferentemente dos mapas de saliência que destacam regiões específicas para uma única decisão, este método revela o comportamento global do modelo agrupando representações internas em categorias semânticas distintas.
• Segmentação Semântica sem Supervisão: A técnica gera uma segmentação semântica da imagem de entrada com base em agrupamentos aprendidos, apesar de o modelo subjacente ser treinado exclusivamente para classificação binária (câncer vs. não câncer) e nunca para segmentação.
• Tratamento dos Desafios de WSI: A abordagem é especificamente projetada para gerenciar a alta dimensionalidade e a distribuição esparsa de tecido características das lâminas de patologia digital.
• Validação contra Conhecimento Especializado: O método foi avaliado em um modelo de detecção de câncer de próstata, demonstrando que os agrupamentos resultantes correspondem a características morfológicas observáveis reconhecidas por patologistas.

Resultados
A técnica foi avaliada usando um modelo de detecção de câncer de próstata (baseado em VGG-16) treinado em 87 WSIs do Instituto de Câncer Memorial Masaryk. Os autores treinaram modelos de agrupamento com $K=4, 6,$ e $8$ classes.

• Avaliação por Patologista: Um residente em patologia analisou a saída de agrupamento $K=6$ e identificou que os agrupamentos correspondiam a estruturas morfológicas específicas:
  • Classes 2, 4 e 5 foram identificadas como correspondendo a áreas carcinomatosas (por exemplo, cadeias de núcleos densamente empacotados, pequenos lumens).
  • Classes 1, 3 e 6 correspondiam a estruturas de tecido esparsas, bordas ou epitélio normal.
• Análise Quantitativa:
  • Um modelo de regressão logística treinado exclusivamente nos pesos dos agrupamentos alcançou alto desempenho na previsão de positividade para câncer (Precisão: 0,984, AUC: 0,998).
  • Os coeficientes de regressão confirmaram que as classes 2, 4 e 5 correlacionam-se fortemente com rótulos positivos de câncer, enquanto as classes 1, 3 e 6 correlacionam-se com rótulos negativos, alinhando-se à avaliação qualitativa do patologista.
• Comparação com GradCAM:
  • Embora as classes 2, 4 e 5 mostrassem alta correlação com mapas de calor do GradCAM, a Interseção sobre União (IoU) entre os agrupamentos e as máscaras do GradCAM foi baixa.
  • Isso indica que, embora os agrupamentos se sobreponham às regiões que o GradCAM considera importantes, o método de agrupamento fornece informações mais nuances e detalhadas sobre quais características específicas dentro dessas regiões o modelo está utilizando.

Significado e Alegações
O artigo afirma que essa abordagem baseada em agrupamento oferece uma ferramenta robusta para compreender o funcionamento interno das CNNs na patologia digital. Ao ir além de mapas de saliência simples para revelar o comportamento semântico global do modelo, o método ajuda a desmistificar a natureza de "caixa preta" da IA. Os autores argumentam que fornecer insights interpretáveis sobre as características morfológicas específicas que um modelo prioriza pode aumentar significativamente a confiança dos patologistas, facilitando assim a adoção mais rápida e segura de modelos de IA na prática clínica. O método é apresentado como aplicável a qualquer arquitetura de modelo que utilize vetores de características espaciais, com trabalhos futuros sugeridos para inspecionar modelos fundamentais do tipo transformer.