💻 computer science

Explaining Digital Pathology Models via Clustering Activations

Ce papier présente une technique d'explicabilité basée sur le clustering pour les modèles de pathologie numérique qui révèle le comportement global du modèle et des insights fins pour renforcer la confiance clinique, démontrant son efficacité sur un modèle de détection du cancer de la prostate.

Auteurs originaux : Adam Bajger, Jan Obdržálek, Vojtěch Kůr, Rudolf Nenutil, Petr Holub, Vít Musil, Tomáš Brázdil

Publié 2026-05-28

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Adam Bajger, Jan Obdržálek, Vojtěch Kůr, Rudolf Nenutil, Petr Holub, Vít Musil, Tomáš Brázdil

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez un robot pathologiste ultra-intelligent. Ce robot examine d'immenses images numériques haute résolution de prélèvements tissulaires (appelées images de lames entières) pour déterminer si un patient est atteint d'un cancer. Le problème est que le robot est une « boîte noire ». Il donne une réponse « Oui » ou « Non », mais ne vous dit pas pourquoi il a pris cette décision. C'est comme un ami qui déclare : « Je sais que c'est un mauvais film », mais refuse d'expliquer quelles scènes étaient mauvaises ou pourquoi.

Dans le monde médical, les médecins (pathologistes) hésitent à faire confiance à ces robots car ils ne peuvent pas voir le processus de pensée du robot. Cet article présente une nouvelle méthode pour jeter un coup d'œil à l'intérieur du cerveau du robot afin de voir ce qu'il observe réellement.

L'ancienne méthode : La « lampe de poche »

Auparavant, les chercheurs utilisaient des méthodes comme GradCAM ou Occlusion. Imaginez ces méthodes comme une lampe de poche éclairant une pièce sombre. La lampe de poche met en évidence les zones spécifiques de l'image que le robot juge les plus importantes pour sa décision.

Le défaut : C'est une vision unidimensionnelle. Elle dit : « Cette zone compte ! » mais n'explique pas ce que cette zone est. Est-ce un type spécifique de cellule ? Un motif étrange ? Une ombre ? Elle se contente de dire : « Regardez ici », sans fournir de contexte.

La nouvelle méthode : La « carte codée par couleurs »

Les auteurs proposent une nouvelle méthode basée sur le clustering. Au lieu d'une lampe de poche, imaginez que l'on donne au robot une immense boîte de briques LEGO (les petits morceaux de l'image). Le robot trie ces briques en tas en fonction de leur similarité visuelle.

Le processus de tri : Le robot examine des millions de minuscules patchs du tissu. Il les regroupe en catégories (clusters) en fonction de leurs caractéristiques visuelles.
Le résultat : Au lieu de simplement mettre en évidence des « zones de cancer », le robot crée une carte codée par couleurs de l'ensemble de la lame.
- Le rouge pourrait signifier « chaînes denses de cellules ».
- Le bleu pourrait signifier « trous vides ou petits cercles ».
- Le vert pourrait signifier « bords du tissu ».

Qu'ont-ils découvert ?

Les chercheurs ont testé cette méthode sur un modèle conçu pour détecter le cancer de la prostate. Ils ont demandé à un pathologiste humain d'examiner les cartes codées par couleurs et de décrire ce que représentait chaque couleur. L'expert humain a confirmé que le robot avait réussi à apprendre à reconnaître de véritables structures biologiques significatives :

Les couleurs « Cancer » : Le robot a identifié des motifs spécifiques (comme des chaînes de cellules étroitement groupées ou de minuscules trous circulaires) que l'expert humain a également reconnus comme des signes de cancer.
Les couleurs « Sain » : D'autres couleurs représentaient un tissu normal ou des zones de fond.

Pourquoi est-ce mieux ?

L'article affirme que cette méthode offre deux avantages principaux par rapport aux anciennes techniques de « lampe de poche » :

Compréhension globale : Au lieu de simplement pointer quelques points chauds, elle montre le paysage entier de la lame. Vous pouvez voir comment le robot perçoit la relation entre les différentes parties du tissu.
Détails affinés : Les méthodes de « lampe de poche » ont souvent tendance à tout flouter. La nouvelle méthode de clustering est comme une carte haute définition. Elle sépare des éléments qui se ressemblent mais que la lampe de poche aurait pu regrouper. Par exemple, elle peut distinguer une « chaîne normale de cellules » d'une « chaîne cancéreuse de cellules », même si elles se ressemblent au premier coup d'œil.

Le facteur « Confiance »

L'objectif ultime, selon l'article, est la confiance. En montrant au pathologiste que le robot observe les mêmes motifs biologiques spécifiques qu'un humain chercherait (plutôt que de simplement deviner), le médecin peut se sentir plus confiant dans le diagnostic du robot.

En résumé : L'article présente une technique qui transforme une IA « boîte noire » en une « boîte de verre ». Au lieu de simplement dire « Cancer détecté », elle dessine une carte colorée montrant exactement quels types de motifs tissulaires l'IA a utilisés pour prendre cette décision, prouvant ainsi qu'elle pense comme un expert humain.

Résumé technique : Explication des modèles de pathologie numérique par regroupement des activations

Énoncé du problème
L'adoption des modèles d'apprentissage profond en pathologie numérique clinique est entravée par un « fossé de confiance ». Bien que les réseaux de neurones convolutifs (CNN) puissent classer avec précision les lames de tissus (par exemple, détecter un cancer de la prostate), ils fonctionnent comme des « boîtes noires » opaques. Les pathologistes hésitent à faire confiance à ces modèles car les techniques d'explicabilité standard, telles que l'occlusion, GradCAM ou la propagation de pertinence, ne fournissent que des cartes de saillance unidimensionnelles et locales. Ces cartes mettent en évidence les régions contribuant à une prédiction unique, mais échouent à expliquer le raisonnement derrière la décision ou le comportement global du modèle. Contrairement aux pathologistes humains qui synthétisent diverses caractéristiques morphologiques et types de tissus, les méthodes actuelles ne révèlent pas les représentations sémantiques internes que le modèle utilise pour distinguer les tissus sains des tissus cancéreux.

Méthodologie
Les auteurs proposent une technique d'explicabilité basée sur le regroupement (clustering) qui visualise le comportement global des modèles CNN en regroupant des activations de caractéristiques similaires. La méthode fonctionne comme suit :

Extraction de caractéristiques : Pour un modèle CNN donné, des vecteurs de caractéristiques sont extraits d'une couche convolutive spécifique $\ell$ pour chaque emplacement spatial $(i, j)$ des tuiles d'images d'entrée. Ces vecteurs représentent les valeurs d'activation sur tous les canaux $C$ .
Factorisation de matrice non négative (NMF) : Pour assurer l'interprétabilité sémantique, les auteurs emploient la NMF sur les vecteurs de caractéristiques. Puisque la NMF nécessite des entrées non négatives, ils utilisent les sorties de la couche après la fonction d'activation ReLU.
Processus de regroupement :
- Entraînement : Une matrice d'entraînement $V$ de vecteurs de caractéristiques est décomposée en matrices non négatives $W$ et $H$ en minimisant la norme de Frobenius $\|V - WH\|_F^2$ . La matrice $H$ représente $K$ vecteurs de classe (centroïdes de clusters), tandis que $W$ représente l'intensité (poids) de chaque classe pour chaque vecteur de caractéristiques.
- Inférence : Pour de nouvelles données, $H$ reste fixe, et $W$ est optimisé. Chaque emplacement spatial est assigné au cluster ayant le poids d'intensité le plus élevé.
Adaptation aux images de lames entières (WSI) : Pour gérer l'échelle massive des WSI (des centaines de milliers de pixels) et le problème de chevauchement des tuiles :
- La bordure de 2 pixels des vecteurs de caractéristiques dans chaque tuile est rejetée pour atténuer les artefacts de bordure.
- Les vecteurs de caractéristiques provenant de tuiles se chevauchant au même emplacement spatial sont moyennés pour créer une représentation unique et cohérente par pixel.
- Les tuiles sans chevauchement de tissu (arrière-plan) sont rejetées pour concentrer le calcul sur les zones pertinentes.

Contributions clés

Explication globale vs locale : Contrairement aux cartes de saillance qui mettent en évidence des régions spécifiques pour une décision unique, cette méthode révèle le comportement global du modèle en regroupant les représentations internes en catégories sémantiques distinctes.
Segmentation sémantique sans supervision : La technique génère une segmentation sémantique de l'image d'entrée basée sur des clusters appris, bien que le modèle sous-jacent ait été entraîné uniquement pour une classification binaire (cancer vs non-cancer) et jamais pour la segmentation.
Gestion des défis des WSI : L'approche est spécifiquement conçue pour gérer la haute dimensionnalité et la distribution éparsse des tissus caractéristiques des lames de pathologie numérique.
Validation par rapport aux connaissances expertes : La méthode a été évaluée sur un modèle de détection du cancer de la prostate, démontrant que les clusters résultants correspondent à des caractéristiques morphologiques observables reconnues par les pathologistes.

Résultats
La technique a été évaluée à l'aide d'un modèle de détection du cancer de la prostate (architecture VGG-16) entraîné sur 87 WSI provenant de l'Institut du Cancer Mémorial Masaryk. Les auteurs ont entraîné des modèles de regroupement avec $K=4, 6,$ et $8$ classes.

Évaluation par un pathologiste : Un pathologiste résident a analysé la sortie de regroupement pour $K=6$ $K = 6$ et a identifié que les clusters correspondaient à des structures morphologiques spécifiques :
- Les classes 2, 4 et 5 ont été identifiées comme correspondant à des zones carcinomateuses (par exemple, chaînes de noyaux densément emballés, petits lumens).
- Les classes 1, 3 et 6 correspondaient à des structures de tissu éparses, des bords ou un épithélium normal.
Analyse quantitative :
- Un modèle de régression logistique entraîné uniquement sur les poids des clusters a atteint des performances élevées dans la prédiction de la positivité au cancer (Précision : 0,984, AUC : 0,998).
- Les coefficients de régression ont confirmé que les classes 2, 4 et 5 sont fortement corrélées aux étiquettes de cancer positives, tandis que les classes 1, 3 et 6 sont corrélées aux étiquettes négatives, ce qui s'aligne sur l'évaluation qualitative du pathologiste.
Comparaison avec GradCAM :
- Bien que les classes 2, 4 et 5 aient montré une forte corrélation avec les cartes thermiques GradCAM, l'Intersection sur Union (IoU) entre les clusters et les masques GradCAM était faible.
- Cela indique que, bien que les clusters se chevauchent avec les régions jugées importantes par GradCAM, la méthode de regroupement fournit des informations plus nuancées et détaillées sur quelles caractéristiques spécifiques au sein de ces régions le modèle utilise.

Importance et affirmations
L'article affirme que cette approche basée sur le regroupement offre un outil robuste pour comprendre le fonctionnement interne des CNN en pathologie numérique. En allant au-delà des simples cartes de saillance pour révéler le comportement sémantique global du modèle, la méthode aide à démystifier la nature de « boîte noire » de l'IA. Les auteurs soutiennent que fournir des insights interprétables sur les caractéristiques morphologiques spécifiques qu'un modèle privilégie peut considérablement augmenter la confiance des pathologistes, facilitant ainsi une adoption plus rapide et plus sûre des modèles d'IA dans la pratique clinique. La méthode est présentée comme applicable à toute architecture de modèle utilisant des vecteurs de caractéristiques spatiales, avec un travail futur suggéré pour l'inspection des modèles transformateurs fondamentaux.