Beyond Attention Heatmaps: How to Get Better Explanations for Multiple Instance Learning Models in Histopathology

Cet article propose un cadre général pour évaluer la fiabilité des cartes de chaleur en apprentissage multiple-instance en histopathologie, démontrant que des méthodes comme LRP et IG surpassent les cartes d'attention et permettent ainsi une validation plus robuste des modèles et la découverte de nouveaux biomarqueurs biologiques.

L'essentiel

🩺 Au-delà de la "Carte au Trésor" : Comment faire confiance aux IA en pathologie ?

Imaginez que vous avez un énorme puzzle (une image microscopique d'un tissu humain, appelée "lame complète"). Ce puzzle contient des millions de petites pièces. Votre objectif est de deviner si ce tissu est malade ou non.

Pour aider, vous engagez une Intelligence Artificielle (IA). Mais l'IA ne regarde pas tout le puzzle d'un coup. Elle le découpe en milliers de petits morceaux (des "patchs") et examine chacun d'eux individuellement avant de prendre une décision globale. C'est ce qu'on appelle l'Apprentissage Multi-Instances (MIL).

Le problème ? L'IA est une "boîte noire". Elle vous dit : "C'est malade", mais elle ne vous explique pas pourquoi. Pour combler ce vide, les chercheurs utilisent souvent des cartes de chaleur (heatmaps). C'est comme si l'IA colorait en rouge les zones du puzzle qu'elle a jugées importantes.

Le souci, c'est que ces cartes sont souvent trompeuses. Parfois, l'IA pointe du doigt une tache de peinture ou une poussière sur la lame plutôt que la vraie maladie. C'est comme si un détective vous montrait la mauvaise pièce du puzzle en disant : "Regarde, c'est ici !".

Ce papier de recherche pose une question cruciale : Comment savoir si la carte de chaleur de l'IA dit vraiment la vérité ?

---

🔍 La Grande Expérience : Le Test du "Retournement de Pièce"

Les chercheurs ont créé un laboratoire géant pour tester six méthodes différentes de création de ces cartes de chaleur. Ils ont utilisé des modèles d'IA très variés (comme des experts en puzzle de styles différents) et des tâches variées (diagnostiquer un cancer, prédire la survie, ou mesurer des gènes).

Pour tester la fiabilité, ils ont inventé une méthode géniale appelée "Le Test du Retournement de Pièce" (Patch Flipping) :

1. L'idée : Imaginez que vous avez la carte de chaleur de l'IA. Elle vous dit : "Les pièces rouges sont les plus importantes".
2. Le test : On prend les pièces rouges et on les retire du puzzle, une par une, du plus important au moins important.
3. L'observation :
   • Si la carte est vraie : Dès qu'on retire les pièces rouges, l'IA panique et change d'avis sur son diagnostic. C'est la preuve qu'elle s'appuyait vraiment sur ces pièces.
   • Si la carte est fausse : On retire les pièces rouges, mais l'IA continue de dire la même chose. Elle se fichait de ces pièces ! Elle regardait autre chose en secret.

C'est comme si vous demandiez à un chef cuisinier : "Quel ingrédient est le plus important pour ton plat ?". Il vous dit "Le sel". Vous retirez le sel.

• Si le plat devient immangeable : Il disait la vérité.
• Si le plat reste délicieux : Il mentait, c'était le sucre qui comptait vraiment.

---

🏆 Les Résultats : Qui est le meilleur détective ?

Après avoir testé des milliers de cas, les chercheurs ont découvert des surprises :

1. Le grand perdant : La "Carte d'Attention" (Attention Heatmaps).
   C'est la méthode la plus populaire, utilisée par défaut dans beaucoup d'IA. Les chercheurs ont découvert qu'elle est souvent fausse. Elle ressemble à un guide touristique qui pointe des monuments célèbres, mais qui ne vous dit pas pourquoi vous êtes là. Elle ne reflète pas vraiment la logique de l'IA.

2. Les grands gagnants : "Single", "LRP" et "IG".
   Trois méthodes plus complexes (mais plus honnêtes) ont gagné.

   • LRP (Propagation de pertinence) : C'est comme remonter le courant d'une rivière pour voir d'où vient l'eau. Très fiable.
   • Single (Perturbation) : C'est le test du "et si on enlevait cette pièce ?". Très robuste.
   • IG (Gradients intégrés) : Une méthode mathématique précise qui calcule l'influence de chaque pièce.

Le verdict : La méthode à utiliser dépend du type d'IA et de la tâche, mais jamais ne faites confiance aveuglément à la carte d'attention par défaut.

---

🌟 Pourquoi est-ce si important ? (Les deux super-pouvoirs)

Une fois qu'on a la bonne carte de chaleur, deux choses magiques deviennent possibles :

1. La Validation Biologique (Le "Vrai" Test)

Les chercheurs ont pris une IA capable de prédire la quantité d'un gène spécifique (comme un niveau de sucre dans le sang) juste en regardant l'image.

• Ils ont utilisé la bonne carte de chaleur (LRP) pour voir où l'IA regardait.
• Ils ont comparé cela avec une technologie de pointe appelée transcriptomique spatiale (une sorte de "scanner à gènes" très précis).
• Résultat : La carte de l'IA correspondait parfaitement à la réalité biologique ! Cela prouve que l'IA n'a pas triché (elle n'a pas appris à reconnaître la couleur de la tache sur la lame), mais qu'elle a vraiment appris la biologie.

2. La Découverte de Secrets (Le "Détective")

Dans le cas du cancer de la gorge (HPV), les médecins savent déjà à quoi ressemble une tumeur positive. Mais l'IA a trouvé des nouveaux indices que les humains n'avaient jamais vus.

• En utilisant la carte de chaleur, les chercheurs ont pu voir que l'IA se basait sur des groupes de cellules inflammatoires très spécifiques dans certaines zones.
• Cela permet de découvrir de nouvelles façons de diagnostiquer la maladie, au-delà de ce que les manuels médicaux disent aujourd'hui.

---

💡 En résumé

Ce papier nous dit : "Arrêtez de croire aveuglément aux cartes de chaleur colorées de vos IA."

Pour faire confiance à une IA médicale, il faut :

1. Utiliser les bons outils pour vérifier sa logique (comme le test du "Retournement de Pièce").
2. Choisir la méthode d'explication adaptée (souvent LRP ou Single, rarement l'Attention).
3. Utiliser ces cartes fiables pour valider que l'IA a compris la vraie science, et non juste des astuces, et pour découvrir de nouveaux secrets biologiques.

C'est un pas de géant pour rendre l'IA plus transparente, plus sûre et plus utile pour sauver des vies.

Résumé technique

1. Problématique

L'apprentissage multiple d'instances (MIL - Multiple Instance Learning) est devenu la méthode standard pour l'analyse de l'imagerie histopathologique numérique (WSI - Whole Slide Images). Dans ce cadre, une image entière (le "sac") est divisée en milliers de patches (les "instances"), et le modèle doit prédire un diagnostic au niveau de la lame à partir de ces patches non étiquetés individuellement.

Pour valider ces modèles et découvrir des biomarqueurs, les chercheurs utilisent couramment des cartes de chaleur (heatmaps) générées par des méthodes d'explication (XAI). Cependant, deux problèmes majeurs persistent :

1. L'absence de validation rigoureuse : La validité de ces cartes de chaleur, en particulier celles basées sur les mécanismes d'attention (les plus populaires), n'a que rarement été investiguée. Il est souvent admis à tort que l'attention reflète fidèlement la stratégie de décision du modèle.
2. Le manque de guides méthodologiques : Il n'existe pas de consensus sur quelle méthode d'explication utiliser (Attention, LRP, IG, etc.) selon le type de tâche (classification, régression, survie) ou l'architecture du modèle. L'utilisation de visualisations non validées peut conduire à des biais de confirmation et à une interprétation erronée des résultats biologiques.

2. Méthodologie

Les auteurs proposent un cadre d'évaluation général et agnostique du modèle pour évaluer la fidélité (faithfulness) des cartes de chaleur MIL, sans nécessiter d'étiquettes supplémentaires.

A. Cadre d'évaluation : Le "Patch Flipping"

Pour mesurer dans quelle mesure une carte de chaleur reflète la stratégie du modèle, les auteurs adaptent le concept de fidélité via une procédure de perturbation appelée "Patch Flipping" :

• Principe : Les patches d'une image sont progressivement retirés du "sac" d'entrée en fonction de leur score d'explication (du plus pertinent au moins pertinent, et vice-versa).
• Mesure : On observe l'évolution de la prédiction du modèle. Une carte de chaleur fidèle devrait entraîner une chute rapide de la prédiction si les patches les plus importants sont retirés en premier.
• Métrique : La Gain de Rélevance Symétrique (SRG - Symmetric Relevance Gain) est calculée comme la différence entre l'aire sous la courbe (AUC) de la perturbation ascendante (retirer les moins importants d'abord) et descendante (retirer les plus importants d'abord). Un SRG élevé indique une carte de chaleur fidèle.

B. Benchmark à grande échelle

L'étude compare six méthodes d'explication sur une variété de configurations :

• Méthodes testées :
  • Attention (extraction directe des poids d'attention).
  • Gradient-based : Integrated Gradients (IG), Gradient × Input (G×I), Saliency Maps (Grad²).
  • Perturbation : Méthode "Single" (prédiction sur un patch unique).
  • Propagation : Propagation de la pertinence par couche (LRP).
• Architectures MIL : Attention-MIL, TransMIL (basé sur Transformer), MambaMIL (basé sur State-Space Models).
• Encodeurs de patches (Backbones) : UNI2 et Virchow2 (modèles fondation pré-entraînés).
• Tâches : Classification, Régression (prédiction de biomarqueurs continus), Survie (modélisation du temps jusqu'à l'événement).
• Données : 10 jeux de données histopathologiques (TCGA, CAMELYON16, etc.).

3. Contributions Clés

1. Cadre d'évaluation sans étiquettes : Introduction d'une méthode de "Patch Flipping" robuste pour comparer objectivement la qualité des cartes de chaleur MIL.
2. Benchmark exhaustif : Première étude comparative à grande échelle couvrant six méthodes d'explication, trois architectures MIL, deux backbones et trois types de tâches sur dix jeux de données.
3. Démonstration de l'utilité biologique :
   • Validation biologique via la transcriptomique spatiale (ST) : Démonstration que les cartes de chaleur fidèles d'un modèle de régression peuvent corréler avec l'expression génique réelle mesurée spatialement.
   • Découverte de stratégies de modèles : Identification de sous-groupes de patients HPV+ dans le cancer de la tête et du cou basés sur des profils morphologiques quantifiés via les cartes de chaleur.

4. Résultats Principaux

A. Performance des méthodes d'explication

• L'échec de l'Attention : Les cartes de chaleur basées sur l'attention (Attn) se sont révélées peu fidèles à la stratégie du modèle dans presque tous les cas, souvent aussi peu informatives qu'un bruit aléatoire. Elles ne parviennent pas à distinguer les preuves positives des négatives.
• Les méthodes performantes : Trois méthodes ont systématiquement surpassé les autres :
  1. Single (perturbation) : Souvent la meilleure pour les modèles Attention-MIL et MambaMIL, surtout en régression et survie.
  2. LRP (Propagation de pertinence) : La méthode la plus fiable pour les modèles basés sur Transformer (TransMIL). Elle a l'avantage de distinguer les contributions positives et négatives.
  3. IG (Integrated Gradients) : Performante et agnostique de l'architecture, bien que parfois légèrement inférieure à LRP ou Single selon le contexte.
• Facteurs déterminants : Le choix de la meilleure méthode dépend principalement du type de tâche (régression vs classification) et de l'architecture du modèle (Attention vs Transformer).

B. Validations Biologiques

• Corrélation avec la Transcriptomique Spatiale (ST) : Dans une expérience de preuve de concept sur des données de cancer du sein (HEST-1k), les cartes de chaleur générées par LRP, IG et Single ont montré une forte corrélation spatiale avec l'expression réelle de gènes (FASN, ERBB2) mesurée par ST. En revanche, les cartes d'attention étaient bruyantes et non corrélées. Cela valide que ces modèles apprennent des signaux biologiques réels et non des artefacts.
• Découverte de stratégies pour le HPV : En combinant les cartes LRP avec des caractéristiques histologiques quantifiables (comptage cellulaire), les auteurs ont identifié quatre stratégies distinctes utilisées par le modèle pour prédire l'infection au HPV dans les cancers de la tête et du cou. Certaines stratégies correspondaient à des marqueurs connus (infiltration lymphocytaire), tandis que d'autres révélaient des motifs morphologiques non reconnus par les pathologistes humains.

5. Signification et Impact

Ce travail remet en question l'utilisation aveugle des cartes d'attention dans la pathologie numérique. Il établit que :

• La validation est cruciale : Les visualisations doivent être quantifiées (via des métriques comme le SRG) avant d'être utilisées pour la validation clinique ou la découverte scientifique.
• L'IA explicable (XAI) améliore la confiance : En utilisant des méthodes comme LRP ou Single, les chercheurs peuvent non seulement valider que le modèle ne triche pas (shortcut learning), mais aussi découvrir de nouveaux biomarqueurs morphologiques.
• Recommandations pratiques :
  • Pour les modèles Transformer : Privilégier LRP.
  • Pour les modèles Attention ou Mamba : Privilégier Single (surtout en régression/survie).
  • Éviter l'interprétation directe des poids d'attention comme preuve de causalité.

En conclusion, cette étude fournit une feuille de route pour l'adoption plus large et plus rigoureuse de l'IA explicable en pathologie numérique, permettant de passer de la simple prédiction à la découverte biologique fiable. Le code est disponible publiquement sur GitHub.