💻 computer science

Explanation Stability of Test-Time Adaptation in Computational Pathology: A Large-Scale Benchmark

Cet article présente un benchmark à grande échelle démontrant que les méthodes d'adaptation au moment du test en pathologie computationnelle présentent une variabilité significative de la stabilité des explications, révélant qu'une précision élevée ne garantit pas des interprétations de modèle fiables et soulignant la nécessité de nouvelles métriques d'évaluation pour assurer l'auditabilité clinique.

Auteurs originaux : R. G. Bahumanya, Harshith V. M., Shreyank N. Gowda, Anala M. R

Publié 2026-08-10

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : R. G. Bahumanya, Harshith V. M., Shreyank N. Gowda, Anala M. R

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous appreniez à un robot à reconnaître différents types de champignons dans une forêt. Vous lui montrez des milliers de photos de vos bois locaux, et il devient très doué pour les repérer. Mais ensuite, vous emmenez le robot dans une forêt différente où la lumière est plus faible, les feuilles sont d'un vert différent et les champignons ont l'air légèrement écrasés. Le robot est confus. Pour corriger cela sans lui montrer de nouvelles photos étiquetées, vous laissez le robot « apprendre sur le vif » tout en marchant dans la nouvelle forêt. C'est ce qu'on appelle l'Adaptation au Moment du Test (TTA - Test-Time Adaptation). C'est comme si le robot ajustait ses lunettes ou sa mise au point tout en continuant de se déplacer, essayant de donner un sens à ce nouveau monde sans s'arrêter pour demander de l'aide.

Mais il y a un piège. Dans le monde réel, surtout en médecine, nous ne voulons pas seulement que le robot soit juste ; nous voulons savoir pourquoi il pense être juste. Si le robot dit : « C'est un champignon vénéneux », un médecin doit pouvoir voir où le robot regarde pour lui faire confiance. Est-ce qu'il voit les ouïes vénéneuses, ou est-ce qu'il devine simplement parce que le champignon est rouge ? Ce « regard » est appelé une explication. La grande question posée par cet article est la suivante : quand nous laissons le robot s'adapter à la nouvelle forêt sur le vif, continue-t-il de regarder les mêmes parties du champignon, ou commence-t-il soudainement à fixer les mauvaises choses ?

Cet article est une véritable enquête policière sur ce sujet précis. Les chercheurs ont mis en place une expérience gigantesque dans le monde de la pathologie computationnelle, qui consiste essentiellement à utiliser des ordinateurs pour examiner des lames de tissus au microscope afin de détecter des maladies comme le cancer. Ils voulaient voir si les astuces d'apprentissage « sur le vif » (TTA) qui rendent les modèles plus intelligents rendent aussi leurs explications plus confuses ou peu fiables.

Ils ne se sont pas contentés de deviner ; ils ont mené un benchmark massif. Ils ont testé 17 méthodes d'adaptation différentes (17 façons pour le robot d'apprendre sur le vif) à travers 5 types de cerveaux d'IA différents (allant des réseaux « convolutionnels » plus anciens et massifs aux nouveaux réseaux « transformers » plus sophistiqués). Ils ont testé ces méthodes sur deux ensembles de données majeurs d'images de tissus et ont réalisé un nombre stupéfiant de 2 958 sessions d'adaptation. C'est beaucoup de travail !

Voici ce qu'ils ont trouvé, et c'est assez surprenant.

Premièrement, toutes les méthodes d'apprentissage ne se valent pas. Certaines méthodes sont comme un bibliothécaire méticuleux qui ajuste les livres mais ne déplace jamais les étagères ; ces méthodes laissent le « regard » du robot presque exactement là où il a commencé. D'autres sont comme un enfant turbulent qui réorganise toute la pièce en jouant. Les chercheurs ont découvert que les méthodes qui mettent constamment à jour l'« enseignant » interne du robot (appelées méthodes continues comme CoTTA et RoTTA) sont celles qui créent le plus de désordre. Elles font en sorte que le robot regarde des parties complètement différentes de l'image de tissu après l'adaptation. En revanche, les méthodes qui gardent le cerveau principal figé et ne modifient que les bords laissent les explications presque parfaitement stables.

Deuxièmement, le type de cerveau d'IA compte énormément. Les réseaux « convolutionnels » plus anciens et massifs (comme ResNet-50 et EfficientNet) étaient très sensibles. Lorsqu'ils tentaient de s'adapter, leurs explications devenaient incontrôlables. Mais les nouveaux « modèles de fondation » et les « transformers » plus avancés étaient beaucoup plus calmes. Ils pouvaient s'adapter aux nouvelles données sans changer l'endroit où ils regardaient. C'est comme un détective chevronné qui pourrait ajuster sa théorie sans changer son attention, tandis qu'un débutant pourrait être distrait par tout ce qui bouge.

La découverte la plus importante, cependant, est un avertissement. L'article montre que être juste ne signifie pas être stable, et être stable ne signifie pas être juste.

Ils ont découvert un mode de « défaillance silencieuse ». Certaines méthodes maintenaient le regard du robot parfaitement fixe (haute stabilité d'explication), mais la confiance du robot devenait totalement erronée, ou il commençait à commettre plus d'erreurs. C'était comme un étudiant qui continue de pointer le même endroit sur une carte mais qui se trompe de destination à chaque fois. Si vous vérifiez seulement si le robot pointe le bon endroit, vous penserez que tout va bien. Mais si vous vérifiez s'il trouve réellement le bon champignon, vous verrez qu'il échoue.

Les chercheurs ont également découvert que la « force » de l'adaptation importait. Plus le robot essayait d'apprendre en une seule fois, plus son regard dérivait. Mais la taille du groupe d'images qu'il regardait en même temps (taille de lot ou batch size) ne changeait pas grand-chose.

Alors, quel est l'enseignement à retenir ? L'article soutient que nous ne pouvons plus nous contenter de mesurer la précision d'une IA médicale. Nous devons mesurer trois choses à la fois :

Précision : Trouve-t-elle la maladie ?
Calibration : Est-elle confiante quand elle devrait l'être ?
Stabilité de l'explication : Regarde-t-elle toujours les bonnes caractéristiques du tissu après s'être adaptée ?

Les auteurs suggèrent que pour que les médecins puissent faire confiance à ces outils d'IA, nous avons besoin d'un nouveau « bulletin de notes » qui inclut cette stabilité d'explication. Si une IA s'adapte au microscope d'un nouvel hôpital mais commence à regarder les mauvaises parties de la lame, même si elle trouve le bon diagnostic par accident, c'est un risque. L'article propose un nouvel outil appelé l'Indice de Stabilité de l'Explication (ESI) pour mesurer cela, et ils ont publié tout leur code et leurs données pour que d'autres puissent le vérifier.

En résumé, cet article nous dit que dans la course à rendre l'IA plus intelligente sur le vif, nous ne devrions pas oublier de demander : « Regardes-tu toujours la bonne chose ? » Car parfois, le robot qui semble le plus intelligent est celui qui a perdu son chemin.

Résumé Technique : Stabilité de l'Explication de l'Adaptation au Moment de l'Inférence en Pathologie Computationnelle

1. Énoncé du Problème

Les modèles d'apprentissage profond en pathologie computationnelle sont hautement sensibles aux décalages de domaine (domain shifts) découlant des variations dans les protocoles de coloration, le matériel de numérisation et les cohortes de patients. Bien que l'Adaptation au Moment de l'Inférence (TTA - Test-Time Adaptation) offre un mécanisme pratique pour mettre à jour les modèles sur des données cibles non étiquetées sans réentraînement, les paradigmes d'évaluation actuels se concentrent presque exclusivement sur la précision dans le domaine cible.

L'article identifie une lacune critique : le déploiement clinique nécessite non seulement des prédictions précises, mais aussi des explications fiables (par exemple, des cartes de saillance indiquant où le modèle regarde). Il reste inconnu si les méthodes de TTA, qui modifient les paramètres du modèle en ligne, altèrent par inadvertance ces explications. Une méthode pourrait maintenir une précision élevée tout en déplaçant l'attention vers des régions tissulaires non diagnostiques, ou inversement, préserver les explications tout en dégradant la calibration. Les auteurs postulent que la stabilité de l'explication est un axe de fiabilité distinct qui n'est actuellement pas mesuré dans les benchmarks de TTA.

2. Méthodologie

Configuration Expérimentale

Les auteurs ont mené un benchmark à grande échelle impliquant 2 958 exécutions d'adaptation à travers :

Jeux de données : Deux benchmarks d'histopathologie avec des décalages de domaine naturels :
- Camelyon17 : Détection de tumeurs de ganglions lymphatiques multi-hôpitaux (binaire).
- NCT-CRC-HE : Classification de tissus colorectaux à neuf classes.
Architectures : Cinq modèles couvrant les réseaux convolutionnels, les transformers et les modèles de fondation :
- Convolutionnels : ResNet-50, EfficientNet-B3.
- Transformers : Swin-T, ViT-B/16.
- Modèle de fondation : Phikon-v2.
Méthodes de TTA : 17 méthodes distinctes regroupées par mécanisme :
- Normalisation : BN-Adapt.
- Entropie : Tent, EATA, DeYO, ROID, COME, REM.
- Netteté (Sharpness) : SAR, SoTTA.
- Continuelle : CoTTA, RoTTA, RMemSafe.
- Prototype/Sans gradient/Adapter : T3A, LAME, SICL, ViDA.
Opérateurs d'Attribution : Quatre familles de méthodes d'explicabilité :
- Integrated Gradients (primaire, agnostique à l'architecture).
- Grad-CAM, Grad-CAM++ et Attention Rollout.

L'Indice de Stabilité de l'Explication (ESI)

Pour quantifier le mouvement des explications du modèle, les auteurs ont introduit l'Indice de Stabilité de l'Explication (ESI).

Processus : Les cartes de saillance ( $S_{pre}$ et $S_{post}$ ) sont normalisées min-max, redimensionnées en une grille de $224 \times 224$ et converties en distributions de probabilité.
Métriques : L'ESI agrège six mesures :
- Similarité : Similarité structurelle (SSIM), similitude cosinus, corrélation de rang de Spearman rescalée, IoU de la région d'intérêt (ROI) des 20 % supérieurs.
- Divergence : Divergence KL symétrique, distance de Wasserstein-1 (EMD).
Calcul : L'indice est une moyenne pondérée de manière égale de ces six termes, bornée entre 0 et 1. Un ESI de 1,0 indique une explication inchangée.
Évaluation : L'étude mesure trois effets couplés : le changement d'explication (ESI), le changement de discrimination ( $\Delta$ AUC) et le changement de calibration ( $\Delta$ ECE).

3. Résultats Clés

A. Hiérarchie Systématique de la Stabilité

Les méthodes de TTA présentent une différence nette et systématique dans la manière dont elles perturbent les explications :

Méthodes à Backbone Gelé : Les méthodes qui ne mettent pas à jour le backbone (ex: No-TTA, LAME, T3A, SICL) préservent les explications presque parfaitement, avec un ESI $\approx$ 1,000.
Méthodes Continues : Les méthodes qui accumulent des mises à jour au fil du temps (ex: CoTTA, RoTTA) provoquent le plus grand dérive, avec les rangs moyens les plus bas en stabilité.
Méthodes de Normalisation/Entropie : BN-Adapt et Tent montrent des valeurs de l'ESI agrégées faibles (0,786 et 0,849), mais leur perturbation est fortement concentrée sur les modèles convolutionnels.

B. Dépendance à l'Architecture et au Décalage

Sensibilité Convolutionnelle : Les réseaux convolutionnels (ResNet-50, EfficientNet-B3) sont substantiellement plus sensibles à la dérive induite par l'adaptation que les backbones de type transformer ou modèle de fondation. EfficientNet-B3 a montré l'ESI moyen le plus bas (0,806).
Robustesse des Transformers : Swin-T, ViT-B/16 et Phikon-v2 ont maintenu des valeurs d'ESI proches de 1,0. Cela est attribué au protocole d'adaptation pour ces modèles, qui gèle le backbone et ne met à jour que les blocs de normalisation et la tête linéaire.
Difficulté de la Tâche : La tâche multi-classe plus difficile NCT-CRC-HE a induit une dérive plus importante que la tâche binaire Camelyon17 pour les méthodes continues.

C. Découplage de la Stabilité et de la Qualité

La découverte la plus significative est que la stabilité de l'explication est largement déconnectée de la qualité de l'adaptation :

Échecs Silencieux : L'étude a identifié 54 "échecs de calibration silencieux" où la précision est restée stable ( $|\Delta$ AUC| < 0,02) mais la calibration s'est dégradée ( $\Delta$ ECE > 0,05). 94 % de ces échecs se sont produits dans des méthodes (LAME, T3A) qui préservaient parfaitement les explications (ESI = 1,0).
Faible Corrélation : La corrélation partielle de Spearman entre l'ESI et le $\Delta$ ECE (en contrôlant le $\Delta$ AUC) était faible ( $\rho = +0,089$ ).
Conclusion : Une méthode peut préserver les explications tout en dégradant la précision/calibration, ou déplacer les explications tout en maintenant la précision. Par conséquent, l'ESI ne peut pas être inféré de la précision ou de la calibration seules.

D. Facteurs de Dérive

Force de l'Adaptation : Augmenter le nombre d'étapes d'adaptation (ex: dans Tent) a diminué de manière monotone l'ESI.
Taille de Lot (Batch Size) : Changer la taille du lot a eu un effet négligeable sur l'ESI.
Mécanisme : La dérive est pilotée par la proportion de la hiérarchie des caractéristiques (features) qui est modifiée. Les méthodes continues et les mises à jour des statistiques de BN dans les réseaux convolutionnels affectent les caractéristiques de manière large, tandis que les approches à backbone gelé n'ont pas cet effet.

4. Contributions

Formalisation de la Stabilité de l'Explication : L'article définit la stabilité de l'explication comme un axe de fiabilité distinct pour la TTA et introduit l'ESI, un indice borné combinant des métriques de similarité et de divergence.
Benchmark à Grande Échelle : Les auteurs fournissent une évaluation complète de 17 méthodes de TTA à travers 5 architectures et 2 jeux de données, produisant 2 958 mesures appariées de précision, de calibration et de stabilité d'explication.
Résultats Empiriques : L'étude établit que la dérive de l'explication dépend de la méthode, de l'architecture et du décalage. Crucialement, elle démontre que la stabilité de l'explication ne remplace pas la surveillance de la calibration ou de la précision, car des "échecs silencieux" peuvent survenir où les explications semblent stables alors que la fiabilité du modèle se dégrade.

5. Signification et Revendications

L'article soutient que la stabilité de l'explication est un axe de fiabilité distinct pour la TTA en pathologie computationnelle.

Pertinence Clinique : Dans les flux de travail cliniques, les pathologistes s'appuient sur les explications pour vérifier que les modèles portent attention à des régions tissulaires plausibles. Si la TTA déplace ces attributions sans changer la précision, le modèle peut rester "auditable cliniquement" même s'il est numériquement robuste.
Implications de Déploiement : Les auteurs recommandent que l'évaluation de la TTA en imagerie médicale doit rapporter ensemble la discrimination, la calibration et la stabilité de l'explication. Se fier uniquement à la précision ou aux métriques d'explication peut masquer des modes de défaillance critiques.
Direction Future : Les résultats suggèrent que les futures méthodes de TTA devraient envisager de régulariser le mouvement de l'explication ou de contraindre les mises à jour à des sous-ensembles de paramètres plus restreints afin d'éviter un déplacement inutile de l'attention, particulièrement dans les backbones convolutionnels.

Les auteurs déclarent explicitement que l'ESI est une mesure d'intégrité, et non un certificat de sécurité. Un ESI élevé indique que le raisonnement visuel est stable, mais ne garantit pas que la prédiction est correcte ou bien calibrée. Inversement, un ESI faible indique un changement de raisonnement, ce qui nécessite une inspection plus approfondie, mais n'implique pas nécessairement une moins bonne prédiction.