💻 computer science

Label-Free Foundational Model Selection for Medical Image Classification under Distribution Shift via Pseudo Label Discrepancy

Cet article propose l'AURCC, un critère de sélection sans étiquette basé sur la divergence de pseudo-étiquettes qui classe efficacement les modèles fondamentaux pour la classification d'images médicales sous changement de distribution sans nécessiter d'annotations du domaine cible ni de réglage fin.

Auteurs originaux : Juan Iñaki Larrea, Lucas Mansilla, Enzo Ferrante

Publié 2026-08-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Juan Iñaki Larrea, Lucas Mansilla, Enzo Ferrante

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de l'imagerie médicale, les ordinateurs sont devenus remarquablement habiles à lire les radiographies, égalant souvent les performances des spécialistes humains. Ces systèmes sont entraînés sur de vastes bibliothèques d'images, apprenant à repérer les signes de maladies comme la pneumonie. Cependant, un problème important survient lorsque ces systèmes entraînés sont déplacés d'un hôpital à un autre. Tout comme un conducteur habitué aux routes larges et ensoleillées d'un pays pourrait éprouver des difficultés sur les rues étroites et pluvieuses d'un autre, un modèle d'intelligence artificielle entraîné sur les données d'un hôpital échoue souvent face aux différents scanners, populations de patients ou protocoles d'imagerie d'un nouvel établissement. Ce changement de conditions est appelé un décalage de distribution (distribution shift), et il peut provoquer une chute spectaculaire de la précision du modèle. Le dilemme central pour les médecins et les administrateurs d'hôpitaux est le suivant : si l'on dispose de plusieurs modèles d'IA puissants et pré-entraînés, comment savoir lequel fonctionnera le mieux dans leur hôpital spécifique avant même de l'essayer ? La méthode habituelle pour trouver la réponse nécessite de tester les modèles sur de nouvelles images et de vérifier les résultats par rapport à des étiquettes humaines d'experts, mais l'obtention de ces étiquettes est coûteuse, chronophage et souvent impossible dans les contextes mêmes où la technologie est le plus nécessaire.

Une équipe de chercheurs d'Argentine a proposé une nouvelle façon de résoudre ce casse-tête de sélection sans avoir besoin de nouvelles étiquettes humaines. Ils se sont concentrés sur un défi spécifique : choisir le meilleur modèle de radiographie thoracique pour un nouvel hôpital lorsque la seule donnée disponible de cet hôpital est composée d'images non étiquetées. Les chercheurs ont construit leur méthode sur un cadre appelé SUDO, qui agit comme un contrôle qualité pour les systèmes d'IA. Au lieu de demander « Ce diagnostic est-il correct ? » — ce qui nécessite qu'un humain dise « oui » ou « non » — leur méthode pose une question différente : « La confiance du modèle dans ses propres prédictions correspond-elle à la réalité des données qu'il observe ? » Pour ce faire, le système prend les images non étiquetées du nouvel hôpital et les regroupe en fonction de la confiance que l'IA accorde à ses prédictions. Par exemple, il pourrait regrouper toutes les images où l'IA est très sûre de voir une pneumonie, et un autre groupe où elle est très sûre qu'il n'y en a pas.

Les chercheurs effectuent ensuite un test interne ingénieux sur ces groupes. Ils prétendent, un instant, que les images d'un groupe spécifique sont en réalité l'opposé de ce que le modèle pense, et ils vérifient si la logique du modèle tient bon. Si le modèle est réellement fiable, sa logique interne devrait s'effondrer lorsqu'il est forcé d'accepter une hypothèse fausse sur un groupe d'images. Si la logique tient trop facilement, cela suggère que le groupe est « contaminé » par des types d'images mixtes que le modèle ne parvient pas à distinguer correctement. En mesurant à quel point la logique du modèle vacille à travers tous ces différents groupes de confiance, les chercheurs calculent un score unique qui reflète la fiabilité du modèle. Ils appellent ce score l'Aire Sous la Courbe de Fiabilité-Complétude (Area Under the Reliability-Completeness Curve), un nombre qui leur indique comment le modèle est susceptible de performer sans jamais voir une seule étiquette vérifiée par un humain provenant du nouvel hôpital.

Pour tester cette idée, les chercheurs ont rassemblé six modèles d'IA avancés conçus pour l'imagerie médicale. Ils ont simulé un scénario réel où ces modèles ont été entraînés sur des données provenant de trois grands hôpitaux différents, puis sollicités pour prédire la pneumonie dans un quatrième hôpital distinct où aucune étiquette n'était disponible. Ils ont comparé leur nouvelle méthode de notation à l'approche traditionnelle, qui consiste simplement à classer les modèles en fonction de leur performance sur un petit échantillon de données étiquetées provenant des hôpitaux d'origine. Les résultats ont montré que leur nouvelle méthode était hautement efficace. Lorsque la quantité de données étiquetées provenant des hôpitaux d'origine était importante, la méthode traditionnelle fonctionnait bien, comme prévu. Cependant, dans la situation plus difficile et courante où les données étiquetées étaient rares — représentant la réalité de nombreux hôpitaux aux ressources limitées — la nouvelle méthode surpassait systématiquement l'approche traditionnelle. Dans ces scénarios de données restreintes, le nouveau score identifiait correctement le meilleur modèle avec un haut degré de précision, correspondant presque parfaitement aux classements de performance réels.

L'étude met en lumière un aperçu crucial pour l'avenir de l'IA médicale : la meilleure façon de choisir un modèle pour un nouvel environnement n'est pas toujours de regarder en arrière vers la façon dont il a performé sur d'anciennes données, mais de regarder vers l'avant, vers la façon dont il se comporte sur les nouvelles données non étiquetées elles-mêmes. En analysant la structure des nouvelles données et la manière dont le modèle interagit avec elles, les chercheurs ont trouvé un moyen de prédire le succès là où les méthodes traditionnelles échouent. Cette approche est particulièrement précieuse car elle est légère et ne nécessite pas d'ordinateurs puissants ; l'ensemble du processus peut être exécuté sur du matériel standard en utilisant uniquement les représentations mathématiques des images. Bien que l'étude se soit concentrée spécifiquement sur la détection de la pneumonie et les radiographies thoraciques, le principe sous-jacent offre une voie prometteuse pour que les hôpitaux adoptent de nouveaux outils d'IA de manière sûre et efficace, garantissant que la bonne technologie est déployée au bon endroit, même lorsque les experts nécessaires pour la vérifier ne sont pas disponibles.

Résumé technique : Sélection de modèles fondamentaux sans étiquetage pour la classification d'images médicales sous décalage de distribution

1. Énoncé du problème

Le déploiement de modèles fondamentaux (spécifiquement les modèles de vision-langage comme CLIP et ses variantes biomédicales) dans l'imagerie médicale est confronté à un goulot d'étranglement critique : le décalage de distribution (distribution shift). Les images cliniques proviennent souvent d'institutions, de scanners ou de populations de patients différents de ceux des données d'entraînement, ce qui entraîne une dégradation imprévisible des performances.

Conventionnellement, la sélection du meilleur modèle pour un nouveau domaine non étiqueté nécessite des annotations de vérité terrain pour évaluer les mesures de performance (par exemple, l'AUC). Cependant, l'obtention de telles annotations dans les contextes de déploiement est coûteuse et souvent irréalisable en raison de la nécessité de mobiliser le temps d'experts radiologues. Cela crée un dilemme pratique : étant donné un ensemble de données sources étiquetées et un domaine cible non étiqueté, comment classer plusieurs modèles candidats par leur performance attendue sur la cible sans accès aux étiquettes de la cible ?

2. Méthodologie

Les auteurs proposent un critère de sélection sans étiquetage basé sur le cadre SUDO, adapté ici pour classer plusieurs modèles candidats. La métrique centrale est l'Aire Sous la Courbe de Fiabilité-Complétude (AURCC).

La procédure SUDO :

Partitionnement : Pour un modèle candidat $\phi_m$ , les données cibles non étiquetées sont partitionnées en $K$ bacs de quantiles basés sur les probabilités de la classe positive prédites par le modèle.
Discrépance des pseudo-étiquettes : Pour chaque bac $b$ $b$ , la méthode construit deux ensembles d'entraînement binaires auxiliaires :
- Ensemble 1 : Les échantillons du bac se voient assigner une pseudo-étiquette négative, combinée avec des échantillons positifs de vérité terrain provenant de l'ensemble d'entraînement source.
- Ensemble 2 : Les échantillons du bac se voient assigner une pseudo-étiquette positive, combinée avec des échantillons négatifs de vérité terrain.
Évaluation auxiliaire : Un classificateur de régression logistique est entraîné sur chaque ensemble et évalué sur une division source tenue à l'écart (held-out). Le score SUDO pour le bac est la différence entre l'AUC des hypothèses négative et positive : $SUDO_b = s_0(b) - s_1(b)$ $S U D O_{b} = s_{0} (b) - s_{1} (b)$ .
- Une valeur absolue élevée indique qu'un bac est dominé par une seule classe (haute fiabilité).
- Une valeur proche de zéro indique une contamination des classes (faible fiabilité).
Agrégation : La procédure est répétée sur 300 exécutions stochastiques et moyennée. L'AURCC est calculée en balayant des seuils de quantiles symétriques des extrêmes de la distribution vers le centre, en traçant la fiabilité (moyenne de $|SUDO|$ ) par rapport à la complétude (fraction d'échantillons couverts). L'aire sous cette courbe sert de score de classement final.

Régimes expérimentaux :
La méthode est évaluée sous deux stratégies d'adaptation utilisant uniquement les étiquettes sources :

Zero-Shot (ZS) : Aucun entraînement spécifique à la tâche. Les probabilités sont dérivées de l'ensemble de prompts textuels et de la similitude image-texte.
MLP-Probe (MP) : Un perceptron multicouche peu profond est entraîné sur les plongements (embeddings) sources gelés pour créer une frontière de décision spécifique à la tâche. La procédure SUDO opère ensuite sur les probabilités générées par cette sonde.

3. Contributions clés

Cadre de classement sans étiquetage : Le papier adapte SUDO, passant d'un outil d'évaluation d'un système déployé unique à un mécanisme de sélection de modèles parmi plusieurs modèles fondamentaux sans étiquettes cibles.
Évaluation systématique : Les auteurs évaluent six modèles fondamentaux de radiographie thoracique (BioMedCLIP, CXR-CLIP, CheXzero, MedCLIP, MedImageInsight et CLIP-base) à travers trois scénarios de décalage de distribution inter-hospitaliers (MIMIC-CXR, NIH ChestX-ray14, et CheXpert comme sources ; PadChest comme cible).
Analyse en contexte de ressources limitées : L'étude examine explicitement la performance du critère de classement à mesure que la taille des données sources étiquetées disponibles diminue, simulant des contextes de ressources contraintes (RCS).

4. Résultats

Corrélation avec la vérité terrain : Le classement par AURCC présente une forte corrélation avec la performance réelle de la cible (AUC $_{target}$ ). Dans le régime MLP-Probe, la corrélation de Spearman ( $\rho$ ) atteint 0,943 ( $p < 0,05$ ) à travers tous les scénarios et nombres de bacs ( $K \in \{5, 10, 20\}$ ).
Comparaison avec la référence : Le classement naturel des modèles par leur précision sur les données sources tenues à l'écart (AUC $_{source}$ ) fonctionne bien lorsque l'ensemble de données source est large (ex: $\rho = 1,000$ pour MIMIC). Cependant, à mesure que la taille de la source diminue, la référence se dégrade.
Avantage dans les scénarios à faibles sources :
- Pour le jeu de données NIH ( $N \approx 954$ ) et CheXpert ( $N \approx 113$ ), l'AURCC surpasse systématiquement la référence AUC $_{source}$ .
- À l'extrême réduction de $N=50$ échantillons sources tenus à l'écart, l'AURCC fournit un classement plus précis que la référence source dans les trois scénarios.
- Dans le régime Zero-Shot, l'AURCC est comparable à la référence source, suggérant que l'avantage de l'AURCC est plus prononcé lorsque l'adaptation spécifique à la tâche (via la sonde MLP) permet d'exploiter l'information structurelle de la distribution cible qu'une simple métrique source ne peut capturer.

5. Signification et affirmations

Le papier affirme que l'AURCC offre une solution pratique au « problème de classement sans étiquetage » dans le déploiement de l'IA médicale. Sa principale importance réside dans les contextes de ressources contraintes où :

Les étiquettes cibles sont indisponibles : La méthode ne nécessite aucune vérité terrain du domaine cible.
Les étiquettes sources sont rares : Contrairement à l'évaluation traditionnelle basée sur la source, qui échoue lorsque l'ensemble source étiqueté est petit, l'AURCC exploite la structure des données cibles non étiquetées pour maintenir la qualité du classement.
Efficacité computationnelle : L'ensemble du pipeline opère sur des plongements et s'exécute sur CPU, permettant aux institutions de classer les modèles localement sur du matériel courant sans nécessier de fine-tuning coûteux ou de transfert de données.

Les auteurs notent que, bien que l'évaluation soit limitée à une tâche de classification binaire de la pneumonie et à un seul domaine cible (PadChest), les résultats suggèrent que l'AURCC capture des informations structurelles sur la distribution cible qui vont au-delà des simples métriques agrégées de la source, en faisant un outil robuste pour la sélection de modèles fondamentaux sous décalage de distribution.