Handling Supervision Scarcity in Chest X-ray Classification: Long-Tailed and Zero-Shot Learning

Each language version is independently generated for its own context, not a direct translation.

Imaginez que vous êtes un médecin radiologue très occupé. Votre travail consiste à examiner des milliers de radios de thorax (CXR) pour détecter des maladies. Le problème ? La réalité médicale est très déséquilibrée.

Le Problème : La "Bibliothèque Déséquilibrée"

Imaginez une immense bibliothèque de radios.

La majorité des livres parlent de 30 maladies très courantes (comme une pneumonie légère ou un épanchement). On en a des milliers d'exemplaires.
Une poignée de livres parle de maladies très rares ou étranges. On n'en a que quelques-uns, voire aucun pour certaines maladies totalement nouvelles.

Si vous apprenez à un élève (une intelligence artificielle) à partir de cette bibliothèque, il va devenir un expert des maladies courantes, mais il sera complètement perdu face aux maladies rares. Pire encore, s'il rencontre une maladie qu'il n'a jamais vue dans les livres (une maladie "hors catalogue"), il ne saura pas quoi dire.

C'est exactement le défi que les auteurs de ce papier (une équipe de chercheurs vietnamiens et américains) ont relevé lors du défi CXR-LT 2026. Ils ont dû créer une IA capable de gérer deux situations difficiles en même temps.

La Solution : Deux Super-Pouvoirs

Les chercheurs ont développé une IA avec deux modes de fonctionnement distincts, comme un couteau suisse médical.

1. Pour les maladies connues mais rares : L'Art du "Poids Égal" (Tâche 1)

L'analogie : Imaginez un professeur qui prépare un élève pour un examen. Habituellement, le professeur passe 90 % du temps à réviser les chapitres faciles (les maladies courantes) car il y a beaucoup d'exercices dessus. Résultat ? L'élève échoue sur les questions pièges (les maladies rares).

La méthode des auteurs :

Le "Poids" : Ils ont forcé l'IA à accorder plus d'importance aux exemples rares. C'est comme si le professeur disait : "Même si ce chapitre n'a que 3 exercices, on va les étudier 10 fois plus en détail que les autres."
L'Ensemble (Le Chœur) : Au lieu de faire confiance à un seul modèle, ils en ont entraîné plusieurs et les ont fait travailler en équipe. C'est comme demander l'avis de 5 médecins différents avant de poser un diagnostic. Si l'un doute, les autres peuvent corriger.
Le Filtre "Normal" : Ils ont ajouté une petite astuce intelligente : si l'IA est très sûre que la radio est "normale" (saine), elle réduit automatiquement les probabilités de maladies bizarres. C'est comme un garde du corps qui dit : "Si tout va bien, ne cherchez pas de monstres sous le lit."

Résultat : Leur IA est devenue la meilleure au classement pour détecter ces maladies rares sans oublier les courantes.

2. Pour les maladies inconnues : La "Boussole Sémantique" (Tâche 2)

L'analogie : Imaginez que vous devez identifier un fruit que vous n'avez jamais vu, mais on vous donne une description écrite : "C'est un fruit rond, jaune, avec des taches noires." Même sans avoir jamais vu ce fruit, vous pouvez deviner de quoi il s'agit en comparant la photo à la description.

La méthode des auteurs :

Au lieu d'apprendre par cœur des images de maladies rares (car ils n'en ont pas), ils ont utilisé un modèle qui comprend le langage.
Ils ont donné à l'IA des descriptions textuelles des maladies rares (ex: "Scoliose", "Goitre").
L'IA compare ensuite l'image de la radio avec ces descriptions textuelles. Elle ne cherche pas "l'image de la scoliosie" qu'elle a vue, mais elle cherche : "Est-ce que cette image ressemble à ce que décrit le mot 'scoliose' ?"
C'est comme utiliser Google Images : vous tapez un mot, et l'outil trouve des images correspondantes, même s'il n'a jamais vu cette image précise avant.

Résultat : Leur IA a réussi à deviner correctement 6 maladies totalement nouvelles, sans jamais avoir vu une seule photo de ces maladies pendant son apprentissage.

Le Verdict : Qui a gagné ?

À la fin du défi, l'équipe a comparé leur méthode avec celle de dizaines d'autres équipes internationales.

Pour les maladies connues (Tâche 1) : Ils sont arrivés 1er. Leur IA a mieux détecté les maladies rares que n'importe qui d'autre.
Pour les maladies inconnues (Tâche 2) : Ils sont aussi arrivés 1er. Leur IA a su utiliser le langage pour deviner les maladies qu'elle n'avait jamais vues.

En résumé

Ce papier raconte l'histoire d'une équipe qui a appris à une intelligence artificielle à ne pas se fier uniquement à ce qu'elle a déjà vu.

Elle a appris à écouter plus fort les cas rares pour ne pas les ignorer.
Elle a appris à lire les descriptions pour comprendre des maladies qu'elle n'a jamais rencontrées.

C'est une avancée majeure pour la médecine de demain : une IA qui ne panique pas face à une maladie rare et qui reste précise même quand les données sont déséquilibrées.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique

La classification des radiographies thoraciques (CXR) en pratique clinique est entravée par une supervision imparfaite, caractérisée par deux défis majeurs :

Distribution à longue traîne (Long-tailed) : Les données sont fortement déséquilibrées. Quelques maladies fréquentes (classes « tête ») dominent les ensembles de données, tandis que de nombreuses anomalies cliniquement importantes sont rares (classes « queue »), ce qui conduit les modèles standards à négliger ces cas rares.
Annotations manquantes et concepts inédits : Il est difficile d'obtenir des étiquettes pour des pathologies rares ou jamais vues auparavant. Le modèle doit être capable de généraliser à des classes hors distribution (OOD) sans avoir vu d'exemples étiquetés de ces classes durant l'entraînement.

L'article se concentre sur le défi CXR-LT 2026, basé sur le jeu de données PadChest, qui propose un espace de 36 classes : 30 classes in-distribution (ID) pour la classification multi-étiquettes à longue traîne, et 6 classes hors distribution (OOD) pour l'évaluation en mode « zero-shot » (sans apprentissage supervisé).

2. Méthodologie

L'équipe propose des solutions spécifiques pour chaque tâche, combinant des stratégies d'apprentissage déséquilibré et des techniques d'apprentissage vision-langage.

Tâche 1 : Classification Multi-étiquettes à Longue Traîne (30 classes ID)

L'objectif est d'améliorer la reconnaissance des classes rares tout en maintenant la performance sur les classes fréquentes.

Architecture : Utilisation de ConvNeXtV2-Base comme backbone, pré-entraîné sur MIMIC-CXR. Deux têtes de classification sont entraînées : une tête MLP standard et une tête CSRA (Class-Specific Spatial Attention) pour capturer les relations spatiales spécifiques aux classes.
Fonction de perte (Imbalance-aware) : Adoption d'une Distribution-Balanced (DB) loss. Celle-ci combine :
- Un rééquilibrage pondéré basé sur le nombre effectif d'échantillons (effective number statistics) pour donner plus d'importance aux classes rares.
- Un ajustement de la marge pour les étiquettes positives.
Échantillonnage (Class-Aware Sampling - CAS) : Utilisation d'un échantillonneur de type « repeat-factor » pour suréchantillonner les images contenant des étiquettes positives rares, augmentant ainsi l'exposition du modèle aux classes de la queue sans déformer excessivement la distribution.
Inférence et Post-traitement :
- Ensemble et TTA : Fusion pondérée de deux checkpoints avec augmentation de données en temps d'inférence (TTA : retournements, rotations, zooms).
- Normal Gating : Une étape de post-traitement légère qui réduit les scores des pathologies si le modèle est très confiant que l'image est « Normale » ( $p_{abnormal} \leftarrow p_{abnormal} \cdot (1 - p_{normal})^{\alpha}$ ), réduisant ainsi les faux positifs.

Tâche 2 : Détection Zero-Shot des Classes OOD (6 classes)

L'objectif est de prédire des maladies jamais vues (Scoliose, Ostéopénie, etc.) sans utiliser d'étiquettes OOD durant l'entraînement.

Approche Vision-Langage : Utilisation du modèle WhyXrayCLIP, un modèle spécialisé pour les CXR basé sur OpenCLIP (ViT-L/14), fine-tuné sur des paires image-rapport de MIMIC-CXR.
Mécanisme : Le problème est formulé comme un appariement image-texte.
- Pour chaque classe OOD, un ensemble de prompts textuels radiologiques génériques est défini.
- Le modèle encode l'image et les prompts.
- La probabilité est calculée via la similarité cosinus entre l'embedding de l'image et les embeddings des prompts, suivie d'une fonction sigmoïde mise à l'échelle pour affiner la séparation des scores.
Avantage : Cette méthode permet une reconnaissance robuste en « zero-shot » en exploitant la sémantique visuelle et textuelle apprise, agissant comme des prototypes de classes sans supervision directe.

3. Résultats

Les performances ont été évaluées sur la phase de développement publique du défi CXR-LT 2026, utilisant la métrique principale mAP moyennée macro (qui donne un poids égal à chaque classe, favorisant ainsi la performance sur les classes rares).

Tâche 1 (Classification ID) :
- Classement : 1er sur le leaderboard public.
- mAP : 0,583 (devant le deuxième classé à 0,535, soit un écart de +0,048).
- Autres métriques : mAUC de 0,919 et mF1 de 0,376 (le meilleur de tous les participants).
- Note : Le mECE (erreur d'étalonnage) est élevé (0,928), indiquant un besoin d'amélioration sur l'étalonnage des probabilités.
Tâche 2 (Reconnaissance Zero-Shot OOD) :
- Classement : 1er sur le leaderboard public.
- mAP : 0,467 (devant le deuxième classé à 0,365, soit un écart significatif de +0,102).
- Autres métriques : Meilleur mAUC (0,779) et deuxième meilleur mECE parmi le top 10.

4. Contributions Clés

Stratégie d'apprentissage déséquilibré robuste : Une combinaison efficace de perte rééquilibrée (DB Loss), d'échantillonnage intelligent (CAS) et de post-traitement par « normal gating » pour gérer la longue traîne dans un contexte multi-étiquettes.
Approche Zero-Shot spécialisée : Démonstration de l'efficacité de l'utilisation de modèles vision-langage (WhyXrayCLIP) pour la détection de pathologies inédites en radiologie thoracique, sans nécessiter d'annotations spécifiques pour ces classes.
Performance SOTA : La méthode a obtenu la première place sur les deux tâches du défi CXR-LT 2026, surpassant largement les autres approches concurrentes.

5. Signification et Perspectives

Ce travail démontre que l'on peut surmonter les limitations de la supervision imparfaite en radiologie en combinant des techniques d'apprentissage profond adaptées aux déséquilibres de données et des modèles multimodaux pour la généralisation.

Impact clinique : Les méthodes proposées permettent d'améliorer le dépistage des maladies rares (souvent négligées par les IA standards) et d'identifier des pathologies non prévues lors de l'entraînement, un aspect crucial pour la sécurité clinique.
Limitations : L'évaluation actuelle repose sur l'ensemble de développement public ; la généralisation sur l'ensemble de test caché reste à confirmer.
Travaux futurs : Les auteurs prévoient d'améliorer l'étalonnage des modèles, de renforcer l'alignement texte-image pour un transfert zero-shot plus robuste, et d'étendre le cadre à d'autres tâches de vision-langage en radiologie (génération de rapports, VQA médical).

Le code et les modèles pré-entraînés sont disponibles publiquement sur GitHub.