Résumé technique : Exploiter la cooccurrence des pathologies pour l'adaptation au moment du test dans le diagnostic par radiographie thoracique

Problématique

Les modèles d'apprentissage profond pour la classification des radiographies thoraciques souffrent souvent d'une dégradation significative des performances lors de leur déploiement sur de nouveaux sites cliniques, en raison de décalages de domaine (domain shifts) induits par les différences d'équipements d'imagerie, de protocoles d'acquisition et de démographie des patients. Bien que l'adaptation au moment du test (Test-Time Adaptation ou TTA) offre une solution en mettant à jour des modèles préentraînés en utilisant uniquement des données cibles non étiquetées (sans accès aux données sources ou aux annotations cibles), les méthodes de TTA existantes sont mal adaptées à l'imagerie médicale multi-labels.

Les approches de TTA standard, conçues à l'origine pour la classification d'images naturelles à label unique, minimisent l'entropie de prédiction de manière uniforme sur tous les échantillons. Cela suppose implicitement une indépendance des labels. Cependant, en milieu clinique, les pathologies présentent des motifs de cooccurrence structurés (par exemple, certaines maladies apparaissent fréquemment ensemble) plutôt que de se produire de manière isolée. Les méthodes existantes ne parviennent pas à prendre en compte ces dépendances ; elles traitent toutes les prédictions confiantes comme étant également fiables, même si une prédiction viole des relations de labels plausibles. Cela peut conduire à l'amplification de motifs incohérents et à l'introduction de gradients bruités lors de l'adaptation, particulièrement sous l'effet de décalages de domaine.

Méthodologie : Adaptation pondérée par la cooccurrence (CoWA)

Les auteurs proposent CoWA, une méthode de TTA sans source qui exploite les motifs de cooccurrence des maladies comme un signal de fiabilité pour guider l'adaptation. Le cadre fonctionne sans nécessiter de supervision supplémentaire ou de changements architecturaux, en adaptant uniquement les paramètres affines de la normalisation par lots (Batch Normalization ou BN) du modèle préentraîné.

CoWA se compose de trois composantes centrales :

1. Estimation de la matrice de cooccurrence du domaine cible :
   La méthode estime la structure de cooccurrence des labels directement à partir des prédictions de test entrantes. Les sorties du modèle (probabilités douces) sont binarisées via un seuil fixe pour supprimer les activations de faible confiance. Une matrice de cooccurrence par paires $S$ est accumulée à travers les lots traités, où $S_{jk}$ compte la prédiction conjointe des pathologies $j$ et $k$. Celle-ci est normalisée pour former une matrice de cooccurrence empirique $M$, qui évolue au fil de l'adaptation, capturant la structure de dépendance spécifique du domaine cible.

2. Pondération des échantillons basée sur la cohérence :
   Pour chaque échantillon, CoWA calcule un score de cohérence mesurant à quel point la configuration de labels prédite s'aligne avec la matrice de cooccurrence cible estimée $M$. Un motif de cooccurrence local $m_i$ est construit à partir des prédictions de l'échantillon. La déviation entre $m_i$ et $M$ est calculée à l'aide de la norme de Frobenius. Cette déviation est convertie en un poids de fiabilité $w_i$ :
   $$w_i = \exp\left(-\frac{\|m_i - M\|_F^2}{\tau}\right)$$
   où $\tau$ est un paramètre de température. Les échantillons dont les prédictions sont cohérentes avec la structure émergente de la cible reçoivent des poids proches de 1, tandis que les prédictions structurellement incohérentes (bruitées) sont dépondérées.

3. Minimisation de l'entropie pondérée :
   Au lieu de minimiser l'entropie moyenne uniforme, CoWA minimise une perte d'entropie pondérée :
   $$L_{CoWA} = \frac{1}{B} \sum_{i=1}^{B} \max(w_i, w_{min}) \cdot H(\hat{y}_i)$$
   Ici, $H(\cdot)$ est l'entropie de prédiction, $B$ est la taille du lot, et $w_{min}$ empêche les poids de s'effondrer vers zéro pour des raisons de stabilité numérique. Cela garantit que le modèle s'adapte principalement sur des échantillons structurellement cohérents, réduisant ainsi l'impact des gradients bruités.

Contributions clés

1. Proposition de CoWA : Une nouvelle méthode de TTA qui estime les motifs de cooccurrence des pathologies à partir des prédictions du modèle et les utilise comme un signal de fiabilité par échantillon pour la classification d'images médicales multi-labels.
2. Identification des limites des TTA standards : Les auteurs démontrent que les méthodes de TTA standard, conçues pour des benchmarks à label unique, peuvent être inefficaces ou nuisibles pour les tâches cliniques multi-labels car elles ignorent les dépendances entre les labels.
3. Validation empirique : Des expériences approfondies sur des jeux de données publics de radiographies thoraciques (MIMIC-CXR, CheXpert, VinDr-CXR, NIH Chest X-ray) à travers six scénarios de décalage de domaine montrent des gains de performance constants par rapport aux bases de référence établies.

Résultats expérimentaux

Les auteurs ont évalué CoWA par rapport à plusieurs bases de référence, incluant No Adaptation, AdaBN, TENT, CoTTA, EATA et RoTTA, en utilisant l'AUROC comme métrique principale.

• Performance globale : CoWA a obtenu la meilleure AUROC moyenne dans la plupart des scénarios de décalage de domaine et est resté compétitif dans les autres, se classant systématiquement premier ou deuxième avec de faibles écarts de performance.
• Robustesse au décalage de domaine : Contrairement aux bases de référence telles que TENT et AdaBN, qui présentaient une grande variabilité (performant bien dans certains décalages mais se dégradant dans d'autres), CoWA a maintenu une performance stable.
• Améliorations spécifiques aux classes : Les méthodes concurrentes ont souvent subi des chutes marquées sur les pathologies à faible prévalence (ex: Pneumothorax). CoWA a systématiquement atténué ces dégradations spécifiques aux classes. Notamment, CoWA est la seule méthode ayant évité des chutes séviles de performance en dessous de la base de référence non adaptée à travers tous les décalages, soulignant sa robustesse dans le pire des cas.
• Analyse :
  • Évolution de la matrice : La matrice de cooccurrence estimée dans CoWA s'est progressivement alignée sur la véritable structure cible pendant l'adaptation, alors que les bases de référence perdaient les structures de dépendance claires.
  • Fiabilité du poids : Une corrélation positive a été observée entre les poids assignés et la qualité de la prédiction (AUPRC), confirmant que les poids servent efficacement d'estimateur de fiabilité implicite.
  • Ablation : L'utilisation de la norme de Frobenius ($\ell_F$) pour le calcul du score de cohérence a produit une AUROC moyenne plus élevée et une variance plus faible par rapport aux normes $\ell_1$, $\ell_2$ ou $\ell_\infty$. De plus, CoWA a démontré des mises à jour de gradients affines de BN plus stables que TENT.

Signification et affirmations

L'article affirme que CoWA offre une solution simple et déployable pour améliorer la robustesse diagnostique sous décalage de domaine en incorporant la structure de cooccurrence du domaine cible dans la TTA sans nécessiter d'annotations supplémentaires.

Les auteurs soulignent qu'en milieu clinique, où une chute sévère de performance sur une seule pathologie peut compromettre le diagnostic, la « robustesse dans le pire des cas » fournie par CoWA est aussi critique que la performance moyenne. En dépondérant les prédictions qui violent les relations de labels plausibles, CoWA permet à l'adaptation de se concentrer sur les échantillons structurellement cohérents, réduisant ainsi les gradients bruités.

Les auteurs concluent avec modestie, notant que bien que CoWA soit efficace, les motifs estimés peuvent être sensibles aux biais au niveau du jeu de données. Ils suggèrent que l'extension de CoWA pour capturer des relations plus robustes et fondées sur la causalité est une direction prometteuse pour les travaux futurs.