Résumé technique : DuetFair et FairDRO pour la segmentation équitable d'images médicales

1. Énoncé du problème

Les modèles de segmentation d'images médicales présentent souvent des performances inégales entre différents sous-groupes de patients (par exemple, définis par la race, l'âge ou le stade tumoral). Bien que les méthodes d'équité existantes visent à améliorer la performance moyenne entre ces sous-groupes, elles traitent généralement chaque sous-groupe comme une unité internement homogène. Cette approche crée un angle mort que les auteurs qualifient de « défaillance cachée intra-sous-groupe ».

Dans ce scénario, un sous-groupe peut sembler performer bien en moyenne parce que les cas difficiles, à forte perte, au sein de ce sous-groupe sont masqués par des cas plus faciles. Par conséquent, le modèle ne parvient pas à optimiser les cas les plus difficiles au sein d'un groupe démographique ou clinique spécifique, conduisant à des prédictions au niveau du patient peu fiables, même lorsque les métriques au niveau du groupe semblent acceptables. L'article soutient que l'équité en segmentation médicale nécessite de traiter deux axes distincts mais couplés :

1. Hétérogénéité inter-sous-groupes : S'adapter aux différences distributionnelles entre les sous-groupes.
2. Variation intra-sous-groupe : Assurer la robustesse face aux cas difficiles au sein de chaque sous-groupe.

2. Méthodologie : DuetFair et FairDRO

Pour répondre à ces doubles défis, les auteurs proposent le mécanisme DuetFair, un cadre à double axe, et l'instancient sous la forme de FairDRO (Optimisation Robuste Distributionnellement Équitable).

Le mécanisme DuetFair

DuetFair conceptualise l'équité comme un problème conjoint nécessitant :

• Adaptation inter-sous-groupes : Le modèle doit tenir compte des décalages distributionnels entre les différents groupes.
• Robustesse intra-sous-groupe : Le modèle doit maintenir la fiabilité pour les cas difficiles au sein de chaque groupe, empêchant qu'ils ne soient « noyés » par les moyennes du sous-groupe.

L'implémentation FairDRO

FairDRO couple deux composants spécifiques pour réaliser le mécanisme DuetFair :

1. Axe Inter-sous-groupes : Mélange d'experts conscient de la distribution (dMoE)

   • Objectif : Traiter l'hétérogénéité inter-sous-groupes au niveau de la représentation.
   • Mécanisme : Au lieu de se fier uniquement au pondération des pertes, FairDRO utilise un backbone partagé avec un mélange d'experts conditionné par le sous-groupe. Étant donné une image d'entrée $x_i$ et un attribut de sous-groupe $g_i$, les caractéristiques intermédiaires sont adaptées via une somme pondérée de transformations d'experts sélectionnées par un réseau de routage.
   • Effet : Cela permet au modèle d'apprendre des représentations de caractéristiques spécifiques au sous-groupe, réduisant le décalage entre le modèle et les sous-groupes divers avant même que la perte ne soit calculée.

2. Axe Intra-sous-groupes : Optimisation Robuste Distributionnellement Conditionnée par le Sous-groupe (DRO)

   • Objectif : Traiter la variation intra-sous-groupe et les défaillances cachées.
   • Mécanisme : Plutôt que de minimiser la perte moyenne empirique au sein d'un sous-groupe ($R_g$), FairDRO minimise le risque pire cas au sein d'un ensemble d'ambiguïté spécifique au sous-groupe.
   • Formulation : Pour chaque sous-groupe $g$, le risque robuste $R_g^{rob}$ est défini comme le supremum de l'espérance de perte sur un ensemble de distributions $Q_g$ proches de la distribution empirique $\hat{P}_g$ (mesurée par la divergence KL).
   • Effet : Cette optimisation surpondère naturellement les échantillons à forte perte au sein de chaque sous-groupe, garantissant que les cas difficiles ne sont pas ignorés même si le sous-groupe est petit ou hétérogène.

La fonction objectif :
L'objectif final agrège ces risques robustes spécifiques aux sous-groupes :
$$\min_{\theta, \phi} L_{FairDRO} = \sum_{g \in \mathcal{G}} w_g R_g^{rob}(\theta, \phi)$$
où $w_g$ est un poids normalisé (fixé à $1/|\mathcal{G}|$ dans l'implémentation), assurant une agrégation uniforme des risques des sous-groupes sans surpondération manuelle de groupes spécifiques.

3. Contributions clés

• Identification de la défaillance cachée intra-sous-groupe : L'article identifie que la moyenne des performances des sous-groupes masque des erreurs graves au niveau du patient, motivant une approche à double axe de l'équité.
• Mécanisme DuetFair : Un cadre conceptuel qui sépare et couple explicitement l'adaptation inter-sous-groupes et la robustesse intra-sous-groupe.
• Algorithme FairDRO : Une implémentation concrète combinant dMoE pour l'apprentissage de représentations et DRO conditionné par le sous-groupe pour l'agrégation des pertes. Cette conception permet au modèle de s'adapter entre les groupes tout en priorisant les échantillons difficiles au sein de chaque groupe.
• Évaluation complète : Évaluation sur trois benchmarks couvrant des attributs démographiques, cliniques et institutionnels.

4. Résultats expérimentaux

Les auteurs ont évalué FairDRO sur trois jeux de données : Harvard-FairSeg (images du fond d'œil, basées sur la race), HAM10000 (lésions cutanées, basées sur l'âge) et un jeu de données interne 3D Radiotherapy Target (CT de la prostate, basé sur le stade T et l'institution).

• Harvard-FairSeg (Race) : FairDRO a obtenu les meilleures performances équité-ajustées (ES-Dice et ES-IoU). Il a considérablement amélioré le Dice et l'IoU pour le sous-groupe le plus faible (Asiatique) par rapport à des bases solides comme dMoE et Prompt-GDRO, tout en maintenant une performance moyenne comparable.
• HAM10000 (Âge) : FairDRO a récupéré la performance pour le groupe minoritaire (Âge $\ge$ 80), améliorant le Dice et l'IoU par rapport à dMoE. Cependant, les auteurs notent que puisque l'écart basé sur l'âge était principalement inter-groupe, le gain marginal de la robustesse intra-groupe était plus faible par rapport à d'autres configurations.
• Jeu de données Radiothérapie 3D :
  • Stade tumoral (T1-T4) : FairDRO a montré les améliorations les plus dramatiques ici. Il a considérablement amélioré le Dice du groupe le plus défavorisé pour les stades rares (T1 et T4) et a réduit l'étalement des scores Dice par patient au sein de chaque stade. L'analyse qualitative a montré que FairDRO a corrigé des erreurs systématiques de sur-extension ou de sous-délination observées dans les bases.
  • Institution : Dans un scénario de déploiement réaliste impliquant un décalage de données entre hôpitaux, FairDRO était la seule méthode à récupérer substantiellement le site le moins performant (Hôpital Gangnam Severance), réduisant l'écart de performance entre les meilleures et les pires institutions tout en préservant la performance sur le site source.

5. Signification et revendications

L'article affirme que FairDRO offre une approche plus holistique de l'équité en reconnaissant que les moyennes des sous-groupes peuvent être trompeuses. En couplant l'apprentissage de représentations (pour gérer les différences de groupes) avec l'optimisation robuste (pour gérer la difficulté au sein du groupe), FairDRO garantit que :

1. Les modèles ne sacrifient pas la performance du groupe minoritaire pour la précision moyenne.
2. Les cas difficiles au sein de n'importe quel sous-groupe (majoritaire ou minoritaire) ne sont pas obscurcis par la moyenne du groupe.

Les auteurs déclarent que FairDRO réalise ses gains les plus importants dans des contextes avec une hétérogénéité au niveau du patient substantielle au sein des sous-groupes (par exemple, le jeu de données de radiothérapie), où les méthodes standard au niveau du groupe échouent à traiter les « défaillances cachées ». Ils reconnaissent modestement que lorsque les étiquettes de sous-groupe expliquent déjà la majeure partie de la disparité de performance (comme observé dans les résultats HAM10000 basés sur l'âge), la valeur ajoutée de la robustesse intra-sous-groupe est moins prononcée, mais la méthode reste compétitive.

En fin de compte, ce travail positionne DuetFair et FairDRO comme des étapes vers des systèmes d'IA clinique fournissant des soins équitables, garantissant que les bénéfices de l'IA médicale s'étendent à tous les patients, y compris ceux présentant des cas difficiles ou rares au sein de n'importe quel groupe démographique ou clinique.