People-Centred Medical Image Analysis

1. Énoncé du problème

Malgré la haute précision des modèles récents d'IA médicale centrés sur les données, leur adoption clinique reste limitée. Les auteurs identifient deux goulots d'étranglement principaux :

1. Biais de performance : Les modèles existants échouent souvent à performer équitablement à travers diverses populations de patients (par exemple, différents sexes, âges ou races), créant des barrières réglementaires et éthiques.
2. Intégration au flux de travail : Les approches actuelles de collaboration humain-IA, spécifiquement l'Apprentissage de la Déférence (L2D) et l'Apprentissage de la Complémentarité (L2C), sont généralement étudiées isolément des préoccupations d'équité.
   • L2D décide de laisser l'IA prédire ou de dévier vers un humain.
   • L2C combine les prédictions de l'IA et de l'humain.
   • Le Vide : Les travaux antérieurs supposent une connaissance préalable de l'appartenance du patient à un groupe (attributs sensibles) lors du test (ce qui est souvent indisponible en milieu réel) et échouent à optimiser conjointement l'équité, la précision et les contraintes de charge de travail des cliniciens.

2. Méthodologie : Le cadre PecMan

Les auteurs proposent PecMan (People-Centred Medical Image Analysis), un cadre unifié qui optimise conjointement l'équité de l'IA, la précision diagnostique et l'efficacité du flux de travail. Il fonctionne sans supposer de connaissance préalable de l'appartenance du patient à un groupe pendant la phase de test.

Architecture de base

Le cadre utilise un mécanisme de routage dynamique pour assigner les cas à :

• Des modèles d'IA (spécifiquement des modèles par cohorte).
• Des cliniciens.
• Une combinaison collaborative des deux.

Le système se compose de quatre composants principaux :

1. Modèle de base ($f_\theta$) : Extrait les caractéristiques des images d'entrée.
2. Modèles par cohorte ($h_{\phi_j}$) : Un ensemble de classificateurs, chacun spécialisé pour un groupe démographique spécifique (par exemple, homme, femme).
3. Modèle de routage ($g_\zeta$) : Un routeur dynamique qui détermine la stratégie optimale pour un cas donné (IA seule, Humain seul, ou Hybride) en fonction de l'image d'entrée et des contraintes de charge de travail.
4. Modèle d'agrégation ($m_\gamma$) : Agrège les prédictions pondérées des modèles d'IA sélectionnés et/ou du clinicien pour produire le diagnostic final.

Processus d'entraînement (Trois étapes)

L'entraînement est séquentiel et utilise la fonction de perte Fair Identity Scaling (FIS), qui équilibre la difficulté de l'échantillon individuel avec l'équité au niveau du groupe.

• Étape 0 : Entraînement du modèle de base : Le modèle de base est entraîné en utilisant la perte FIS pour s'assurer que l'extracteur de caractéristiques est équitable et précis pour tous les groupes initialement.
• Étape 1 : Entraînement des modèles spécifiques aux groupes : Le modèle de base est figé, et des têtes de classification séparées sont entraînées pour chaque cohorte démographique. Cette étape vise à maximiser la précision au sein de groupes spécifiques en utilisant la perte FIS (avec un poids d'équité réglé pour prioriser la précision individuelle).
• Étape 2 : Entraînement L2D + L2C non biaisé : Les modèles de routage et d'agrégation sont entraînés.
  • L'objectif est de minimiser la perte FIS sur la prédiction agrégée finale.
  • Contrainte : Un "budget de collaboration" ($\epsilon$) est imposé, garantissant qu'une proportion minimale de cas est traitée par des modèles d'IA pour respecter les limites de charge de travail des cliniciens.
  • Crucialement, cette étape n'utilise pas les attributs sensibles comme entrée lors de l'inférence ; elle apprend à router les cas en fonction des caractéristiques de l'image uniquement, tandis que l'équité est évaluée a posteriori.

3. Contributions clés

1. Cadre PecMan : Le premier cadre unifié à optimiser conjointement l'équité de l'IA, le L2D (déférence) et le L2C (complémentarité) sans nécessiter d'étiquettes d'attributs sensibles au moment du test. Il alloue dynamiquement les cas à l'IA, aux humains, ou aux deux sous contraintes de charge de travail.
2. Benchmark FairHAI : Un nouveau benchmark conçu pour évaluer les compromis entre Précision, Équité et Charge de travail des cliniciens.
   • Il utilise quatre ensembles de données publics d'imagerie médicale : HAM10000 (dermatologie), CMMD (mammographie), CheXpert et MIMIC-CXR (radiographies thoraciques).
   • Il simule les annotations des cliniciens basées sur les écarts de performance empiriques (IA vs Humain) pour créer un environnement d'évaluation réaliste.
   • Il introduit des métriques telles que AUACC (Aire sous la courbe de couverture AUC) et AUESACC (Aire sous la courbe de couverture AUC mise à l'échelle par l'équité).

4. Résultats expérimentaux

Des expériences ont été menées sur le benchmark FairHAI à travers quatre ensembles de données, comparant PecMan à des références de pointe incluant ERM, GroupDRO, SWAD, Fair L2D et LECODU.

• Performance : PecMan a constamment surpassé toutes les références sur tous les ensembles de données.
  • Il a obtenu les scores les plus élevés en AUC (Précision) et ES-AUC (Précision ajustée à l'équité).
  • Sur l'ensemble de données HAM10000, PecMan a atteint un AUAUC de 97,63 % et un AUESACC de 97,21 %, nettement supérieurs à la deuxième meilleure méthode (LECODU : 94,60 % / 94,44 %).
• Robustesse : Même à 0 % de couverture (clinicien uniquement), PecMan a surpassé les autres méthodes car la décision du clinicien était efficacement complétée par les modèles spécifiques aux cohortes.
• Comportement de déférence : L'analyse a montré que le modèle de routage ajuste efficacement le taux de déférence vers les cliniciens en fonction du budget de charge de travail ($\epsilon$), garantissant une collaboration humain-IA efficace.
• Étude d'ablation : Le remplacement des multiples modèles spécifiques aux cohortes par un seul modèle équitable (L2D-FairDi) a entraîné une baisse de performance, prouvant la nécessité de modèles spécialisés pour différentes démographies.

5. Importance et impact

• Viabilité clinique : En modélisant explicitement les contraintes de charge de travail des cliniciens et en intégrant l'équité dans la boucle de prise de décision, PecMan adresse le problème du "dernier kilomètre" de l'adoption de l'IA dans les soins de santé.
• Conformité réglementaire : Le cadre répond directement au besoin de performances équitables à travers des populations diversifiées, une exigence clé pour l'approbation réglementaire (par exemple, FDA, Loi européenne sur l'IA).
• Changement de paradigme : Le papier s'oppose au traitement de l'équité et de la collaboration humain-IA comme des objectifs séparés. Il démontre que l'interdépendance entre ces facteurs est cruciale ; l'ignorer conduit à des compromis sous-optimaux.
• Orientation future : Les auteurs suggèrent que bien que l'entraînement de multiples modèles de cohortes soit actuellement gourmand en ressources, les travaux futurs pourraient explorer des "cohortes cachées" pour réduire la surcharge computationnelle tout en maintenant l'équité.

En résumé, PecMan représente une avancée significative vers une IA médicale digne de confiance, équitable et déployable cliniquement, en unifiant l'équité, la précision et les contraintes de flux de travail humain dans un seul cadre d'apprentissage dynamique.