FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

L'article présente FairHealth, une bibliothèque Python open source conçue pour combler les lacunes critiques de l'IA en santé dans les contextes à faibles ressources en offrant un cadre unifié et modulaire intégrant l'audit d'équité, l'apprentissage fédéré préservant la vie privée, l'explicabilité à faible bande passante et des outils spécialisés pour les ensembles de données du Sud global.

L'essentiel

Imaginez que vous construisez une équipe de médecins pour aider des personnes dans des villages reculés où la connexion internet est intermittente, l'électricité peu fiable et où il y a peu de spécialistes. Vous souhaitez utiliser un programme informatique (IA) pour les aider, mais vous avez trois grandes préoccupations :

1. Est-ce équitable ? L'ordinateur traite-t-il une jeune femme d'un village de la même manière qu'un homme âgé de la ville ?
2. Est-ce sûr ? Peut-on enseigner à l'ordinateur sans voler les dossiers médicaux privés des patients ?
3. Pouvons-nous lui faire confiance ? Si l'ordinateur fait une suggestion, un infirmier local peut-il comprendre pourquoi il a pris cette décision sans avoir besoin d'un doctorat en mathématiques ?

FairHealth est une nouvelle « boîte à outils » (une bibliothèque Python) gratuite, conçue spécifiquement pour résoudre ces trois problèmes dans des pays comme le Bangladesh et d'autres pays à faibles ressources. Considérez-la comme un couteau suisse pour l'IA éthique dans le domaine de la santé.

Voici comment fonctionne cette boîte à outils, décomposée en ses six principaux outils :

1. Le « Miroir de l'Équité » (fairhealth.fairness)

Le Problème : Souvent, les modèles d'IA sont entraînés sur des données provenant de pays riches. Lorsque vous les utilisez dans un endroit différent, ils peuvent se tromper pour certains groupes de personnes (comme les femmes ou des groupes ethniques spécifiques). C'est comme une application météo entraînée uniquement sur la météo de Londres qui tente de prédire la pluie dans le Sahara ; cela ne fonctionnera tout simplement pas.
L'Outil : Ce module agit comme un miroir qui vérifie si votre IA est biaisée. Il effectue un « audit d'équité » pour voir si l'IA traite différents groupes de manière égale.

• Exemple concret : L'article montre que sans cet outil, une IA vérifiant les battements cardiaques (ECG) n'était équitable que 23 % du temps entre les hommes et les femmes. Après avoir utilisé cet outil pour « corriger » l'IA, l'équité a bondi à 71 %.

2. Le « Traducteur » (fairhealth.explain)

Le Problème : La plupart des IA sont une « boîte noire ». Elles donnent une réponse, mais personne ne sait comment elles y sont arrivées. Dans une clinique bondée d'un pays à faibles ressources, un médecin ne peut pas demander à un informaticien d'expliquer les mathématiques. Ils ont besoin d'une raison simple.
L'Outil : Ce module traduit des mathématiques complexes en règles en langage clair, comme un traducteur s'adressant à un ancien du village.

• Exemple concret : Au lieu de dire « Le score de probabilité est de 0,88 », il dit : « Règle 1 : Hypertension artérielle ET Hyperglycémie = Risque élevé ». Une étude mentionnée dans l'article a révélé que les médecins préféraient ces explications simples « basées sur des règles » aux graphiques complexes.

3. Le « Coffre-fort Secret » (fairhealth.federated)

Le Problème : Les hôpitaux ne peuvent pas partager les dossiers des patients en raison des lois sur la vie privée. C'est comme essayer d'enseigner à un chef une nouvelle recette en lui envoyant les ingrédients réels, mais les ingrédients sont enfermés dans un coffre-fort.
L'Outil : Cet outil utilise un type spécial de « cadenas magique » (appelé cryptographie homomorphe). Il permet aux hôpitaux d'entraîner l'IA ensemble sans jamais ouvrir le coffre-fort ni envoyer les données réelles des patients. Ils n'envoient que des « indices cryptés » concernant la recette.

• Le Résultat : L'article affirme que cette méthode réduit la quantité de données envoyées sur Internet de 97,5 % (la rendant rapide même sur des connexions lentes) tout en gardant les données mathématiquement incassables par les pirates informatiques.

4. Le « Tri d'Urgence » (fairhealth.lowresource)

Le Problème : Lors d'épidémies (comme la dengue), les cliniques sont submergées. Elles ont besoin d'un moyen rapide de trier les patients, mais le système doit fonctionner hors ligne et parler la langue locale.
L'Outil : Il s'agit d'un assistant de tri intelligent pour la dengue. Il pose des questions simples (Âge, Lieu, Type de logement) et donne une recommandation en anglais ou en bengali.

• Exemple concret : Si un enfant à Dhaka a de la fièvre, l'outil peut instantanément dire : « Grave : Rendez-vous immédiatement chez le médecin », aidant les médecins à décider qui a besoin d'aide en premier.

5. La « Boussole de l'Équité » (fairhealth.equity)

Le Problème : Lorsque des catastrophes surviennent (comme des inondations), l'aide va souvent aux endroits les plus faciles d'accès (les villes), laissant derrière elle les zones rurales les plus touchées. Les anciens modèles d'IA reproduisent simplement cette erreur.
L'Outil : Ce module agit comme une boussole qui pointe vers les personnes qui ont le plus besoin d'aide, peu importe où elles vivent. Il utilise une technique spéciale pour ignorer le « biais de localisation ».

• Exemple concret : Lors des inondations au Bangladesh en 2022, cet outil a modifié la liste des priorités. Une zone rurale appelée Sunamganj, précédemment classée 14e pour l'aide, a été correctement remontée au Rang 1 car le modèle a réalisé qu'ils souffraient le plus.

6. La « Bibliothèque Ouverte » (fairhealth.datasets)

Le Problème : La plupart des recherches en IA médicale nécessitent une autorisation spéciale (un « Accord d'utilisation des données ») pour accéder aux dossiers des patients. Cela exclut les chercheurs indépendants, les étudiants ou les personnes dans des pays sans grands réseaux hospitaliers.
L'Outil : FairHealth est la première boîte à outils qui n'utilise que des données déjà gratuites et publiques. Vous n'avez pas besoin de demander la permission ou de signer des documents juridiques.

• Le Bénéfice : Toute personne disposant d'un ordinateur peut télécharger les données et commencer à construire une IA équitable immédiatement.

Résumé

FairHealth est une boîte à outils open source gratuite qui aide les chercheurs et les médecins à construire une IA qui est équitable (ne discrimine pas), privée (garde les secrets en sécurité) et explicable (facile à comprendre). Elle est conçue spécifiquement pour les défis des milieux à faibles ressources, en utilisant uniquement des données gratuites pour tout le monde.

Vous pouvez l'installer comme n'importe quelle autre application (pip install fairhealth) et commencer à utiliser ces outils pour rendre l'IA dans le domaine de la santé plus sûre et plus digne de confiance pour tout le monde.

Résumé technique

Résumé technique : FairHealth

Énoncé du problème

L'apprentissage automatique promet beaucoup pour les soins de santé, mais son déploiement dans le monde réel, en particulier dans les pays à ressources limitées et à faible revenu (PRLFR), est entravé par trois limitations structurelles :

1. Biais démographiques : Les modèles entraînés sur des données au niveau de la population sous-performent souvent pour les groupes minoritaires. Par exemple, les modèles de détection d'infarctus du myocarde basés sur l'ECG non corrigés présentent un ratio d'impact différentiel de 0,23 entre les groupes de sexe, bien en deçà du seuil de 0,80 requis pour l'équité.
2. Contraintes de confidentialité : Les protections légales des dossiers de santé empêchent le partage de données entre institutions. Bien que l'apprentissage fédéré (FL) offre une solution, les bibliothèques Python existantes manquent d'intégration de cryptage homomorphe (HE) accessible aux chercheurs en santé.
3. Lacunes en matière d'explicabilité : Les outils d'aide à la décision clinique dans les PRLFR (par exemple au Bangladesh) nécessitent des explications interprétables par des cliniciens sans expertise en ML, un fonctionnement dans des environnements à faible bande passante et un soutien aux langues locales. Les bibliothèques existantes (par exemple SHAP, LIME) manquent d'intégration dans les flux de travail cliniques.

Les outils actuels comme PyHealth couvrent de vastes ensembles de données de dossiers médicaux électroniques (DME) mais omettent l'audit d'équité, l'apprentissage fédéré et le déploiement spécifique aux PRLFR. À l'inverse, les bibliothèques d'équité comme AIF360 manquent d'ensembles de données spécifiques à la santé, et les frameworks FL comme FATE manquent de focalisation sur la santé et imposent une surcharge technique élevée.

Méthodologie et conception de la bibliothèque

FairHealth est une bibliothèque Python open source et modulaire conçue pour combler ces lacunes. Elle est construite sur cinq contributions de recherche évaluées par des pairs et structurée en six modules faiblement couplés. La bibliothèque adhère à trois principes de conception fondamentaux :

• Données publiques uniquement : Tous les ensembles de données sont téléchargeables à partir de sources publiques sans accords d'utilisation de données institutionnels (DUAs).
• Ancrage dans les publications : Chaque module est lié à une publication évaluée par des pairs spécifique, avec les résultats clés documentés dans les docstrings pour la traçabilité.
• Cadre clinique : Les résultats sont présentés en langage clinique plutôt qu'en jargon ML, validés par une étude impliquant 14 professionnels de la santé.

Modules principaux

1. fairhealth.fairness (Équité des biosignaux) :

   • Fonction : Fournit des métriques d'équité agnostiques au modèle (Parité démographique, Odds égalisés, Impact différentiel) pour les biosignaux et les données tabulaires.
   • Innovation : Inclut intersectional_fairness pour évaluer simultanément plusieurs attributs sensibles (par exemple, sexe × âge).
   • Validation : Démontré sur l'ensemble de données PTB-XL, où le débiasage adversarial a amélioré le ratio d'impact différentiel de 0,23 à 0,71 tout en maintenant l'AUC à 0,8472.

2. fairhealth.explain (Explicabilité hybride) :

   • Fonction : Combine des règles de logique floue ante-hoc avec des explications SHAP post-hoc.
   • Innovation : Adresser le « déficit de confiance » dans les environnements à ressources limités. Une étude de validation clinique a montré une préférence de 71,4 % pour cette approche hybride par rapport aux explications SHAP seules ou aux scores seuls.
   • Performance : A atteint une précision de 88,67 % sur l'ensemble de données UCI Maternal Health Risk, surpassant les bases de Gradient Boosting de 2,46 points de pourcentage.

3. fairhealth.federated (FL préservant la confidentialité) :

   • Fonction : Implémente l'apprentissage fédéré avec cryptage homomorphe (HE) et confidentialité différentielle (DP).
   • Innovation : Utilise l'approche MedHE, co-concevant une sparsification adaptative des gradients avec le cryptage homomorphe CKKS.
   • Performance : Réduit la surcharge de communication de 97,5 % (de 1 277 Mo à 32 Mo) tout en maintenant des scores macro-F1 statistiquement équivalents au FedAvg standard. Il améliore la résistance aux attaques d'inférence d'appartenance (MIA) à des niveaux proches du hasard (taux de réussite de 51,1 %).

4. fairhealth.lowresource (Triage multilingue) :

   • Fonction : Un classifieur Arbre de décision pour le triage de la dengue supportant l'anglais et le bengali.
   • Innovation : Fonctionne dans des conditions de faible bande passante en utilisant des caractéristiques démographiques (Âge, Sexe, Type de zone, etc.).
   • Performance : A obtenu un score F1 de 0,802 et une AUC de 0,851. Une étude pilote (n=50) a rapporté une satisfaction utilisateur de 75 % avec son mécanisme de seuil de confiance (redirection des cas à faible confiance vers les médecins).

5. fairhealth.equity (Allocation de l'aide en cas de catastrophe) :

   • Fonction : Une architecture de débiasage adversarial pour une distribution équitable de l'aide aux inondations.
   • Innovation : Utilise des couches de inversion de gradient pour apprendre des représentations de vulnérabilité invariantes aux districts, corrigeant les biais urbains dans les données historiques.
   • Performance : Évalué sur 87 upazilas au Bangladesh, le modèle a réduit la différence de parité statistique de 41,6 % et l'écart d'équité régional de 43,2 % avec un coût R² minimal (2,7 points de pourcentage).

6. fairhealth.datasets (Chargeurs publics) :

   • Fonction : Chargeurs d'exécution pour six ensembles de données spécifiques, y compris des ensembles de données standard comme PTB-XL et MIMIC-III Demo, ainsi que des données spécifiques au Bangladesh (dengue, dommages liés aux inondations/PDNA).
   • Données de santé maternelle : Ce module intègre spécifiquement des indicateurs réels publiés provenant de registres publics, et non des valeurs synthétiques ou simulées. Les variables clés Healthcare_Access_Score et MMR (Maternal Mortality Ratio per 100k) sont extraites de deux sources officielles : (1) le DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh) et (2) le rapport UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response). Ces données assurent que les modèles de santé maternelle sont ancrés dans la réalité épidémiologique locale.

Résultats clés et contributions

L'article revendique les contributions suivantes :

1. Cadre unifié : La première bibliothèque installable via pip intégrant l'apprentissage fédéré, l'équité, l'explicabilité et les outils à ressources limitées spécifiquement pour la santé.
2. Reproductibilité : La première boîte à outils d'IA en santé construite entièrement sur des ensembles de données disponibles publiquement, éliminant la barrière des DUAs institutionnels pour les chercheurs indépendants.
3. Focus PRLFR : Une collection curated d'ensembles de données de santé spécifiques au Bangladesh (maternelle, dengue, inondations) non trouvés dans les bibliothèques ML existantes, incluant des indicateurs réels du DGHS et de l'UNFPA.
4. Implémentation ouverte : Code open source pour cinq méthodes évaluées par des pairs, permettant une reproduction et une extension directes.

Points forts des performances techniques :

• Équité : Amélioration du ratio d'impact différentiel de 0,23 à 0,71 sur les données ECG.
• Confidentialité : Réduction de 97,5 % de la communication en FL avec HE tout en maintenant l'utilité du modèle (macro-F1 ≈ 0,95).
• Explicabilité : Préférence de 71,4 % des cliniciens pour les explications hybrides Fuzzy+SHAP.
• Équité : Modification des classements de priorité pour 70,6 % des régions touchées par des catastrophes, reclassant significativement les zones rurales vulnérables (par exemple, Sunamganj).

Importance et revendications

L'article positionne FairHealth comme une couche complémentaire aux bibliothèques existantes à large couverture comme PyHealth, ciblant spécifiquement la « dimension de fiabilité » (équité, confidentialité, explicabilité) que d'autres outils laissent ouverte. Son importance principale réside dans la démocratisation de la recherche en IA pour la santé dans le Sud global en :

• Éliminant le besoin d'accords d'accès aux données institutionnels.
• Fournissant des outils adaptés aux environnements cliniques à faible bande passante et multilingues.
• Assurant que l'équité et la confidentialité ne sont pas des réflexes tardifs mais des composants intégrés et auditable du flux de travail ML.

Les auteurs affirment que la bibliothèque permet aux chercheurs du monde entier, y compris ceux sans affiliation hospitalière, de mener des recherches rigoureuses et reproductibles en IA pour la santé. Les travaux futurs se limitent à l'expansion du module fédéré avec un cryptage CKKS complet basé sur TenSEAL pour les poids des réseaux de neurones et l'intégration de tableaux de bord en temps réel pour la surveillance de la dengue.