FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

Het artikel introduceert FairHealth, een open-source Python-bibliotheek die is ontworpen om kritieke gaten in gezondheidszorg-AI voor settings met beperkte middelen te overbruggen door een geïntegreerd, modulair raamwerk te bieden dat eerlijkheidsaudits, privacybehoudende federatieve leer, uitlegbaarheid met lage bandbreedte en gespecialiseerde hulpmiddelen voor datasets uit het Zuiden van de wereld combineert.

De kern

Stel je voor dat je een team van artsen opbouwt om mensen in afgelegen dorpen te helpen, waar internet onbetrouwbaar is, de elektriciteit wisselvallig en er maar weinig specialisten zijn. Je wilt een computerprogramma (AI) gebruiken om hen te helpen, maar je maakt je drie grote zorgen:

1. Is het eerlijk? Behandelt de computer een jonge vrouw uit een dorp op dezelfde manier als een oudere man uit de stad?
2. Is het veilig? Kunnen we de computer leren zonder privé-patiëntgegevens te stelen?
3. Kunnen we het vertrouwen? Als de computer een suggestie doet, kan een lokale verpleegkundige dan begrijpen waarom die keuze is gemaakt, zonder een PhD in wiskunde te nodig hebben?

FairHealth is een nieuwe, gratis "gereedschapskist" (een Python-bibliotheek) die specifiek is ontworpen om deze drie problemen op te lossen voor plaatsen zoals Bangladesh en andere landen met weinig middelen. Denk eraan als een Zwitsers zakmes voor ethische gezondheidszorg-AI.

Hieronder wordt uitgelegd hoe de gereedschapskist werkt, opgesplitst in zijn zes belangrijkste hulpmiddelen:

1. De "Eerlijkheids Spiegel" (fairhealth.fairness)

Het Probleem: Vaak worden AI-modellen getraind op gegevens uit rijke landen. Wanneer je ze op een andere plek gebruikt, kunnen ze het verkeerd doen voor bepaalde groepen mensen (zoals vrouwen of specifieke etnische groepen). Het is als een weer-app die alleen is getraind op Londen-weer en probeert regen te voorspellen in de Sahara; het werkt gewoon niet.
Het Hulpmiddel: Deze module fungeert als een spiegel die controleert of je AI vooroordelen vertoont. Het voert een "eerlijkheidsaudit" uit om te zien of de AI verschillende groepen gelijk behandelt.

• Voorbeeld uit de praktijk: Het artikel toont aan dat zonder dit hulpmiddel een AI die hartslagen controleert (ECG) slechts 23% van de tijd eerlijk was tussen mannen en vrouwen. Na het gebruik van dit hulpmiddel om de AI te "repareren", steeg de eerlijkheid naar 71%.

2. De "Vertaler" (fairhealth.explain)

Het Probleem: De meeste AI is een "zwarte doos". Het geeft een antwoord, maar niemand weet hoe het daar gekomen is. In een drukke kliniek in een omgeving met weinig middelen kan een arts geen computerwetenschapper vragen om de wiskunde uit te leggen. Ze hebben een eenvoudige reden nodig.
Het Hulpmiddel: Deze module vertaalt complexe wiskunde naar eenvoudige taalregels, zoals een vertaler die spreekt met een lokale ouderling.

• Voorbeeld uit de praktijk: In plaats van te zeggen "De waarschijnlijkheidsscore is 0,88", zegt het: "Regel 1: Hoge bloeddruk EN hoge bloedsuiker = Hoog risico". Een studie die in het artikel wordt genoemd, vond dat artsen deze eenvoudige "regelgebaseerde" uitleg verkiesten boven complexe grafieken.

3. De "Geheime Kluis" (fairhealth.federated)

Het Probleem: Ziekenhuizen kunnen patiëntgegevens niet delen vanwege privacywetten. Het is alsof je een chef-kok een nieuw recept wilt leren door de echte ingrediënten te sturen, maar de ingrediënten in een kluis zitten opgesloten.
Het Hulpmiddel: Dit hulpmiddel gebruikt een speciaal soort "magisch slot" (Homomorf Versleuteling genoemd). Het stelt ziekenhuizen in staat om samen de AI te trainen zonder ooit de kluis te openen of de daadwerkelijke patiëntgegevens te sturen. Ze sturen alleen "versleutelde hints" over het recept.

• Het Resultaat: Het artikel beweert dat deze methode de hoeveelheid data die over het internet wordt verzonden met 97,5% verkleint (waardoor het zelfs op trage verbindingen snel is), terwijl de data wiskundig onbreekbaar blijft voor hackers.

4. De "Nood Triage" (fairhealth.lowresource)

Het Probleem: Tijdens ziekte-uitbraken (zoals denguekoorts) raken klinieken overbelast. Ze hebben een snelle manier nodig om patiënten te sorteren, maar het systeem moet offline werken en de lokale taal spreken.
Het Hulpmiddel: Dit is een slim sorteerassistent voor denguekoorts. Het stelt eenvoudige vragen (Leeftijd, Locatie, Huisvestingstype) en geeft een aanbeveling in Engels of Bengaals.

• Voorbeeld uit de praktijk: Als een kind in Dhaka koorts heeft, kan het hulpmiddel direct zeggen: "Ernstig: Ga direct naar de dokter", waardoor artsen kunnen beslissen wie eerst hulp nodig heeft.

5. De "Equitiviteits Kompas" (fairhealth.equity)

Het Probleem: Wanneer rampen gebeuren (zoals overstromingen), gaat hulp vaak naar de plekken die het makkelijkst te bereiken zijn (steden), waardoor de zwaarst getroffen plattelandsgebieden worden achtergelaten. Oude AI-modellen kopiëren deze fout gewoon.
Het Hulpmiddel: Deze module fungeert als een kompas dat wijst naar de mensen die het meeste hulp nodig hebben, ongeacht waar ze wonen. Het gebruikt een speciale techniek om "locatiebias" te negeren.

• Voorbeeld uit de praktijk: Tijdens de overstromingen in Bangladesh in 2022 veranderde dit hulpmiddel de prioriteitenlijst. Een plattelandsgebied genaamd Sunamganj, dat eerder op de 14e plaats stond voor hulp, werd correct verplaatst naar Plaats 1, omdat het model realiseerde dat zij het meest leden.

6. De "Open Bibliotheek" (fairhealth.datasets)

Het Probleem: De meeste medische AI-onderzoek vereist speciale toestemming (een "Data Use Agreement") om toegang te krijgen tot patiëntgegevens. Dit sluit onafhankelijke onderzoekers, studenten of mensen in landen zonder grote ziekenhuisnetwerken uit.
Het Hulpmiddel: FairHealth is de eerste gereedschapskist die alleen gegevens gebruikt die al gratis en publiek zijn. Je hoeft geen toestemming te vragen of juridische papieren te tekenen.

• Het Voordeel: Iedereen met een computer kan de gegevens downloaden en direct beginnen met het bouwen van eerlijke AI.

Samenvatting

FairHealth is een gratis, open-source toolkit die onderzoekers en artsen helpt bij het bouwen van AI die eerlijk is (niet discrimineert), privé is (geheimen veilig houdt) en verklaarbaar is (makkelijk te begrijpen). Het is specifiek gebouwd voor de uitdagingen van omgevingen met weinig middelen, met uitsluitend gegevens die gratis zijn voor iedereen om te gebruiken.

Je kunt het installeren zoals elke andere app (pip install fairhealth) en deze hulpmiddelen gaan gebruiken om gezondheidszorg-AI veiliger en betrouwbaarder te maken voor iedereen.

Technische samenvatting

Technische Samenvatting: FairHealth

Probleemstelling

Machine learning belooft veel voor de gezondheidszorg, maar de implementatie in de praktijk, met name in landen met lage middelen en lage inkomens (LMIC's), wordt gehinderd door drie structurele beperkingen:

1. Demografische Bias: Modellen die zijn getraind op gegevens op bevolkingsniveau presteren vaak slechter voor minderheidsgroepen. Bijvoorbeeld, gecorrigeerde ECG-gebaseerde modellen voor de detectie van myocardinfarct vertonen een dispropotioneel impactratio van 0,23 tussen geslachtsgroepen, ver onder de drempel van 0,80 voor gelijkheid.
2. Privacybeperkingen: Wettelijke bescherming van gezondheidsgegevens verhindert het delen van gegevens tussen instellingen. Hoewel federatief leren (FL) een oplossing biedt, ontbreekt het in bestaande Python-bibliotheken aan integratie van cryptografische homomorfische encryptie (HE) die toegankelijk is voor onderzoekers in de gezondheidszorg.
3. Gaten in Verklaarbaarheid: Klinische besluitvormingshulpmiddelen in LMIC's (bijvoorbeeld Bangladesh) vereisen uitleg die interpreteerbaar is voor clinici zonder ML-expertise, werking in omgevingen met lage bandbreedte en ondersteuning voor lokale talen. Bestaande bibliotheken (bijvoorbeeld SHAP, LIME) missen integratie in klinische workflows.

Huidige toolkit zoals PyHealth bestrijken brede EHR-gegevenssets maar laten eerlijkheidsaudits, federatief leren en LMIC-specifieke implementatie buiten beschouwing. Omgekeerd missen eerlijkheidsbibliotheken zoals AIF360 gezondheidszorgspecifieke datasets, en FL-frameworks zoals FATE missen een focus op de gezondheidszorg en leggen een hoge engineeringlast op.

Methodologie en Library-ontwerp

FairHealth is een open-source, modulaire Python-library ontworpen om deze gaten te dichten. Het is gebaseerd op vijf peer-reviewed onderzoeksbijdragen en gestructureerd in zes losjes gekoppelde modules. De library adhereert aan drie kernontwerpprincipes:

• Alleen Publieke Data: Alle datasets zijn downloadbaar van publieke bronnen zonder institutionele datagebruiksovereenkomsten (DUAs).
• Paper-geankerd: Elke module is gekoppeld aan een specifieke peer-reviewed publicatie, met belangrijke resultaten gedocumenteerd in docstrings voor traceerbaarheid.
• Klinische Kadering: Outputs worden gepresenteerd in klinische taal in plaats van ML-jargon, gevalideerd door een studie met 14 professionals in de gezondheidszorg.

Kernmodules

1. fairhealth.fairness (Eerlijkheid Biosignalen):

   • Functie: Biedt model-agnostische eerlijkheidsmetrieken (Demografische Pariteit, Gelijkwaardige Kansen, Disproportioneel Impact) voor biosignalen en tabulaire data.
   • Innovatie: Bevat intersectional_fairness om meerdere gevoelige attributen simultaan te evalueren (bijvoorbeeld geslacht × leeftijd).
   • Validatie: Gedemonstreerd op de PTB-XL dataset, waarbij adversarial debiasing het dispropotioneel impactratio verbeterde van 0,23 naar 0,71 terwijl de AUROC op 0,8472 bleef.

2. fairhealth.explain (Hybride Verklaarbaarheid):

   • Functie: Combineert ante-hoc fuzzy logic-regels met post-hoc SHAP-uitleggingen.
   • Innovatie: Adresseert het "vertrouwenstekort" in omgevingen met beperkte middelen. Een validatiestudie onder clinici toonde een voorkeur van 71,4% voor deze hybride aanpak ten opzichte van uitleggingen alleen op basis van SHAP of alleen scores.
   • Prestatie: Bereikte een nauwkeurigheid van 88,67% op de UCI Maternal Health Risk dataset, wat 2,46 procentpunten beter was dan Gradient Boosting-baselines.

3. fairhealth.federated (Privacy-bewust FL):

   • Functie: Implementeert federatief leren met homomorfische encryptie (HE) en differentieel privacy (DP).
   • Innovatie: Gebruikt de MedHE-aanpak, waarbij adaptieve gradient-sparificatie wordt samengesteld met CKKS-homomorfische encryptie.
   • Prestatie: Verlaagt de communicatie-overhead met 97,5% (van 1.277 MB naar 32 MB) terwijl macro-F1-scores statistisch equivalent blijven aan standaard FedAvg. Het verbetert de weerstand tegen membership inference-aanvallen (MIA) tot bijna-willekeurige niveaus (51,1% succesratio).

4. fairhealth.lowresource (Meertalige Triage):

   • Functie: Een Decision Tree-classifier voor dengue-triage die Engels en Bengaals ondersteunt.
   • Innovatie: Werkt onder omstandigheden met lage bandbreedte met behulp van demografische kenmerken (Leeftijd, Geslacht, AreaType, enz.).
   • Prestatie: Bereikte een F1-score van 0,802 en een AUC van 0,851. Een pilotstudie (n=50) rapporteerde 75% gebruikerstevredenheid met het mechanisme voor betrouwbaarheidsdrempels (doorsturen van gevallen met lage betrouwbaarheid naar artsen).

5. fairhealth.equity (Toewijzing Hulp bij Rampen):

   • Functie: Een adversarial debiasing-architectuur voor een eerlijke verdeling van overstromingshulp.
   • Innovatie: Gebruikt gradient reversal-layers om district-invariante kwetsbaarheidsrepresentaties te leren, waardoor stedelijke biases in historische gegevens worden gecorrigeerd.
   • Prestatie: Geëvalueerd op 87 upazila's in Bangladesh, verlaagde het model het statistische pariteitsverschil met 41,6% en de regionale eerlijkheidskloof met 43,2% met minimale R²-kosten (2,7 procentpunten).

6. fairhealth.datasets (Publieke Loaders):

   • Functie: Runtime-loaders voor zes specifieke datasets, waaronder standaarddatasets zoals PTB-XL en MIMIC-III Demo, evenals Bangladesh-specifieke data over dengue-surveillance en overstromingsschade (PDNA).
   • Maternale Gezondheidsdata: De module voor maternale gezondheid integreert real-world publieke registers in plaats van gesimuleerde waarden. De variabelen Healthcare_Access_Score en MMR (Maternal Mortality Ratio per 100k) zijn afkomstig uit twee specifieke, gepubliceerde bronnen:
     1. DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh).
     2. UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response).
        Deze loaders zorgen ervoor dat onderzoekers direct toegang hebben tot deze geverifieerde, openbare indicatoren zonder institutionele DUAs.

Belangrijkste Resultaten en Bijdragen

Het artikel claimt de volgende bijdragen:

1. Gecentraliseerd Kader: De eerste pip-installabele library die federatief leren, eerlijkheid, verklaarbaarheid en tools voor omgevingen met lage middelen integreert, specifiek voor de gezondheidszorg.
2. Reproduceerbaarheid: De eerste toolkit voor gezondheidszorg-AI die volledig is gebouwd op publiek beschikbare datasets, waaronder real-world registers zoals het DGHS Dashboard en UNFPA MPDSR, waardoor de barrière van institutionele DUAs voor onafhankelijke onderzoekers wordt weggenomen.
3. LMIC-focus: Een gecureerde collectie van Bangladesh-specifieke gezondheidsdatasets (maternale gezondheid, dengue, overstromingen) die niet te vinden zijn in bestaande ML-bibliotheken.
4. Open Implementatie: Open-source code voor vijf peer-reviewed methoden, waardoor directe reproductie en uitbreiding mogelijk zijn.

Technische Prestatiehoogtepunten:

• Eerlijkheid: Verbetering van het dispropotioneel impactratio van 0,23 naar 0,71 op ECG-data.
• Privacy: Bereikte een communicatiereductie van 97,5% in FL met HE terwijl de modelnut behouden bleef (macro-F1 ≈ 0,95).
• Verklaarbaarheid: 71,4% voorkeur onder clinici voor hybride Fuzzy+SHAP-uitleggingen.
• Gelijkheid: Verschoof prioriteitsrangschikkingen voor 70,6% van de door rampen getroffen regio's, waarbij kwetsbare plattelandsgebieden (bijvoorbeeld Sunamganj) aanzienlijk hoger werden gerangschikt.

Betekenis en Claims

Het artikel positioneert FairHealth als een aanvullende laag op bestaande bibliotheken met brede dekking zoals PyHealth, specifiek gericht op de "betrouwbaarheidsdimensie" (eerlijkheid, privacy, verklaarbaarheid) die andere tools open laten. De primaire betekenis ligt in het democratiseren van onderzoek naar gezondheidszorg-AI voor het Zuiden door:

• De noodzaak van institutionele datatoegangsovereenkomsten te elimineren door gebruik te maken van publieke registers (zoals DGHS en UNFPA).
• Tools te bieden die zijn toegesneden op klinische omgevingen met lage bandbreedte en meertaligheid.
• Te waarborgen dat eerlijkheid en privacy geen nagedachte zijn, maar geïntegreerde, auditabele componenten van de ML-workflow.

De auteurs stellen dat de library onderzoekers wereldwijd, inclusief die zonder ziekenhuisaffiliatie, in staat stelt om rigoureus, reproduceerbaar onderzoek naar gezondheidszorg-AI uit te voeren. Toekomstig werk is beperkt tot het uitbreiden van de federatieve module met volledige TenSEAL-gebaseerde CKKS-encryptie voor neurale netwerkgewichten en het integreren van real-time dashboards voor dengue-surveillance.