FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

Der Artikel stellt FairHealth vor, eine Open-Source-Python-Bibliothek, die darauf ausgelegt ist, kritische Lücken in der KI-gestützten Gesundheitsversorgung für ressourcenarme Settings zu schließen, indem sie ein einheitliches, modulares Framework bereitstellt, das Fairness-Audits, privatsphäreschonendes federiertes Lernen, erklärbarkeit bei geringer Bandbreite sowie spezialisierte Werkzeuge für Datensätze des Globalen Südens integriert.

Das Wesentliche

Stellen Sie sich vor, Sie bauen ein Team von Ärzten auf, um Menschen in abgelegenen Dörfern zu helfen, in denen das Internet unzuverlässig ist, die Stromversorgung schwankt und es nur wenige Spezialisten gibt. Sie möchten ein Computerprogramm (KI) einsetzen, um sie zu unterstützen, haben aber drei große Sorgen:

1. Ist es fair? Behandelt der Computer eine junge Frau aus einem Dorf genauso wie einen älteren Mann aus der Stadt?
2. Ist es sicher? Können wir den Computer unterrichten, ohne private Patientenakten zu stehlen?
3. Können wir ihm vertrauen? Wenn der Computer eine Empfehlung ausspricht, kann eine lokale Krankenschwester verstehen, warum er diese Entscheidung getroffen hat, ohne ein Mathematik-PhD zu besitzen?

FairHealth ist ein neues, kostenloses „Werkzeugkasten" (eine Python-Bibliothek), das speziell entwickelt wurde, um diese drei Probleme für Orte wie Bangladesch und andere Länder mit geringen Ressourcen zu lösen. Denken Sie daran als an ein Schweizer Taschenmesser für ethische Gesundheits-KI.

So funktioniert der Werkzeugkasten, aufgeschlüsselt in seine sechs Hauptwerkzeuge:

1. Der „Fairness-Spiegel" (fairhealth.fairness)

Das Problem: Oft werden KI-Modelle mit Daten aus wohlhabenden Ländern trainiert. Wenn man sie an einem anderen Ort einsetzt, können sie für bestimmte Personengruppen (wie Frauen oder spezifische ethnische Gruppen) falsch liegen. Es ist wie eine Wetter-App, die nur mit Londoner Wetterdaten trainiert wurde und versucht, Regen in der Sahara vorherzusagen; sie wird einfach nicht funktionieren.
Das Werkzeug: Dieses Modul wirkt wie ein Spiegel, der prüft, ob Ihre KI voreingenommen ist. Es führt eine „Fairness-Prüfung" durch, um festzustellen, ob die KI verschiedene Gruppen gleich behandelt.

• Beispiel aus der Praxis: Die Studie zeigt, dass ohne dieses Werkzeug eine KI zur Überprüfung von Herzschlägen (EKG) nur in 23 % der Fälle zwischen Männern und Frauen fair war. Nach der Anwendung dieses Werkzeugs zur „Korrektur" der KI stieg die Fairness auf 71 %.

2. Der „Übersetzer" (fairhealth.explain)

Das Problem: Die meisten KI-Systeme sind eine „Blackbox". Sie liefern eine Antwort, aber niemand weiß, wie sie darauf gekommen ist. In einer belebten Klinik in einem Land mit geringen Ressourcen kann ein Arzt keinen Informatiker bitten, die Mathematik zu erklären. Sie benötigen einen einfachen Grund.
Das Werkzeug: Dieses Modul übersetzt komplexe Mathematik in einfache Sprachregeln, wie ein Dolmetscher, der mit einem lokalen Ältesten spricht.

• Beispiel aus der Praxis: Anstatt zu sagen „Der Wahrscheinlichkeitswert beträgt 0,88", sagt es: „Regel 1: Hoher Blutdruck UND hoher Blutzucker = Hohes Risiko". Eine in der Studie erwähnte Untersuchung ergab, dass Ärzte diese einfachen „regelbasierten" Erklärungen komplexen Diagrammen vorzogen.

3. Der „Geheimtresor" (fairhealth.federated)

Das Problem: Krankenhäuser können Patientenakten aufgrund von Datenschutzgesetzen nicht teilen. Es ist, als würde man einem Koch versuchen, ein neues Rezept beizubringen, indem man ihm die tatsächlichen Zutaten schickt, diese aber in einem Tresor verschlossen sind.
Das Werkzeug: Dieses Werkzeug verwendet eine spezielle Art von „magischem Schloss" (Homomorphe Verschlüsselung). Es ermöglicht Krankenhäusern, die KI gemeinsam zu trainieren, ohne jemals den Tresor zu öffnen oder die tatsächlichen Patientendaten zu senden. Sie senden nur „verschlüsselte Hinweise" über das Rezept.

• Das Ergebnis: Die Studie behauptet, dass diese Methode die über das Internet gesendete Datenmenge um 97,5 % reduziert (was sie auch bei langsamen Verbindungen schnell macht), während die Daten mathematisch für Hacker unknackbar bleiben.

4. Der „Notfall-Triage" (fairhealth.lowresource)

Das Problem: Während Krankheitsausbrüchen (wie Dengue-Fieber) sind Kliniken überlastet. Sie benötigen eine schnelle Möglichkeit, Patienten zu sortieren, aber das System muss offline funktionieren und die lokale Sprache sprechen.
Das Werkzeug: Dies ist ein intelligenter Sortierassistent für Dengue-Fieber. Er stellt einfache Fragen (Alter, Ort, Wohnart) und gibt eine Empfehlung auf Englisch oder Bengali aus.

• Beispiel aus der Praxis: Wenn ein Kind in Dhaka Fieber hat, kann das Werkzeug sofort sagen: „Schwerwiegend: Sofort zum Arzt", was Ärzten hilft zu entscheiden, wer zuerst Hilfe benötigt.

5. Der „Gerechtigkeits-Kompass" (fairhealth.equity)

Das Problem: Wenn Katastrophen passieren (wie Überschwemmungen), geht Hilfe oft an die Orte, die am leichtesten erreichbar sind (Städte), und lässt die am stärksten betroffenen ländlichen Gebiete zurück. Alte KI-Modelle kopieren diesen Fehler einfach.
Das Werkzeug: Dieses Modul wirkt wie ein Kompass, der auf die Menschen zeigt, die am meisten Hilfe benötigen, unabhängig davon, wo sie leben. Es verwendet eine spezielle Technik, um „Standortverzerrungen" zu ignorieren.

• Beispiel aus der Praxis: Bei den Überschwemmungen in Bangladesch 2022 änderte dieses Werkzeug die Prioritätenliste. Ein ländliches Gebiet namens Sunamganj, das zuvor für Hilfe auf Platz 14 rangierte, wurde korrekt auf Platz 1 hochgestuft, weil das Modell erkannte, dass sie am stärksten litten.

6. Die „Offene Bibliothek" (fairhealth.datasets)

Das Problem: Die meisten medizinischen KI-Forschungen benötigen eine spezielle Genehmigung (eine „Nutzungsvereinbarung für Daten"), um auf Patientenakten zugreifen zu können. Dies schließt unabhängige Forscher, Studenten oder Menschen in Ländern ohne große Krankenhausnetzwerke aus.
Das Werkzeug: FairHealth ist der erste Werkzeugkasten, der ausschließlich Daten verwendet, die bereits kostenlos und öffentlich zugänglich sind. Sie müssen keine Genehmigung einholen oder rechtliche Papiere unterschreiben.

• Der Vorteil: Jeder mit einem Computer kann die Daten herunterladen und sofort beginnen, faire KI zu entwickeln.

Zusammenfassung

FairHealth ist ein kostenloses, quelloffenes Toolkit, das Forschern und Ärzten hilft, KI zu entwickeln, die fair (nicht diskriminierend), privat (hält Geheimnisse sicher) und erklärbar (leicht verständlich) ist. Es wurde speziell für die Herausforderungen in Umgebungen mit geringen Ressourcen entwickelt und verwendet ausschließlich Daten, die für jedermann kostenlos nutzbar sind.

Sie können es genau wie jede andere App installieren (pip install fairhealth) und beginnen, diese Werkzeuge zu nutzen, um KI im Gesundheitswesen für alle sicherer und vertrauenswürdiger zu machen.

Technische Zusammenfassung

Technische Zusammenfassung: FairHealth

Problemstellung

Maschinelles Lernen verspricht erhebliche Fortschritte im Gesundheitswesen, doch seine reale Implementierung, insbesondere in ressourcenarmen und einkommensschwachen Ländern (LMIC), wird durch drei strukturelle Einschränkungen behindert:

1. Demografische Verzerrung: Modelle, die mit Daten auf Bevölkerungsebene trainiert wurden, schneiden für Minderheitengruppen oft schlechter ab. Beispielsweise weisen unkorrigierte Modelle zur Erkennung von Myokardinfarkten auf Basis von EKG-Daten ein Disparate-Impact-Verhältnis von 0,23 über Geschlechtergruppen hinweg auf, was weit unter dem Schwellenwert von 0,80 für Chancengleichheit liegt.
2. Datenschutzbeschränkungen: Rechtliche Schutzvorkehrungen für Gesundheitsdaten verhindern den Datenaustausch zwischen Institutionen. Obwohl Federated Learning (FL) eine Lösung bietet, fehlt es in bestehenden Python-Bibliotheken an der Integration kryptografischer homomorpher Verschlüsselung (HE), die für Gesundheitsforscher zugänglich ist.
3. Erklärbarkeitslücken: Klinische Entscheidungsunterstützungstools in LMICs (z. B. Bangladesch) benötigen Erklärungen, die von Klinikern ohne ML-Expertise interpretierbar sind, funktionieren in Umgebungen mit geringer Bandbreite und unterstützen lokale Sprachen. Bestehende Bibliotheken (z. B. SHAP, LIME) fehlen die Integration in klinische Arbeitsabläufe.

Aktuelle Toolkits wie PyHealth decken breite EHR-Datensätze ab, vernachlässigen jedoch Fairness-Audits, Federated Learning und den spezifischen Einsatz in LMICs. Umgekehrt fehlen Fairness-Bibliotheken wie AIF360 spezifische Gesundheitsdatensätze, und FL-Frameworks wie FATE haben keinen Fokus auf das Gesundheitswesen und verursachen einen hohen technischen Aufwand.

Methodik und Bibliotheksdesign

FairHealth ist eine Open-Source-, modulare Python-Bibliothek, die entwickelt wurde, um diese Lücken zu schließen. Sie basiert auf fünf peer-reviewten Forschungsbeiträgen und ist in sechs lose gekoppelte Module strukturiert. Die Bibliothek folgt drei grundlegenden Designprinzipien:

• Nur öffentliche Daten: Alle Datensätze sind aus öffentlichen Quellen ohne institutionelle Datennutzungsvereinbarungen (DUAs) herunterladbar.
• Papiergebunden: Jedes Modul ist an eine spezifische peer-reviewte Publikation gebunden, wobei die wichtigsten Ergebnisse in Docstrings zur Nachverfolgbarkeit dokumentiert sind.
• Klinische Rahmung: Ausgaben werden in klinischer Sprache statt in ML-Jargon präsentiert, validiert durch eine Studie mit 14 Gesundheitsfachkräften.

Kernmodule

1. fairhealth.fairness (Fairness bei Biosignalen):

   • Funktion: Bietet modellunabhängige Fairness-Metriken (Demografische Parität, Equalized Odds, Disparate Impact) für Biosignale und tabellarische Daten.
   • Innovation: Enthält intersectional_fairness zur gleichzeitigen Bewertung mehrerer sensibler Attribute (z. B. Geschlecht × Alter).
   • Validierung: Demonstriert am PTB-XL-Datensatz, wo adversarielles Debiasing das Disparate-Impact-Verhältnis von 0,23 auf 0,71 verbesserte, bei gleichzeitiger Beibehaltung eines AUROC-Werts von 0,8472.

2. fairhealth.explain (Hybride Erklärbarkeit):

   • Funktion: Kombiniert ante-hoc-Regeln der Fuzzy-Logik mit post-hoc-SHAP-Erklärungen.
   • Innovation: Adressiert das „Vertrauensdefizit" in ressourcenbeschränkten Umgebungen. Eine Validierungsstudie mit Klinikern zeigte eine Präferenz von 71,4 % für diesen hybriden Ansatz gegenüber reinen SHAP- oder reinen Score-Erklärungen.
   • Leistung: Erzielte eine Genauigkeit von 88,67 % auf dem UCI-Datensatz für mütterliche Gesundheitsrisiken und übertraf Gradient-Boosting-Baselines um 2,46 Prozentpunkte.

3. fairhealth.federated (Datenschutzfreundliches FL):

   • Funktion: Implementiert Federated Learning mit homomorpher Verschlüsselung (HE) und Differential Privacy (DP).
   • Innovation: Nutzt den MedHE-Ansatz, bei dem adaptive Gradientenverdünnung gemeinsam mit CKKS-homomorpher Verschlüsselung entwickelt wurde.
   • Leistung: Reduziert den Kommunikationsaufwand um 97,5 % (von 1.277 MB auf 32 MB), während die macro-F1-Werte statistisch äquivalent zum Standard-FedAvg bleiben. Es verbessert den Widerstand gegen Mitgliedschafts-Inferenz-Angriffe (MIA) auf nahezu zufällige Niveaus (Erfolgsrate 51,1 %).

4. fairhealth.lowresource (Mehrsprachige Triage):

   • Funktion: Ein Decision-Tree-Klassifikator für die Dengue-Triage, der Englisch und Bengali unterstützt.
   • Innovation: Funktioniert unter Bedingungen geringer Bandbreite unter Verwendung demografischer Merkmale (Alter, Geschlecht, Gebietstyp usw.).
   • Leistung: Erzielte einen F1-Score von 0,802 und eine AUC von 0,851. Eine Pilotstudie (n=50) berichtete über eine Zufriedenheit der Nutzer von 75 % mit dem Konfidenzschwellenwert-Mechanismus (Weiterleitung von Fällen mit niedriger Konfidenz an Ärzte).

5. fairhealth.equity (Zuweisung von Katastrophenhilfe):

   • Funktion: Eine adversarielle Debiasing-Architektur für eine gerechte Verteilung von Hochwasserhilfen.
   • Innovation: Nutzt Gradienten-Umkehrschichten zu lernen distriktsinvariante Vulnerabilitätsrepräsentationen und urbane Verzerrungen in historischen Daten zu korrigieren.
   • Leistung: Evaluiert an 87 Upazilas in Bangladesch reduzierte das Modell den statistischen Paritätsunterschied um 41,6 % und die regionale Fairnesslücke um 43,2 % bei minimalen R²-Kosten (2,7 Prozentpunkte).

6. fairhealth.datasets (Öffentliche Loader):

   • Funktion: Runtime-Loader für sechs spezifische Datensätze, einschließlich bangladeschspezifischer Daten zu mütterlicher Gesundheit, Dengue-Überwachung und Hochwasserschäden (PDNA), sowie Standarddatensätze wie PTB-XL und MIMIC-III Demo.
   • Datenherkunft und -qualität: Die im Modul für mütterliche Gesundheit verwendeten regionalen Gesundheitsdaten stammen aus realen öffentlichen Registern und sind keine synthetischen oder simulierten Werte. Konkret werden die Variablen Healthcare_Access_Score und MMR (Maternal Mortality Ratio per 100k) aus zwei offiziellen Quellen bezogen:
     1. DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh).
     2. UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response).
        Diese Quellen stellen sicher, dass die Indikatoren real veröffentlichte, verifizierte Kennzahlen aus dem öffentlichen Sektor darstellen.

Wichtige Ergebnisse und Beiträge

Die Arbeit beansprucht folgende Beiträge:

1. Einheitliches Framework: Die erste pip-installierbare Bibliothek, die Federated Learning, Fairness, Erklärbarkeit und Low-Resource-Tools speziell für das Gesundheitswesen integriert.
2. Reproduzierbarkeit: Das erste Healthcare-AI-Toolkit, das vollständig auf öffentlich verfügbaren Datensätzen basiert und damit die Hürde institutioneller DUAs für unabhängige Forscher beseitigt.
3. LMIC-Fokus: Eine kuratierte Sammlung bangladeschspezifischer Gesundheitsdatensätze (mütterliche Gesundheit, Dengue, Hochwasser), die in bestehenden ML-Bibliotheken nicht zu finden sind.
4. Offene Implementierung: Open-Source-Code für fünf peer-reviewte Methoden, die eine direkte Reproduktion und Erweiterung ermöglichen.

Technische Leistungshighlights:

• Fairness: Verbesserung des Disparate-Impact-Verhältnisses von 0,23 auf 0,71 bei EKG-Daten.
• Datenschutz: Erzielte eine Reduktion des Kommunikationsaufwands um 97,5 % in FL mit HE bei gleichzeitiger Beibehaltung der Modellnützlichkeit (macro-F1 ≈ 0,95).
• Erklärbarkeit: Präferenz von Klinikern von 71,4 % für hybride Fuzzy+SHAP-Erklärungen.
• Gerechtigkeit: Verschiebung der Prioritätsrankings für 70,6 % der von Katastrophen betroffenen Regionen, mit einer signifikanten Aufwertung vulnerabler ländlicher Gebiete (z. B. Sunamganj).

Bedeutung und Behauptungen

Die Arbeit positioniert FairHealth als ergänzende Schicht zu bestehenden Bibliotheken mit breiter Abdeckung wie PyHealth, die speziell die Dimension der „Vertrauenswürdigkeit" (Fairness, Datenschutz, Erklärbarkeit) adressiert, die andere Tools offen lassen. Ihre primäre Bedeutung liegt in der Demokratisierung der Healthcare-AI-Forschung für den Globalen Süden durch:

• Die Beseitigung der Notwendigkeit institutioneller Datennutzungsvereinbarungen.
• Die Bereitstellung von Tools, die auf klinische Umgebungen mit geringer Bandbreite und Mehrsprachigkeit zugeschnitten sind.
• Die Sicherstellung, dass Fairness und Datenschutz keine nachträglichen Gedanken sind, sondern integrierte, überprüfbare Komponenten des ML-Workflows.

Die Autoren erklären, dass die Bibliothek Forschern weltweit, einschließlich solcher ohne Krankenhausaffiliation, ermöglicht, rigorose und reproduzierbare Healthcare-AI-Forschung durchzuführen. Zukünftige Arbeiten beschränken sich auf die Erweiterung des Federated-Moduls mit vollständiger TenSEAL-basierter CKKS-Verschlüsselung für neuronale Netzgewichte und die Integration von Echtzeit-Dashboards für die Dengue-Überwachung.