FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

Il documento presenta FairHealth, una libreria Python open-source progettata per colmare le lacune critiche nell'intelligenza artificiale sanitaria per contesti a risorse limitate fornendo un framework unificato e modulare che integra audit di equità, apprendimento federato che preserva la privacy, spiegabilità a bassa larghezza di banda e strumenti specializzati per i dataset del Sud Globale.

L'essenziale

Immagina di costruire un team di medici per aiutare le persone in villaggi remoti dove la connessione internet è instabile, l'elettricità è inaffidabile e non ci sono molti specialisti. Vuoi utilizzare un programma informatico (AI) per aiutarli, ma hai tre grandi preoccupazioni:

1. È equo? Il computer tratta una giovane donna di un villaggio allo stesso modo in cui tratta un uomo anziano della città?
2. È sicuro? Possiamo insegnare al computer senza rubare i cartelle cliniche private dei pazienti?
3. Possiamo fidarci? Se il computer fa un suggerimento, un infermiere locale può capire perché ha fatto quella scelta senza aver bisogno di un dottorato in matematica?

FairHealth è una nuova "cassetta degli attrezzi" gratuita (una libreria Python) progettata specificamente per risolvere questi tre problemi in luoghi come il Bangladesh e altri paesi a risorse limitate. Pensala come un coltellino svizzero per l'AI sanitaria etica.

Ecco come funziona la cassetta degli attrezzi, suddivisa nei suoi sei strumenti principali:

1. Lo "Specchio dell'Equità" (fairhealth.fairness)

Il Problema: Spesso i modelli di AI vengono addestrati su dati provenienti da paesi ricchi. Quando li utilizzi in un luogo diverso, potrebbero sbagliare per certi gruppi di persone (come le donne o specifici gruppi etnici). È come un'app meteo addestrata solo sul meteo di Londra che cerca di prevedere la pioggia nel Sahara; semplicemente non funzionerà.
Lo Strumento: Questo modulo agisce come uno specchio che verifica se la tua AI sta mostrando pregiudizi. Esegue un "audit di equità" per vedere se l'AI tratta gruppi diversi in modo uguale.

• Esempio reale: Il documento mostra che senza questo strumento, un'AI che controllava i battiti cardiaci (ECG) era equa solo il 23% delle volte tra uomini e donne. Dopo aver utilizzato questo strumento per "correggere" l'AI, l'equità è salita al 71%.

2. Il "Traduttore" (fairhealth.explain)

Il Problema: La maggior parte dell'AI è una "scatola nera". Fornisce una risposta, ma nessuno sa come ci sia arrivato. In una clinica affollata in un contesto a risorse limitate, un medico non può chiedere a un informatico di spiegare la matematica. Hanno bisogno di una ragione semplice.
Lo Strumento: Questo modulo traduce la matematica complessa in regole in linguaggio semplice, come un traduttore che parla a un anziano locale.

• Esempio reale: Invece di dire "Il punteggio di probabilità è 0,88", dice: "Regola 1: Pressione alta E Zucchero nel sangue alto = Rischio alto". Uno studio menzionato nel documento ha rilevato che i medici preferivano queste spiegazioni semplici "basate su regole" rispetto a grafici complessi.

3. La "Cassaforte Segreta" (fairhealth.federated)

Il Problema: Gli ospedali non possono condividere le cartelle cliniche dei pazienti a causa delle leggi sulla privacy. È come cercare di insegnare a uno chef una nuova ricetta inviandogli gli ingredienti reali, ma gli ingredienti sono chiusi in una cassaforte.
Lo Strumento: Questo strumento utilizza un tipo speciale di "lucchetto magico" (chiamato Crittografia Omomorfica). Permette agli ospedali di addestrare l'AI insieme senza mai aprire la cassaforte o inviare i dati reali dei pazienti. Inviano solo "indizi crittografati" sulla ricetta.

• Il Risultato: Il documento afferma che questo metodo riduce la quantità di dati inviati su internet del 97,5% (rendendolo veloce anche su connessioni lente) mantenendo i dati matematicamente inattaccabili dagli hacker.

4. Il "Triage di Emergenza" (fairhealth.lowresource)

Il Problema: Durante le epidemie di malattie (come la dengue), le cliniche vengono sopraffatte. Hanno bisogno di un modo rapido per smistare i pazienti, ma il sistema deve funzionare offline e parlare la lingua locale.
Lo Strumento: Questo è un assistente intelligente per lo smistamento della febbre dengue. Fa domande semplici (Età, Posizione, Tipo di abitazione) e fornisce una raccomandazione in inglese o bengalese.

• Esempio reale: Se un bambino a Dhaka ha la febbre, lo strumento può dire immediatamente: "Grave: Vai dal medico immediatamente", aiutando i medici a decidere chi ha bisogno di aiuto per primo.

5. La "Bussola dell'Equità" (fairhealth.equity)

Il Problema: Quando accadono disastri (come le inondazioni), gli aiuti spesso vanno ai luoghi più facili da raggiungere (le città), lasciando indietro le aree rurali più colpite. I vecchi modelli di AI replicano semplicemente questo errore.
Lo Strumento: Questo modulo agisce come una bussola che punta verso le persone che hanno più bisogno di aiuto, indipendentemente da dove vivono. Utilizza una tecnica speciale per ignorare il "pregiudizio geografico".

• Esempio reale: Durante le inondazioni in Bangladesh del 2022, questo strumento ha modificato la lista delle priorità. Un'area rurale chiamata Sunamganj, che in precedenza era classificata al 14º posto per gli aiuti, è stata correttamente spostata al Primo Posto perché il modello ha capito che stavano soffrendo di più.

6. La "Biblioteca Aperta" (fairhealth.datasets)

Il Problema: La maggior parte della ricerca medica sull'AI richiede un permesso speciale (un "Accordo di Utilizzo dei Dati") per accedere alle cartelle cliniche dei pazienti. Questo esclude ricercatori indipendenti, studenti o persone in paesi senza grandi reti ospedaliere.
Lo Strumento: FairHealth è la prima cassetta degli attrezzi che utilizza solo dati che sono già gratuiti e pubblici. Non devi chiedere il permesso o firmare documenti legali.

• Il Beneficio: Chiunque abbia un computer può scaricare i dati e iniziare a costruire AI equa immediatamente.

Riepilogo

FairHealth è un toolkit open-source gratuito che aiuta ricercatori e medici a costruire un'AI che è equa (non discrimina), privata (mantiene i segreti al sicuro) e spiegabile (facile da capire). È costruita specificamente per le sfide dei contesti a risorse limitate, utilizzando solo dati gratuiti per tutti.

Puoi installarlo come qualsiasi altra applicazione (pip install fairhealth) e iniziare a utilizzare questi strumenti per rendere l'AI sanitaria più sicura e affidabile per tutti.

Sommario tecnico

Riepilogo Tecnico: FairHealth

Enunciazione del Problema

L'apprendimento automatico promette molto per l'assistenza sanitaria, tuttavia il suo dispiegamento nel mondo reale, in particolare nei contesti dei paesi a basso reddito e con risorse limitate (LMIC), è ostacolato da tre limitazioni strutturali:

1. Pregiudizio Demografico: I modelli addestrati su dati a livello di popolazione spesso performano male per i gruppi minoritari. Ad esempio, i modelli di rilevamento dell'infarto miocardico basati su ECG non corretti mostrano un rapporto di impatto disparato di 0,23 tra i gruppi di sesso, ben al di sotto della soglia di equità di 0,80.
2. Vincoli sulla Privacy: Le protezioni legali sui registri sanitari impediscono la condivisione dei dati tra istituzioni. Sebbene l'apprendimento federato (FL) offra una soluzione, le librerie Python esistenti mancano dell'integrazione della crittografia omomorfica (HE) accessibile ai ricercatori nel settore sanitario.
3. Lacune nell'Interpretabilità: Gli strumenti di supporto alle decisioni cliniche negli LMIC (ad esempio, Bangladesh) richiedono spiegazioni interpretabili dai clinici senza competenze in ML, operatività in ambienti a bassa larghezza di banda e supporto per le lingue locali. Le librerie esistenti (ad esempio, SHAP, LIME) mancano di integrazione nei flussi di lavoro clinici.

I toolkit attuali come PyHealth coprono ampi set di dati EHR ma omettono l'audit di equità, l'apprendimento federato e il dispiegamento specifico per gli LMIC. Al contrario, le librerie di equità come AIF360 mancano di set di dati specifici per l'assistenza sanitaria, e i framework FL come FATE mancano di focus sanitario e impongono un elevato onere ingegneristico.

Metodologia e Progettazione della Libreria

FairHealth è una libreria Python open-source e modulare progettata per colmare queste lacune. È costruita su cinque contributi di ricerca sottoposti a revisione paritaria e strutturata in sei moduli debolmente accoppiati. La libreria aderisce a tre principi fondamentali di progettazione:

• Solo Dati Pubblici: Tutti i dataset sono scaricabili da fonti pubbliche senza accordi di utilizzo dei dati istituzionali (DUA).
• Ancorato ai Documenti: Ogni modulo è legato a una pubblicazione specifica sottoposta a revisione paritaria, con i risultati chiave documentati nelle docstring per la tracciabilità.
• Inquadramento Clinico: Gli output sono presentati in linguaggio clinico piuttosto che in gergo ML, validati da uno studio che ha coinvolto 14 professionisti sanitari.

Moduli Principali

1. fairhealth.fairness (Equità dei Biosegnali):

   • Funzione: Fornisce metriche di equità agnostiche rispetto al modello (Parità Demografica, Odds Equalizzati, Impatto Disparato) per biosegnali e dati tabulari.
   • Innovazione: Include intersectional_fairness per valutare più attributi sensibili simultaneamente (ad esempio, sesso × età).
   • Validazione: Dimostrato sul dataset PTB-XL, dove il debiasing avversario ha migliorato il rapporto di impatto disparato da 0,23 a 0,71 mantenendo l'AUROC a 0,8472.

2. fairhealth.explain (Interpretabilità Ibrida):

   • Funzione: Combina regole di logica fuzzy ante-hoc con spiegazioni SHAP post-hoc.
   • Innovazione: Affronta il "deficit di fiducia" nei contesti a risorse limitate. Uno studio di validazione clinica ha mostrato una preferenza del 71,4% per questo approccio ibrido rispetto a spiegazioni solo SHAP o solo punteggio.
   • Prestazioni: Ha raggiunto un'accuratezza dell'88,67% sul dataset UCI Maternal Health Risk, superando le linee di base Gradient Boosting di 2,46 punti percentuali.

3. fairhealth.federated (FL a Protezione della Privacy):

   • Funzione: Implementa l'apprendimento federato con crittografia omomorfica (HE) e privacy differenziale (DP).
   • Innovazione: Utilizza l'approccio MedHE, co-progettando la sparsificazione adattiva dei gradienti con la crittografia omomorfica CKKS.
   • Prestazioni: Riduce l'overhead di comunicazione del 97,5% (da 1.277 MB a 32 MB) mantenendo punteggi macro-F1 statisticamente equivalenti al FedAvg standard. Migliora la resistenza agli attacchi di inferenza dell'iscrizione (MIA) a livelli quasi casuali (tasso di successo del 51,1%).

4. fairhealth.lowresource (Triage Multilingue):

   • Funzione: Un classificatore ad Albero Decisionale per il triage della dengue che supporta inglese e bengalese.
   • Innovazione: Opera in condizioni di bassa larghezza di banda utilizzando caratteristiche demografiche (Età, Genere, TipoArea, ecc.).
   • Prestazioni: Ha raggiunto un punteggio F1 di 0,802 e un AUC di 0,851. Uno studio pilota (n=50) ha riportato una soddisfazione degli utenti del 75% per il suo meccanismo di soglia di confidenza (reindirizzamento dei casi a bassa confidenza ai medici).

5. fairhealth.equity (Allocazione degli Aiuti in Caso di Disastro):

   • Funzione: Un'architettura di debiasing avversario per una distribuzione equa degli aiuti per le inondazioni.
   • Innovazione: Utilizza strati di inversione del gradiente per apprendere rappresentazioni di vulnerabilità invarianti per distretto, correggendo i pregiudizi urbani nei dati storici.
   • Prestazioni: Valutato su 87 upazila in Bangladesh, il modello ha ridotto la differenza di parità statistica del 41,6% e il divario di equità regionale del 43,2% con un costo R² minimo (2,7 punti percentuali).

6. fairhealth.datasets (Caricatori Pubblici):

   • Funzione: Caricatori runtime per sei dataset specifici, inclusi dati standard come PTB-XL e MIMIC-III Demo, dati specifici per il Bangladesh su sorveglianza della dengue e danni da inondazioni (PDNA), e dati specifici sulla salute materna.
   • Dati Materni Specifici: Per il modulo sulla salute materna, la libreria integra indicatori reali pubblicati, non valori sintetici o simulati. Le variabili chiave Healthcare_Access_Score e MMR (Maternal Mortality Ratio per 100k) sono estratte direttamente da registri pubblici ufficiali:
     1. DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh).
     2. UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response).
        Questi dati reali garantiscono che le analisi di equità e i modelli predittivi si basino su evidenze epidemiologiche verificate e accessibili al pubblico.

Risultati Chiave e Contributi

Il documento rivendica i seguenti contributi:

1. Framework Unificato: La prima libreria installabile via pip che integra apprendimento federato, equità, interpretabilità e strumenti a risorse limitate specificamente per l'assistenza sanitaria.
2. Riproducibilità: Il primo toolkit di IA sanitaria costruito interamente su dataset pubblicamente disponibili, rimuovendo la barriera dei DUA istituzionali per i ricercatori indipendenti.
3. Focus sugli LMIC: Una raccolta curata di dataset sanitari specifici per il Bangladesh (maternità, dengue, inondazioni) non presenti nelle librerie ML esistenti, con dati reali provenienti da registri governativi e internazionali.
4. Implementazione Aperta: Codice open-source per cinque metodi sottoposti a revisione paritaria, che consente la riproduzione e l'estensione diretta.

Evidenze delle Prestazioni Tecniche:

• Equità: Miglioramento del rapporto di impatto disparato da 0,23 a 0,71 sui dati ECG.
• Privacy: Raggiunta una riduzione delle comunicazioni del 97,5% in FL con HE mantenendo l'utilità del modello (macro-F1 ≈ 0,95).
• Interpretabilità: Preferenza del 71,4% da parte dei clinici per spiegazioni ibride Fuzzy+SHAP.
• Equità: Spostamento delle classifiche di priorità per il 70,6% delle regioni colpite da disastri, migliorando significativamente la posizione delle aree rurali vulnerabili (ad esempio, Sunamganj).

Significato e Rivendicazioni

Il documento posiziona FairHealth come un livello complementare alle librerie esistenti a copertura ampia come PyHealth, mirando specificamente alla "dimensione di affidabilità" (equità, privacy, interpretabilità) che altri strumenti lasciano aperta. Il suo significato principale risiede nella democratizzazione della ricerca sull'IA sanitaria per il Sud Globale attraverso:

• L'eliminazione della necessità di accordi di accesso ai dati istituzionali, utilizzando invece registri pubblici verificati come il DGHS Dashboard e l'UNFPA MPDSR.
• La fornitura di strumenti adattati per ambienti clinici multilingue e a bassa larghezza di banda.
• L'assicurazione che equità e privacy non siano ripensamenti, ma componenti integrati e auditabili del flusso di lavoro ML.

Gli autori affermano che la libreria permette ai ricercatori di tutto il mondo, inclusi quelli senza affiliazioni ospedaliere, di condurre ricerche rigorose e riproducibili sull'IA sanitaria. Il lavoro futuro è limitato all'espansione del modulo federato con la crittografia CKKS completa basata su TenSEAL per i pesi delle reti neurali e all'integrazione di dashboard in tempo reale per la sorveglianza della dengue.