(Un)fair devices: Moving beyond AI accuracy in personal sensing

Questa revisione della letteratura evidenzia i rischi di bias nascosti nei modelli di apprendimento automatico dei dispositivi personali e promuove un approccio centrato sull'uomo, con linee guida specifiche per garantire equità e affidabilità nelle applicazioni di salute e benessere.

L'essenziale

Immagina di avere un assistente personale digitale, un piccolo "guardiano" che ti segue ovunque: sul polso, nel taschino o persino sotto la pelle. Questo assistente è il tuo dispositivo intelligente (smartwatch, anello, cerotto) che ti dice quanto hai dormito, se il tuo cuore sta battendo bene o se hai fatto abbastanza passi. Sembra magico, vero?

Ma questo articolo, scritto da un gruppo di ricercatori, ci racconta una storia diversa, un po' come se scoprissero che il nostro assistente magico ha degli "occhiali colorati" che gli impediscono di vedere la realtà in modo giusto per tutti.

Ecco la spiegazione semplice, con qualche metafora per chiarire le idee.

1. Il Problema: L'Assistente che "vede" solo alcuni colori

Immagina che questi dispositivi siano come fotografi. Il loro lavoro è scattare foto alla tua salute e usare l'Intelligenza Artificiale (AI) per interpretarle.
Il problema è che questi fotografi hanno fatto pratica quasi esclusivamente su un gruppo di persone molto specifico: giovani, bianchi, occidentali, ricchi e istruiti (i ricercatori usano l'acronimo inglese "WEIRD").

• L'analogia del sarto: Pensa a un sarto che taglia abiti su misura. Se ha fatto tutti i suoi provini solo su persone alte e magre, quando proverà a vestire una persona più alta o più robusta, l'abito non starà bene. Potrebbe stringere troppo o cadere.
• La realtà: È successo esattamente questo con i dispositivi medici.
  • Gli ossimetri (quelli che misurano l'ossigeno nel sangue) funzionano benissimo sulla pelle chiara, ma su pelli più scure spesso sbagliano, dicendo che una persona sta bene quando invece sta male.
  • I sensori di battito cardiaco ottici faticano a leggere il cuore di persone con un peso maggiore o di certe etnie.
  • I sistemi che ascoltano la voce o il respiro fanno più fatica a capire le donne o i bambini, perché le loro voci o i loro corpi sono diversi da quelli su cui il computer è stato "addestrato".

2. Perché succede? (Il "Bias" nascosto)

Il termine tecnico è "bias" (pregiudizio), ma pensiamoci come a un filtro invisibile.
Quando i ricercatori costruiscono questi dispositivi, usano dati raccolti in laboratorio. Spesso, i partecipanti sono studenti universitari o volontari facili da trovare.

• Il problema dei dati: È come se volessi insegnare a un cane a riconoscere tutti i cani del mondo, ma gli mostrassi solo foto di Golden Retriever. Quando vedrà un Bulldog, non lo riconoscerà.
• Il risultato: Se un dispositivo non è stato testato su persone diverse (per età, peso, etnia, genere), le sue previsioni saranno ingiuste. Potrebbe non rilevare un infarto in una persona anziana o non capire che una donna è incinta basandosi sui suoi dati di movimento.

3. Cosa hanno scoperto gli autori?

Gli autori hanno letto centinaia di articoli scientifici su questi dispositivi e hanno trovato una cosa preoccupante: quasi nessuno controlla se il dispositivo è "giusto" per tutti.
La maggior parte dei ricercatori si concentra solo sulla domanda: "Funziona?" (È preciso?).
Pochissimi chiedono: "Funziona per tutti allo stesso modo?".
È come se un'azienda di automobili vendesse un'auto che va velocissima, ma non controllasse mai se i freni funzionano bene anche quando piove o su strade sconnesse.

4. La Soluzione: "Fairness by Design" (Giustizia fin dal disegno)

Gli autori non vogliono solo lamentarsi, vogliono cambiare le regole del gioco. Propongono un nuovo approccio chiamato "Fairness by Design" (Giustizia fin dalla progettazione).

Immagina di costruire una casa.

• Il vecchio modo: Costruisci la casa, poi, quando è finita, guardi se le scale sono comode per chi usa la sedia a rotelle. Se non lo sono, provi a mettere una rampa (spesso è troppo tardi o costoso).
• Il nuovo modo ("Fairness by Design"): Prima di posare il primo mattone, chiedi: "Come useranno questa casa persone di tutte le età, altezze e abilità?". Progetti le porte larghe e le scale accessibili fin dall'inizio.

5. Le Regole d'Oro per il Futuro

Per rendere questi dispositivi equi, gli autori danno 14 consigli pratici, che possiamo riassumere in tre grandi idee:

1. Raccogli dati veri e vari: Non usare solo studenti universitari. Coinvolgi persone di tutte le età, pesi, etnie e condizioni di salute. È come fare una torta: se metti solo zucchero, non è buona per chi non lo ama. Devi avere tutti gli ingredienti.
2. Controlla costantemente: Non basta testare il dispositivo una volta. I corpi cambiano, i sensori invecchiano e il mondo cambia. Bisogna controllare continuamente se il dispositivo continua a funzionare bene per tutti, anche dopo anni di utilizzo.
3. Sii trasparente: Se un dispositivo sbaglia con un certo gruppo di persone, bisogna dirlo chiaramente. Non nascondere i difetti.

In sintesi

Questo articolo ci dice che la tecnologia è potente, ma non è neutrale. Se costruiamo i nostri "guardiani digitali" basandoci solo su una piccola parte della popolazione, stiamo creando strumenti che potrebbero danneggiare le persone più vulnerabili.

L'obiettivo è passare da una tecnologia che dice "Sono preciso" a una che dice "Sono preciso e giusto per te, chiunque tu sia". È un passo necessario per garantire che il futuro della salute digitale non lasci indietro nessuno.

Sommario tecnico

Titolo: (In)equità dei dispositivi: Oltre l'accuratezza dell'IA nel sensing personale

1. Il Problema

I dispositivi personali (smartwatch, anelli intelligenti, sensori indossabili) sono diventati onnipresenti, generando flussi di dati continui che alimentano applicazioni di Intelligenza Artificiale (AI) e Machine Learning (ML) per il monitoraggio della salute, dello stile di vita e della produttività. Tuttavia, il paper evidenzia un problema critico: l'equità (fairness) di questi modelli è spesso trascurata.

• Bias Nascosti: I modelli ML implementati su questi dispositivi non sono immuni da pregiudizi. A differenza dei dataset tabellari statici usati nella ricerca ML tradizionale, i dati dei dispositivi personali sono temporali, continui e mutabili, rendendo i bias più difficili da rilevare.
• Conseguenze Reali: I bias possono portare a errori diagnostici gravi. Esempi citati includono:
  • Razziale: Ossimetri e sensori di frequenza cardiaca ottici sottostimano l'ipossia o la frequenza cardiaca in pazienti di colore a causa della pigmentazione della pelle.
  • Di Genere: Sistemi di monitoraggio acustico (respiro, battito cardiaco) mostrano prestazioni inferiori per le donne o in base alla morfologia corporea.
  • Per Età: Riconoscimento della camminata (gait) meno accurato per gli anziani o i bambini a causa di pattern di movimento diversi.
• Mancanza di Valutazione: Nonostante l'importanza di queste applicazioni (es. rilevamento di fibrillazione atriale, diagnosi di COVID-19), la letteratura scientifica nel campo del ubiquitous computing mostra una scarsa attenzione alle valutazioni di equità.

2. Metodologia

Gli autori hanno condotto una revisione sistematica della letteratura seguendo il protocollo di Kitchenham e Charters.

• Fonti dei Dati: La ricerca si è concentrata sulle pubblicazioni tra il 2018 e il 2025, principalmente sulla rivista Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies (IMWUT), estendendo l'analisi anche a conferenze come MobiCom, MobiSys, SenSys e journal IEEE.
• Query di Ricerca: È stata utilizzata una query complessa che combinava termini relativi a dispositivi mobili/indossabili, Machine Learning e concetti di equità (fairness, bias, discriminazione).
• Criteri di Inclusione/Esclusione:
  • Inclusione: Studi che forniscono valutazioni quantitative su dispositivi mobili/indossabili e che includono una valutazione quantitativa del bias o delle discrepanze di performance rispetto ad attributi sensibili (età, genere, razza, stato di salute, ecc.).
  • Esclusione: Studi senza valutazione quantitativa empirica, studi su domini non ubiquitari (es. solo NLP o Computer Vision senza sensori), o discussioni sul bias in contesti non rilevanti (es. trade-off bias-varianza).
• Risultato del Filtro: Su 957 articoli recuperati, solo 89 (circa il 9%) sono stati inclusi nella sintesi finale. Questo dato sottolinea la scarsa attenzione al tema dell'equità nel settore.

3. Risultati Chiave e Scoperte

L'analisi dei 89 articoli selezionati ha portato a diverse conclusioni fondamentali:

• Dominio Sanitario: Il settore sanitario è il più rappresentato (quasi il 25% dei paper), seguito dal riconoscimento dell'attività umana e dal sensing comportamentale.
• Sottorappresentazione Demografica:
  • I dataset sono prevalentemente composti da campioni WEIRD (Western, Educated, Industrialized, Rich, Democratic).
  • Il genere è l'attributo sensibile più riportato, ma le donne sono spesso sottorappresentate (media del 31% nei campioni).
  • L'età è riportata in meno del 40% dei paper, con una media di partecipanti molto giovani (34 anni), nonostante l'invecchiamento della popolazione.
  • La razza è l'attributo meno riportato (solo 1 su 10 paper), e quando presente, la stragrande maggioranza dei partecipanti è bianca (89%).
• Tipologie di Bias Rilevati:
  • Segnali Acustici: Bias legati al BMI, al genere (frequenza vocale) e all'età (densità ossea).
  • Sensing RF (WiFi, Radar): Prestazioni ridotte per corpi di grandi dimensioni o per bambini a causa di pattern di movimento variabili.
  • Visione Artificiale: Bias legati alla pigmentazione della pelle, all'altezza e a coperture del capo.
  • Segnali Sensoriali (PPG, ECG, IMU): Errori sistematici legati alla profondità dei tessuti, alla morfologia corporea e alle differenze fisiologiche di genere ed età.
• Mancanza di Mitigazione: Nonostante la presenza di bias, 3 paper su 4 non riportano alcun meccanismo di mitigazione della fairness. La priorità è spesso data alla performance (accuratezza) piuttosto che all'equità.
• Approcci Attuali: La comunità tende a usare studi di ablazione (testare il modello in diverse condizioni) e personalizzazione (modelli specifici per gruppi) come proxy per l'equità, ma questi non sostituiscono una valutazione formale della fairness.

4. Contributi Principali: "Fairness by Design"

Il contributo centrale del paper è la proposta di un framework di 14 raccomandazioni per integrare l'equità in ogni fase del ciclo di vita del ML nei dispositivi personali, ispirato al concetto di "Privacy by Design".

Le raccomandazioni sono divise in quattro fasi:

1. Raccolta e Annotazione dei Dati:
   • Identificare i bias potenziali durante la progettazione.
   • Garantire campioni diversificati e adeguati (non solo studenti universitari).
   • Coinvolgere annotatori diversi e formare su bias impliciti.
   • Rendere pubblici gli attributi protetti nei dataset (con anonimizzazione).
2. Esplorazione e Manipolazione dei Dati:
   • Validare i dati attraverso gruppi sensibili per rilevare anomalie.
   • Investigare le fonti di errore di misurazione (hardware, adattamento del dispositivo).
   • Valutare l'impatto delle tecniche di pre-processing (es. finestre temporali, downsampling) su diversi gruppi demografici.
3. Sviluppo e Valutazione del Modello:
   • Utilizzare toolkit di fairness esistenti (es. FairLearn, AIF360), adattandoli per dati temporali.
   • Considerare nozioni indirette di equità (es. esclusione di dispositivi con connettività scarsa nel Federated Learning).
   • Utilizzare metriche di fairness adatte a regressioni e classi multiple, non solo classificazione binaria.
   • Generare dati sintetici diversificati per colmare lacune nei dataset reali.
4. Deploy e Utilizzo:
   • Monitorare le prestazioni in tempo reale per rilevare drift dei dati e della fairness.
   • Rivalutare i modelli dopo il deploy utilizzando dati reali (anche senza etichette, tramite metodi non supervisionati).
   • Garantire trasparenza nella versioning dei modelli per tracciare l'impatto delle modifiche su diversi gruppi.

5. Significato e Impatto

Questo lavoro è significativo perché:

• Sposta il Paradigma: Invita la comunità del ubiquitous computing a passare da una valutazione basata esclusivamente sull'accuratezza a una basata su principi di equità e giustizia sociale.
• Riconosce la Specificità dei Dati: Evidenzia che i dati dei dispositivi personali (temporali, continui, rumorosi) richiedono approcci alla fairness diversi da quelli usati per i dataset tabellari statici.
• Implicazioni Etiche e Regolatorie: Con l'avvento di normative come l'EU AI Act, che richiedono valutazioni del rischio per le applicazioni ad alto impatto, ignorare i bias nei dispositivi personali potrebbe portare a conseguenze legali e sociali gravi, specialmente in ambito sanitario.
• Guida Pratica: Fornisce linee guida concrete per ricercatori e sviluppatori per costruire dispositivi che siano non solo precisi, ma anche equi per tutti gli utenti, indipendentemente da razza, genere, età o condizione fisica.

In sintesi, il paper sostiene che l'equità non può essere un ripensamento tardivo, ma deve essere un requisito fondamentale ("Fairness by design") sin dalle prime fasi dello sviluppo dei dispositivi intelligenti.