A scoping review of gender bias in digital occupational health management

Immagina il luogo di lavoro come un mondo di videogiochi gigante e frenetico dove tutti cercano di rimanere in salute e felici mentre giocano. Negli ultimi anni, i "game master" (aziende ed esperti di salute) hanno iniziato a usare strumenti digitali super intelligenti — come app, dispositivi indossabili e programmi informatici — per aiutare i giocatori a gestire la propria salute. Questo è chiamato Gestione della Salute sul Lavoro. Immaginalo come un coach digitale che traccia i tuoi passi, ti ricorda di fare stretching o suggerisce una pausa quando hai fissato lo schermo troppo a lungo. L'idea è che questi coach digitali possano essere super efficienti e su misura per ogni giocatore. Tuttavia, c'è un trucco: se il coach è stato costruito usando un libro di regole che ha guardato solo metà dei giocatori, o se il cervello del coach (l'algoritmo) è stato addestrato su dati vecchi e incompleti, potrebbe dare consigli che funzionano benissimo per alcuni ma che lasciano indietro altri. Questo è il problema del bias di genere: quando un sistema, accidentalmente, tratta uomini e donne in modo diverso e ingiusto, spesso perché non "vede" l'immagine completa di come le loro vite e i loro corpi siano effettivamente diversi.

Ora, facciamo uno zoom su un nuovo studio che agisce come un detective, dando la caccia esattamente a dove questi coach digitali della salute stanno sbagliando. I ricercatori non hanno solo tirato a indovinare; sono partiti per una massiccia caccia al tesoro, cercando attraverso database e rapporti ufficiali per trovare 62 diversi pezzi di evidenza. Cercavano i modi specifici in cui questi strumenti digitali mancano il bersaglio per quanto riguarda il genere.

Ciò che hanno trovato è una collezione di cinque insidie subdole che possono far inciampare il sistema. Primo, c'è il gap di dati di genere. Immagina di cercare di preparare una torta per una folla intera, ma hai solo una ricetta che elenca gli ingredienti per i ragazzi. Potresti finire con una torta dal sapore strano o che non funziona per le ragazze perché alla ricetta mancava metà degli ingredienti. Nel mondo digitale, questo significa che i computer prendono decisioni basandosi su dati che non includono abbastanza informazioni sulle donne.

Secondo, c'è il bias algoritmico. Questo è come un arbitro robot che ha imparato le regole del gioco da un coach parziale. Anche se il robot cerca di essere equo, continua a fare le stesse chiamate ingiuste perché è stato istruito a vedere il mondo attraverso una lente stretta.

Terzo, lo studio evidenzia il gap di salute di genere. Questo non riguarda il computer; riguarda la vita reale. Uomini e donne spesso portano "zaini" diversi di stress lavorativo e carichi fisici. Se il coach digitale non sa che uno zaino è più pesante o ha una forma diversa, non può aiutare il giocatore a trasportarlo correttamente.

Quarto, c'è il gap digitale di genere. Questo riguarda semplicemente chi tiene in mano il controller. Se alcune persone non hanno accesso alle ultime tecnologie o non si sentono a proprio agio nell'usarle, il coach digitale della salute non riesce nemmeno ad aiutarle.

Infine, i ricercatori hanno avvistato il paradosso della salute di genere. Questa è una situazione confusa in cui un gruppo potrebbe sembrare più malato sulla carta (più segnalazioni di dolore o stanchezza) ma in realtà vive più a lungo, mentre un altro gruppo sembra più sano ma ha un rischio maggiore di problemi seri. È un mistero che gli strumenti digitali spesso non riescono a risolvere perché guardano i numeri in modo troppo semplice.

L'articolo suggerisce che, a causa di queste cinque insidie, le misure digitali della salute spesso mancano i bisogni specifici dei diversi generi. Gli autori non stanno dicendo che la tecnologia sia rotta per sempre, ma stanno avvertendo che non possiamo semplicemente accenderla e sperare nel meglio. Inveve, raccomandano un aggiornamento importante: dobbiamo assicurarci che il "gender mainstreaming" (pensare al genere in ogni singolo passaggio) e l' "intersezionalità" (comprendere come le diverse parti dell'identità di una persona si mescolino tra loro) siano integrati nel sistema fin dall'inizio. Solo riparando la ricetta, addestrando meglio il robot arbitro e assicurandoci che tutti abbiano un controller, potremo costruire un mondo digitale della salute che funzioni per tutti.