A scoping review of gender bias in digital occupational health management

Stel je de werkplek voor als een gigantische, bruisende videogamewereld waar iedereen probeert gezond en gelukkig te blijven terwijl ze spelen. In de afgelopen jaren zijn de "game masters" (bedrijven en gezondheidsexperts) begonnen met het gebruiken van super slimme digitale tools — zoals apps, wearables en computerprogramma's — om spelers te helpen hun gezondheid te beheren. Dit wordt Occupational Health Management genoemd. Denk aan een digitale coach die je stappen bijhoudt, je eraan herinnert om te stretchen, of een pauze voorstelt wanneer je te lang naar een scherm hebt gestaard. Het idee is dat deze digitale coaches super efficiënt en op maat gemaakt kunnen zijn voor elke speler. Er zit echter een addertje onder het gras: als de coach is gebouwd met een regelboek dat slechts naar de helft van de spelers keek, of als het brein van de coach (het algoritme) is getraind op oude, onvolledige gegevens, kan het advies geven dat geweldig werkt voor sommigen, maar anderen achterlaat. Dit is het probleem van genderbias: wanneer een systeem mannen en vrouwen per ongeluk op oneerlijke manieren verschillend behandelt, vaak omdat het niet het volledige plaatje "ziet" van hoe hun levens en lichamen in werkelijkheid verschillen.

Laten we nu inzoomen op een nieuwe studie die werkt als een detective, die precies op zoek gaat naar waar deze digitale gezondheidscoaches de fout in gaan. De onderzoekers gokten niet zomaar; ze gingen op een enorme schattenjacht en doorzochten databases en officiële rapporten om 62 verschillende stukken bewijs te vinden. Ze zochten naar de specifieke manieren waarop deze digitale tools de plank misslaan als het gaat om gender.

Wat ze vonden, was een verzameling van vijf sluwe vallen die het systeem in de problemen kunnen brengen. Ten eerste is er de gender data gap. Stel je voor dat je een taart probeert te bakken voor een hele menigte, maar je hebt alleen een recept dat ingrediënten voor jongens opsomt. Je eindigt misschien met een taart die vreemd smaakt of niet werkt voor meisjes, omdat het recept de helft van de ingrediënten miste. In de digitale wereld betekent dit dat computers beslissingen nemen op basis van gegevens die niet genoeg informatie over vrouwen bevatten.

Ten tweede is er algoritmische bias. Dit is als een robot-scheidsrechter die de regels van het spel heeft geleerd van een bevooroordeelde coach. Zelfs als de robot probeert eerlijk te zijn, blijft hij dezelfde oneerlijke beslissingen nemen omdat hij geleerd heeft de wereld door een nauwe lens te zien.

Ten derde wijst de studie op de gender health gap. Dit gaat niet over de computer; dit gaat over het echte leven. Mannen en vrouwen dragen vaak verschillende "rugzakken" aan werkstress en fysieke belasting. Als de digitale coach niet weet dat één rugzak zwaarder is of een andere vorm heeft, kan hij de speler niet helpen om deze er op de juiste manier te dragen.

Ten vierde is er de digitale gender gap. Dit gaat simpelweg over wie de controller in handen heeft. Als sommige mensen geen toegang hebben tot de nieuwste technologie of zich er niet comfortabel bij voelen, komt de digitale gezondheidscoach hen in eerste instantie nooit tegen.

Ten slotte zagen de onderzoekers de gender health paradox. Dit is een verwarrende situatie waarbij de ene groep op papier zieker lijkt (meer meldingen van pijn of vermoeidheid) maar feitelijk langer leeft, terwijl een andere groep gezonder lijkt maar een hoger risico loopt op ernstige problemen. Dit is een mysterie dat digitale tools vaak niet oplossen omdat ze naar de cijfers te simpel kijken.

Het artikel suggereert dat door deze vijf vallen digitale gezondheidsmaatregelen vaak de specifieke behoeften van verschillende genders missen. De auteurs zeggen niet dat de technologie voor altijd kapot is, maar ze waarschuwen dat we niet gewoon de stekker erin kunnen steken en op het beste hopen kunnen. In plaats daarvan bevelen ze een grote upgrade aan: we moeten ervoor zorgen dat "gender mainstreaming" (bij elke stap aan gender denken) en "intersectionaliteit" (begrijpen hoe verschillende delen van iemands identiteit samenkomen) vanaf het allereerste begin in het systeem worden ingebouwd. Alleen door het recept te repareren, de robot-scheidsrechter beter te trainen en ervoor te zorgen dat iedereen een controller heeft, kunnen we een digitale gezondheidswereld bouwen die voor iedereen werkt.