A scoping review of gender bias in digital occupational health management

Stellen Sie sich den Arbeitsplatz wie eine riesige, geschäftige Videospielwelt vor, in der alle versuchen, gesund und glücklich zu bleiben, während sie spielen. In den letzten Jahren haben die „Game Master“ (Unternehmen und Gesundheitsexperten) begonnen, superintelligente digitale Werkzeuge einzusetzen – wie Apps, Wearables und Computerprogramme –, um den Spielern zu helfen, ihre Gesundheit zu managen. Dies wird als betriebliches Gesundheitsmanagement bezeichnet. Denken Sie an es wie einen digitalen Coach, der Ihre Schritte zählt, Sie daran erinnert, sich zu dehnen, oder Ihnen eine Pause vorschlägt, wenn Sie zu lange auf einen Bildschirm gestarrt haben. Die Idee ist, dass diese digitalen Coaches super effizient und maßgeschneidert für jeden einzelnen Spieler sein können. Es gibt jedoch einen Haken: Wenn der Coach nach einem Regelwerk gebaut wurde, das nur die Hälfte der Spieler betrachtet, oder wenn das Gehirn des Coaches (der Algorithmus) mit alten, unvollständigen Daten trainiert wurde, könnte er Ratschläge geben, die für einige großartig funktionieren, aber andere zurücklassen. Dies ist das Problem des Gender Bias: wenn ein System Männer und Frauen versehentlich auf unfaire Weise unterschiedlich behandelt, oft weil es das „vollständige Bild“ dessen, wie sich ihre Leben und Körper tatsächlich unterscheiden, nicht „sieht“.

Nun zoomen wir heran auf eine neue Studie, die wie ein Detektiv agiert und genau aufspürt, wo diese digitalen Gesundheitscoaches Fehler machen. Die Forscher haben nicht einfach nur geraten; sie haben eine massive Schatzsuche unternommen und in Datenbanken und offiziellen Berichten nach 6-2 verschiedenen Beweisstücken gesucht. Sie suchten nach den spezifischen Wegen, auf denen diese digitalen Werkzeuge in Bezug auf das Geschlecht die Markierung verpassen.

Was sie fanden, war eine Sammlung von fünf hinterlistigen Fallen, die das System aus dem Tritt bringen können. Erstens gibt es die Gender-Datenlücke. Stellen Sie sich vor, Sie versuchen, einen Kuchen für eine ganze Menge zu backen, aber Sie haben nur ein Rezept, das die Zutaten für Jungen auflistet. Sie könnten am Ende einen Kuchen bekommen, der seltsam schmeckt oder für Mädchen nicht funktioniert, weil im Rezept die Hälfte der Zutaten fehlte. In der digitalen Welt bedeutet dies, dass Computer Entscheidungen auf Basis von Daten treffen, die nicht genügend Informationen über Frauen enthalten.

Zweitens gibt es den algorithmischen Bias. Dies ist wie ein Roboter-Schiedsrichter, der die Regeln des Spiels von einem voreingenommenen Coach gelernt hat. Selbst wenn der Roboter versucht, fair zu sein, trifft er immer wieder die gleichen unfairen Entscheidungen, weil er darauf trainiert wurde, die Welt durch eine enge Linse zu sehen.

Drittens weist die Studie auf die Geschlechter-Gesundheitslücke hin. Hier geht es nicht um den Computer; es geht um das echte Leben. Männer und Frauen tragen oft unterschiedliche „Rucksäcke“ an Arbeitsstress und körperlichen Belastungen. Wenn der digitale Coach nicht weiß, dass ein Rucksack schwerer oder anders geformt ist, kann er dem Spieler nicht helfen, ihn richtig zu tragen.

Viertens gibt es den digitalen Gender-Gap. Das ist schlichtweg die Frage, wer den Controller in der Hand hält. Wenn manche Menschen keinen Zugang zur neuesten Technik haben oder sich beim Gebrauch nicht wohlfühlen, kommt der digitale Gesundheitscoach gar nicht erst dazu, ihnen zu helfen.

Schließlich entdeckten die Forscher das Geschlechter-Gesundheitsparadoxon. Dies ist eine verwirrende Situation, in der eine Gruppe auf dem Papier kränker erscheinen mag (mehr Berichte über Schmerzen oder Müdigkeit), aber tatsächlich länger lebt, während eine andere Gruppe gesünder erscheint, aber ein höheres Risiko für ernsthafte Probleme hat. Dies ist ein Rätsel, das digitale Werkzeuge oft nicht lösen können, weil sie die Zahlen zu simpel betrachten.

Das Paper legt nahe, dass digitale Gesundheitsmaßnahmen aufgrund dieser fünf Fallen die spezifischen Bedürfnisse verschiedener Geschlechter verfehlen. Die Autoren sagen nicht, dass die Technologie für immer kaputt ist, aber sie warnen davor, dass wir sie nicht einfach einschalten und auf das Beste hoffen können. Stattdessen empfehlen sie ein großes Upgrade: Wir müssen sicherstellen, dass „Gender Mainstreaming“ (das Denken an das Geschlecht bei jedem einzelnen Schritt) und „Intersektionalität“ (das Verständnis dafür, wie sich verschiedene Teile der Identität eines Menschen vermischen) von vornherein in das System eingebaut werden. Nur wenn wir das Rezept korrigieren, den Roboter-Schiedsrichter besser trainieren und sicherstellen, dass jeder einen Controller hat, können wir eine digitale Gesundheitswelt bauen, die für alle funktioniert.