A scoping review of gender bias in digital occupational health management

Imaginez le lieu de travail comme un monde de jeu vidéo géant et bouillonnant où tout le monde essaie de rester en bonne santé et heureux pendant qu'il joue. Ces dernières années, les « maîtres du jeu » (les entreprises et les experts de la santé) ont commencé à utiliser des outils numériques super intelligents — comme des applications, des objets connectés et des programmes informatiques — pour aider les joueurs à gérer leur santé. C'est ce qu'on appelle la gestion de la santé au travail. Voyez cela comme un coach numérique qui suit vos pas, vous rappelle de vous étirer ou vous suggère une pause quand vous avez fixé un écran trop longtemps. L'idée est que ces coachs numériques peuvent être super efficaces et sur mesure pour chaque joueur. Cependant, il y a un piège : si le coach a été construit à l'aide d'un livre de règles qui n'a regardé que la moitié des joueurs, ou si le cerveau du coach (l'algorithme) a été entraîné sur des données anciennes et incomplètes, il pourrait donner des conseils qui fonctionnent très bien pour certains mais qui laissent les autres de côté. C'est le problème du biais de genre : lorsqu'un système traite accidentellement les hommes et les femmes différemment de manière injuste, souvent parce qu'il ne « voit » pas l'image complète de la façon dont leurs vies et leurs corps sont réellement différents.

Maintenant, zoomons sur une nouvelle étude qui agit comme un détective, traquant précisément là où ces coachs de santé numériques se trompent. Les chercheurs n'ont pas simplement deviné ; ils sont partis dans une immense chasse au trésor, fouillant dans les bases de données et les rapports officiels pour trouver 62 preuves différentes. Ils cherchaient les manières spécifiques dont ces outils numériques passent à côté de l'aspect lié au genre.

Ce qu'ils ont trouvé, c'est une collection de cinq pièges sournois qui peuvent faire trébucher le système. Premièrement, il y a l'écart de données de genre. Imaginez que vous essayiez de cuisiner un gâteau pour une foule entière, mais que vous n'avez qu'une recette qui liste les ingrédients pour les garçons. Vous pourriez finir avec un gâteau qui a un goût bizarre ou qui ne fonctionne pas pour les filles parce qu'il manquait la moitié des ingrédients à la recette. Dans le monde numérique, cela signifie que les ordinateurs prennent des décisions basées sur des données qui ne contiennent pas assez d'informations sur les femmes.

Deuxièmement, il y a le biais algorithmique. C'est comme un arbitre robotique qui a appris les règles du jeu auprès d'un coach biaisé. Même si le robot essaie d'être équitable, il continue de faire les mêmes appels injustes parce qu'on lui a appris à voir le monde à travers une lentille étroite.

Troisièmement, l'étude souligne l'écart de santé de genre. Cela ne concerne pas l'ordinateur ; cela concerne la vie réelle. Les hommes et les femmes portent souvent des « sacs à dos » différents de stress professionnel et de charges physiques. Si le coach numérique ne sait pas que l'un des sacs à dos est plus lourd ou a une forme différente, il ne peut pas aider le joueur à le porter correctement.

Quatrièmement, il y a l'écart numérique de genre. Il s'agit simplement de savoir qui tient la manette. Si certaines personnes n'ont pas accès aux dernières technologies ou ne se sentent pas à l'aise pour les utiliser, le coach de santé numérique n'a même pas la chance de les aider.

Enfin, les chercheurs ont repéré le paradoxe de la santé de genre. C'est une situation déroutante où un groupe peut sembler plus malade sur le papier (plus de rapports de douleur ou de fatigue) mais vit en fait plus longtemps, tandis qu'un autre groupe semble plus sain mais présente un risque plus élevé de problèmes graves. C'est un mystère que les outils numériques échouent souvent à résoudre car ils regardent les chiffres de manière trop simpliste.

L'article suggère qu'en raison de ces cinq pièges, les mesures de santé numériques passent souvent à côté des besoins spécifiques des différents genres. Les auteurs ne disent pas que la technologie est brisée pour toujours, mais ils avertissent que nous ne pouvons pas simplement l'allumer et espérer que tout se passera bien. Au lieu de cela, ils recommandent une mise à niveau majeure : nous devons nous assurer que la « transversalité du genre » (penser au genre à chaque étape) et l'« intersectionnalité » (comprendre comment les différentes parties de l'identité d'une personne se mélangent) soient intégrées au système dès le début. Ce n'est qu'en réparant la recette, en entraîant mieux le robot arbitre et en s'assurant que tout le monde possède une manette que nous pourrons construire un monde de santé numérique qui fonctionne pour tout le monde.