Advancing Health Equity through Multi-Level Fairness in Health Informatics

Dans l'hôpital moderne, une révolution silencieuse est en cours. Les ordinateurs apprennent à lire les dossiers médicaux, à repérer des schémas dans les symptômes et à suggérer des traitements avec une rapidité et une précision que les médecins humains ne peuvent égaler. Ces outils, fondés sur l'apprentissage automatique, promettent de rationaliser les soins et de sauver des vies. Pourtant, comme tout outil forgé par l'histoire humaine, ils portent les empreintes du passé. Les données utilisées pour enseigner à ces ordinateurs — les registres de qui est tombé malade, qui a été traité et qui a été laissé pour compte — reflètent souvent de profondes inégalités sociétales. Lorsqu'un ordinateur apprend à partir de données biaisées, il peut par inadvertance apprendre à traiter certains patients moins bien que d'autres, renforçant ainsi les disparités mêmes qu'il espère résoudre. Il ne s'agit pas d'un bug dans le code, mais d'un reflet du monde que le code est censé comprendre. Le défi central pour les scientifiques aujourd'hui n'est pas seulement de rendre ces systèmes précis, mais de s'assurer qu'ils sont équitables, afin que les bénéfices de la technologie atteignent chaque patient, quels que soient son origine ou son lieu de résidence.

Nick Souligne et Vignesh Subbian, chercheurs à l'Université de l'Arizona, ont porté leur attention sur ce problème critique. Ils se sont donné pour mission d'examiner comment le domaine de l'informatique de santé gère actuellement la question de l'équité. Plus précisément, ils ont étudié une stratégie connue sous le nom d'équité multi-niveaux. Au lieu d'essayer de corriger un modèle informatique biaisé à une seule étape — comme nettoyer les données avant que l'ordinateur n'apprenne, ou ajuster la réponse finale après que l'ordinateur a pris une décision — l'équité multi-niveaux tente d'intervenir à plusieurs points en cours de route. Les chercheurs voulaient savoir si cette approche globale mène réellement à de meilleurs résultats de santé pour les groupes mal desservis, et si la manière dont les scientifiques rapportent leurs travaux est suffisante pour le prouver. Après avoir examiné un large éventail d'études existantes, ils ont constaté que, bien que l'idée de s'attaquer au biais à plusieurs étapes soit prometteuse, le domaine peine encore à relier ces correctifs techniques à l'équité en santé réelle, et les règles de rapport de ces efforts sont souvent trop vagues pour être véritablement utiles.

Les chercheurs ont commencé par cartographier le paysage des efforts actuels. Ils ont constaté que de nombreuses études se concentrent sur un seul type de biais ou une seule méthode de correction. Certains chercheurs nettoient les données avant l'entraînement du modèle, d'autres ajustent le modèle pendant qu'il apprend, et certains modifient les prédictions finales. Cependant, les auteurs ont observé que très peu d'études combinent ces méthodes en une stratégie cohérente. Dans une revue de centaines d'études sur l'atténuation des biais, seule une infime fraction combine réellement différentes techniques, et encore moins examinent comment ces combinaisons affectent des groupes spécifiques de personnes, tels que les minorités raciales ou les populations à faible revenu. Les auteurs suggèrent que compter sur un correctif unique revient à essayer d'arrêter une fuite dans un bateau en bouchant un seul trou alors que les autres restent ouverts ; l'eau finira par entrer. Pour véritablement faire progresser l'équité en santé, ils soutiennent que nous devons traiter le biais à chaque étape du développement de l'ordinateur, du moment où les données sont collectées jusqu'au moment où le médecin utilise l'outil en clinique.

Une partie importante de l'article se concentre sur le fossé entre l'équité technique et l'équité réelle en santé. Les chercheurs soulignent qu'un modèle informatique peut être mathématiquement « équitable » au sens étroit — prédisant le risque de maladie de manière égale pour différents groupes raciaux — tout en échouant à améliorer les résultats de santé. Cela se produit parce que le modèle peut ignorer les barrières complexes et imbriquées auxquelles certains groupes sont confrontés, comme le manque d'accès aux transports ou le stress lié à la pauvreté. Si un modèle prédit qu'un patient a besoin d'un traitement spécifique mais que le patient ne peut pas se l'offrir ou ne peut pas se rendre à l'hôpital, la prédiction, quelle que soit son exactitude, ne sert à rien. Les auteurs insistent sur le fait que la véritable équité exige de regarder au-delà des chiffres pour voir comment les prédictions du modèle se traduisent dans le monde réel, en particulier pour ceux qui font face à plusieurs couches de désavantages. Ils soutiennent que nous devons mesurer le succès non pas seulement par la performance de l'ordinateur, mais par sa capacité à mener à un accès équitable aux soins et à une meilleure santé pour tous.

Pour garantir que ces efforts soient transparents et responsables, l'article examine les normes que les scientifiques utilisent pour rapporter leurs travaux. Actuellement, il existe des directives telles que TRIPOD-AI et MINIMAR qui indiquent aux chercheurs quelles informations inclure lorsqu'ils publient un nouveau modèle médical. Ces normes demandent des détails sur les données utilisées et sur la façon dont le modèle a été testé. Cependant, les auteurs ont constaté que ces directives sont souvent insuffisantes lorsqu'il s'agit d'équité. Elles demandent rarement aux chercheurs d'expliquer comment ils ont vérifié le biais à chaque étape du développement ou comment ils ont assuré que le modèle fonctionnerait bien pour les groupes marginalisés. Sans ces détails, il est difficile pour les autres scientifiques ou les administrateurs d'hôpitaux de savoir si un nouvel outil est véritablement sûr et équitable pour tous les patients. Les chercheurs notent que si TRIPOD-AI est un excellent point de départ, elle doit être étendue pour exiger un rapport explicite sur la manière dont le biais a été détecté et corrigé, et sur la façon dont le modèle impacte l'équité en santé après son déploiement dans un hôpital réel.

Sur la base de ces conclusions, les auteurs proposent deux recommandations claires pour l'avenir. Premièrement, ils exhortent les chercheurs à intégrer l'équité dans tout le cycle de vie de la construction d'un modèle informatique. Cela signifie vérifier les biais lors de la collecte des données, ajuster le processus d'entraînement pour qu'il soit plus inclusif, et surveiller constamment le modèle après sa sortie pour voir s'il traite tout le monde équitablement. Deuxièmement, ils appellent à une nouvelle norme de rapport plus rigoureuse. Ils suggèrent que la communauté scientifique s'accorde sur un ensemble de règles unique et complet qui exige que les auteurs détaillent chaque étape franchie pour assurer l'équité, y compris la manière dont ils ont géré les différents groupes de personnes et la manière dont ils ont mesuré l'impact sur l'équité en santé. En apportant ces changements, le domaine peut dépasser les simples correctifs techniques et construire un avenir où l'apprentissage automatique sert véritablement d'outil pour combler l'écart des disparités de santé, plutôt que de l'élargir. Le travail de Souligne et Subbian sert de rappel que le chemin vers une meilleure santé pour tous nécessite non seulement des ordinateurs plus intelligents, mais aussi une approche plus réfléchie et plus honnête de la manière dont nous les construisons et les partageons.