Bias in respiratory diagnoses by Large Language Models (LLMs) in Low Middle Income Countries (LMICs)

Cette étude révèle que les grands modèles de langage, entraînés principalement dans des pays à revenu élevé, présentent un biais diagnostique significatif en faveur des épidémiologies de ces pays, proposant des suggestions moins pertinentes pour les contextes des pays à revenu faible ou intermédiaire que les médecins locaux, même lorsque le modèle est informé de la localisation géographique.

L'essentiel

🌍 L'Histoire : Le Médecin Robot et le Monde Réel

Imaginez que vous avez un médecin robot très intelligent (une Intelligence Artificielle ou IA) qui a lu des millions de livres médicaux. Ce robot est génial, mais il y a un petit problème : il a principalement lu des livres écrits par des gens qui vivent dans des pays riches (comme les États-Unis, le Royaume-Uni ou l'Europe de l'Ouest).

Les chercheurs de cette étude se sont demandé : « Si ce robot est utilisé dans un pays plus pauvre (comme au Ghana, en Inde ou au Brésil), va-t-il comprendre la réalité locale ? »

Pour tester cela, ils ont organisé un petit concours entre des vrais médecins et 4 robots IA (ChatGPT, Claude, Google Gemini, Microsoft Copilot).

🎭 Le Défi : Les Cas Mystères

Les chercheurs ont inventé 5 histoires de patients un peu floues (comme des énigmes). Par exemple, un homme a de la fièvre, perd du poids et a des problèmes de poumons.

• La question : « Quels sont les 4 diagnostics les plus probables ? »

Ils ont posé la même question à deux groupes :

1. Les Vrais Médecins : Des docteurs locaux au Royaume-Uni, au Ghana, en Inde, en Jordanie et au Brésil.
2. Les Robots IA : Les mêmes questions, mais envoyées depuis ces pays (en utilisant un outil pour simuler qu'ils étaient sur place) et en disant explicitement aux robots : « Ce cas se passe au Ghana » ou « Ce cas se passe au Brésil ».

🔍 Ce qu'ils ont découvert (Le "Twist" de l'histoire)

1. Le Robot est un peu "étroit d'esprit"
Les médecins locaux ont eu une liste de diagnostics très variée. Ils ont pensé à des maladies très courantes dans leur région (comme certaines infections tropicales ou des problèmes liés à la pollution locale).
Les robots, eux, ont donné des réponses beaucoup plus limitées. Ils ont surtout pensé aux maladies typiques des pays riches.

• L'analogie : C'est comme si vous demandiez à un expert en cuisine française de vous donner un menu pour un village en Amazonie. Il vous proposera probablement du pain, du fromage et du vin, alors que les habitants locaux mangent du manioc, du poisson de rivière et des fruits exotiques. Le robot ne connaît pas les ingrédients locaux !

2. Dire au robot "Où on est" ne suffit pas
Les chercheurs ont essayé de corriger le tir en disant aux robots : « Attention, ce patient est au Ghana ! ».
Résultat ? Ça n'a presque rien changé. Le robot a continué à proposer des diagnostics "à l'occidentale".

• L'analogie : C'est comme si vous disiez à un GPS : « Je suis en montagne, ne me donne pas d'itinéraire pour la plage ». Le GPS, entraîné uniquement sur des cartes de villes, continue de vous proposer des routes pour aller à la plage parce que c'est tout ce qu'il connaît.

3. Les chiffres parlent d'eux-mêmes

• Au Royaume-Uni (pays riche), les robots ont trouvé 50 % des mêmes maladies que les médecins.
• Dans les pays en développement (LMIC), ils n'ont trouvé que 32 % des mêmes maladies.
  C'est une différence significative. Les robots manquent environ un tiers des pistes importantes pour les médecins locaux.

💡 Pourquoi est-ce grave ?

Imaginez que vous utilisez ce robot pour aider à diagnostiquer un patient dans un hôpital au Brésil.

• Le robot pourrait dire : « Ce patient a probablement une pneumonie classique ».
• Le médecin local sait que c'est probablement une maladie parasitaire très courante là-bas.
• Si le médecin fait confiance au robot, le patient pourrait recevoir le mauvais traitement.

C'est comme utiliser une boussole qui a été calibrée uniquement pour l'Arctique pour essayer de naviguer dans la jungle. Elle vous indiquera le Nord, mais vous ferez fausse route par rapport à votre destination réelle.

🏁 La Conclusion Simple

Cette étude nous dit deux choses importantes :

1. Les robots médicaux actuels sont biaisés. Ils sont formés avec des données qui ne représentent pas tout le monde. Ils sont "aveugles" aux réalités des pays en développement.
2. Il faut faire attention. On ne devrait pas utiliser ces outils dans les hôpitaux des pays pauvres sans les avoir testés et corrigés spécifiquement pour ces régions.

Le message final : L'intelligence artificielle est un outil formidable, mais pour l'instant, elle est un peu "ethnocentrique". Avant de la laisser soigner tout le monde, il faut s'assurer qu'elle a lu les livres de médecine du monde entier, et pas seulement ceux des pays riches.

Résumé technique

1. Problématique

L'article aborde le risque croissant de biais systémique dans l'utilisation des Modèles de Langage de Grande Taille (LLM) pour le soutien au diagnostic médical. La plupart de ces modèles (ChatGPT, Claude, Gemini, etc.) sont entraînés sur des corpus de données massifs provenant principalement de pays à revenu élevé (HIC - High-Income Countries), notamment d'Amérique du Nord et d'Europe.

Les auteurs s'inquiètent du fait que l'application de ces outils dans des contextes de soins de santé des pays à revenu faible et intermédiaire (LMIC - Low- and Middle-Income Countries) pourrait conduire à des erreurs de diagnostic. En effet, l'épidémiologie des maladies respiratoires varie considérablement selon les régions géographiques. Si les LLMs ne parviennent pas à adapter leurs suggestions de diagnostics différentiels à la réalité locale (par exemple, la prévalence de la tuberculose ou de certaines parasitoses dans les LMICs), leur utilisation pourrait nuire à la qualité des soins.

2. Méthodologie

L'étude a été conçue comme une comparaison contrôlée entre l'expertise clinique humaine et les suggestions de plusieurs LLMs sur des cas cliniques respiratoires.

• Conception des cas : Cinq vignettes cliniques courtes, destinées au service des urgences, ont été créées. Elles sont volontairement ambiguës et conçues pour que le diagnostic probable dépende fortement de l'épidémiologie locale.
• Participants humains : 21 médecins praticiens (avec au moins 2 ans d'expérience en pneumologie, urgences ou médecine générale) provenant de cinq pays : Royaume-Uni (HIC), Ghana, Inde, Jordanie et Brésil (LMICs). Pour chaque vignette, quatre médecins de chaque pays ont indépendamment proposé les quatre diagnostics les plus probables.
• Modèles de langage (LLMs) testés : Quatre modèles de pointe disponibles en février 2025 : ChatGPT-4o, Claude 3.5 Sonnet, Google Gemini-2.0-flash-001 et Microsoft Copilot (GPT-4).
• Protocole d'interrogation des LLMs :
  1. Expérience 1 (VPN) : Les LLMs ont été interrogés via un Réseau Privé Virtuel (VPN) simulant une connexion depuis chacun des quatre pays LMICs, sans mention explicite du pays dans le prompt.
  2. Expérience 2 (Prompting contextuel) : Les mêmes vignettes ont été soumises aux LLMs avec une instruction explicite indiquant le pays où se déroule le cas clinique.
• Analyse des données : Les diagnostics proposés par les médecins et les LLMs ont été codés selon la classification CIM-11 (ICD-11). Les chercheurs ont mesuré deux métriques principales :
  • La couverture (Coverage) : La proportion de diagnostics proposés par les médecins qui ont également été suggérés par le LLM.
  • L'accord (Agreement) : La proportion de diagnostics suggérés par le LLM qui figuraient dans la liste des médecins.
• Outils statistiques : Analyse comparative des proportions entre le groupe HIC (UK) et le groupe LMIC, utilisant des tests du Chi-carré.

3. Résultats Clés

• Volume de diagnostics : Les 21 médecins ont généré 106 diagnostics uniques, tandis que les LLMs (avec VPN) n'en ont généré que 53. Cela indique que les médecins explorent un éventail de diagnostics beaucoup plus large.
• Biais de couverture : Les LLMs ont proposé une proportion significativement plus faible des diagnostics suggérés par les médecins dans les LMICs par rapport au Royaume-Uni.
  • Royaume-Uni (HIC) : 50 % de couverture (IC 95 % : 32,6 à 67,4 %).
  • Pays LMICs : 32,0 % de couverture (IC 95 % : 23,1 à 42,3 %).
• Impact de la localisation : L'écart de performance a persisté même lorsque le LLM était explicitement informé du pays dans le prompt. Le fait d'indiquer la localisation géographique n'a pas suffi à corriger le biais inhérent au modèle.
• Signification statistique : Une différence significative a été observée dans les proportions de chevauchement entre les diagnostics des médecins et ceux des LLMs selon le contexte géographique (Test du Chi-carré, p = 0,028). Les LLMs ont globalement moins bien performé dans le contexte des LMICs.

4. Contributions Principales

• Preuve empirique du biais géographique : Cette étude est l'une des premières à démontrer quantitativement que les LLMs actuels présentent un biais systématique en faveur des épidémiologies des pays à revenu élevé, réduisant leur pertinence clinique dans les LMICs.
• Évaluation de l'efficacité du "Prompting" : L'étude démontre que simplement informer le modèle de la localisation géographique (via le prompt) ne suffit pas à corriger les biais de formation profondément ancrés dans les données d'entraînement.
• Appel à l'évaluation contextuelle : Les auteurs soulignent que les benchmarks actuels, souvent basés sur des données occidentales, sont insuffisants pour valider l'utilisation de l'IA médicale dans le monde entier.

5. Signification et Implications

• Sécurité des patients : L'utilisation non critique de LLMs dans les LMICs pourrait conduire à des erreurs de diagnostic, en omettant des pathologies locales courantes mais moins présentes dans les données d'entraînement des modèles.
• Recommandations pour l'industrie : Les auteurs appellent les développeurs de modèles fondamentaux à évaluer rigoureusement leurs produits pour détecter les biais liés aux LMICs avant leur déploiement. Ils suggèrent que les applications de santé utilisant l'IA ne devraient pas être utilisées en pratique clinique dans les LMICs sans une évaluation clinique spécifique à ces régions.
• Futur de la recherche : L'article propose la création d'un nouveau "benchmark" continu pour évaluer les LLMs à leur sortie, spécifiquement axé sur la détection des biais contre les pays à revenu faible et intermédiaire.
• Limites : L'étude reconnaît que la taille de l'échantillon est limitée et que les modèles évoluent rapidement. Cependant, elle met en garde contre le risque que l'ajout de nouvelles données (souvent occidentales) aux futurs modèles puisse même amplifier ce biais.

En conclusion, cet article met en garde contre l'adoption aveugle de l'IA générative dans la médecine mondiale, soulignant que sans une correction active des biais de données et une validation locale, ces outils risquent d'aggraver les inégalités de santé plutôt que de les réduire.