First, Do No Harm (With LLMs): Mitigating Racial Bias via Agentic Workflows

1. Problématique

L'utilisation croissante des Modèles de Langage (LLM) dans le secteur de la santé soulève des préoccupations majeures concernant la persistance et l'amplification des biais raciaux. Ces biais peuvent se manifester de deux manières :

• Biais implicite : Associations inconscientes entre certaines races et des maladies ou des caractéristiques médicales (ex. : génération de textes médicaux stéréotypés).
• Biais explicite : Inégalités dans les décisions cliniques, telles que les recommandations de diagnostic ou de traitement, qui défavorisent certains groupes raciaux.

Malgré l'existence de cadres réglementaires comme le Règlement sur l'IA de l'Union Européenne (EU AI Act), qui classe certains systèmes médicaux comme "à haut risque" et exige une gestion des risques et une gouvernance des données, peu d'études se sont concentrées sur des méthodes de mitigation concrètes au-delà de la simple détection. L'objectif de cette étude est d'évaluer la performance de plusieurs LLMs face à ces biais et d'explorer si les flux de travail agentic (agentiques) peuvent atténuer ces disparités.

2. Méthodologie

L'étude adopte une approche structurée en deux phases, utilisant le Règlement sur l'IA de l'UE comme lentille de gouvernance pour l'évaluation et la documentation.

A. Données et Benchmarks

• Données de référence : Utilisation de deux jeux de données publics (Zack et al.) :
  1. Des distributions de prévalence épidémiologique aux États-Unis pour 10 maladies (ex. : VIH, diabète, tuberculose) stratifiées par race.
  2. 10 cas cliniques réels issus du benchmark NEJM Healer, incluant des listes de diagnostics différentiels experts.
• Modèles évalués : Cinq LLMs majeurs : GPT-4.1, Llama 3.3, DeepSeek V3, Grok 3 et Gemini 2.5 Pro.

B. Expérience I : Évaluation des biais (Standalone)

Deux sous-expériences ont été conçues pour mesurer les biais implicites et explicites :

1. Génération de cas patients synthétiques (Biais implicite) : Les modèles génèrent des descriptions de patients pour 10 maladies avec des identités raciales variées. La distribution des races générées est comparée aux données épidémiologiques réelles via un test du Chi-deux (Chi-square).
2. Classement des diagnostics différentiels (Biais explicite) : Pour des cas cliniques réels, l'identité raciale du patient est modifiée systématiquement. Les modèles doivent générer une liste de 10 diagnostics. La performance est évaluée en comparant le classement des diagnostics experts (top 3) par les modèles selon la race du patient. Les métriques statistiques incluent la valeur p (Mann-Whitney U), le taux de détection de biais et la différence moyenne.

C. Expérience II : Flux de travail Agentic (Mitigation)

Le modèle présentant les meilleurs résultats (DeepSeek V3) a été intégré dans un flux de travail agentic développé avec Flowise. Ce système comprend :

• Agent de Recherche (Search Agent) : Utilise une API de recherche web (Brave Search) pour récupérer des informations contextuelles.
• Agent RAG (Retrieval-Augmented Generation) : Interroge une base de connaissances vectorielle contenant des cas patients réels et des diagnostics experts.
• Fusion : Le diagnostic final est une synthèse pondérée (10% recherche web, 90% base de connaissances) pour prioriser les données médicales validées.

3. Résultats Clés

Performance des modèles individuels (Expérience I)

• Génération de cas (Biais implicite) : Tous les modèles ont montré des écarts significatifs par rapport aux distributions réelles (valeurs p très faibles). Cependant, GPT-4.1 a présenté la plus faible déviation globale (statistique Chi-deux moyenne de 152,23), suivi de près par DeepSeek V3.
• Diagnostic différentiel (Biais explicite) : DeepSeek V3 a surperformé tous les autres modèles.
  • Il a obtenu la valeur p moyenne la plus élevée (0,7859) et la médiane la plus élevée (0,8834), indiquant une absence de différence statistique significative entre les groupes raciaux.
  • Il a affiché la plus faible différence moyenne (0,2588) et un taux de détection de biais de 0% (aucun cas significatif).
  • En comparaison, des modèles comme Grok 3 et Llama 3.3 ont montré des biais significatifs dans plusieurs cas.

Impact du flux de travail Agentic (Expérience II)

L'intégration de DeepSeek V3 dans le flux de travail agentic a entraîné une amélioration notable de la plupart des métriques de biais explicite :

• Valeur p moyenne : Augmentation de 0,7859 à 0,8207.
• Valeur p médiane : Augmentation de 0,8834 à 1,0000.
• Différence moyenne : Réduction de 0,2588 à 0,1639.
• Nuance : Le taux de détection de biais est légèrement passé de 0% à 1,67%, mais reste inférieur à celui des autres modèles (sauf GPT-4.1). Cela suggère que le flux de travail atténue les biais, bien que l'amélioration ne soit pas uniforme sur toutes les métriques.

4. Contributions Principales

1. Évaluation comparative multi-modèles : L'étude fournit une analyse rigoureuse de cinq LLMs de pointe dans des scénarios médicaux, dépassant les études antérieures souvent limitées à un seul modèle.
2. Validation de l'approche Agentic pour la réduction des biais : C'est l'une des premières études à démontrer empiriquement qu'un flux de travail agentic basé sur la récupération d'informations (RAG) peut réduire les biais raciaux explicites dans les tâches de diagnostic, en ancrant les réponses du modèle dans des bases de connaissances expertes.
3. Cadre d'évaluation aligné sur la régulation : L'utilisation du Règlement sur l'IA de l'UE comme cadre de gouvernance pour structurer les prompts et l'analyse des risques offre une méthodologie reproductible pour la conformité et l'éthique des IA médicales.
4. Transparence et Reproductibilité : L'équipe a rendu publics les templates de prompts, les jeux de données expérimentaux et les pipelines de code sur GitHub.

5. Signification et Perspectives

Cette recherche démontre que si les LLMs individuels héritent de biais raciaux structurels, des architectures avancées comme les flux de travail agentic peuvent servir de couche de mitigation efficace. Cela soutient l'idée que pour les systèmes d'IA à haut risque dans le domaine médical, la simple sélection du modèle le plus performant ne suffit pas ; l'intégration de mécanismes de vérification (comme le RAG et la recherche de preuves) est cruciale pour garantir l'équité.

Limites et travaux futurs :

• L'analyse actuelle se concentre sur les différences de classement des diagnostics, sans évaluer la précision clinique absolue (rappel, exactitude).
• Le flux de travail actuel ne comprend pas encore de composant "humain dans la boucle" (human-in-the-loop), essentiel pour les contextes cliniques réels.
• Des recherches futures devront tester si ces architectures agentic peuvent également réduire les biais implicites dans la génération de texte médical synthétique.

En conclusion, l'étude valide l'approche "First, do no harm" en montrant que des workflows agentic bien conçus peuvent atténuer les inégalités raciales dans les décisions de diagnostic assistées par l'IA.