CARE: Privacy-Compliant Agentic Reasoning with Evidence Discordance

1. Problématique : La Discordance des Preuves et les Contraintes de Confidentialité

L'article aborde un défi critique dans l'application des grands modèles de langage (LLM) à la prise de décision médicale à haut risque, spécifiquement en milieu de soins intensifs (ICU).

• La Discordance des Preuves (Evidence Discordance) : Dans de nombreux cas réels, les preuves subjectives (symptômes rapportés par le patient, évaluation narrative au lit) contredisent les signes objectifs (données physiologiques, signes vitaux). Par exemple, un patient peut sembler calme et indolore (symptômes rassurants) tout en présentant une instabilité hémodynamique sévère (signes objectifs de risque). Les modèles LLM actuels, souvent évalués dans des environnements où les données sont cohérentes, échouent fréquemment à réconcilier ces signaux conflictuels, conduisant à des prédictions biaisées ou erronées.
• Le Dilemme de la Confidentialité : La prise de décision optimale nécessite souvent l'utilisation de modèles propriétaires fermés (très performants en raisonnement abstrait). Cependant, ces modèles ne peuvent pas accéder aux données de santé sensibles des patients en raison des réglementations strictes (comme le RGPD ou HIPAA). À l'inverse, les modèles open-source peuvent être déployés localement pour préserver la vie privée, mais ils sont souvent moins performants dans des tâches de raisonnement clinique complexe.
• L'Échec des Approches Actuelles : Les méthodes actuelles (inférence en un seul passage, vote majoritaire, débats d'agents) tendent à s'effondrer vers des prédictions d'une seule classe (par exemple, prédire systématiquement "stable" ou "instable") lorsqu'elles sont confrontées à cette discordance, car elles ne possèdent pas de mécanisme explicite pour gérer l'incertitude et la mise à jour itérative de l'état du patient.

2. Méthodologie : Le Framework CARE

Pour résoudre ce problème, les auteurs proposent CARE (Privacy-Compliant Agentic REasoning), un framework d'inférence multi-étapes qui sépare le raisonnement de haut niveau (guidage) du raisonnement spécifique aux données (inférence locale), sans jamais exposer les données brutes des patients au modèle distant.

Le framework opère en quatre étapes distinctes (illustrées dans la Figure 2 du papier) :

1. Génération de la Rubrique et Attribution Initiale de l'État (Stage 1) :

   • Un modèle propriétaire (distant) génère une rubrique structurée (schéma d'états intermédiaires) basée uniquement sur la sémantique de la tâche et la description des fonctionnalités, sans voir les données du patient.
   • Le modèle local (privé) mappe les données initiales du patient sur cette rubrique pour attribuer un état initial (ex: "Très probablement stable").

2. Acquisition de Données Sensible à la Catégorie (Stage 2) :

   • Le modèle local analyse l'état actuel et détermine quelles données objectives supplémentaires sont nécessaires pour affiner la décision.
   • Contrairement à une récupération générique, cette acquisition est conditionnée par l'état du patient (ex: si l'état suggère un choc occulte, le système demande spécifiquement des données sur la lactatémie ou le débit urinaire).

3. Raisonnement sur la Transition (Stage 3) :

   • C'est l'étape clé. Le modèle propriétaire reçoit uniquement une vue abstraite : la catégorie actuelle, les types de fonctionnalités disponibles et la structure de la rubrique. Il ne voit aucune valeur brute.
   • Il fournit des conseils de transition structurés (ex: "Si les données de perfusion confirment l'hypotension, envisagez une transition vers un état de risque élevé").
   • Le modèle local fusionne ces conseils avec les données réelles du patient pour mettre à jour l'état du patient de manière contrainte.

4. Prise de Décision Finale (Stage 4) :

   • Le modèle local génère la décision finale en se basant sur la trace de raisonnement accumulée (état initial, données acquises, conseils de transition, état mis à jour), garantissant que la décision finale reste ancrée dans les données locales et la confidentialité.

3. Contributions Clés

• MIMIC-DOS (Dataset) : Les auteurs ont créé un nouveau benchmark, MIMIC-DOS, dérivé de la base de données MIMIC-IV. Ce dataset est spécifiquement filtré pour ne contenir que des cas où il existe une discordance entre les signes subjectifs (douleur, sédation) et les signes objectifs (pression artérielle, SOFA). Cela permet d'évaluer rigoureusement la capacité des modèles à raisonner dans des conditions de conflit d'information.
• Framework CARE : Une architecture hybride asymétrique qui combine la puissance de raisonnement des modèles propriétaires fermés avec la confidentialité des modèles locaux ouverts, en utilisant un mécanisme de guidage structuré sans accès aux données brutes.
• Analyse Empirique : La démonstration que les pipelines d'agents existants (débats, votes) échouent souvent dans ce scénario spécifique en tombant dans des biais de classe, tandis que CARE maintient une performance équilibrée.

4. Résultats Expérimentaux

Les expériences ont été menées sur MIMIC-DOS en comparant CARE à plusieurs baselines (inférence en un seul passage, vote majoritaire, débats synchrones et séquentiels) utilisant différents LLM locaux (GPT-OSS, Qwen, LLaDA) et un modèle propriétaire (GPT-5).

• Performance Supérieure : CARE (avec GPT-OSS en local et GPT-5 en distant) a obtenu les meilleures performances globales.
  • Précision Équilibrée (BA) : 0,5460 (contre ~0,50-0,51 pour les autres).
  • MCC (Matthieu Correlation Coefficient) : 0,0921 (le seul modèle à avoir un score positif significatif, indiquant une corrélation réelle avec la vérité terrain).
  • Équilibre TPR/TNR : CARE est le seul workflow où le Taux de Vrais Positifs (TPR) et le Taux de Vrais Négatifs (TNR) dépassent tous deux 0,5 (TPR=0,522, TNR=0,570). Les autres modèles présentaient un biais directionnel fort (soit ils manquaient trop de cas graves, soit ils déclenchaient trop d'alertes inutiles).
• Étude d'Ablation :
  • L'élimination de l'étape 3 (Raisonnement sur la transition) rend le système beaucoup plus conservateur (baisse du TPR), prouvant que cette étape est cruciale pour intégrer les nouvelles preuves et éviter l'immobilisme.
  • L'élimination de l'étape 1 (Rubrique) dégrade également les performances, soulignant l'importance d'un cadre sémantique initial.
• Robustesse : Contrairement aux baselines qui s'effondrent vers une prédiction unique, CARE parvient à naviguer dans la complexité des données contradictoires.

5. Signification et Impact

• Avancée pour la Santé Numérique : Ce travail démontre qu'il est possible de déployer des systèmes d'IA cliniques de pointe tout en respectant strictement la confidentialité des données. Il résout le compromis classique entre "modèle le plus intelligent" (distant) et "données les plus sûres" (locales).
• Nouvelle Approche du Raisonnement : Au lieu de traiter les données médicales comme un bloc statique, CARE introduit un raisonnement étatique et itératif. Cela imite mieux le processus clinique humain où un médecin ajuste son diagnostic au fur et à mesure que de nouvelles preuves (souvent contradictoires) émergent.
• Benchmark pour la Recherche : MIMIC-DOS fournit une nouvelle norme pour évaluer les LLM dans des scénarios réalistes et difficiles, au-delà des tests de connaissances médicales statiques.

En conclusion, CARE représente une avancée significative vers des assistants cliniques IA robustes, capables de gérer l'incertitude et les conflits de données tout en préservant la vie privée des patients, un prérequis essentiel pour leur adoption en milieu hospitalier réel.