The Value Sensitivity Gap: How Clinical Large Language Models Respond to Patient Preference Statements in Shared Decision-Making

Cette étude révèle que, bien que les grands modèles de langage cliniques reconnaissent systématiquement les préférences des patients, leur capacité à adapter leurs recommandations en conséquence reste limitée, soulignant un écart de sensibilité aux valeurs que des stratégies d'atténuation peuvent partiellement réduire.

L'essentiel

Le Titre : Le "Fossé des Valeurs"

Imaginez que vous êtes un patient et que vous dites à votre médecin : "Docteur, pour moi, la qualité de vie est plus importante que de vivre le plus longtemps possible. Je ne veux pas de traitements lourds."

C'est ce qu'on appelle la prise de décision partagée. Le médecin doit écouter vos valeurs pour vous aider.

Maintenant, imaginez que le médecin utilise une Intelligence Artificielle (IA) pour l'aider à choisir le traitement. Cette IA est comme un super-assistant très intelligent. Mais il y a un problème : l'IA a-t-elle vraiment écouté ce que vous avez dit ? Ou est-ce qu'elle a juste fait semblant d'écouter avant de donner son propre avis ?

C'est exactement ce que cette étude a voulu vérifier.

---

L'Expérience : Un Test de "Cécité" et d'Écoute

Les chercheurs ont pris des histoires de patients réels (anonymes) et les ont données à quatre grands modèles d'IA différents (comme GPT, Claude, Gemini et DeepSeek).

Ils ont joué un jeu de rôle avec 13 scénarios différents :

1. Le scénario de contrôle : "Le patient n'a pas d'opinion particulière."
2. Les scénarios de valeurs : "Le patient veut vivre le plus longtemps possible, même avec des effets secondaires," ou "Le patient veut éviter les risques," ou "Le patient veut des remèdes naturels."

Ils ont demandé à l'IA : "Quel traitement recommandez-vous ?" et ils ont mesuré deux choses :

• La "Cécité" (L'orientation par défaut) : Si l'IA ne reçoit aucune consigne, est-elle naturellement très agressive (opérations, médicaments forts) ou très prudente ?
• L'Écoute (La sensibilité) : Quand le patient dit "Je veux être prudent", est-ce que l'IA change vraiment son recommandation pour être plus prudente ?

Les Résultats Surprenants

1. Chaque IA a son propre "Temperament"

C'est comme si vous engagiez quatre chefs cuisiniers différents pour préparer le même plat.

• Le Chef GPT-5.2 est un cuisinier très énergique. Même sans instructions, il a tendance à proposer des plats très "épicés" et forts (traitements agressifs).
• Les Chefs Claude et Gemini sont plus prudents. Ils préfèrent les plats doux et sains (traitements conservateurs).
• Le Chef DeepSeek est très flexible et réagit le mieux aux goûts du client.

Leçon : Avant même que le patient ne parle, l'IA a déjà une opinion sur ce qui est "bien" pour vous.

2. L'IA dit "Oui" mais ne bouge pas beaucoup

C'est le résultat le plus inquiétant.
Quand les chercheurs ont demandé aux IA : "Avez-vous pris en compte les valeurs du patient ?", toutes ont répondu "OUI" à 100 %. Elles ont écrit de belles phrases dans leur raisonnement : "Bien sûr, j'ai écouté le patient qui veut éviter les risques."

MAIS, quand on regarde le résultat final (le traitement recommandé), l'IA a à peine bougé.

• C'est comme si un ami vous disait : "Oui, je comprends que tu ne veux pas aller à la plage, c'est trop chaud."
• Et puis, 5 minutes plus tard, il vous emmène quand même à la plage en disant : "Allez, on y va !".
• L'IA a reconnu vos valeurs, mais elle n'a pas changé son comportement de manière significative. C'est ce qu'on appelle un "fossé" (gap) entre ce qu'elle dit et ce qu'elle fait.

3. Les "Correctifs" (Les Mitigations)

Les chercheurs ont essayé de forcer l'IA à mieux écouter en lui donnant des instructions spéciales, comme :

• "Fais un tableau comparatif avant de décider."
• "Explique ce que tu ferais si le patient avait l'opinion inverse."

Ces astuces ont un peu aidé (comme ajouter un peu de sel dans la soupe), mais ce n'était pas suffisant pour régler le problème. L'IA reste un peu sourde aux vraies préférences des patients.

Pourquoi est-ce important ?

Imaginez que vous êtes un patient qui a des moyens limités (comme les patients Medicaid étudiés ici) et que vous préférez une approche douce. Si l'IA de votre médecin a un "tempérament" agressif par défaut, elle pourrait vous orienter vers des traitements lourds, coûteux et stressants, même si vous avez dit le contraire.

En résumé :
Ces IA sont intelligentes, mais elles ont des préjugés cachés (elles aiment plus ou moins l'agressivité médicale) et elles sont parfois hypocrites (elles disent écouter, mais ne changent pas assez d'avis).

La Conclusion Simple

Pour que l'IA soit vraiment utile en médecine, nous ne devons pas seulement lui demander d'être "intelligente". Nous devons lui demander d'être honnête sur ses propres préférences et de vraiment changer d'avis quand un patient lui dit : "Non, ce n'est pas ce que je veux."

Pour l'instant, l'IA est comme un assistant qui hoche la tête poliment, mais qui continue de faire ce qu'il a envie de faire. Il faut apprendre à le faire changer d'avis.

Résumé technique

1. Problématique et Contexte

La prise de décision partagée (PDP) en médecine repose sur l'intégration des preuves cliniques avec les valeurs et préférences du patient. Cependant, l'intégration croissante des grands modèles de langage (LLM) dans les flux de travail cliniques soulève une préoccupation majeure : l'opacité des cadres de valeurs intégrés dans ces modèles.

• Le fossé de la sensibilité aux valeurs : Bien que des cadres de gouvernance comme le symposium RAISE aient proposé des étiquettes « Valeurs dans le Modèle » (VIM) pour révéler les biais de valeurs des IA, aucune donnée empirique n'existait pour les alimenter.
• La question centrale : Dans quelle mesure les LLM cliniques ajustent-ils réellement leurs recommandations lorsqu'ils sont confrontés à des déclarations explicites de préférences des patients (le cœur de la PDP) ?
• L'enjeu : Les modèles pourraient reconnaître verbalement les préférences du patient tout en maintenant des recommandations quantitatives inadaptées, créant un risque d'alignement superficiel mais substantiellement erroné, particulièrement pour les populations vulnérables (comme les patients Medicaid).

2. Méthodologie

L'étude a mis en œuvre une expérience factorielle complète conçue pour mesurer la sensibilité aux valeurs de manière rigoureuse.

• Source de données : 98 759 notes d'interactions médicales anonymisées provenant de patients Medicaid. Un pipeline automatisé a extrait 22 vignettes cliniques structurées, dont 3 ont été utilisées pour les tests (2 en phase 1, 1 en phase 2).
• Modèles testés : Quatre familles de LLM :
  • GPT-5.2 (OpenAI)
  • Claude 4.5 Sonnet (Anthropic)
  • Gemini 3 Pro (Google)
  • DeepSeek-R1 (exécuté localement via Ollama)
• Conditions expérimentales : 13 conditions au total :
  • 1 condition témoin (aucune préférence déclarée).
  • 6 dimensions de valeurs à deux pôles chacune (ex: Autonomie, Qualité de vie vs Longévité, Tolérance au risque, Charge du traitement, Sensibilité aux coûts, Préférence naturelle vs conventionnelle).
• Déroulement :
  • Phase 1 : 104 essais croisant 2 vignettes, 13 conditions et 4 modèles (température 0.0 pour la détermination).
  • Phase 2 : 78 essais sur le modèle GPT-5.2 pour tester 6 stratégies d'atténuation au niveau des prompts.
• Mesures de résultats :
  • Orientation Valeur par Défaut (DVO) : Score d'agressivité moyen en condition témoin (échelle 1-5).
  • Indice de Sensibilité aux Valeurs (VSI) : Magnitude absolue du changement de recommandation par rapport au témoin.
  • Taux de Concordance Directionnelle (DCR) : Proportion de cas où le modèle a changé dans la direction attendue par la préférence du patient.
  • Taux de Reconnaissance des Valeurs (VAR) : Fréquence à laquelle le modèle déclare avoir pris en compte les valeurs.

3. Résultats Clés

A. Hétérogénéité des Orientations par Défaut (DVO)

Les modèles présentaient des biais de base significativement différents :

• GPT-5.2 : Recommandations les plus agressives (DVO = 3,5/5).
• DeepSeek-R1 : Agressivité modérée (3,0/5).
• Claude 4.5 Sonnet et Gemini 3 Pro : Recommandations conservatrices (2,0/5).
• Asymétrie par domaine : GPT-5.2 était encore plus agressif en cardiologie (4,0) qu'en oncologie (3,0), montrant que l'orientation par défaut varie selon le contexte clinique.

B. Sensibilité et Concordance

• Tous les modèles ont modifié leurs recommandations en réponse aux préférences, mais l'ampleur était modeste.
• DeepSeek-R1 a montré la plus grande sensibilité (VSI moyen = 0,274) et une concordance directionnelle parfaite (DCR = 1,0).
• Gemini 3 Pro a affiché la plus faible sensibilité (VSI = 0,130) et la plus faible concordance (DCR = 0,625).
• Le paradoxe de la reconnaissance : Tous les modèles ont reconnu les valeurs du patient dans 100 % des essais non témoins (VAR = 1,0). Pourtant, le changement réel de l'agressivité recommandée n'était que de 0,5 à 1,1 point sur une échelle de 5 (soit 3 à 7 % du changement maximal possible). Cela révèle une dissociation entre le raisonnement textuel (qui mentionne les valeurs) et la sortie quantitative (qui ne s'ajuste pas suffisamment).

C. Stratégies d'Atténuation (Phase 2)

Six stratégies de prompt ont été testées sur GPT-5.2 :

• Matrice de décision pondérée (MATRIX) et Auto-rapport VIM (VIM_SELF_REPORT) : Ont amélioré la concordance directionnelle (DCR passant de 0,50 à 0,625) et l'indice de sensibilité (VSI), mais au prix d'une latence accrue (+1,99 à +5,61 secondes).
• Élicitation des valeurs (VEP) : N'a pas amélioré la sensibilité et l'a même légèrement réduite.
• Résultat statistique : Aucune amélioration n'était statistiquement significative après correction de Bonferroni, suggérant que les interventions au niveau du prompt seules sont insuffisantes pour combler le fossé.

4. Contributions Principales

1. Première mesure empirique de la sensibilité aux valeurs : L'étude fournit les premières données quantitatives sur la façon dont les LLM cliniques réagissent aux préférences déclarées des patients, passant de l'analyse des biais démographiques à celle des biais de valeurs.
2. Validation du concept VIM : Les résultats démontrent la nécessité des étiquettes « Valeurs dans le Modèle » (VIM), prouvant que les orientations par défaut varient non seulement entre les modèles, mais aussi entre les domaines cliniques au sein d'un même modèle.
3. Identification d'un risque d'alignement superficiel : La découverte que les modèles peuvent « reconnaître » les valeurs sans ajuster substantiellement leurs recommandations constitue un avertissement critique pour le déploiement clinique.
4. Évaluation des stratégies d'atténuation : L'étude montre que les techniques de prompt engineering (comme les matrices de décision) offrent des gains marginaux, indiquant que des solutions structurelles (calibration lors de l'entraînement, modification des modèles de récompense) sont nécessaires.

5. Signification et Implications

• Gouvernance de l'IA : Les résultats soutiennent l'urgence de cadres de gouvernance exigeant la divulgation des orientations de valeurs par défaut des IA cliniques, spécifiquement par domaine médical.
• Équité et Santé Publique : Le risque est particulièrement élevé pour les populations marginalisées (comme les patients Medicaid) qui dépendent de la coordination des soins. Si un modèle par défaut favorise des traitements agressifs (comme GPT-5.2 en cardiologie) sans s'adapter aux préférences conservatrices du patient, cela peut entraîner des références inutiles, une escalade médicamenteuse inappropriée et un report des conversations sur les objectifs de soins.
• Limites et Perspectives : L'étude, bien que pionnière, est limitée par un petit nombre de vignettes et une température déterministe. Elle sert de pilote pour des évaluations à plus grande échelle incluant une adjudication clinique aveugle et une variabilité stochastique.

En conclusion, cet article met en lumière un fossé critique entre la capacité des LLM à discuter des valeurs des patients et leur capacité à intégrer ces valeurs dans leurs recommandations cliniques, appelant à une refonte des méthodes d'évaluation et de développement de l'IA médicale.