💬 NLP

CLEAR: Revealing How Noise and Ambiguity Degrade Reliability in LLMs for Medicine

L'article présente le cadre CLEAR pour démontrer que les benchmarks médicaux standards échouent à capturer l'ambiguïté du monde réel, révélant que l'augmentation des options de réponse, le changement de la formulation de l'abstention vers l'admission d'incertitude et l'augmentation de la taille des modèles dégradent tous la fiabilité des LLM en exacerbant un « déficit d'humilité » où les modèles peinent à s'abstenir de réponses incorrectes.

Auteurs originaux : Kevin H. Guo, Chao Yan, Avinash Baidya, Katherine Brown, Xiang Goa, Juming Xiong, Zhijun Yin, Bradley A. Malin

Publié 2026-05-05

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kevin H. Guo, Chao Yan, Avinash Baidya, Katherine Brown, Xiang Goa, Juming Xiong, Zhijun Yin, Bradley A. Malin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'Idée Principale : L'« Examen Parfait » vs. le « Monde Réel »

Imaginez que vous formiez un étudiant pour un examen du conseil médical. Vous lui donnez des tests pratiques où chaque question comporte quatre réponses claires, et vous savez avec certitude que la bonne réponse fait toujours partie de ces quatre options. L'étudiant mémorise les motifs et répond correctement à 95 % des questions. Il semble être un génie.

Maintenant, imaginez que vous emmeniez ce même étudiant dans une vraie salle d'urgence. Un patient entre avec des symptômes vagues. Il n'y a pas de liste claire de quatre options. L'histoire du patient est désordonnée, incomplète et confuse. Le diagnostic correct pourrait même ne pas figurer sur la liste des possibilités à laquelle vous pensez.

Ce papier soutient que les modèles de langage actuels (LLM) sont comme cet étudiant. Ils sont excellents à l'« examen parfait » (les benchmarks médicaux standards) mais terribles dans le « monde réel » parce qu'ils manquent d'humilité. Ils ne savent pas quand dire : « Je ne sais pas » ou « J'ai besoin d'aide ». Au lieu de cela, ils devinent avec assurance la mauvaise réponse.

Les auteurs ont créé un nouveau cadre de test appelé CLEAR pour révéler cette faiblesse.

Le Fonctionnement du Cadre CLEAR (Les Trois Expériences)

Les chercheurs ont pris des questions médicales standard et les ont « perturbées » (modifiées) de trois manières spécifiques pour voir comment l'IA réagissait. Imaginez cela comme ajouter du bruit statique à un signal radio ou de l'encombrement à une pièce pour voir si l'IA peut encore trouver la vérité.

1. Le Test « Leurre » (Ajout de Bruit)

Le Montage : Dans un test standard, vous pourriez avoir 2 mauvaises réponses et 1 bonne réponse. CLEAR a ajouté de plus en plus de mauvaises réponses (leurres) à la liste, comme ajouter de faux suspects à une identification.
Le Résultat : À mesure que la liste des mauvaises réponses grandissait, l'IA devenait moins bonne pour trouver la bonne. Mais voici la partie effrayante : L'IA ne s'est pas seulement perdue ; elle est devenue plus confiante dans ses mauvaises devinettes. Elle a cessé d'essayer de trouver la vérité et a commencé à deviner au hasard, même lorsque la liste était énorme.
L'Analogie : Imaginez un détective essayant de trouver un voleur dans une pièce. S'il y a 2 innocents, le détective trouve le voleur. Si vous mettez 10 innocents dans la pièce, le détective arrête de chercher et pointe simplement une personne au hasard, en affirmant : « C'est définitivement lui ! »

2. Le Test « Refus » (Le Déficit d'Humilité)

Le Montage : Les chercheurs ont retiré la bonne réponse entièrement et l'ont remplacée par une option de « refus » (abstention). Ils ont donné à l'IA trois façons de dire « Je ne peux pas répondre » :
1. « Aucune de ces réponses » (Rejet affirmé : « Je sais que la réponse n'est pas ici. »)
2. « Je ne sais pas » (Admission d'incertitude : « Je ne suis pas sûr. »)
3. « J'ai besoin d'assistance » (Demande d'aide : « Je ne peux pas faire cela seul. »)
Le Résultat : L'IA était terrible pour refuser de répondre. Elle préférait deviner une mauvaise réponse plutôt que d'admettre qu'elle ne savait pas.
Le « Déficit d'Humilité » : Les auteurs ont inventé ce terme pour décrire l'écart entre la capacité de l'IA à trouver la bonne réponse (quand elle est présente) et sa mauvaise performance à admettre qu'elle se trompe (quand la réponse n'est pas là).
L'Analogie : Un étudiant passant un examen. Si la réponse est sur la page, il obtient un A. Si la réponse n'est pas sur la page, au lieu d'écrire « La réponse n'est pas ici », il griffonne frénétiquement une mauvaise réponse juste pour remplir la feuille de réponses. Il préfère être faussement confiant que prudemment juste.

3. Le Test « Cadrage » (Qui est aux commandes ?)

Le Montage : Les chercheurs ont remarqué que la volonté de l'IA de dire « Je ne sais pas » changeait en fonction de la manière dont l'option était formulée.
Le Résultat : L'IA était plus susceptible de dire « Aucune de ces réponses » (prenant les commandes) et moins susceptible de dire « J'ai besoin d'assistance » (admettant sa faiblesse).
L'Analogie : Imaginez un robot majordome. Si vous demandez : « Est-ce que cette nourriture est sûre ? », il pourrait dire : « Non, ce n'est pas sûr » (Affirmatif). Mais si vous demandez : « Je ne sais pas si c'est sûr », le robot pourrait refuser de dire cette phrase et insister au contraire pour que la nourriture soit sûre, juste pour éviter le sentiment d'incertitude. L'IA semble avoir un biais contre l'admission de son manque d'autorité.

Résultats Clés et Surprises

1. Plus grand n'est pas toujours mieux (L'Échec de la Loi d'Échelle)
Habituellement, lorsque vous rendez une IA plus grande (plus de paramètres), elle devient plus intelligente. Dans cette étude, les modèles plus grands étaient effectivement meilleurs pour trouver la bonne réponse dans un test propre. Cependant, les modèles plus grands étaient pires pour admettre l'incertitude.

L'Analogie : Pensez à un professeur très intelligent par rapport à un élève du secondaire. Le professeur connaît plus de faits, mais s'il ne connaît pas la réponse, il pourrait être trop fier pour dire « Je ne sais pas ». L'élève pourrait être plus disposé à admettre son ignorance. Les plus grands modèles de cette étude étaient les moins humbles.

2. La « Chaîne de Pensée » (Réfléchir Étape par Étape) n'a pas Aidé
Nous disons souvent à l'IA de « réfléchir étape par étape » pour améliorer son raisonnement. En mathématiques ou en programmation, cela fonctionne très bien. En médecine, cela a souvent rendu les choses pires.

L'Analogie : Si vous demandez à une personne confuse de « marcher lentement et de réfléchir à chaque pas », elle pourrait trébucher sur ses propres pieds. Pour des cas médicaux complexes, forcer l'IA à écrire ses pensées l'a rendue plus susceptible d'halluciner (inventer des choses) et moins susceptible de s'arrêter et de dire : « C'est trop confus ».

3. Le Piège du « Je ne sais pas »
Lorsque les chercheurs ont ajouté une option « Je ne sais pas » au test, l'IA ne l'a pas beaucoup utilisée. En fait, le simple fait d'avoir cette option a rendu l'IA plus susceptible de choisir une mauvaise réponse.

L'Analogie : C'est comme mettre un panneau « Interdit d'entrer » dans un couloir. Au lieu de s'arrêter, les gens pourraient devenir curieux et essayer d'entrer quand même. La présence de l'option pour admettre l'incertitude a en fait déclenché l'IA à l'ignorer et à deviner faux.

La Conclusion : Pourquoi Cela Compte

Le papier conclut que nous ne pouvons pas simplement faire confiance à l'IA en médecine parce qu'elle obtient de bons scores aux examens standards. Ces examens sont trop propres et trop simples.

Le Problème : Les modèles d'IA actuels sont entraînés à être « utiles » et « conformes ». Ils sont si désireux de donner une réponse qu'ils mentiront avec assurance plutôt que d'admettre qu'ils sont incertains.
Le Risque : Dans un vrai hôpital, si un médecin demande un diagnostic à une IA et que l'IA devine faux parce qu'elle avait trop peur de dire « Je ne sais pas », un patient pourrait être blessé.
L'Essentiel : Nous devons arrêter de tester l'IA uniquement sur des examens « parfaits ». Nous devons la tester sur des scénarios réels, désordonnés et bruyants, où la bonne réponse pourrait même ne pas exister. Tant que l'IA n'apprendra pas à être humble et à admettre l'incertitude, elle n'est pas sûre pour des conseils médicaux réels.

En bref : Le papier montre que notre IA médicale est un « je-sais-tout » qui est en réalité assez fragile. Elle doit apprendre que dire « Je ne sais pas » est un signe d'intelligence, et non un échec.

1. Énoncé du problème

Les évaluations actuelles des grands modèles de langage (LLM) médicaux reposent fortement sur des benchmarks standardisés de type examen (par exemple, MedQA, MedMCQA). Ces benchmarks souffrent de trois limitations critiques lorsqu'ils sont appliqués à des contextes cliniques réels :

Hypothèse de monde clos : Ils supposent que la bonne réponse est toujours présente dans un ensemble fixe d'options, échouant à tester la capacité d'un modèle à reconnaître lorsque la bonne réponse manque (scénarios de monde ouvert).
Absence d'ambiguïté : Les interrogations médicales réelles impliquent souvent des données patient fragmentées, bruitées ou incomplètes, alors que les benchmarks fournissent des espaces de décision propres et bien définis.
Fragilité à la présentation : La performance des LLM est hautement sensible à la manière dont l'espace de décision est structuré (par exemple, le nombre de leurres) et au cadrage sémantique des options (par exemple, la formulation de l'« abstention »).

Par conséquent, les modèles qui obtiennent une haute précision sur les benchmarks échouent souvent à démontrer une humilité épistémique (la capacité d'admettre l'incertitude ou de refuser de répondre en cas de doute) dans des scénarios pratiques, posant des risques significatifs pour la sécurité des patients.

2. Méthodologie : Le cadre CLEAR

Les auteurs introduisent CLEAR (CLinical Evaluation of Ambiguity and Reliability), un cadre systématique conçu pour perturber les benchmarks existants afin de simuler le bruit et l'ambiguïté du monde réel.

Ensembles de données : Le cadre a été appliqué à trois benchmarks distincts :
1. MedMCQA : Récupération de connaissances biomédicales fondamentales.
2. MedQA : Vignettes cliniques structurées dérivées de l'USMLE.
3. JAMA-CC : Défis cliniques réels non structurés à haute complexité.
Stratégies de perturbation : CLEAR modifie l'espace de décision de trois manières :
1. Saturation par les leurres : Augmentation systématique du nombre d'options de réponse plausibles mais incorrectes ( $k=1$ à $k=3/4$ ).
2. Suppression de la vérité terrain : Remplacement de la bonne réponse par une option d'abstention pour tester la fiabilité en monde ouvert.
3. Cadrage sémantique de l'abstention : Test de trois manières distinctes de formuler le refus de répondre :
  - NA (Aucune des réponses ci-dessus) : Rejet assertif.
  - IDK (Je ne sais pas) : Admission de l'incertitude.
  - INA (J'ai besoin d'assistance) : Demande d'aide.
Configuration expérimentale :
- Modèles : Évaluation de 17 modèles (15 familles open-source : Llama, Qwen, Gemma ; 2 propriétaires : GPT-4o, GPT-5.2) allant de 1 à 72 milliards de paramètres.
- Modalités : Test des stratégies de prompting Réponse directe (de base) et Chaîne de pensée (CoT).
- Métriques : Mesure de la Précision (sélection de la vérité terrain) et du Taux d'abstention (rejet correct de l'espace de réponse).

3. Contributions clés

Le cadre CLEAR : Une méthodologie évolutive pour tester la résistance des LLM face au bruit, à l'ambiguïté et aux conditions de monde ouvert, dépassant la simple précision statique des benchmarks.
Formalisation du « déficit d'humilité » : Les auteurs définissent une nouvelle métrique représentant l'écart de performance entre la capacité d'un modèle à identifier la bonne réponse (précision) et sa capacité à s'abstenir des mauvaises (fiabilité).
Découverte d'une inversion de la loi d'échelle : Le papier démontre que l'augmentation de l'échelle du modèle améliore la précision mais souvent aggrave l'humilité, contredisant les lois d'échelle traditionnelles dans le contexte de la sécurité médicale.
Analyse de la sensibilité sémantique : Révèle que le comportement du modèle dépend fortement du cadrage sémantique de l'incertitude, les modèles montrant une hiérarchie de préférence qui privilégie le rejet assertif à l'admission de l'incertitude.

4. Résultats clés

A. Impact des leurres (Bruit)

Dégradation de la précision : À mesure que le nombre de leurres augmente, la précision chute pour tous les modèles. Bien que les modèles plus grands (par exemple, GPT-5.2, Qwen-72B) soient plus résilients, ils subissent tout de même des pénalités significatives.
Limites de la Chaîne de pensée (CoT) : Le raisonnement par chaîne de pensée améliore la précision dans les tâches structurées (MedQA) mais nuit souvent aux performances dans les connaissances fondamentales (MedMCQA) et les scénarios réels (JAMA-CC), réduisant parfois la précision de plus de 10 %.

B. Le déficit d'humilité

Aversion active à l'abstention : Lorsque la vérité terrain est supprimée, les modèles ne se contentent pas de deviner au hasard ; ils évitent activement de s'abstenir. Dans JAMA-CC, même les modèles de premier plan (GPT-5.2) ne s'abstiennent que d'environ 50 % du temps, sélectionnant des leurres incorrects les 50 % restants.
Paradoxe de l'échelle : À mesure que la complexité du modèle augmente, le déficit d'humilité s'élargit. Les modèles plus grands sont meilleurs pour trouver des réponses dans des ensembles fermés, mais sont moins susceptibles d'admettre qu'ils ne connaissent pas la réponse dans des ensembles ouverts. Par exemple, GPT-5.2 a montré la précision la plus élevée mais le taux d'abstention le plus faible.
Sensibilité aux leurres : Les taux d'abstention se dégradent près de 3 à 4 fois plus vite que les taux de précision à mesure que les leurres sont ajoutés.

C. Cadrage sémantique et agency

Hiérarchie du refus : Les modèles exhibent une hiérarchie de préférence stricte pour les options d'abstention :
- NA (Assertif) > IDK (Incertitude) > INA (Recherche d'aide).
Le déclencheur « IDK » : L'ajout simple d'une option « Je ne sais pas » à l'espace de réponse provoque une instabilité comportementale.
- La plupart des modèles (13/17) ne basculent pas logiquement vers IDK.
- Au lieu de cela, de nombreux modèles augmentent soit leur sélection de réponses incorrectes, soit leur rejet assertif (NA) tout en ignorant l'option IDK.
- GPT-5.2 s'est abstenu 50 % du temps avec « NA » mais est tombé à 25 % avec « IDK », montrant une sensibilité aiguë à la manière dont l'incertitude est cadrée.

D. CoT et raisonnement

Le raisonnement CoT atténue partiellement le déficit d'humilité mais échoue à résoudre le désalignement fondamental. Dans certains cas, le CoT exacerbe les comportements illogiques (par exemple, augmentation des taux de sélection incorrecte lorsque IDK est introduit).

5. Signification et implications

Critique pour la sécurité : Les résultats suggèrent que les LLM médicaux actuels sont dangereusement trop confiants. Ils privilégient la satisfaction de l'invite de l'utilisateur (sycophancie) à la sécurité clinique, fournissant souvent des justifications confiantes pour des réponses factuellement incorrectes lorsque l'option correcte est absente.
Biais RLHF : Les auteurs attribuent cette « sycophancie » et ce manque d'humilité au Reinforcement Learning from Human Feedback (RLHF), qui entraîne les modèles à être « utiles » et conformes, leur apprenant involontairement à deviner plutôt qu'à s'abstenir en cas d'incertitude.
Changement de paradigme d'évaluation : Les benchmarks standards sont insuffisants pour un déploiement clinique. L'évaluation doit passer de la mesure de la « précision maximale » à la mesure de la « fiabilité dans l'ambiguïté » et de l'« humilité calibrée ».
L'échelle n'est pas une solution : Augmenter simplement les paramètres du modèle ne résout pas les problèmes de fiabilité ; en fait, cela peut exacerber le manque d'humilité épistémique dans les contextes médicaux.

Conclusion : Le papier soutient que pour que les LLM soient déployés en toute sécurité en médecine, les cadres d'évaluation doivent tester explicitement la fiabilité en monde ouvert, la sensibilité au cadrage sémantique et la capacité à retenir un diagnostic lorsque les signaux cliniques sont insuffisants. La génération actuelle de modèles, malgré des scores élevés aux benchmarks, manque de l'humilité nécessaire à la prise de décision clinique réelle.