Prompt Sensitivity and Answer Consistency of Small Open-Source Large Language Models on Clinical Question Answering: Implications for Low-Resource Healthcare Deployment

Cette étude démontre que, pour le déploiement clinique en ressources limitées, Llama 3.2 3B offre le meilleur équilibre entre précision et fiabilité, tout en révélant que les modèles à faible coût peuvent être constamment erronés et que l'entraînement de domaine seul ne suffit pas sans instruction.

L'essentiel

🩺 Le Médecin Numérique : Fiable ou Juste ?

Une étude sur les petits intelligences artificielles dans les cliniques sans électricité stable.

Imaginez que vous êtes dans un petit village reculé, loin des grands hôpitaux connectés au cloud. Vous avez un ordinateur portable basique, mais pas de connexion internet rapide. Pour aider les médecins, on veut installer une petite intelligence artificielle (IA) capable de répondre à des questions médicales. Mais voici le problème : peut-on faire confiance à cette petite IA ?

Cette étude, menée par Shravani Hariprasad, pose une question cruciale : Si vous posez la même question médicale à l'IA de cinq manières différentes, va-t-elle toujours donner la même réponse ? Et surtout, si elle donne toujours la même réponse, est-ce que cette réponse est juste ?

Voici les découvertes principales, expliquées avec des analogies simples.

---

1. La "Cohérence" n'est pas la "Vérité" (Le Paradoxe du Mouton Têtu)

C'est la découverte la plus importante.

• L'analogie : Imaginez un mouton têtu qui répond toujours "Bêêê !" à chaque fois qu'on lui pose une question. Il est très cohérent (il ne change jamais d'avis), mais si on lui demande "Quelle est la capitale de la France ?", et qu'il répond "Bêêê" (ou "Londres"), il est cohérent mais faux.
• Ce que l'étude dit : Certains modèles d'IA (comme Gemma 2) sont comme ce mouton têtu. Ils répondent toujours la même chose, quelle que soit la façon dont on pose la question. C'est rassurant pour l'utilisateur, mais cette réponse est souvent médicalement fausse.
• Le danger : En médecine, une erreur constante et confiante est plus dangereuse qu'une erreur aléatoire, car le médecin peut croire que l'IA a raison simplement parce qu'elle est sûre d'elle.

2. Le Jeu de Rôle est un Mauvais Conseiller (L'Acteur qui Oublie son Script)

Les chercheurs ont testé différentes façons de parler à l'IA. Parfois, ils lui ont dit : "Agis comme un médecin expert" (Jeu de rôle).

• L'analogie : C'est comme demander à un acteur de jouer un chirurgien pendant qu'il doit résoudre un puzzle complexe. L'acteur se concentre tellement sur son costume et son accent qu'il oublie de résoudre le puzzle !
• Ce que l'étude dit : Dès qu'on demande à l'IA de jouer un rôle (un médecin, un expert), ses performances chutent drastiquement. Elle devient moins précise.
• Le conseil : Pour les petites IA dans les cliniques, il faut être direct. Posez la question simplement, sans fioritures. "Quel est le traitement pour X ?" fonctionne mieux que "Vous êtes un grand médecin, que feriez-vous pour X ?".

3. La Taille ne fait pas la Force (Le Géant qui Trébuche)

On pensait souvent que plus l'IA est "grosse" (plus elle a de paramètres), plus elle est intelligente et fiable.

• L'analogie : C'est comme croire qu'un camion de 20 tonnes est forcément meilleur pour livrer un colis dans un chemin de terre que une petite voiture. Parfois, le camion reste coincé dans la boue.
• Ce que l'étude dit : Le modèle le plus gros testé (Mistral 7B) n'a pas été le meilleur. Il a souvent échoué à comprendre les instructions ou à donner une réponse utilisable. En revanche, un modèle plus petit et agile (Llama 3.2) a été le meilleur compromis : il est assez précis et suit bien les ordres.

4. Le Savoir ne suffit pas (La Bibliothèque sans Index)

L'étude a testé un modèle spécial (Meditron) qui a lu des milliers de livres médicaux, mais qui n'a jamais appris à "écouter les instructions".

• L'analogie : Imaginez un bibliothécaire qui connaît par cœur tous les livres de médecine, mais qui ne sait pas lire les étiquettes des étagères. Si vous lui demandez "Où est le livre sur les dents ?", il peut vous donner le livre, mais il risque de vous donner n'importe quel livre parce qu'il ne sait pas comment vous répondre.
• Ce que l'étude dit : Ce modèle, bien qu'il connaisse la médecine, a échoué presque totalement (99% d'échec) à répondre correctement aux questions structurées. Il a le savoir, mais pas la discipline pour répondre comme on lui demande.

---

🏆 Le Grand Gagnant pour les Cliniques de Quartier

Si vous deviez installer une IA dans un hôpital sans internet puissant, quel modèle choisir ?

Selon l'étude, le modèle Llama 3.2 est le meilleur candidat.

• Il n'est pas le plus cohérent (il change parfois d'avis selon la question), mais il est le plus souvent juste.
• Il comprend bien les instructions.
• Il fonctionne bien sur de simples ordinateurs portables.

📝 En Résumé : La Leçon à Retenir

Dans le monde médical, la stabilité ne signifie pas la sécurité.
Une IA qui répond toujours la même chose peut être un danger si elle se trompe toujours. Pour déployer l'IA dans les zones pauvres en ressources, il ne faut pas seulement chercher un modèle "stable" ou "gros", mais un modèle qui comprend bien les instructions et qui donne la bonne réponse, même si cela signifie qu'elle peut varier légèrement selon la façon dont on lui pose la question.

Le mot de la fin : Ne faites pas confiance à l'IA parce qu'elle est sûre d'elle. Vérifiez toujours si elle a raison, surtout si elle joue un rôle ou si elle est trop petite pour être fiable !

Résumé technique

Titre de l'étude

Sensibilité aux prompts et cohérence des réponses des petits modèles de langage open-source sur le questionnement clinique : Implications pour le déploiement dans les systèmes de santé à ressources limitées.

1. Problématique

L'intelligence artificielle est de plus en plus intégrée dans les flux de travail de santé, en particulier pour les systèmes de soutien à la décision clinique. Cependant, dans les environnements à ressources limitées (cliniques rurales, hôpitaux communautaires), l'accès aux infrastructures cloud et aux grands modèles propriétaires est souvent impossible. Les petits modèles de langage open-source (2 à 7 milliards de paramètres) exécutables localement sur des CPU de consommation deviennent donc des alternatives viables.

Le problème central identifié par les auteurs est l'absence de compréhension de la fiabilité de ces modèles. La plupart des évaluations se concentrent uniquement sur la précision (exactitude de la réponse). Or, dans le domaine critique de la santé, la stabilité des réponses est tout aussi cruciale : un modèle qui donne des réponses différentes pour la même question clinique reformulée est intrinsèquement peu fiable. De plus, il existe un risque méconnu de "faux positifs cohérents" : un modèle peut être extrêmement cohérent tout en étant systématiquement erroné, ce qui constitue un mode de défaillance dangereux car il renforce une confiance injustifiée chez les cliniciens.

2. Méthodologie

L'étude a été conçue pour évaluer systématiquement la sensibilité aux prompts et la cohérence des réponses dans des conditions de déploiement réalistes (sans GPU, sans fine-tuning médical).

• Modèles évalués : Cinq modèles open-source de 2B à 7B paramètres :
  • Modèles généraux (instruction-tuned) : Phi-3 Mini (3.8B), Llama 3.2 (3B), Gemma 2 (2B), Mistral 7B (7B).
  • Modèle spécialisé : Meditron-7B (7B), pré-entraîné sur un corpus médical mais sans instruction tuning (modèle de base).
• Données : Trois benchmarks de questionnement clinique :
  • MedQA : Questions du USMLE (licences médicales américaines).
  • MedMCQA : Questions d'examens médicaux indiens.
  • PubMedQA : Questions de recherche biomédicale basées sur des résumés.
  • Échantillon : 200 questions aléatoires par dataset (total 600 questions).
• Variation des Prompts : Pour chaque question, cinq styles de prompts ont été générés pour tester la sensibilité :
  1. Original : Tel quel dans le dataset.
  2. Formel : Langage académique clinique.
  3. Simplifié : Langage courant (patient/non-expert).
  4. Jeu de rôle (Roleplay) : Instruction de répondre en tant que médecin praticien.
  5. Direct : Question brute sans contexte.
• Configuration d'inférence : Exécution locale sur CPU via Ollama. Température fixée à 0 (sorties déterministes) et limite de 10 tokens pour forcer une réponse concise (A, B, C, D ou Oui/Non/Peut-être).
• Métriques d'évaluation :
  • Score de cohérence : Proportion de fois où le modèle donne la même réponse (majoritaire) sur les 5 variations de prompt.
  • Précision globale : Comparaison de la réponse majoritaire avec la vérité terrain.
  • Taux d'échec d'instruction (UNKNOWN) : Proportion de réponses ne contenant pas de format de réponse valide.

3. Contributions Clés

Cette étude apporte plusieurs contributions majeures à la littérature sur l'IA médicale :

1. Découplage de la cohérence et de la précision : Elle démontre empiriquement que la cohérence (stabilité) et la précision (exactitude) sont des métriques indépendantes. Un modèle peut être "cohérentement faux".
2. Impact négatif du "Jeu de rôle" : Elle identifie que les prompts de type "persona" (ex: "Agis comme un médecin") dégradent systématiquement la précision des petits modèles, contrairement aux croyances courantes en ingénierie de prompts.
3. Distinction Connaissance vs Suivi d'instruction : L'étude isole l'effet de l'entraînement de domaine (Meditron) par rapport au fine-tuning d'instruction, montrant que la connaissance médicale seule ne suffit pas pour des tâches structurées sans capacité de suivi d'instructions.
4. Cadre d'évaluation pour les ressources limitées : Elle propose un protocole reproductible sur CPU sans fine-tuning, reflétant les contraintes réelles des systèmes de santé à faibles ressources.

4. Résultats Principaux

• Indépendance Cohérence/Précision :
  • Gemma 2 a obtenu les scores de cohérence les plus élevés (0,845–0,888) mais la précision la plus faible (33,0–43,5 %). Cela illustre le danger d'un modèle "cohérentement erroné".
  • Llama 3.2 a démontré le meilleur équilibre avec une précision élevée (49,0–65,0 %) et une cohérence modérée (0,774–0,807).
• Effet des Prompts "Jeu de rôle" :
  • Le style "Roleplay" a systématiquement réduit la précision sur tous les modèles et datasets.
  • La chute la plus marquée a été observée sur Phi-3 Mini sur MedQA, avec une baisse de 21,5 points de pourcentage par rapport au style le plus performant.
• Échecs de suivi d'instruction (UNKNOWN Rate) :
  • Le taux d'échec varie selon le modèle et n'est pas corrélé à la taille des paramètres.
  • Meditron-7B a échoué presque totalement sur PubMedQA (99 % de réponses UNKNOWN), prouvant qu'un modèle pré-entraîné sur le domaine mais non adapté aux instructions ne peut pas répondre à des questions structurées.
  • Phi-3 Mini a montré le taux d'échec le plus élevé sur MedQA (10,5 %) parmi les modèles instructés.
• Performance par Dataset :
  • Sur PubMedQA, Llama 3.2 a significativement surpassé les autres modèles en précision.
  • Les différences de cohérence étaient statistiquement significatives sur MedQA et MedMCQA, mais moins sur PubMedQA.

5. Signification et Implications

Les résultats ont des implications critiques pour le déploiement de l'IA dans la santé, en particulier dans les pays en développement ou les zones rurales :

• Ne pas se fier à la stabilité : La cohérence d'une réponse ne garantit pas sa justesse clinique. Un modèle qui répond toujours la même chose (même si c'est faux) peut être plus dangereux qu'un modèle hésitant, car il induit une fausse confiance chez le praticien.
• Éviter le "Roleplay" : Pour les petits modèles open-source, les prompts invitant à incarner un personnage (médecin) doivent être évités car ils introduisent une interférence cognitive qui réduit la précision factuelle. Les prompts directs sont préférables.
• Sélection de modèles pour les ressources limitées : Llama 3.2 (3B) se distingue comme le candidat le plus robuste pour un déploiement local, offrant le meilleur compromis entre précision, fiabilité des instructions et cohérence. Les modèles plus grands (Mistral 7B) ne garantissent pas une meilleure fiabilité.
• Nécessité du Fine-tuning d'instruction : La connaissance médicale (comme dans Meditron) est insuffisante sans instruction tuning. Pour un déploiement clinique, la capacité à suivre des instructions structurées est une prérequis aussi important que la connaissance du domaine.
• Nouveau paradigme d'évaluation : Les auteurs appellent à l'abandon des évaluations basées uniquement sur la précision. Une évaluation multidimensionnelle (Précision + Cohérence + Adhérence aux instructions) est indispensable pour assurer la sécurité des patients avant le déploiement clinique.

En conclusion, cette étude fournit un cadre rigoureux pour évaluer la fiabilité des petits modèles de langage dans des conditions réalistes, soulignant que la sécurité en santé nécessite une approche nuancée au-delà de la simple performance brute.