Citation reliability of frontier large language models in medical writing and its automated verification

Dans la pratique moderne de la médecine, la rédaction d'un article de recherche ou d'un article de revue est un processus rigoureux qui exige une précision absolue. Les auteurs doivent non seulement synthétiser des connaissances médicales complexes, mais aussi ancrer chaque affirmation à une source de preuve spécifique et existante. Ces sources sont des citations, qui agissent comme les empreintes de pas de la découverte scientifique, guidant les lecteurs vers les études originales qui soutiennent une nouvelle idée. Pendant des décennies, ce processus a été une entreprise humaine, nécessitant une vérification minutieuse des noms, des dates et des titres de revues pour s'assurer qu'une référence existe réellement et dit ce que l'auteur prétend qu'elle dit. Cependant, un nouvel outil est entré dans le laboratoire et la bibliothèque : le modèle de langage étendu. Ce sont de puissants programmes informatiques entraînés sur de vastes quantités de texte qui peuvent rédiger des articles, résumer des conclusions et générer des listes de références en quelques secondes. Bien qu'ils offrent une promesse de rapidité et d'efficacité, une question critique émerge : ces machines peuvent-elles êtreந்த de confiance pour trouver les bonnes empreintes, ou inventent-elles parfois les leurs ?

Cette question n'est pas simplement académique ; elle touche au cœur même de l'intégrité médicale. Si un ordinateur écrit une revue médicale et inclut une citation qui semble réelle mais qui renvoie à la mauvaise étude, ou pire, à une étude qui n'a jamais existé, tout l'argument pourrait s'effondrer. Ce phénomène, connu sous le nom d'hallucination, est une faiblesse connue des modèles informatiques antérieurs. Mais à mesure que ces outils ont évolué, devenant plus rapides et équipés de la capacité de rechercher sur Internet en temps réel, il est devenu incertain s'ils ont enfin appris à citer correctement. La communauté médicale a besoin de savoir si ces nouveaux modèles avancés sont assez fiables pour être utilisés dans la recherche sérieuse, et si ce n'est pas le cas, s'il existe un moyen pratique de détecter leurs erreurs avant qu'elles ne soient publiées.

Une équipe de chercheurs s'est donné pour mission de répondre à ces questions en soumettant trois des modèles informatiques les plus avancés à un test strict. Ils ont demandé à chaque modèle de rédiger une série de courtes revues médicales sur neuf sujets différents dans le domaine de la cardiologie, l'étude du cœur et des vaisseaux sanguins. Les sujets allaient de conditions communes à des procédures rares, assurant un mélange de sujets avec de nombreuses études publiées et de sujets avec très peu. Chaque modèle a reçu l'instruction de rédiger une revue d'environ 600 à 900 mots et d'inclure exactement trente références pour chaque article, soit un total de 270 revues et plus de 8 000 citations. Crucialement, les chercheurs ont permis aux modèles d'utiliser leurs outils de recherche Web intégrés, simulant la façon dont un utilisateur les emploierait réellement dans un cadre réel. L'objectif était de voir combien de ces milliers de citations étaient réellement correctes.

Les résultats ont révélé un paysage de variations significatives et d'erreurs persistantes. Lorsque les chercheurs ont vérifié chaque citation par rapport à la base de données médicale officielle, ils ont constaté que les modèles n'étaient pas parfaits. Un modèle, GPT-5.5, a obtenu les meilleurs résultats, produisant des citations problématiques dans environ 11,5 % des cas. Cependant, les deux autres modèles, Claude Opus 4.8 et Gemini 3.5 Flash, ont commis des erreurs dans près de 30 % de leurs citations. Cela signifie que pour dix références générées par les modèles les moins précis, environ trois étaient erronées. Les chercheurs ont également cherché à savoir si les modèles éprouvaient plus de difficultés avec les sujets ayant moins d'études publiées, craignant qu'un manque d'informations disponibles ne confonde l'ordinateur. Ils ont découvert que, bien que les taux d'erreur soient légèrement inférieurs pour les sujets avec plus de littérature, la différence n'était pas assez marquée pour être considérée comme une règle définitive. Les modèles faisaient des erreurs de manière générale, quelle que soit la quantité d'informations disponibles sur le sujet.

La découverte la plus révélatrice fut peut-être la nature même des erreurs. Les chercheurs s'attendaient à trouver de nombreux cas où l'ordinateur inventait simplement un faux article, une forme classique d'hallucination. Au lieu de cela, ils ont découvert que la grande majorité des erreurs étaient beaucoup plus subtiles. Environ 77 % des citations problématiques étaient des cas de mauvaise attribution. Dans ces cas, l'ordinateur fournissait un identifiant réel et valide pour un véritable article médical, mais cet article n'était pas celui que le modèle prétendait qu'il était. C'était comme si l'ordinateur avait trouvé un vrai livre dans une bibliothèque mais l'avait placé sur la mauvaise étagère, en le labellisant avec le titre d'un autre livre. Ce type d'erreur est particulièrement dangereux car il semble correct au premier coup d'œil ; un lecteur humain pourrait voir un numéro valide et supposer que la référence est digne de confiance, pour découvrir plus tard que la source ne soutient pas le point qui est avancé. La véritable fabrication, où l'ordinateur inventait un article qui n'existe pas du tout, était étonnamment rare, ne représentant pas plus de 1 % des erreurs.

Reconnaissant que ces erreurs subtiles sont difficiles à détecter pour les humains sans une vérification systématique, les chercheurs ont testé une nouvelle méthode de vérification appelée « Chain-of-Verification » (Chaîne de Vérification). Cette approche utilise le modèle informatique lui-même, mais d'une manière différente. Au lieu de demander au modèle de simplement lister des références, le système décompose la tâche en une série de petites questions indépendantes. Il demande au modèle de trouver l'article basé sur son titre et son auteur, puis de vérifier si la revue et l'année correspondent, et enfin de confirmer que l'identifiant pointe vers le bon document. En forçant le modèle à vérifier chaque élément d'information séparément par rapport à la base de données, plutôt que de se fier à sa mémoire, le système peut détecter ses propres erreurs. Lorsque les chercheurs ont testé cette méthode par rapport à un ensemble de références qui avaient été soigneusement vérifiées par un expert humain, le système automatisé s'est avéré remarquablement efficace. Il a correctement identifié 96,8 % des citations problématiques, incluant chaque cas de mauvaise attribution et de fabrication, tout en signalant rarement une citation correcte comme étant une erreur.

L'étude conclut que bien que la nouvelle génération d'outils de rédaction médicale soit puissante, elle n'est pas encore prête à être utilisée sans supervision. La défaillance la plus courante n'est pas l'invention de faits fictifs, mais l'étiquetage erroné de faits réels, une erreur qui nécessite un type spécifique de vérification pour être détectée. Les chercheurs ont découvert qu'un processus de vérification automatisé peut effectuer ce contrôle avec une précision comparable à celle d'un expert humain. Cela suggère que l'avenir de la rédaction médicale assistée par l'IA ne sera pas un choix entre l'humain et la machine, mais un partenariat où la machine rédige le contenu et un système de vérification spécialisé garantit que chaque citation pointe vers la vérité. Jusqu'à ce qu'une telle vérification devienne une pratique standard, les citations générées par ces modèles doivent être traitées avec prudence, car elles peuvent conduire les lecteurs vers la mauvaise source de vérité.