A Systematic Literature Review of Large Language Models in Clinical Triage from Risk Stratification to Human Escalation
Cette revue systématique et bibliométrique synthétise 89 études publiées entre 2022 et 2026 pour analyser l'application des modèles de langage de grande taille dans le triage clinique, en évaluant leurs stratégies d'adaptation, leurs mécanismes de sécurité et leurs mesures de performance, tout en proposant un nouveau cadre à 5 dimensions pour guider leur transition sécurisée vers les contextes de soins d'urgence.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Chaque jour, les services d'urgence font face à une marée incessante de personnes en quête de soins. Certaines arrivent avec des égratignures mineures, tandis que d'autres luttent pour leur survie. La tâche critique du tri des patients, appelée triage, incombe aux infirmiers et aux médecins qui doivent décider instantanément qui nécessite une attention immédiate et qui peut attendre. Ce processus repose sur des échelles standardisées qui attribuent un niveau d'urgence, allant des cas les plus critiques nécessitant une réanimation à ceux qui ne sont pas urgents. Cependant, à mesure que les hôpitaux se congestionnent et que le volume de l'admission de santé numérique augmente, la pression sur ces gardiens humains s'intensifie. Ces dernières années, un nouveau type d'intelligence artificielle est apparu, capable de lire et de comprendre le langage humain avec une fluidité remarquable. Ces systèmes, connus sous le nom de modèles de langage étendus, peuvent interpréter des récits complexes de symptômes et suggérer des conseils médicaux. Mais bien qu'ils offrent un outil potentiel pour aider à gérer le flux de patients, ils comportent également des risques importants. Si une telle machine commet une erreur de jugement, les conséquences peuvent être graves, allant de retards inutiles pour les patients critiques à l'engorgement des ressources d'urgence par ceux qui n'en ont pas besoin.
Une équipe de chercheurs issus d'institutions des États-Unis, de l'Inde et d'Europe s'est donné pour mission de comprendre exactement comment ces systèmes d'intelligence artificielle sont testés pour ce rôle à enjeux élevés. Ils ont mené une revue massive de quatre-vingt-dix études scientifiques publiées entre 2022 et 2026. Leur objectif n'était pas seulement de voir si la technologie fonctionne, mais d'examiner comment elle est construite, comment elle est testée, et si elle est assez sûre pour être un jour utilisée dans un véritable hôpital. Les chercheurs ont découvert que, bien que ces programmes informatiques deviennent de plus en plus courants dans la recherche, ils ne sont pas encore prêts à prendre des décisions de vie ou de mort de manière autonome. Les études qu'ils ont analysées ont révélé un paysage où la technologie progresse rapidement, mais où elle peine encore face aux erreurs les plus dangereuses : manquer un patient qui est dans un état critique.
La revue a commencé par rassembler toutes les études disponibles qui examinaient l'utilisation de ces systèmes basés sur le langage pour le tri des patients. Les chercheurs ont passé au crible des centaines de dossiers, pour finalement s'arrêter sur quatre-vingt-dix études primaires répondant à des critères stricts. Ils ont découvert que près de la moitié de ces études se concentraient sur les services d'urgence, là où le besoin de rapidité est le plus grand. Une autre partie significative portait sur les cliniques externes et les services d'urgence pré-hospitaliers. Les chercheurs ont remarqué une tendance claire dans la manière dont ces systèmes étaient développés. Dans les premières études, les scientifiques demandaient simplement à l'ordinateur de répondre à des questions sans formation particulière, une méthode appelée « zero-shot prompting » (incitation à froid). Cependant, au fil du temps, les chercheurs ont commencé à utiliser des techniques plus sophistiquées. Ils ont commencé à nourrir les systèmes de directives médicales spécifiques ou à les connecter à des bases de données de règles hospitalières pour les aider à prendre de meilleures décisions. Certaines équipes ont même construit des systèmes où plusieurs agents informatiques travaillaient ensemble, l'un proposant un diagnostic et l'autre agissant comme un critique pour vérifier les erreurs.
Malgré ces avancées techniques, les données de performance racontent une histoire complexe. Testés contre des échelles médicales standard, les systèmes d'intelligence artificielle atteignent souvent une précision globale élevée, classant correctement les patients dans environ quatre-vingts pour cent des cas. Cependant, les chercheurs ont souligné qu'un score moyen élevé cache une faille dangereuse. Dans le monde de la médecine d'urgence, toutes les erreurs ne sont pas égales. Un système qui surestime la gravité d'une blessure mineure envoie simplement un patient au premier rang, causant un retard pour les autres, mais cause rarement un préjudice. En revanche, un système qui sous-estime la gravité d'une condition critique envoie un patient mourant au dernier rang, ce qui peut mener à la mort. La revue a révélé que, bien que les systèmes soient généralement bons pour identifier les problèmes mineurs, ils échouent fréquemment à repérer les cas les plus urgents. Dans certaines études, le taux de patients critiques manqués était aussi élevé que vingt-cinq pour cent. Une étude spécifique a souligné que les systèmes manquaient un nombre important de cas impliquant des enfants avec des objets coincés dans les voies respiratoires, une urgence vitale qui nécessite une action immédiate.
Les chercheurs ont également examiné comment ces systèmes gèrent l'incertitude. Un médecin humain sait quand il est incertain et demandera de l'aide ou effectuera plus de tests. Les programmes informatiques, cependant, ne savent souvent pas quand ils devinent. La revue a révélé que dans près de soixante-dix pour cent des études, les chercheurs n'avaient inclus aucun mécanisme pour mesurer le degré de confiance du système dans sa réponse. Sans ce contrôle de sécurité, un ordinateur pourrait donner une mauvaise réponse avec une certitude absolue, ce qui est bien plus dangereux qu'une réponse hésitante. De plus, de nombreuses études reposaient sur des données déjà consignées dans des dossiers hospitaliers ou créées par des scientifiques en laboratoire. Ces dossiers statiques ne capturent pas la réalité chaotique d'une salle d'urgence animée, où l'état d'un patient peut changer minute par minute, ou là où un membre de la famille peut décrire des symptômes de manière confuse ou émotionnelle.
Pour remédier à ces dangers, les auteurs ont proposé un nouveau cadre pour la construction et le test de ces systèmes avant qu'ils ne soient jamais utilisés sur de vraies personnes. Ils ont soutenu qu'un ordinateur ne devrait jamais être la première ligne de défense pour les urgences les plus critiques. Au lieu de cela, ils ont suggéré une approche par couches. La première couche devrait être un ensemble de règles simples et immuables qui signalent instantanément des mots-clés spécifiques tels que « douleur thoracique » ou « difficulté respiratoire » et dirigent ces patients directement vers un médecin humain, contournant entièrement le modèle de langage complexe. La deuxième couche impliquerait le modèle de langage lui-même, mais seulement s'il est constamment vérifié par rapport aux directives médicales et s'il est programmé pour admettre lorsqu'il est incertain. Si le système n'est pas confiant, il doit s'arrêter et demander l'aide d'un humain. La dernière couche est le médecin humain, qui doit toujours avoir le dernier mot. La revue a conclu que, bien que ces outils soient prometteurs pour aider les médecins à gérer leur charge de travail, ils ne sont pas encore prêts à remplacer le jugement humain. La technologie progresse vite, mais les mesures de sécurité nécessaires pour lui confier des vies humaines sont encore en cours de construction. Jusqu'à ce que ces garde-fous soient en place, le rôle de ces systèmes doit rester celui d'un assistant de soutien, et jamais celui d'un décideur autonome.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.