Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

Pendant des décennies, les dossiers numériques de notre santé n'ont été rien de plus que des classeurs numériques. Lorsqu'un médecin rédige une note sur la tension artérielle d'un patient, ou qu'une infirmière enregistre un changement de médication, cette information est stockée sous forme de document, tel une lettre dans un tiroir. Pour comprendre l'état actuel d'un patient, un humain doit lire ces lettres, reconstituer l'histoire et maintenir l'image complète dans son esprit. Cela a toujours été le travail du clinicien : reconstruire la vérité de la santé d'une personne à partir d'une collection éparpillée de papiers. Ces dernières années, de puissants systèmes informatiques appelés modèles de langage étendus sont arrivés, capables de lire ces documents avec une vitesse et une fluidité incroyables. Ils peuvent résumer l'historique d'un patient en quelques secondes, répondant à des questions qui demandaient autrefois des heures de recherche à un humain. Mais bien que ces systèmes soient excellents pour lire le texte, ils ne tiennent pas intrinsèquement un registre séparé et organisé de ce qui est réellement vrai concernant le patient à un instant donné. Ils traitent l'historique du patient comme un flux de mots à traiter, plutôt que comme un état vivant à suivre.

Ce fossé entre la lecture fluide et la connaissance précise est le problème central abordé par un nouvel article de chercheurs de MyndwareMed. Les auteurs soutiennent que traiter l'historique médical d'un patient comme une simple collection de textes est une faille fondamentale lorsqu'on tente de construire une intelligence artificielle capable d'être digne de confiance pour les soins à long terme. Ils proposent que le raisonnement clinique n'est pas un test de compréhension de texte, mais un problème de suivi d'une réalité changeante. Tout comme un robot naviguant dans une pièce doit constamment mettre à jour sa carte des murs et des portes, un système médical doit maintenir un registre continu et gouverné de l'état d'un patient. Les chercheurs distinguent deux manières très différentes de gérer l'information. La première est le « contexte généré », où l'ordinateur rassemble les documents pertinents pour une question unique puis les oublie une fois la réponse donnée. La seconde est l'« état gouverné », où le système maintient un enregistrement persistant, versionné et auditable de ce qu'il croit être vrai, mis à jour uniquement par des règles strictes qui séparent ce qui a été observé de ce qui a été inféré.

L'article ne prétend pas que ces nouveaux modèles informatiques sont mauvais pour lire. En fait, ils sont souvent meilleurs que les humains pour trouver des motifs dans le texte. Le problème est que lire le dossier n'est pas la même chose que connaître le patient. Les chercheurs montrent que les systèmes actuels confondent souvent une note écrite avec un fait médical, ou un document manquant avec une condition manquante. Par exemple, si un patient avait un problème rénal il y a dix ans mais qu'aucun test n'a été effectué au cours de la dernière année, un système standard pourrait affirmer avec assurance que les reins du patient vont bien parce que la note la plus récente ne mentionne rien d'anormal. Un système doté d'un état gouverné, cependant, reconnaîtrait que la dernière mesure est ancienne et que l'état actuel est inconnu. Il signalerait explicitement la lacune d'information plutôt que de la combler par une supposition confiante. Cette distinction est vitale car, en médecine, la différence entre « nous savons que ceci est vrai » et « nous n'avons pas de preuve de ceci » peut déterminer si un traitement est sûr ou dangereux.

Pour résoudre cela, les auteurs décomposent le processus complexe du raisonnement médical en cinq objets distincts qui ne doivent jamais être confondus. Premièrement, il y a le véritable état du patient, qui est la condition physique réelle de son corps ; aucun système ne peut jamais posséder cela directement, seulement l'estimer. Deuxièmement, il y a les observations, qui sont les mesures spécifiques ou les notes prises par l'équipe de soins. Troisièmement, il y a la preuve, qui est la donnée brute ingérée par le système, complète avec un enregistrement de quand elle a été écrite, quand elle a été reçue et qui l'a écrite. Quatrièmement, il y a la croyance, qui est la meilleure supposition actuelle du système sur l'état du patient basée sur toutes les preuves qu'il a vues jusqu'à présent. Enfin, il y a la simulation, qui est un scénario hypothétique utilisé pour tester des questions de type « et si », comme ce qui se passerait si un patient prenait un médicament différent. L'article soutient que la plupart des systèmes d'intelligence artificielle actuels fusionnent ces cinq éléments distincts en un seul, traitant les notes accumulées comme si elles étaient la vérité actuelle. Cela conduit à des erreurs où une information ancienne est traitée comme nouvelle, ou bien où une supposition est confondue avec un fait.

Les chercheurs proposent un nouveau standard pour la construction de ces systèmes, organisé en un cadre hiérarchisé qui mesure la capacité d'un système à gouverner l'état du patient. Au niveau le plus bas, un système peut simplement stocker du texte. À des niveaux plus élevés, il commence à organiser ce texte en faits structurés avec des sources et des horodatages clairs. Le niveau le plus avancé exige que le système maintienne un objet « croyance » distinct de la preuve brute. Cet objet de croyance doit être capable de montrer l'incertitude, comme admettre qu'une mesure est manquante ou que deux médecins différents ont donné des rapports contradictoires. Crucialement, ce système doit être capable de rejouer son propre historique. Si un médecin demande : « Quelle était votre croyance concernant l'état cardiaque de ce patient il y a trois mois ? », le système doit être capable de reconstruire l'état exact de sa connaissance à ce moment-là, basé sur les preuves disponibles alors, et non sur les preuves disponibles aujourd'hui. Cette capacité à regarder en arrière et à voir comment la compréhension du système a évolué dans le temps est ce que les auteurs appellent la responsabilité (accountability).

Le papier introduit également une manière spécifique de gérer l'information manquante. Dans un système standard, si un dossier ne mentionne pas d'allergie, le système peut supposer que le patient n'a pas d'allergies. Dans un système gouverné, l'absence d'information est traitée comme un type spécifique de donnée. Le système apprend à distinguer entre « aucune allergie documentée » (signifiant que la question n'a jamais été posée), « le patient déclare n'avoir aucune allergie » (un rapport négatif) et « test d'allergie négatif » (une observation négative). Chacun de ces cas porte un niveau de certitude différent et nécessite une réponse clinique différente. En typant correctement ces absences, le système évite l'habitude dangereuse de supposer que le silence signifie la sécurité. Les auteurs démontrent cela avec un exemple détaillé d'un patient souffrant de problèmes rénaux sur six ans. Un système standard, regardant uniquement la note la plus récente, pourrait recommander une procédure médicale risquée. Un système gouverné, suivant la chronologie des mesures et les intervalles entre elles, identifierait correctement que la fonction rénale actuelle du patient est inconnue et recommanderait un nouveau test avant de procéder.

Ce travail est présenté comme un blueprint conceptuel plutôt que comme un produit fini. Les auteurs précisent qu'ils n'ont pas encore prouvé que cette nouvelle architecture conduit à de meilleurs résultats pour les patients dans un essai en conditions réelles. Au lieu de cela, ils ont défini les conditions nécessaires pour qu'un tel système existe et ont fourni un moyen d'auditer tout système futur pour voir s'il remplit ces conditions. Ils soutiennent que l'accent actuel mis sur le fait de rendre les modèles de langage plus intelligents et plus rapides passe à côté de l'essentiel. Le véritable défi ne réside pas dans l'intelligence du lecteur, mais dans la gouvernance de l'état qu'il lit. Ils suggèrent que pour que l'intelligence artificielle soit véritablement responsable dans un cadre hospitalier, elle doit aller au-delà de la simple génération de texte et commencer à maintenir un enregistrement persistant, versionné et auditable de ce qu'elle sait et de ce qu'elle ne sait pas. L'article conclut en esquissant un programme de recherche pour construire ces systèmes, en commençant par l'infrastructure de base pour le suivi des preuves et en progressant vers un modèle complet de la façon dont les patients changent au fil du temps. L'objectif est de transformer la vague promesse d'une « IA responsable » en un ensemble concret d'exigences d'ingénierie qui puissent être vérifiées, testées et suivies.