Résumé technique : RealICU – Une référence au-delà de l'imitation comportementale pour les agents LLM dans l'aide à la décision en réanimation

1. Énoncé du problème

Les unités de soins intensifs (USI) génèrent des flux denses et évolutifs de données cliniques, obligeant les médecins à réévaluer l'état des patients sous une pression temporelle significative. Bien que les modèles de langage (LLM) et les systèmes agentiques aient progressé, les références cliniques existantes échouent à évaluer adéquatement leurs capacités dans ce domaine spécifique.

Les limitations principales des références actuelles sont doubles :

1. Statique vs Séquentiel : La plupart des références réduisent le raisonnement clinique à des questions-réponses statiques, au diagnostic ou à la prédiction d'un seul point final (par exemple, la mortalité), échouant à évaluer le raisonnement sur une trajectoire patient changeante.
2. Imitation comportementale vs Justesse clinique : Les références existantes utilisant des bases de données de dossiers médicaux électroniques (DME) comme MIMIC-IV traitent généralement les actions cliniques enregistrées comme vérité terrain. Cependant, ces actions sont prises avec des informations incomplètes et un contexte temporel limité. Par conséquent, elles peuvent être sous-optimales. Évaluer l'IA par rapport à ces étiquettes récompense l'imitation d'un comportement humain potentiellement défectueux plutôt que la justesse clinique réelle.

Il existe un besoin critique d'une référence qui évalue les systèmes d'IA sur la justesse clinique en utilisant un jugement rétrospectif, où l'action « optimale » est déterminée après examen de la trajectoire complète du patient, plutôt que de se fier à ce qui a été enregistré au chevet.

2. Méthodologie

2.1 La référence RealICU

Les auteurs introduisent RealICU, une référence annotée rétrospectivement conçue pour évaluer l'aide à la décision clinique basée sur les LLM en USI. La référence est construite sur le jeu de données MIMIC-IV et se concentre sur quatre tâches motivées par les médecins qui constituent les capacités fondamentales d'un « copilote » d'USI :

1. État du patient : Classifier si le patient s'améliore, est stable ou se détériore.
2. Problèmes aigus : Identifier des ensembles de problèmes aigus ou de risques émergents sous forme de texte libre nécessitant une gestion active.
3. Actions recommandées : Proposer des ensembles d'actions sous forme de texte libre susceptibles de bénéficier au patient dans l'heure à venir.
4. Actions à risque (Red Flag) : Identifier les actions à haut risque qui doivent être évitées pour prévenir des issues dangereuses.

Construction des données :

• Fenêtrage : Les trajectoires d'USI sont partitionnées en fenêtres de 30 minutes avec un pas de 2 heures.
• Observation partielle vs Étiquetage rétrospectif : Au moment de l'inférence, le modèle n'observe que les données disponibles jusqu'au temps $t$. Cependant, les étiquettes de vérité terrain sont générées par des médecins seniors (ou un LLM validé) examinant l'intégralité de la trajectoire du patient jusqu'à la sortie. Cela crée une asymétrie qui reflète l'écart entre la prise de décision en temps réel et l'examen rétrospectif.
• Jeu de données :
  • RealICU-Gold : Contient 930 fenêtres issues de 94 séjours d'USI distincts, étiquetées par consensus parmi cinq médecins seniors d'USI. La fiabilité inter-évaluateurs (FIE) varie de 0,826 à 0,985.
  • RealICU-Scale : Étend l'évaluation à 11 862 fenêtres en utilisant Oracle, un évaluateur rétrospectif basé sur un LLM validé par rapport à RealICU-Gold (atteignant un score F1 > 0,895 sur toutes les tâches).

2.2 Cadre d'évaluation

Les modèles sont évalués sur leur capacité à prédire les quatre tâches à partir d'observations partielles.

• Métriques : Précision et Macro-F1 pour l'état du patient ; Hit@k et Recall@k (k=5) pour les problèmes aigus et les actions recommandées (en utilisant une correspondance sémantique via PubMedBERT) ; et Taux de recommandation nocive (HRR) pour les actions à risque, qui mesure la fraction des actions recommandées signalées comme dangereuses.
• Lignes de base : L'étude compare divers modèles de base LLM (Gemini-3.1-pro, GPT-5.4, Qwen3-235B) à travers différentes configurations de contexte : contexte complet, fenêtre locale, génération augmentée par la récupération (RAG) et un agent mémoire structurée.

2.3 ICU-Evo : Agent à mémoire structurée

Pour relever les défis du raisonnement à long horizon, les auteurs proposent ICU-Evo, un cadre d'agent augmenté par la mémoire. Contrairement aux agents standards qui traitent tout le contexte de manière égale, ICU-Evo maintient un état de mémoire structuré $M_t$ décomposé en cinq composantes :

1. Mémoire de travail ($M^{work}$) : Observations brutes récentes à haute résolution.
2. Mémoire de tendance ($M^{trend}$) : Tendances des signaux des signes vitaux et des valeurs de laboratoire.
3. Mémoire des événements critiques ($M^{event}$) : Un journal en ajout seul des événements cliniquement critiques (par exemple, interventions, points de bascule).
4. Mémoire de trajectoire ($M^{traj}$) : Résumés narratifs compressés du séjour à des intervalles périodiques.
5. Mémoire d'insight ($M^{insight}$) : Hypothèses spécifiques au patient concernant les écarts par rapport aux attentes au niveau de la population.

ICU-Evo utilise trois agents spécialisés (Observation, Évaluation, Insight) opérant à différentes échelles temporelles pour mettre à jour ces composantes de mémoire, visant à améliorer le raisonnement à long horizon.

3. Résultats clés

3.1 Les LLM actuels peinent avec RealICU

Malgré l'utilisation de LLM de pointe, les performances sur RealICU restent faibles, indiquant que la référence n'est pas résolue.

• Écarts de performance : Même le système le plus performant (ICU-Evo avec Gemini-3.1-pro) n'a atteint qu'une précision de 0,459 sur l'état du patient et un Recall@5 de 0,534 pour la recommandation d'actions.
• Écart Oracle vs Agent : Il existe un écart de performance massif entre l'Oracle (qui dispose d'un rétrospectif complet) et l'Agent (temps réel). Pour l'état du patient, l'Oracle atteint un F1 de 0,987, tandis que le meilleur agent n'atteint que 0,365. Cela suggère que le goulot d'étranglement n'est pas la connaissance médicale mais la capacité à intégrer des preuves dans le temps sous observabilité partielle.

3.2 La mémoire structurée améliore le raisonnement

ICU-Evo surpasse constamment les lignes de base (contexte complet, fenêtre locale, RAG) sur les quatre tâches.

• Stabilité à long horizon : ICU-Evo maintient des scores Hit@5 élevés (proches de 0,8) pour les problèmes aigus, même pour des séjours s'étendant sur 1 800 heures, tandis que les lignes de base sans mémoire se dégradent considérablement.
• Efficacité des tokens : Bien qu'ICU-Evo consomme plus de tokens par prédiction que les lignes de base à fenêtre locale, il fournit un contexte longitudinal significativement plus dense par token d'entrée, le rendant plus efficace pour le raisonnement conscient de la chronologie.

3.3 Modes de défaillance identifiés

L'étude identifie deux modes de défaillance critiques dans les agents LLM actuels :

1. Compromis Rappel-Sécurité : Les agents qui augmentent le rappel des actions recommandées augmentent souvent simultanément le taux de suggestions nocives. Par exemple, ICU-Evo avec GPT-5.4 a amélioré le Hit@5 de recommandation d'actions de plus de 20 points par rapport à RAG, mais le HRR (Taux de recommandation nocive) a doublé, passant de 0,234 à 0,473. Les recommandations nocives impliquent fréquemment la gestion hémodynamique, le volume/diurèse, l'anticoagulation et la ventilation.
2. Biais d'ancrage : Les agents ont tendance à s'engager excessivement dans les interprétations précoces du patient et échouent à mettre à jour ces hypothèses même lorsque des preuves ultérieures les contredisent. Des études de cas montrent des agents générant des « insights » basés sur des données de trajectoire précoce qui persistent et induisent en erreur les recommandations ultérieures, même lorsque les données de la fenêtre actuelle suggèrent un état différent (par exemple, maintenir un état stable malgré de nouveaux signaux de détérioration).

3.4 Études d'ablation

Le retrait de composantes de mémoire spécifiques révèle leurs rôles distincts :

• Mémoire de travail : Cruciale pour le raisonnement local ; son retrait dégrade toutes les tâches.
• Mémoire de trajectoire : Essentielle pour la compréhension temporelle ; son retrait nuit aux problèmes aigus et à la recommandation d'actions.
• Mémoire d'insight : Le retrait de la mémoire d'insight améliore parfois les performances (par exemple, en réduisant le HRR ou en améliorant le Hit@5 de recommandation d'actions), suggérant que les LLM actuels ne sont pas encore capables d'identifier de manière fiable des modèles cliniques personnalisés et que leurs insights générés peuvent activement induire l'agent en erreur.

4. Signification et revendications

L'article revendique que RealICU fournit un terrain d'essai cliniquement ancré pour mesurer et améliorer l'aide à la décision séquentielle par l'IA dans les soins à haut risque. Sa signification réside dans :

• Changement de paradigme d'évaluation : Passer de l'« imitation comportementale » (correspondre aux actions cliniques enregistrées) à la « justesse clinique » (correspondre au jugement expert rétrospectif). Cela expose les limites des modèles actuels dans le raisonnement sous incertitude et observabilité partielle.
• Révélation des lacunes de sécurité : La référence met en évidence que les agents LLM actuels, même avec des structures de mémoire avancées, peinent avec la sécurité dans des environnements dynamiques. Le « compromis rappel-sécurité » et le « biais d'ancrage » identifiés suggèrent que simplement augmenter le contexte ou ajouter de la mémoire est insuffisant pour des copilotes d'USI fiables.
• Contribution méthodologique : RealICU offre un cadre pour évaluer l'IA dans des environnements de décision séquentielle à haut risque où les actions humaines enregistrées sont imparfaites et où l'action optimale n'est visible qu'à posteriori.

Les auteurs concluent que si la mémoire structurée (ICU-Evo) améliore le raisonnement à long horizon, elle n'élimine pas entièrement les défaillances de sécurité. Des copilotes d'USI fiables nécessiteront des avancées dans les architectures de raisonnement clinique à long contexte, parallèlement à de meilleurs mécanismes de sécurité, et l'adoption d'une évaluation rétrospective pour évaluer correctement ces systèmes.