Cohort-Anchored Foundation Models for Electronic Health Records: From Risk Scores to Auditable Peer Cohorts

Résumé Technique : Modèles de Fondation Ancrés sur des Cohortes pour les Dossiers Médicaux Électroniques

Énoncé du Problème
Malgré l'émergence de modèles de fondation à des milliards de paramètres pour les dossiers médicaux électroniques (DME) qui démontrent d'impressionnantes capacités de zero- et few-shot, un écart structurel subsiste entre la précision sur les benchmarks et un déploiement clinique fiable. Les modèles actuels produisent généralement un score de risque scalaire ou une représentation latente, traitant la comparaison entre patients comme un effet secondaire émergent plutôt que comme l'unité primaire de preuve. Cela crée trois modes de défaillance critiques :

1. Opacité et Hallucination : Les modèles produisent souvent un contenu médical fluide mais substantiellement incorrect, et les explications standards (par exemple, les poids d'attention) ne parviennent pas à répondre au processus de raisonnement réel du clinicien, lequel repose sur la comparaison d'un patient à une cohorte de pairs similaires ayant des issues documentées.
2. Fragilité face au Changement de Distribution : La performance prédictive se dégrade considérablement lorsque les modèles sont appliqués à de nouvelles institutions, démographies ou protocoles, car la représentation sous-jacente n'est pas ancrée dans des structures de population cliniquement significatives.
3. Absence de Preuve Auditable : Les cliniciens raisonnent par cohortes (groupes de patients similaires), pourtant les systèmes actuels ne renvoient pas une « cohorte avec issue » comme sortie d'inférence, rendant le processus de décision difficile à auditer ou à vérifier par rapport à l'infrastructure clinique établie.

Méthodologie : Le Cadre CAFM
Le document propose le cafm (Cohort-Anchored Foundation Model), un cadre conçu pour élever la cohorte de patients au rang d'« objet de premier ordre » dans le pipeline d'apprentissage automatique. Plutôt que de reconstruire les architectures existantes, le cafm agit comme un rétrofit compositionnel qui intègre des capacités de conscience de cohorte aux modèles de fondation de DME existants via quatre étapes imbriquées :

1. Construction de Cohortes Sensibles aux Déviations (Étape 1) :
   Avant le pré-entraînement, le corpus subit une curation pour détecter et traiter deux problèmes distincts : les déviations (enregistrements statistiquement anormaux dus à des erreurs techniques ou à une dérive de la documentation) et le biais (incohérences systématiques découlant des flux de travail cliniques, telles que l'absence informative). Cette étape produit un ensemble de données curées où les cohortes sont assemblées à l'aide de phénotypes basés sur des règles, de méthodes d'ancrage et d'apprentissage (anchor-and-learn), ou de prototypes appris, garantissant que les données d'entraînement reflètent des populations cliniquement valides.

2. Pré-entraînement Conditionné par la Cohorte (Étape 2) :
   Le cadre introduit un objectif de contraste composite à l'objectif de pré-entraînement standard (masqué ou autoregressif).

• Attraction : Regroupe les représentations de patients ayant des distributions de cohortes « douces » (soft) similaires.
• Répulsion (Négatifs de type « Near-Miss ») : Écarte les patients qui sont phénotypiquement similaires mais qui présentent des issues divergentes. Cet échantillonnage de type « near-miss » est crucial pour affiner les frontières des cohortes.
• Régularisation : Inclut une régularisation d'entropie pour empêcher le modèle de faire s'effondrer tous les patients en une seule cohorte.
• Apprentissage par Curriculum : Le cadre utilise une stratégie de démarrage à chaud (warm-start) et un curriculum qui augmente progressivement le poids des pertes de contraste pour stabiliser l'entraînement conjoint entre l'encodeur de base et le module de cohorte.

3. Alignement Multimodal de la Cohorte (Étape 3) :
   Pour traiter la « contamination de modalité » (où une modalité, telle que les notes en texte libre, domine la représentation jointe), le cadre impose une similitude intra-cohorte au sein de chaque modalité (texte, codes structurés, imagerie, signaux physiologiques) séparément. Cela garantit que les modalités plus faibles conservent leur capacité discriminante et ne s'effondrent pas sur la modalité dominante, préservant ainsi l'intégrité de la structure de la cohorte à travers les types de données.

4. Raffinement avec le Clinicien dans la Boucle (Étape 4) :
   Lors de l'inférence, le modèle ne produit pas un score scalaire, mais récupère une cohorte de pairs et sa distribution d'issues associée. Cette sortie sert d'explication, d'unité d'audit et de signal de dérive. Le cadre supporte :

• Preuve Auditable : Les cliniciens peuvent inspecter les statistiques de la cohorte récupérée et les taux d'issue.
• Décomposition des Tâches : Les cliniciens peuvent modifier les définitions de cohorte (par exemple, en ajoutant des contraintes) en temps réel, déclenchant un nouveau calcul de la distribution des issues sans réexécuter l'intégralité du modèle de base.
• Surveillance du Cycle de Vie : Le système surveille les changements de distribution en suivant les évolutions des distributions de cohortes récupérées, offrant un signal de dérive plus sensible que les métriques de performance agrégées.

Contributions Clés

• Recadrage Structurel : L'article soutient que l'ancrage de cohorte est un prérequis structurel pour les modèles de fondation de DME, distinct de l'apprentissage en contexte (in-context learning), de la génération augmentée par récupération (RAG) ou des méthodes d'explication post-hoc. Il pose que la cohorte, et non l'embedding individuel, doit être l'unité de preuve clinique.
• Le Cadre CAFM : Une méthodologie concrète en quatre étapes qui peut être rétrofitée sur des architectures existantes (ex: BEHRT, Med-BERT) sans nécessiter une refonte complète de l'architecture.
• Formulation Mathématique : Les auteurs fournissent des formulations mathématiques explicites pour les objectifs de contraste, incluant la définition des négatifs de type « near-miss » et la fonction de perte composite (Éq. 6 et Éq. 9).
• Hypothèses Empiriques : L'article expose cinq hypothèses falsifiables (H1–H5) que le cadre prédit, couvrant la couverture de cohorte vs la calibration, l'efficacité des négatifs « near-miss », la détection précoce de la dérive, l'atténuation de l'effondrement de modalité, et la préférence des cliniciens pour les preuves de cohorte dans les scénarios à haute incertitude.
• Études de Cas : Le cadre est illustré par quatre études de cas opérationnelles : la prédiction de l'insuffisance rénale aiguë (IRA), la stratification du risque cardiovasculaire à partir d'ECG, le triage de la neuropathie optique par imagerie orbitale, et la génération de rapports basée sur l'ERG.

Résultats et Illustrations
L'article ne présente pas un benchmark expérimental unique établissant de nouveaux scores de l'état de l'art. Au lieu de cela, il illustre le potentiel du cadre à travers quatre études de cas tirées de contextes opérationnels :

• Prédiction de l'IRA : Démontre comment l'ancrage de cohorte transforme un risque scalaire en un objet de preuve structuré, permettant aux cliniciens d'interroger des facteurs spécifiques (ex: exposition à des médicaments néphrotoxiques) au sein de la cohorte récupérée.
• Risque Cardiovasculaire (ECG) : Montre comment l'alignement multimodal empêche le signal ECG de dominer les données structurées du DME, ancrant les estimations de risque dans les trajectoires historiques propres à l'institution.
• Triage de la Neuropathie Optique : Souligne comment la récupération de cohorte soutient les décisions de triage en fournissant un ensemble de cas de référence antérieurs, comblant le fossé de confiance dans les soins primaires.
• Génération de Rapports ERG : Propose une approche générative où les rapports sont ancrés dans des cohortes de patients récupérées plutôt que de simples extraits de texte, réduisant les hallucinations en contraignant la génération à des populations cliniquement comparables.

Signification et Revendications
L'article se positionne comme une perspective étayée par un cadre concret, visant à combler l'écart entre les benchmarks impressionnants et une utilisation fiable au chevet du patient. Ses principales revendications sont :

1. Nécessité Méthodologique : L'ancrage de cohorte est la voie la plus directe pour rendre les modèles de fondation interprétables, robustes aux changements de distribution et auditables. Cela déplace le paradigme de la « qualité de la représentation » vers celle de la « preuve ancrée dans la population ».
2. Faisabilité Pratique : Le cadre est conçu comme un rétrofit, nécessitant un effort d'ingénierie pour intégrer des modules de cohorte et des indices de récupération plutôt que le développement de nouvelles architectures de base.
3. Testabilité : Le cadre est défini par des hypothèses empiriques spécifiques et falsifiables. Les auteurs soutiennent que la validité de l'ancrage de cohorte doit être jugée non par son attrait rhétorique, mais par la vérification de ces hypothèses lors d'évaluations prospectives.
4. Réalité Opérationnelle : L'article reconnaît que les barrières à l'adoption ne sont pas conceptuelles mais organisationnelles. Réaliser cette vision nécessite un effort soutenu en matière de curation de données, de gouvernance et de maintenance des définitions de cohortes à mesure que les pratiques cliniques évoluent.

Les auteurs concluent que bien que les composants de modélisation nécessaires existent, la prochaine phase de progrès dans l'IA clinique dépend de l'équipement des modèles existants avec le substrat ancré sur la population sur lequel le raisonnement clinique s'est traditionnellement appuyé.