Cohort-Anchored Foundation Models for Electronic Health Records: From Risk Scores to Auditable Peer Cohorts

Sintesi Tecnica: Modelli Fondazionali Ancorati a Coorti per le Cartelle Cliniche Elettroniche

Problematica
Nonostante l'emergere di modelli fondazionali con miliardi di parametri per le Cartelle Cliniche Elettroniche (EHR) che dimostrano impressionanti capacità zero- e few-shot, rimane un divario strutturale tra l'accuratezza nei benchmark e l'affidabile implementazione clinica. Gli attuali modelli tipicamente producono un punteggio di rischio scalare o una rappresentazione latente, trattando il confronto tra pazienti come un effetto collaterale emergente piuttosto che come l'unità primaria di evidenza. Ciò crea tre modalità critiche di fallimento:

1. Opacità e Allucinazione: I modelli spesso producono contenuti medici fluenti ma sostanzialmente errati, e le spiegazioni standard (ad es., pesi dell'attenzione) non riescono ad affrontare il processo di ragionamento reale del clinico, il quale si basa sul confronto di un paziente con una coorte di simili pari dotati di esiti documentati.
2. Fragilità sotto lo Spostamento della Distribuzione (Distribution Shift): Le prestazioni predittive degradano significamente quando i modelli vengono applicati a nuove istituzioni, demografie o protocolli, poiché la rappresentazione sottostante non è ancorata a strutture di popolazione clinicamente significative.
3. Mancanza di Evidenza Auditabile: I clinici ragionano attraverso le coorti (gruppi di pazienti simili), eppure gli attuali sistemi non restituiscono una "coorte-con-esito" come output di inferenza, rendendo il processo decisionale difficile da auditare o verificare rispetto alle infrastrutture cliniche stabilite.

Metodologia: Il Framework CAFM
Il documento propone cafm (Cohort-Anchored Foundation Model), un framework progettato per elevare la coorte di pazienti a "oggetto di prima classe" nel processo di machine learning. Invece di ricostruire gli existing backbone, cafm agisce come un retrofit composizionale che integra capacità consapevoli della coorte nei modelli fondazionali EHR esistenti attraverso quattro fasi interconnesse:

1. Costruzione della Coorte Consapevole delle Deviazioni (Fase 1):
   Prima del pre-training, il corpus subisce una cura per rilevare e gestire due problemi distinti: le deviazioni (record statisticamente anomali dovuti a errori tecnici o deriva della documentazione) e il bias (inconsistenze sistematiche derivanti dai workflow clinici, come la mancanza informativa). Questa fase produce un dataset curato dove le coorti sono assemblate utilizzando fenotipi basati su regole, metodi anchor-and-learn o prototipi appresi, garantendo che i dati di addestramento riflettano popolazioni clinicamente valide.

2. Pre-training Condizionato dalla Coorte (Fase 2):
   Il framework introduce un obiettivo contrastivo composito all'obiettivo standard di pre-training mascherato o autoregressivo.

• Attrazione: Unisce le rappresentazioni di pazienti con distribuzioni di coorte "soft" simili.
• Repulsione (Near-Miss Negatives): Allontana pazienti che sono fenotipicamente simili ma hanno esiti divergenti. Questo campionamento "near-miss" è critico per affinare i confini della coorte.
• Regolarizzazione: Include la regolarizzazione dell'entropia per evitare che il modello collassi tutti i pazienti in un'unica coorte.
• Apprendimento Curriculum (Curriculum Learning): Il framework impiega una strategia di warm-start e un curriculum che aumenta gradualmente il peso delle perdite contrastive per stabilizzare l'addestramento congiunto tra l'encoder del backbone e il modulo della coorte.

3. Allineamento Multimodale della Coorte (Fase 3):
   Per affrontare la "contaminazione da modalità" (dove una modalità, come le note testuali libere, domina la rappresentazione congiunta), il framework impone la similarità intra-coorte all'interno di ciascuna modalità (testo, codici strutturati, immagini, segnali fisiologici) separatamente. Ciò assicura che le modalità più deboli mantengano la loro capacità discriminativa e non collassino sulla modalità dominante, preservando l'integrità della struttura della coorte attraverso i diversi tipi di dati.

4. Raffinamento con il Clinico nel Loop (Fase 4):
   In fase di inferenza, il modello non restituisce un punteggio scalare, ma recupera una coorte di pari e la relativa distribuzione degli esiti. Questo output funge da spiegazione, unità di audit e segnale di deriva. Il framework supporta:

• Evidenza Auditabile: I clinici possono ispezionare le statistiche della coorte recuperata e i tassi di esito.
• Decomposizione del Task: I clinici possono modificare le definizioni della coorte (ad es., aggiungendo vincoli) in tempo reale, innescando una ricalcolazione della distribuzione degli esiti senza dover rieseguire l'intero backbone.
• Monitoraggio del Ciclo di Vita: Il sistema monitora gli spostamenti della distribuzione tracciando i cambiamenti nelle distribuzioni delle coorti recuperate, offrendo un segnale di deriva più sensibile rispetto alle metriche di performance aggregate.

Contributi Chiave

• Riformulazione Strutturale: Il documento sostiene che l'ancoraggio alla coorte sia un prerequisito strutturale per i modelli fondazionali EHR, distinto dall'apprendimento in contesto (in-context learning), dal retrieval-augmented generation (RAG) o dai metodi di spiegazione post-hoc. Postula che la coorte, e non l'embedding individuale, debba essere l'unità di evidenza clinica.
• Il Framework CAFM: Una metodologia concreta in quattro fasi che può essere applicata come retrofit ai backbone esistenti (ad es., BEHRT, Med-BERT) senza richiedere un ridisegno architettonico completo.
• Formulazione Matematica: Gli autori forniscono formulazioni matematiche esplicite per gli obiettivi contrastivi, inclusa la definizione dei negativi "near-miss" e la funzione di perdita composita (Eq. 6 e Eq. 9).
• Ipotesi Empiriche: Il documento delinea cinque ipotesi falsificabili (H1–H5) che il framework predice, coprendo la copertura della coorte vs calibrazione, l'efficacia dei negativi near-miss, la rilevazione precoce della deriva, la mitigazione del collasso della modalità e la preferenza del clinico per l'evidenza della coorte in scenari di alta incertezza.
• Case Studies: Il framework è illustrato attraverso quattro casi studio operativi: la predizione dell'insufficienza renale acuta (AKI), la stratificazione del rischio cardiovascolare da ECG, il triage della neuropatia ottica da imaging orbitale e la generazione di report basata su ERG.

Risultati e Illustrazioni
Il documento non presenta un singolo benchmark sperimentale unificato con nuovi punteggi state-of-the-art. Inveve, illustra il potenziale del framework attraverso quattro casi studio tratti da contesti operativi:

• Predizione AKI: Dimostra come l'ancoraggio alla coorte trasformi un rischio scalare in un oggetto di evidenza strutturato, permettendo ai clinici di interrogare fattori specifici (ad es., esposizione a farmaci nefrotossici) all'interno della coorte recuperata.
• Rischio Cardiovascolare (ECG): Mostra come l'allineamento multimodale impedisca al segnale ECG di sovrastare i dati EHR strutturati, radicando le stime di rischio nelle traiettorie storiche specifiche dell'istituzione.
• Triage Neuropatia Ottica: Evidenzia come il recupero della coorte supporti le decisioni di triage fornendo un set curato di casi di referral precedenti, affrontando il gap di fiducia negli ambienti di cure primarie.
• Generazione di Report ERG: Propone un approccio generativo in cui i report sono radicati nelle coorti di pazienti recuperate piuttosto che in semplici snippet di testo, riducendo le allucinazioni vincolando la generazione a popolazioni clinicamente comparabili.

Significatività e Rivendicazioni
Il documento si pone come una prospettiva supportata da un framework concreto, mirando a colmare il divario tra gli impressionanti benchmark e l'uso affidabile al letto del paziente. Le sue rivendicazioni primarie sono:

1. Necessità Metodologica: L'ancoraggio alla coorte è la via più diretta per rendere i modelli fondazionali clinicamente interpretabili, robusti agli spostamenti di distribuzione e auditabili. Sposta il paradigma dalla "qualità della rappresentazione" all' "evidenza basata sulla popolazione".
2. Fattibilità Pratica: Il framework è progettato come un retrofit, richiedendo sforzi di ingegneria per integrare i moduli di coorte e gli indici di recupero piuttosto che lo sviluppo di architetture di backbone completamente nuove.
3. Testabilità: Il framework è definito da specifiche ipotesi empiriche falsificabili. Gli autori sostengono che la validità dell'ancoraggio alla coorte debba essere giudicata non per appeal retorico, ma dal fatto che queste ipotesi si verifichino sotto valutazione prospettica.
4. Realtà Operativa: Il documento riconosce che le barriere all'adozione non sono concettuali ma organizzative. Realizzare questa visione richiede uno sforio sostenuto nella cura dei dati, nella governance e nel mantenimento delle definizioni delle coorti man mano che le pratiche cliniche evolvono.

Gli autori concludono che, sebbene i componenti di modellazione necessari esistano, la prossima fase di progresso nell'IA clinica dipende dall'equipaggiare i modelli esistenti con il substrato basato sulla popolazione su cui la ragionevole clinica si è tradizionalmente basata.