Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

Per decenni, i registri digitali della nostra salute non sono stati altro che armadietti digitali per documenti. Quando un medico scrive una nota sulla pressione sanguigna di un paziente, o un infermiere registra una variazione di un farmaco, quell'informazione viene conservata come un documento, proprio come una lettera in un cassetto. Per comprendere le condizioni attuali di un paziente, un essere umano deve leggere queste lettere, ricomporre la storia e tenere l'immagine completa nella propria mente. Questo è sempre stato il lavoro del clinico: ricostruire la verità sulla salute di una persona da una collezione sparsa di fogli. Negli ultimi anni, potenti sistemi informatici noti come modelli linguistici di grandi dimensioni sono arrivati, capaci di leggere questi documenti con incredibile velocità e fluidità. Possono riassumere la storia di un paziente in pochi secondi, rispondendo a domande che un tempo richiedevano ore di ricerca a un essere umano. Ma mentre questi sistemi sono eccellenti nel leggere il testo, non mantengono intrinsecamente un registro separato e organizzato di ciò che è effettivamente vero riguardo al paziente in un dato momento. Essi trattano la storia del paziente come un flusso di parole da elaborare, piuttosto che come uno stato vivente da tracciare.

Questo divario tra il leggere con fluidità e il conoscere con accuratezza è il problema centrale affrontato da un nuovo articolo di ricercatori di MyndwareMed. Gli autori sostengono che trattare la storia medica di un paziente come una semplice collezione di testi sia un difetto fondamentale quando si cerca di costruire un'intelligenza artificiale che possa essere affidata all'assistenza a lungo termine. Propongono che il ragionamento clinico non sia un test di comprensione della lettura, ma un problema di tracciamento di una realtà mutevole. Proprio come un robot che naviga in una stanza deve aggiornare costantemente la sua mappa di dove si trovano pareti e porte, un sistema medico deve mantenere un registro continuo, governato e di un paziente. I ricercatori distinguono tra due modi molto diversi di gestire l'informazione. Il primo è il "contesto generato", dove il computer raccoglie documenti rilevanti per una singola domanda e poi li dimentica una volta fornita la risposta. Il secondo è lo "stato governato", dove il sistema mantiene un registro persistente, versionato e verificabile di ciò che ritiene sia vero, aggiornato solo da regole rigorose che separano ciò che è stato osservato da ciò che è stato inferito.

L'articolo non afferma che questi nuovi modelli informatici siano scarsi nella lettura. Anzi, sono spesso migliori degli esseri umani nel trovare schemi nel testo. Il problema è che leggere il registro non è la stessa cosa che conoscere il paziente. I ricercatori dimostrano che gli attuali sistemi spesso confondono una nota scritta con un fatto medico, o un documento mancante con una condizione assente. Ad esempio, se un paziente ha avuto un problema ai reni dieci anni fa ma non sono stati eseguiti test nell'ultimo anno, un sistema standard potrebbe affermare con sicurezza che i reni del paziente sono in buona salute perché la nota più recente non riporta nulla di anomalo. Un sistema con uno stato governato, tuttavia, riconoscerebbe che l'ultima misurazione nota è vecchia e che lo stato attuale è sconosciuto. Segnalerebbe esplicitamente il vuoto informativo invece di colmarlo con un'ipotesi sicura. Questa distinzione è vitale perché in medicina, la differenza tra "sappiamo che questo è vero" e "non abbiamo visto prove di ciò" può determinare se un trattamento è sicuro o pericoloso.

Per risolvere questo, gli autori scompongono il disordinato processo del ragionamento medico in cinque oggetti distinti che non devono mai essere confusi. Primo, c'è il vero stato del paziente, che è la reale condizione fisica del suo corpo; nessun sistema può mai possederlo direttamente, può solo stimarlo. Secondo, ci sono le osservazioni, che sono le specifiche misurazioni o note prese dal team di cura. Terzo, c'è l'evidenza, che è il dato grezzo ingerito dal sistema, completo di un record di quando è stato scritto, quando è stato ricevuto e chi lo ha scritto. Quarto, c'è la convinzione, che è la migliore ipotesi attuale del sistema sulla condizione del paziente basata su tutta l'evidenza vista finora. Infine, c'è la simulazione, che è uno scenario ipotetico utilizzato per testare domande del tipo "e se", come cosa accadrebbe se un paziente prendesse un farmaco diverso. L'articolo sostiene che la maggior parte degli attuali sistemi di intelligenza artificiale collassi queste cinque cose separate in una sola, trattando le note accumulate come se fossero la verità attuale. Ciò porta a errori in cui un'informazione vecchia viene trattata come nuova, o dove un'ipotesi viene scambiata per un fatto.

I ricercatori propongono un nuovo standard su come questi sistemi dovrebbero essere costruiti, organizzato in un framework a livelli che misura quanto bene un sistema governa lo stato del paziente. Al livello più basso, un sistema potrebbe semplicemente archiviare testo. Ai livelli superiori, inizia a organizzare quel testo in fatti strutturati con fonti e timestamp chiari. Il livello più avanzato richiede che il sistema mantenga un oggetto "convinzione" separato che sia distinto dall'evidenza grezza. Questo oggetto di convinzione deve essere in grado di mostrare incertezza, come ammettere che una misurazione è mancante o che due medici diversi hanno fornito rapporti contrastanti. Fondamentalmente, questo sistema deve essere in grado di riprodurre la propria storia. Se un medico chiede: "Cosa credevi riguardo alla condizione cardiaca di questo paziente tre mesi fa?", il sistema deve essere in grado di ricostruire l'esatto stato della sua conoscenza in quel momento, basandosi sull'evidenza disponibile allora, non sull'evidenza disponibile oggi. Questa capacità di guardare indietro e vedere come la comprensione del sistema è cambiata nel tempo è ciò che gli autori chiamano accountability (responsabilità/tracciabilità).

L'articolo introduce anche un modo specifico per gestire le informazioni mancanti. In un sistema standard, se un record non menziona un'allergia, il sistema potrebbe assumere che il paziente non abbia allergie. In un sistema governato, l'assenza di informazione è trattata come un tipo specifico di dato. Il sistema impara a distinguere tra "nessuna allergia documentata" (significa che la domanda non è mai stata posta), "il paziente riferisce nessuna allergia" (un riportato negativo) e "test allergico negativo" (un osservato negativo). Ognuno di questi casi comporta un diverso livello di certezza e richiede una diversa risposta clinica. Tipizzando correttamente queste assenze, il sistema evita l'abitudine pericolosa di assumere che il silenzio significhi sicurezza. Gli autori dimostrano questo con un esempio dettagliato di un paziente con problemi renali nell'arco di sei anni. Un sistema standard, guardando solo la nota più recente, potrebbe raccomandare una procedura medica rischiosa. Un sistema governato, tracciando la cronologia delle misurazioni e i vuoti tra di esse, identificherebbe correttamente che la funzione renale attuale del paziente è sconosciuta e raccomanderebbe un nuovo test prima di procedere.

Questo lavoro è presentato come una bozza concettuale piuttosto che come un prodotto finito. Gli autori sono chiari nel dire che non hanno ancora dimostrato che questa nuova architettura porti a migliori risultati per i pazienti in un trial reale. Inveve, hanno definito le condizioni necessarie affinché un tale sistema possa esistere e fornito un modo per auditare qualsiasi sistema futuro per vedere se soddisfa tali condizioni. Sostengono che l'attuale attenzione nel rendere i modelli linguistici più intelligenti e veloci stia perdendo il punto. La vera sfida non è nell'intelligenza del lettore, ma nella governance dello stato che esso legge. Suggeriscono che, affinché l'intelligenza artificiale sia veramente responsabile in un contesto ospedaliero, debba andare oltre la semplice generazione di testo e inizi a mantenere un record persistente, versionato e verificabile di ciò che sa e di ciò che non sa. L'articolo conclude delineando un programma di ricerca per costruire questi sistemi, partendo dalle infrastrutture di base per il tracciamento dell'evidenza e muovendosi verso un modello completo di come i pazienti cambiano nel tempo. L'obiettivo è trasformare la vaga promessa di un'"IA responsabile" in un insieme concreto di requisiti ingegneristici che possano essere controllati, testati e considerati affidabili.