Pretraining on Adult ICU Data Accelerates Data Efficient AI Model Development in Critically Ill Children

Gli ospedali sono vasti depositi di esperienza umana, che registrano ogni battito cardiaco, respiro e analisi del sangue in flussi digitali. Per decenni, gli scienziati hanno cercato di insegnare ai computer come leggere questi flussi, sperando di prevedere quando un paziente potrebbe peggiorare o quando è pronto per tornare a casa. Questo campo, noto come apprendimento automatico clinico (clinical machine learning), funziona al meglio quando dispone di montagne di dati da cui imparare. Il problema è che queste montagne non sono distribuite uniformemente. Le unità di terapia intensiva per adulti sono grandi, ben finanziate e generano una quantità massiccia di informazioni a cui i ricercatori possono accedere e studiare. Le unità di terapia intensiva pediatrica, dove vengono curati i bambini, sono molto più piccole, spesso sparse in centri specialistici e i loro dati sono raramente condivisi o facilmente accessibili. Ciò crea una situazione difficile: come si costruisce un programma per computer intelligente per aiutare i bambini malati quando non si hanno abbastanza esempi di bambini malati per istruirlo?

Una potenziale soluzione è una tecnica chiamata transfer learning (apprendimento per trasferimento). Immaginate uno studente che ha trascorso anni a studiare la storia di un paese e poi cerca di studiare la storia di un paese vicino. Non può semplicemente copiare i suoi vecchi appunti, perché le date e gli eventi sono diversi, ma può usare la sua comprensione di come gli imperi sorgono e cadono, o di come la geografia modelli la politica, per imparare la nuova storia molto più velocemente di qualcuno che parte da zero. Nel mondo dell'intelligenza artificiale, questo significa prendere un modello che ha già imparato da un enorme dataset di pazienti adulti e utilizzare quella conoscenza come punto di partenza per imparare sui bambini. La grande domanda che i ricercatori si sono posti è se questa scorciatoia funzioni davvero. Il computer comprende davvero i modelli sottostanti della malattia abbastanza bene da poter aiutare i bambini, o le differenze tra adulti e bambini sono troppo grandi perché il modello possa colmarle?

Un team di ricercatori dell'Imperial College London e di diversi ospedali del Regno Unito si è messo in viaggio per rispondere a questo quesito, testando i limiti di questo approccio. Sono partiti da un enorme dataset di oltre 71.000 degenze in terapia intensola per adulti provenienti dagli Stati Uniti, una risorsa nota come MIMIC-IV. Hanno addestrato modelli computazionali su questi dati per adulti per eseguire sei compiti specifici: prevedere se un paziente morirebbe, quanto tempo rimarrebbe in ospedale, se avrebbe sviluppato un danno renale, se avrebbe sviluppato sepsi, quanto bene funzionassero i suoi reni e se fosse pronto per essere staccato da un ventilatore polmonare. Una volta addestrati questi modelli, i ricercatori li hanno portati in tre diverse unità di terapia intensiva pediatrica nel Regno Unito, che insieme contenevano dati su circa 17.700 bambini.

Il primo test consisteva nel vedere cosa sarebbe successo se avessero semplicemente utilizzato i modelli addestrati sugli adulti sui bambini senza alcun ulteriore aggiustamento. Questo è noto come implementazione "zero-shot", in cui il computer prova ad applicare direttamente la sua conoscenza adulta alla nuova situazione. I risultati sono stati chiari e deludenti. I modelli non sono stati in grado di performare bene. Nel prevedere il decesso, i modelli per adulti erano molto meno accurati rispetto ai modelli addestrati specificamente sui bambini. Avevano anche commesso errori significativi nel prevedere sepsi e problemi renali. In effetti, i modelli erano così sicuri delle loro risposte errate che spesso prevedevano un rischio di morte molto elevato per bambini che stavano invece bene. Ciò ha dimostrato che non si può semplicemente prendere un modello costruito per gli adulti e aspettarsi che funzioni per i bambini; le differenze biologiche sono troppo significative per essere ignorate.

Tuttavia, la storia non finiva qui. I ricercatori hanno poi posto una domanda più sfumata: se si parte dal modello per adulti, ma poi lo si lascia apprendere da una piccola quantità di dati pediatrici locali, diventa migliore? Hanno testato questo approccio prendendo il modello addestrato sugli adulti e "affinandolo" (fine-tuning) utilizzando solo 100 record di pazienti pediatrici. Hanno confrontato questo con l'addestramento di un nuovo modello da zero utilizzando gli stessi 100 record. La differenza è stata sorprendente. Il modello che partiva dalla conoscenza degli adulti e poi si adattava ai bambini superava significativamente il modello che partiva da nulla. In ogni singolo compito e in ogni sito ospedaliero, il modello che utilizzava la marcia in più degli adulti era più accurato. Ad esempio, nella previsione del decesso, il vantaggio era sostanziale, con il modello adattato che mostrava una capacità molto più chiara di distinguere tra i pazienti che sarebbero sopravvissuti e quelli che non lo avrebbero fatto.

I ricercatori hanno anche osservato cosa accadeva man mano che aggiungevano dati. Man mano che aumentavano il numero di record pediatrici da 100 al dataset completo di migliaia, il divario tra i due approcci si restringeva. Questo ha senso: se si hanno abbastanza dati, si può insegnare a un nuovo modello tutto ciò di cui ha bisogno senza alcun aiuto. Ma la scoperta chiave è stata che il pre-addestramento sugli adulti permetteva al modello di raggiungere un alto livello di prestazione con molti meno esempi pediatrici. In molti casi, il modello che partiva dalla conoscenza degli adulti e imparava da poche centinaia di bambini performava quanto un modello addestrato da zero su migliaia di bambini. Ciò suggerisce che per gli ospedali con quantità molto piccole di dati, utilizzare la conoscenza degli adulti come fondamento è un modo potente per iniziare.

Lo studio ha anche indagato esattamente cosa dovesse cambiare il computer per far sì che questo funzionasse. Hanno scoperto che non era sufficiente regolare i numeri che il computer usava per misurare i pazienti (come il modo in cui calcolava la pressione sanguigna media). Il computer doveva effettivamente riapprendere le relazioni tra i punti dati. Quando i ricercatori hanno "congelato" la parte del computer che riconosce i pattern e hanno addestrato solo l'ultimo strato decisionale, il modello è migliorato significamente, recuperando gran parte della precisione perduta. Ciò indica che il modello per adulti aveva appreso pattern utili su come il corpo risponde allo stress e alla malattia, ma doveva essere riaddestrato per applicare tali pattern al contesto specifico del corpo di un bambino.

In definitiva, la ricerca fornisce una via chiara per lo sviluppo dell'intelligenza artificiale in ambito pediatrico. Dimostra che, sebbene non si possa semplicemente fare un "copia e incolla" di un modello per adulti per salvare un bambino, si può usare il modello per adulti come una potente rampa di lancio. Partendo dalla vasta conoscenza della terapia intensiva per adulti e adattandola con cura ai dati pediatrici locali, gli ospedali possono costruire strumenti di supporto decisionale efficaci molto più velocemente e con molti meno dati di quanto sarebbe altrimenti necessario. Lo studio conferma che questo approccio è più prezioso dove i dati sono più scarsi, offrendo un modo per portare l'IA medica avanzata anche ai centri più piccoli e specializzati che potrebbero altrimenti essere lasciati indietro. È un promemoria del fatto che, nella ricerca di come aiutare i pazienti più gravi, a volte possiamo imparare dalle esperienze degli altri, a patto che siamo disposti a fare il lavoro per comprenderne le differenze.