Intelligence Preserves The System It Assists

Negli ospedali moderni, una rivoluzione silenziosa è in corso, dove i computer stanno imparando a leggere immagini mediche e a prevedere l'esito dei pazienti. Per anni, il modo standard per misurare il successo in questo campo è stato un semplice concorso: mettere un algoritmo informatico contro un medico umano e vedere chi ottiene la risposta corretta più spesso. Se la macchina ottiene un punteggio più alto, viene acclamata come una scoperta rivoluzionaria; se il medico vince, la macchina è considerata un fallimento. Questo approccio presuppone che il medico e il computer siano rivali in competizione per lo stesso lavoro, e che l'obiettivo sia trovare un unico predittore perfetto in grado di sostituire il giudizio umano. Tuttavia, questa visione trascura una realtà fondamentale della medicina: l'atto di curare un paziente cambia il paziente. Quando un chirurgo incide un tessuto, un infermiere regola una goccia di medicinale o un medico avvia una nuova terapia, la situazione che stanno osservando non è più la stessa di un momento prima. L'azione stessa intrapresa per aiutare il paziente altera il corso della malattia, rendendo una previsione basata su dati passati potenzialmente inutile nel momento esatto in cui è più necessaria.

Un nuovo studio di Maurice Antony Ewing sfida questa mentalità competitiva esaminando come computer e medici possano lavorare insieme piuttosto che l'uno contro l'altro. Invece di chiedere quale agente sia più accurato complessivamente, la ricerca pone una domanda diversa: quando i loro punti di forza e le loro debolezze si completano a vicenda? Lo studio suggerisce che, mentre i computer sono eccellenti nel prevedere cosa accadrà se nulla cambia, spesso inciampano quando un trattamento rimodella attivamente le condizioni di un paziente. Al contrario, i medici umani sono abili nel notare quando una situazione sta deviando dal percorso previsto, ma possono perdere dettagli sottili in enormi quantità di dati. L'idea centrale è che il vero valore di un computer in un ospedale potrebbe non risiedere nell'essere il miglior predittore, ma nell'agire come un sensore specializzato che suona un allarme specificamente quando le condizioni del paziente cambiano in modi inaspettati a causa dell'intervento medico.

Per testare questa idea, il ricercatore ha esaminato cinque diversi tipi di dati medici, che vanno dai movimenti rapidissimi di un braccio chirurgico robotico alla lenta progressione, durata mesi, di un trattamento oncologico. In ogni caso, un modello informatico standard è stato prima addestrato per apprendere il percorso "normale" che un paziente o una procedura dovrebbe seguire. Ad esempio, nella chirurgia robotica, il modello ha appreso la velocità e la direzione tipiche di un ago che attraversa un tessuto. In terapia intensiva, ha appreso come la pressione sanguigna di un paziente risponde solitamente ai farmaci. Lo studio ha poi introdotto un secondo modello, "aumentato", progettato per fare qualcosa di diverso: invece di limitarsi a prevedere il futuro, monitorava i momenti in cui gli eventi reali deviavano significativamente dal percorso previsto. I ricercatori non hanno rivelato le specifiche formule matematiche o il codice esatto utilizzato per costruire questo secondo modello, mantenendo tali dettagli come un'implementazione protetta, ma hanno misurato quanto bene questo sistema si sia comportato rispetto ai medici umani e ai modelli informatici standard.

I risultati hanno rivelato un modello sorprendente che si è mantenuto costante in tutti e cinque gli ambiti medici. Nelle situazioni in cui tutto procedeva senza intoppi e le condizioni del paziente erano stabili, il modello aumentato era in realtà peggiore sia del medico umano che del modello informatico standard. Ad esempio, nei dati della terapia intensiva, il modello aumentato era corretto solo circa il 25,6% delle volte negli stati stabili, mentre il medico umano era corretto il 34,6% delle volte. Tuttavia, la storia si è ribaltata completamente quando le condizioni del paziente hanno iniziato a cambiare in modo inaspettato. In quei momenti di "deviazione", in cui la fisiologia del paziente o la procedura chirurgica divergevano dalla norma, il modello aumentato è diventato il leader chiaro. Negli stessi dati della terapia intensiva, quando le condizioni del paziente erano instabili, il modello aumentato era corretto il 46,9% delle volte, superando significativamente il medico umano, che era corretto solo il 20,5%, e il modello informatico standard, che era corretto il 19,6%.

Questo effetto di crossover non è stato un colpo di fortuna; è apparso costantemente attraverso i diversi tipi di dati. Nella chirurgia robotica, il sistema ha segnalato i momenti immediatamente precedenti a un cambiamento di tecnica da parte del chirurgo, come il passaggio dal legare un nodo al passaggio di un ago, identificando queste transizioni come momenti in cui le regole consuete del movimento non si applicavano più. Nella videocirurgia laparoscopica, il sistema ha evidenziato fasi complesse della chirurgia, come quando un chirurgo sta retrarre la colecisti, dove la scena visiva diventa caotica e imprevedibile. Nel caso del trattamento del tumore al cervello, il sistema si è rivelato utile solo osservando l'intera serie del trattamento nell'arco di settimane, perché la "deformazione" della traiettoria della malattia era un processo lento che non poteva essere visto in un singolo istantanea. Lo studio ha scoperto che il valore di questo sistema aumentato non dipendeva da quanto fosse buona la previsione iniziale. Anche quando il modello informatico standard era molto accurato nel prevedere il futuro, il sistema aumentato trovava comunque valore nel individuare i momenti in cui quella previsione smetteva di essere valida.

La ricerca ha anche evidenziato come questa utilità dipenda interamente dalla tempistica. Proprio come una fotocamera ha bisogno della giusta velocità dell'otturatore per catturare un oggetto in movimento rapido senza sfocarlo, questo sistema aveva bisogno di osservare la giusta quantità di tempo per vedere il cambiamento. Nello studio sul cancro, osservare finestre temporali brevi e disconnesse rendeva il sistema meno efficace, ma osservare l'intera serie del trattamento permetteva di vedere la deformazione del percorso della malattia. Ciò suggerisce che il sistema non è un sostituto universale di un medico, ma uno strumento specializzato che diventa essenziale solo quando la situazione è in divenire. Lo studio nota esplicitamente di non pretendere di aver risolto il problema della chirurgia autonoma o del trattamento, né fornisce un prodotto software pronto all'uso per gli ospedali. I metodi specifici per cui il sistema rileva questi cambiamenti rimangono non divulgati, e le scoperte si basano sull'osservazione di dati passati piuttosto che sul test in una sala operatoria dal vivo.

In definitiva, l'articolo sostiene che il futuro dell'intelligenza artificiale medica non risiede nel costruire macchine che cerchino di essere medici migliori degli esseri umani, ma nel creare sistemi che comprendano quando le regole del gioco sono cambiate. La collaborazione più efficace potrebbe essere quella in cui un computer standard gestisce le parti routinarie e prevedibili di un caso, mentre un sistema specializzato e consapevole dell'intervento osserva i momenti in cui le condizioni del paziente stanno cambiando in modi che sfidano il piano prestabilito. In questi momenti critici di deviazione, il sistema può offrire un tipo diverso di intelligenza, una che riconosce che il terreno sotto la previsione si è mosso. Lo studio conclude che la domanda corretta per il settore non è se una macchina possa battere un medico, ma dove le loro informazioni siano più complementari, assicurando che la tecnologia preservi il sistema che assiste aiutando i clinici a navigare i momenti imprevedibili della cura.