Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

Nei pronto soccorso degli ospedali di tutto il mondo, i medici affrontano ogni giorno una domanda difficile e urgente: quando un paziente arriva con un cuore sofferente, può tornare a casa in sicurezza o deve restare in ospedale? Questa decisione è ad alta posta in gioco. Mandare una persona malata a casa troppo presto può portare a un nuovo ricovero o peggio, mentre tenere in ospedale una persona stabile spreca risorse e ritarda le cure per altri. Per aiutare a compiere queste scelte, gli scienziati stanno costruendo programmi informatici che utilizzano l'intelligenza artificiale per prevedere il rischio di un paziente. Questi strumenti analizzano i dati medici per indovinare chi potrebbe peggiorare. Tuttavia, per molto tempo, questi strumenti sono stati progettati da medici e ingegneri che decidono quali informazioni siano importanti e come debbano apparire i risultati. Le persone che vivono realmente con la condizione cardiaca, e che devono convivere con le conseguenze di queste decisioni, sono state raramente interpellate per aiutare a dare forma agli strumenti stessi.

Un nuovo studio pilota condotto da un team di ricercatori in Spagna e nei Paesi Bassi si chiede cosa accada quando si ribalta questo schema. Invece di chiedere ai pazienti di limitarsi a guardare un prodotto finito e dire se piace, i ricercatori hanno invitato persone affette da insufficienza cardiaca a progettare lo strumento partendo da zero. L'obiettivo era vedere se i pazienti, se avessero avuto il potere reale di decidere come funziona la tecnologia, avrebbero creato qualcosa di diverso da ciò che gli esperti avevano immaginato. Lo studio ha scoperto che quando i pazienti sono stati trattati come partner strategici piuttosto che come semplici tester, hanno completamente reinventato lo strumento. Lo hanno allontanato dall'essere un calcolatore per i medici per trasformarlo in una guida di supporto per i pazienti, che parla un linguaggio semplice, rispetta i loro bisogni emotivi e rifiuta di dare una risposta quando non è sicuro.

I ricercatori hanno riunito undici persone con esperienza diretta dell'insufficienza cardiaca per un workshop di due giorni a Barcellona. Prima di incontrarsi di persona, i partecipanti hanno seguito un corso online per apprendere le basi del funzionamento dell'intelligenza artificiale, assicurando che tutti partissero dallo stesso livello di conoscenza. Una volta arrivati, non sono stati chiamati a criticare un prototipo. Al contrario, hanno avuto la libertà di decidere cosa dovesse essere lo strumento, a chi dovesse servire e come dovesse comportarsi. Il workshop era strutturato attorno ai principi della tecnologia affidabile, guidando il gruppo attraverso attività come la mappatura del percorso di un paziente, la creazione di "personas" per diversi tipi di persone e il gioco di ruolo su come lo strumento si sarebbe inserito in una reale visita medica. I partecipanti hanno lavorato in due gruppi separati e, sorprendentemente, entrambi sono arrivati a un design quasi identico senza parlarsi tra loro.

Il cambiamento più sorprendente apportato dai partecipanti riguarda proprio lo scopo dello strumento. Il progetto era iniziato con l'idea di uno schermo per i medici nel pronto soccorso per aiutarli a decidere sulle dimissioni. I pazienti hanno immediatamente evidenziato un difetto in questo ragionamento: se lo strumento è solo per i medici, i pazienti stessi non lo vedono mai e non riescono mai a comprendere il rischio o il piano. Hanno insistito affinché lo strumento fosse un'applicazione mobile per il paziente. Volevano essere loro a inserire le proprie informazioni, non solo subire la raccolta dei propri dati da parte di una macchina. Hanno sostenuto che lo strumento non dovrebbe limitarsi a osservare un'istantanea della funzione cardiaca in un momento di crisi, ma dovrebbe comprendere loro come persone intere. Ciò significava includere dettagli sulla loro vita, come la dieta, le pratiche religiose, la situazione abitativa e la capacità di viaggiare, poiché tutti questi fattori cambiano il modo in cui una previsione del rischio si applica a loro.

Per quanto riguarda il modo in cui lo strumento deve mostrare i risultati, i partecipanti hanno rifiutato i numeri freddi e duri comuni nelle statistiche mediche. Hanno spiegato che vedere una specifica percentuale di probabilità di morte, come "6,4 percento", era terrificante e poco utile. Inveve, volevano che il rischio fosse mostrato in categorie ampie e comprensibili, come basso, medio o alto. Ancora più importante, volevano che lo strumento dicesse loro cosa fare successivamente. Un punteggio di rischio da solo è solo un numero; un punteggio di rischio abbinato a un passo chiaro e azionabile, come "chiami il suo medico oggi" o "monitori il peso", è qualcosa che una persona può utilizzare. Volevano anche che lo strumento fosse onesto riguardo ai propri limiti. Se il computer non avesse avuto abbastanza dati per fare una stima affidabile per una persona specifica, i partecipanti hanno detto che lo strumento dovrebbe semplicemente dire: "Non posso dirtelo in questo momento", invece di fornire un numero falso o fuorviante. Consideravano questo silenzio come una forma di onestà e un modo per costruire fiducia, piuttosto che un fallimento della tecnologia.

Il design includeva anche un modo per permettere ai pazienti di controllare quanto volevano sapere. I partecipanti hanno riconosciuto che in un momento di malattia acuta, potrebbero non avere l'energia per leggere una spiegazione complessa. Hanno progettato un sistema in cui potevano scegliere il livello di dettaglio. Potevano vedere un riepilogo semplice o, se lo desideravano, potevano cliccare per vedere ulteriori informazioni tecniche su come è stata fatta la previsione. Questo dava loro il potere di decidere quanta informazione potevano gestire in qualsiasi momento. Hanno anche sottolineato che lo strumento dovrebbe essere un ponte tra loro e i loro medici, permettendo loro di condividere i propri dati personali con l'équipe medica e ricevere aggiornamenti in cambio, creando una partnership piuttosto che un flusso di informazioni unidirezionale.

Nonostante il successo del workshop, i partecipanti sono stati realistici riguardo alle sfide che rimangono. Hanno evidenziato che trasformare queste idee in un prodotto reale e funzionante è difficile. Hanno osservato che le leggi sulla privacy dei dati, i costi per costruire e mantenere il software e il modo in cui gli ospedali vengono finanziati creano spesso barriere che impediscono alle buone idee di raggiungere il prodotto finale. Un partecipante ha notato che un singolo workshop non è sufficiente a risolvere questi problemi strutturali profondi, e che il processo di coinvolgimento dei pazienti deve essere standardizzato e supportato da un finanziamento e da un tempo adeguati. I ricercatori hanno concordato, osservando che, sebbene i pazienti avessero prodotto una visione chiara e coerente, il percorso da quella visione alla mano di un medico è ancora incerto.

Questo studio suggerisce che quando le persone con esperienza diretta hanno lo spazio per progettare la tecnologia che influenza le loro vite, non si limitano a ritoccare l'interfaccia; esse ridefiniscono il problema. Hanno spostato il focus da uno strumento che aiuta un medico a gestire un letto d'ospedale a uno strumento che aiuta una persona a gestire la propria vita. Hanno dimostrato che, per la tecnologia ad alta posta in gioco, specialmente quando coinvolge il rischio di morte, i bisogni emotivi e pratici dell'utente sono importanti quanto l'accuratezza matematica dell'algoritmo. Il lavoro dimostra che i pazienti sono capaci di un pensiero strategico su sistemi complessi, a patto che vengano trattati come partner e non come soggetti. Sebbene lo strumento descritto in questo studio non sia ancora in uso, le specifiche di progettazione create dal gruppo offrono un nuovo modello su come l'intelligenza artificiale medica potrebbe essere costruita per servire le persone che è destinata ad aiutare, piuttosto che solo i sistemi che le utilizzano.