When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
Questo studio su 420 medici statunitensi rivela che l'esposizione precedente all'IA, piuttosto che il contesto clinico specifico o la quantità di informazioni fornite, è il fattore primario che influenza positivamente la fiducia e la sicurezza dei medici nei confronti degli strumenti di supporto alle decisioni cliniche abilitati dall'IA.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nella medicina moderna, i medici stanno iniziando a utilizzare un nuovo tipo di assistente: l'intelligenza artificiale. Questi programmi informatici, spesso chiamati sistemi di supporto alle decisioni cliniche, possono scansionare le cartelle cliniche dei pazienti e suggerire i passi successivi, come se prescrivere un farmaco o indirizzare un paziente a uno specialista. La promessa è che questi strumenti aiuteranno i medici a fare scelte migliori e più rapide. Tuttavia, uno strumento è utile solo se la persona che lo utilizza si fida abbastanza da ascoltarlo. Se un medico ignora il consiglio del computer perché non lo comprende o non crede che sia corretto, la tecnologia fallisce. La grande domanda per gli ospedali e i ricercatori non è solo se il software funzioni su un computer, ma cosa faccia sentire un medico umano abbastanza sicuro da usarlo nel mondo reale. È il tipo di problema medico? È la quantità di informazioni che il medico riceve su come ragiona il computer? O è semplicemente se il medico ha già utilizzato questo tipo di tecnologia in precedenza?
Un team di ricercatori dell'Università di Stanford si è posto l'obiettivo di rispondere a queste domande chiedendo a quattrocentoventi medici di medicina di famiglia e medicina interna negli Stati Uniti di immaginarsi in specifiche situazioni mediche. Non hanno chiesto ai medici di utilizzare un vero programma informatico su pazienti reali. Invece, hanno utilizzato un metodo di sondaggio attentamente progettato in cui i medici leggevano brevi storie, o vignette, su una donna di trentatré anni di nome Jess che mostrava i sintomi di un problema di salute. In alcune storie, Jess aveva bisogno di una prescrizione per la depressione, mentre in altre aveva bisogno di un invio a uno specialista per problemi di attenzione. I ricercatori hanno modificato i dettagli della storia per testare tre cose diverse. Primo, hanno cambiato il tipo di decisione medica, confrontando una prescrizione con un invio. Secondo, hanno cambiato la quantità di informazioni che il medico riceveva sullo strumento di intelligenza artificiale stesso; alcuni medici ricevevano una breve descrizione, mentre altri ne ricevevano una molto più lunga che includeva dettagli su dove lo strumento fosse stato costruito e come fosse stato addestrato. Terzo, hanno esaminato la storia personale dei medici, annotando quali avessero già utilizzato l'intelligenza artificiale nella loro ricerca o pratica professionale.
I ricercatori volevano vedere se queste variazioni avrebbero reso i medici più o meno sicuri della loro decisione finale. Avevano ipotizzato che i medici si sarebbero sentiti più sicuri se avessero saputo di più su come funzionava lo strumento, e che sarebbero stati più scettici nei confronti dello strumento quando la decisione comportava rischi più elevati, come la prescrizione di un nuovo farmaco. Si chiedevano anche se i medici che erano già familiarizzati con l'intelligenza artificiale reagirebbero diversamente alla quantità di informazioni fornite. Lo studio ha rilevato che la quantità di informazioni non contava quanto previsto. Che un medico leggesse cinque frasi o dieci frasi sullo strumento, la sua fiducia nella decisione rimaneva la stessa. Il tipo di decisione medica non ha cambiato il modo in cui i medici si sentivano sicuri complessivamente, ma ha cambiato il modo in cui vedevano lo strumento stesso. Quando lo scenario riguardava la prescrizione di un farmaco, i medici erano meno propensi a fidarsi del fatto che lo strumento fornisse consigli coerenti per ogni paziente e erano più propensi a fare affidamento sul proprio giudizio piuttosto che sul suggerimento del computer. Al contrario, quando lo scenario riguardava un invio a uno specialista, erano più disposti a fidarsi della coerenza dello strumento.
Il risultato più significativo, tuttavia, è emerso dall'osservazione delle esperienze passate dei medici. Lo studio ha dimostrato che i medici che avevano già utilizzato l'intelligenza artificiale nella loro ricerca o pratica clinica si sentivano significativamente più sicuri nelle loro decisioni finali utilizzando lo strumento. Questi medici esperti erano anche più propensi a dire che lo strumento migliorava l'assistenza che potevano fornire e che il risultato del computer contribuiva alla loro scelta finale. Ciò suggerisce che la familiarità genera fiducia. Interessante è che i ricercatori hanno scoperto che la precedente esperienza non rendeva i medici più propensi a fidarsi ciecamente dello strumento; piuttosto, li rendeva più sicuri della propria capacità di utilizzare lo strumento in modo efficace. Lo studio ha anche escluso l'idea che il semplice fatto di somministrare più dettagli tecnici del software al medico possa aumentare la fiducia in esso. Infatti, l'informazione extra non ha avuto alcun impatto misurabile sulla fiducia o sulla percezione dell'efficacia dello strumento.
Questi risultati suggeriscono che la strada per integrare l'intelligenza artificiale nella medicina riguarda meno il perfezionamento del manuale d'uso e più la preparazione delle persone che lo utilizzeranno. I ricercatori concludono che la formazione dei futi medici dovrebbe concentrarsi su come pesare i suggerimenti del computer insieme al proprio giudizio clinico, piuttosto che insegnare solo come operare il software. Se i medici devono fidarsi di questi strumenti, devono capire come usarli in un contesto, e la loro fiducia sembra crescere naturalmente con l'esperienza. Lo studio evidenzia che, mentre la tecnologia avanza rapidamente, l'elemento umano rimane il fattore critico. Affinché l'intelligenza artificiale possa davvero aiutare i pazienti, la comunità medica deve garantire che i medici si sentano pronti e disposti a lavorare al suo fianco, una prontezza che sembra derivare dall'esposizione e dalla pratica piuttosto che dal semplice aumento dei dati.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.