Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Questo studio qualitativo condotto presso l'Erasmus Medical Center di Rotterdam confronta le prospettive di pazienti e professionisti sanitari sull'integrazione dell'IA in ambito chirurgico, evidenziando come, sebbene entrambi i gruppi condividano preoccupazioni sulla responsabilità, le loro priorità differiscano sostanzialmente tra aspetti tecnici e validazione clinica da un lato e la necessità di attenzione umana e fiducia relazionale dall'altro.

L'essenziale

🏥 L'Intelligenza Artificiale in Ospedale: Cosa Pensano Medici e Pazienti?

Immagina l'ospedale come una grande orchestra. Fino a poco tempo fa, c'erano solo musicisti umani (i medici e gli infermieri) che suonavano la musica della cura. Ora, però, è arrivato un nuovo strumento: un robot musicista (l'Intelligenza Artificiale o AI) che può leggere spartiti complessi in un secondo e suggerire quale nota suonare dopo.

Questo studio ha chiesto a due gruppi di persone: "Cosa ne pensate di questo nuovo robot?"

1. I Musicisti: I medici e gli infermieri.
2. Gli Ascoltatori: I pazienti che hanno subito un intervento.

Ecco cosa hanno scoperto, usando metafore semplici.

---

1. La Conoscenza: "Sapere come funziona il motore"

• I Medici: Molti dicono: "Non ho bisogno di sapere come è costruito il motore della macchina, ma devo sapere se i freni funzionano e dove sono stati testati."
  • Alcuni medici sono molto esperti e capiscono i dettagli tecnici. Altri, invece, ammettono: "Non capisco tutto, è come un mago per me." Ma non hanno paura: vogliono solo sapere se il robot è stato "addestrato" su dati corretti prima di fidarsi.
• I Pazienti: Per loro, l'AI è come un oracolo misterioso. Molti dicono: "Ho sentito parlare di AI sui social, ma non so cosa sia davvero."
  • Tuttavia, non vogliono essere ignorati. Se il robot decide qualcosa sulla loro salute, vogliono che il medico gli spieghi in parole povere: "Ehi, il computer ha detto questo, ma ecco perché io sono d'accordo."

2. La Fiducia: "A chi dai la mano?"

• I Medici: La loro fiducia non è nel robot, ma nel controllo. È come guidare un'auto con il cruise control: puoi usarlo, ma tieni sempre le mani sul volante. Se il robot sbaglia, il medico deve essere pronto a dire: "No, fermati, io decido io."
  • Per loro, la fiducia si guadagna con la prova: "Fammi vedere che funziona su migliaia di pazienti prima di usarlo su questo."
• I Pazienti: Qui c'è una sorpresa! I pazienti non si fidano dell'AI. Si fidano del loro medico.
  • Per un paziente, l'AI è solo un "aiuto" che il medico usa. Se il medico dice: "Il computer pensa che stai bene, ma io vedo che sei pallido e stanco, quindi restiamo qui," il paziente ascolta il medico, non il computer. La fiducia è nella relazione umana, non nella tecnologia.

3. La Responsabilità: "Chi è il capitano della nave?"

• I Medici: Tutti sono d'accordo: il medico è il capitano. Se il robot dà un consiglio sbagliato e il paziente sta male, la colpa è del medico che ha seguito il consiglio senza pensarci.
  • Tuttavia, c'è un problema: a volte i medici si sentono in colpa se devono dire al robot "No", perché temono di sembrare poco esperti o di litigare con la tecnologia.
• I Pazienti: Pensano che la responsabilità sia condivisa. "Se il dottore ascolta il computer e sbaglia, non è solo colpa sua, è colpa anche di chi ha costruito il computer." Vogliono sapere che c'è qualcuno che controlla tutto il sistema.

4. Il Rapporto Umano: "Il tocco caldo vs. il calcolo freddo"

• Il Timore dei Pazienti: Il loro grande spavento è che il robot non abbia cuore.
  • Immagina di avere un dolore che non si vede sulle radiografie, ma che senti dentro. Il robot non può "sentire" il tuo dolore o il tuo stato d'animo. Un paziente ha detto: "Il computer non sa se ho voglia di tornare a casa presto o se ho paura. Lui vede solo numeri."
  • Vogliono essere ascoltati, non solo "scansionati".
• La Visione dei Medici: Alcuni pensano che il robot possa aiutare a liberare tempo per parlare con i pazienti. Altri temono che il robot diventi un "terzo interlocutore" che interrompe la conversazione tra medico e paziente.

5. Il Lavoro Quotidiano: "Un assistente o un altro capo?"

• L'Obiettivo: Tutti sperano che l'AI faccia il lavoro sporco (come scrivere relazioni o cercare dati) così che i medici possano guardare il paziente, non lo schermo.
• La Realtà: C'è il timore che l'AI diventi un ulteriore capo esigente.
  • Se il medico deve cliccare su 100 caselle per far funzionare il robot, o se il sistema si blocca, l'AI diventa un peso, non un aiuto. Deve essere invisibile e facile, come un buon paio di scarpe: si indossano e non ci si pensa.

---

🎯 La Conclusione in Pillole

Questo studio ci dice una cosa fondamentale: non basta che l'AI sia intelligente, deve essere "umana" nel suo utilizzo.

• Per i medici: L'AI è un ottimo strumento di supporto, ma non deve mai sostituire il loro "istinto" e la loro esperienza. Devono capire i limiti del robot per non farsi ingannare.
• Per i pazienti: L'AI va bene, ma solo se il medico rimane al centro della decisione. Non vogliono essere ridotti a una serie di dati. Vogliono sentire che il medico li guarda negli occhi e dice: "Io decido per te, usando anche questo strumento."

In sintesi: Immagina l'AI come un GPS per l'ospedale. Il GPS può dirti la strada più veloce, ma è il medico (il conducente) che deve decidere se quella strada è sicura, se il passeggero (il paziente) sta bene, e se ha bisogno di una pausa. Se il GPS prende il volante, è un disastro. Se il GPS aiuta il conducente a guidare meglio, è una vittoria per tutti.

Sommario tecnico

Titolo dello Studio

Fiducia, accettazione e responsabilità nell'intelligenza artificiale (IA) in ambito sanitario: considerazioni da parte di pazienti e professionisti sanitari.

1. Il Problema

Nonostante l'investimento massiccio e l'entusiasmo ("hype") per l'Intelligenza Artificiale in sanità, esiste un significativo "gap di implementazione". Studi recenti indicano che solo una frazione minima dei modelli di IA sviluppati (circa il 2% in alcuni domini) riesce a raggiungere il letto del paziente.
Il problema centrale non è solo tecnico, ma riguarda la percezione e l'accettazione da parte degli stakeholder. La letteratura esistente è spesso carente di una prospettiva comparativa che includa simultaneamente i professionisti sanitari (HCP) e i pazienti, specialmente riguardo a temi etici come la fiducia, l'accettazione e la responsabilità. Questo studio mira a colmare tale lacuna analizzando le barriere all'adozione dell'IA in un contesto clinico reale.

2. Metodologia

Lo studio ha adottato un disegno di ricerca qualitativo esplorativo basato su interviste semi-strutturate.

• Contesto: Dipartimento di Oncologia Chirurgica e Chirurgia Gastrointestinale dell'Erasmus MC (Rotterdam, Paesi Bassi).
• Partecipanti: Campione di 30 partecipanti selezionati tramite purposive sampling:
  • 18 Professionisti Sanitari: 10 chirurghi e 8 infermieri.
  • 12 Pazienti: Pazienti che avevano subito un intervento chirurgico gastrointestinale nei 12 mesi precedenti.
• Strumento: Una guida per interviste semi-strutturate, sviluppata iterativamente da ricercatori con competenze multidisciplinari (etica, filosofia, medicina tecnica). Le interviste hanno durato dai 30 ai 45 minuti.
• Analisi dei Dati:
  • Trascrizione verbale delle registrazioni.
  • Analisi tematica utilizzando il software ATLAS.ti.
  • Applicazione di codifica sia deduttiva (basata su framework preesistenti) che induttiva (basata sui dati emergenti).
  • Confronto incrociato tra le prospettive dei due gruppi per identificare convergenze e divergenze.
• Oggetto di discussione: Le interviste si sono focalizzate su un modello di IA specifico (DESIRE) progettato per supportare le decisioni di dimissione ospedaliera post-operatoria, permettendo di valutare l'accettazione in un contesto di uso clinico validato.

3. Contributi Chiave

Lo studio offre tre contributi metodologici e concettuali principali:

1. Prospettiva Comparativa Diretta: È uno dei primi studi a confrontare sistematicamente le visioni di pazienti e medici utilizzando la stessa guida di intervista, rivelando discrepanze significative nelle aspettative.
2. Analisi dell'Ambiente Epistemico: Esamina come l'IA altera la dinamica della conoscenza e della responsabilità nella relazione medico-paziente, andando oltre la semplice valutazione tecnica.
3. Validazione Pratica: A differenza di studi teorici, questo lavoro si basa sulla percezione di un modello di IA già progettato e validato per l'uso clinico, aumentando la rilevanza pratica dei risultati.

4. Risultati Principali

L'analisi ha generato 3 categorie tematiche principali con 10 sottocategorie.

A. Conoscenza dell'IA (AI Knowledge)

• Livello di Alfabetizzazione: La conoscenza è generalmente superficiale o basata sui media per entrambi i gruppi. Tuttavia, alcuni medici mostrano una comprensione tecnica più profonda.
• Percezione: L'IA è vista come inevitabile ("il futuro"), ma la scarsa alfabetizzazione non porta al rifiuto. Piuttosto, la conoscenza è vista come prerequisito per una fiducia sicura.
• Divario: I pazienti collegano la fiducia alla trasparenza e alla comunicazione accessibile, mentre i medici si concentrano sulla validazione e sui limiti del modello.

B. Etica (Autonomia, Bias, Relazione, Spiegabilità, Responsabilità)

• Autonomia:
  • Medici: Temono il "bias di automazione" e la perdita del giudizio clinico. Sottolineano l'importanza del "tacit knowledge" (intuizione clinica) che l'IA non può replicare.
  • Pazienti: Temono che l'IA rafforzi l'autorità del medico a discapito della loro voce. Desiderano essere informati sull'uso dell'IA nelle decisioni che li riguardano.
• Responsabilità:
  • Consenso: Entrambi i gruppi attribuiscono la responsabilità finale al medico.
  • Differenza: I medici vedono la responsabilità come un peso professionale gerarchico (difficile per gli infermieri sfidare i medici). Alcuni pazienti riconoscono una responsabilità più distribuita (sviluppatori, istituzione).
• Spiegabilità (Explainability):
  • Medici: Vogliono sapere come il modello è stato addestrato e quali variabili usa per valutare l'affidabilità, ma spesso non necessitano della logica interna completa ("scatola nera") se l'output è chiaro.
  • Pazienti: Molti medici assumono erroneamente che i pazienti non si curino dei dettagli tecnici. In realtà, molti pazienti desiderano maggiore trasparenza su come l'IA influisce sulle loro cure.
• Relazione Medico-Paziente:
  • I pazienti temono che l'IA non possa catturare la "soggettività" e il "sentire" del corpo umano. La paura principale è di non essere "ascoltati" se le decisioni sono guidate da algoritmi.

C. Implicazioni Operative e Cliniche

• Impatto Clinico: Visione generalmente positiva. L'IA è vista come uno strumento di supporto decisionale (es. per dimissioni incerte) e non come sostituto.
• Integrazione nel Flusso di Lavoro: La condizione sine qua non per l'accettazione è un'integrazione seamless (senza soluzione di continuità) nei sistemi cartacei elettronici (EHR). Se l'IA richiede click aggiuntivi o procedure complesse, verrà rifiutata come ulteriore carico amministrativo.
• Preoccupazioni Tecniche: Qualità dei dati, validazione continua, generalizzabilità (il modello funziona su pazienti diversi da quelli del dataset di addestramento?) e monitoraggio post-implementazione.

5. Significato e Conclusioni

Lo studio conclude che l'adozione responsabile dell'IA in sanità non dipende solo dalla precisione tecnica del modello, ma dalla capacità di gestire le dinamiche umane e organizzative:

1. Fiducia Differenziata: I medici cercano fiducia basata su validazione empirica e monitoraggio; i pazienti basano la fiducia sulla relazione con il medico, vedendo l'IA come uno strumento nelle mani del professionista, non come un'autorità autonoma.
2. Rischio di Ingiustizia Epistemica: Esiste il rischio che l'IA, usata come "prova" a supporto delle decisioni mediche, silenzi la voce del paziente. È cruciale evitare che la tecnologia venga usata per convincere il paziente contro la sua volontà.
3. Necessità di Formazione: È richiesta un'educazione strutturata per i professionisti (sui limiti e sul funzionamento dell'IA) e una comunicazione trasparente verso i pazienti.
4. Integrazione Pratica: Il successo dell'implementazione richiede che l'IA si adatti al flusso di lavoro esistente, riducendo il carico amministrativo invece di aumentarlo.

In sintesi, lo studio evidenzia che per colmare il divario tra sviluppo tecnologico e implementazione clinica, è necessario un approccio olistico che consideri simultaneamente le esigenze tecniche, etiche e relazionali di tutti gli stakeholder coinvolti.