Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Immaginate il sistema sanitario come una gigantesca e frenetica biblioteca dove i medici sono i bibliotecari capo. Per anni, sono stati gli unici autorizzati a prelevare libri, organizzare scaffali e consigliare storie per farvi sentire meglio. Ma ultimamente, è arrivato un nuovo tipo di aiutante: un bibliotecario robotico super veloce e super intelligente, alimentato dall'Intelligenza Artificiale (IA). Questo robot può scansionare milioni di libri in un secondo, individuare schemi che gli esseri umani potrebbero ignorare e persino suggerire la storia perfetta per il vostro umore specifico. Sembra fantastico, vero? Ma ecco il problema: solo perché il robot è veloce, non significa che tutti si fidino di lui. Alcune persone temono che il robot possa sbagliare la storia, rubare i loro segreti o addirittura sostituire completamente il bibliotecario umano.

Questo studio esplora la mente delle persone comuni per rispondere a una grande domanda: ci fidiamo di questo nuovo bibliotecario robotico o abbiamo paura che rovini la nostra salute? Per comprendere le risposte, dobbiamo sapere alcune cose. Primo, esiste la "alfabetizzazione all'IA", che è solo un modo elegante per dire: "Sai come funziona questo cervello robotico?". Poi c'è la "familiarità", che è semplicemente quanto spesso avete visto o usato questi robot nella vostra vita quotidiana. Infine, c'è l'idea di "supervisione umana", che è la convinzione che il bibliotecario umano sia ancora al comando, controllando il lavoro del robot per assicurarsi che stia facendo la cosa giusta. I ricercatori volevano vedere se sapere di più sul robot, usarlo personalmente o fidarsi del bibliotecario umano cambi il modo in cui percepiamo il robot come utile, rischioso o equo.

I ricercatori, un team dell'Università di Amsterdam, hanno deciso di scattare una gigantesca istantanea del pubblico olandese per vedere cosa ne pensano davvero. Hanno chiesto a quasi 4.000 persone — circa metà uomini e metà donne, con un'età media di 52 anni — di compilare un sondaggio. Non hanno solo chiesto: "Ti piace l'IA?". Hanno suddiviso la questione in tre sentimenti specifici: il processo decisionale automatizzato (ADM) nell'assistenza sanitaria è utile? È rischioso? Ed è equo?

Per trovare le risposte, hanno utilizzato uno speciale strumento matematico chiamato Modellazione di Equazioni Strutturali. Pensateelo come a una mappa gigante e complessa che collega diversi punti. I ricercatori hanno tracciato linee tra elementi come "Quanto ne sai dell'IA?" e "Pensi che sia rischioso?" per vedere quali punti tiravano le corde più forti. Hanno controllato se le persone che usavano chatbot per consigli sulla salute si sentissero diversamente da chi usava solo Google. Hanno anche verificato se le persone che si fidavano dei propri medici nel distinguere tra una nota scritta da un essere umano e una scritta da un'IA si sentissero più sicure riguardo all'intero sistema.

Quindi, cosa ha rivelato la mappa? I risultati sono un po' come un giro sulle montagne russe con alcune sorprese inaspettate.

Per prima cosa, più le persone conoscevano diversi tipi di IA (come chatbot, deepfake o IA generativa), più pensavano che potesse essere utile. È come se conoscere il trucco di magia facesse apprezzare di più l'abilità del mago. Ma ecco il colpo di scena: quella stessa familiarità le portava a pensare che fosse anche più rischiosa. Sembra che quando si sa qualcosa di più sul robot, ci si rende conto che non è solo uno strumento perfetto; è uno strumento potente che può sbagliare. Quindi, sapere di più non ha solo reso le persone più amanti della tecnologia; ha reso loro anche più consapevoli dei pericoli.

Secondo, lo studio ha trovato qualcosa di veramente interessante riguardo al bibliotecario umano. Il singolo fattore principale che ha portato le persone a pensare che l'IA fosse equa e utile era la loro fiducia nella capacità del medico di distinguere tra contenuti generati dall'IA e dall'uomo. Se una persona credeva: "Il mio medico può capire se un computer ha scritto questo", era molto più propensa a pensare che l'intero sistema fosse equo. Si scopre che ci interessa meno fidarsi del robot in sé e di più fidarsi dell'umano che tiene il guinzaglio del robot. Se pensiamo che l'umano sia in controllo e possa individuare gli errori, ci sentiamo al sicuro.

Terzo, le persone che utilizzavano effettivamente agenti conversazionali (come chatbot o assistenti virtuali) per ottenere informazioni sulla salute si sentivano diversamente dagli altri. Questi utenti pensavano che il sistema fosse meno rischioso e più equo. È come andare in bicicletta: la prima volta che ci sali, sembra traballante e spaventoso. Ma una volta che l'hai pedalata qualche volta, sembra normale e sicura. L'uso di questi strumenti sembrava rendere il robot spaventoso un utile alleato amichevole. Tuttavia, lo studio ha notato che la maggior parte delle persone nel sondaggio non usava questi chatbot molto spesso, quindi questo effetto "pedalare la bici" non era ancora entrato in gioco per tutti.

Interessante è stato anche il fatto che lo studio abbia osservato se le persone che utilizzavano siti web sanitari tradizionali (come le pagine ufficiali degli ospedali) si sentissero diversamente. È risultato che fare affidamento su queste fonti digitali "vecchia scuola" faceva pensare alle persone che l'IA fosse più rischiosa, ma ciò non cambiava realmente le loro opinioni sulla sua utilità o equità. È come se attenersi ai "vecchi modi" rendesse il nuovo robot ancora più sospetto.

Una cosa che lo studio non ha trovato è un forte legame tra "alfabetizzazione all'IA" (quanto bene comprendi la tecnologia) e il percepire l'IA come rischiosa. Potresti pensare che se capisci come funziona il motore di un'auto, saresti meno spaventato di essa. Ma per l'IA, conoscere il suo funzionamento non ha necessariamente reso le persone più sicure riguardo ai rischi. I ricercatori suggeriscono che questo potrebbe essere dovuto al fatto che comprendere la tecnologia rende alcuni più consapevoli dei pericoli, mentre altri diventano troppo sicuri di sé, annullandosi a vicenda.

I ricercatori sono stati cauti nel dire che questo studio è un'istantanea nel tempo, non un film sul futuro. Non possono affermare con certezza che l'uso dei chatbot causi nelle persone una minore paura; sanno solo che le due cose accadono insieme. Hanno anche notato che il loro sondaggio utilizzava domande semplici, quindi potrebbero esserci più sfumature in questi sentimenti che non sono state colte.

In definitiva, la storia che questo articolo racconta è quella della fiducia. Suggerisce che affinché l'IA diventi davvero una parte utile dell'assistenza sanitaria, non abbiamo solo bisogno di robot migliori. Abbiamo bisogno di assicurarci che la gente si fidi dei medici umani che li utilizzano. Se le persone credono che i loro medici possano tenere d'occhio l'IA e correggere eventuali errori, sono molto più propense a vedere la tecnologia come equa e utile. Ma se dimentichiamo l'umano nel processo, il robot potrebbe apparirci solo come una macchina spaventosa e rischiosa.