AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
Cinque esperimenti dimostrano che il solo fatto di avere accesso ai consigli dell'IA, anche quando sono errati e l'accuratezza è incentivata, riduce drasticamente la volontà delle persone di ammettere l'incertezza, portandole a rispondere a più domande con una fiducia gonfiata ma con un'accuratezza significativamente inferiore.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
L'arte di sapere quando fermarsi
Immagina di stare giocando a un gioco a quiz con un amico. A volte, conosci la risposta immediatamente. Altre volte, non sei sicuro, quindi potresti dire: "Non lo so", oppure fare un tentativo a caso. Nel mondo della scienza, questa capacità di fare una pausa e ammettere l'incertezza si chiama "sospendere il giudizio". È un superpotere che ci impedisce di credere a cose che non sono vere. Per molto tempo, gli esseri umani sono stati gli unici ad avere questo superpotere; se non sapevamo qualcosa, restavamo in silenzio. Ma ora, abbiamo un nuovo compagno di squadra: l'Intelligenza Artificiale (IA). Questi assistenti IA sono come bibliotecari incredibilmente veloci e sicuri di sé che possono rispondere a quasi ogni domanda istantaneamente. La grande domanda che gli scienziati si pongono è: se abbiamo un amico superveloce e supersicuro di sé che ha sempre una risposta pronta, smetteremo di dire "non lo so"? Ci fideremo così tanto dell'IA da dimenticare come fare una pausa e pensare con la nostra testa, anche se l'IA sbaglia?
L'esperimento: Quando l'IA mente
Un team di ricercatori ha deciso di testare questo aspetto mettendo in piedi un gioco complicato. Hanno posto alle persone 6 domande difficili sui film — cose come il colore di una tartaruga in un vecchio cartone animato o l'auto specifica guidata da un personaggio. Queste domande sono state scelte con cura perché sono il tipo di cose che fanno "allucinare" l'IA, ovvero la portano a inventare risposte che sembrano sicure ma sono completamente sbagliate. I ricercatori hanno dato ad alcune persone la possibilità di chiedere aiuto all'IA, mentre altri dovevano rispondere da soli.
Ecco il colpo di scena: l'IA sbagliava quasi sempre. Era come avere un amico che è molto rumoroso e molto sicuro di sé, ma che in realtà sta indovinando le risposte sbagliate. I ricercatori volevano vedere se le persone avrebbero ancora detto "non lo so" quando avevano l'opzione di chiedere aiuto a questo amico inaffidabile, o se la sola presenza dell'IA le avrebbe portate a smetere di fare una pausa e iniziare semplicemente a rispondere.
Cosa hanno scoperto: La "resa cognitiva"
I risultati sono stati sorprendenti e un po' spaventosi. Quando le persone avevano accesso all'IA, hanno quasi completamente smesso di dire "non lo so". Era come se la voce fluida e sicura dell'IA avesse abbassato l'asticella per ciò che era necessario per sentirsi pronti a rispondere. Anche se l'IA sbagliava la maggior parte delle volte, le persone che l'hanno usata hanno risposto a molte più domande rispetto a quelle che non l'hanno usata. Ma ecco il punto: hanno dato risposte corrette solo circa un terzo delle volte rispetto alle persone che non l'hanno usata.
È come uno studente che smette di alzare la mano per dire "non sono sicuro" perché ha un foglio con le soluzioni che fornisce le risposte. Compila tutto il test, ma sbaglia la maggior parte delle domande perché si è fidato troppo del foglio con le soluzioni. Lo studio ha scoperto che avere l'IA a disposizione ha fatto sentire le persone molto più sicure delle proprie risposte (la loro fiducia è quasi raddoppiata!), anche se la loro precisione effettiva è diminuita significativamente. Avevano essenzialmente consegnato il proprio giudizio alla macchina.
Il denaro cambia le regole del gioco?
I ricercatori si sono poi chiesti: cosa succederebbe se sbagliare una risposta costasse dei soldi? Hanno organizzato un nuovo round del gioco in cui le persone potevano guadagnare una piccola somma di denaro per le risposte corrette e perderne una piccola somma per quelle errate. Speravano che questo le avrebbe portate a riflettere di più e magari a ricominciare a dire "non lo so" anche con l'IA intorno.
Il denaro ha aiutato un po'. Le persone hanno chiesto meno spesso aiuto all'IA e hanno dato leggermente più risposte corrette. Tuttavia, il denaro non ha risolto il problema principale. Anche quando c'era una penalità per l'errore, le persone che avevano l'IA continuavano a dire "non lo so" molto meno spesso rispetto a quelle che non avevano l'IA affatto. L'attrazione dell'IA era troppo forte. Si è scoperto che l'IA non ha solo cambiato cosa le persone rispondevano; ha cambiato il modo in cui sentivano di poter rispondere in primo luogo.
La conclusione
Questa ricerca suggerisce che, man mano che l'IA diventa più comune e inizia a darci risposte senza nemmeno che le chiediamo, potremmo perdere una competenza cruciale: la capacità di riconoscere quando non sappiamo qualcosa. L'IA non si limita a riempire i vuoti; sembra convincerci che non abbiamo bisogno di fare una pausa e pensare. Lo studio dimostra che, sebbene possiamo essere motivati a controllare il nostro lavoro se c'è un costo per l'errore, la semplice presenza di una risposta sicura e fluida da parte di una macchina ci rende molto meno propensi ad ammettere la nostra incertezza. In un mondo pieno di IA, sapere quando dire "non lo so" potrebbe essere la competenza più importante di tutte.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.