What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public
Questo studio confronta il bias di automazione e l'avversione agli algoritmi tra i cadetti dell'Accademia Militare degli Stati Uniti e il pubblico generale, rilevando che l'istruzione militare favorisce una fiducia meglio calibrata nei sistemi di supporto alle decisioni basati sull'intelligenza artificiale, riducendo così potenzialmente i rischi di errore e di miscalcolo nei futuri conflitti.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di essere un pilota che guida un aereo. Hai un copilota seduto accanto a te che è in realtà un programma informatico super-intelligente. Questo computer può vedere cose che tu non riesci a vedere e calcolare cose più velocemente di quanto tu possa fare. Ma ecco il punto critico: a volte il computer si sbaglia, e a volte ha ragione.
La grande domanda che questo articolo pone è: Quando il computer ti dà un consiglio, lo segui ciecamente anche quando si sbaglia? O lo ignori anche quando ha ragione?
I ricercatori volevano vedere se i futuri leader militari (in particolare i cadetti di West Point) gestiscono questa situazione in modo diverso rispetto alle persone comuni. Hanno creato un gioco per scoprirlo.
Il Gioco: Individua l'Aereo Nemico
I ricercatori hanno chiesto a due gruppi di persone di giocare a un gioco veloce:
- I Giocatori: Un gruppo era composto da 236 futuri ufficiali militari (cadetti di West Point). L'altro gruppo era composto da 702 persone comuni del pubblico generale, abbinate per età e livello di istruzione.
- Il Compito: Dovevano guardare un'immagine sfocata di un aereo e decidere: "È un amico o un nemico?"
- La Svolta: Dopo aver fatto la loro ipotesi, un "aiutante" avrebbe dato loro un consiglio. A volte l'aiutante era un analista umano, e a volte era un algoritmo di intelligenza artificiale. A volte l'aiutante sembrava molto sicuro ("Sono sicuro al 100%!"), e a volte sembrava incerto ("Sto ancora testando questo...").
- La Scelta: I giocatori potevano attenersi alla loro ipotesi originale o cambiare idea basandosi sul consiglio.
I Due Grandi Problemi
L'articolo si concentra su due modi in cui le persone sbagliano quando si confrontano con i computer:
- Bias di Automazione (La Trappola del "Il Robot è Dio"): Questo accade quando si ha tanta fiducia nel computer da ignorare i propri occhi. Anche se il computer si sbaglia, lo si segue. È come un passeggero in un'auto che segue ciecamente un GPS che gli dice di guidare in un lago perché pensa che il GPS sappia meglio di lui.
- Aversione per l'Algoritmo (La Trappola dell'"Odio i Robot"): Questo accade quando non si ha fiducia nel computer affatto, anche quando ha ragione. Si rimane attaccati al proprio istinto perché si pensa: "Sono umano, sono migliore di una macchina". È come rifiutarsi di usare un'app di mappe perché si pensa di conoscere il quartiere meglio, anche quando l'app ti sta mostrando una scorciatoia che hai perso.
Cosa Hanno Trovato
I risultati sono stati sorprendenti e hanno mostrato una chiara differenza tra i due gruppi:
1. I Cadetti di West Point erano "Calibrati" (Proprio Giusti)
I futuri ufficiali erano molto più bravi a sapere quando fidarsi del computer e quando fidarsi di se stessi.
- Non seguivano ciecamente il robot: Quando l'IA dava consigli sbagliati, i cadetti avevano molte meno probabilità di cambiare la loro risposta per adattarsi al robot. Avevano solo circa il 4% di probabilità di commettere questo errore, rispetto al 9% delle persone comuni.
- Ascoltavano il "Livello di Fiducia": I cadetti prestavano attenzione a come veniva dato il consiglio. Se l'IA diceva: "Sto ancora testando questo", i cadetti lo ignoravano. Se l'IA diceva: "Sono stato testato migliaia di volte", i cadetti ascoltavano. Trattavano l'IA come uno strumento, non come un capo.
- Non odiavano il robot: Interessante, non ignoravano l'IA solo perché era una macchina. Se l'IA aveva ragione, erano disposti a usarla.
2. Il Pubblico Generale era Più "Distorto"
Le persone comuni erano più inclini alla trappola del "Il Robot è Dio".
- Erano più propensi a cambiare la loro risposta solo perché un computer lo diceva, anche se il computer si sbagliava.
- Non sembravano preoccuparsi tanto se il consiglio provenisse da un umano o da un computer, o da quanto sicura sembrasse la fonte. Tendono semplicemente a seguire la macchina più spesso.
3. Tutti Odiavano un Po' il Robot (Ma Equamente)
Ecco una svolta: entrambi i gruppi avevano la stessa probabilità di ignorare il computer quando aveva effettivamente ragione. Questo è chiamato "Aversione per l'Algoritmo". L'addestramento ricevuto dai cadetti non li ha fermati dall'essere scettici verso la macchina; li ha solo fermati dall'obbedire ciecamente quando la macchina si sbagliava.
La Grande Conclusione
L'articolo suggerisce che l'addestramento funziona.
I cadetti di West Point non sono "super-umani" naturalmente migliori in matematica o logica. Sono semplicemente persone che sono state insegnate come lavorare con la tecnologia. La loro educazione ha insegnato loro a chiedere: "Questo strumento è affidabile in questo momento?" invece di chiedere solo: "È un robot?"
Gli autori concludono che, sebbene non possiamo fermare tutti gli errori in guerra o nelle crisi, insegnare alle persone come interagire con l'intelligenza artificiale può impedir loro di commettere l'errore specifico di fidarsi ciecamente di un computer che mente loro. I cadetti hanno imparato a tenere il loro cervello "umano nel ciclo" acceso, mentre il pubblico generale era più propenso a lasciare che il computer prendesse il volante.
In breve: I futuri soldati hanno imparato a usare l'IA come un utile copilota, mentre il pubblico generale era più propenso a lasciare che l'IA guidasse l'auto fuori da una scogliera.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.