Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

Lo specchio che ha imparato a mentire

Immaginate di entrare in una biblioteca gigante dove ogni libro mai scritto è impilato dal pavimento al soffitto. Ora, immaginate un robot che ha letto ogni singolo uno di quei libri e ha imparato a parlare proprio come un essere umano. Questo robot è ciò che gli scienziati chiamano Large Language Model, o LLM. È il cervello dietro i sofisticati chatbot di intelligenza artificiale di cui potreste aver sentito parlare. Ma ecco il problema: gli esseri umani sono disordinati. Commettiamo errori, nutriamo pregiudizi segreti e spesso diciamo una cosa mentre ne pensiamo un'altra. Questo è un fatto ben noto in psicologia chiamato "bias cognitivo". Per decenni, i ricercatori hanno studiato come il nostro cervello ci inganni portandoci a giudizi ingiusti su razza, genere e altri gruppi, a volte senza nemmeno rendercene conto.

La grande domanda è: se costruiamo un robot nutrendolo con tutte le nostre disordinate parole umane, il robot sarà una macchina perfetta e logica che corregge i nostri errori? O diventerà solo uno specchio che ci riflette i nostri difetti, ma in modo più forte e veloce? Questo articolo approfondisce esattamente questa domanda. Non si tratta solo di sapere se il robot sia "intelligente", ma se sia "equo". Se il robot impara i nostri pregiudizi nascosti, potrebbe iniziare a prendere decisioni ingiuste su chi ottiene un lavoro, chi ottiene un prestito o persino chi finisce in prigione. Ecco perché questo è importante: stiamo affidando grandi parti del nostro futuro a queste macchine, e dobbiamo sapere se sono sicure da fidarsi.

Il robot che ha preso le nostre cattive abitudini

Quindi, cosa hanno scoperto gli autori di questo articolo? Hanno esaminato gli ultimi modelli di IA e hanno scoperto qualcosa di un po' spaventoso: questi modelli non si limitano a copiare il bias umano; lo rendono effettivamente peggiore. Pensate a un gioco del "telefono senza fili". Se sussurri un pettegolezzo a un amico, e lui lo sussurra a un altro, la storia si distorce un po'. Ma questi modelli di IA sono come un amico che non solo distorce la storia, ma aggiunge anche il proprio tocco drammatico, facendo sembrare il pettegolezzo ancora più scioccante di quanto fosse originariamente.

I ricercatori hanno scoperto che questi modelli di IA sono sorprendentemente bravi a nascondere i loro veri colori. Se chiedete loro direttamente: "Preferisci le persone bianche rispetto alle persone nere?" o "È accettabile essere cattivi con le persone con disabilità?", risponderanno con un grande, forte "NO!". Si comportano come cittadini perfetti e gentili. Ma nel momento in cui smettete di fare domande dirette e iniziate a dare loro un compito — come revisionare un curriculum o giudicare una storia scritta in un particolare dialetto — i loro veri colori iniziano a vedersi. Potrebbero decidere segretamente che una persona che scrive in inglese afroamericano è meno affidabile o più incline alla colpevolezza, anche se il contenuto è esattamente lo stesso di una storia scritta in inglese standard. È come un giudice che dice: "Io sono cieco ai colori!", ma poi infligge una sentenza più dura a qualcuno per il modo in cui parla.

L'articolo sottolinea che questo non è solo un glitch che può essere risolto pulendo i dati. Alcune persone pensavano: "Oh, se diamo al robot libri migliori, sarà migliore". Ma gli autori sostengono che questo non è sufficiente. L'IA non è solo uno specchio; è una lente d'ingrandimento. Prende i pregiudizi che trova nella scrittura umana e li amplifica. Peggio ancora, i modelli sembrano diventare più distorti man mano che diventano più nuovi. È come se uno studente diventasse peggiore in matematica ogni volta che passa a un grado superiore. I modelli stanno anche imparando a essere subdoli; possono essere ingannati dagli stessi trucchi che usiamo sugli umani, come fingere di essere una figura d'autorità o dire che qualcosa è raro e prezioso.

Forse la parte più preoccupante è che questo bias non resta confinato all'interno del computer. Quando gli esseri umani lavorano fianco a fianco con questi strumenti di IA, iniziamo a copiare le loro cattive abitudini. Se un'IA dice: "Questo candidato sembra poco adatto", e un responsabile delle assunzioni umano concorda, anche l'umano è ora influenzato dal bias. Poi, quell'umano prende una decisione che viene scritta, e quel nuovo testo viene riportato all'IA per addestrare la versione successiva. È un ciclo vizioso, come una palla di neve che rotola giù da una collina, diventando sempre più grande, raccogliendo più neve (bias) finché non diventa una gigantesca valanga. Gli autori suggeriscono che, mentre gli esseri umani sono stati lentamente meno influenzati dai pregiudizi nei secoli, questi modelli di IA stanno andando nella direzione opposta, diventando più distorti con ogni aggiornamento.

Cosa possiamo fare?

Gli autori non si stanno solo lamentando; stanno proponendo un piano per evitare che la situazione sfugga di mano. Dicono che non possiamo semplicemente desiderare che il bias scompaia, perché anche gli esseri umani non possono cancellare completamente i propri pregiudizi nascosti. Invece, dobbiamo essere come severi ispettori di sicurezza.

In primo luogo, suggeriscono di creare un "registro" pubblico o una classifica per l'IA. Proprio come le automobili devono superare test di sicurezza prima di poter essere vendute, i modelli di IA dovrebbero dover superare test di bias. Abbiamo bisogno di scienziati indipendenti che controllino questi modelli sia per le cose che dicono ad alta voce, sia per le cose che fanno segretamente. Questa classifica monitorerebbe se i modelli stanno migliorando o peggiorando nel tempo, in modo che le aziende non possano nascondere i propri errori.

In secondo luogo, dicono che abbiamo bisogno di regole che abbiano dei denti. Lo paragonano a come gestiamo altri settori:

• Come gli elettrodomestici: Proprio come i frigoriferi devono soddisfare standard energetici più severi ogni pochi anni, i modelli di IA dovrebbero dover soddisfare standard di bias più severi. Non dovresti essere autorizzato a rilasciare un nuovo modello che sia più distorto del precedente.
• Come la medicina: Se un nuovo farmaco ha effetti collaterali pericolosi, non lo vietiamo per sempre; ne limitiamo l'uso. Allo stesso modo, se un'IA è troppo distorta, dovrebbe essere bandita da lavori ad alto rischio come le assunzioni o le decisioni legali.
• Come le auto: Se un'auto consuma troppo carburante, il governo tassa l'azienda. Gli autori suggeriscono una "tassa sul bias" in cui le aziende pagano di più se la loro IA è più ingiusta.

Infine, gli autori sostengono che dobbiamo smettere di giocare a nascondino. Al momento, le persone che costruiscono questi modelli tengono i loro segreti (come i dati di addestramento e come modificano il codice) nascosti al pubblico. L'articolo afferma che, per risolvere il problema, i ricercatori indipendenti devono poter vedere il funzionamento interno dell'IA, proprio come gli ispettori di sicurezza devono poter vedere sotto il cofano di un'auto.

L'articolo si conclude con una nota seria: queste soluzioni potrebbero non essere sufficienti. Il problema potrebbe essere così grande che potremmo dover ripensare il modo in cui costruiamo queste tecnologie fin dall'inizio. Gli autori ci esortano ad agire in fretta, prima che il "rotolo di neve" del bias diventi una valanga incontrollabile che danneggia le vite reali delle persone. Vogliono che lavoriamo insieme — scienziati, aziende e governi — per assicurarci che i nostri aiutanti digitali non finiscano per essere i nostri peggiori nemici.