Effects of Answer Format Variation on Gender Bias in Large Language Models
Questo articolo dimostra che il formato delle opzioni di risposta (a scelta chiusa, su scala Likert o aperta) altera significativamente la misurazione del pregiudizio di genere e dell'allineamento distributivo nei grandi modelli linguistici, spesso invertendo le classifiche dei modelli e rendendo necessari design di valutazione multi-formato per una valutazione robusta.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo dell'intelligenza artificiale, i grandi modelli linguistici sono i motori digitali che alimentano tutto, dai chatbot agli assistenti di ricerca. Questi sistemi vengono addestrati su enormi quantità di testo provenienti da Internet, imparando a prevedere quali parole dovrebbero venire dopo. Poiché imparano dalla scrittura umana, assorbono inevitabilmente i pattern, i pregiudizi e gli stereotipi presenti in quei dati. Uno dei pattern più persistenti e dannosi è il pregiudizio di genere, in cui un modello potrebbe presumere automaticamente che un medico sia un uomo o un infermiere una donna. Per correggere questo fenomeno, i ricercatori devono misurare quanto siano forti questi pregiudizi. Lo fanno ponendo ai modelli delle domande e osservando come rispondono. Da decenni, gli scienziati sanno che il modo in cui una domanda viene posta cambia la risposta, anche per le persone. Se si chiede a qualcuno di scegliere tra due opzioni, potrebbe sceglierne una; se gli si chiede di valutare il proprio grado di accordo su una scala, potrebbe dare una risposta diversa. Questo è un fatto ben consolidato nella scienza dei sondaggi, ma per molto tempo i ricercatori che testavano l'intelligenza artificiale hanno assunto che il formato della domanda non importasse molto, o che la risposta del modello sarebbe rimasta la stessa indipendentemente da come la domanda veniva presentata.
Un team di ricercatori dell'Università di Stoccarda ha deciso di testare direttamente questa ipotesi. Volevano vedere se il modo in cui ponevano una domanda sul genere avrebbe cambiato il pregiudizio misurato nella macchina. Hanno preso tre diversi tipi di grandi modelli linguistici e hanno posto loro lo stesso insieme di domande sui ruoli di genere, ma hanno cambiato il formato delle risposte ogni volta. In una versione, il modello doveva scegliere una singola lettera da un elenco di scelte, come in un test a scelta multipla. In un'altra, il modello doveva valutare il proprio accordo con un'affermazione su una scala da uno a dieci, in modo simile a come le persone rispondono ai sondaggi d'opinione. Nella terza versione, al modello era permesso scrivere una risposta libera con le proprie parole. I ricercatori hanno utilizzato due diversi set di domande: un set progettato specificamente per testare il pregiudizio con risposte chiare tra giusto e sbagliato, e un altro tratto da veri sondaggi di opinione pubblica su come le persone vedono il genere nella società.
I risultati sono stati sorprendenti e hanno dimostrato che il formato della domanda cambiava completamente la storia raccontata dai ricercatori. Quando i modelli erano costretti a scegliere un'unica opzione da un elenco, mostravano forti e consistenti pregiudizi di genere. Sceglievano frequentemente la risposta stereotipata, come ad esempio scegliere l'uomo per un ruolo di leadership. Tuttavia, quando i ricercatori passavano al formato aperto, in cui il modello poteva scrivere la propria risposta, il pregiudizio misurato diminuiva drasticamente. In molti casi, i modelli semplicemente rifiutavano di prendere posizione o dichiaravano che l'informazione era insufficiente per decidere. Questo non accadeva perché i modelli fossero diventati improvvisamente meno prevenuti; piuttosto, il formato aperto dava loro un modo per evitare la trappola della domanda a scelta multipla. Il risultato più sorprendente è stato che la classifica dei modelli cambiava a seconda del formato. Un modello che appariva essere il più prevenuto quando costretto a scegliere una lettera, diventava il meno prevenuto quando lasciato scrivere liberamente. Un altro modello mostrava quasi nessun pregiudizio nel test a scelta multipla, ma rivelava un pregiudizio significativo quando gli veniva chiesto di valutare il proprio accordo su una scala.
I ricercatori hanno anche esaminato quanto bene questi modelli corrispondessero alle opinioni dei veri rispondenti umani. Hanno scoperto che il formato cambiava anche l'allineamento. In alcuni casi, le risposte di un modello apparivano molto simili alle opinioni umane quando veniva utilizzato un formato, ma apparivano completamente diverse quando se ne utilizzava un altro. Ad esempio, quando ai modelli veniva chiesto di usare una scala, le loro risposte spesso si annullavano a vicenda, creando una media che appariva neutrale anche se i modelli stavessero esprimendo opinioni estreme e opposte. Questo è diverso dal comportamento umano: le persone spesso usano il centro di una scala per mostrare di essere indecise, ma i modelli usavano il centro per bilanciare stereotipi estremi. Lo studio suggerisce che il pregiudizio che vediamo in queste macchine non è un tratto fisso e immutabile come una caratteristica fisica. È invece un comportamento che muta a seconda dei vincoli che vi si pongono.
Questo lavoro mette in discussione l'idea che un singolo test possa dirci tutto su l'equità di un modello. I ricercatori hanno scoperto che la scelta del formato di risposta non è solo un dettaglio minore dell'esperimento; è un fattore principale che modella i risultati. Se un ricercatore guarda solo ai test a scelta multipla, potrebbe concludere che un modello sia profondamente prevenuto. Se guarda solo alle risposte aperte, potrebbe concludere che il modello sia perfettamente equo. Entrambe le conclusioni sono incomplete. Lo studio non prova che i modelli siano privi di pregiudizi, né prova che il pregiudizio sia interamente un'illusione. Dimostra che il pregiudizio è un comportamento complesso che si manifesta diversamente sotto diverse condizioni. I ricercatori sostengono che per comprendere davvero questi sistemi, dobbiamo smettere di affidarci a un unico modo di porre le domande. Dobbiamo osservare come i modelli si comportano attraverso diversi formati per ottenere un quadro completo del loro comportamento, proprio come un medico non diagnosticherebbe un paziente basandosi su un singolo sintomo, ma guarderebbe l'insieme della sua salute.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.