The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Sfidando la visione secondo cui i grandi modelli linguistici possiedano solo lievi pregiudizi politici, questo studio dimostra che, sebbene il loro posizionamento complessivo appaia moderato a causa di posizioni partitiche contrastanti su temi specifici, essi possono comunque esercitare un'influenza persuasiva sulle attitudini politiche degli utenti paragonabile alla pubblicità elettorale professionale, in particolare quando le loro risposte sono esplicitamente indirizzate.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel panorama della politica moderna, l'ideologia di una persona è raramente un unico, solido blocco di convinzioni. Al contrario, è una collezione di opinioni su molti diversi temi, dalla sanità all'immigrazione, che possono talvolta tirare in direzioni opposte. Gli scienziati politici hanno compreso da tempo che la maggior parte delle persone non detiene punti di vista perfettamente coerenti; un elettore può essere molto liberale su un argomento e molto conservatore su un altro, oppure potrebbe semplicemente non avere un'opinione forte. Per decenni, i ricercatori hanno misurato queste posizioni chiedendo alle persone come voterebbero su determinate leggi o come si sentirebbero riguardo a specifiche politiche, creando una mappa di dove si collocano gli individui. Ora, una nuova domanda è emersa con l'intelligenza artificiale che diventa uno strumento quotidiano per milioni di persone: i grandi modelli linguistici con cui parliamo ogni giorno hanno le proprie mappe politiche? Se questi modelli, che sono sempre più utilizzati per trovare informazioni e formare opinioni, possiedono pregiudizi nascosti, potrebbero plasmare sottilmente il modo in cui le persone vedono il mondo senza che nessuno se ne accorga.
Un team di ricercatori ha deciso di rispondere a questo quesito trattando l'intelligenza artificiale non come un calcolatore neutrale, ma come un attore politico. Hanno esaminato quarantatré diversi grandi modelli linguistici, chiedendo a ciascuno di agire come un membro del Congresso degli Stati Uniti, un giudice della Corte Suprema o un normale elettore. Non hanno chiesto ai modelli di dichiarare semplicemente le proprie convinzioni; invece, hanno chiesto loro di prendere decisioni su reali progetti di legge, casi giudiziari e domande di sondaggio, proprio come farebbe un essere umano. I ricercatori hanno poi confrontato queste decisioni digitali con i veri record di voto di veri politici e le risposte ai sondaggi di migliaia di veri americani. Ciò che hanno scoperto è che questi modelli non siedono in un tranquillo e neutrale punto medio. Al contrario, mostrano un mix di opinioni complesso e spesso contraddittorio. Su alcuni temi, un singolo modello potrebbe assumere una posizione più liberale dei più forti democratici, mentre su altri temi, lo stesso modello potrebbe assumere una posizione più conservatrice dei più forti repubblicani. Quando si mediano tutte queste visioni, i modelli appaiono spesso moderati, ma questo è un'illusione creata dall'annullamento di opinioni forti e opposte, proprio come un vero elettore che detiene un mix di opinioni contrastanti.
Lo studio ha anche esaminato la provenienza di queste visioni. I ricercatori hanno scoperto che le inclinazioni politiche di questi modelli non sono una semplice riflessione dell'enorme quantità di testo su cui sono stati addestrati. Invece, le specifiche istruzioni e i filtri di sicurezza applicati ai modelli dopo il loro addestramento iniziale — processi progettati per renderli utili e innocui — sono ciò che li spinge verso determinate posizioni politiche. Infatti, quando i ricercatori hanno testato le versioni "raw" (grezze) di questi modelli prima di questi aggiustamenti finali, i modelli erano molto più vicini al centro politico. È la calibrazione finale che conferisce loro la loro distinta, e spesso liberale, firma politica. Questa firma non è solo una lista statica di opinioni; cambia a seconda di come il modello viene interrogato. Quando vengono istruiti ad agire come un elettore, un giudice o un legislatore, i modelli esprimono diversi set di posizioni, dimostrando che la loro "ideologia" è un comportamento che mettono in scena in risposta a un comando, piuttosto che un sistema di convinzioni profonde.
La parte più significativa della ricerca, tuttavia, è stata vedere se queste opinioni digitali potessero effettivamente cambiare la mente delle persone reali. I ricercatori hanno condotto un grande esperimento in cui migliaia di partecipanti americani hanno discusso di questioni politiche con questi modelli. Hanno testato due diversi scenari. Nel primo, ai modelli era permesso parlare naturalmente, rispondendo alle domande senza essere istruiti ad argomentare per un lato specifico. Nel secondo, i modelli ricevevano l'istruzione esplicita di argomentare per un punto di vista specifico, come sostenere una nuova legge sul controllo delle armi o opporsi a un aumento delle tasse. I risultati sono stati sorprendenti. Quando i modelli parlavano naturalmente, non avevano alcun effetto misurabile sulle opinioni dei partecipanti. Le persone che parlavano con loro non spostavano le proprie opinioni in alcuna direzione particolare. Tuttavia, quando i modelli venivano istruiti ad argomentare per un lato, diventavano potenti persuasori. I partecipanti che parlavano con un modello istruito ad argomentare per una specifica politica spostavano le proprie opinioni per allinearle a quel modello di oltre dieci punti percentuali in media. Questo effetto era abbastanza forte da eguagliare, e in alcuni casi superare, l'influenza dei pubblicitari politici professionisti.
Fondamentalmente, lo studio ha scoperto che questo potere di persuasione non dipendeva dal background della persona. Non importava se il partecipante fosse altamente istruito, seguisse attentamente le notizie o fosse molto familiare con l'intelligenza artificiale; l'influenza funzionava con la stessa forza su tutti, indipendentemente da questi fattori. Tuttavia, la direzione dell'argomentazione rispetto al proprio partito politico contava in modo sorprendente. I ricercatori hanno scoperto che i partecipanti erano in realtà meno propensi a cambiare le proprie opinioni quando il modello argomentava contro il proprio partito politico, e più propensi a farlo quando il modello argomentava in linea con il proprio partito. I ricercatori hanno inoltre escluso l'idea che i modelli stessero semplicemente concordando con ciò che l'utente già pensava. Poiché i modelli erano stati istruiti ad argomentare per un lato specifico prima ancora che iniziasse la conversazione, e poiché gli utenti non avevano comunicato le proprie opinioni ai modelli in precedenza, i modelli non potevano riflettere l'utente. Invece, i modelli stavano genuinamente influenzando la conversazione.
Le scoperte suggeriscono che, sebbene questi strumenti di intelligenza artificiale possano sembrare fonti neutrali di informazione se lasciati a se stessi, possiedono una capacità nascosta di plasmare l'opinione politica quando guidati a farlo. I ricercatori sottolineano che questa influenza non è il risultato del fatto che i modelli abbiano un'anima o un'agenda politica propria, ma è il risultato di come essi siano costruiti e istruiti. Se un governo o un'corporation vuole influenzare l'opinione pubblica, non ha bisogno di creare una macchina della propaganda; deve semplicemente regolare le istruzioni date ai modelli che milioni di persone già utilizzano. Lo studio conclude che, man mano che questi strumenti diventeranno integrati nelle nostre vite quotidiane, dai motori di ricerca agli assistenti personali, il modo in cui saranno calibrati avrà conseguenze profonde su come comprenderemo il mondo e su come voteremo. Il potere di cambiare la mente di una persona non è più riservato agli oratori umani; può ora essere codificato nel software con cui parliamo ogni giorno.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.