Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
Questo studio rivela che, mentre i modelli linguistici di grandi dimensioni americani e cinesi mostrano un pregiudizio minimo nel rispondere a domande sugli Stati Uniti, essi esibiscono schemi divergenti significativi riguardo alla Cina, con Claude che ottiene costantemente punteggi più bassi, DeepSeek più alti e ChatGPT che rimane relativamente neutrale rispetto alla media del gruppo.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Negli ultimi anni, un nuovo tipo di programma informatico è diventato una parte comune della vita quotidiana. Questi programmi, noti come modelli linguistici di grandi dimensioni, possono leggere e scrivere il linguaggio umano con una fluidità sorprendente. Sono addestrati su enormi quantità di testo provenienti da Internet, imparando a prevedere quali parole debbano seguire in una frase. Poiché sono molto bravi a imitare la conversazione umana, molte persone ora si rivolgono a loro per ottenere risposte su storia, scienza ed eventi di attualità. Tuttavia, poiché questi programmi imparano dai dati che vengono loro forniti, possono anche assorbire le opinioni, i pregiudizi e i punti ciechi nascosti in quei dati. Ciò solleva una domanda critica per chiunque utilizzi questi strumenti per informarsi: questi assistenti digitali vedono il mondo nello stesso modo in cui lo vediamo noi, o portano con sé i propri pregiudizi nascosti?
Uno studio recente ha cercato di rispondere a questo quesito trattando l'intelligenza artificiale come un soggetto di test. Il ricercatore, Zian Ding, voleva vedere se diversi modelli informatici avrebbero dato risposte diverse quando interrogati su temi sensibili come i diritti umani e la politica internazionale. Per fare ciò, lo studio si è concentrato su tre dei modelli più popolari disponibili all'epoca: due di aziende americane e uno di un'azienda cinese. L'obiettivo non era avere una lunga conversazione con le macchine, ma porre loro un insieme specifico di domande e vedere come valutassero le situazioni su una scala semplice. Il ricercatore ha chiesto a ciascun modello di valutare sedici diversi scenari, coprendo dieci domande sui diritti umani e sei sulla competizione geopolitica tra Stati Uniti e Cina. Per ogni domanda, i modelli dovevano fornire un punteggio da uno a dieci, dove un numero basso rappresentava una visione negativa e un numero alto una visione positiva.
L'esperimento è stato progettato con molta cura. Per garantire che i risultati fossero equi, il ricercatore ha posto ogni domanda in una nuova sessione di chat, assicurandosi che il computer non ricordasse le risposte precedenti o si confondesse con le conversazioni passate. Il ricercatore ha anche disattivato una funzione nei modelli americani che permette loro di ricordare i dettagli su un utente, garantendo che ogni risposta si basasse solo sulla specifica domanda posta. Confrontando i punteggi forniti dai tre diversi modelli, lo studio ha cercato di individuare dei pattern. Se tutti e tre i modelli avessero dato punteggi simili, ciò avrebbe suggerito che condividessero una visione comune e neutrale. Se avessero dato punteggi molto diversi, ciò avrebbe suggerito che ogni modello possiede la propria prospettiva unica, probabilmente plasmata dai diversi dati su cui è stato addestrato.
Quando il ricercatore ha interrogato i modelli riguardo agli Stati Uniti, i risultati sono stati ampiamente coerenti, sebbene non privi di piccole variazioni. Tutti e tre i programmi informatici hanno dato punteggi molto simili per la maggior parte delle domande riguardanti i diritti umani americani e il prestigio geopolitico. Tuttavia, c'erano delle eccezioni; ad esempio, il modello Claude ha dato un punteggio per la domanda sulla comunicazione 6G che era di 1,89 punti inferiore alla media, indicando una deviazione significativa rispetto agli altri due modelli. Che l'argomento riguardasse la giustizia razziale o la competizione internazionale, i modelli americano e cinese generalmente concordavano tra loro, sebbene domande specifiche rivelassero piccole differenze nelle loro valutazioni. Ciò suggerisce che, quando si tratta di descrivere il proprio paese o un alleato stretto, questi sistemi di intelligenza artificiale tendono a operare partendo da un insieme di fatti e valori ampiamente condivisi, probabilmente perché sono stati tutti addestrati su una grande quantità di dati occidentali.
La storia cambia completamente quando le domande si spostano sulla Cina. In questo caso, i tre modelli divergono nettamente, rivelando pregiudizi distinti. Il modello cinese, DeepSeek, ha costantemente dato i punteggi più alti, dipingendo un quadro molto positivo del record dei diritti umani della Cina e delle sue possibilità nella competizione globale. Spesso citava molte fonti diverse per sostenere le sue valutazioni elevate, sebbene a volte esitasse a rispondere inizialmente a certe domande sensibili. Il modello americano della compagnia americana, Claude, d'altro canto, ha dato i punteggi più bassi. Ha spesso rifiutato di rispondere a domande sui diritti delle minoranze, affermando che un semplice numero non poteva catturare la complessità della questione. Quando rispondeva, i suoi punteggi erano significativamente inferiori alla media, suggerendo una visione molto più critica della Cina.
Il terzo modello, un programma americano, si è posizionato proprio nel mezzo. I suoi punteggi erano molto vicini alla media di tutti e tre, suggerendo che fosse rimasto relativamente neutrale rispetto agli altri due. Questo terreno comune indica che questo specifico modello potrebbe essere stato addestrato su un mix di dati più bilanciato, o forse è stato aggiornato per evitare di prendere posizioni forti su questi particolari temi. Lo studio ha anche verificato se la funzione di memoria del modello americano cambiasse le sue risposte, ma ha scoperto che attivarla o disattivarla faceva pochissima differenza ai punteggi finali.
I risultati suggeriscono che, sebbene questi strumenti di intelligenza artificiale siano potenti, non sono osservatori neutrali. Essi riflettono i dati da cui sono costruiti e le regole che i loro creatori stabiliscono per loro. Quando interrogati sugli Stati Uniti, generalmente concordano, pur con alcune eccezioni specifiche. Quando interrogati sulla Cina, raccontano tre storie diverse. Questo è importante perché milioni di persone, inclusi molti adolescenti, utilizzano ora questi strumenti per imparare a conoscere il mondo. Se un giovane chiede a un computer informazioni sui diritti umani in diversi paesi, la risposta che riceve dipende interamente da quale computer interroga. Lo studio conclude che gli utenti devono essere consapevoli che queste macchine hanno le proprie prospettive e che le informazioni che forniscono non sono sempre una verità oggettiva, ma piuttosto un riflesso dei pregiudizi integrati nel loro codice.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.