ConsistencyAI: A Benchmark to Assess LLMs' Factual Consistency When Responding to Different Demographic Groups
Il documento introduce ConsistencyAI, un benchmark indipendente che valuta 19 grandi modelli linguistici per la coerenza fattuale attraverso diverse persone demografiche, rivelando che i puntei di coerenza variano significativamente sia per fornitore del modello che per argomento, con una soglia media del benchmark di 0,8656.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nell'era moderna dell'informazione, ci affidiamo sempre più all'intelligenza artificiale per rispondere alle nostre domande, dal prezzo del latte ai dettagli di una storia complessa. Questi sistemi, noti come modelli linguistici di grandi dimensioni, sono progettati per comprendere il linguaggio umano e generare testi che sembrino una conversazione. Sono diventati un modo primario per accedere ai fatti, sostituendo spesso i motori di ricerca tradizionali per risposte rapide. Tuttavia, rimane una domanda fondamentale su come funzionano queste macchine: raccontano la stessa storia a tutti, o cambiano i fatti a seconda di chi chiede? Se un programma per computer sa che sei uno studente giovane, presenta un insieme di verità diverso da quello che presenterebbe a un dirigente anziano? Questa possibilità solleva preoccupazioni sulla correttezza e sull'integrità dell'informazione. Se i fatti stessi cambiano in base al background di una persona, come l'età, il genere o il lavoro, ciò suggerisce che il sistema non si limiti a rispondere a una domanda, ma stia adattando la realtà per adattarla a un pubblico specifico. Questo fenomeno, se reale, potrebbe plasmare sottilmente il modo in cui diversi gruppi di persone comprendono il mondo, potenzialmente approfondendo le divisioni invece di colmare i divari.
Per investigare su questo, i ricercatori della Duke University e della University of North Carolina hanno creato un nuovo test chiamato ConsistencyAI. Il loro obiettivo era vedere se i modelli linguistici di grandi dimensioni raccontano fatti diversi a persone diverse. Non hanno chiesto ai modelli di verificare se l'informazione fosse vera; hanno invece chiesto se i modelli fornissero lo stesso insieme di fatti a un insegnante di 25 anni e a un operaio edile di 60 anni. Il team ha costruito un sistema che simulava un gruppo diversificato di persone provenienti dagli Stati Uniti, rappresentando una vasta gamma di età, lavori e background. Hanno poi chiesto a venticinque diversi modelli di intelligenza artificiale di fornire cinque fatti su quindici diversi argomenti, come i costi abitativi, i deficit commerciali e i conflitti politici. Ogni domanda è stata posta a ogni modello cento volte, con il contesto della persona che chiedeva che cambiava ogni volta utilizzando un set di 100 persona campionati da un dataset rappresentativo. Confrontando le risposte, i ricercatori hanno potuto misurare quanto cambiasse il contenuto al variare della persona.
I risultati hanno rivelato che, sebbene molti modelli siano generalmente coerenti, non lo sono perfettamente. I ricercatori hanno scoperto che i modelli cambiano effettivamente i fatti che presentano in base a chi pensano di stare parlando. In un test su larga scala che coinvolgeva 100 persona, i punteggi di coerenza per i modelli variavano da un massimo di 0,9137 a un minimo di 0,6719, con una media di 0,8555. Questa media è diventata il parametro di riferimento dello studio. Il modello più coerente è stato il Grok-4 di xAI, che è rimasto straordinariamente costante nei suoi fatti indipendentemente dall'utente. All'altro capo dello spettro, diversi modelli leggeri e di fascia media hanno mostrato la maggiore variazione. Lo studio ha dimostrato che l'argomento discusso contava tanto quanto il modello stesso. Ad esempio, quando interrogati sul deficit commerciale degli Stati Uniti, un argomento con dati governativi chiari e standardizzati, i modelli sono stati altamente coerenti. Tuttavia, quando interrogati sui costi abitativi, un argomento con fonti di dati complesse e variegate, i modelli hanno fornito risposte molto diverse a persone diverse.
I ricercatori hanno anche scoperto che i modelli non cambiano solo il tono o lo stile; selezionano effettivamente fatti diversi. Quando la persona cambia, i dettagli specifici, le organizzazioni e i numeri menzionati nella risposta spesso cambiano. Ad esempio, sull'argomento della sicurezza ai confini, un modello tendeva a dare risposte focalizzate sull'applicazione della legge agli utenti più anziani, mentre gli utenti più giovani ricevevano risposte focalizzate sulla geografia. Un altro modello forniva risposte semplificate e ricche di analogie ai minori, ma risposte dirette e fattuali agli adulti. Ciò suggerisce che i modelli sono sensibili agli indizi demografici e adattano le informazioni di conseguenza. Lo studio ha anche notato che essere un modello più avanzato o di "ragionamento" non garantiva una migliore coerenza. Alcuni modelli più piccoli e datati hanno performato meglio dei sistemi più recenti e complessi, indicando che la coerenza non è semplicemente un sottoprodotto della dimensione o dell'intelligenza del modello.
Una parte significativa della ricerca si è concentrata su temi controversi. Il conflitto israelo-palestinese ha mostrato la maggiore variazione nelle risposte, con alcuni modelli che fornivano fatti molto coerenti e altri che fornivano risposte drasticamente diverse. Su questo argomento, alcuni modelli hanno persino rifiutato di rispondere o hanno restituito errori, in particolare quando l'utente veniva identificato come un bambino. Ciò suggerisce che i modelli possano avere filtri integrati che portano ad allontanarsi da argomenti sensibili a seconda del presunto utente. Lo studio ha anche rilevato che la sensibilità politica da sola non predice l'incoerenza. Sebbene alcuni argomenti politici fossero altamente incoerenti, altri non lo erano, e persino argomenti non politici come i costi abitativi mostravano una bassa coerenza. Ciò indica che la difficoltà di trovare una singola narrazione stabile nei dati è un fattore determinante. Se le informazioni disponibili su un argomento sono disordinate o contestate, il modello è più propenso a presentare fatti diversi a persone diverse.
Gli autori sottolineano che il loro lavoro non determina se i fatti siano veri, ma piuttosto se i fatti siano stabili. Sostengono che anche se l'informazione è corretta, presentare diversi set di fatti a persone diverse può essere dannoso. Può portare al bias di conferma, dove le persone sentono solo la versione della realtà che si adatta alle loro convinzioni esistenti, o può rafforzare gli stereotipi. Lo studio suggerisce che, affinché l'intelligenza artificiale sia veramente affidabile, deve fornire un set stabile di fatti indipendentemente da chi stia chiedendo. I ricercatori hanno rilasciato i loro strumenti di test e un sito web interattivo in modo che giornalisti, sviluppatori e il pubblico possano vedere con i propri occhi come si comportano i diversi modelli. Sperano che questa trasparenza incoraggi le aziende a costruire sistemi che siano meno inclini a personalizzare la verità in base all'utente, garantendo che l'informazione su cui tutti facciamo affidamento rimanga coerente e affidabile.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.