Riepilogo Tecnico: StereoTales

Enunciato del Problema

La ricerca esistente sui pregiudizi sociali nei Modelli Linguistici di Grande Dimensione (LLM) è prevalentemente vincolata da tre limitazioni:

1. Formato: La maggior parte dei benchmark si basa su ambienti strettamente controllati (scelta multipla, completamento di modelli, o domande e risposte) che testano il riconoscimento dei pregiudizi piuttosto che la generazione di pregiudizi. Ciò non riflette la generazione aperta e libera tipica dell'uso reale degli LLM.
2. Ambito: Gli studi sono schiacciantemente incentrati sull'inglese e sugli Stati Uniti, limitando spesso gli attributi socio-demografici a genere e razza basati sulle categorie del censimento statunitense. Ciò ignora come i pregiudizi si manifestino attraverso diverse lingue e contesti culturali.
3. Granularità: Il lavoro precedente spesso assegna punteggi a singoli output o si concentra su modelli piccoli con pesi aperti, lasciando in gran parte inesplorato il comportamento dei modelli all'avanguardia e l'emergenza distribuzionale dei pregiudizi (pattern visibili solo attraverso centinaia di generazioni).

Di conseguenza, i pregiudizi che emergono solo nella generazione aperta, attraverso lingue diverse e nei recenti modelli all'avanguardia rimangono inesplorati.

Metodologia

Gli autori introducono StereoTales, un dataset multilingue e una pipeline di valutazione progettati per scoprire sistematicamente i pregiudizi sociali nella generazione aperta degli LLM.

Costruzione del Dataset

• Scala: Il dataset comprende circa 650.000 storie generate da 23 LLM all'avanguardia di principali fornitori (OpenAI, Anthropic, Google, Mistral, Alibaba, ecc.).
• Lingue: La generazione avviene in 10 lingue (inglese, francese, spagnolo, italiano, portoghese, olandese, ucraino, arabo, hindi e cinese). Crucialmente, prompt, valori degli attributi e scenari sono stati tradotti manualmente da madrelingua per evitare la deriva semantica e l'appiattimento culturale associati alla traduzione automatica.
• Progettazione dei Prompt: I prompt sono costruiti tramite il prodotto cartesiano di:
  • 19 Attributi Demografici: Che coprono identità, status socio-economico e situazioni di vita (es. età, genere, religione, istruzione, reddito, status di immigrazione).
  • 79 Valori degli Attributi: Insiemi chiusi di valori ammissibili per ciascun attributo.
  • 36 Scenari Narrativi: Situazioni diverse (es. colloqui di lavoro, cene in famiglia, crisi sanitarie) che fungono da semi narrativi.
• Protocollo di Generazione: Ogni prompt fissa un singolo valore dell'attributo per il protagonista, lasciando gli altri non specificati. Il modello genera una storia di circa 200 parole.

Pipeline di Analisi

1. Estrazione degli Attributi: Un insieme di tre estrattori LLM (GPT-5-nano, Gemini 2.5 Flash Lite, Gemini 3.1 Flash Lite) estrae il profilo socio-demografico del protagonista da ogni storia attraverso tutte le 19 dimensioni.
2. Scoperta di Associazioni Statistiche: La pipeline costruisce tabelle di contingenza per le co-occorrenze tra l'attributo imposto dal prompt (Base) e gli attributi estratti.
   • Livello Attributo: Il test esatto di Fisher (stima Monte Carlo) determina se una distribuzione dipende dall'attributo base. La grandezza dell'effetto è misurata tramite il V di Cramér corretto per il pregiudizio.
   • Livello Valore: I test di Fisher unilaterali identificano le coppie di valori specifiche che guidano l'associazione. La grandezza dell'effetto è misurata dal Lift ($P(B=b|A=a)/P(B=b)$). Vengono mantenute solo le coppie con $Lift \ge 2$ e significatività statistica (corretta con Benjamini-Yekutieli).
3. Giudizio sulla Dannosità: Per evitare l'inserimento di pregiudizi degli autori, la dannosità è determinata da due valutatori indipendenti:
   • Studio Umano: 247 partecipanti basati nel Regno Unito hanno valutato 1.580 associazioni uniche su una scala Likert a 5 punti per dannosità e frequenza nel mondo reale.
   • Auto-valutazione LLM: Gli stessi 23 modelli che hanno generato le storie sono stati invitati a valutare la dannosità delle stesse associazioni.

Contributi Chiave

1. Dataset StereoTales: Una risorsa su larga scala e multilingue contenente circa 650k storie, annotazioni degli attributi e valutazioni della dannosità, che copre 10 lingue e 23 modelli.
2. Scoperta di Pregiudizi Distribuzionali: Una metodologia che va oltre la classificazione a livello di campione per identificare associazioni sistematiche e statisticamente significative attraverso la distribuzione degli output del modello.
3. Valutazione Cross-Modello e Cross-Lingua: Il primo studio che valuta congiuntamente l'universalità dei pregiudizi attraverso 23 modelli all'avanguardia e l'adattabilità culturale dei pregiudizi attraverso 10 lingue.
4. Calibrazione LLM-as-Judge: Una calibrazione su larga scala dell'auto-valutazione degli LLM rispetto al giudizio umano nel dominio della dannosità degli stereotipi.

Risultati Chiave

1. Pervasività e Universalità degli Stereotipi Dannosi

• Ubiquità: Ogni modello valutato emette stereotipi dannosi consequenziali nella generazione aperta, indipendentemente dalle dimensioni o dalle capacità.
• Pattern Condivisi: Le associazioni dannose sono in gran parte condivise tra i fornitori piuttosto che essere comportamenti isolati. Circa il 25% delle associazioni dannose appare in almeno la metà dei modelli, e una parte significativa è prodotta da ogni singolo modello.
• Indipendenza dalle Capacità: Non vi è alcuna riduzione rilevabile delle associazioni dannose con l'aumento delle dimensioni del modello. Sorprendentemente, esiste una debole correlazione positiva tra capacità del modello (ELO) e il numero di associazioni dannose, suggerendo che le attuali ricette di allineamento non mitigano efficacemente questi pregiudizi.

2. Specificità Linguistica e Adattamento Culturale

• Riflesso Culturale: I modelli non trasferiscono un insieme statico e dominante in inglese di pregiudizi. Invece, agiscono come "camaleonti culturali", adattando gli stereotipi al quadro culturale evocato dalla lingua del prompt.
• Locale vs Globale: Circa la metà delle emissioni dannose è confinata ad al massimo due lingue.
• Spostamento degli Obiettivi: La lingua del prompt sposta quali gruppi sono presi di mira. I modelli tendono a ridurre le associazioni dannose riguardo all'identità "non marcata" (maggioritaria) della lingua del prompt, aumentando al contempo i danni contro le minorità protette localmente salienti.
• Cluster Regionali: I pregiudizi dannosi si raggruppano per regione culturale (es. un forte blocco dell'Europa occidentale e un più debole blocco latinoamericano), indicando che i dati di addestramento e il contesto culturale, piuttosto che solo la famiglia linguistica, guidano i profili dei pregiudizi.

3. Allineamento tra Giudizi Umani e LLM

• Allineamento Ampio: I giudizi degli LLM sono ampiamente allineati con le valutazioni umane ($\rho$ di Spearman = 0,62).
• Punti Ciechi Sistematici: I disaccordi sono sistematici e condivisi tra i fornitori. I modelli sottostimano costantemente il danno degli stereotipi radicati nello status socio-economico, nell'età, nella religione, nell'immigrazione e nell'istruzione. Al contrario, sovrastimano il danno riguardo al genere e all'allineamento di genere – gli stessi assi che storicamente sono stati al centro dell'allineamento alla sicurezza.
• Pregiudizio Conservativo: Gli LLM sono generalmente più conservatori degli umani, utilizzando la valutazione estrema "5" in modo significativamente meno frequente.

Significato e Affermazioni

Il paper afferma che i benchmark di equità monolingue sottostimano sostanzialmente il danno che un modello può emettere quando viene sollecitato in un'altra lingua. Poiché i pregiudizi si adattano culturalmente alla lingua del prompt, un modello considerato "sicuro" in inglese può emettere stereotipi distinti e localmente dannosi in altre lingue.

Inoltre, lo studio sfida la nozione secondo cui i benchmark di riconoscimento dei pregiudizi (che i modelli all'avanguardia spesso saturano) implicano che la generazione di pregiudizi sia risolta. I risultati indicano che la generazione di associazioni dannose è una proprietà strutturale degli LLM attuali, probabilmente ereditata da dati di pre-addestramento condivisi e ricette di allineamento, piuttosto che un fallimento di scala o capacità.

Infine, il paper postula che, sebbene gli LLM possano servire come valutatori complementari per i pregiudizi, il loro auto-giudizio è fragile ed esibisce punti ciechi sistematici sugli attributi socio-economici e ideologici, rendendoli una sostituzione insufficiente per la valutazione umana in questi specifici domini.

Gli autori rilasciano il dataset completo, il codice e la piattaforma di annotazione per permettere alla comunità di estendere questo lavoro a nuove lingue, tassonomie di attributi e pannelli di riferimento normativi.