🤖 AI

Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations

Lo studio analizza oltre 1,5 milioni di personaggi professionali generati da quattro modelli linguistici su 41 occupazioni, rivelando come questi sistemi comprimano sistematicamente la diversità demografica rispetto ai dati reali, sottorappresentando bianchi e neri e sovrarappresentando ispanici e asiatici attraverso stereotipi esagerati che riflettono bias strutturali condivisi.

Autori originali: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Pubblicato 2026-03-30

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere quattro grandi chef robot (i modelli di Intelligenza Artificiale: GPT-4, Gemini, DeepSeek e Mistral). Il compito di questi chef non è cucinare pizza, ma creare personaggi per un enorme libro di storie o un videogioco. Ogni volta che chiedi loro: "Raccontami la storia di un infermiere" o "Descrivi un ingegnere", loro inventano una persona con nome, età, sesso ed etnia.

Gli autori di questo studio hanno chiesto a questi quattro chef di creare 1,5 milioni di personaggi per 41 lavori diversi (dai camionisti ai biologi) e poi hanno controllato se le persone create assomigliavano alla realtà americana.

Ecco cosa hanno scoperto, usando delle metafore:

1. Il problema del "Modo" (La foto di gruppo ripetuta)

Immagina di chiedere a un fotografo di scattare 10.000 foto di "ingegneri".

La realtà: Se guardi un vero ufficio di ingegneri, vedrai un mix: uomini, donne, persone di diverse etnie, altezze diverse. È un mosaico vario.
I Robot: I quattro chef robot hanno agito come se avessero un "cliché" fisso. Per la maggior parte dei lavori, hanno scelto una sola immagine e l'hanno copiata milioni di volte.
- Se il lavoro è "camionista", il robot pensa: "Ok, è un uomo bianco" e crea 10.000 copie dello stesso uomo.
- Se il lavoro è "segretaria", pensa: "Ok, è una donna" e crea 10.000 copie della stessa donna.
- Il risultato: I robot non creano una popolazione reale, ma un modello unico (da qui il titolo "Modal Worker", ovvero il "Lavoratore Modello"). Hanno cancellato la varietà umana.

2. Le distorsioni razziali: Chi sparisce e chi appare troppo?

Quando hanno confrontato i personaggi creati dai robot con i dati reali degli Stati Uniti, hanno trovato delle distorsioni strane e sistematiche:

I Bianchi: Sono stati sotto-rappresentati. Immagina di avere una torta dove la fetta bianca dovrebbe essere la più grande, ma i robot ne hanno tagliato via un pezzo enorme.
I Neri: È la distorsione più triste. Sono stati quasi cancellati. In molti lavori (come medici o avvocati), i robot hanno creato personaggi quasi mai neri. È come se avessero deciso che in certi uffici "non ci sono persone nere", tranne in pochissimi lavori stereotipati (come autisti di autobus o guardie di sicurezza).
I Latinoamericani e gli Asiatici: Sono stati esagerati.
- I robot pensano che quasi tutte le domestiche siano latinoamericane (nella realtà non è così, ma i robot lo credono al 99%).
- Pensano che quasi tutti i biologi o gli scienziati siano asiatici.
- È come se i robot avessero preso gli stereotipi culturali e li avessero ingigantiti, rendendo certi gruppi "onnipresenti" in lavori specifici.

3. Il paradosso del genere (Donne e Uomini)

Qui la situazione è un po' più complessa:

Per i lavori "da uomo" (come ingegneri o camionisti), i robot hanno spesso inserito troppe donne rispetto alla realtà. Sembra che alcuni robot abbiano cercato di essere "inclusivi" e abbiano esagerato, invertendo gli stereotipi (es. creando un'ingegnere donna quando in realtà sono pochi).
Tuttavia, per i lavori "da donna" (come infermiere o insegnanti), hanno spesso inserito troppe donne anche lì.
Il risultato: I robot tendono a esagerare la segregazione. Se un lavoro è già dominato da un genere, i robot lo rendono ancora più estremo, creando un mondo più "a blocchi" di quanto non sia la realtà.

4. La grande scoperta: Non è colpa di un solo chef

La cosa più importante dello studio è che tutti e quattro i robot (uno americano, uno cinese, uno europeo, uno di Google) hanno fatto gli stessi errori.

Anche se sono stati addestrati in paesi diversi e da aziende diverse, tutti hanno "mangiato" gli stessi libri e le stesse notizie su internet per imparare.
È come se tutti e quattro avessero letto lo stesso vecchio romanzo di fantascienza pieno di pregiudizi. Di conseguenza, quando devono inventare un personaggio, tutti attingono agli stessi cliché.
Questo significa che il problema non è un "bug" di un singolo programma, ma un problema strutturale di come l'Intelligenza Artificiale impara dalla società umana.

Perché tutto questo è importante?

Se usiamo questi robot per creare personaggi per videogiochi, per simulazioni di assunzione o per libri, stiamo creando un mondo finto ma convincente.

Se un bambino vede che tutti i "biologi" sono asiatici e tutte le "domestiche" sono latinoamericane nei suoi videogiochi, inizierà a pensare che questa sia la verità.
Se un'azienda usa questi robot per simulare candidati, potrebbe non vedere mai donne o persone nere in certi ruoli, rafforzando ingiustizie reali.

In sintesi:
Questi robot sono come specchi rotti. Non riflettono la realtà così com'è, ma la riflettono attraverso le lenti dei nostri vecchi stereotipi, ingigantendo alcuni gruppi e cancellandone altri. Per costruire un futuro migliore, dobbiamo capire che questi "specchi" non sono neutri e dobbiamo imparare a ripararli.

1. Il Problema

L'uso crescente di strumenti di Intelligenza Artificiale Generativa (GenAI) per rappresentare persone in ruoli professionali solleva preoccupazioni critiche riguardo ai pregiudizi razziali e di genere. Sebbene sia noto che i motori di ricerca e le immagini generano stereotipi (es. infermieri prevalentemente donne, ingegneri prevalentemente uomini), c'è una lacuna nella comprensione di come i Grandi Modelli Linguistici (LLM) generino dati demografici sintetici su larga scala.
Il problema centrale è che le rappresentazioni distorte non derivano solo dalla sottorappresentazione, ma anche da una esagerazione degli stereotipi o da una "pulizia della diversità" (diversity washing) che non riflette le proporzioni reali. Queste distorsioni possono influenzare la percezione delle carriere, rafforzare le minacce da stereotipo e modellare erroneamente la progettazione di prodotti e le simulazioni di assunzione. Il paper si pone l'obiettivo di auditare sistematicamente come quattro modelli LLM principali generano profili occupazionali rispetto ai dati reali.

2. Metodologia

Gli autori hanno condotto un audit su larga scala confrontando i dati generati dagli LLM con i dati reali del Bureau of Labor Statistics (BLS) degli Stati Uniti (CPSAA 2023).

Dati e Campione:
- Modelli Auditati: GPT-4 (OpenAI, USA), Gemini 2.5 (Google, USA), DeepSeek V3.1 (DeepSeek, Cina) e Mistral-medium (Mistral AI, Francia). Questa selezione permette di confrontare modelli con origini istituzionali e culturali diverse.
- Occupazioni: 41 professioni statunitensi selezionate per avere campioni sufficienti (almeno 50.000 lavoratori).
- Volume: Oltre 1,5 milioni di profili generati (10.000 per modello per ogni occupazione, tranne per DeepSeek limitato a 1.000 per vincoli API).
Procedura di Generazione:
- Prompt standardizzato: "Generate a profile for: in the United States."
- Output in formato JSON con campi: nome, età, genere, etnia, stipendio, motivazioni, biografia.
- Nessun vincolo di bilanciamento imposto, per osservare le distribuzioni interne dei modelli.
Analisi Statistica:
- Confronto con il BLS: Calcolo delle differenze in punti percentuali (pp) per sottorappresentazione/sovrarappresentazione.
- Decomposizione Shift/Esagerazione: Utilizzo di regressioni logistiche generalizzate per separare:
  - Shift sistematico ( $\alpha$ ): Spostamento uniforme verso un gruppo (es. sempre più donne).
  - Pendenza dello stereotipo ( $\beta$ ): Amplificazione o riduzione delle disuguaglianze esistenti (es. rendere le professioni già a predominanza femminile ancora più femminili).
- Concentrazione Modale: Analisi dell'entropia di Shannon per determinare se i modelli generano profili distribuiti (varietà) o modali (riproduzione dello stesso profilo dominante).

3. Contributi Chiave

Il paper offre due contributi principali alla ricerca sui pregiudizi nella GenAI:

Caratterizzazione della Generazione Demografica: Dimostra che la generazione del genere è prevalentemente modale (i modelli assegnano un unico genere dominante per occupazione), mentre la generazione razziale è più variabile ma comunque più concentrata rispetto alla realtà.
Framework Diagnostico Shift/Esagerazione: Introduce una metodologia per distinguere tra spostamenti demografici uniformi e l'amplificazione specifica degli stereotipi occupazionali. Questo permette di capire se un modello sta semplicemente "sbagliando" le percentuali o se sta attivamente esacerbando le segregazioni esistenti.

4. Risultati Principali

A. Concentrazione Modale vs. Distribuzione

Genere: La maggior parte dei modelli (GPT-4, DeepSeek, Mistral) è estremamente modale. In molte occupazioni, il 100% dei profili generati ha lo stesso genere (entropia molto bassa rispetto al BLS). Gemini mostra una maggiore variabilità, ma rimane comunque concentrato.
Razza: Anche la generazione razziale è concentrata. DeepSeek è il più modale (97% di concentrazione). Gemini è un'eccezione parziale, distribuendo le razze in modo più vicino alla realtà, ma crolla in stereotipi estremi per ruoli specifici (es. 99,9% di "colf" generate come ispaniche).
Identità Miste: C'è una quasi totale cancellazione delle identità multirazziali (<1% dei profili generati), rispetto a una presenza significativa nei dati BLS.

B. Sottorappresentazione e Sovrarappresentazione (RQ1)

Rispetto ai dati BLS, i modelli mostrano distorsioni sistemiche:

Bianchi: Sottorappresentati di circa -31 punti percentuali in media.
Neri: Sottorappresentati di -9 punti percentuali. Questo è particolarmente grave perché, data la loro base demografica, ciò equivale a una quasi cancellazione da molte professioni (tranne ruoli stereotipati come autisti di autobus o guardie di sicurezza).
Ispanici: Sovrarappresentati di +17 punti percentuali.
Asiatici: Sovrarappresentati di +12 punti percentuali, specialmente in ruoli scientifici e professionali.
Donne: Leggermente sovrarappresentate in media, ma con pattern complessi: eccesso in ruoli ad alto status (ingegneri, sviluppatori) e in ruoli tradizionalmente femminili.

C. Esagerazione degli Stereotipi (RQ2)

L'analisi di regressione rivela una struttura a "S" per il genere: i modelli sottostimano le donne nei ruoli maschili e le sovrastimano in quelli femminili, amplificando la segregazione esistente.

Per la razza, si osserva un'esagerazione degli stereotipi per Ispanici e Asiatici (la sovrarappresentazione aumenta dove sono già presenti).
Per i lavoratori Neri, si osserva una soppressione sistematica (riduzione dello stereotipo) che porta alla loro quasi assenza nella maggior parte delle professioni, concentrando la loro presenza solo in pochi ruoli stereotipati.

D. Confronto Cross-Modello (RQ3)

Nonostante origini culturali e istituzionali diverse (USA, Cina, Europa), i quattro modelli mostrano una convergenza strutturale nei pattern di bias.

Le distorsioni non sono artefatti specifici di un singolo modello, ma riflettono fonti di bias condivise (probabilmente i dati di addestramento web-scale e le associazioni culturali diffuse).
Le differenze principali riguardano l'intensità dello spostamento (shift) e non la direzione qualitativa del bias.

E. Rappresentazione Salariale

I modelli tendono a comprimere il divario salariale di genere. Mentre il BLS mostra un divario mediano di ~$7.600 a favore degli uomini, tre dei quattro modelli assegnano lo stesso stipendio a uomini e donne nello stesso ruolo, trattando lo stipendio come una proprietà dell'occupazione piuttosto che condizionata dal genere.

5. Significato e Implicazioni

Bias Strutturale: I risultati suggeriscono che i pregiudizi nella GenAI non sono semplici errori casuali, ma distorsioni strutturali radicate nei dati di addestramento e nelle convenzioni culturali. La convergenza tra modelli di diverse origini (incluso un modello cinese) indica che le associazioni occupazionali-demografiche sono profondamente radicate nel corpus linguistico globale.
Pericolo dell'Omogeneizzazione: La natura "modale" della generazione crea una "monocoltura algoritmica", dove diversi modelli producono gli stessi profili demografici dominanti, riducendo la diversità rappresentativa.
Nuovo Framework di Valutazione: Il paper sostiene che l'audit della GenAI deve evolvere oltre la semplice verifica della diversità. È necessario un framework che distingua tra:
1. Spostamenti demografici uniformi (es. più donne in generale).
2. Esagerazione occupazionale (es. rendere un ruolo già femminile ancora più femminile).
Implicazioni Etiche: La "cancellazione" dei lavoratori neri da molti settori è un danno rappresentativo grave quanto l'esagerazione degli stereotipi. Inoltre, la sovrarappresentazione di alcuni gruppi (es. donne in STEM) potrebbe essere interpretata come aspirazionale, ma senza contesto può mascherare disuguaglianze reali o creare aspettative irrealistiche.

In conclusione, il paper evidenzia che l'uso di LLM per generare dati sintetici per la ricerca, il design e le simulazioni richiede una valutazione critica e multi-modello per evitare di cristallizzare o esacerbare le disuguaglianze sociali esistenti.