💬 NLP

What Is The Political Content in LLMs' Pre- and Post-Training Data?

Lo studio evidenzia come la composizione dei dati di addestramento, caratterizzata da una sistematica prevalenza di contenuti di sinistra e da una forte correlazione tra le posizioni politiche dei dati e il comportamento del modello, sia il fattore determinante delle distorsioni politiche nei grandi modelli linguistici, sottolineando la necessità di una maggiore trasparenza sui dati.

Autori originali: Tanise Ceron, Dmitry Nikolaev, Dominik Stammbach, Debora Nozza

Pubblicato 2026-04-06

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Tanise Ceron, Dmitry Nikolaev, Dominik Stammbach, Debora Nozza

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina che un Grande Modello Linguistico (LLM), come quelli che usi per chattare o scrivere email, sia come un giovane studente molto intelligente che sta per entrare nel mondo.

Prima di poter parlare con te, questo studente deve studiare per anni. La "biblioteca" da cui attinge i suoi libri di testo è il dati di addestramento (il "pre-training").

Questo studio si chiede una cosa fondamentale: Cosa c'è scritto in questi libri? E, soprattutto, il modo in cui lo studente è stato istruito influenza come risponderà alle tue domande politiche?

Ecco la spiegazione semplice, con qualche metafora:

1. Il Problema: Lo Studente ha un "Bias" (Pregiudizio)

Tutti sappiamo che questi modelli a volte sembrano avere opinioni politiche. Spesso sembrano più "di sinistra" che "di destra". Ma da dove arriva questa opinione? È come se lo studente fosse nato con un'idea o se l'avesse imparata dai libri?
Gli autori dicono: "È tutto nei libri!" (i dati).

2. Cosa hanno scoperto gli autori? (La "Caccia al Tesoro" nei Dati)

Gli ricercatori hanno aperto gli scaffali della biblioteca di tre diversi studenti (i modelli OLMo, Falcon e Pythia) e hanno analizzato i loro libri. Ecco cosa hanno trovato:

La Biblioteca è sbilanciata (R1): Se guardi i libri che lo studente legge prima di iniziare a parlare, trovi che ci sono molto più libri "di sinistra" rispetto a quelli "di destra".
- Metafora: Immagina di dover imparare a cucinare. Se il tuo unico libro di cucina ha 10 ricette di pizza vegetariana e solo 1 ricetta di bistecca, alla fine penserai che il mondo sia fatto solo di pizza vegetariana. È lo stesso per i dati: c'è una sproporzione enorme (da 2 a 12 volte più contenuti di sinistra).
I libri "di sinistra" vengono da posti diversi (R2):
- I testi di sinistra provengono spesso da giornali famosi e affidabili (come The Guardian o New York Times).
- I testi di destra provengono più spesso da blog personali, forum o siti di nicchia.
- Metafora: È come se lo studente leggesse tutti i giornali principali del paese (che tendono a essere di sinistra) e solo qualche opuscolo scritto da un vicino di casa per il suo blog personale (di destra).
La "Cucina" è la stessa per tutti (R2): Anche se diversi gruppi di ricercatori hanno raccolto i libri in modo diverso (uno ha preso da qui, l'altro da là), alla fine tutti gli studenti hanno ricevuto una biblioteca con lo stesso sbilanciamento. Non importa come hai filtrato i libri, il risultato è sempre lo stesso: più sinistra che destra.
L'opinione si forma subito e non cambia (R3 e R4):
- Gli autori hanno visto che l'opinione politica dello studente è già presente prima che inizi a fare le "lezioni private" (il post-training, dove gli si insegna a essere gentili o a seguire le regole).
- Metafora: È come se lo studente avesse già deciso le sue opinioni politiche mentre leggeva i libri in biblioteca. Quando poi arriva il "tutor" (il post-training) per insegnargli a parlare meglio, il tutor non cambia le sue idee di fondo, le rende solo più coerenti.
- C'è una correlazione fortissima (come due specchi che si riflettono): se nei libri c'è più opinione A, il modello risponderà con opinione A.

3. Cosa significa per noi?

Questo studio ci dice che non possiamo incolpare solo il "tutor" (le fasi finali di addestramento) per i pregiudizi politici delle intelligenze artificiali. Il problema è radicato nella materia prima: i dati grezzi che vengono raccolti da internet.

Il rischio: Se usiamo questi modelli per informarci (come fanno molti oggi per capire le elezioni), rischiamo di ricevere una visione del mondo distorta, perché i "libri di testo" su cui si basano non sono equilibrati.
La soluzione: Per avere un'IA più imparziale, non basta "aggiustare" il modello alla fine. Bisogna pulire e bilanciare la biblioteca fin dall'inizio. Se vogliamo che l'IA sia neutrale, dobbiamo assicurarci che legga tanto di destra quanto di sinistra, e non solo quello che è più facile trovare su internet.

In sintesi

Pensa all'LLM come a un cuoco.
Se gli dai solo ingredienti di un certo tipo (es. solo verdure, perché è quello che c'è nel mercato), non potrà mai cucinare un piatto di carne, anche se gli dici "sii creativo".
Questo studio ci avverte: il mercato (i dati di internet) è sbilanciato, e finché non cambiamo gli ingredienti, il piatto (la risposta dell'IA) avrà sempre lo stesso sapore politico.

1. Il Problema

I Large Language Models (LLM) sono noti per generare testi con bias politici, spesso allineandosi a visioni di sinistra o libertarie. Tuttavia, l'origine di questi bias rimane poco chiara, rendendo difficile progettare strategie efficaci di mitigazione. La maggior parte della ricerca esistente adotta un approccio "centrato sul modello", valutando solo l'output senza esaminare i dati di addestramento sottostanti. Questo studio colma tale lacuna adottando una prospettiva centrata sui dati, ipotizzando che i bias siano radicati nella composizione dei dataset di pre-addestramento e post-addestramento.

2. Metodologia

Gli autori hanno analizzato i dataset di addestramento e il comportamento di diversi modelli open-source (OLMo2-13B, Falcon-11B, Pythia-12B), focalizzandosi su quattro domande di ricerca (RQ):

R1: Esiste una sproporzione di documenti di sinistra nei dati?
R2: Esiste varianza nel contenuto politico tra diversi corpus di pre-addestramento?
R3: Esiste una correlazione tra i bias nei dati e il comportamento del modello?
R4: I bias sono presenti nei modelli base e persistono nelle fasi successive?

Fasi dell'analisi:

Campionamento: Utilizzo dell'algoritmo reservoir sampling per estrarre campioni rappresentativi (da 100k a 200k documenti) dai dataset di pre-addestramento (es. DOLMA, REFINEDWEB, THE PILE) e post-addestramento (SFT-MIX, DPO-MIX).
Classificazione del Bias Politico:
- Sviluppo di una pipeline di classificazione a tre vie: Sinistra, Destra, Neutrale.
- Utilizzo di un modello LLM (LLaMA-3.1-70B-Instruct) in modalità zero-shot per classificare i documenti, validato su un dataset proprietario (NEWSLEAN) con annotatori umani.
- Analisi delle fonti (domini web) per tracciare l'origine dei contenuti (blog vs. organi di informazione).
Analisi del Contenuto e Framing:
- Utilizzo di BERTopic per il clustering tematico.
- Sintesi dei messaggi principali tramite LLM per identificare differenze nel framing delle questioni (es. cambiamento climatico, diritti animali).
Analisi delle Posizioni (Stance Detection):
- Modelli: Valutazione delle posizioni dei modelli su 8 vettori politici (es. welfare, immigrazione) utilizzando il dataset ProbVAA (239 affermazioni da applicazioni di voto europee).
- Dati: Classificazione delle posizioni (supporto/opposizione) nei documenti di addestramento rispetto agli stessi vettori politici.
- Correlazione: Calcolo della correlazione di Pearson tra le posizioni nei dati e quelle espresse dai modelli.

3. Risultati Chiave

Squilibrio Sistemico (Conferma R1): I dati di addestramento sono sistematicamente distorti verso contenuti di sinistra. Il rapporto tra documenti di sinistra e destra varia da 2,3 a 12 volte a seconda del corpus. I dataset di pre-addestramento contengono da 2,5 a 4 volte più contenuti politicamente impegnati rispetto ai dati di post-addestramento.
Omogeneità dei Corpus (Smentita R2): Nonostante strategie di curatela e fonti diverse, i dataset di pre-addestramento di diversi modelli mostrano distribuzioni politiche altamente simili. Le differenze nelle strategie di filtraggio hanno un impatto limitato sulle proprietà politiche aggregate.
Origine delle Fonti:
- I contenuti di sinistra provengono prevalentemente da organi di informazione consolidati (es. The Guardian, HuffPost, NYT).
- I contenuti di destra provengono più frequentemente da blog, comunità online e fonti più recenti o estreme (es. FreeRepublic, Townhall, blog cristiani fondamentalisti).
Correlazione Dati-Modello (Conferma R3): È stata rilevata una forte correlazione ( $r = 0,87$ , $p < 0,05$ ) tra le posizioni politiche presenti nei dati di addestramento e il comportamento del modello su diverse questioni politiche. Questo suggerisce che il modello riflette la distribuzione dei dati sottostanti.
Persistenza del Bias (Conferma Parziale R4): I bias politici sono già presenti nei modelli base (pre-addestramento) e persistono attraverso le fasi di post-addestramento (SFT e DPO). Sebbene il post-addestramento aumenti la coerenza delle risposte, non altera fondamentalmente la direzione del bias, che sembra essere stabilito durante il pre-addestramento.
Differenze nel Framing: Anche quando trattano gli stessi argomenti, i testi di sinistra e destra utilizzano cornici (framing) diverse (es. sul clima: urgenza scientifica vs. stabilità economica; sui diritti animali: danni strutturali vs. responsabilità personale).

4. Contributi Principali

Analisi Sistematica: Prima analisi su larga scala che combina campionamento, classificazione del bias e rilevamento delle posizioni sia sui dati di pre- che post-addestramento di modelli open-source.
Quantificazione del Bias: Dimostrazione empirica che il contenuto di sinistra domina costantemente i dataset di addestramento, indipendentemente dal modello.
Prova di Correlazione: Evidenza statistica forte che il comportamento politico dei modelli è un riflesso diretto della composizione dei dati di addestramento.
Ruolo del Pre-addestramento: Identificazione del pre-addestramento come fase primaria nella formazione dei bias politici, con il post-addestramento che agisce più come raffinator che come trasformatore radicale delle posizioni.

5. Significato e Implicazioni

Trasparenza dei Dati: Lo studio sottolinea la necessità critica di una maggiore trasparenza nella documentazione delle fonti di dati e nelle strategie di curatela.
Mitigazione del Bias: Poiché i bias sono radicati nei dati di pre-addestramento, le strategie di mitigazione dovrebbero concentrarsi sul pre-filtraggio dei dataset (rimozione di testi fortemente politicizzati) piuttosto che su interventi successivi.
Implicazioni Etiche e Sociali: La presenza sistematica di bias di sinistra nei modelli, sempre più utilizzati come fonti di informazione e supporto decisionale, rischia di influenzare l'opinione pubblica, sotto-rappresentare visioni di destra e potenzialmente polarizzare il dibattito democratico.
Regolamentazione: I risultati supportano la necessità di quadri normativi che richiedano una maggiore dettaglio nella documentazione dei dati di addestramento per garantire la responsabilità (accountability) dei fornitori di AI.

In conclusione, il paper stabilisce che la composizione dei dati è il fattore determinante per i bias politici negli LLM, rendendo essenziale un approccio "data-centric" per comprendere e mitigare tali distorsioni.