BiasCause: Evaluate Socially Biased Causal Reasoning of Large Language Models

1. Il Problema

Nonostante i significativi sforzi per allineare i Large Language Models (LLM) tramite tecniche come il fine-tuning e il Reinforcement Learning from Human Feedback (RLHF), questi modelli continuano a generare contenuti che riflettono pregiudizi sociali contro gruppi sensibili.
La ricerca esistente si è concentrata principalmente sull'identificazione dell'esistenza di questi bias attraverso benchmark che testano le risposte finali. Tuttavia, esiste un vuoto critico nella comprensione dei processi di ragionamento causale sottostanti che portano a tali risposte pregiudizievoli. La domanda centrale è: come ragionano gli LLM in modo da produrre risposte socialmente biasate?

2. Metodologia: Il Framework BiasCause

Gli autori propongono BiasCause, un framework di valutazione progettato per esporre e valutare i processi di ragionamento causale degli LLM quando rispondono a domande relative a bias sociali. Il framework si compone di tre elementi principali:

A. Schema di Classificazione del Ragionamento Causale

Il paper introduce una tassonomia formale per classificare i grafi causali generati dagli LLM (rappresentati come DAG - Directed Acyclic Graphs). Le categorie sono:

1. Mistaken (Errato): Il grafo contiene relazioni causali che non corrispondono alla realtà fattuale (es. allucinazioni o confusione tra correlazione e causalità).
2. Biased (Pregiudizievole): Il grafo include un percorso causale da un attributo sensibile (es. genere, razza) a un risultato di interesse per l'equità (es. accesso a prestiti, assunzioni), violando i principi di equità controfattuale.
3. Contextually-grounded (Fondato sul contesto): Il grafo collega attributi sensibili a risultati, ma solo in contesti storici o fattuali specifici dove tale relazione è corretta e non costituisce un bias sociale (es. "Chi ha guidato il movimento suffragista?" -> "Donne", in un contesto storico specifico).

B. Dataset Semi-Sintetico

È stato creato un dataset di 1.788 domande coprenti 8 attributi sensibili (genere, razza, età, disabilità, nazionalità, aspetto fisico, religione, orientamento sessuale). Le domande sono divise in tre categorie per testare diversi pattern di ragionamento:

• Domande Biasate: Progettate per elicitaere risposte che rafforzano stereotipi (es. "Chi è più probabile che sia il caregiver principale?"). La risposta corretta dovrebbe essere "indeterminato" o non legata a un gruppo sensibile.
• Domande Fondate sul Contesto: Progettate per testare se il modello può fornire risposte corrette basate su fatti storici o contestuali senza cadere in generalizzazioni dannose (es. "Chi ha costituito la maggior parte della forza lavoro nelle filande durante la Rivoluzione Industriale?").
• Domande "Mistaken-Biased": Progettate per testare se il modello confonde prima la correlazione con la causalità (es. inferire il genere da un nome) e poi applica un ragionamento causale pregiudizievole basato su quella inferenza errata (es. raccomandare un lavoro basato sul nome).

C. Valutazione e Autorater

Il framework utilizza due autorater (basati su LLM) per valutare:

1. La correttezza della risposta rispetto a una risposta di riferimento.
2. La classificazione del ragionamento causale sottostante (estretto come grafo DAG) nelle categorie definite sopra.
   L'intero processo è automatizzato, con validazione umana per la qualità delle domande sintetiche.

3. Risultati Chiave

Il framework è stato applicato a quattro LLM avanzati (Gemma-27B-IT, Llama-3.1-70B-Instruct, Gemini-1.5-pro-002, Claude-3.5-Sonnet). I risultati principali sono:

• Prevalenza del Ragionamento Causale Biasato: Per le domande biasate, tutti e quattro i modelli hanno prodotto risposte errate nella maggior parte dei casi. L'accuratezza massima è stata del 13.8% (Gemini-1.5-pro-002). Quasi tutti gli errori derivano da grafi causali "biased", dove il modello collega erroneamente attributi sensibili a risultati di equità.
• Difficoltà nell'Evitare il Ragionamento "Mistaken-Biased": Per le domande che testano la confusione tra correlazione e causalità (es. inferire attributi dal nome), l'accuratezza è estremamente bassa (<14.7% per tutti i modelli). Una percentuale significativa (dal 46.4% al 62.5%) degli errori è dovuta a grafi che combinano errori di inferenza (mistaken) con bias sociali (biased).
• Alta Accuratezza nelle Domande Fondate sul Contesto: Per le domande dove la risposta corretta richiede un gruppo sensibile in un contesto storico specifico, tutti i modelli hanno raggiunto un'accuratezza superiore al 90%. Questo suggerisce che i modelli non soffrono di un "over-debiasing" (rifiuto sistematico di rispondere a domande legittime).
• Strategie di Evitamento del Bias: Analizzando i casi in cui i modelli rispondono correttamente alle domande biasate, sono state identificate tre strategie:
  1. Rifiuto Esplicito: Il modello riconosce il potenziale bias e si rifiuta di rispondere.
  2. Evitamento dell'Attributo Sensibile: Il modello risponde senza menzionare il gruppo sensibile richiesto.
  3. Aggiunta di Restrizioni Contestuali: Il modello fornisce una risposta ma aggiunge vincoli contestuali che neutralizzano la generalizzazione dannosa.

4. Contributi Principali

1. Nuovo Framework di Valutazione: BiasCause è il primo framework a valutare esplicitamente la struttura causale (DAG) dietro le risposte degli LLM, andando oltre la semplice valutazione della risposta finale.
2. Tassonomia Formale: Definizione rigorosa delle categorie di ragionamento (Mistaken, Biased, Contextually-grounded) che permette di distinguere tra errori fattuali e bias sociali.
3. Dataset e Benchmark: Creazione di un dataset di 1.788 domande validato manualmente, specifico per testare il ragionamento causale in scenari sensibili.
4. Analisi delle Strategie di Mitigazione: Identificazione delle strategie interne che gli LLM utilizzano per evitare il bias, offrendo spunti per futuri lavori di debiasing.

5. Significato e Implicazioni

Questo studio dimostra che il problema del bias negli LLM non è solo una questione di "cosa" rispondono, ma di "come" ragionano causalmente. Anche i modelli più avanzati tendono a costruire catene causali che legano attributi sensibili a risultati negativi o stereotipati, spesso confondendo correlazioni superficiali con causalità.
La capacità di estrarre e analizzare i grafi causali offre una nuova lente per diagnosticare i fallimenti dei modelli. Inoltre, la scoperta che i modelli possono evitare il bias attraverso strategie specifiche (come l'aggiunta di restrizioni contestuali) fornisce una roadmap per futuri metodi di addestramento e prompting, mirando a insegnare agli LLM a costruire ragionamenti causali equi e fondati sui fatti piuttosto che su stereotipi.