Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos

1. Il Problema: Bias Sociale e Confondimento Visivo

I Modelli Vision-Language (VLM) sono sempre più utilizzati in contesti ad alto impatto sociale (es. assunzioni, valutazioni educative, sicurezza). Una preoccupazione critica è il bias sociale (pregiudizi basati su razza e genere) che questi modelli possono manifestare.

Tuttavia, misurare tale bias presenta una sfida fondamentale: l'attribuzione sotto confondimento visivo.

• Nelle immagini reali, attributi demografici (come la razza o il genere) sono spesso intrecciati con fattori contestuali correlati (sfondo, abbigliamento, posa, illuminazione).
• Le differenze osservate nei risultati del modello potrebbero derivare da una reale sensibilità ai tratti demografici del viso, oppure da correlazioni spurie con il contesto (es. un modello che associa certi abiti a certi ruoli, piuttosto che il viso stesso).
• I benchmark esistenti soffrono di un compromesso: o usano foto reali (naturali ma scarsamente controllate) o immagini sintetiche (controllate ma non realistiche o affette da artefatti del generatore).

2. Metodologia: Il Framework REFLECT e il Dataset FOCUS

Per colmare questo divario, gli autori propongono un nuovo paradigma di valutazione basato su controfattuali solo sul viso (face-only counterfactuals) derivati da fotografie reali.

A. Dataset FOCUS (Face-Only CounterfactUalS)

• Costruzione: Partendo da 48 foto reali di alta qualità (8 per ciascuna di 6 professioni: CEO, medico, cuoco, infermiere, insegnante, avvocato), vengono generate varianti controfattuali.
• Editing: Utilizzando un modello di editing (Gemini-3-Pro-Image), vengono modificati solo i tratti facciali legati a razza e genere.
• Vincoli Rigidi: Tutti gli altri fattori visivi (sfondo, abbigliamento, posa, illuminazione, espressione, inquadramento) rimangono invariati.
• Scalabilità: Il dataset copre 10 gruppi demografici (5 razze x 2 generi), risultando in 480 immagini controfattuali scene-matched.
• Qualità: Un processo di controllo qualità garantisce che le modifiche siano localizzate al viso (97,9% di accuratezza nell'etichettatura razza/genere) e che non introducano artefatti significativi.

B. Benchmark REFLECT

Sulla base di FOCUS, viene introdotto REFLECT, un suite di benchmark orientata al processo decisionale, composta da tre task complementari:

1. Two-Alternative Forced Choice (2AFC): Il modello deve scegliere tra due immagini (A e B) derivate dalla stessa foto originale ma con diverse combinazioni razza/genere. Scenari: Reddito, Livello di Istruzione, Percezione di Sicurezza.
2. Multiple-Choice Questions (MCQ): Il modello valuta una singola immagine per stimare il livello di istruzione o la fascia di stipendio (scelta multipla).
3. Salary Recommendation: Il modello riceve un'immagine, un titolo professionale e una biografia standardizzata (anonimizzata) e deve raccomandare uno stipendio annuale numerico.

3. Risultati Sperimentali

Gli esperimenti sono stati condotti su 5 VLM all'avanguardia: GPT-5, Gemini-2.5-Pro, Qwen-3-VL-Plus, DeepSeek-VL2 e Llama-3.2-90B-Vision-Instruct.

Principali Scoperte:

• Persistenza del Bias sotto Controllo Rigido: Anche eliminando il confondimento contestale (mantenendo fisso tutto tranne il viso), le disparità demografiche persistono. Questo conferma che i modelli sono sensibili ai tratti facciali stessi.
• Variabilità tra Task e Modelli:
  • 2AFC: Gli effetti di genere variano a seconda dello scenario (es. il genere maschile è favorito per il "Reddito", mentre il femminile per la "Sicurezza percepita"). La polarizzazione è massima nel task del Reddito.
  • MCQ (Stipendio): Si osserva un vantaggio sistematico per il genere maschile e per la razza bianca rispetto ad altri gruppi. L'entità del gap varia significativamente tra i modelli (GPT mostra gap più ampi, Gemini e Llama più contenuti).
  • MCQ (Istruzione): Gli effetti sono meno coerenti e dipendono fortemente dal modello specifico.
• Interazione con la Professione: Nel task di raccomandazione dello stipendio, l'effetto del bias è moderato dalla professione. Ad esempio, nel ruolo di CEO, le penalità razziali per i gruppi non bianchi sono amplificate in alcuni modelli, mentre in altre professioni gli effetti possono essere attenuati o invertiti.
• Robustezza: I risultati sono stati validati attraverso test di robustezza (cambiamenti di editor di immagini, rotazioni, ritagli, decoding stocastico), confermando che le disparità non sono artefatti del metodo di editing o del prompting.

4. Contributi Chiave

1. Paradigma di Valutazione Controllato: Introduzione di un metodo per misurare il bias sociale nei VLM isolando gli effetti demografici facciali da quelli contestuali, utilizzando foto reali modificate solo sul viso.
2. Dataset FOCUS: Creazione di un dataset unico di 480 immagini controfattuali scene-matched, che permette un'attribuzione pulita delle cause del bias.
3. Benchmark REFLECT: Una suite di valutazione completa che copre giudizi comparativi (2AFC), categorici (MCQ) e numerici (Stipendio), rivelando come la formulazione del task influenzi la misurazione del bias.
4. Analisi Empirica: Dimostrazione che le disparità demografiche sono pervasive, ma la loro direzione e magnitudine dipendono criticamente dal modello e dal tipo di compito decisionale.

5. Significato e Implicazioni

Questo lavoro sottolinea la necessità di audit rigorosi e controllati per i sistemi multimodali.

• Limiti dei Benchmark Attuali: Dimostra che i benchmark basati su immagini reali non controllate (come VisBias) possono sovrastimare o distorcere il bias a causa di fattori contestuali confondenti.
• Progettazione del Task: Evidenzia che la scelta del formato di valutazione (scelta multipla vs. confronto diretto vs. numero) è un fattore critico che può alterare drasticamente le conclusioni sul bias di un modello.
• Sicurezza e Fairness: Fornisce un framework pratico per auditare i sistemi VLM in scenari reali ad alto rischio, suggerendo che anche con controlli rigorosi, i pregiudizi intrinseci nei modelli rimangono una sfida significativa da affrontare.

In sintesi, il paper fornisce gli strumenti metodologici e i dati necessari per passare da una valutazione qualitativa del bias a una misurazione quantitativa, causale e controllata nelle interazioni uomo-macchina basate su visione e linguaggio.