Sintesi Tecnica: Investigazione del Bias Sociale nella Generazione di Immagini Narrative

Definizione del Problema

Mentre i modelli di generazione Text-to-Image (T2I) sono sempre più impiegati nei media, nell'istruzione e nel design, persistono preoccupazioni riguardo alla loro tendenza a riprodurre bias sociali. La ricerca precedente ha ampiamente documentato che i modelli T2I associano specifiche demografie a professioni, tratti e ruoli sociali. Tuttavia, le attuali valutazioni del bias si concentrano prevalentemente sulla generazione di immagini fotorealistiche a scatto singolo (single-shot). Questo ambito ristretto lascia un vuoto critico: rimane da chiarire se e come i bias sociali si manifestino nei formati visivi narrativi (come storyboard e fumetti), dove il significato è costruito attraverso la continuità dei personaggi, la sequenza degli eventi, la progressione temporale e l'interazione tra elementi visivi e testuali. Gli autori sostengono che i bias che rimangono sottili o invisibili nelle foto statiche possono diventare espliciti o amplificati nei formati di narrazione sequenziale.

Metodologia

Lo studio adatta il framework BBG (Bias Benchmark for Generation), originariamente progettato per la generazione di testo, per valutare i modelli di generazione di immagini. La metodologia prevede i seguenti componenti:

• Costruzione dei Prompt: Gli autori hanno selezionato 140 seed prompt dal dataset BBG, coprendo sette categorie di bias sociale: età, disabilità, genere, aspetto fisico, razza/nazionalità, religione e stato socioeconomico (SES). Questi prompt sono stati intenzionalmente contestualmente ambigui, lasciando non specificati attributi chiave (ad esempio, quale personaggio possiede un determinato tratto o esito). Il dataset include 70 prompt in inglese e 70 in coreano per investigare il bias cross-linguistico.
• Modelli Valutati: Sono stati testati sei modelli T2I all'avanguardia:
  • Proprietari: GPT-Image-1.5, GPT-Image-2, Gemini-3.1-Flash-Image e Gemini-3-Pro-Image.
  • Open-Source: FLUX.1-Dev e SDXL.
• Impostazioni di Generazione: Per ogni prompt, gli output sono stati generati in tre formati distinti:
  1. Immagine Fotorealistica: Un'unica immagine statica.
  2. Storyboard: Schizzi grezzi focalizzati sull'inquadratura delle riprese e sulla copertura della camera senza testo.
  3. Fumetto a Quattro Pannelli: Una narrazione sequenziale che integra elementi visivi con nuvolette (speech bubbles), didascalie e narrazione.
• Protocollo di Valutazione: Quattro autori hanno annotato manualmente le immagini generate (2.4K totali) in base alle risposte implicite alle domande BBG. Gli output sono stati etichettati come biased (preconcetti/di parte), counter-biased (contrapposti al bias) o neutral (neutrali). Lo studio ha anche impiegato la codifica tematica per identificare pattern visivi e narrativi ricorrenti. Un caso di studio sulla generazione video (Sora-Pro-2 e Veo-3.1) è stato condotto per estendere i risultati ai media temporali.

Risultati Chiave

Risultati Quantitativi

• I Formati Narrativi Amplificano il Bias: I modelli proprietari hanno generato una quantità significativamente maggiore di output biased nei formati narrativi rispetto alle foto. In media, i modelli proprietari hanno prodotto il 25,9% di output biased nella generazione di foto. Questo tasso è aumentato di 9,6 punti percentuali (pp) nella generazione di storyboard e di 18,2 pp nella generazione di fumetti.
• Disparità Linguistiche: La prevalenza del bias era più alta nei prompt in coreano rispetto a quelli in inglese, con i contesti coreani che mostravano un tasso di output biased mediamente superiore del 7,2 pp. Il divario maggiore è apparso nella generazione di foto (ad esempio, Nano Banana 2 ha mostrato un aumento di 17,4 pp).
• Performance dei Modelli Open: I modelli open (FLUX.1-Dev e SDXL) hanno generato output neutrali nel 93,6% dei casi in media. Tuttavia, gli autori attribuiscono ciò a una debole capacità di seguire le istruzioni piuttosto che a un'efficace mitigazione del bias, notando che questi modelli spesso non riuscivano a incorporare indizi demografici o generavano contenuti culturalmente incongruenti.

Risultati Qualitativi

• Bias Esplicito vs. Implicito: Nella generazione di foto, i bias sono spesso codificati attraverso indizi visivi sottili (ad esempio, abbigliamento specifico, accessori o espressioni). Al contrario, storyboard e fumetti rivelano i bias in modo più esplicito attraverso la sequenza degli eventi, il posizionamento dei personaggi, la risoluzione narrativa e gli elementi testuali (ad esempio, nuvolette che dichiarano esplicitamente stereotipi).
• Persistenza delle Associazioni Visive: Le associazioni visive stereotipate (ad esempio, individui "creativi" raffigurati con moda casual/hippie o simboli di lampadine) sono persistite in tutti i formati, anche quando lo stile dell'output cambiava.
• Stereotipi Stratificati: I formati narrativi hanno esposto bias che vanno oltre la semplice assegnazione di un ruolo. Ad esempio, il motivo del fallimento o della dipendenza di un personaggio differiva a seconda dello stereotipo (ad esempio, la dipendenza di un'infermiera donna inquadrata come vulnerabilità emotiva rispetto alla dipendenza di una persona cieca inquadrata come necessità pratica).
• Mitigazione Superficiale: I modelli hanno talvolta tentato di evitare il bias introducendo elementi anti-stereotipici o finali moralizzanti (ad esempio, riconciliare vicini in conflitto). Tuttavia, gli autori notano che questo non elimina necessariamente le associazioni sottostanti, poiché sottili indizi visivi possono comunque rinforzare gli stereotipi.
• Disallineamento Culturale: Nei contesti coreani, i modelli hanno frequentemente fallito nell'allinearsi alle sfumature culturali, generando testo in inglese o lingue miste, o producendo immagini occidentali o eccessivamente tradizionali dell'Asia orientale che non corrispondevano al contesto culturale del prompt.

Significato e Contributi

Il documento rivendica tre contributi primari:

1. Primo Studio sul Bias Narrativo: Presenta la prima investigazione sistematica del bias sociale nei formati di generazione di immagini narrative, confrontando immagini fotorealistiche con storyboard e fumetti a quattro pannelli.
2. Evidenza del Bias Dipendente dal Formato: Dimostra che i modelli proprietari mostrano un bias significativamente più elevato nei formati narrativi (storyboard e fumetti) rispetto alla generazione di singole immagini, suggerendo che le valutazioni a immagine singola sono insufficienti per catturare l'intera portata del bias del modello.
3. Meccanismi Qualitativi: Fornisce evidenza qualitativa su come i bias si manifestano diversamente tra i formati — passando da sottili indizi visivi nelle foto a un rinforzo narrativo e testuale esplicito nei fumetti.

Gli autori concludono che i formati di immagine narrativa fungono da sonda più forte per il bias del modello rispetto alla sola generazione di foto. Sostengono che la valutazione dei sistemi T2I richieda di andare oltre gli output a immagine singola per tenere conto di diversi formati di generazione, poiché i bias che sono meno visibili nelle immagini statiche possono emergere e diventare più dannosi nei contesti di narrazione sequenziale. Lo studio sottolinea inoltre la necessità di valutare le capacità multilingue e cross-culturali, notando che gli attuali modelli spesso falliscono nel radicare i prompt nel loro specifico contesto culturale.