GeoDiv: Framework For Measuring Geographical Diversity In Text-To-Image Models

Il paper presenta GeoDiv, un nuovo framework che utilizza modelli linguistici e vision-language per misurare sistematicamente la diversità geografica nei modelli di generazione immagini, rivelando come questi ultimi tendano a rafforzare stereotipi e a rappresentare in modo distorto e impoverito paesi come India, Nigeria e Colombia.

L'essenziale

Immagina di avere una macchina fotografica magica, un'intelligenza artificiale che disegna immagini basandosi su quello che le chiedi. Se le dici "fai un'immagine di una casa in Italia", lei ne disegna una. Se le dici "fai un'immagine di una casa in Nigeria", ne disegna un'altra.

Il problema è che questa "macchina fotografica magica" (chiamata Text-to-Image) ha un difetto grave: ha un pregiudizio. Sembra che viva in un mondo dove l'Italia è sempre elegante e pulita, mentre la Nigeria è sempre mostrata come povera e rovinata, anche se nella realtà entrambe le nazioni hanno case lussuose e case modeste, vecchie e nuove.

Gli autori di questo paper, chiamato GeoDiv, hanno deciso di costruire un termometro per la diversità geografica. Ecco come funziona, spiegato in modo semplice:

1. Il Problema: Il "Filtro" Stereotipato

Pensa alle immagini generate dall'IA come a un menu di un ristorante. Se ordini "cibo italiano", il ristorante ti dà sempre la pizza. Se ordini "cibo africano", ti dà sempre un piatto di fagioli. Non c'è varietà!
L'IA, addestrata su internet, ha imparato questi stereotipi. Se chiedi "un'auto in Nigeria", l'IA ti mostra quasi sempre un'auto vecchia su una strada di terra. Se chiedi "un'auto in Giappone", ti mostra un'auto nuova su un'asfalto perfetto. Questo non è solo noioso, è ingiusto perché non rappresenta la realtà complessa di quei paesi.

2. La Soluzione: GeoDiv (Il Termometro)

Gli autori hanno creato GeoDiv, un sistema che non si limita a dire "queste immagini sono diverse", ma capisce perché lo sono. Immagina GeoDiv come un investigatore privato che esamina le immagini con due lenti speciali:

• Lente 1: La Lente Socio-Economica (SEVI)
  Questa lente chiede: "Quanto sembra ricco questo posto? Quanto è curato?"

  • Esempio: Se l'IA disegna una casa in India, questa lente controlla se la casa è sempre mostrata come una baracca di fango (basso reddito, scarsa manutenzione) invece di mostrare anche ville moderne o case ben tenute.
  • Risultato: Hanno scoperto che l'IA tende a "impoverire" visivamente paesi come India, Nigeria e Colombia, mostrandoli sempre in condizioni di degrado, mentre paesi come USA, Giappone o Regno Unito appaiono sempre lussuosi e perfetti.

• Lente 2: La Lente della Diversità Visiva (VDI)
  Questa lente chiede: "Quante varietà ci sono?"

  • Esempio: Se chiedi "una sedia", l'IA dovrebbe disegnare sedie di legno, metalliche, di plastica, rosse, blu, con o senza schienale. Se invece disegna sempre la stessa identica sedia marrone con schienale, c'è un problema.
  • Risultato: Hanno scoperto che l'IA è molto "pigra" nel variare gli oggetti e gli sfondi. Spesso, per un paese specifico, disegna sempre lo stesso tipo di strada o lo stesso tipo di edificio.

3. Come Funziona la Misurazione?

Invece di far guardare le immagini a un computer che conta i pixel (che è come contare i mattoni senza capire la casa), GeoDiv usa dei super-assistenti intelligenti (chiamati LLM e VLM, ovvero modelli linguistici e visivi).

Questi assistenti guardano l'immagine e rispondono a domande come un umano:

• "La strada è asfaltata o di terra?"
• "La casa sembra nuova o vecchia?"
• "C'è un giardino curato o è selvaggio?"

Poi, fanno una statistica: "Ok, su 100 immagini di case in Nigeria, il 90% mostra strade di terra. Su 100 immagini di case in USA, il 90% mostra asfalto". Questo squilibrio è il pregiudizio che GeoDiv misura.

4. Cosa Hanno Scoperto? (Le Sorprese)

• Il "Filtro Povero": I paesi in via di sviluppo vengono quasi sempre mostrati in modo misero. È come se l'IA pensasse che l'India sia solo povertà, ignorando la sua ricchezza culturale e moderna.
• Il "Filtro Ricco": I paesi ricchi vengono mostrati sempre perfetti, puliti e lussuosi.
• Il Paradosso del "Polish": Alcuni modelli di IA (come FLUX.1) disegnano immagini bellissime, lucide e perfette (alta "manutenzione"), ma sono tutte uguali tra loro (bassa "diversità"). È come avere un album di foto dove tutti i soggetti sono bellissimi, ma sembrano tutti la stessa persona.
• I Modelli più vecchi sono più vari: Sorprendentemente, i modelli più vecchi (come Stable Diffusion 2.1) mostravano un po' più di varietà rispetto ai modelli nuovissimi, che tendono a essere più "puliti" ma anche più stereotipati.

5. Perché è Importante?

Immagina di avere una mappa del mondo disegnata da un bambino che ha visto solo cartoni animati. La mappa direbbe che in Africa ci sono solo leoni e giungle, e in Europa solo castelli. GeoDiv è lo strumento che ci dice: "Ehi, questa mappa è sbagliata! Dobbiamo correggerla".

Questo lavoro è fondamentale perché:

1. Rende visibile l'invisibile: Ci mostra i pregiudizi nascosti nelle macchine che usiamo ogni giorno.
2. Aiuta a costruire un mondo migliore: Se sappiamo che l'IA sbaglia, possiamo insegnarle a disegnare un mondo più vero, dove l'India ha sia case povere che ricche, e la Nigeria ha sia strade di terra che asfaltate.
3. È un termometro: Ora gli sviluppatori possono usare GeoDiv per controllare se i loro nuovi modelli stanno migliorando o peggiorando la rappresentazione del mondo.

In sintesi, GeoDiv è un modo intelligente e creativo per dire alle intelligenze artificiali: "Smetti di disegnare stereotipi! Il mondo è molto più vario, colorato e complesso di quello che mostri tu."

Sommario tecnico

1. Il Problema

I modelli di generazione di immagini da testo (Text-to-Image o T2I), come Stable Diffusion e FLUX, stanno diventando sempre più popolari. Tuttavia, le loro uscite spesso mancano di diversità geografica, rafforzano stereotipi dannosi e distorcono la rappresentazione di diverse regioni del mondo.

• Bias Socio-economici: Le immagini generate per paesi in via di sviluppo (es. India, Nigeria, Colombia) tendono a mostrare sistematicamente povertà, degrado e condizioni di manutenzione precarie, mentre i paesi sviluppati (es. USA, Giappone, Regno Unito) sono rappresentati come ricchi, curati e moderni.
• Limiti delle Metriche Esistenti: Le metriche di diversità attuali si basano su dataset curati (che non coprono la scala globale) o su misure di dissimilarità visiva di basso livello (come FID o Vendi-Score). Queste ultime sono spesso ininterpretabili e non riescono a catturare le sfumature socio-economiche e contestuali specifiche di ogni nazione.

2. Metodologia: Il Framework GeoDiv

Gli autori introducono GeoDiv, un framework sistematico e interpretabile che utilizza la conoscenza del mondo incorporata nei Large Language Models (LLM) e nei Vision-Language Models (VLM) per valutare la diversità geografica lungo due assi complementari:

A. Socio-Economic Visual Index (SEVI)

Questo indice cattura le indicazioni socio-economiche attraverso due dimensioni interpretabili, valutate su una scala da 1 a 5 da un VLM:

1. Affluence (Ricchezza): Misura il livello di benessere economico rappresentato (da "impoverito" a "lussuoso").
2. Maintenance (Manutenzione): Valuta la condizione fisica dell'entità principale (da "gravemente danneggiato" a "eccellente").

• Obiettivo: Quantificare quanto i modelli tendano a generare immagini povere o ricche in base al paese richiesto.

B. Visual Diversity Index (VDI)

Questo indice misura la variazione visiva in due dimensioni:

1. Entity-Appearance (Aspetto dell'Entità): Analizza attributi come forma, materiale o colore dell'oggetto principale (es. tipo di tetto di una casa, materiale di una sedia).
2. Background-Appearance (Aspetto dello Sfondo): Valuta il contesto (es. tipo di strada, presenza di infrastrutture moderne, vegetazione).

• Implementazione: Gli LLM generano domande specifiche e liste di risposte per ogni entità. Un modello VQA (Visual Question Answering) analizza le immagini per determinare la distribuzione delle risposte.

C. Calcolo della Diversità

Per quantificare la diversità, GeoDiv utilizza il Numero di Hill (normalizzato), una metrica ispirata alla biodiversità che calcola l'entropia della distribuzione delle risposte.

• Un punteggio basso indica che il modello genera sempre la stessa risposta (bassa diversità/bias).
• Un punteggio alto indica una distribuzione uniforme delle risposte (alta diversità).
• Il framework è "reference-free" (non richiede un dataset di riferimento reale) e modulare.

3. Configurazione Sperimentale

• Dataset: 160.000 immagini sintetiche generate da quattro modelli open-source: Stable Diffusion v2.1, v3 (SD3m), v3.5 (SD3.5) e FLUX.1-dev.
• Scope: 10 entità comuni (es. casa, auto, sedia, cibo) e 16 paesi rappresentativi di diverse regioni (USA, UK, India, Nigeria, Giappone, ecc.).
• Validazione: I risultati sono stati validati tramite studi umani su piattaforme di crowdsourcing (Prolific), confrontando le valutazioni dei VLM con quelle umane per SEVI e VDI.

4. Risultati Chiave

L'applicazione di GeoDiv ha rivelato bias sistematici e limitazioni significative:

• Bias Socio-economico Profondo:

  • Paesi come India, Nigeria e Colombia sono costantemente rappresentati come poveri e con edifici/oggetti mal mantenuti.
  • Paesi come USA, UK e Giappone sono rappresentati come ricchi e perfettamente curati.
  • Non esiste un modello che offra una copertura bilanciata di tutti gli strati socio-economici per tutti i paesi.

• Mancanza di Diversità Visiva (VDI):

  • C'è una scarsa variazione negli attributi delle entità e negli sfondi. Ad esempio, per la Nigeria, il 77% delle immagini di auto mostra strade sterrate, mentre per gli USA è l'85% per strade asfaltate.
  • FLUX.1 mostra un paradosso: ottiene punteggi SEVI alti (immagini molto curate e "affluent") ma punteggi VDI molto bassi (bassa diversità visiva), suggerendo un compromesso tra "polish" estetico e inclusività reale.
  • Le versioni più recenti dei modelli (SD3.5, FLUX) tendono a mostrare una diversità geografica leggermente inferiore rispetto a SD2.1.

• Confronto con Dati Reali:

  • Il dataset reale GeoDE mostra una diversità significativamente superiore (specialmente nell'aspetto delle entità e nella manutenzione) rispetto a tutti i dataset sintetici testati, confermando che i modelli attuali non riescono a replicare la complessità del mondo reale.

• Correlazione con il PIL:

  • È stata osservata una debole correlazione negativa tra il punteggio di diversità geografica (GeoDiv) e il PIL pro capite: i modelli tendono a generare immagini meno diversificate per i paesi più ricchi.

5. Contributi Principali

1. Framework GeoDiv: Il primo framework sistematico e interpretabile per misurare la diversità geografica, scomponendola in indici socio-economici (SEVI) e visivi (VDI).
2. Dataset e Risorse: Rilascio di un dataset di 160.000 immagini sintetiche, annotazioni umane per la validazione, prompt e meccanismi di filtraggio per nuove entità.
3. Scoperte sui Bias: Identificazione di bias sottili ma pervasivi (es. materiali di costruzione specifici per paese, condizioni di strada) che le metriche precedenti non rilevavano.
4. Strumento Diagnostico: Dimostrazione che GeoDiv può essere utilizzato per auditare i modelli e guidare interventi (es. bilanciamento dei prompt) per migliorare l'inclusività.

6. Significato e Impatto

Il lavoro di GeoDiv rappresenta un passo fondamentale verso sistemi generativi più equi e rappresentativi.

• Interpretabilità: A differenza delle metriche "scatola nera", GeoDiv spiega perché un modello è poco diversificato (es. "genera sempre case di mattoni per il Regno Unito e di pietra per l'Egitto").
• Guida per lo Sviluppo: Fornisce ai ricercatori e ai curatori di dati strumenti quantitativi per identificare e correggere i bias geografici durante l'addestramento o il fine-tuning dei modelli.
• Etica dell'IA: Evidenzia il rischio che i modelli T2I, se non controllati, cristallizzino e amplifichino le disuguaglianze socio-economiche globali, presentando una visione del mondo distorta e stereotipata.

In sintesi, GeoDiv offre una lente critica necessaria per garantire che l'IA generativa non solo produca immagini esteticamente piacevoli, ma anche una rappresentazione fedele e inclusiva della diversità del mondo reale.