💻 computer science

KG-FairDiff: Knowledge Graph-Guided Prompt Refinement for Demographically Fair Text-to-Image Generation

KG-FairDiff è un framework agnostico rispetto al modello, operante in fase di inferenza, che sfrutta una rete di conoscenza e un processo di ottimizzazione a ciclo chiuso per raffinare i prompt da testo a immagine, riducendo efficacemente i pregiudizi demografici e culturali e preservando al contempo la fedeltà semantica senza richiedere costosi riaddestramenti del modello.

Autori originali: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payber

Pubblicato 2026-06-02

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payberah, Mohammad Hossein Rohban, Soheil Kolouri, Ali Diba

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere una macchina fotografica magica capace di trasformare ogni frase che scrivi in un'immagine. Scrivi "un medico" e lei scatta una foto. Ma ecco il problema: questa macchina fotografica è stata addestrata su milioni di vecchie foto prese da internet. A causa di ciò, ha sviluppato una cattiva abitudine. Quando chiedi "un medico", mostra quasi sempre un uomo bianco anziano. Quando chiedi "un infermiere", mostra una giovane donna. È come se la macchina fotografica fosse bloccata in un salto temporale, vedendo il mondo solo attraverso una lente stretta e stereotipata.

Questo articolo presenta uno strumento chiamato KG-FairDiff per riparare questa macchina fotografica senza doverla ricostruire.

Il Problema: Le "Impostazioni Predefinite" della Macchina Fotografica

Pensa a questi sistemi di generazione di immagini da testo come a degli chef che hanno memorizzato un enorme ricettario. Se chiedi "CEO", estraggono automaticamente l'immagine di un uomo in giacca e cravatta perché è ciò che hanno visto più spesso nei loro dati di addestramento. Non stanno cercando di essere cattivi; stanno solo seguendo i modelli più comuni che conoscono. Questo porta a un mondo in cui certi gruppi di persone (come donne, persone di colore o anziani) sono raramente visti in ruoli di potere, o vengono mostrati in modi divertenti ed esagerati.

La Soluzione: L'"Editor Intelligente"

Invece di cercare di licenziare lo chef e assumerne uno nuovo (il che sarebbe costoso e impossibile per molte macchine fotografiche chiuse), KG-FairDiff agisce come un editor intelligente che si posiziona tra te e la macchina fotografica.

Ecco come funziona l'editor, passo dopo passo:

La Biblioteca della Conoscenza (Il "Verificatore dei Fatti"):
L'editor possiede una speciale biblioteca di circa 1.200 fatti (un Grafo di Conoscenza). Questi fatti sono come piccole tessere che dicono cose come: "I medici possono essere donne", "Gli infermieri possono essere uomini" o "L'abbigliamento tradizionale di questa cultura è questo". Ha anche tessere che dicono: "Questo è uno stereotipo che dovremmo evitare".
La Riscrittura (Il "Suggerimento"):
Quando scrivi "un medico", l'editor non invia semplicemente quella parola alla macchina fotografica. Prima, consulta la sua biblioteca. Vede che "medico" è spesso stereotipato. Quindi chiede a un'IA super intelligente (un LLM) di riscrivere la tua frase.
- Il tuo input: "Un medico."
- Il suggerimento dell'editor: "Un gruppo diversificato di medici, incluse donne e persone di diverse origini, che lavorano in un ospedale moderno."
  L'editor si assicura che la nuova frase mantenga ancora ciò che volevi (fedeltà semantica) ma aggiunge la diversità mancante.
Il Guardiano (Il "Validatore"):
Prima di inviare la nuova frase alla macchina fotografica, l'editor controlla due cose:
- Abbiamo corretto il pregiudizio? (La nuova frase incoraggia un'immagine più diversificata?)
- Abbiamo cambiato troppo il significato? (Si tratta ancora di un medico?)
  Se la risposta a entrambe è "Sì", l'editor la invia. Se non è così, ci riprova, come in un ciclo finché non ottiene il risultato corretto.

Perché è una Grande Novità

Di solito, per riparare una macchina fotografica parziale, devi smontarla, riaddestrarla su nuovi dati e sperare che impari meglio. Questo è difficile, costoso e spesso impossibile perché molte macchine fotografiche sono "scatole nere" (non puoi vedere cosa c'è dentro).

KG-FairDiff è diverso perché:

È una soluzione plug-and-play: Funziona con qualsiasi macchina fotografica, che sia gratuita o a pagamento e segreta.
Non rompe la macchina fotografica: Modifica solo le istruzioni (prompt) che le dai.
È basato sui fatti: Non tira a indovinare; usa un elenco strutturato di fatti per guidare le modifiche.

I Risultati

I ricercatori hanno testato questo "Editor Intelligente" su otto diversi generatori di immagini popolari. Hanno scoperto che:

Ha ridotto significativamente il numero di volte in cui la macchina fotografica tornava ai pregiudizi (come mostrare solo uomini come CEO).
Ha aumentato la varietà di persone mostrate (più donne, persone di colore e diverse età).
Ha fatto tutto questo senza rendere le immagini strane o cambiare l'idea originale dell'utente.

Le Limitazioni (Le "Note Legali")

Gli autori sono onesti riguardo ai punti in cui lo strumento potrebbe inciampare:

Il Conflitto con il "Filtro di Sicurezza": Alcune macchine fotografiche hanno le proprie regole di sicurezza rigorose. A volte, il suggerimento dell'editor di aggiungere diversità può entrare in conflitto con le regole interne della macchina, causando il fallimento dell'immagine o rendendola strana.
L'Editor "Circolare": Lo stesso modello di IA viene utilizzato sia per scrivere la nuova frase che per controllare se è buona. È come uno studente che valuta il proprio compito: di solito funziona, ma non è perfetto.
Lacune Culturali: Sebbene lo strumento cerchi di includere culture non occidentali, la biblioteca di fatti non è ancora perfetta. Potrebbe mancare alcuni dettagli culturali specifici.

In Breve

KG-FairDiff è come un filtro di equità per la tua immaginazione. Non cambia la macchina fotografica; ti aiuta solo a chiedere immagini in un modo che assicuri alla macchina fotografica di vedere il mondo intero, non solo una piccola fetta parziale e stereotipata. È un modo pratico e pronto all'uso per rendere le immagini generate dall'IA più rappresentative della realtà.

Sintesi Tecnica: KG-FairDiff

Problematica
I sistemi Text-to-Image (TTI) sono diventati infrastrutture critiche per il giornalismo, l'istruzione e la pubblicità. Tuttavia, questi modelli ereditano stereotipi demografici e culturali dai loro dati di addestramento, sottorappresentando o caricaturizzando sistematicamente donne, persone di colore, anziani e culture non occidentali. Le strategie di mitigazione esistenti affrontano limitazioni significative: il riequilibrio dei dataset e la regolarizzazione dello spazio latente richiedono l'accesso ai dati di addestramento o agli interni del modello (inattuabile per i backbone a codice chiuso), mentre i metodi più leggeri a livello di prompt spesso si affidano a template demografici fissi che ignorano il contesto culturale, risultando in output superficiali o tokenistici.

Metodologia
Gli autori propongono KG-FairDiff, un framework agnostico rispetto al modello, operante a livello di inferenza, che tratta il raffinamento del prompt consapevole dell'equità come un problema di ottimizzazione vincolata. Il sistema opera come una pipeline a ciclo chiuso senza modificare il generatore sottostante:

Costruzione del Knowledge Graph (KG): Il framework utilizza un KG curato a mano contenente circa 1.200 triple. Queste triple sono tratte dal McGillNLP Bias Dataset e da CultureBank e coprono tre categorie: associazioni stereotipate (da contrastare), contro-stereotipi (da affermare) e radicamento culturale (concetti, abbigliamento e pratiche non occidentali).
Recupero e Riscrittura: Al momento dell'inferenza, il sistema recupera le top- $k$ triple rilevanti dal KG basandosi sul prompt iniziale dell'utente. Un rewriter LLM (GPT-4o) utilizza questo contesto strutturato per proporre prompt raffinati.
Validazione a Ciclo Chiuso: Un validatore (anch'esso GPT-4o) valuta il prompt raffinato rispetto a due criteri:
- Miglioramento dell'Equità: Il prompt deve ridurre una perdita di equità basata sulla divergenza (misurata tramite la divergenza KL da una distribuzione target uniforme).
- Fedeltà Semantica: Il prompt raffinato deve mantenere una similarità del coseno superiore a una soglia ( $\tau$ ) con l'intento originale dell'utente per prevenire la deriva semantica.
Formulazione dell'Ottimizzazione: Il processo è formalizzato come la minimizzazione di una somma pesata della perdita di equità e di un regolarizzatore di preservazione dello stile, soggetto al vincolo di fedeltà semantica. Gli autori dimostrano un limite di terminazione finita per il ciclo di raffinamento sotto un'assunzione di miglioramento monotono.

Contributi Chiave

Formulazione Algoritmica: L'articolo formalizza il raffinamento del prompt consapevole dell'equità come un problema di ottimizzazione vincolata con termini espliciti per equità, fedeltà semantica e preservazione dello stile, fornendo un algoritmo iterativo con un limite di terminazione teorico.
Knowledge Graph Riutilizzabile: Gli autori costruiscono e rilasciano un KG curato di circa 1.200 triple che spaziano tra stereotipi, contro-stereotipi e radicamento culturale, doppiamente annotato per accuratezza fattuale e sensibilità culturale.
Suite di Valutazione Teoricamente Fondata: Viene introdotto un nuovo framework di valutazione che collega le metriche di bias standard (Bias-P, Bias-W) alla divergenza dalle distribuzioni target e relaziona le misure basate sull'entropia (ENS) alla divergenza KL, utilizzando l'allineamento di Wasserstein e la similarità CLIP per valutare la preservazione semantica.
Audit Completo: Il framework è valutato contro otto generatori backbone ampiamente distribuiti (inclusi GPT-Image-1, SD 3.5, Gemini 3 Pro) attraverso un benchmark di 100 prompt che copre 50 occupazioni.

Risultati
KG-FairDiff dimostra miglioramenti sostanziali nella riduzione delle disparità demografiche pur preservando la semantica del prompt:

Performance vs. Baseline: Rispetto ai baseline a livello di prompt come MinorityPrompt e PreciseDebias, KG-FairDiff ottiene riduzioni del bias significativamente maggiori. Nello specifico, ottiene riduzioni del Bias-W fino a 20 volte superiori (ad esempio, -0.1396 vs. -0.0037 per la Razza) e guadagni ENS 13 volte superiori rispetto a MinorityPrompt.
Preservazione Semantica: Il processo di raffinamento mantiene un'alta fedeltà semantica, con una variazione della distanza di Wasserstein media ( $\Delta \bar{W}_2^2$ ) di soli 0.0011.
Studi di Ablazione: Gli esperimenti confermano che la componente di recupero del KG contribuisce indipendentemente ai guadagni di equità, distintamente dalle capacità del rewriter LLM.
Limitazioni Osservate: Gli autori notano che per determinati generatori (ad esempio, SD 3.5 Large, Gemini 3 Pro), alcune metriche sono peggiorate a causa di conflitti tra i prompt raffinati e i filtri di sicurezza integrati nei generatori, o a causa di segnali contrastanti nell'ottimizzazione intersezionale. Inoltre, il framework si affida a classificatori automatizzati (FairFace) che presentano un recall inferiore per i fenotipi non occidentali.

Significatività e Rivendicazioni
L'articolo sostiene che KG-FairDiff offra una via pratica e pronta per la distribuzione verso un'IA più equa. La sua principale significatività risiede nella capacità di intervenire a livello di prompt senza richiedere l'accesso ai pesi del modello o costosi riaddestramenti, rendendolo applicabile sia a generatori proprietari che a generatori open-weight black-box. Ancorando i raffinamenti in una conoscenza culturale strutturata piuttosto che in template fissi, il framework mira a ridurre i danni a livello di popolazione causati dalla ripetizione di rappresentazioni ristrette. Gli autori pongono questo lavoro come un passo verso un'"IA affidabile" che può auditare e intervenire nei modelli distribuiti sotto vincoli realistici, pur riconoscendo la necessità di futuri lavori per scalare il knowledge graph verso una copertura culturale più ampia e calibrare rigorosamente il validatore rispetto alle metriche a valle.