Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Questo studio presenta la più grande analisi globale dei modelli text-to-image, rivelando che essi scelgono sistematicamente rappresentazioni maschili come predefinite, impongono stereotipi di genere rigidi e marginalizzano le identità non binarie, amplificando così i pregiudizi di genere strutturali e causando danni psicologici ai gruppi sottorappresentati.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel ronzio silenzioso di una farm di server, un nuovo tipo di artista è al lavoro. Non impugna un pennello o una macchina fotografica, ma invece ascolta le parole e dipinge immagini. Questa tecnologia, nota come generazione da testo a immagine, è esplosa in popolarità, creando miliardi di immagini in pochi anni. Questi sistemi sono addestrati su vaste collezioni di foto e testi provenienti da Internet, imparando a connettere parole come "medico" o "madre" con i dettagli visivi che hanno già visto in precedenza. Poiché questi strumenti sono ora utilizzati da milioni di persone per creare pubblicità, storie e design, le immagini che producono sono diventate una forza potente nel plasmare il modo in cui vediamo il mondo. Se una macchina disegna costantemente un medico come un uomo e un'infermiera come una donna, non sta solo riflettendo un errore; sta rinforzando la convinzione che questi ruoli appartengano a generi specifici. La domanda che i ricercatori si pongono ora non è solo se queste macchine commettano errori, ma quale tipo di mondo stiano costruendo silenziosamente per noi, un'immagine alla volta.
Un team di ricercatori si è messo in viaggio per investigare questo paesaggio nascosto chiedendo a quattro dei principali modelli di generazione da testo a immagine di creare quasi un milione di immagini. Non hanno semplicemente chiesto immagini casuali; hanno costruito un enorme esperimento globale. Hanno chiesto ai modelli di disegnare persone di ventidue paesi diversi che svolgono oltre cento lavori e varie attività quotidiane. Fondamentalmente, spesso hanno lasciato non specificato il genere della persona, chiedendo solo "una persona indiana che lavora come traduttore" o "un tedesco che fa giardinaggio". Analizzando i risultati, il team ha scoperto un modello costante: quando il prompt non specificava un genere, i modelli sceglievano quasi sempre di disegnare un uomo. In media, il 68,6 percento delle immagini generate da queste richieste neutre ritraeva uomini, una cifra che aumentava ulteriormente per i lavori che comportavano autorità o potere. Questa preminenza del maschile non era uniforme in tutto il mondo; era più pronunciata nei paesi con livelli più alti di disuguaglianza di genere e redditi più bassi, suggerendo che la tecnologia assorba e amplifichi i pregiudizi sociali dei luoghi in cui viene utilizzata.
Lo studio ha anche esaminato da vicino la qualità delle immagini prodotte. Quando i ricercatori hanno chiesto generi specifici, hanno scoperto che le immagini degli uomini erano costantemente valutate come di qualità superiore, più realistiche e meglio comprese dal computer rispetto alle immagini delle donne. Questo divario era più ampio quando le donne erano ritratte in lavori tradizionalmente occupati dagli uomini. In questi casi, le immagini delle donne erano spesso giudicate meno plausibili o meno realistiche rispetto alle immagini degli uomini negli stessi ruoli. I modelli cadevano anche in stereotipi rigidi riguardo a come dovrebbero apparire uomini e donne. Le immagini degli uomini erano frequentemente mostrate come serie, muscolose e anziane, mentre le immagini delle donne erano quasi sempre ritratte come giovani, magre, sorridenti e attraenti. Questo "stereotipizzazione bidirezionale" significa che le macchine non stanno solo rendendo l'uomo il default, ma stanno attivamente costruendo due script visivi molto diversi e limitanti per ciascun genere.
La scoperta più sorprendente riguardava le persone che non rientrano nelle categorie binarie di uomo o donna. Quando i ricercatori hanno chiesto ai modelli di generare persone non binarie, i sistemi hanno incontrato difficoltà significative. Le immagini prodotte erano spesso di scarsa qualità, non catturavano il prompt o ripartivano mostrando giovani uomini. Ciò suggerisce che per questi modelli, le identità non binarie non sono solo sottorappresentate, ma sono in gran parte illeggibili. Per comprendere l'impatto umano di queste scoperte, i ricercatori hanno invitato migliaia di persone a guardare immagini di se stesse — persone che condividevano la stessa nazionalità e lo stesso genere dei soggetti nelle foto. Il feedback è stato rivelatore. Molti partecipanti hanno descritto un senso di esclusione o insicurezza quando vedevano le proprie identità ridotte a modelli stretti e stereotipati. Una persona ha osservato che vedere un "modello" della propria identità era strano, come se la macchina avesse un'idea molto specifica e limitata di ciò che una persona del proprio paese dovrebbe essere. Tuttavia, quando le immagini rompevano questi stereotipi — mostrando una donna in un ruolo di alto potere o una persona non binaria in modo che sembrasse autentica — i partecipanti si sono sentiti affermati e valorizzati.
I ricercatori sottolineano che questi risultati non sono colpa di un singolo modello o di una singola azienda. Hanno testato quattro sistemi diversi di sviluppatori differenti, inclusi quelli basati in Germania, nel Regno Unito e in Cina, e hanno riscontrato gli stessi schemi in tutti loro. Questa coerenza punta a un problema più profondo radicato nei dati e nei metodi condivisi utilizzati per addestrare queste tecnologie. Lo studio conclude che queste macchine non sono strumenti neutrali; esse codificano un insieme di logiche di genere che trattano l'uomo come lo standard umano, penalizzano le donne che escono dai ruoli tradizionali ed erodono le identità non binarie. Mentre questi sistemi diventano sempre più integrati nelle nostre vite quotidiane, le immagini che generano rischiano di diventare una profezia che si autoavvera, restringendo silenziosamente la nostra immaginazione collettiva su chi appartiene dove e chi ha il diritto di essere visto.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.