Immaginate un mondo in cui un computer può guardare una frase che scrivete e dipingere istantaneamente un'immagine che la corrisponda. Questa è la promessa dei moderni modelli di text-to-image, strumenti che si sono evoluti rapidamente per creare visivi sorprendenti e di alta qualità da semplici descrizioni. Essi stanno rimodellando il modo in cui creiamo arte, progettiamo prodotti e raccontiamo storie. Eppure, mentre queste macchine diventano più potenti, portano con sé un peso nascosto: i pregiudizi del mondo umano su cui sono state addestrate. Proprio come uno specchio riflette la stanza in cui si trova, questi modelli riflettono le disuguaglianze, gli stereotipi e i punti ciechi culturali presenti nei vasti dataset di immagini e testi utilizzati per istruirli. Se lasciati senza controllo, rischiano di rafforzare idee dannose su genere, razza e storia, trasformando pregiudizi sottili in immagini vivide e convincenti. La domanda che i ricercatori si pongono oggi non è solo se queste macchine sappiano dipingere bene, ma se sappiano dipingere equamente.

Un nuovo studio propone un modo fresco per rispondere a quella domanda, andando oltre i normali test tecnici che misurano solitamente la qualità dell'immagine. Invece di affidarsi esclusivamente a numeri che controllano quanto un'immagine sia nitida o quanto corrisponda a una descrizione, i ricercatori suggeriscono un framework che unisca tre distinte prospettive umane: l'occhio esperto di uno storico dell'arte, l'intuizione creativa di un artista praticante e la lente critica della teoria sociale. Intrecciando queste discipline, il team offre un metodo per scoprire i pregiudizi che le metriche tecniche spesso non colgono, rivelando come questi modelli interpretano la cultura, la storia e l'identità.

I ricercatori sostengono che gli attuali metodi di valutazione siano troppo limitati. I test standard potrebbero confermare che un'immagine sia realistica, ma non possono facilmente dire se un modello stia rappresentando in modo sottile un gruppo emarginato o fraintendendo un simbolo culturale complesso. Per risolvere questo problema, lo studio introduce un approccio in tre parti. In primo luogo, utilizza l'analisi storico-artistica, un metodo in cui gli esperti esaminano i dettagli visivi, i simboli e la composizione di un'immagine proprio come farebbero con un dipinto in un museo. Questo aiuta a individuare se un modello sta ignorando specifici marcatori culturali o facendo affidamento su cliché. In secondo luogo, impiega l'esplorazione artistica, dove i creatori sperimentano con gli strumenti per spingere i propri confini, molto come un pittore che testa nuovi colori per vedere cosa emerge. Questo processo rivela i limiti nascosti e i comportamenti inaspettati degli algoritmi. Infine, il framework utilizza il prompt engineering critico, una tecnica in cui i ricercatori costruiscono intenzionalmente descrizioni specifiche e impegnative per testare le assunzioni del modello ed esporre gli stereotipi radicati.

Per vedere come questo funzioni nella pratica, il team ha applicato il loro metodo a un famoso dipinto, Il ritratto dei coniugi Arnolfini di Jan van Eyck, un capolavoro del 1434 noto per i suoi dettagli intricati e il profondo simbolismo. Hanno chiesto a diversi modelli di IA di ricreare la scena basandosi su una descrizione dettagliata che includeva elementi specifici come uno specchio convesso, una singola candela accesa e il gesto simbolico delle mani della coppia. I risultati sono stati rivelatori. Mentre alcuni modelli catturavano l'aspetto generale del dipinto, spesso mancavano o distorcevano gli oggetti simbolici cruciali che conferiscono significato all'opera. Un modello, ad esempio, ha aggiunto elementi che sembravano esotici e non correlati all'originale ambientazione europea, suggerendo un pregiudizio nei suoi dati di addestramento che associa certi stili storici a culture non occidentali. Questo tipo di errore passerebbe probabilmente inosservato a un normale test informatico che misura solo quanto l'immagine sia "bella", ma uno storico dell'arte riconosce immediatamente un fallimento nel comprendere il contesto culturale.

I ricercatori hanno anche testato i modelli con prompt progettati per esplorare temi di lavoro e dignità. Hanno chiesto all'IA di generare il ritratto di una collaboratrice domestica, ma invece di una semplice descrizione, hanno usato un linguaggio ispirato al lavoro di Kehinde Wiley, un artista noto per aver reinventato i ritratti storici con soggetti neri in posizioni di potere e grazia. L'obiettivo era vedere se i modelli potessero catturare resilienza e dignità piuttosto che solo povertà. I risultati hanno mostrato un pattern costante: i modelli ritraevano prevalentemente persone anziane di colore e, in alcuni casi, esclusivamente donne. Sebbene ciò fosse in linea con i noti pregiudizi statistici nei dati, l'approccio artistico ha rivelato un problema più profondo. Le immagini spesso non riuscivano a catturare la vivacità e l'empowerment che il prompt intendeva, ricorrendo invece a stereotipi di età e genere. Ciò ha suggerito che, anche quando gli utenti cercano di guidare l'IA verso una rappresentazione più sfumata, gli algoritmi sottostanti faticano a liberarsi dalle loro associazioni radicate.

Forse la dimostrazione più sorprendente ha riguardato un test sui ruoli di genere nel mondo del lavoro. I ricercatori hanno usato un prompt che descriveva un manager di un cantiere, scritto con cura per essere neutro nel tono, e hanno chiesto all'IA di generare immagini sia di un manager maschio che di una manager femmina. I risultati hanno mostrato un contrasto netto. L'immagine del manager maschio lo ritraeva in piedi, eretto in un abito formale, emanando autorità e controllo. L'immagine della manager femmina, tuttavia, la mostrava in una posa accovacciata, quasi da supereroina, che appariva determinata ma più teatrale che professionale. Questa discrepanza suggerisce che i modelli sono ancora influenzati da norme sociali profondamente radicate che associano la leadership e la presenza esecutiva agli uomini, mentre ritraggono le donne in ruoli di leadership come necessitanti di essere più attive o drammatiche per essere considerate capaci.

Lo studio non pretende di aver risolto il problema del pregiudizio nell'intelligenza artificiale. Al contrario, propone un nuovo toolkit robusto per trovare e comprendere questi problemi. L'autore propone un processo passo dopo passo in cui scienziati del computer, storici dell'arte, artisti e teorici sociali lavorano insieme. Inizierebbero creando un set diversificato di prompt, poi genererebbero le immagini e infine analizzerebbero i risultati attraverso molteplici lenti. Le metriche tecniche fornirebbero una base, mentre gli esperti umani cercherebbero inaccuratezze culturali, limitazioni artistiche e pregiudizi sociali. Questo ciclo collaborativo permetterebbe un miglioramento continuo, aiutando gli sviluppatori a perfezionare i loro modelli affinché siano più equi e culturalmente consapevoli.

I ricercatori riconoscono che questo approccio presenta delle sfide. Le interpretazioni storico-artistiche e artistiche possono essere soggettive, e diversi esperti potrebbero vedere cose diverse nella stessa immagine. Tuttavia, sostengono che questa soggettività sia un punto di forza, non di debolezza, perché porta la necessaria sfumatura umana in un campo spesso dominato da numeri rigidi. Combinando la precisione della tecnologia con la profondità della comprensione culturale umana, questo framework mira a garantire che il futuro dell'arte generata dall'IA non sia solo tecnicamente impressionante, ma anche eticamente solido e riflessivo di un mondo diversificato. L'obiettivo finale è costruire sistemi che non si limitino a replicare le nostre attuali disuguaglianze, ma che ci aiutino a immaginare un futuro più giusto e inclusivo.