The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor

Questo studio rivela come il predittore LAION-Aesthetics, ampiamente utilizzato per addestrare modelli di generazione di immagini, perpetui pregiudizi culturali e di genere attraverso un "sguardo algoritmico" che privilegia canoni estetici occidentali e maschili, escludendo altre prospettive e richiedendo un passaggio verso valutazioni più pluralistiche.

L'essenziale

Immagina di avere un giudice d'arte digitale molto potente, ma un po' strano. Questo giudice, chiamato LAP (LAION-Aesthetics Predictor), è stato assunto da molte aziende di intelligenza artificiale per decidere quali immagini sono "belle" e quali sono "brutte".

Il problema? Questo giudice non è un esperto di arte universale. È, in realtà, un gusto personale molto specifico che viene dato per scontato come se fosse la verità assoluta.

Ecco di cosa parla il paper, spiegato come se fossimo a un caffè:

1. Il Giudice e la sua "Lente Magica"

Pensa a LAP come a un filtro magico che passa attraverso miliardi di foto su internet. Le aziende usano questo filtro per scegliere quali foto insegnare alle loro intelligenze artificiali (come quelle che creano immagini dal nulla).

• Cosa fa LAP: Assegna un voto da 1 a 10 a ogni foto. Se la foto ha un voto alto, viene salvata e usata per addestrare l'AI. Se il voto è basso, viene scartata.
• Il problema: Chi ha deciso cosa è un "10" e cosa è un "1"?

2. L'Investigazione: Cosa vede davvero il Giudice?

Gli autori del paper hanno fatto un'indagine (un "audit") per capire cosa questo giudice considera "bello". Hanno scoperto tre cose molto interessanti, che potremmo chiamare i tre sguardi del giudice:

• Lo Sguardo Imperiale (Il mondo occidentale al centro):
  Immagina che il giudice guardi solo le foto di paesaggi europei, città americane o stampe giapponesi classiche. Se mostri al giudice un'opera d'arte africana, indigena o islamica, lui quasi sicuramente la boccia. È come se dicesse: "L'arte vera è solo quella che assomiglia a quella che ho visto nei musei di Londra o New York". Di conseguenza, l'AI impara a creare solo quel tipo di arte, rendendo invisibili tutte le altre culture.

• Lo Sguardo Realista (La foto perfetta è tutto):
  Il giudice ama le foto che sembrano vere, nitide e realistiche. Se mostri un quadro astratto, un cubismo (come Picasso) o qualcosa di strano e surreale, il giudice lo odia. È come se dicesse: "Se non sembra una fotografia scattata con una macchina fotografica costosa, non è arte". Questo è un problema perché l'arte moderna spesso non cerca di essere realistica, ma di esprimere emozioni o idee.

• Lo Sguardo Maschile (Le donne come oggetti):
  Qui la cosa si fa inquietante. Il giudice tende a salvare le foto che parlano di donne, ma spesso le tratta come oggetti da guardare (il famoso "male gaze" della storia dell'arte). Al contrario, tende a scartare le foto che parlano di uomini o di persone LGBTQ+. È come se il giudice pensasse: "Le donne sono belle da vedere, gli uomini e le persone queer no". Questo rischia di creare un mondo digitale pieno di immagini di donne, ma spesso in modi che le oggettificano o le danneggiano.

3. Da dove arriva questo gusto strano? (L'Indagine Retrospettiva)

Gli autori hanno fatto un'indagine storica (una "etnografia") per capire da dove viene questo giudice. Hanno scoperto che:

• È stato creato da una sola persona: Un insegnante tedesco (il fondatore di LAION) ha costruito questo modello da solo, basandosi sul suo gusto personale.
• Ha usato dati sbilanciati: Per insegnare al giudice cosa è bello, ha usato foto scattate da fotografi occidentali, bianchi e maschi, e da appassionati di tecnologia (spesso maschi e occidentali).
• Il risultato: È come se avessimo chiesto a un solo chef di decidere il menu per un intero continente. Se il chef ama solo la pizza e odia la pasta, tutti mangeranno solo pizza.

4. Perché dovremmo preoccuparci?

Se lasciamo che questo "giudice" continui a decidere cosa è bello per le nostre intelligenze artificiali:

1. L'arte diventa monotona: L'AI imparerà a creare solo paesaggi realistici e ritratti di donne, ignorando la diversità culturale e la creatività astratta.
2. Le culture vengono cancellate: L'arte africana, indigena o non occidentale rischia di sparire dal mondo digitale.
3. Rischi reali: Se l'AI impara che le donne sono "belle" solo quando sono oggetti da guardare, questo può alimentare la creazione di immagini offensive o dannose (come deepfake o contenuti sessuali non consensuali).

La Soluzione Proposta

Gli autori non dicono "distruggiamo l'AI". Dicono invece: Smettiamola di cercare un unico standard di bellezza.
Invece di dire "questa foto è bella (punteggio 8)", dovremmo dire "questa foto è realistica" oppure "questa foto è astratta".
Dobbiamo passare da un giudice unico a una tavola rotonda di critici diversi, ognuno con il proprio gusto, per permettere all'AI di imparare che la bellezza è soggettiva e che esistono mille modi diversi di essere "bello".

In sintesi: Questo paper ci avvisa che l'Intelligenza Artificiale sta imparando a vedere il mondo attraverso gli occhi di un piccolo gruppo di persone (maschi, occidentali, amanti del realismo). Se non cambiamo questo, l'AI continuerà a creare un mondo digitale che non assomiglia affatto alla nostra realtà ricca e diversificata.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor" in italiano.

Titolo

Lo Sguardo Algoritmico della Valutazione della Qualità dell'Immagine: Un Audit e un'Etnografia Tracciata del Predittore LAION-Aesthetics

1. Il Problema

I modelli di intelligenza artificiale generativa visiva (come Stable Diffusion) vengono addestrati utilizzando misure di "appeal estetico" standardizzate e universali. Tuttavia, il concetto di estetica è intrinsecamente legato al gusto personale e ai valori culturali. Esiste un vuoto critico nella comprensione di di quale gusto questi modelli siano portatori.
Il paper si concentra sul LAION-Aesthetics Predictor (LAP), un modello di valutazione della qualità dell'immagine (AQA) ampiamente utilizzato per:

1. Curare dataset di addestramento per modelli generativi (es. la versione iniziale di Stable Diffusion).
2. Valutare la qualità delle immagini generate dall'AI.
   Nonostante il suo impatto diffuso, il LAP non è stato esaminato empiricamente per comprendere quali bias culturali e rappresentativi esso codifichi e perpetui.

2. Metodologia

Gli autori hanno adottato un approccio ibrido che combina Audit Algoritmico ed Etnografia Tracciata (Trace Ethnography):

• Audit Algoritmico (Valutazione Quantitativa):

  • Il modello LAP è stato testato su tre dataset distinti per analizzare come assegna i punteggi estetici:
    1. LAION-Aesthetics Dataset: Un subset di ~1,2 miliardi di immagini filtrato dal dataset LAION-5B utilizzando il LAP stesso.
    2. Metropolitan Museum of Art (MET): 249.351 immagini di arte pubblica con metadati dettagliati su cultura, stile e medium.
    3. WikiArt: 81.444 immagini di arte moderna e contemporanea (principalmente occidentali).
  • Analisi: Gli autori hanno analizzato le differenze nelle immagini classificate con un punteggio $\ge 6.5$ (considerato "alta qualità") rispetto a quelle inferiori. Hanno utilizzato l'Informazione Mutua Puntuale (PMI) per analizzare le correlazioni tra le didascalie delle immagini e la loro inclusione nei subset ad alto punteggio.

• Etnografia Tracciata (Analisi Qualitativa delle Origini):

  • Per comprendere l'origine dei bias, gli autori hanno ricostruito il processo di sviluppo del LAP analizzando "tracce documentali" pubbliche.
  • Fonti analizzate: Post sul blog di LAION, repository di codice (GitHub), dataset di addestramento (AVA, SAC, LAION-Logos), paper accademici correlati e un video YouTube non indicizzato di ~10 minuti in cui il fondatore di LAION spiega la creazione del modello.

3. Risultati Chiave

A. Bias nel Dataset LAION-Aesthetics (Audit 1)

• Bias di Genere e Identità: Il modello filtra in modo sproporzionato le immagini con didascalie che menzionano donne, mentre tende a escludere quelle che menzionano uomini o persone LGBTQ+.
• Bias Religioso e Culturale: Le immagini che menzionano comunità indù, buddiste o cristiane hanno maggiori probabilità di essere incluse nel subset ad alto punteggio, mentre quelle che menzionano ebrei o musulani sono più spesso filtrate.
• Origine dei Domini: Le immagini ad alto punteggio provengono prevalentemente da siti web di fotografi indipendenti e artisti visivi (es. Redbubble, DeviantArt, SmugMug), suggerendo una preferenza per la fotografia e l'arte digitale commerciale.

B. Bias nell'Arte Storica e Moderna (Audit 2 e 3)

• Dominio Occidentale e Giapponese: Nel dataset MET, il modello assegna punteggi $\ge 6.5$ quasi esclusivamente a opere di artisti occidentali o giapponesi. Nessun'opera di arte africana, nativa americana, oceaniana, islamica, egizia o dell'Asia occidentale ha raggiunto tale soglia.
• Preferenza per il Realismo: Il modello premia fortemente immagini realistiche di paesaggi, città e ritratti (stili come Realismo, Romanticismo, Impressionismo).
• Svalutazione dell'Arte Moderna/Astratta: Opere di artisti influenti ma meno realistici (es. Picasso, Warhol, Dalí) o stili astratti (Cubismo, Espressionismo Astratto) ricevono punteggi significativamente più bassi.
• Conclusione: Lo sguardo algoritmico del LAP riproduce lo "sguardo maschile" e l'"sguardo imperiale" della storia dell'arte occidentale.

C. Origini dei Bias (Etnografia Tracciata)

L'analisi delle fonti di addestramento rivela che i bias del modello derivano direttamente dalle scelte soggettive del fondatore di LAION, Christoph Schuhmann:

• Soggettività Individuale: Il modello è stato creato manualmente da un singolo individuo che ha scelto l'architettura e i pesi dei dataset basandosi sul proprio "gusto soggettivo".
• Composizione dei Dati di Addestramento:
  • AVA (60% dei dati): Deriva da un concorso fotografico online (dpchallenge.com) tra il 2006 e il 2012. I partecipanti erano prevalentemente fotografi occidentali di lingua inglese.
  • SAC (34% dei dati): Creato nel 2022 da una comunità di entusiasti dell'AI (WEIRD: Western, Educated, Industrialized, Rich, Democratic), prevalentemente negli USA e in Europa.
  • LAION-Logos (6% dei dati): Raccolta da volontari LAION.
• Mancanza di Consenso e Documentazione: I dati AVA sono stati raccolti senza il consenso esplicito dei fotografi. La documentazione è scarsa e i dataset sono stati creati con scopi diversi (personalizzazione vs. allineamento AI) e mescolati senza una corretta contestualizzazione.

4. Contributi Principali

1. Dimostrazione Empirica dei Bias: Il paper fornisce la prima analisi empirica dettagliata che collega il modello LAP a bias specifici di genere, razza e cultura, mostrando come esso favorisca l'arte realistica occidentale e giapponese.
2. Concettualizzazione dello "Sguardo Algoritmico": Gli autori identificano tre dimensioni dello sguardo del LAP:
   • Sguardo Imperiale: Giudica l'arte secondo i gusti occidentali, escludendo le culture non occidentali.
   • Sguardo Realista: Svaluta l'arte astratta e moderna, privilegiando l'iperrealismo (con implicazioni negative per la creatività artistica e i rischi di deepfake).
   • Sguardo Maschile: Riproduce lo "sguardo maschile" storico, includendo sproporzionatamente immagini di donne (spesso oggettivate) ed escludendo le minoranze LGBTQ+.
3. Metodologia Ibrida: Dimostra l'efficacia di combinare audit algoritmici ed etnografie tracciate per non solo identificare che un bias esiste, ma spiegare come e perché è nato attraverso le decisioni umane e le fonti di dati.

5. Significato e Implicazioni

• Danni Rappresentativi: L'uso del LAP per curare dataset di addestramento rischia di esacerbare i danni rappresentativi nei modelli generativi, rendendo difficile generare arte di culture non occidentali o rappresentazioni inclusive.
• Critica alla "Qualità" Universale: Il paper sfida l'idea di un punteggio estetico universale. Sostiene che la "qualità" è un costrutto normativo e non descrittivo.
• Raccomandazioni:
  • Gli sviluppatori di AI dovrebbero abbandonare le misure prescrittive e universaliste di "estetica".
  • È necessario passare verso valutazioni descrittive e pluralistiche (es. specificare se un modello è addestrato per il fotorealismo o per uno stile culturale specifico).
  • La ricerca futura dovrebbe esaminare come le valutazioni di qualità influenzino la generazione di contenuti dannosi (es. immagini sessuali non consensuali), dato che il modello tende a includere più immagini di donne.

In sintesi, il paper evidenzia come un modello apparentemente tecnico e neutrale come il LAP sia in realtà un veicolo potente di valori culturali specifici (bianchi, occidentali, maschili, realisti), con conseguenze reali sulla diversità e l'inclusività dell'ecosistema dell'IA generativa.