Mitigating Bias in Large Vision-Language Models via Counterfactual Ensemble Decoding

Nel mondo in rapida evoluzione dell'intelligenza artificiale, è emersa una nuova generazione di sistemi in grado di vedere e parlare con una fluidità sorprendente. Questi grandi modelli vision-language agiscono come ponti tra il mondo visivo e il linguaggio umano, essendo capaci di rispondere a domande su immagini o di descrivere scene in dettaglio. Sono addestrati su vaste collezioni di fotografie e testi tratti da internet, imparando a prevedere quali parole dovrebbero seguire un'immagine. Tuttavia, poiché apprendono dai dati umani, ereditano anche i difetti umani. Proprio come le persone possono nutrire pregiudizi inconsci, queste macchine spesso assorbono stereotipi sociali, imparando ad associare determinati lavori, tratti o emozioni a specifici generi o razze. Quando un modello vede la foto di una donna, potrebbe ipotizzare automaticamente che sia un'infermiera piuttosto che un medico, o quando vede un uomo, potrebbe presumere che sia un CEO. Questo non è solo un glitch tecnico; è un riflesso delle disuguaglianze del mondo reale che può rafforzare pregiudizi dannosi ed erodere la fiducia nella tecnologia.

I ricercatori cercano da tempo di risolvere questo problema riaddestrando i modelli su dati più puliti o aggiungendo istruzioni speciali per dire alla macchina di essere equa. Eppure, questi metodi sono spesso costosi, difficili da scalare o si basano su una definizione singola e rigida di ciò che è "equo". Un nuovo studio propone un approccio diverso, uno che non cerca di ripulire il modello dalla sua conoscenza, ma invita invece il sistema a considerare più punti di vista contemporaneamente. I ricercatori, guidati da Yisong Xiao e dai suoi colleghi della Beihang University, hanno sviluppato una tecnica chiamata Counterfactual Ensemble Decoding. Invece di chiedere al modello di smettere semplicemente di essere di parte, gli chiedono di immaginare la stessa scena dalla prospettiva di diversi gruppi sociali simultaneamente. Mescolando queste diverse prospettive nel momento in cui la macchina sceglie la sua parola successiva, il sistema può liberarsi dalla dominanza di una singola narrazione stereotipata.

Il nucleo di questo metodo risiede in un'idea semplice ma potente: la diversità favorisce l'equità. Nel mondo reale, se una stanza è piena di persone provenienti da contesti diversi, è meno probabile che la conversazione sia dominata da un unico punto di vista ristretto. I ricercatori hanno applicato questo principio alla mente digitale dell'intelligenza artificiale. Quando il modello guarda un'immagine, come la foto di una persona in un abito formale, solitamente genera un singolo flusso di pensieri basato sul suo addestramento. Il nuovo sistema interviene in questo momento critico creando versioni "controfattuali" della rappresentazione interna dell'immagine. Queste non sono nuove fotografie; sono piuttosto aggiustamenti matematici al modo in cui il computer vede l'immagine, spostando l'attenzione per immaginare la persona come appartenente a un genere o a una razza diversa, mantenendo intatta il resto della scena. Ciò consente al modello di generare un insieme parallelo di previsioni: una per l'immagine originale e altre per ciò che l'immagine potrebbe implicare se la persona appartenesse a un diverso gruppo sociale.

Una volta generate queste molteplici prospettive, il sistema affronta una sfida: come combinarle senza diluire la capacità del modello di essere accurato. I ricercatori hanno scoperto che il conflitto tra questi diversi punti di vista non è uniforme durante l'elaborazione del modello. Alcuni strati della rete neurale, che agiscono come livelli profondi di pensiero, mostrano il maggiore disaccordo tra la visione originale e le visioni controfattuali. Il sistema identifica questi specifici strati dove la tensione è più alta. In questo punto di massima divergenza, il metodo combina attentamente le previsioni. Non si limita a farne una media; al contrario, pesa le opzioni in base alla confidenza. Se il modello è molto sicuro di una parola in una prospettiva ma incerto in un'altra, il sistema dà priorità alla scelta sicura. Ciò garantisce che l'output finale non sia un compromesso confuso, ma una decisione equilibrata che rispetti gli spunti di tutti i diversi punti di vista considerati.

I risultati di questo approccio sono stati testati attraverso diversi benchmark rigorosi progettati per misurare i pregiudizi relativi a occupazioni, descrizioni e tratti personali. In un test relativo al pregiudizio di genere nei titoli professionali, il nuovo metodo ha ridotto il bias di una media del 61,21%, un miglioramento significativo rispetto alle tecniche precedenti. Nei test che misurano gli stereotipi razziali, il pregiudizio è stato ridotto di quasi il 48%. Ad esempio, descrivendo una CEO donna, i metodi più vecchi potrebbero ancora tendere verso aggettivi stereotipati come "attraente", mentre questo nuovo sistema riesce a orientare la descrizione verso termini neutrali e professionali come "competente". Fondamentalmente, i ricercatori hanno scoperto che questa equità non è avvenuta a scapito dell'intelligenza. Il modello ha mantenuto la sua capacità di rispondere a domande generali e di risolvere problemi complessi, con un calo minimo, spesso trascurabile, delle prestazioni complessive. In effetti, in alcuni test di ragionamento, il modello de-biased ha performato leggermente meglio di prima, suggerendo che rimuovere il "rumore" degli stereotipi possa effettivamente aiutare il modello a concentrarsi più chiaramente sui fatti.

Questo lavoro dimostra che l'equità nell'intelligenza artificiale non richiede di scartare la conoscenza del modello o di ricominciare da capo. Introducendo un meccanismo che costringe il sistema a tenere in mente più prospettive contemporaneamente, i ricercatori hanno dimostrato che la macchina può imparare a navigare la complessità della società umana senza ricadere nelle sue abitudini più radicate. Il metodo funziona individuando l'esatto momento in cui la logica interna del modello è più in conflitto e risolvendo tale conflitto con una miscela ponderata di visioni diverse. Sebbene la tecnica richieda attualmente l'accesso ai meccanismi interni del modello, il che ne limita l'uso ai ricercatori e agli sviluppatori piuttosto che agli utenti finali, essa offre una strada promettente. Suggerisce che il futuro di un'IA etica potrebbe non risiedere solo in regole più rigide o dati più puliti, ma nell'insegnare a questi sistemi a pensare con una lente più ampia e inclusiva.