Vision-Language Models Suppress Female Representations Under Ambiguous Input

Sintesi Tecnica: I Modelli Vision-Language Sopprimono le Rappresentazioni Femminili sotto Input Ambigui

Definizione del Problema
Sebbene i moderni modelli Vision-Language (VLM) siano stati allineati per evitare l'espressione di pregiudizi demografici nei loro output quando il genere è visivamente esplicito, rimangono lacune significative per quanto riguarda il loro comportamento sotto input ambigui (ad esempio, figure viste di spalle, volti oscurati o equipaggiamento protettivo completo). L'auditing standard a livello di output suggerisce che questi modelli siano neutrali, spesso rifiutandosi di assegnare un genere o ricorrendo a "una persona". Tuttavia, questo articolo postula che la neutralità dell'output possa mascherare persistenti pregiudizi interni. Nello specifico, gli autori indagano se i VLM codifichino associazioni di genere internamente che differiscono dai loro output testuali finali, in particolare quando gli indizi visivi sono insufficienti per determinare il genere.

Metodologia
Per sondare le rappresentazioni interne senza fare affidamento sulla generazione di output, gli autori introducono LALS (Latent Association Leaning Score), una metrica zero-shot progettata per misurare le associazioni di concetti alla granularità dei singoli token visivi e degli strati della rete.

• Meccanismo LALS: Il metodo proietta gli stati latenti dei token visivi di qualsiasi strato $\ell$ nello spazio di embedding testuale del modello utilizzando la procedura LatentLens. Confrontando questi vettori proiettati con un corpus di riferimento bilanciato di termini associati al genere (ad esempio, "uomo", "padre" rispetto a "donna", "madre"), LALS calcola un punteggio continuo in $[-1, +1]$ per ogni token.
• Aggregazione: I punteggi a livello di immagine sono derivati aggregando il top 5% dei token con la più forte magnitudo del segnale.
• Configurazione Sperimentale: Lo studio valuta quattro VLM open-weight (Qwen2-VL, Qwen2.5-VL, LLaVA-v1.6, InternVL2.5) su un dataset di oltre 800 immagini ambigue di genere in 15 occupazioni (stereotipate maschili, stereotipate femminili e neutrali).
• Analisi Comparativa: Gli autori confrontano i punteggi interni LALS con gli output generati dai modelli sotto due condizioni di prompting: descrizione aperta e scelta forzata (FC - forced-choice) di indovinare il genere. Conducono inoltre studi di ablazione sulla manipolazione del colore (ad esempio, cambiando l'abbigliamento da blu a rosa) e confronti tra modelli base e istruiti (instruction-tuned).

Contributi Chiave e Risultati

1. Decoupling tra Rappresentazioni Interne e Output:
   Lo studio identifica una divergenza sistematica in cui i modelli codificano internamente associazioni femminili per certe occupazioni, ma generano output di tipo "default maschile" sotto prompting a scelta forzata. Questo "regime di divergenza" include occupazioni come fioristi, insegnanti di asilo e babysitter. Mentre i prompt aperti producono risposte neutrali, i prompt a scelta forzata innescano un "collasso verso il maschile" (male-mode collapse), dove i modelli scelgono di default il maschile anche per ruoli fortemente stereotipati come femminili (ad esempio, infermiere, parrucchiere), nonostante i segnali interni suggeriscano il contrario.

2. Meccanismo di Filtraggio Asimmetrico:
   L'analisi degli strati dei punteggi LALS rivela un filtro asimmetrico all'interno dell'architettura della rete:

   • Segnali Maschili: Si amplificano o rimangono stabili dagli strati iniziali a quelli finali, attraversando la rete end-to-end.
   • Segnali Femminili: Raggiungono il picco negli strati medi-finali, ma vengono sistematicamente soppressi o collassano verso lo zero (o verso territori negativi/maschili) prima dello strato di generazione finale.
     Questa soppressione spiega perché le rappresentazioni interne associate al femminile non riescono a manifestarsi nell'output finale per input ambigui.

3. Influenza di Indizi Visivi Culturalmente Carichi:
   Gli esperimenti di ablazione del colore dimostrano che le associazioni interne sono modulate da specifici indizi visivi. Cambiare il cappello di un operaio edile o la divisa di un infermiere da blu a rosa riduce significamente il segnale maschile interno o aumenta, rispettivamente, il segnale femminile. Ciò suggerisce che i modelli abbiano interiorizzato le associazioni culturali tra colore e genere presenti nei dati di addestramento.

4. Origine del Pregiudizio:
   Il filtraggio asimmetrico non è un artefatto dell'instruction tuning (RLHF). I confronti tra modelli base e istruiti mostrano che la soppressione dei segnali femminili esiste nel modello base ed è solo amplificata dall'allineamento, non creato da esso. Inoltre, il pregiudizio ha origine nel percorso visivo; i prompt solo testuali per le stesse occupazioni mostrano un'amplificazione del segnale femminile negli strati finali, l'opposto del collasso osservato nel percorso visivo.

Significatività e Rivendicazioni
Il documento sostiene che l'auditing a livello di output sia insufficiente per valutare l'equità dei VLM, specialmente in scenari ad alto rischio che coinvolgono input ambigui (ad esempio, sorveglianza, strumenti assistenziali). Gli autori affermano che:

• L'allineamento maschera piuttosto che eliminare il pregiudizio: I modelli imparano a sopprimere l'espressione delle loro rappresentazioni interne distorte senza rimuovere le rappresentazioni stesse.
• Le rappresentazioni interne guidano i rischi a valle: Poiché gli embedding dei VLM sono sempre più utilizzati come feature per la ricerca di immagini, il ranking dei contenuti e gli strumenti di assunzione, i segnali interni distorti si propagano attraverso questi sistemi indipendentemente dall'output testuale finale del modello.
• LALS come strumento di auditing: LALS fornisce un metodo zero-shot e senza etichette per rilevare questi pregiudizi nascosti, offrendo una visione più granulare di come le associazioni demografiche evolvono attraverso la rete.

Gli autori concludono che il "default maschile" osservato in scenari ambigui è una proprietà strutturale dell'elaborazione visiva del modello, radicata nei dati di pre-addestramento e rinforzata dal filtraggio asimmetrico dei segnali di genere da parte della rete, piuttosto che un semplice fallimento dell'allineamento.