IndicFairFace: Balanced Indian Face Dataset for Auditing and Mitigating Geographical Bias in Vision-Language Models

1. Il Problema: Bias Geografico nei Modelli Vision-Language (VLM)

I Modelli Vision-Language (VLM), come CLIP e le sue varianti, hanno rivoluzionato l'elaborazione multimodale, ma ereditano e amplificano i bias sociali presenti nei loro dati di addestramento su larga scala. Sebbene esistano dataset focalizzati sull'equità demografica (es. FairFace, UTKFace), questi tendono a trattare la categoria "Indiano" come un blocco monolitico, ignorando la vasta diversità intranazionale dell'India.

• La Limitazione: L'India è composta da 28 stati e 8 Territori dell'Unione, con una diversità facciale significativa. I modelli attuali, addestrati su dati occidentali o non bilanciati, associano il concetto di "indianità" a un ristretto gruppo di stati (spesso del Nord-Ovest e del Sud), marginalizzando regioni come il Nord-Est, le isole e le zone tribali.
• Il Rischio: Questo bias geografico porta a danni di rappresentazione e allocazione in applicazioni critiche come la verifica dell'identità, il reclutamento automatizzato e i sistemi di raccomandazione.

2. Metodologia e Contributi Chiave

Il lavoro propone un approccio in tre fasi per affrontare il problema: creazione di un dataset, audit del bias e mitigazione.

A. IndicFairFace: Il Dataset Bilanciato

Gli autori hanno creato IndicFairFace, il primo dataset di volti bilanciato geograficamente specifico per il contesto indiano.

• Composizione: 14.400 immagini (7.200 originali bilanciate + 7.200 aumentate).
• Bilanciamento: Le immagini sono distribuite uniformemente tra i 28 stati e gli 8 Territori dell'Unione dell'India, con parità di genere (uomini e donne).
• Sorgenti dei Dati:
  • Wikimedia Commons: Utilizzo di query SPARQL su Wikidata per estrarre immagini con metadati geolocalizzati precisi (luogo di nascita, residenza, istruzione).
  • Web Scraping (SerpAPI): Integrato per stati con copertura insufficiente su Wikimedia (es. Mizoram, Tripura, Ladakh), utilizzando query specifiche per stato e genere.
• Preprocessing: Un pipeline rigorosa basata su OpenCV e YOLOv8 per il rilevamento dei volti, il filtraggio delle immagini in bianco e nero, la rimozione di volti sintetici/cartoon e la validazione della tonalità della pelle (maschera HSV). Le immagini sono ritagliate con un padding del 20% e ridimensionate a 512x512 pixel.

B. Audit del Bias

Gli autori hanno testato diversi VLM basati su CLIP (OpenAI CLIP, OpenCLIP, SigLIP, MetaCLIP, MobileCLIP, OpenVision) utilizzando prompt testuali come "Indian person", "Indian male", "Indian female".

• Metriche: Sono stati utilizzati la similarità media per categoria, la deviazione standard delle similarità tra stati e il punteggio di divergenza Jensen-Shannon (JSD) per quantificare quanto la distribuzione delle immagini recuperate si discosti da una distribuzione uniforme.
• Risultati Iniziali: I modelli mostravano un forte bias: stati come Rajasthan, Uttar Pradesh, Tamil Nadu e Gujarat dominavano le recuperazioni (fino al 45-50% dei risultati), mentre regioni come il Nord-Est (Nagaland, Mizoram, ecc.) apparivano meno dell'0,5% o per nulla.

C. Mitigazione del Bias (Debiasing)

Per correggere il bias senza ri-addestrare i modelli da zero, è stato adottato un approccio post-hoc:

1. Iterative Nullspace Projection (INLP): Identifica le direzioni lineari nello spazio di embedding che separano gli stati sovrarappresentati da quelli sottorappresentati e proietta i vettori su un sottospazio ortogonale a queste direzioni, rimuovendo il componente geografico.
2. Spherical Linear Interpolation (SLERP): Utilizzato per controllare la forza della proiezione, evitando una correzione eccessiva che potrebbe distorcere le relazioni semantiche.
3. Similarity Compensation: Un meccanismo aggiuntivo per riallineare gli embedding debiasati ai vettori concettuali originali (es. "Indian person"), preservando l'utilità semantica.

3. Risultati Sperimentali

• Riduzione del Bias Geografico: Dopo l'applicazione della pipeline di debiasing, la distribuzione delle immagini recuperate è diventata significativamente più uniforme. La deviazione standard delle similarità medie tra gli stati è diminuita, e stati precedentemente invisibili (Nord-Est) sono comparsi regolarmente nei risultati top-500. La varianza inter-stato è stata ridotta di circa il 37%.
• Preservazione delle Prestazioni (Generalizzazione): Un punto cruciale del lavoro è dimostrare che la rimozione del bias non degrada le prestazioni generali del modello.
  • I modelli debiasati sono stati testati su 35 benchmark di classificazione esterni (ImageNet, CIFAR, Caltech, ecc.).
  • Risultato: La caduta di accuratezza è stata trascurabile (< 1,5%), e in alcuni casi si sono osservati lievi miglioramenti. Questo conferma che lo spazio di bias identificato è ortogonale agli assi semantici principali.
• Simulazione di Task a Rischio: In una simulazione di reclutamento (distinguere candidati indiani da stranieri), i modelli originali fallivano nel riconoscere candidati dagli stati "a rischio" (Nord-Est), mentre i modelli debiasati hanno raggiunto un'accuratezza vicina al 100% per tutti gli stati.

4. Significato e Impatto

Questo lavoro rappresenta un passo fondamentale per l'equità nell'IA multimodale in contesti non occidentali:

1. Primo Benchmark Geografico: IndicFairFace è il primo dataset che permette di auditare e mitigare il bias geografico intra-nazionale per l'India, superando la visione monolitica delle razze/etnie.
2. Validazione della Mitigazione: Dimostra che è possibile correggere bias specifici (geografici) senza sacrificare l'utilità del modello su compiti generali, un argomento spesso dibattuto nella letteratura sull'equità.
3. Implicazioni Etiche: Fornisce strumenti pratici per sviluppare sistemi di visione artificiale più equi per applicazioni sensibili in India, riducendo il rischio di discriminazione algoritmica contro regioni marginalizzate.
4. Riproducibilità: Il codice e il dataset sono stati resi pubblici, incoraggiando ulteriori ricerche su bias intersezionali e culturali nei sistemi multimodali.

In sintesi, il paper offre una soluzione tecnica robusta per un problema sociale complesso, combinando la creazione di dati etici con metodi matematici avanzati per la correzione dei bias negli spazi di embedding.