IndicFairFace: Balanced Indian Face Dataset for Auditing and Mitigating Geographical Bias in Vision-Language Models

Titel

IndicFairFace: Een gebalanceerd Indiaas gezichtdataset voor het auditeren en mitigeren van geografische bias in Vision-Language Models (VLMs).

1. Het Probleem

Vision-Language Models (VLMs), zoals CLIP en zijn varianten, hebben aanzienlijke vooruitgang geboekt in multimodale taken. Echter, deze modellen erven en versterken vaak maatschappelijke vooroordelen uit hun trainingsdata, die voornamelijk westers zijn.

• Monolithische representatie: Bestaande eerlijkheidsdatasets (zoals FairFace) behandelen "Indiaas" vaak als één homogene categorie. Dit negeert de enorme binnenlandse diversiteit van India, dat bestaat uit 28 staten en 8 Unieterritoria.
• Geografische bias: VLMs vertonen een systematische bias waarbij ze bepaalde regio's (voornamelijk Noord-West en Zuid, zoals Rajasthan, Uttar Pradesh en Tamil Nadu) oververtegenwoordigen, terwijl andere gebieden (zoals het Noordoosten, Himalaya-regio's en eilandterritoria) ondervertegenwoordigd of volledig afwezig zijn.
• Gevolgen: Deze vertekende weergave leidt tot representatieschade en kan ethische risico's met zich meebrengen bij toepassingen zoals identiteitsverificatie, rekrutering en aanbevelingssystemen.

2. Methodologie

De auteurs hanteren een drie-trapsbenadering: datasetcreatie, bias-audit en debiasing.

A. Datasetcreatie: IndicFairFace

Om de bestaande lacune op te vullen, hebben de auteurs IndicFairFace ontwikkeld, het eerste gezichtdataset dat specifiek is ontworpen voor geografische balans binnen India.

• Bronnen: Afbeeldingen zijn ethisch verzameld via Wikimedia Commons (via SPARQL-query's op Wikidata) en aangevuld met gecontroleerde web-scraping (SerpAPI) voor staten met weinig openbare data.
• Balans: Het dataset bevat 14.400 afbeeldingen (na augmentatie), gelijkmatig verdeeld over de 28 staten en 8 Unieterritoria, met een perfecte genderbalans (man/vrouw).
• Preprocessing: Een robuuste pipeline (OpenCV, YOLOv8) werd gebruikt voor gezichtsdetectie, het verwijderen van grijstinten/tekeningen, en het standaardiseren van de afbeeldingen naar 512x512 pixels.
• Augmentatie: Voor staten met onvoldoende data werden milde transformaties (rotatie, kleurvariatie) toegepast om de balans te behouden zonder de authenticiteit te schaden.

B. Bias Audit

De auteurs hebben diverse CLIP-gebaseerde VLMs (o.a. OpenCLIP, SigLIP, MetaCLIP, MobileCLIP) getest.

• Prompting: Ze gebruikten prompts zoals "An Indian person", "An Indian male" en "An Indian female".
• Meting: Ze analyseerden de verdeling van de top-500 geretrieveerde afbeeldingen per staat. De resultaten toonden aan dat een handvol staten meer dan 45-50% van de resultaten domineerde, terwijl het Noordoosten vaak minder dan 0,5% vertegenwoordigde.

C. Debiasing (Mitigatie)

Om de bias te verhelpen, werd een post-hoc debiasingstrategie toegepast zonder het model opnieuw te trainen:

• Iterative Nullspace Projection (INLP): Deze methode identificeert lineaire klassificatoren die gezichtsembeddings van verschillende staten van elkaar onderscheiden. De bias-richtingen worden vervolgens projectie-technisch verwijderd uit de embedding-ruimte (projectie op de nulruimte).
• SLERP (Spherical Linear Interpolation): Om te voorkomen dat de semantische betekenis te veel verloren gaat, wordt de projectie gecontroleerd via SLERP. Dit zorgt voor een afweging tussen eerlijkheid en nuttigheid.
• Similariteitscompensatie: Een aanpassing wordt toegevoegd om ervoor te zorgen dat de gedebiasde embeddings semantisch dicht bij het oorspronkelijke concept (bijv. "Indiaas persoon") blijven.

3. Belangrijkste Resultaten

• Vermindering van Bias: Na toepassing van de debiasing nam de variatie in gemiddelde similariteitsscores tussen de staten met ongeveer 37% af. De verdeling van de geretrieveerde afbeeldingen werd aanzienlijk uniformer; ondervertegenwoordigde regio's zoals Nagaland en Mizoram verschenen nu consistent in de resultaten.
• Behoud van Modelprestaties: Een kritieke bevinding is dat de debiasing de algemene prestaties van de modellen nauwelijks negatief beïnvloedt.
  • De daling in retrieval-accuraatheid op externe benchmarks (zoals ImageNet, CIFAR) was minder dan 1,5%.
  • In sommige gevallen zelfs een lichte verbetering.
• Downstream Toepassing: In een simulatie van een rekruteringsproces (onderscheiden tussen Indiase en niet-Indiase kandidaten) verbeterde de debiasing de nauwkeurigheid voor "risicovolle" staten (die eerder vaak als "niet-Indiaas" werden geclassificeerd) aanzienlijk, vaak tot 100% correcte classificatie.

4. Belangrijkste Bijdragen

1. IndicFairFace Dataset: De introductie van het eerste openbare, geografisch gebalanceerde gezichtdataset voor India, dat de interne diversiteit van het land respecteert.
2. Empirisch Bewijs van Bias: Kwantificering van de geografische bias in toonaangevende VLMs, wat aantoont dat het concept "Indiase identiteit" in AI-systemen momenteel sterk vertekend is.
3. Effectieve Debiasing Framework: Een bewezen methode (INLP + SLERP) die geografische bias effectief verwijdert zonder de fundamentele semantische vaardigheden van het model te beschadigen.
4. Benchmark voor Toekomstig Onderzoek: Het stellen van een nieuwe standaard voor het auditeren van inter-nationale bias in multimodale modellen.

5. Betekenis en Conclusie

Dit werk is van groot belang voor de ontwikkeling van eerlijke AI-systemen in niet-westerse contexten. Het benadrukt dat "diversiteit" niet alleen gaat om ras of geslacht, maar ook om geografische representatie binnen landen met grote interne diversiteit.

De auteurs concluderen dat IndicFairFace een fundament legt voor regionaal bewust eerlijkheidsauditing. De voorgestelde aanpak biedt een praktische oplossing voor ontwikkelaars om bias te mitigeren in bestaande modellen, wat essentieel is voor het vertrouwen en de rechtvaardigheid van AI-toepassingen in India en vergelijkbare regio's wereldwijd. De dataset en code zijn openbaar beschikbaar gesteld via GitHub.