Where Do Images Come From? Analyzing Captions to Geographically Profile Datasets
Dit onderzoek analyseert de geografische vertegenwoordiging in grote tekst-naar-beeld datasets en concludeert dat deze sterk vertekend zijn richting welvarende, Engelstalige landen, wat leidt tot een gebrek aan wereldwijde diversiteit in gegenereerde beelden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme, wereldwijde bibliotheek hebt met miljarden foto's en bijbehorende beschrijvingen. Deze bibliotheek is de "voedingsbron" voor de slimme AI-modellen die we tegenwoordig gebruiken (zoals die tools die tekeningen maken op basis van tekst).
Maar er is een probleem: de bibliotheek is een beetje een eenzijdige verzamelaar.
Dit onderzoek, "Where Do Images Come From?", heeft onderzocht waar die foto's eigenlijk vandaan komen. En het antwoord is een beetje teleurstellend. Hier is de uitleg in begrijpelijke taal:
1. De "Westerse Bril" van de AI (De Bias)
Stel je voor dat je een wereldreis wilt maken, maar je enige reisgids is een toerist uit de Verenigde Staten die alleen maar foto's heeft gemaakt van New York, Londen en Toronto. Als je die gids vraagt: "Laat me een foto zien van een huis," laat hij je een typisch Amerikaans huis met een witte veranda zien. Hij vergeet dat huizen in Nigeria, Brazilië of Vietnam er totaal anders uitzien.
Dat is precies wat er met AI gebeurt. De onderzoekers ontdekten dat bijna de helft van alle foto's in de grote datasets uit de VS, het VK en Canada komt. Landen in Afrika en Zuid-Amerika zijn bijna niet aanwezig (slechts een fractie van een procent!).
De metafoor: Het is alsof je probeert de hele wereld te leren kennen door alleen maar naar een Instagram-feed van een paar rijke influencers te kijken. Je krijgt een heel vertekend beeld van wat "normaal" is.
2. Geld bepaalt wat de AI "ziet"
De onderzoekers ontdekten een opvallende link: hoe rijker een land, hoe meer foto's het heeft in de dataset. Er is een sterke correlatie tussen het Bruto Nationaal Product (BNP) en de aanwezigheid van beelden.
De metafoor: De AI heeft een "portemonnee-filter". Landen met veel geld en een sterke internetverbinding schreeuwen harder om aandacht in de digitale wereld, waardoor de AI denkt dat de wereld vooral uit rijke landen bestaat.
3. De "Kopieer-en-Plak" valkuil (Gebrek aan diversiteit)
Zelfs als een land wel in de dataset voorkomt, is het vaak nog steeds saai. De onderzoekers keken naar de diversiteit. Ze ontdekten dat AI-modellen vaak in een herhaling vallen. Als je een AI vraagt om een auto in India te tekenen, tekent hij vaak een oud, kapot voertuig. Dat is een stereotype.
De metafoor: Het is alsof je een kunstenaar vraagt om "een Mexicaan" te tekenen, en hij tekent elke keer exact hetzelfde plaatje met een sombrero. De AI begrijpt de echte, kleurrijke en diverse realiteit van een land niet; hij grijpt naar de makkelijkste, meest clichématige versie die hij heeft geleerd.
4. Waarom is dit belangrijk?
Als we AI-systemen gebruiken in de echte wereld — bijvoorbeeld voor medische diagnoses, zelfrijdende auto's of het begrijpen van cultuur — en die systemen zijn getraind op een eenzijdige wereld, dan maken ze fouten. Een zelfrijdende auto die alleen "Amerikaanse wegen" heeft gezien, begrijpt misschien de chaos van een straat in Lagos niet.
De conclusie in één zin:
De AI kijkt naar de wereld door een heel smalle, westerse sleutelgat, en we moeten die sleutel groter maken zodat de hele wereld erdoorheen past.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.