💻 computer science

Assessing the Geographic Diversity of AI's Platial Representations in Image Generation

Dit artikel evalueert de geografische diversiteit van AI-beeldgeneratie door ecologische maatstaven voor soortendiversiteit aan te passen om aan te tonen dat oudere modellen en prompt-revisies vaak een grotere diversiteit opleveren dan nieuwere modellen, terwijl het tegelijkertijd een verontrustende homogeniteit blootlegt in de manier waarop huidige systemen specifieke plaatsen stereotiep representeren.

Oorspronkelijke auteurs: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Gepubliceerd 2026-06-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een groep zeer intelligente, zeer creatieve robots hebt. Je vraagt hen om een afbeelding te tekenen van een specifieke stad, zoals Wenen. Je zou verwachten dat als je 30 verschillende robots vraagt, je 30 verschillende beelden krijgt: sommigen tonen een park, anderen een museum, weer anderen een drukke straat of een beroemde kerk.

Maar dit artikel stelt de vraag: Wat als ze allemaal exact hetzelfde tekenen?

De auteurs van dit onderzoek besloten dit te testen door verschillende AI-modellen (zoals DALL·E en GPT-4o) te vragen om afbeeldingen van Wenen te genereren. Ze keken niet alleen naar de plaatjes; ze keken naar de ideeën achter de plaatjes om te zien of de AI creatief was of gewoon een kapotte grammofoonplaat herhaalde.

Hier is de uitslag van hun bevindingen, uitgelegd met eenvoudige analogieën:

1. Het "Toeristische Folder"-probleem

Wanneer de onderzoekers de AI vroegen om Wenen te tekenen, dacht bijna elk model onmiddellijk aan de Stephansdom. Het was alsof elke robot precies dezelfde toeristische folder in zijn hoofd had.

De bevinding: De AI-modellen waren ongelooflijk "stereotiep". Ze toonden niet de hele stad; ze toonden alleen de meest beroemde, iconische monumenten (zoals de Staatsopera of het Rathaus).
De metafoor: Stel je voor dat je 100 mensen vraagt een bos te beschrijven. Als 90 van hen alleen de hoogste den noemen en de varens, rivieren en rotsen negeren, beschrijven ze niet echt het bos; ze beschrijven slechts het "idee" van een dennenboom. De AI deed precies hetzelfde met Wenen.

2. De verrassing van "Oud versus Nieuw"

Normaal gesproken denken we dat nieuwere technologie altijd beter is. We gaan ervan uit dat het nieuwste AI-model het meest creatief en divers zal zijn.

De bevinding: De auteurs ontdekten iets contra-intuïtiefs. De oudere AI-modellen (zo zoals DALL·E 2) produceerden daadwerkelijk een diverser scala aan afbeeldingen dan de nieuwste modellen. De nieuwste modellen waren juist meer vastgeroest in hun manieren en focusten zwaar op dezelfde paar monumenten.
De metafoor: Het is als een muziekplaylist. Je zou verwachten dat de "Premium 2026"-versie van een muziek-app de meeste variatie heeft. Maar in dit geval speelde de "Premium"-versie alleen de top 3 hits steeds opnieuw af, terwijl de "Basis 2022"-versie juist een bredere mix van nummers speelde.

3. De kloof tussen "Woord en Beeld"

De studie keek naar twee stappen in het proces:

De Prompt: De tekst die de AI schrijft om te beschrijven wat hij gaat tekenen.
De Afbeelding: De daadwerkelijke afbeelding die hij genereert.

De bevinding: De AI was diverser tijdens het schrijven van de beschrijving dan bij het tekenen van de afbeelding.
De metafok: Stel je een chef-kok voor die een menu schrijft met 20 verschillende exotische gerechten (de prompt), maar wanneer hij daadwerkelijk het eten bereidt, serveert hij slechts dezelfde drie basisgerechten (de afbeelding). Het "idee" was divers, maar de "realiteit" was dat niet.

4. Appels en peren tellen (Het wiskundige deel)

Om deze "diversiteit" te meten, leenden de onderzoekers een instrument uit de ecologie (de studie van de natuur).

De oude manier (Hill-getal): Als je een bos hebt met 10 bomen en ze zijn allemaal van een andere soort, dan is dat een hoge diversiteit. Als je 10 bomen hebt en 9 zijn dennen en 1 is een eik, dan is dat een lage diversiteit.
De nieuwe manier (Leinster-Cobbold-getal): De auteurs realiseerden zich dat alleen het tellen van "verschillende" dingen niet genoeg is. Wat als je 10 bomen hebt, maar 5 zijn dennen en 5 zijn sparren? Ze zijn verschillende soorten, maar ze lijken erg veel op elkaar.
De inzichten: Wanneer zij deze "gelijkenis"-wiskunde gebruikten, daalden de diversiteitsscores nog verder. Het bleek dat zelfs wanneer de AI andere monumenten koos, deze vaak slechts verschillende versies van hetzelfde type gebouw waren (bijv. verschillende kerken).
De metafoor: Als je een kind vraagt om 5 verschillende vruchten te kiezen, en het kind kiest een Granny Smith, een Fuji en een Gala-appel, dan kan het kind zeggen: "Ik heb 3 verschillende vruchten gekozen!" Maar een expert weet dat het allemaal appels zijn. De AI koos "andere" monumenten die in fekelijk gewoon verschillende "appels" waren.

5. Waarom moeten we dit belangrijk vinden?

De auteurs betogen dat dit niet slechts een technische fout is; het is een vorm van bias (vooringenomenheid).

Als een AI je altijd dezelfde paar monumenten laat zien wanneer je naar een stad vraagt, creëert dit een smalle, stereotiepe kijk op die plek.
Het riskeert dat de rest van de stad (de lokale wijken, de kleinere parken, de unieke lokale architectuur) onzichtbaar wordt.
De conclusie: Naarmate AI beter wordt in het maken van plaatjes, wordt het misschien juist slechter in het laten zien van de ware, chaotische, diverse realiteit van de wereld. Het wordt een "spiegelpaleis" dat alleen de meest beroemde zaken naar ons terugkaatst.

Kortom: Het paper waarschuwt dat onze AI-beeldgeneratoren "echokamers" voor geografie worden. Ze worden zo goed in het volgen van de massa dat ze vergeten ons de unieke, diverse en minder beroemde delen van de wereld te laten zien.

Technische Samenvatting: Beoordeling van de Geografische Diversiteit in de Platiale Representaties van AI bij Beeldgeneratie

Probleemstelling
Hoewel het gebrek aan diversiteit in Generatieve AI (GenAI) vaak wordt geframed als een ethisch vraagstuk, betoogt dit artikel dat het fundamenteel een geografische informatiewetenschappelijke (GIScience) kwestie is, geworteld in onzekerheid en cognitieve bias. Voorgaand onderzoek heeft de geografische diversiteit in tekstgebaseerde AI-outputs (bijv. chatbots die landen noemen) gekwantificeerd met behulp van informatie-theoretische maten zoals het Hill-getal. Er bestaat echter een aanzienlijke kloof met betrekking tot de geografische diversiteit in AI-beeldgeneratie. In tegenstelling tot tekst, dat getokeniseerd kan worden, bevatten afbeeldingen rijke, hoogdimensionale informatie die semantische segmentatie vereist om constituerende objecten te identificeren. Huidige operationalisaties van geografische diversiteit zijn nog niet toegepast op de multimodale aard van tekst-naar-beeld (T2I) generatie, noch hebben ze rekening gehouden met de gelijkenis tussen geografische entiteiten (bijv. verschillende soorten oriëntatiepunten) binnen de gegenereerde outputs.

Methodologie
De auteurs stellen een raamwerk voor om de geografische diversiteit in AI-beeldgeneratie te meten, waarbij Wenen, Oostenrijk, als casestudy dient. De methodologie bestaat uit drie primaire fasen:

Experimentele Opzet en Datageneratie:
- De studie maakt gebruik van het multimodale ecosysteem van OpenAI, specifiek het GPT-4o large language model (LLM) dat optreedt als een agent om gebruikersprompts te herzien voordat deze naar T2I-modellen (GPT Image 1, GPT Image 1 Mini, GPT Image 1.5) worden gestuurd, evenals standalone T2I-modellen (DALL·E 2, DALL·E 3).
- Een "Genereer een afbeelding van Wenen"-prompt werd 30 keer onafhankelijk ingediend voor elke modelconfiguratie.
- De workflow legt zowel de herziene prompts (verwerkt door het LLM) als de gegenereerde afbeeldingen vast.
Semantische Annotatie en Gelijkenisberekening:
- Identificatie van Oriëntatiepunten: Onderzoekers identificeerden handmatig het primaire oriëntatiepunt in elke herziene prompt (gedefinieerd als het eerste genoemde oriëntatiepunt) en in elke gegenereerde afbeelding (gedefinieerd als het oriëntatiepunt op de voorgrond).
- Mapping naar Kennisbank: De geïdentificeerde oriëntatiepunten werden gemapt naar Wikidata-entiteiten.
- Gewogen Gelijkenis: Om het beperking van standaard diversiteitsmaten aan te pakken — waarbij alle verschillende entiteiten als even verschillend worden beschouwd — berekenden de auteurs een "plaats-type gelijkenis". Met behulp van de Rada-afstand (de kortste padlengte in een semantisch netwerk) binnen Wikidata, berekenden zij de gelijkenis tussen paren oriëntatiepunten. Bijvoorbeeld: twee kerken worden als gelijker beschouwd dan een kerk en een operagebouw.
Diversiteitsmeting:
- Hill-getal ( $^qD$ ): De standaardmaat voor diversiteit (rijkdom en gelijkmatigheid) werd toegepast, waarbij oriëntatiepunten als verschillende soorten (species) werden behandeld.
- Leinster-Cobbold-getal ( $^qD_Z$ ): Een gelijkenisgevoelige uitbreiding van het Hill-getal werd toegepast. Deze metriek incorporeert een gelijkenismatrix ( $Z$ ) afgeleid van de Rada-afstanden. Het stelt dat een gemeenschap van zeer gelijkaardige soorten (of oriëntatiepunten) minder divers is dan een gemeenschap van zeer verschillende soorten, zelfs als de telling en distributie identiek zijn.
- Diversiteitsprofielen: Resultaten werden gevisualiseerd over verschillende ordes van $q$ (waarbij $q=0$ de nadruk legt op rijkdom, $q=1$ Shannon-entropie, en $q=2$ de nadruk legt op gelijkmatigheid).

Belangrijkste Bijdragen

Multimodaal Evaluatiekader: Het artikel toont aan dat het beoordelen van geografische diversiteit in GenAI een meerfasige aanpak vereist die rekening houdt met zowel promptrevisie (LLM-verwerking) als beeldgeneratie (T2I-verwerking), wat de rol van multi-agent systemen benadrukt.
Gelijkenisgevoelige Metrieken: De auteurs introduceren de toepassing van het Leinster-Cobbold-getal op geografische diversiteit. Door hulpbronnen zoals kennisbanken (Wikidata) te integreren om semantische gelijkenis te berekenen, bieden zij een meer holistische maatstaf die de overrepresentatie van semantisch gelijkaardige kenmerken (bijv. meerdere kerken) zwaarder bestraft dan standaard metrieken.
Empirische Casestudy: De studie vormt de eerste empirische analyse van de geografische diversiteit in door AI gegenereerde afbeeldingen, waarbij zij verder gaat dan tekstgebaseerde benchmarks naar visuele representaties van specifieke plaatsen.

Resultaten
De analyse leverde enkele contra-intuïtieve bevindingen op:

Modelprestaties vs. Diversiteit: Nieuwere modellen vertonen niet noodzakelijkerwijs een hogere geografische diversiteit. Zo toonden GPT Image 1 (en de Mini-variant) consequent de laagste diversiteit in beeldgeneratie. Daarentegen vertoonde het oudere DALL·E 2 een hogere diversiteit (specifiek in gelijkmatigheid) dan nieuwere tegenhangers wanneer gelijkenis werd genegeerd.
Prompt vs. Afbeelding Diversiteit: De herziene prompts gegenereerd door de LLM's vertoonden consequent een grotere geografische diversiteit dan de uiteindelijke afbeeldingen geproduceerd door de T2I-modellen. Dit suggereert dat de beeldgeneratiefase een bottleneck of homogeniseringseffect introduceert.
Prototypicaliteit en Homogeniteit: Alle modellen vertoonden een sterk "prototypicaliteitseffect", waarbij ze overweldigend de voorkeur gaven aan de Sint-Stefanuskathedraal. Hoewel de specifieke distributie van andere oriëntatiepunten licht varieerde tussen de modellen, was het gebrek aan diversiteit expliciet en gedeeld.
Impact van Gelijkenis: De Leinster-Cobbold-getallen waren consequent lager dan de Hill-getallen. Dit geeft aan dat hoewel modellen een verscheidenheid aan genoemde oriëntatiepunten kunnen genereren, deze oriëntatiepunten vaak semantisch gelijkaardig zijn (bijv. verschillende soorten kerken of paleizen), wat leidt tot een "diversiteitscollaps" wanneer semantische gelijkenis wordt meegewogen.
Validiteitspercentages: Nieuwere modellen (GPT Image 1.5, GPT Image 1, GPT Image 1 Mini) behaalden 100% validiteit in het genereren van afbeeldingen met identificeerbare oriëntatiepunten, terwijl DALL·E 2 de laagste score behaalde (67%). Echter, de validiteit van de herziene prompts was lager dan die van de afbeeldingen, wat suggereert dat T2I-modellen visuele beschrijvingen van oriëntatiepunten kunnen genereren zonder expliciete linguïstische aanwijzingen in de prompt.

Betekenis en Claims
Het artikel claimt dat geografische diversiteit in GenAI niet alleen gaat over het aantal genoemde plaatsen, maar ook over de platiale representaties — hoe specifieke plaatsen worden afgebeeld en de semantische variëteit van die afbeeldingen.

Voorbij Ethiek: De auteurs framen diversiteit als een functie van onzekerheid en een manifestatie van cognitieve bias (specifiek een vertrouwen op vaste, prototypische geografische categorieën).
Risico op Stereotypering: De geobserveerde homogeniteit brengt het risico met zich mee dat er stereotiepe representaties van plaatsen ontstaan, waarbij complexe steden worden gereduceerd tot een smalle set iconische oriëntatiepunten.
Methodologische Vooruitgang: Door aan te tonen dat het Leinster-Cobbold-getal een dieper gebrek aan diversiteit onthult dan het Hill-getal, betogen de auteurs dat toekomstige evaluaties van GenAI semantische gelijkenis moeten integreren om representatieve bias accuraat te beoordelen.
Oproep tot Actie: De auteurs roepen op tot systematische, plaats-gecentreerde casestudies die verschillende geografische schalen en modaliteiten beslaan om de biases in generatieve (Geo)AI-systemen beter te begrijpen en te kwantificeren, voortbouwend op de literatuur over onzekerheidskwantificering en omgevingsperceptie.