💻 computer science

Assessing the Geographic Diversity of AI's Platial Representations in Image Generation

Diese Arbeit bewertet die geografische Diversität der KI-Bildgenerierung durch die Anpassung ökologischer Artendiversitätsmaße und zeigt auf, dass ältere Modelle und Prompt-Revisionen oft eine größere Diversität hervorbringen als neuere Modelle, während sie gleichzeitig eine besorgniserregende Homogenität in der Art und Weise offenlegt, wie aktuelle Systeme spezifische Orte stereotyp darzustellen pflegen.

Ursprüngliche Autoren: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Veröffentlicht 2026-06-05

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben eine Gruppe sehr intelligenter, sehr kreativer Roboter. Sie bitten sie, ein Bild einer bestimmten Stadt zu zeichnen, wie zum Beispiel Wien. Sie würden erwarten, dass Sie, wenn Sie 30 verschiedene Roboter fragen, 30 verschiedene Ansichten erhalten: Einige zeigen einen Park, andere ein Museum, wieder andere eine belebte Straße oder eine berühmte Kirche.

Aber diese Arbeit stellt die Frage: Was wäre, wenn sie alle exakt das Gleiche zeichnen würden?

Die Autoren dieser Studie beschlossen, dies zu testen, indem sie verschiedene KI-Modelle (wie DALL·E und GPT-4o) baten, Bilder von Wien zu generieren. Sie betrachteten nicht nur die Bilder; sie untersuchten die Ideen hinter den Bildern, um zu sehen, ob die KI kreativ war oder nur eine kaputte Schallplatte wiederholte.

Hier ist die Aufschlüsselung ihrer Ergebnisse, unter Verwendung einfacher Analogien:

1. Das „Touristenprospekt“-Problem

Als die Forscher die KI baten, Wien zu zeichnen, dachte fast jedes einzelne Modell sofort an den Stephansdom. Es war, als hätten alle Roboter exakt denselben Touristenprospet in ihrem Kopf.

Das Ergebnis: Die KI-Modelle waren unglaublich „stereotyp“. Sie zeigten nicht die ganze Stadt; sie zeigten nur die berühmtesten, ikonischsten Wahrzeichen (wie die Staatsoper oder das Rathaus).
Die Metapher: Stellen Sie sich vor, Sie bitten 100 Menschen, einen Wald zu beschreiben. Wenn 90 von ihnen nur die höchste Kiefer erwähnen und die Farne, die Flüsse und die Felsen ignorieren, beschreiben sie nicht wirklich den Wald; sie beschreiben nur die „Idee“ einer Kiefer. Die KI tat bei Wien genau dasselbe.

2. Die Überraschung: „Alt vs. Neu“

Normalerweise denken wir, dass neuere Technologie immer besser ist. Wir nehmen an, dass das neueste KI-Modell am kreativsten und vielfältigsten sein würde.

Das Ergebnis: Die Autoren fanden etwas Kontraintuitives heraus. Die älteren KI-Modelle (wie DALL·E 2) produzierten tatsächlich eine vielfältigere Menge an Bildern als die neuesten. Die neuesten Modelle waren tatsächlich stärker in ihren festgefahrenen Bahnen und konzentrierten sich stark auf dieselben wenigen Wahrzeichen.
Die Metapher: Es ist wie eine Musik-Playlist. Man erwartet vielleicht, dass die „Premium 2026“-Version einer Musik-App die größte Vielfalt bietet. Aber in diesem Fall spielte die „Premium“-Version immer wieder nur die Top-3-Hits, während die „Basic 2022“-Version tatsächlich eine breitere Mischung aus Liedern spielte.

3. Die Lücke zwischen „Wort und Bild“

Die Studie untersuchte zwei Schritte im Prozess:

Der Prompt: Der Text, den die KI schreibt, um zu beschreiben, was sie zeichnen wird.
Das Bild: Das tatsächliche Bild, das sie generiert.

Das Ergebnis: Die KI war vielfältiger, wenn sie die Beschreibung schrieb, als wenn sie das Bild zeichnete.
Die Metapher: Stellen Sie sich einen Koch vor, der eine Speisekarte mit 20 verschiedenen exotischen Gerichten (der Prompt) schreibt, aber wenn er das Essen tatsächlich zubereitet, serviert er nur dieselben drei Grundgerichte (das Bild). Die „Idee“ war vielfältig, aber die „Realität“ war es nicht.

4. Äpfel und Birnen zählen (Der mathematische Teil)

Um diese „Vielfalt“ zu messen, liehen sich die Forscher ein Werkzeug aus der Ökologie (der Lehre von der Natur).

Der alte Weg (Hill-Zahl): Wenn man einen Wald mit 10 Bäumen hat und dies alles verschiedene Arten sind, ist das eine hohe Diversität. Wenn man 10 Bäume hat und 9 davon Kiefern und einer eine Eiche ist, ist das eine geringe Diversität.
Der neue Weg (Leinster-Cobbold-Zahl): Die Autoren erkannten, dass es nicht ausreicht, nur nach „verschiedenen“ Dingen zu zählen. Was ist, wenn man 10 Bäume hat, aber 5 Kiefern und 5 Fichten? Sie sind zwar verschiedene Arten, aber sie sind sich sehr ähnlich.
Die Erkenntnis: Als sie diese „Ähnlichkeits“-Mathematik anwandten, sanken die Diversitätswerte noch weiter. Es stellte sich heraus, dass selbst wenn die KI unterschiedliche Wahrzeichen wählte, diese oft nur verschiedene Versionen desselben Gebäudetyps waren (z. B. verschiedene Kirchen).
Die Metapher: Wenn Sie ein Kind bitten, 5 verschiedene Früchte auszuwählen, und es wählt eine Granny Smith, eine Fuji und eine Gala-Apfel aus, könnte es sagen: „Ich habe 3 verschiedene Früchte ausgewählt!“ Aber ein Experte weiß, dass es alles nur Äpfel sind. Die KI wählte „unterschiedliche“ Wahrzeichen, die in Wirklichkeit nur verschiedene „Äpfel“ waren.

5. Warum sollten uns das interessieren?

Die Autoren argumentieren, dass dies nicht nur ein technischer Fehler ist, sondern eine Form von Bias (Voreingenommenheit).

Wenn eine KI bei der Frage nach einer Stadt immer nur dieselben wenigen Wahrzeichen zeigt, erzeugt dies ein engstirniges, stereotypes Bild dieses Ortes.
Es besteht das Risiko, dass der Rest der Stadt (die lokalen Viertel, die kleineren Parks, die einzigartige lokale Architektur) unsichtbar wird.
Das Fazit: Während KI immer besser darin wird, Bilder zu erstellen, wird sie möglicherweise sogar schlechter darin, uns die wahre, chaotische, vielfältige Realität der Welt zu zeigen. Sie entwickelt sich zu einem „Spiegelkabinett“, das uns nur die berühmtesten Dinge zurückwirft.

Kurz gesagt: Das Paper warnt davor, dass unsere KI-Bildgeneratoren zu „Echo-Kammern“ für Geografie werden. Sie werden so gut darin, der Masse zu folgen, dass sie vergessen, uns die einzigartigen, vielfältigen und weniger berühmten Teile der Welt zu zeigen.

Technisches Resümee: Bewertung der geografischen Diversität der platialen Repräsentationen von KI in der Bildgenerierung

Problemstellung
Während der Mangel an Diversität in der generativen KI (GenAI) oft als ethisches Problem gerahmt wird, argumentiert dieses Paper, dass es sich grundlegend um ein Problem der geografischen Informationswissenschaft (GIScience) handelt, das in Unsicherheit und kognitiver Verzerrung wurzelt. Bisherige Forschungen haben die geografische Diversität in textbasierten KI-Outputs (z. B. Chatbots, die Länder benennen) unter Verwendung informationstheoretischer Maße wie der Hill-Zahl quantifiziert. Es besteht jedoch eine signifikante Lücke hinsichtlich der geografischen Diversität in der KI-Bildgenerierung. Im Gegensatz zu Text, der tokenisiert werden kann, enthalten Bilder reichhaltige, hochdimensionale Informationen, die eine semantische Segmentierung erfordern, um konstituente Objekte zu identifizieren. Aktuelle Operationalisierungen der geografischen Diversität wurden weder auf die multimodale Natur der Text-zu-Bild-Generierung (T2I) angewendet, noch haben sie die Ähnlichkeit zwischen geografischen Entitäten (z. B. verschiedene Arten von Wahrzeichen) innerhalb der generierten Outputs berücksichtigt.

Methodik
Die Autoren schlagen ein Framework vor, um die geografische Diversität in der KI-Bildgenerierung zu messen, wobei Wien, Österreich, als Fallstudie dient. Die Methodik umfasst drei primäre Phasen:

Experimentelles Setup und Datengenerierung:
- Die Studie nutzt das multimodale Ökosystem von OpenAI, spezifisch das Large Language Model (LLM) GPT-4o, das als Agent fungiert, um Benutzer-Prompts vor dem Aufruf von T2I-Modellen (GPT Image 1, GPT Image 1 Mini, GPT Image 1.5) zu revidieren, sowie eigenständige T2I-Modelle (DALL·E 2, DALL·E 3).
- Ein „Generate an image of Vienna“-Prompt wurde über 30 unabhängige Sitzungen für jede Modellkonfiguration eingereicht.
- Der Workflow erfasst sowohl die revidierten Prompts (verarbeitet durch das LLM) als auch die generierten Bilder.
Semantische Annotation und Berechnung der Ähnlichkeit:
- Identifizierung von Wahrzeichen: Forscher identifizierten manuell das primäre Wahrzeichen in jedem revidierten Prompt (definiert als das zuerst genannte Wahrzeichen) und in jedem generierten Bild (definiert als das Vordergrund-Wahrzeichen).
- Mapping auf Wissensdatenbanken: Identifizierte Wahrzeichen wurden auf Wikidata-Entitäten abgebildet.
- Ähnlichkeitsgewichtung: Um die Einschränkung Standard-Diversitätsmaße zu adressieren, die alle distinkten Entitäten als gleichermaßen verschieden behandeln, berechneten die Autoren eine „Typ-Ähnlichkeit von Orten“ (place-type similarity). Unter Verwendung der Rada-Distanz (kürzeste Pfadlänge in einem semantischen Netzwerk) innerhalb von Wikidata berechneten sie die Ähnlichkeit zwischen Landmarken-Paaren. Beispielsweise werden zwei Kirchen als ähnlicher betrachtet als eine Kirche und ein Opernhaus.
Messung der Diversität:
- Hill-Zahl ( $^qD$ ): Das Standardmaß für Diversität (Artenreichtum und Gleichmäßigkeit) wurde angewendet, indem Wahrzeichen als distinkte Arten behandelt wurden.
- Leinster-Cobbold-Zahl ( $^qD_Z$ ): Eine ähnlichkeitssensitive Erweiterung der Hill-Zahl wurde angewendet. Diese Metrik bezieht eine Ähnlichkeitsmatrix ( $Z$ ) ein, die aus den Rada-Distanzen abgeleitet wurde. Sie postuliert, dass eine Gemeinschaft hochgradig ähnlicher Arten (oder Wahrzeichen) weniger divers ist als eine Gemeinschaft mit hochgradig distinkten Arten, selbst wenn die Anzahl und Verteilung identisch sind.
- Diversitätsprofile: Die Ergebnisse wurden über verschiedene Ordnungen von $q$ visualisiert (wobei $q=0$ den Artenreichtum betont, $q=1$ die Shannon-Entropie und $q=2$ die Gleichmäßigkeit).

Wesentliche Beiträge

Multimodales Evaluierungs-Framework: Das Paper zeigt, dass die Bewertung der geografischen Diversität in GenAI einen mehrstufigen Ansatz erfordert, der sowohl die Prompt-Revision (LLM-Verarbeitung) als auch die Bildgenerierung (T2I-Verarbeitung) berücksichtigt, und hebt die Rolle von Multi-Agenten-Systemen hervor.
Ähnlichkeitssensitive Metriken: Die Autoren führen die Anwendung der Leinster-Cobbold-Zahl auf die geografische Diversität ein. Durch die Integration externer Wissensdatenbanken (Wikidata) zur Berechnung der semantischen Ähnlichkeit bieten sie ein ganzheitlicheres Maß, das die Überrepräsentation semantisch ähnlicher Merkmale (z. B. mehrere verschiedene Kirchen) stärker sanktioniert als Standardmaße.
Empirische Fallstudie: Die Studie stellt die erste empirische Analyse der geografischen Diversität in KI-generierten Bildern dar und bewegt sich damit über textbasierte Benchmarks hinaus zu den visuellen Repräsentationen spezifischer Orte.

Ergebnisse
Die Analyse lieferte mehrere kontraintuitive Befunde:

Modellleistung vs. Diversität: Neuere Modelle weisen nicht zwangsläufig eine höhere geografische Diversität auf. So zeigten beispielsweise GPT Image 1 (und seine Mini-Variante) konsistent die geringste Diversität in der Bildgenerierung. Umgekehrt wies das ältere DALL·E 2 eine höhere Diversität (speziell in der Gleichmäßigkeit) als neuere Gegenstücke auf, wenn die Ähnlichkeit ignoriert wurde.
Prompt- vs. Bild-Diversität: Die von den LLMs revidierten Prompts wiesen konsistent eine größere geografische Diversität auf als die von den T2I-Modellen erzeugten finalen Bilder. Dies deutet darauf hin, dass die Bildgenerierungsphase einen Flaschenhals oder einen Homogenisierungseffekt einführt.
Prototypikalität und Homogenität: Alle Modelle zeigten einen starken „Prototypikalitätseffekt“, der den Stephansdom überwältigend bevorzugte. Während die spezifische Verteilung anderer Wahrzeichen zwischen den Modellen leicht variierte, war der Mangel an Diversität explizit und geteilt.
Einfluss der Ähnlichkeit: Die Leinster-Cobbold-Zahlen waren konsistent niedriger als die Hill-Zahlen. Dies deutet darauf hin, dass Modelle zwar eine Vielzahl von benannten Wahrzeichen generieren mögen, diese Wahrzeichen jedoch oft semantisch ähnlich sind (z. B. verschiedene Arten von Kirchen oder Palästen), was zu einem „Diversitätskollaps“ führt, sobald die semantische Ähnlichkeit berücksichtigt wird.
Validitätsraten: Neuere Modelle (GPT Image 1.5, GPT Image 1, GPT Image 1 Mini) erreichten eine 100%ige Validität bei der Erzeugung von Bildern mit identifizierbaren Wahrzeichen, während DALL·E 2 mit 67% die niedrigste Rate aufwies. Jedoch war die Validität der revidierten Prompts geringer als die der Bilder, was darauf hindeutet, dass T2I-Modelle visuelle Beschreibungen von Wahrzeichen generieren können, ohne dass explizite linguistische Hinweise im Prompt vorliegen müssen.

Bedeutung und Behauptungen
Das Paper behauptet, dass geografische Diversität in GenAI nicht nur über die Anzahl der erwähnten Orte entscheidet, sondern auch über die platialen Repräsentationen – also wie spezifische Orte dargestellt werden und welche semantische Varietät diese Darstellungen aufweisen.

Jenseits der Ethik: Die Autoren rahmen Diversität als eine Funktion von Unsicherheit und als Manifestation kognitiver Verzerrung (speziell einer Abhängigkeit von festen, prototypischen geografischen Kategorien).
Risiko der Stereotypisierung: Die beobachtete Homogenität birgt das Risiko, stereotype Repräsentationen von Orten zu erzeugen, bei denen komplexe Städte auf eine enge Auswahl ikonischer Wahrzeichen reduziert werden.
Methodische Weiterentwicklung: Indem sie zeigen, dass die Leinster-Cobbold-Zahl einen tiefergehenden Mangel an Diversität offenlegt als die Hill-Zahl, argumentieren die Autoren, dass zukünftige Evaluierungen von GenAI die semantische Ähnlichkeit einbeziehen müssen, um das repräsentative Bias präzise zu bewerten.
Aufruf zum Handeln: Die Autoren fordern systematische, ortszentrierte Fallstudien, die verschiedene geografische Skalen und Modalitäten umspannen, um die Biases in generativen (Geo)AI-Systemen besser zu verstehen und zu quantifizieren, angelehnt an die Literatur zur Unsicherheitsquantifizierung und Umweltwahrnehmung.