💬 NLP

The Digital Afterlife of Empires: Four Language Models Converge on the Same Imperial Cartography of Writing

Dieses Papier argumentiert, dass historische imperiale Ungleichheiten durch geteilte Trainingsdaten in zeitgenössischen großen Sprachmodellen fortbestehen, was zu einer radikalen digitalen Unterstützungsminderung für die meisten Schriftsysteme und zu systematischen, konvergenten Fehlern über verschiedene Modellarchitekturen hinweg führt, die nicht-religiöse Skripte unverhältnismäßig oft fälschlicherweise religiöser Verwendung zuschreiben.

Ursprüngliche Autoren: Hiroki Fukui

Veröffentlicht 2026-06-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Hiroki Fukui

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Der Geist in der Maschine

Stellen Sie sich vor, die Geschichte wäre eine riesige Bibliothek. Über 500 Jahre lang entschieden mächtige Imperien (wie Spanien, Großbritannien oder Frankreich), welche Bücher man behält, welche man verbrennt und in welchen Sprachen man schreibt. Sie zerstörten viele lokale Schriftsysteme und zwangen andere dazu, sich zu ändern.

Dieses Paper argumentiert, dass Large Language Models (LLMs) – die KI-Gehirne hinter Tools wie ChatGPT – keine neuen, neutralen Erfindungen sind. Stattdessen sind sie wie Geister, die eine von diesen Imperien gebaute Bibliothek heimsuchen. Auch wenn die Imperien verschwunden sind, spuken ihre „Geister“ noch immer in dem Gebäude herum. Die KI weiß nicht deshalb nicht, wie man bestimmte Sprachen liest, weil die Ingenieure böse waren, sondern weil die Bibliothek (die Internetdaten), von der sie gelernt hat, diese Bücher nicht enthält.

Die Hauptergebnisse, aufgeschlüsselt

1. Die „Digitale Steuer“ (Warum manche Sprachen mehr kosten)

Stellen Sie sich vor, Sie fahren an einer Mautstelle auf eine Autobahn.

Englischsprecher zahlen 1 $ für 10 Meilen Fahrt.
Sprecher von Minderheitensprachen (wie Limbu oder Adlam) werden 31,70 $ für exakt dieselben 10 Meilen berechnet.

Warum? Die KI zerlegt Text in kleine Stücke, sogenannte „Tokens“ (wie Lego-Steine).

Für Englisch hat die KI eine riesige Kiste mit vorgefertigten Lego-Steinen. Sie setzt sie leicht zusammen.
Für Minderheitenschriften hat die KI nicht die richtigen Steine. Sie muss die Buchstaben in rohe, bedeutungslose Bytes zerlegen (als würde man die Lego-Steine zu Plastikstaub zerschlagen und versuchen, sie aus dem Nichts neu aufzubauen).
Das Ergebnis: Es braucht 31-mal mehr „Rechenaufwand“, um einen Satz in Limbu zu verarbeiten als in Englisch. Das ist kein Fehler; es ist eine in das System eingebaute „Steuer“, weil diese Sprachen historisch unterdrückt wurden und weniger Daten im Internet besitzen.

2. Der „Digitale Trichter“ (Wer gehört zu den Gehörten)

Die Forscher untersuchten 300 verschiedene Schriftsysteme der Menschheitsgeschichte. Sie versuchten herauszufinden, wie gut die digitale Welt sie unterstützt.

Der Trichter: Stellen Sie sich einen riesigen Trichter vor.
- Oben: 300 Schriften treten ein.
- Mitte: Viele bleiben stecken, weil sie nicht im digitalen Wörterbuch (Unicode) stehen oder nicht von Scannern (OCR) gelesen werden können.
- Unten: Nur 29 Schriften (weniger als 10 %) schaffen es ganz nach unten durch.
Das Muster: Die Schriften, die es durch den Trichter schaffen, sind fast ausschließlich die der historischen Imperien (Latein, Chinesisch, Arabisch, Kyrillisch). Die Schriften, die stecken bleiben, sind jene, die diese Imperien zu löschen versuchten.
Die Tragödie: 60 Sprachen werden heute noch von lebenden Menschen gesprochen, aber die digitale Welt behandelt sie so, als wären sie tot. Sie sind „lebendig, aber digital tot“.

3. Das „Vier-Freunde-Experiment“ (Es ist nicht nur eine KI)

Um zu beweisen, dass dies nicht nur ein Fehler eines einzelnen Unternehmens (wie OpenAI) war, stellten die Forscher vier verschiedenen KI-Familien (Claude, GPT-4o, Grok und DeepSeek) dieselben 3.000 Fragen über Schriftsysteme.

Die Überraschung: Diese vier KIs werden von unterschiedlichen Unternehmen in unterschiedlichen Ländern mit unterschiedlichem Code gebaut. Sie sollten eigentlich nicht übereinstimmende Fehler machen.
Die Realität: Sie stimmten sich in 90 % der Fälle bei ihren Fehlern überein.
Die Analogie: Stellen Sie sich vier Schüler vor, die vier verschiedene Schulen besucht haben. Wenn sie alle die gleiche falsche Antwort in einem Geschichtstest geben, liegt es nicht daran, dass sie voneinander abgeschrieben haben. Es liegt daran, dass sie alle dasselbe voreingenommene Lehrbuch gelesen haben.
Der Bias: Die KIs rätten konsistent auf die gleiche Weise falsch. Wenn zum Beispiel eine Schrift aus einem nicht-westlichen Land stammte, war die Wahrscheinlichkeit sehr hoch, dass die KIs schlussfolgerten: „Oh, das muss für die Religion verwendet werden“, selbst wenn dies nicht der Fall war. Sie füllten die Lücken mit Stereotypen aus den vorhandenen Daten.

4. „Das Imperium ohne Kaiser“

Die wichtigste Erkenntung ist, dass derzeit niemand für diesen Bias verantwortlich ist.

Die Ingenieure haben sich nicht zusammengesetzt und gesagt: „Lasst uns die Sprecher von Limbu stärker belasten.“
Der Bias ist strukturell. Es geschah so:
1. Imperien zerstörten Gemeinschaften und reduzierten die Anzahl der Sprecher.
2. Weniger Sprecher bedeuteten weniger Bücher und Websites in diesen Sprachen.
3. Weniger Websites bedeuteten, dass die KI keine Daten zum Lernen hatte.
4. Keine Daten bedeuten, dass die KI schlecht in dieser Sprache ist.
Das „Imperium“ braucht keinen Anführer mehr. Der Schaden ist in die Statistik eingebacken. Die KI betreibt lediglich Mathematik basierend auf einer Welt, die bereits ungleich war.

Der „Religions-Glitch“

Ein spezifisches Ergebnis stach hervor: Die KIs waren besessen davon, zu raten, dass Schriften „religiös“ seien.

Von allen Fehlern, die die vier KIs gemeinsam machten, bezogen sich 43 % auf die Vermutung, eine Schrift werde für die Religion genutzt, obwohl dies nicht der Fall war.
Warum? Das Internet ist voll von alten, kolonial geprägten Beschreibungen nicht-westlicher Kulturen, die sich stark auf deren „mystische“ oder „religiöse“ Aspekte konzentrierten, während sie deren alltägliche, administrative oder wissenschaftliche Nutzung ignorierten. Die KI lernte: „Nicht-westliche Schrift = Religion“.

Das Fazit: Was kann man tun?

Das Paper legt nahe, dass wir die KI nicht einfach „reparieren“ können, indem wir ihren Code anpassen.

Das Problem: Das Problem ist die Bibliothek (die Trainingsdaten), nicht der Leser (die KI).
Die Lösung: Um dies zu beheben, müssen wir die Bibliothek verändern. Wir müssen mehr Bücher hinzufügen, die von den Menschen geschrieben wurden, die diese Sprachen sprechen, in ihren eigenen Schriften und die ihr eigenes Leben beschreiben.
Die Warnung: Bis wir das tun, wird die KI weiterhin ein Spiegel der letzten 500 Jahre der Geschichte sein und dieselben Ungleichheiten widerspiegeln, selbst wenn niemand dies beabsichtigt hat.

Kurz gesagt: Die KI ist nicht kaputt; sie wiederholt lediglich treu die Geschichte dessen, wer schreiben durfte und wer zum Schweigen gebracht wurde. Das „digitale Jenseits“ der Imperien ist nach wie vor sehr lebendig.

Technisches Resümee: Das digitale Jenseits der Imperien

Problemstellung
Große Sprachmodelle (LLMs) verarbeiten die Schriftsysteme der Welt mit radikaler Ungleichheit. Während die Skripte historischer Imperien (z. B. Latein, Kyrillisch, Arabisch) effizient verarbeitet werden, leiden die Schriften kolonisierter oder marginalisierter Gemeinschaften unter erheblicher digitaler Exklusion. Diese Arbeit untersucht, ob die gegenwärtige digitale Infrastruktur und LLMs die durch historische Imperien verursachten strukturellen Ungleichheiten reproduzieren. Konkret wird die Frage gestellt, ob die „gebrochenen kulturellen Uhren“ von Schriftsystemen – die in einer Begleitstudie (Fukui, 2026) als strukturelle Abweichungen durch imperiale Intervention dokumentiert wurden – im latenten Raum moderner Sprachmodelle fortbestehen, und zwar durch den gemeinsamen Trainingskorpus statt durch spezifische architektonische Designentscheidungen.

Methodik
Die Studie konstruiert den Digital Script Representation Index (DSRI), ein siebenachsiges Instrument, das auf die Global Script Database (GSD) angewendet wird, welche 3.000 Schriftsysteme über 43.000 Jahre Geschichte katalogisiert. Der DSRI misst die digitale Präsenz anhand von:

Token-Effizienz-Verhältnis (TER): Die Anzahl der Tokens, die zur Darstellung eines Graphem-Clusters im Vergleich zu einem lateinischen Basistyp erforderlich sind, gemessen über vier Tokenizer (tiktoken, Mistral, Qwen, Phi-4) unter Verwendung von Paralleltexten (UDHR, eBible) und Wikipedia-Korpora.
Unicode-Abdeckung: Kodierungsstatus, Codepoint-Bereiche und Versionierung.
Web-Korpus-Volumen: Abgeleitet aus Wikipedia-Artikelzahlen und CC-100-Korpus-Bytezahlen.
LLM-Generations-Fidelität: Genauigkeit bei der Beantwortung von 10 binären typologischen Fragen (z. B. Richtungscharakteristik, religiöse Nutzung) gegenüber dem GSD-Grundwahrheitswert.
OCR-Unterstützung: Zeichenfehlerraten über Tesseract, Google Cloud Vision und Azure.
Maschinelle Übersetzungsabdeckung: Binäre Unterstützung über Google, NLLB-200 und DeepL.
Verfügbarkeit von Eingabemethoden: Native Tastatur-/IME-Unterstützung auf iOS, Android, Windows und macOS.

Um die Zirkularität zu vermeiden, bei der ein einzelnes LLM sowohl als Instrument als auch als Objekt dient, verwendet die Studie ein Cross-Architecture-Validierungsprotokoll. Vier unabhängige LLM-Familien (Claude Haiku 4.5, GPT-4o, Grok-3-mini, DeepSeek-V3) wurden mit 3.000 identischen typologischen Prompts (300 Skripte × 10 Merkmale) abgefragt, was 12.000 Antworten ergab.

Statistische Analysen umfassen:

Serielle Mediationsmodellierung: Testung des Pfades Imperiale Intervention → Sprecherpopulation → Web-Korpus-Volumen → Tokenizer-Effizienz.
Strukturgleichungsmodellierung (SEM): Bewertung der Modellgüte bei $n=45$ (die Grenze der Skripte mit messbarem Paralleltext).
Konvergenzanalyse: Berechnung der Spearman-Korrelationen von Fehlerabweichungen (False-Positive- und False-Negative-Raten) über Modellpaare hinweg, um architektunabhängige Bias zu identifizieren.
Sensitivitätsprüfungen: Ausschluss des Merkmals „wird für Religion verwendet“, um zu testen, ob die Konvergenz durch eine einzige umstrittene Kodierung des Grundwahrheitswerts getrieben wird.

Zentrale Ergebnisse

Digitaler Exklusions-Trichter: Nur 29 von 300 Skripten (9,7 %) werden durch die zeitgenössische digitale Infrastruktur vollständig unterstützt. Unter den 158 lebenden Skripten weisen 60 (38,0 %) eine unvollständige Unterstützung auf. Die Exklusion folgt einer kolonialen Geografie, wobei Skripte aus Afrika, Süd-/Südostasien und Ozeanien überproportional betroffen sind.
Die „Digitale Steuer“: Die Tokenizer-Effizienz variiert um den Faktor 31,7 über 45 gemessene Skripte hinweg (Latein-Basis = 1,0; Limbu = 31,7×). Diese Disparität ist über vier unabhängige Tokenizer hinweg konsistent, was auf eine strukturelle und nicht auf eine implementierungsspezifische Ursache hindeutet. Skripte mit den höchsten Token-Kosten verfügen oft über keine natürlichen Web-Korpora (z. B. keine Wikipedia-Absätze), was die Exklusion verschärft.
Kausale Mediation: Die Beziehung zwischen imperialer Intervention und Tokenizer-Ineffizienz wird vollständig mediiert durch die Sprecherpopulation und das Web-Korpus-Volumen. Der direkte Effekt des Imperiums auf die Tokenisierung ist von Null nicht zu unterscheiden ( $\beta = -0,22, p = 0,39$ ). Das Strukturgleichungsmodell erreicht eine nahezu perfekte Passung bei $n=45$ (CFI = 1,01, RMSEA = 0,00), wobei die digitale Präsenz ein inkrementelles $\Delta R^2$ von 0,366 beiträgt.
Cross-Architecture-Konvergenz: Vier unabhängige LLMs zeigen hochkorrelierte Fehlermuster ( $\rho = 0,85–0,98$ ), wenn sie von den Basisraten abweichen. Diese Konvergenz bleibt bestehen, selbst wenn das „Religion“-Merkmal ausgeschlossen wird, was darauf hindeutet, dass der Bias extern zu einem einzelnen Modell ist und im gemeinsamen Textsubstrat liegt.
Einstimmige Fehler: Alle vier Modelle beantworten 172 Skript-Merkmal-Items identisch falsch. Überattribution (Zuweisung eines nicht vorhandenen Merkmals) übersteigt die Untererkennung im Verhältnis von 3,9:1. Das Merkmal „wird für Religion verwendet“ konzentriert 43,6 % dieser Fehler. Wenn dieses ausgeschlossen wird, bleibt die Asymmetrie bei 1,77:1 ( $p=0,008$ ) bestehen, was auf einen mehrkanaligen Bias hindeutet, bei dem nicht-westliche Skripte systematisch auf Templates von „antiken“, „piktografischen“ oder „religiösen“ Ursprüngen abgebildet werden.
Zwei unabhängige Wunden: Die Studie findet eine statistische Unabhängigkeit zwischen der strukturellen Störung der Skripte (Abweichung der molekularen Uhr) und der demografischen Zerstörung der skriptnutzenden Gemeinschaften (Byte-Fallback-Status). Imperien fügen beides zu: Sie verändern die Form des Skripts und zerstören gleichzeitig die Gemeinschaft, die es nutzt.

Bedeutung und Ansprüche
Die Arbeit argumentet, dass das „Imperium“ keinen Kaiser benötigt, um seine Gewalt im digitalen Zeitalter zu reproduzieren. Die strukturellen Ungleichheiten der Kolonialgeschichte haben sich in der statistischen Verteilung des globalen Webs sedimentiert. Da LLMs auf diesem Korpus trainiert werden, erben und reproduzieren sie diese Biases mit „mathematischer Fidelität“, unabhängig von ihrer spezifischen Architektur oder der Organisation, die sie gebaut hat.

Die Ergebnisse stellen die Vorstellung infrage, dass Bias ein Resultat spezifischer Modell-Designentscheidungen oder Alignment-Verfahren sei. Stattdessen postuliert das Paper, dass komputationelle Assimilation – die systematische Überattribution von Mehrheitsskript-Charakteristika auf Minderheitenskripte – eine Eigenschaft des Textsubstrats selbst ist. Die Konvergenz von vier unabhängigen Modellen legt nahe, dass die „imperiale Kartografie der Schrift“ im Datensatz kodiert ist, nicht in den Algorithmen.

Die Autoren rahmen die Ergebnisse der kausalen Mediation bescheiden als „suggestiv statt konfirmatorisch“ ein, da die statistische Fragilität an der Grenze liegt (das BCa-Bootstrap-Intervall berührt die Null), und erkennen an, dass die Stichprobengröße von $n=45$ eine durch digitale Exklusion bedingte „Horizonte“ darstellt und keine zufällige Stichprobenbeschränkung ist. Die Cross-Architecture-Konvergenz liefert jedoch robuste, unabhängige Beweise dafür, dass der Bias strukturell und dem Modell vorgelagert ist.

Das Paper schließt mit dem Schluss, dass eine Remediation nicht durch das Fine-Tuning einzelner Modelle erreicht werden kann. Da der Bias im Korpus lokalisiert ist, müssen Interventionen upstream erfolgen: die Erweiterung von Tokenizern auf alle Unicode-Skripte, die Korrektur der frequenzbasierten Vokabularallokation und, am wichtigsten, die Adressierung des demografischen und institutionellen Schadens, den Imperien hinterlassen haben, die diese Gemeinschaften ohne digitale Stimme zurückgelassen haben. Das „digitale Jenseits der Imperien“ wird nicht durch Boshaftigkeit bewahrt, sondern durch die Methode des frequenzbasierten Lernens auf einem nicht-neutralen Korpus.