Position: the Stochastic Parrot in the Coal Mine. Model Collapse is a Threat to Low-Resource Communities

Dieses Positionspapier argumentiert, dass der Modellkollaps, der durch das Trainieren generativer KI auf ihren eigenen Ausgaben verursacht wird, droht, KI zu demokratisieren, indem er die Datenqualität und -effizienz verschlechtert, wodurch benachteiligte und ressourcenarme Gemeinschaften durch verstärkte kulturelle Verzerrungen und Umweltkosten unverhältnismäßig stark geschädigt werden.

Das Wesentliche

Das große Ganze: Der „stochastische Papagei" im Kohlebergwerk

Stellen Sie sich einen Kanarienvogel im Kohlebergwerk vor. In der Vergangenheit nutzten Bergleute Kanarienvögel, um gefährliche Gase zu erkennen; wenn der Vogel aufhörte zu singen, wussten die Bergleute, dass sie fliehen mussten.

Dieses Papier argumentiert, dass ressourcenarme Gemeinschaften (Menschen, die weniger verbreitete Sprachen sprechen oder in ärmeren Regionen leben) die „Kanarienvögel" sind. Sie spüren als Erste die Gefahr eines Phänomens namens Model Collapse (Modellkollaps).

Was ist Model Collapse?
Stellen Sie sich ein Spiel „Stille Post" vor, das von einer Gruppe von Kopierern gespielt wird.

1. Sie beginnen mit einem klaren, originalen Foto (echte menschliche Daten).
2. Sie machen eine Kopie. Sie ist leicht verschwommen.
3. Sie nehmen diese verschwommene Kopie und machen eine neue Kopie davon. Sie wird noch verschwommener.
4. Sie machen dies weiter, indem Sie die Kopien kopieren.

Schließlich wird das Bild zu einem schlammigen, unkenntlichen Durcheinander. Die Details verschwinden, und nur die häufigsten, generischsten Formen bleiben übrig.

In der Welt der KI passiert dies, wenn neue KI-Modelle mit Daten trainiert werden, die von alten KI-Modellen erstellt wurden. Da KI dazu neigt, die häufigsten Muster zu wiederholen, die sie sieht, gehen die „seltenen" und „einzigartigen" Details mit der Zeit verloren. Die KI wird zu einem stochastischen Papageien – sie imitiert die Geräusche, die sie hört, versteht aber nicht die Bedeutung, und über Generationen hinweg wiederholt sie nur die lautesten, häufigsten Geräusche und vergisst die leisen, einzigartigen.

Das Problem: Warum ärmeren Gemeinschaften zuerst geschadet wird

Das Papier argumentiert, dass dieses „Kopierspiel" zwar allen schadet, aber die Kulturen ressourcenarmer Gemeinschaften viel schneller zerstört. Hier ist der Grund, dargestellt durch drei Hauptmetaphern:

1. Die „Reich vs. Arm"-Daten-Diät

Stellen Sie sich zwei Personen vor, die versuchen, gesund zu bleiben.

• Die wohlhabende Person (hochressourcenreich): Hat eine massive Vorratskammer voller frischer, echter Nahrung (echte menschliche Daten). Selbst wenn sie etwas verarbeitete, künstliche Nahrung (KI-generierte Daten) isst, hat sie so viel echte Nahrung, dass ihre Ernährung gesund bleibt.
• Die kämpfende Person (ressourcenarm): Hat eine sehr kleine Vorratskammer. Sie hat nur ein paar Dosen echter Nahrung. Wenn sie sich auf verarbeitete, künstliche Nahrung verlassen muss, um ihren Magen zu füllen, läuft ihr die echte Nahrung sehr schnell aus.

Die Behauptung des Papiers: Ressourcenarme Sprachen (wie viele afrikanische oder indigene Sprachen) haben sehr wenige Daten im Internet. Wenn die KI beginnt, das Internet mit KI-generiertem Text zu füllen, werden diese Sprachen fast sofort „vergiftet", weil sie nicht genug echte Daten haben, um die künstlichen Dinge zu verwässern. Ihr einzigartiger kultureller „Geschmack" wird als Erstes verschwinden.

2. Die „Echokammer" der Macht

Stellen Sie sich einen Marktplatz vor, auf dem alle schreien.

• Die lautesten Stimmen (Englisch, westliche Kultur, dominante Sichtweisen) werden bereits von allen gehört.
• Die leisen Stimmen (Minderheitengruppen, spezifische lokale Dialekte) sind kaum hörbar.

Wenn die KI aus dem Internet lernt, wirkt sie wie ein Megafon, das nur die lautesten Stimmen verstärkt. Wenn die KI mehr Inhalte erzeugt, wiederholt sie diese lauten Stimmen immer wieder. Die leisen Stimmen werden völlig übertönt.
Die Behauptung des Papiers: Model Collapse wirkt wie eine „Wert-Sperre". Sie friert die Kultur in der Vergangenheit ein, verankert dominante Sichtweisen und löscht die Versuche marginalisierter Gruppen aus, soziale Normen zu verändern oder ihre Sprache zurückzugewinnen. Die KI vergisst die „Enden" der Verteilung – die seltenen, einzigartigen und vielfältigen Arten, wie Menschen sprechen.

3. Die „Kohlenstoffkosten" beim Versuch, es zu reparieren

Stellen Sie sich vor, Sie versuchen, ein undichtes Dach zu reparieren.

• Die wohlhabende Person kann es sich leisten, neue Schindeln zu kaufen und eine Crew zu beauftragen, um es zu reparieren.
• Die kämpfende Person muss versuchen, es mit Klebeband und Pappe zu flicken, was ihre Ersparnisse kostet und das Haus heißer macht.

Die Behauptung des Papiers: Um Model Collapse zu stoppen, benötigen Forscher mehr echte Daten. Aber das Sammeln echter Daten ist teuer und erfordert massive Energie (Computer, die heiß laufen).

• Ressourcenarme Gemeinschaften leben oft in Gebieten, die bereits unter Klimawandel und Energieknappheit leiden.
• Sie tragen die Umweltkosten des Trainings dieser massiven KI-Modelle, erhalten aber den geringsten Nutzen daraus.
• Sie können es sich nicht leisten, genug echte Daten zu „kaufen", um ihre Sprachen vor dem Auslöschen durch KI-generiertes Rauschen zu bewahren.

Die Analogie des „stochastischen Papageis"

Das Papier greift eine alte Idee auf: KI ist ein „stochastischer Papagei". Sie versteht nicht; sie sagt nur das nächste Wort basierend auf Statistiken voraus.

• Die Sicht des Papiers: Obwohl die KI schlauer geworden ist, ist sie immer noch ein Papagei. Wenn Sie einem Papagei nur die häufigsten Phrasen füttern, hört er auf, etwas Interessantes zu sagen.
• Die Gefahr: Für ressourcenarme Gemeinschaften sind die „interessanten Phrasen" (ihre einzigartige Kultur, Slang und Geschichte) die ersten Dinge, die der Papagei vergisst, weil sie statistisch selten sind.

Was will das Papier von uns?

Die Autoren geben einen Aufruf zum Handeln aus. Sie sagen, wir können nicht warten, bis die KI komplett zusammenbricht, um uns darüber Sorgen zu machen.

1. Hören Sie den Kanarienvögeln zu: Ressourcenarme Gemeinschaften müssen die Führung in diesem Gespräch übernehmen, nicht als nachträglicher Gedanke behandelt werden.
2. Schützen Sie die echten Daten: Wir müssen spezielle „Sicherheitszonen" für Daten schaffen, die garantiert echte menschliche Inhalte sind und nicht von KI generiert wurden, speziell für diese verwundbaren Sprachen.
3. Erkennen Sie das Gefälschte: Wir brauchen bessere Werkzeuge, um KI-generierten Text zu erkennen, damit wir ihn herausfiltern können, bevor er die Trainingsdaten vergiftet.
4. Akzeptieren Sie das Risiko: Das Papier gibt zu, dass die KI vielleicht noch lange nicht global zusammenbricht, aber für bestimmte, kleine Gemeinschaften geschieht der „Bruch" gerade jetzt.

Zusammenfassung

Das Papier warnt davor, dass die KI, je mehr Inhalte sie erzeugt, einen Feedback-Loop schafft, der die KI „dümmer" und repetitiver macht. Dieser Prozess wirkt wie ein Filter, der das Seltene und Einzigartige entfernt. Da ressourcenarme Gemeinschaften bereits weniger im Internet vertreten sind, sind ihre einzigartigen Kulturen und Sprachen am höchsten gefährdet, durch diesen Prozess ausgelöscht zu werden, sodass ihnen nur eine homogenisierte, dominante Version der Welt bleibt.

Technische Zusammenfassung

Technische Zusammenfassung: Modellkollaps als Bedrohung für ressourcenarme Gemeinschaften

Problemstellung
Der Beitrag behandelt das Phänomen des Modellkollaps, definiert als die Verschlechterung der Leistungsfähigkeit und Vielfalt generativer Modelle, wenn sie mit Daten trainiert werden, die von vorherigen Generationen ähnlicher Modelle erzeugt wurden. Da künstlich generierte Inhalte zunehmend verbreitet sind (geschätzt auf ~30 % des Internets bis 2025), stützen sich aufeinanderfolgende Modellgenerationen in wachsendem Maße auf „synthetische" Daten. Dies erzeugt einen Rückkopplungseffekt, bei dem Modelle sich an dominante Muster in der Trainingsverteilung überanpassen und systematisch seltene oder „Rand"-Beispiele auslöschen.

Die Autoren argumentieren, dass der Modellkollaps zwar ein allgemeines technisches Risiko darstellt, jedoch eine unverhältnismäßige und existenzielle Bedrohung für ressourcenarme und marginalisierte Gemeinschaften bedeutet. Diese Gemeinschaften leiden bereits unter:

1. Unterrepräsentation: Ihre Daten besetzen die „Ränder" globaler Datenverteilungen.
2. Umweltungerechtigkeit: Sie tragen die Hauptlast des CO₂-Fußabdrucks und der Infrastrukturkosten beim Training großer Modelle, ohne proportionale Vorteile zu erhalten.
3. Kulturelle Voreingenommenheit: Große Sprachmodelle (LLMs) neigen dazu, hegemoniale Sichtweisen zu verstärken und veraltete soziale Normen zu „verriegeln".

Der Beitrag geht davon aus, dass der Modellkollaps als „Löscher-Maschine" fungiert, die die Entfernung ressourcenarmer Sprachen und kultureller Nuancen aus dem digitalen Raum beschleunigt und damit Bemühungen untergräbt, KI zu demokratisieren.

Methodik und theoretischer Rahmen
Dieses Werk ist ein Positionspapier, das bestehende theoretische und empirische Literatur synthetisiert, anstatt neue experimentelle Ergebnisse vorzulegen. Die Methodik umfasst:

• Literatursynthese: Integration von Erkenntnissen zum Modellkollaps (z. B. Shumailov et al., 2024; Dohmatob et al., 2024) mit Kritik an LLMs hinsichtlich Voreingenommenheit und Umweltkosten (z. B. Bender et al., 2021; Strubell et al., 2019).
• Theoretische Anwendung: Anwendung des Konzepts der neuralen Skalierungsgesetze auf Szenarien mit synthetischen Daten. Die Autoren nutzen die Erkenntnis, dass bereits kleine Anteile synthetischer Daten (ca. 1 %) die Skalierungsexponenten verändern können, was zu einer „Glasdecke" führt, bei der eine Vergrößerung des Datensatzes keine proportionalen Leistungsverbesserungen mehr erzielt.
• Kognitionswissenschaftliche Analogie: Parallelen zwischen Modellkollaps und iterativem Lernen (IL) in der Kognitionswissenschaft werden gezogen, wobei festgestellt wird, dass IL zwar zu Regularisierung führen kann, aber auch das Risiko des Verlusts an Ausdruckskraft und des Vergessens von Unterschieden zwischen eng verwandten Datenpunkten ohne externe Intervention birgt.
• Kritische Analyse von Definitionen: Einbeziehung aktueller Debatten (insbesondere Schaeffer et al., 2025) bezüglich der Definition von Modellkollaps. Die Autoren unterscheiden drei Typen: (1) progressive Unfähigkeit, ursprüngliche Verteilungen anzupassen, (2) Deformation von Datenverteilungen (Verlust der Ränder) und (3) abnehmender Grenznutzen zusätzlicher Daten.

Hauptbeiträge

1. Intersektionale Risikoanalyse: Der primäre Beitrag des Papiers besteht darin, den technischen Mechanismus des Modellkollaps mit den sozioökonomischen Realitäten ressourcenarmer Gemeinschaften zu verknüpfen. Es wird argumentiert, dass Modellkollaps keine einheitliche Bedrohung ist, sondern eine geschichtete, bei der marginalisierte Gruppen zuerst das „Worst-Case-Szenario" erleben, da ihre Daten bereits knapp sind und sich an den Rändern der Verteilung befinden.
2. Der „dreifache" Nachteil: Die Autoren identifizieren einen sich verstärkenden Nachteil für ressourcenarme Gemeinschaften:
   • Datenskarge: Begrenzte reale Daten machen sie anfälliger dafür, von synthetischen Daten überschrieben zu werden.
   • Umweltkosten: Der erhöhte Rechenaufwand zur Bekämpfung des Modellkollaps (durch Sammlung weiterer Daten oder Training größerer Modelle) verschärft die Umweltschäden, die diese Gemeinschaften unverhältnismäßig stark treffen.
   • Kulturelle Auslöschung: Der „Verriegelungseffekt" wird verstärkt, wobei dominante Sichtweisen verfestigt werden, während Minderheitendialekte, Code-Switching und wiedererlangte Sprachen systematisch in Vergessenheit geraten.
3. Neubewertung des „Stochastischen Papageis": Die Autoren greifen die Analogie des „Stochastischen Papageis" (Bender et al., 2021) erneut auf und argumentieren, dass sie nach wie vor grundlegend ist. Sie vertreten die Auffassung, dass LLMs selbst mit multimodalen Fortschritten statistisch in beobachteten Mustern verankert bleiben und somit anfällig für die Frequenzverzerrungen sind, die den Modellkollaps antreiben.
4. Kritik an Minderungsstrategien: Das Papier hebt die Grenzen aktueller Lösungen hervor. Beispielsweise wird die „Datenkuratierung" (Filterung synthetischer Daten) zunehmend schwieriger, da generative Modelle überzeugender werden. Darüber hinaus können automatisierte Kuratierungstools versehentlich legitime, selten vorkommende sprachliche Variationen entfernen, die von marginalisierten Gruppen verwendet werden.

Ergebnisse und Beobachtungen
Als theoretisches Positionspapier präsentiert das Werk keine neuen empirischen Metriken, sondern synthetisiert bestehende Erkenntnisse zur Untermauerung seiner Argumente:

• Störung der Skalierungsgesetze: Unter Berufung auf Dohmatob et al. (2024b) stellt das Papier fest, dass eine zehnfache Reduktion des Testverlusts mit 10 % synthetischen Daten im Vergleich zu sauberen Daten eine Größenordnungsvergrößerung des Datensatzes erfordert, was die Kosten drastisch erhöht.
• Verteilungsverschiebung: Unter Bezugnahme auf Abbildung 1 (basierend auf der Perplexität von GPT-2) veranschaulicht das Papier, dass ressourcenarme Sprachen (z. B. Albanisch, Indonesisch) bereits höhere Perplexitätsverteilungen (die „Ränder") einnehmen als ressourcenstarke Sprachen (z. B. Englisch). Der Modellkollaps sagt voraus, dass diese Ränder als erste verschwinden werden.
• Kostenasymmetrie: Unter Berufung auf Kandpal & Raffel (2025) betont das Papier, dass die Kosten für die Beschaffung realer Daten 10–1000-mal höher sind als die Rechenkosten für das Training. Diese wirtschaftliche Barriere verhindert, dass ressourcenarme Gemeinschaften durch einfaches Sammeln weiterer realer Daten aus dem Modellkollaps „herauskaufen" können.

Bedeutung und Aufforderung zum Handeln
Das Papier kommt zu dem Schluss, dass die Schwere des Modellkollaps zwar im allgemeinen Kontext diskutiert wird, jedoch eine unmittelbare und schwerwiegende Bedrohung für ressourcenarme und marginalisierte Gemeinschaften darstellt. Die Autoren argumentieren, dass die akademische Debatte zu sehr auf ressourcenstarke Umgebungen und theoretische Modelle fokussiert war und die spezifischen Verwundbarkeiten dieser Bevölkerungsgruppen vernachlässigt hat.

Die Aufforderung zum Handeln:

• Priorisierung: Die Communities für ressourcenarme NLP und KI-Gerechtigkeit müssen die Forschung und Minderung des Modellkollaps in den Vordergrund stellen.
• Datensouveränität: Es besteht ein dringender Bedarf, Datensätze zu erstellen und zu pflegen, die garantiert echte, kulturell authentische Daten für Tausende unterrepräsentierter Sprachen enthalten (z. B. Ndebele, Pedi, Sotho).
• Neue Forschungsrichtungen: Das Papier skizziert offene Fragen bezüglich:
  • Wie sich der Modellkollaps auf agglutinierende Sprachen (die langschwänzige Wortverteilungen aufweisen) im Vergleich zu analytischen Sprachen auswirkt.
  • Der Auswirkungen von Code-Switching auf Verschiebungen der Datenverteilung.
  • Der Entwicklung praktikabler Messgrößen für Modellkollaps und die Erkennung synthetischer Daten.
  • Strategien zur „Verringerung" des Kollaps, wie z. B. selbstüberwachtes Lernen oder Bestärkungslernen, um robuste, außerhalb der Verteilung liegende Merkmale zu fördern.

Letztlich bekräftigt das Papier, dass ohne sofortiges Eingreifen die Online-Repräsentation mehrerer Kulturen schwerwiegend beschädigt oder ausgelöscht werden könnte, bevor der Schaden behoben werden kann.