Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

In der modernen Welt verlassen wir uns zunehmend auf künstliche Intelligenz, um Nachrichten zusammenzufassen, Geschichten zu schreiben und Fragen zu beantworten. Diese Systeme, bekannt als generative KI, rufen nicht einfach Fakten aus einer Datenbank ab; sie lernen, vorherzusagen, welche Wörter als Nächstes kommen sollten, indem sie riesige Mengen an Text aus dem Internet studieren. Dieser Prozess erzeugt ein statistisches Modell der menschlichen Sprache, bei dem das System Muster lernt, die auf dem basieren, was es am häufigsten gelesen hat. Seit Jahrzehnten sorgen sich Experten, dass diese Systeme voreingenommen sein könnten, was bedeutet, dass sie eine Gruppe von Menschen gegenüber einer anderen ungerechtfertigt bevorzugen könnten. Die übliche Annahme war, dass diese Voreingenommenheit aus spezifischen Fehlern in den Daten oder aus den Entscheidungen der Programmierer resultiert, die die Werkzeuge bauen. Ein neuer Gesichtspunkt legt jedoch nahe, dass das Problem weitaus tiefer und struktureller ist. Es ist nicht nur so, dass die KI Fehler macht; es ist vielmehr so, dass das Fundament dessen, wie die KI die Welt versteht, auf einer einzigen, dominanten Denkweise aufgebaut ist, wodurch alle anderen Arten des Wissens wie Abweichungen erscheinen.

Zwei Rechtsgelehrte, Gilad Abiri und Emanuel Towfigh, argumentieren, dass dieses Phänomen, das sie „epistemische Subordination“ nennen, eine fundamentale Verschiebung in der Art und Weise darstellt, wie Wissen organisiert wird. Sie schlagen vor, dass generative KI etwas leistet, was keine bisherige Technologie getan hat: Sie kodiert die Art und Weise des Wissens der Mehrheit als die Standardinfrastruktur für alles Wissen. In diesem System werden die kulturellen Annahmen, Sprachen und Denkstile der globalen Mehrheit zum unsichtbaren Standard, an dem alles andere gemessen wird. Der Schaden liegt nicht bloß darin, dass die KI unfaire Ergebnisse produziert, sondern darin, dass sie eine statistische Realität konstruiert, in der Minderheitenkulturen und -sprachen strukturell an den Rand gedrängt werden – nicht, weil sie ausgeschlossen werden, sondern weil sie absorbiert und in einen einzigen, homogenisierten Durchschnitt eingeebnet werden. Die Autoren zeigen auf, dass dieses Problem drei separate Probleme vereint, die oft als eigenständig behandelt werden: diskriminierende Outputs, Bedrohungen für Minderheitenkulturen und die Verengung des demokratischen Diskurses. Sie stellen fest, dass dies keine zufälligen Fehler sind, sondern die unvermeidliche Folge der Art und Weise, wie diese Modelle gebaut werden.

Der Mechanismus hinter dieser Subordination entfaltet sich in drei distinkten Stadien, beginnend mit den Daten selbst. Die meisten KI-Modelle werden auf der unstrukturierten Gesamtheit des im Internet verfügbaren menschlichen Ausdrucks trainiert. Diese digitale Landschaft ist nicht neutral; sie wird überwiegend von englischsprachigen Inhalten, westlichen Perspektiven und den Ansichten von Bevölkerungsgruppen dominiert, die über die Bildung und den Zugang verfügen, online zu publizieren. Wenn ein Modell aus diesem Korpus lernt, lernt es nicht nur Wörter; es lernt die kulturellen Annahmen und normativen Rahmenbedingungen dieser Mehrheit als seinen statistischen Standard. Die zweite Stufe macht diesen Standard irreversibel. Während des Trainings wird die Datenmenge in Milliarden statistischer Parameter komprimiert, die nicht mehr dekonstruiert oder auf ihre ursprünglichen Quellen zurückverfolgt werden können. Im Gegensatz zu älteren Computerprogrammen, bei denen ein Programmierer auf eine spezifische Regel zeigen konnte, die eine Voreingenommenheit verursacht, sind diese Modelle per Design opak. Die Voreingenommenheit liegt nicht in einer einzelnen Zeile Code oder einer spezifischen Variable; sie ist in die gesamte Architektur des Systems eingewoben.

Das dritte Stadium umfasst die Werkzeuge, die verwendet werden, um diese KI-Systeme sicher und fair zu machen, bekannt als „Value Alignment“ (Werteabgleich). Techniken wie das Reinforcement Learning from Human Feedback passen an, was das Modell sagt, um es höflicher oder weniger schädlich zu gestalten. Die Autoren argumentieren jedoch, dass diese Werkzeuge lediglich den Output verändern, nicht aber das zugrunde liegende Wissen. Wenn Entwickler versuchen, ein Modell zur Diversität zu zwingen, können die Ergebnisse absurd sein, wie etwa das Generieren von Bildern von ethnisch diversen Nazi-Soldaten, weil das Basismodell über kein echtes Verständnis für kontextuelle Diversität verfügt. Es versucht lediglich, einen statistischen Standard grob zu überschreiben, den es nicht wirklich verstehen kann. Folglich entsteht der Schaden auf der Ebene der Konstruktion, nicht auf der Ebene der endgültigen Antwort. Das Modell trifft nicht nur voreingenommene Entscheidungen; es unterordnet ganze Wissensformen und Kulturen, indem es sie als Abweichungen von einem Standard behandelt, an dessen Festlegung sie keine Rolle spielten.

Diese strukturelle Realität schafft eine Krise für bestehende Gesetze, die Minderheiten schützen sollen. Antidiskriminierungsgesetze funktionieren beispielsweise, indem sie eine spezifische Entscheidung gegen eine neutrale Baseline prüfen. Wenn eine Bank einen Kreditantrag aufgrund einer spezifischen Regel ablehnt, die eine geschützte Gruppe benachteiligt, kann das Gesetz dies rückgängig machen. Aber generative KI bietet kein solches diskretes Ziel. Der diskriminierende Output ist das Produkt der gesamten Architektur, nicht einer einzelnen identifizierbaren Regel. Die „Entscheidung“ ist eine probabilistische Vermutung, die „Kriterien“ sind Milliarden unsichtbarer Parameter, und die verantwortliche „Entität“ ist eine Kette von Entwicklern und Anwendern. Die rechtlichen Instrumente von Absicht und Kausalität verlieren ihre Wirkung, da der Schaden nicht ein spezifischer Akt des Ausschlusses ist, sondern ein Zustand des Einschlusses, in dem Minderheitenperspektiven absorbiert und geglättet werden.

Die Bedrohung erstreckt sich auch auf kulturelle und sprachliche Rechte, die darauf abzielen, Minderheiteninstitutionen vor der Dominanz der Mehrheit zu schützen. Traditionell konnte eine Minderheitenschule ihre eigene Bibliothek kuratieren oder ihren eigenen Lehrplan wählen, um ihre Sprache und Traditionen zu bewahren. Die kulturelle Voreingenommenheit in jenen Technologien lag im Inhalt, der ausgewählt werden konnte. Generative KI kehrt dies um. Die Voreingenommenheit liegt in der Architektur des Modells selbst. Eine Minderheitengemeinschaft kann kein eigenes Basismodell bauen, da die Kosten in hunderten Millionen Dollar liegen und die erforderlichen Daten für kleinere Sprachen nicht im Maßstab des Internets existieren. Jüngste Tests zeigen, dass selbst die besten Modelle eine hohe Genauigkeit in Englisch erreichen, in Sprachen wie Swahili oder Yoruba jedoch signifikant abfallen. Wenn eine religiöse Schule oder ein Unterricht in einer Minderheitensprache einen KI-Assistenten nutzt, importiert sie einen normativen Rahmen, der standardmäßig auf säkularer, westlicher Logik basiert. Die Technologie dringt in die institutionellen Räume vor, die diese Rechte eigentlich schützen sollten, und strukturiert das Wissen von innen heraus um, auf eine Weise, wie es frühere Werkzeuge nie taten.

Schließlich bedroht dieses Phänomen die sehr Infrastruktur der demokratischen Deliberation. Eine gesunde Demokratie hängt von der Verfügbarkeit wahrhaft vielfältiger Rahmenbedingungen für das Verständnis von Problemen ab. Sie erfordert, dass Menschen Perspektiven ausgesetzt werden, die sie nicht im Voraus selbst gewählt hätten. Wenn generative KI jedoch zur primären Informationsquelle wird, homogenisiert sie das epistemische Feld. Minderheiten-Rahmenbedingungen werden nicht zensiert; sie werden in die Trainingsdaten des Modells absortiert, aber strukturell untergeordnet im Output. Der öffentliche Diskurs wird nicht verschwinden, aber er wird zunehmend innerhalb eines Feldes stattfinden, das bereits auf die Durchschnittskultur geglättet wurde. Die rechtlichen Rahmenbedingungen, die auf die Vielfalt der Standpunkte abzielen, wie etwa Regeln für Medienvielfalt, setzen voraus, dass diverses Wissen unabhängig existiert und lediglich einen Kanal benötigt, um die Öffentlichkeit zu erreichen. Die epistemische Subordination untergräbt diese Annahme und verengt das Feld, aus dem vielfältige Rede überhaupt erst entsteht.

Die Autoren kommen zu dem Schluss, dass aktuelle rechtliche Reaktionen strukturell nicht in der Lage sind, dieses Problem zu erfassen, da sie „downstream“ ansetzen und regulieren, was KI-Systeme tun, anstatt wie sie gebaut werden. Gesetze wie der AI Act der Europäischen Union oder verschiedene staatliche Regulierungen konzentrieren sich auf die Anwendung von KI in der Einstellung oder Kreditvergabe oder auf die Sicherheit des Endprodukts. Sie befassen sich nicht mit der Zusammensetzung der Trainingsdaten oder der Architektur des Modells selbst. Die zentrale Behauptung des Essays ist, dass der Schutz epistemischer Pluralität eine grundlegend andere regulatorische Orientierung erfordert. Das Recht muss dazu bewegt werden, auf der Ebene des Trainings zu regieren, indem es die Zusammensetzung der Daten, die Methoden des Alignment und die Modellarchitektur gestaltet.

Dies ist nicht bloß eine theoretische Forderung; jüngste Forschungen legen nahe, dass die technische Kapazität für Interventionen tatsächlich vorhanden ist. Wissenschaftler haben modulare Architekturen vorgeschlagen, bei denen ein Basismodell auf kleineren, gemeinschaftsspezifischen Modellen aufbaut, um distinkte Perspektiven zu bewahren. Andere haben demonstriert, wie man systematisch kulturell fundierte Trainingsdaten für unterrepräsentierte Sprachen konstruiert, um sicherzustellen, dass Nuancen erhalten bleiben, statt geglättet zu werden. Es gibt auch Methoden, um synthetische Trainingsdaten zu generieren, die spezifische kulturelle Perspektiven repräsentieren, und um den Alignment-Prozess neu zu gestalten, damit er eine vollständige Verteilung menschlicher Werte darstellt, statt eines einzelnen Standards. Obwohl diese Vorschläge noch keine fertigen Lösungen sind, zeigen sie, dass der technische Weg nach vorne existiert. Was fehlt, ist der politische Wille und der rechtliche Rahmen, um diese Interventionen zu fordern und zu ermöglichen. Die Aufgabe besteht darin, Gesetze zu schaffen, die die Konstruktion des Modells selbst erreichen können, um sicherzustellen, dass die Infrastruktur des Wissens nicht die Vielfalt unterordnet, die sie vorgibt zu dienen.