Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

In de moderne wereld vertrouwen we steeds vaker op kunstmatige intelligentie om nieuws samen te vatten, verhalen te schrijven en vragen te beantwoorden. Deze systemen, bekend als generatieve AI, halen niet simpelweg feiten uit een database; ze leren te voorspellen welke woorden het meest logisch volgen door enorme hoeveelheden tekst van het internet te bestuderen. Dit proces creëert een statistisch model van de menselijke taal, waarbij het systeem patronen leert op basis van wat het het vaakst heeft gelezen. Decennialang hebben experts zich zorgen gemaakt dat deze systemen bevooroordeeld zouden kunnen zijn, wat betekent dat ze één groep mensen onrechtvaardig zouden kunnen bevoordelen boven een andere. De gebruikelijke aanname was dat deze bias voortkwam uit specifieke fouten in de data of uit de keuzes gemaakt door de programmeurs die de tools bouwen. Echter, een nieuw perspectief suggereert dat het probleem veel dieper en structureler is. Het is niet alleen dat de AI fouten maakt; het is dat het fundament van hoe de AI de wereld begrijpt, gebouwd is op één enkele, dominante manier van denken, waardoor alle andere manieren van weten als afwijkingen worden beschouwd.

Twee juridische wetenschappers, Gilad Abiri en Emanuel Towfigh, betogen dat dit fenomeen, dat zij epistemische subordinatie noemen, een fundamentele verschuiving vertegenwoordigt in de manier waarop kennis wordt georganiseerd. Zij stellen voor dat generatieve AI iets doet wat geen eerdere technologie heeft gedaan: het codeert de manier van weten van de meerderheid als de standaard infrastructuur voor alle kennis. In dit systeem worden de culturele aannames, talen en redeneerstijlen van de wereldwijde meerderheid de onzichtbare standaard waaraan alles wordt gemeten. De schade is niet enkel dat de AI onrechtvaardige resultaten produceert, maar dat het een statistische realiteit construeert waarin minderheidsculturen en -talen structureel naar de onderkant worden gedrukt, niet omdat ze worden uitgesloten, maar omdat ze worden geabsorbeerd en afgeplat tot een enkele, homogeen gemiddelde. De auteurs tonen aan dat dit probleem drie afzonderlijke problemen verenigt die vaak als verschillend worden behandeld: discriminerende outputs, bedreigingen voor minderheidsculturen en de vernauwing van het democratisch debat. Zij stellen vast dat dit geen willekeurige glitches zijn, maar het onvermijdelijke resultaat van hoe deze modellen worden gebouwd.

Het mechanisme achter deze subordinatie ontvouwt zich in drie verschillende stadia, beginnend bij de data zelf. De meeste AI-modellen worden getraind op de ongegestructureerde totaliteit van de menselijke expressie die beschikbaar is op het internet. Dit digitale landschap is niet neutraal; het wordt overweldigend gedomineerd door Engelstalige content, Westerse perspectieven en de opvattingen van populaties met de educatie en toegang om online te publiceren. Wanneer een model leert van dit corpus, leert het niet alleen woorden; het leert de culturele aannames en normatieve kaders van die meerderheid als zijn statistische standaard. De tweede fase maakt deze standaard onomkeerbaar. Tijdens de training wordt de data gecomprimeerd in miljarden statistische parameters die niet kunnen worden uitgevouwen of terug te leiden naar hun oorspronkelijke bronnen. In tegen tegenstelling tot oudere computerprogramma's waar een programmeur naar een specifieke regel kon wijzen die een bias veroorzaakte, zijn deze modellen per ontwerp opaak. De bias zit niet in een enkele regel code of een specifieke variabele; het is verweven in de gehele architectuur van het systeem.

De derde fase betreft de instrumenten die worden gebruikt om deze AI-systemen veilig en eerlijk te maken, ook wel bekend als waarde-alignment (waarde-afstemming). Technieken zoals reinforcement learning from human feedback passen wat het model zegt aan om het beleefder of minder schadelijk te maken. De auteurs betogen echter dat deze tools alleen de output veranderen, niet de onderliggende kennis. Wanneer ontwikkelaars proberen een model divers te dwingen, kunnen de resultaten absurd zijn, zoals het genereren van afbeeldingen van racistisch diverse nazi-soldaten, omdat het basiskader van het model geen werkelijk begrip heeft van contextuele diversiteit. Het probeert simpelweg op een grove wijze een statistische standaard te overriden die het niet echt kan begrijpen. Bijgevolg ontstaat de schade op het niveau van constructie, niet op het niveau van het uiteindelijke antwoord. Het model produceert niet alleen bevooroordeelde beslissingen; het ondergeschikt maakt volledige vormen van kennis en cultuur door ze te behandelen als afwijkingen van een standaard waar zij geen deel aan hadden gehad bij het vaststellen ervan.

Deze structurele realiteit creëert een crisis voor bestaande wetten die bedoeld zijn om minderheden te beschermen. Antidiscriminatiewetten werken bijvoorbeeld door een specifieke beslissing te vergelijken met een neutrale baseline. Als een bank een leningaanvraag afwijst op basis van een specifieke regel die een beschermde groep benadeelt, kan de wet dit ongedaan maken. Maar generatieve AI biedt geen dergelijk discreet doelwit. De discriminerende output is het product van de gehele architectuur, niet van een enkele identificeerbare regel. De "beslissing" is een probabilistische gok, de "criteria" zijn miljarden onzichtbare parameters, en de "entiteit" die verantwoordelijk is, is een keten van ontwikkelaars en gebruikers. De juridische instrumenten van intentie en causaliteit verliezen hun grip omdat de schade geen specifieke daad van uitsluiting is, maar een conditie van inclusie waarbij minderheidsstandpunten worden geabsorbeerd en afgeplat.

De dreiging strekt zich uit tot culturele en linguïstische rechten, die bedoeld zijn om minderheidsinstellingen te beschermen tegen de dominantie van de meerderheid. Traditioneel kon een minderheidsschool zijn eigen bibliotheek cureren of zijn eigen curriculum kiezen om zijn taal en tradities te behouden. De culturele bias in die technologieën zat in de inhoud, die geselecteerd kon worden. Generatieve AI draait dit om. De bias zit in de architectuur van het model zelf. Een minderheidsgemeenschap kan niet haar eigen basismodel bouwen omdat de kosten honderden miljoenen dollars bedragen en de vereiste data niet op de schaal van het internet bestaat voor kleinere talen. Recent onderzoek laat zien dat zelfs de beste modellen een hoge nauwkeurigheid bereiken in het Engels, maar significant dalen in talen zoals Swahili of Yoruba. Wanneer een religieuze school of een klaslokaal met een minderheidstaal een AI-assistent gebruikt, importeert het een normatief kader dat standaard naar seculiere, Westerse redenering neigt. De technologie dringt door in de institutionele ruimtes die deze rechten juist moesten beschermen, en herstructureert kennis van binnenuit op een manier die eerdere tools nooit deden.

Ten slotte vormt dit fenomeen een bedreiging voor de infrastructuur van de democratische deliberatie zelf. Een gezonde democratie hangt af van de beschikbaarheid van werkelijk diverse kaders voor het begrijpen van problemen. Het vereist dat mensen worden blootgesteld aan standpunten die zij niet vooraf zelf zouden hebben gekozen. Echter, als generatieve AI een primaire bron van informatie wordt, homogeniseert het het epistemische veld. Minderheidskaders worden niet gecensureerd; ze worden geabsorbeerd in de trainingsdata van het model, maar structureel ondergeschikt gemaakt in de output. Het publieke debat zal niet verdwijnen, maar het zal steeds vaker plaatsvinden binnen een veld dat al is afgeplat tot het mediaan culturele niveau. De juridische kaders die bedoeld zijn om standpuntpluralisme te beschermen, zoals regels voor mediadiversiteit, gaan ervan uit dat diverse kennis onafhankelijk bestaat en slechts een kanaal nodig heeft om het publiek te bereiken. Epistemische subordinatie ondermijnt deze aanname en vernauwt het veld waaruit diverse spraak voortkomt.

De auteurs concluderen dat huidige juridische reacties structureel niet in staat zijn dit probleem aan te pakken, omdat ze opereren stroomafarts, waarbij ze reguleren wat AI-systemen doen in plaats van hoe ze zijn gebouwd. Wetten zoals de Europese AI-verordening of diverse staatsregelingen richten zich op de toepassing van AI bij werving of kredietverlening, of op de veiligheid van het eindproduct. Ze adresseren niet de compositie van de trainingsdata of de architectuur van het model zelf. De centrale claim van het essay is dat het beschermen van epistemische pluraliteit een fundamenteel andere regulatieve oriëntatie vereist. Het recht moet worden gestuurd om te regeren op het niveau van de training, door de compositie van data, de methoden van alignment en de modelarchitectuur vorm te geven.

Dit is niet louter een theoretische eis; recent onderzoek suggereert dat de technische capaciteit om te interveniëren reëel is. Wetenschappers hebben modulaire architecturen voorgesteld waarbij een basismodel put uit kleinere, gemeenschapsspecifieke modellen om onderscheidende perspectieven te behouden. Anderen hebben aangetoond hoe men systematisch cultureel gewortelde trainingsdata voor ondervertegenwoordigde talen kan construeren, zodat nuance behouden blijft in plaats van afgeplat te worden. Er zijn ook methoden om synthetische trainingsdata te genereren die specifieke culturele perspectieven vertegenwoordigen en om het alignmentproces te herontwerpen om een volledige distributie van menselijke waarden te vertegenwoordigen in plaats van een enkele standaard. Hoewel deze voorstellen geen voltooide oplossingen zijn, tonen ze aan dat de technische weg vooruit bestaat. Wat ontbreekt is de politieke wil en het juridische kader om deze interventies te vereisen en mogelijk te maken. De taak die voor ons ligt, is het bouwen van wetten die de constructie van het model zelf kunnen bereiken, om ervoor te zorgen dat de infrastructuur van kennis niet de diversiteit ondergeschikt maakt die zij beweert te dienen.