The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
Dit artikel betoogt dat de geclaimde universaliteit van belangrijke AI-governanceframeworks een ideologische mythe is die een structureel mechanisme van epistemische uitsluiting maskeert, waarbij populaties in het Mondiale Zuiden het noodzakelijke "contestatiegeletterdheid" missen om AI-systemen uit te dagen, waardoor de macht van de implementeerders wordt versterkt door een combinatie van conceptuele middelenontzegging, vertekende sociotechnische verbeeldingen en bureaucratische structurele barrières.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin de regels voor hoe kunstmatige intelligentie wordt gebouwd en gecontroleerd zijn geschreven in een taal die de meeste mensen niet kunnen lezen. Wereldleiders en grote organisaties beweren vaak dat deze regels voor iedereen en overal gelden, ontworpen om de mensheid en de planeet te beschermen. Ze spreken over universele principes die elke natie zouden moeten leiden. Maar een nadere blik onthult een andere realiteit: voor veel gemeenschappen, met name in het Mondiale Zuiden — een term die hier wordt gebruikt om regio's te beschrijven die historisch gezien buiten de creatie van deze technologieën zijn gelaten — zijn deze regels niet alleen moeilijk te volgen; ze zijn onzichtbaar. De mensen die onder deze systemen leven, missen vaak zelfs de basisinstrumenten om te herkennen dat een systeem van kunstmatige intelligentie beslissingen neemt over hun leven, laat staan het vermogen om die beslissingen in twijfel te trekken. Dit is niet simpelweg een kwestie van behoefte aan meer onderwijs of betere internettoegang. Het is een structurele kloof waarbij de concepten die nodig zijn om deze systemen te begrijpen en uit te dagen, ontbreken in het publieke debat.
Deze kloof is wat onderzoekers Amulya N en Ashwini Prasad S van de RV University wilden onderzoeken. Zij stellen dat het idee van "universele" AI-governance een illusie is die in werkelijkheid degenen aan de macht helpt. De auteurs suggereren dat terwijl techbedrijven en overheden druk bezig zijn mensen te leren hoe ze AI-producten moeten gebruiken — hoe ze moeten scrollen, klikken en interageren — zij mensen niet leren hoe ze deze moeten besturen. Er is een cruciaal verschil tussen weten hoe je een hulpmiddel gebruikt en weten hoe je de maker van dat hulpmiddel ter verantwoording roept. Het artikel stelt dat dit gebrek aan "betwistbaarheid" — het vermogen om een systeem te zien als iets dat kan worden bevraagd en gereguleerd — geen toeval is. Het is een functioneel onderdeel van hoe macht werkt. Wanneer mensen het systeem niet kunnen zien, kunnen ze het niet uitdagen, en worden de bedrijven die het bouwen niet onder druk gezet om te veranderen.
Om te begrijpen hoe dit gebeurt, keken de onderzoekers naar twee zeer verschillende plekken: India en de landen van sub-Sahara Afrika. Zij kozen deze locaties om aan te tonen dat dit probleem niet uniek is voor één land of één type regering. In India, een land met een eigen krachtige tech-industrie en een grote overheid, komt het probleem van binnenuit. De overheid heeft een belangrijke wet op gegevensbescherming aangenomen, maar het debat in het parlement duurde slechts ongeveer twee uur en de uiteindelijke wet bevatte brede uitzonderingen voor de staat zelf. Het publiek, dat grotendeels onwetend is over de details van kunstmatige intelligentie, had niet de woordenschat of de politieke druk om betere waarborgen te eisen. Het resultaat was een wet die op papier beschermend leek, maar in de praktijk weinig echte bescherming bood aan gewone burgers. In sub-Sahara Afrika komt het probleem van buitenaf. Landen daar nemen AI-systemen en governance-regels over die in Europa of de Verenigde Staten zijn gebouwd, vaak zonder de lokale instituties of expertise die nodig zijn om ze af te dwingen. Men krijgt te horen dat deze regels universeel zijn, maar omdat ze voor andere samenlevingen zijn ontworpen, falen ze vaak in het beschermen van de lokale bevolking, waardoor zij onderhevig zijn aan systemen die zij niet kunnen auditeren of begrijpen.
De onderzoekers ontdekten dat deze onzichtbaarheid in stand wordt gehouden door twee belangrijke krachten. Ten eerste is er een gebrek aan bewustzijn. Veel mensen weten simpelweg niet dat AI beslissingen neemt over hun leningen, hun sociale voorzieningen of hun veiligheid. Ten tweede is er een vorm van misinformatie, waarbij mensen wel over AI weten, maar alleen via specifieke verhalen die de werkelijke gevaren verbergen. Sommigen krijgen te horen dat AI een magische oplossing is die alle ontwikkelingsproblemen zal oplossen, terwijl anderen worden verteld dat ze bang moeten zijn voor een sciencefiction-robotovername. Beide verhalen leiden af van de werkelijke, stille schade die nu plaatsvindt: algoritmen die discrimineren, data die wordt gestolen, en infrastructuur die wordt gebouwd zonder lokale toestemming. Het artikel betoogt dat deze verhalen niet slechts misverstanden zijn; het zijn structurele kenmerken die mensen ervan weerhouden de juiste vragen te stellen.
Een van de meest opvallende bevindingen van het onderzoek is dat deze blindheid zelfs doorwerkt bij de overheidsfunctionarissen die de bouw van de datacentra goedkeuren die deze systemen aandrijven. In India heeft een enkel datacenter tot wel dertig verschillende vergunningen nodig van diverse overheidsinstanties. Een ambtenaar kan een bouwvergunning of een elektriciteitsaansluiting goedkeuren zonder ooit te weten dat het gebouw een datacenter is voor een systeem van kunstmatige intelligentie. De papierwinkel vraagt niet om die informatie, en de functieomschrijving van de ambtenaar bevat niet het begrip van de bredere impact van AI. Zij zijn niet corrupt; zij zijn simpelweg onwetend. Zij faciliteren een massaal governance-systeem terwijl zij zelf volledig blind zijn voor het bestaan ervan. Dit creëert een situatie waarin de mensen die de leiding zouden moeten hebben, ook evenzeer uitgesloten zijn van de kennis als de burgers die zij dienen.
De studie daagt de algemene overtuiging uit dat de oplossing simpelweg bestaat uit het leren aan meer mensen over technologie. De auteurs stellen dat het leren aan mensen hoe ze AI moeten gebruiken het probleem niet oplost als de mensen in de macht geen juridische bevoegdheid hebben om slechte systemen te stoppen, of als de wetten zelf zo zijn geschreven dat ze de machtigen vrijstellen. Meer stemmen toevoegen aan het gesprek helpt niet als het gesprek wordt gevoerd in een taal die die stemmen niet kunnen spreken, of als de regels van het gesprek worden bepaald door mensen die niet hoeven te luisteren. Het artikel concludeert dat de claim van universele AI-governance een mythe is die de belangen dient van degenen die deze systemen bouwen en inzetten. Het stelt hen in staat te claimen dat zij de wereldwijde standaarden volgen, terwijl zij opereren in een ruimte waar niemand kan controleren of die standaarden daadwerkelijk worden nageleefd. Totdat de mensen die onder deze systemen leven de conceptuele instrumenten krijgen om de spiegel te zien voor wat het is, zal de macht om de toekomst van kunstmatige intelligentie vorm te geven buiten hun bereik blijven.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.