Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Stel je een wereld voor waarin de regels voor hoe we met elkaar omgaan zijn geschreven door één enkele groep mensen, gebruikmakend van alleen hun eigen geschiedenis en taal, en die vervolgens op iedereen anders worden toegepast. Dit is de huidige realiteit voor kunstmatige intelligentie in het onderwijs. Naarmate computers slimmer worden, worden ze steeds vaker gebruikt om toetsen te beoordelen, lessen aan te bevelen en zelfs te beslissen wie wordt toegelaten tot een universiteit. Maar de ethische richtlijnen die bedoeld zijn om deze systemen eerlijk te houden, zijn grotendeels ontwikkeld in rijke, westerse landen. Deze richtlijnen gaan ervan uit dat iedereen op dezelfde manier denkt, spreekt en leert. Wanneer deze regels worden toegepast op studenten in Afrika, Azië of Latijns-Amerika, falen ze vaak. Ze kunnen een accent van een student verkeerd begrijpen, lokale culturele waarden negeren, of simpelweg niet werken omdat de internetverbinding te traag is. Het resultaat is een systeem dat beweert eerlijk te zijn, maar in werkelijkheid bepaalde groepen verder naar de zijlijn duwt.

Deze onbalans heeft geleid tot een nieuwe vraag onder onderzoekers: wie bepaalt wat juist is? Een team van wetenschappers uit Indonesië is ingesteld om dit te beantwoorden door te analyseren hoe AI-ethiek daadwerkelijk wordt toegepast in klaslokalen over de hele wereld. Ze hebben niet alleen de regels gelezen; ze hebben de 84 gepubliceerde studies onderzocht die spreken over de mensen die de richtlijnen schreven, de studenten die zij beïnvloeden, en de plaatsen waar ze worden gebruikt. Hun doel was om een manier te vinden om AI-ethiek voor iedereen werkbaar te maken, niet alleen voor de enkeling die de macht heeft om de richtlijnen te schrijven. Ze noemen deze benadering "glocal", een mengeling van globaal en lokaal, wat suggereert dat goede regels met de hele wereld in gedachten moeten worden gemaakt, maar gebouwd moeten worden om te passen bij de specifieke behoeften van elke gemeenschap.

De onderzoekers begonnen met het verzamelen van 84 verschillende studies gepubliceerd tussen 2015 en 2025. Ze zochten naar elk onderzoek dat besprak hoe AI wordt gebruikt in het onderwijs en of dit eerlijk was. Ze zochten door duizenden artikelen en hielden alleen die over die echt bewijs of diepe analyse boden van hoe deze systemen in de praktijk werken. Ze besteedden speciale aandacht aan studies uit het "Mondiale Zuiden", een term die wordt gebruikt voor regio's die vaak buiten de hoofdgesprekken over technologie zijn gelaten, inclusief landen in Afrika, Latijns-Amerika en delen van Azië. Door zich te concentreren op deze stemmen binnen de bestaande literatuur, hoopte het team een ander beeld te krijgen van hoe ethische AI eruit zou moeten zien.

Wat ze vonden, was een duidelijke kloof. De overgrote meerderheid van de regels en richtlijnen komt van instellingen in Europa en Noord-Amerika. Deze regels worden vaak geschreven als een eenvoudige checklist van waarden, zoals "wees eerlijk" of "wees transparant". Echter, de studie laat zien dat deze checklists zelden veranderen hoe de zaken daadwerkelijk verlopen in scholen in andere delen van de wereld. In veel gevallen krijgen scholen in het Mondiale Zuiden de opdracht om deze westerse regels over te nemen zonder dat hen om hun mening is gevraagd. De onderzoekers ontdekten dat wanneer AI-systemen worden gebouwd met alleen Engelse gegevens en westerse ideeën, ze vaker fouten maken bij studenten die andere talen spreken of uit een andere culturele achtergrond komen. Bijvoorbeeld, geautomatiseerde beoordelingstools hebben vaak moeite met niet-moedertaalsprekers Engels, waardoor zij lagere scores krijgen, niet omdat hun werk slechter is, maar omdat de computer hun manier van spreken niet begrijpt.

De studie onthulde ook dat de mensen die door deze regels beschermd zouden moeten worden — leraren, studenten en lokale leiders — zelden deel uitmaken van het besluitvormingsproces. In de weinige gevallen waarin lokale gemeenschappen betrokken waren, was die betrokkenheid vaak slechts een formaliteit, een vinkje dat gezet moest worden in plaats van een echt partnerschap. De onderzoekers merkten op dat wanneer lokale stemmen worden genegeerd, de technologie vaak faalt in het oplossen van de problemen die het juist bedoeld was op te lossen. In plaats van iedereen te helpen leren, kan het bestaande ongelijkheden verdiepen, waardoor het voor hen die al moeite hebben om bij te blijven, nog moeilijker wordt.

De geschiedenis eindigt echter niet met falen. De onderzoekers ontdekten ook een groeiende beweging van lokale oplossingen die veel beter werken. In Ghana bijvoorbeeld gebruiken scholen een concept genaamd "Ubuntu", dat benadrukt dat een persoon een persoon is door andere mensen. Dit idee wordt gebruikt om AI-systemen te ontwerpen die zich richten op gemeenschappelijk vertrouwen en gedeelde verantwoordelijkheid in plaats van alleen op individuele scores. In Zuidoost-Azië wordt een andere benadering genaand "gotong royong", wat betekent dat men samenwerkt voor het algemeen belang, gebruikt om ervoor te zorgen dat iedereen een stem heeft in hoe technologie wordt gebruikt. Deze lokale methoden zijn niet slechts kleine aanpassingen aan de grote globale regels; het zijn compleet andere manieren van denken over wat juist en onjuist is. Ze behandelen lokale kennis als even belangrijk als westerse wetenschap.

Het team concludeerde dat de huidige manier van werken kapot is omdat het ethiek behandelt als een kant-en-klaar product voor iedereen. Ze betogen dat we moeten stoppen met het proberen op te leggen van een enkele set regels aan de hele wereld. In plaats daarvan stellen ze een nieuw kader voor: het Framework voor Glocaliseerde AI-ethiek in het Onderwijs. Deze benadering suggereert dat ethische regels vanuit de basis moeten worden opgebouwd. Dit betekent dat wanneer een school in een ander land AI wil gebruiken, zij de regels moeten kunnen vormgeven zodat ze passen bij hun eigen cultuur, taal en behoeften. Het betekent ook dat bedrijven die deze hulpmiddelen verkopen, moeten kunnen bewijzen dat hun systemen eerlijk werken voor lokale studenten voordat ze deze mogen verkopen.

De onderzoekers stellen drie belangrijke stappen voor om dit te realiseren. Ten eerste moet de kennis die deze systemen stuurt uit veel verschillende bronnen komen, niet slechts uit één. Ten tweede moeten de mensen die de technologie gebruiken een echte stem hebben in hoe deze wordt ontworpen en gecontroleerd. Ten derde moet er echte consequenties zijn als de technologie faalt in het zijn van eerlijk, zoals het weigeren van de aankoop van instrumenten die niet voor iedereen werken. Dit gaat niet alleen over vriendelijk zijn; het gaat erom te zorgen dat de technologie daadwerkelijk werkt. De studie laat zien dat wanneer lokale gemeenschappen betrokken zijn bij het ontwerp, het vertrouwen in het systeem toeneemt en de technologie nuttiger wordt voor iedereen.

Deze nieuwe manier van denken betekent niet dat alle oude regels weggegooid moeten worden. In plaats daarvan betekent het dat we de manier waarop we ze maken moeten veranderen. Het gaat erom te erkennen dat er veel manieren zijn om ethisch te zijn, net zoals er veel manieren zijn om een taal te spreken of een les te geven. De onderzoekers geloven dat als we een systeem kunnen bouwen dat deze verschillen respecteert, we AI kunnen creëren die echt alle studenten helpt leren. Ze zeggen niet dat dit makkelijk is of dat het van de ene op de andere dag zal gebeuren. Maar ze zijn duidelijk over het feit dat het huidige pad, waarbij een paar machtige groepen voor iedereen beslissen, niet werkt. De toekomst van AI in het onderwijs hangt af van het luisteren naar de mensen die de technologie daadwerkelijk gebruiken, en ervoor te zorgen dat hun stemmen gehoord worden bij het ontwerp van de instrumenten die hun toekomst zullen vormen.