Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

Stel je een wereld voor waarin een enkele set regels is geschreven om te sturen hoe intelligente machines zich moeten gedragen, een regelboek bedoeld om overal te werken, van een bruisende stad in Europa tot een afgelegen dorp in Afrika. Dit is de huidige ambitie van de ethiek van kunstmatige intelligentie. Jarenlang hebben grote organisaties en technologiebedrijven ingestemd met een lijst van kernwaarden—eerlijkheid, transparantie, privacy en verantwoording—die zij geloven dat deze systemen zouden moeten beheersen. Het idee is dat als we deze concepten duidelijk genoeg definiëren, ze op dezelfde manier zullen functioneren, ongeacht waar de technologie wordt gebruikt. Maar deze benadering gaat ervan uit dat een persoon in de ene cultuur "eerlijkheid" of "privacy" op exact dezelfde manier begrijpt als een persoon in een andere cultuur. Het behandelt menselijke waarden alsof het universele constanten zijn, zoals zwaartekracht, in plaats van ideeën die voortkomen uit specifieke geschiedenissen, relaties en het dagelijks leven.

Deze aanname is de centrale vraag die een team van onderzoekers wilde testen. Ze wilden weten wat er gebeurt wanneer deze wereldwijde regels de lokale realiteiten ontmoeten. Komen de mensen die deze systemen daadwerkelijk bouwen, gebruiken en ermee samenleven, overeen met de standaarddefinities? Of zien zij de technologie door een totaal andere lens? De onderzoekers vroegen niet of de technologie technisch werkt, maar of het morele kompas dat de technologie stuurt voor iedereen in dezelfde richting wijst. Ze vermoedden dat de kloof tussen een wereldwijd regelboek en het lokale leven groter zou kunnen zijn dan iemand had beseft, wat potentieel ertoe kan leiden dat veel gemeenschappen worden achtergelaten of gedwongen worden waarden te accepteren die niet passen bij hun behoeften.

Om het antwoord te vinden, reisden de onderzoekers naar tien verschillende landen in Afrika, Azië, Latijns-Amerika, Europa, Noord-Amerika, het Caribisch gebied en Oceanië. Ze bestudeerden niet de code van de machines zelf; in plaats daarvan gingen ze in gesprek met veertien experts die in deze diverse regio's leven en werken. Dit waren niet alleen computerwetenschappers, maar ook gemeenschapsleiders, journalisten en beleidsadvocaten die zowel de technologie als de diepe culturele stromingen van hun eigen landen begrijpen. Gedurende zeven maanden voerden het team diepgaande gesprekken, waarbij ze deze experts vroegen hoe zij kunstmatige intelligentie in hun eigen buurten zien en hoe zij de grote ethische termen interpreteren die in wereldwijde beleidsdocumenten worden gebruikt.

Wat uit deze gesprekken naar voren kwam, was een duidelijk beeld van een wereld waar de ervaring met technologie diep ongelijkmatig is. De experts beschreven een landschap waar toegang tot kunstmatige intelligentie vaak wordt geblokkeerd door eenvoudige, fysieke realiteiten: een gebrek aan betrouwbare elektriciteit, instabiele internetverbindingen of de afwezigheid van betaalbare apparaten. In veel plaatsen arriveert de technologie niet als een neutraal hulpmiddel, maar als iets dat voelt alsof het uit de gemeenschap wordt getrokken in plaats van ermee te worden opgebouwd. De onderzoekers ontdekten dat mensen in deze regio's vaak het gevoel hebben dat hun gegevens worden afgenomen zonder hun volledige begrip of toestemming, en worden gebruikt om systemen te trainen die vervolgens hun talen, accenten of culturele nuances niet herkennen. Dit creëert een gevoel van extractie, waarbij de lokale gemeenschap de brandstof voor de machine levert, maar weinig van de voordelen ziet, terwijl de beslissingen over hoe de machine werkt ver weg worden genomen door mensen die hun dagelijkse strijd niet delen.

De meest opvallende ontdekking was echter hoe de experts de woorden die deze systemen besturen, herdefinieerden. Wanneer de onderzoekers vroegen naar "privacy", richt de standaard wereldwijde definitie zich op het recht van het individu om de eigen gegevens geheim te houden. Maar in veel van de culturen die in de studie werden vertegenwoordigd, is privacy geen individueel schild; het is een collectieve praktijk. Voor deze experts gaat privacy over de familie of de gemeenschap. Beslissen welke informatie wordt gedeeld, is een groepsgesprek, afgewogen tegen het welzijn en de reputatie van de hele groep, niet alleen tegen de rechten van een enkel persoon. Een systeem dat gegevens puur als individueel eigendom behandelt, mist de essentie van hoe deze gemeenschappen daadwerkelijk functioneren.

Op dezelfde manier kreeg het concept "transparantie" een andere betekenis. In de wereldwijde techwereld betekent transparantie vaak het openstellen van de code zodat ingenieurs kunnen zien hoe de wiskunde werkt. Maar voor de experts in deze studie ging transparantie over vertrouwen en verantwoording. Zij hadden de code niet nodig; zij moesten in staat zijn om een mens te vragen: "Waarom heb je deze beslissing genomen?" en een antwoord te krijgen dat zin gaf in hun eigen taal en context. Als een boer in een landelijk gebied niet kan begrijpen waarom een machine regen of droogte voorspelt, dan is het systeem niet transparant, ongeacht hoeveel technische documentatie er bestaat. Vertrouwen wordt opgebouwd door relaties en heldere communicatie, niet door toegang tot complexe algoritmen.

Het idee van "eerlijkheid" verschoof ook. De standaardvisie zoekt vaak naar wiskundige gelijkheid, waarbij wordt gegarandeerd dat elke groep exact hetzelfde resultaat krijgt. Maar de experts stelden dat ware eerlijkheid gaat over gelijkwaardigheid en toegang. Als een systeem technisch eerlijk is maar een snelle internetverbinding of een smartphone vereist om te gebruiken, dan is het niet eerlijk voor de persoon die die middelen niet heeft. Eerlijkheid betekent in hun visie ervoor zorgen dat het systeem toegankelijk is voor iedereen en dat de mensen die het ontwerpen hebben geluisterd naar de stemmen van degenen die er het meest door worden getroffen. Het is een kwestie van structurele rechtvaardigheid, niet alleen een berekening van getallen.

De onderzoekers kwamen tot de conclusite dat deze verschillen niet slechts kleine misverstanden zijn; het zijn wat zij "vertalingskloven" noemen. Dit is de ruimte waar een universele regel niet correct landt in een specifieke plaats. Wanneer een mondiaal kader zegt "wees eerlijk", kan dat in een boardroom in New York iets heel anders betekenen dan in een dorp in Kenia. Wanneer deze kloven worden genegeerd, is het resultaat vaak een systeem dat vreemd, onbetrouwbaar of zelfs schadelijk aanvoelt voor de mensen die het zou moeten helpen. De experts beschreven het gevoel een buitenstaander te zijn in hun eigen technologische toekomst, waarbij ze toezien hoe beslissingen voor hen worden genomen door verre autoriteiten die hun lokale waarden niet begrijpen.

In reactie op deze bevindingen boden de experts een nieuwe weg vooruit. Ze suggereerden dat in plaats van te proberen één set regels op de hele wereld te dwingen, we een systeem van bestuur nodig hebben dat ruimte biedt aan vele verschillende stemmen. Ze stelden voor dat lokale gemeenschappen de autoriteit moeten hebben om vorm te geven aan hoe deze technologieën in hun eigen regio's worden ontworpen en gebruikt. Dit betekent een beweging weg van een model waarbij een paar machtige instituten de regels dicteren, naar een model waarbij kennis en besluitvorming worden gedeeld. Het houdt in dat men erkent dat lokale culturen hun eigen diepe wijsheid hebben over hoe ze met gegevens omgaan, hoe ze vertrouwen opbouwen en hoe ze rechtvaardigheid waarborgen.

De studie concludeert dat de weg naar ethische kunstmatige intelligentie niet ligt in het vinden van één enkele, perfecte definitie van een waarde die overal werkt. In plaats daarvan gaat het om het creëren van een proces waarbij deze waarden kunnen worden onderhandeld en aangepast naarmate ze van de ene context naar de andere bewegen. Het vereist het luisteren naar de mensen die daadwerkelijk met de technologie leven en het toestaan dat zij definiëren wat eerlijkheid, privacy en vertrouwen betekenen in hun eigen leven. Door ethische waarden te behandelen als iets dat vertaald en opnieuw geïnterpreteerd moet worden voor elke gemeenschap, in plaats van als een vaste standaard die opgelegd moet worden, kunnen we systemen bouwen die niet alleen slimmer zijn, maar ook rechtvaardiger en menselijker. De onderzoekers suggereren dat deze verschuiving essentieel is als we willen dat kunstmatige intelligentie de hele mensheid dient, in plaats van slechts een enkelen.