Designing Culturally Aligned AI Systems For Social Good in Non-Western Contexts

Dit artikel analyseert acht AI-deployments in niet-westerse contexten en presenteert twaalf richtlijnen voor het ontwerpen van cultureel afgestemde systemen, waarbij het benadrukt dat menselijke samenwerking en inzicht in lokale factoren cruciaal zijn voor succes in hoog-risicodomeinen.

De kern

De Kunst van het Bouwen van Slimme Machines voor de Wereld: Een Verhaal over Cultuur en Samenwerking

Stel je voor dat je een enorme, slimme robot bouwt. Deze robot is zo slim dat hij kan praten, schrijven, rekenen en zelfs diagnoses kan stellen. Maar er is een groot probleem: deze robot is opgeleid in een heel specifieke wereld (de westerse wereld) met specifieke regels, woorden en gewoonten.

Nu wil je deze robot meenemen naar een heel andere plek, bijvoorbeeld een dorp in India, een stad in Kenia of een school in Colombia. Je wilt dat hij helpt bij belangrijke dingen: ziektes genezen, gewassen laten groeien, of kinderen leren lezen.

Dit artikel vertelt het verhaal van wat er gebeurt als je die robot probeert te laten werken in deze nieuwe werelden. Het blijkt dat je de robot niet zomaar kunt neerzetten en hopen dat hij het goed doet. Je moet hem op maat maken, net als een pak dat perfect moet passen.

Hier is hoe de onderzoekers dit uitleggen, met een paar simpele vergelijkingen:

1. De Robot moet de taal van de buurt spreken (Taal)

Stel je voor dat je een robot hebt die alleen Engels spreekt en denkt dat "salade" de standaardmaaltijd is. Als je hem naar een dorp in India stuurt waar mensen "roti" eten, zal hij verwarrend advies geven.

• Het probleem: De robot kent de lokale dialecten, de grappige uitdrukkingen en de specifieke woorden voor gewassen of ziektes niet.
• De oplossing: De onderzoekers ontdekten dat je niet alleen de robot moet "herprogrammeren", maar dat je mensen nodig hebt om hem te leren. Mensen uit de buurt moeten de robot vertellen: "Nee, hier zeggen we 'koe', niet 'rund', en hier bedoelen we 'regen' niet met dat ene woord." Soms moet je de robot zelfs opnieuw laten leren (zoals een student die naar school gaat) om die specifieke taal te begrijpen.

2. De Robot moet op de regels van het dorp spelen (Instituten)

Een slimme robot is nutteloos als niemand hem vertrouwt of als hij tegen de regels van de gemeente in werkt.

• De vergelijking: Het is alsof je een nieuwe auto bouwt die super snel is, maar die niet mag rijden op de wegen van dat specifieke land omdat de wet het verbiedt, of omdat de bestuurders niet weten hoe ze hem moeten starten.
• De les: De robot moet zich aanpassen aan de lokale wetten, de schoolplannen en de gezondheidsregels. Als de robot een lesplan maakt voor een leraar, moet het er precies uitzien zoals de school het eist, anders wordt het gewoon in de prullenbak gegooid. Zonder steun van de lokale leiders (burgemeesters, schoolhoofden, artsen) werkt het niet.

3. Veiligheid is de "Rem" (Veiligheid)

In een ziekenhuis of een rechtbank mag je geen fouten maken. Als een robot een verkeerd medicijn voorschrijft of een verkeerde vertaling geeft, kan dat levens kosten.

• De vergelijking: Stel je voor dat de robot een vliegtuig bestuurt. Je kunt hem niet volledig op de automatische piloot zetten. Je hebt altijd een menselijke piloot nodig die over de schouder meekijkt.
• De les: De onderzoekers zagen dat de slimste robots niet alleen maar op zichzelf vertrouwen. Ze gebruiken een systeem waarbij de robot een antwoord bedenkt, maar een mens (een arts, een leraar, een jurist) het eerst moet controleren voordat het naar de gebruiker gaat. Dit heet "mens-in-de-lus". De robot doet het zware werk, maar de mens houdt de veiligheid in de gaten.

4. De Omgeving telt mee (Taak & Gebruiker)

Soms werkt een robot perfect in een stil kantoor, maar faalt hij in een drukke katoenplukkerij waar het stof en lawaai is.

• De vergelijking: Het is alsof je een heel gevoelige microfoon meeneemt naar een rockconcert. Als je die microfoon niet aanpast, hoor je alleen maar ruis.
• De les: De onderzoekers leerden dat je moet kijken naar de mensen die de robot gebruiken. Zijn ze oud? Kunnen ze niet lezen? Hebben ze een dure telefoon of een oude?
  • Als mensen niet kunnen lezen, moet de robot praten in plaats van tekst tonen.
  • Als het internet traag is, moet de robot offline kunnen werken.
  • Als de mensen in een warm klimaat werken, moet de robot begrijpen dat ze misschien haast hebben of in de schaduw zitten.

5. De Grote Drie Krachten

De onderzoekers ontdekten dat drie grote krachten bepalen of de robot slaagt of faalt:

1. De Cultuur: Wat is normaal in deze gemeenschap? (Taal, gewoontes, vertrouwen).
2. De Organisatie: Heeft de lokale school of het ziekenhuis genoeg geld en mensen om de robot te onderhouden?
3. De Technologie: Is de robot slim genoeg voor deze specifieke taal en taak?

Het Grootste Geheim: Mensen zijn belangrijker dan code

Het meest belangrijke wat dit artikel vertelt, is dit: Je kunt de beste technologie ter wereld hebben, maar zonder mensen werkt het niet.

Het bouwen van een slimme robot voor een ander land is niet zoals het installeren van een app op je telefoon. Het is meer zoals het opvoeden van een kind. Je moet het kind (de robot) leren hoe de wereld eruitziet, wie zijn vrienden zijn, wat de regels zijn, en je moet er altijd iemand bij hebben die het kind helpt als het in de problemen komt.

De onderzoekers zeggen: "Het is niet de code die het verschil maakt, maar de samenwerking tussen de programmeurs en de mensen uit de buurt."

De 12 Regels voor Succes (Samengevat)

De auteurs geven 12 adviezen voor iedereen die slimme systemen wil bouwen voor de wereld:

• Werk samen met lokale experts (ze weten meer dan jij).
• Zorg dat de robot de lokale taal en cultuur echt begrijpt, niet alleen oppervlakkig.
• Gebruik de taal die mensen al spreken, zelfs als het niet hun "moedertaal" is (soms is Hindi of Engels makkelijker dan een heel klein dialect).
• Bouw vertrouwen op door de robot te laten werken onder toezicht van vertrouwde mensen (zoals een arts of leraar).
• Zorg dat de robot past bij de regels van de lokale overheid.
• Begin klein. Test de robot eerst bij een paar mensen voordat je hem naar miljoenen stuurt.
• Houd rekening met de omgeving (lawaaierig, geen internet, oude telefoons).
• Wees flexibel. Technologie verandert snel, dus bouw je systeem zo dat je de robot makkelijk kunt updaten.

Kortom: Om slimme machines te maken die echt helpen in de wereld, moet je stoppen met denken dat technologie alles oplost. Je moet de technologie inpassen in de mensen, hun cultuur en hun dagelijks leven. Het is een teamwerk tussen code en menselijkheid.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Designing Culturally Aligned AI Systems For Social Good in Non-Western Contexts", geschreven in het Nederlands.

Probleemstelling

Kunstmatige Intelligentie (AI) wordt steeds vaker ingezet in hoge-risico domeinen (zoals onderwijs, gezondheidszorg, landbouw en recht) in niet-Westerse contexten. Echter, bestaande AI-modellen vertonen vaak significante tekortkomingen in deze omgevingen:

• Culturele en taalkundige bias: Modellen reproduceren Westerse epistemologieën en zijn minder accuraat voor niet-Westerse gebruikers.
• Gebrek aan context: Systemen missen inzicht in lokale dialecten, culturele normen, institutionele regels en infrastructuurbeperkingen.
• Risico's: In hoge-risico domeinen kunnen fouten leiden tot directe schade aan gezondheid, leerresultaten of levensonderhoud.
• Kennislacune: Er is weinig empirisch inzicht in hoe AI-systemen daadwerkelijk worden ontworpen, aangepast en ingezet in deze complexe, niet-Westerse realiteiten.

Het paper stelt drie onderzoeksvragen (RQ's) om te begrijpen hoe AI-systemen worden aangepast, welke factoren het ontwerp beïnvloeden en welke lessen er voor toekomstige systemen kunnen worden getrokken.

Methodologie

De auteurs voerden een kwalitatief empirisch onderzoek uit met de volgende aanpak:

• Selectie van Projecten: Acht real-world AI-projecten werden geselecteerd die zijn ingezet in zeven landen (o.a. India, Kenia, Nigeria, Colombia) en 18 talen ondersteunen. De projecten vallen onder vier domeinen: landbouw, gezondheidszorg, onderwijs en recht.
• Data-verzameling:
  • Semigestructureerde interviews: 17 interviews met AI-ontwikkelaars (technische expertise) en domeinexperts (veldkennis).
  • Secundair onderzoek: Analyse van bestaande rapporten, modelkaarten en documentatie.
  • Member checking: De bevindingen werden teruggekoppeld aan deelnemers voor validatie.
• Analyse: Een iteratieve thematische analyse waarbij inductieve thema's uit de data werden gecombineerd met deductieve categorieën gebaseerd op een bestaande taxonomie voor AI-aanpassing (onderscheidend tussen in-weight en in-context aanpassingen).

Belangrijkste Bijdragen

Het paper levert drie hoofdbijdragen:

1. Empirisch inzicht: Een gedetailleerd verslag van hoe AI-toepassingen in hoge-risico, niet-Westerse contexten worden ontworpen en geïmplementeerd.
2. Het "LISTED"-Raamwerk: Een nieuw kader dat zes kruisende factoren identificeert die het ontwerp sturen, plus drie overkoepelende invloeden die bepalen hoe deze factoren zich manifesteren.
3. 12 Praktische Richtlijnen: Een set aanbevelingen voor ontwikkelaars en beleidsmakers om cultureel afgestemde, veilige en eerlijke AI-systemen te bouwen.

Resultaten en Kernbevindingen

1. Het LISTED-Raamwerk (Zes Factoren)

De studie identificeerde zes factoren die de ontwerp- en implementatieprocessen structureren:

• L (Language): Vereist gronding in lokale taalkundige realiteiten. Dit omvat technische aanpassingen (zoals fine-tuning op lage-resource talen) en gemeenschapsgebouwde data. Vaak is een hybride aanpak nodig (bijv. Engels voor inhoud, lokale taal voor vertaling).
• I (Institution): Systemen moeten aansluiten bij overheidsregels, beleidslijnen en institutionele workflows. Zonder institutionele steun en legitimatie (bijv. via MOU's met overheden) is schaalvergroting onmogelijk.
• S (Safety): Veiligheid is cruciaal in hoge-risico domeinen. Dit vereist menselijk toezicht (human-in-the-loop) en technische veiligheidsmaatregelen (zoals prompt-guardrails en classifiers) om schadelijke output te voorkomen.
• T (Task): De specifieke taak bepaalt het ontwerp. Factoren zoals latentie, modus (spraak vs. tekst) en omgevingsomstandigheden (bijv. ruis op het veld) dwingen tot maatwerk.
• E (End-User Demography): Gebruikerskenmerken (geletterdheid, leeftijd, geslacht, cultuur) bepalen de relevantie. Bijvoorbeeld: spraakinterfaces zijn essentieel voor lage geletterdheid, en content moet cultureel passend zijn (geen Westerse voorbeelden in lesplannen).
• D (Domain): Domeinkennis is essentieel voor betrouwbaarheid. AI moet gebaseerd zijn op curatie van kennisbanken door experts, niet alleen op de "world knowledge" van een LLM.

2. Drie Overkoepelende Invloeden

Deze zes factoren worden gevormd door drie hogere niveaus van invloed:

• Sociocultureel: Beïnvloedt taal, demografie en vertrouwen. Cultuur bepaalt hoe vertrouwen wordt opgebouwd en welke kennis als waardevol wordt beschouwd.
• Institutioneel: Bepaalt de schaalbaarheid en duurzaamheid. Institutionele capaciteit (middelen, personeel) bepaalt hoe diep modellen kunnen worden aangepast.
• Technologisch: Beperkt wat op dit moment mogelijk is (bijv. beschikbaarheid van modellen voor specifieke talen) en vereist flexibele ontwerpen die kunnen omgaan met snelle technologische veranderingen.

3. De Rol van Menselijke Arbeid

Een cruciale bevinding is dat menselijke arbeid centraal staat voor succes. Techniek alleen is onvoldoende.

• Collaboratie: AI-ontwikkelaars en domeinexperts moeten als gelijke partners werken gedurende de hele levenscyclus.
• Data-curatie: Het verzamelen, annoteren en cureren van data (bijv. spraakdata van kinderen, lokale landbouwterminologie) is extreem arbeidsintensief.
• Human-in-the-Loop (HIL): Menselijke controle is vaak de enige manier om fouten te corrigeren, veiligheid te garanderen en context te begrijpen die modellen missen.

4. Technische Aanpassingstrategieën

De auteurs onderscheiden twee soorten aanpassingen die in de projecten werden toegepast:

• In-context aanpassingen: Prompt engineering, Retrieval-Augmented Generation (RAG), glossaria en human-in-the-loop workflows. Dit is vaak de eerste stap omdat het minder resources kost.
• In-weight aanpassingen: Fine-tuning, continual pre-training en het trainen van nieuwe modellen. Dit is resource-intensief en vereist grote hoeveelheden lokale data, maar is soms noodzakelijk voor lage-resource talen of specifieke domeinen.

Significantie en Implicaties

Dit paper is significant omdat het de focus verschuift van puur technische optimalisatie naar een sociotechnische benadering van AI voor maatschappelijk goed.

• Kritische reflectie: Het toont aan dat "AI for Social Good" niet betekent dat je een bestaand Westers model simpelweg implementeert. Het vereist fundamentele herontwikkeling van systemen rondom lokale context.
• Duurzaamheid: Het benadrukt dat zonder institutionele steun en continue menselijke inzet, AI-systemen in niet-Westerse contexten vaak falen of niet schalen.
• Richtlijnen: De 12 afgeleide richtlijnen (zoals "Collaborate as equal partners", "Account for linguistic gaps", "Design for institutional fit") bieden een concreet handboek voor ontwikkelaars om systemen te bouwen die niet alleen technisch werken, maar ook cultureel relevant, veilig en betrouwbaar zijn.

Kortom, het paper concludeert dat het bouwen van effectieve AI-systemen in niet-Westerse contexten minder een technisch uitdaging is en meer een uitdaging van samenwerking, institutionele alignering en menselijke arbeid.