Applying socio-anthropological approaches to explore the socio-cultural and ethical requirements for AI-assisted obstetric ultrasound in Kenya: reflections and lessons learned

Zwangerschap is een tijd van diepe hoop en kwetsbaarheid, waarin de eenvoudige handeling van het zien van een ontwikkelende baby via een echoscopie de angst kan transformeren in geruststelling. In veel delen van de wereld is deze technologie een routineonderdeel van de prenatale zorg, wat een helder venster biedt op de gezondheid van de moeder en het kind. Echter, in omgevingen met beperkte middelen blijft de toegang tot geschoolde echografen en dure apparaten schaars, waardoor veel vrouwen zonder dit cruciale vangnet blijven. Kunstmatige intelligentie, het vakgebied van de informatica dat zich bezighoudt met het creëren van systemen die in staat zijn taken uit te voeren die gewoonlijk menselijke intelligentie vereisen, is naar voren gekomen als een potentiële oplossing. Door computers te trainen om medische beelden te lezen, hopen onderzoekers minder gespecialiseerde zorgverleners in staat te stellen om hoogwaardige zorg te bieden. Toch slaagt een machine die perfect werkt in een laboratorium niet automatisch in een landelijke kliniek. Technologie bestaat niet in een vacuüm; het landt in gemeenschappen met hun eigen diepgewortelde overtuigingen, sociale structuren en ethische zorgen. Als een nieuw hulpmiddel de menselijke realiteit negeert, loopt het het risico te worden afgewezen, ongeacht hoe geavanceerd de code ook is.

Dit is de centrale uitdaging die een team van onderzoekers in Kenia onderzoekt, die zich ermee hebben ingesteld om te begrijpen hoe een specifiek type kunstmatige intelligentie — ontworpen om bij te staan bij obstetrische echografie — zou worden ontvangen door de mensen die het beoogt te helpen. Het project, bekend als AIMIX, streeft ernaar een kader te ontwikkelen waarmee minder gespecialiseerde zorgverleners scans kunnen uitvoeren met behulp van AI, wat potentieel de kloof in de moederzorg kan overbruggen. Maar voordat de technologie gebouwd en getest kon worden, realiseerde het team zich dat ze eerst het menselijke landschap moesten begrijpen. Ze wenden zich tot sociaal-antropologische methoden, een manier om mensen te bestudelen door naar hun verhalen te luisteren en hun leven te observeren, om de sociale en culturele regels te verkennen die bepalen hoe nieuwe medische instrumenten worden geaccepteerd. Hun werk, dat gedetailleerd wordt beschreven in een recente reflectiepaper, onthult dat het pad naar succesvolle technologie niet alleen geplaveid is met data, maar ook met vertrouwen, duidelijke communicatie en een diep respect voor de lokale context.

De onderzoekers voerden hun studie uit in twee zeer verschillende omgevingen: de bruisende, stedelijke omgeving van een privékliniek in Nairobi en de landelijke, zelfvoorzienende landbouwgemeenschap van Rabai aan de Keniaanse kust. In totaal spraken ze met vierentachtig mensen, waaronder zwangere vrouwen, hun partners, artsen, verpleegkundigen, gemeenschapsleiders en zelfs traditionele vroedvrouwen. Met behulp van een methode genaamd 'grounded theory' begonnen ze niet met een vaste lijst vragen om een specifiek punt te bewijzen. In plaats daarvan begonnen ze met open gesprekken, waarbij de deelnemers de discussie lieten leiden en onthulden wat er werkelijk toe deed voor hen. Deze aanpak stelde de onderzoekers in staat om kwesties te ontdekken die zij niet hadden voorzien, zoals specifieke angsten over gegevensprivacy of de unieke manieren waarop religieuze leiders de rol van machines in het menselijk leven interpreteerden.

Een van de belangrijkste bevindingen was dat het concept van kunstmatige intelligentie voor veel deelnemers grotendeels abstract en verwarrend was. In de landelijke gebieden, waar digitale technologie minder gebruikelijk is, voelde het idee van een computer die een beeld van een baby analyseert afstandelijk en potentieel bedreigend. Het team leerde dat het simpelweg uitleggen van de technologie met technische termen ineffectief was. In plaats daarvan merkten zij succes op door visuele hulpmiddelen te gebruiken, zoals een eenvoudige tekening die een verpleegkundige laat zien die een scan uitvoert met een nieuw apparaat, om het concept concreet te maken. Ze ontdekten ook dat begrip geen eenmalige gebeurtenis was; ze moesten de deelnemers controleren door hen te vragen de studie in hun eigen woorden aan de onderzoekers terug te leggen. Deze eenvoudige praktijk van verificatie zorgde ervoor dat iedereen op één lijn zat voordat men verder ging, wat misverstanden die het hele project hadden kunnen ontsporen, voorkwam.

De studie benadrukte ook het cruciale belang van wie er spreekt over nieuwe technologie. In veel eerdere inspanningen om medische innovaties te introduceren, werd het gesprek gedomineerd door artsen en ingenieurs, terwijl de mensen die de zorg daadwerkelijk zouden gebruiken of ontvangen, aan de zijlijn werden gelaten. Het Keniaanse team sloot doelbewust een breed scala aan stemmen in, van gemeenschapshulpverleners tot religieuze leiders en traditionele vroedvrouwen. Zij ontdekten dat deze grassroots-belanghebbenden de sleutels tot vertrouwen in handen hadden. Toen een religieus leider bijvoorbeeld de bezorgdheid uitte dat de Katholieke Kerk zich tegen de technologie zou verzetten, wuifde het team die zorg niet weg. In plaats daarvan zochten ze een priester op die verduidelijkte dat de Kerk de technologie steunt, zolang deze de menselijke waardigheid respecteert. Op dezelfde wijze, toen een gemeenschapsleider twijfelde of traditionele vroedvrouwen de nieuwe instrumenten wel zouden accepteren, interviewde het team de vroedvrouwen zelf en ontdekte dat zij openstonden voor het idee als het betekende dat er levens gered konden worden. Deze interacties toonden aan dat een succesvolle implementatie vereist dat het gehele sociale ecosysteem wordt betrokken, en niet alleen het medische systeem.

Een andere cruciale les kwam naar voren met betrekking tot de wijze waarop het onderzoek werd uitgevoerd. Het team had aanvankelijk gepland om iedereen persoonlijk te interviewen, maar realiseerde zich snel dat in de drukke stedelijke kliniek strikte face-to-face ontmoetingen sommige bereidwillige deelnemers uitsloten die geen tijd konden vrijmaken. Ze pasten hun aanpak aan door virtuele interviews toe te staan om ervoor te zorgen dat niemand werd uitgesloten. Deze flexibiliteit strekte zich ook uit tot hun wervingsstrategieën. In het landelijke gebied hadden ze moeite om groepen voor discussie bij elkaar te krijgen, totdat ze samenwerkten met een vertrouwde gemeenschapshulpverlener en de bijeenkomst lieten samenvallen met een routineuze kraamkliniekdag. Door hun onderzoek te verweven met de bestaande ritmes van het dagelijks leven, in plaats van een nieuw schema op te leggen, waren ze in staat om echte participatie op te bouwen.

De onderzoekers benadrukten ook de waarde van voortdurende betrokkenheid. Ze beschouwden de gemeenschap niet als een bron van data die geëxtraheerd en vervolgens vergeten kon worden. In plaats daarvan hielden ze vergaderingen om deelnemers bij te praten over de voortgang van de studie en uit te leggen hoe hun input de ontwikkeling van het AI-model vormgaf. Deze voortdurende dialoog bouwde een fundament van vertrouwen dat essentieel is voor elk langetermijnpartnerschap. Het team merkte op dat hoewel de technologie zelf nog in ontwikkeling is en nog niet in de echte wereld is getest, de inzichten verkregen uit deze gesprekken de vormgeving van het hulpmiddel nu al beïnvloeden. Zij stellen dat zonder dit diepe, mensgerichte begrip, zelfs het meest geavanceerde algoritme zou kunnen falen om een plek te vinden in de gemeenschappen die het het hardst nodig hebben.

Uiteindelijk dient dit werk als een herinnering dat technologie niet alleen een verzameling instrumenten is, maar een sociale praktijk. Het artikel suggereert dat voor kunstmatige intelligentie om echt voordeel te bieden aan de moederzorg in omgevingen met beperkte middelen, het gebouwd moet worden met een diep begrip van de mensen die het dient. De onderzoekers ontdekten dat de weg vooruit meer inhoudt dan alleen betere code; het vereist een toewijding aan luisteren, aanpassen en respecteren van het complexe web van culturele en ethische waarden die het menselijk leven definiëren. Door deze menselijke factoren centraal te stellen in het ontwerpingsproces, biedt het team een blauwdruk voor het creëren van technologie die niet alleen slim is, maar ook wijs genoeg is om in de wereld te passen die het probeert te verbeteren.