Governance, Accountability and Post-Deployment Monitoring Preferences for AI Integration in West African Clinical Practice: A Mixed-Methods Study

Deze mixed-methods studie onderzocht de voorkeuren van West-Afrikaanse clinicians en experts voor AI-governance, waarbij duidelijk werd dat onafhankelijke toezichthoudende organen, transparantie en duidelijke verantwoordelijkheidskaders essentieel worden geacht voor een veilige en betrouwbare integratie van AI in de klinische praktijk.

De kern

De AI-Regelgevers van West-Afrika: Een Verhaal over Vertrouwen, Toezicht en Veiligheid

Stel je voor dat West-Afrika een grote, drukke markt is. Op deze markt proberen artsen nu een nieuwe, zeer slimme assistent te gebruiken: Kunstmatige Intelligentie (AI). Deze assistent kan helpen bij het stellen van diagnoses en het vinden van ziektes, net als een superkrachtige zoekmachine voor medische problemen.

Maar er is een groot probleem: niemand weet precies wie de baas is over deze slimme assistent. Wat als hij een fout maakt? Wie is dan verantwoordelijk? En wie houdt toezicht om ervoor te zorgen dat hij niet "dwaalt" of vooroordelen krijgt?

Deze studie is als het ware een grote vergadering geweest tussen artsen en tech-experts in West-Afrika om deze vragen te beantwoorden. Hier is wat ze hebben ontdekt, vertaald in simpele taal met een paar leuke vergelijkingen.

1. Wie moet de "Verkeerspolitie" zijn?

De artsen hadden een heel duidelijk antwoord op de vraag: "Wie moet controleren of deze AI-assistent veilig is?"

• De verkoper (de AI-bedrijven): De artsen zeggen: "Nee, dankjewel!" Ze vertrouwen de bedrijven die de AI maken niet om zichzelf te controleren. Dat is alsof je vraagt aan een autoverkoper om te zeggen of zijn auto veilig is; hij wil natuurlijk verkopen, niet toegeven dat er remmen mis zijn. Slechts 3,7% van de artsen vertrouwde hierop.
• De overheid: De artsen vinden de overheid wel oké, maar ze zijn niet 100% overtuigd dat ze het goed kunnen regelen.
• Het ziekenhuis: Ook het ziekenhuis zelf mag niet de enige baas zijn.
• De onafhankelijke toezichthouder: Dit is de favoriet! 40,4% van de artsen wil een onafhankelijke regelaar. Denk hierbij aan een neutrale scheidsrechter die niet werkt voor de club (het ziekenhuis) en niet betaald wordt door de speler (het bedrijf). Ze willen iemand die puur kijkt naar wat veilig en eerlijk is voor de patiënt.

2. Het Dashboard: Liever een live-feed dan een jaarverslag

Stel je voor dat je een nieuwe auto hebt. Wil je dan één keer per jaar een briefje krijgen dat zegt: "De auto is dit jaar goed gereden"? Of wil je liever een live-dashboard op je dashboard zien dat direct waarschuwt als de banden leeglopen of de motor te heet wordt?

De artsen in West-Afrika zeggen: "We willen het dashboard!"

• 41,9% wil real-time dashboards. Ze willen direct zien hoe de AI het doet.
• Ze willen niet wachten op maandelijkse of jaarlijkse rapporten. Als de AI fouten begint te maken, moet dat direct zichtbaar zijn, net als een waarschuwingslampje in een auto.

3. De "Schuldvraag": Wie krijgt de schuld als het misgaat?

Dit is misschien wel het belangrijkste punt. De artsen zijn bang. Ze hebben een groot angstbeeld: "Wat als de AI een fout maakt en de patiënt raakt gewond? Krijg ik dan de schuld, terwijl ik alleen maar op de knop heb gedrukt?"

• 76,5% van de artsen is bang dat ze onrechtvaardig de schuld krijgen voor fouten van de computer.
• Ze willen dat er een heel duidelijk reglement is (een "spelregels-boekje") waarin staat: "Als de software faalt, is het de schuld van de maker of de regelaar, niet van de arts."
• Zonder deze duidelijke regels durven artsen de AI misschien niet te gebruiken, omdat ze bang zijn hun carrière te verliezen voor iets waar ze geen controle over hebben.

4. De "Verkeersdrukte" en de "Drift"

De experts die meepraatten (de programmeurs en beleidsmakers) gaven een heel belangrijk advies. Ze zeiden: "AI is geen statisch ding, het is als een levend organisme."

Stel je voor dat je een GPS-app hebt die perfect werkt in Lagos. Maar als je naar een klein dorpje in de bergen gaat, of als er een nieuwe ziekte uitbreekt, werkt die GPS misschien niet meer goed. De wegen zijn veranderd, of de verkeersborden zijn anders.

• Drift: De AI kan "driften". Dat betekent dat hij langzaam minder goed wordt omdat de wereld om hem heen verandert.
• De oplossing: Je moet de AI continu controleren. Net als een piloot die de instrumenten checkt tijdens de hele vlucht, niet alleen bij het opstijgen. Als de AI begint te "dwalen", moet hij direct worden gestopt, bijgesteld of zelfs uitgeschakeld.

De Grote Conclusie: Een Nieuw Verkeerssysteem

Deze studie zegt eigenlijk: "West-Afrika is klaar voor AI, maar we willen het veilig doen."

De artsen zeggen: "Geef ons een onafhankelijke scheidsrechter, geef ons een live-dashboard om te zien wat er gebeurt, en bescherm ons tegen onterechte schuld. Dan gebruiken we deze nieuwe technologie graag om onze patiënten te helpen."

Zonder deze regels is het alsof je zonder verkeerslichten, zonder politie en zonder rijbewijs een snelweg oprijdt met een zelfrijdende auto. Het kan misschien werken, maar het is veel te gevaarlijk. Met deze regels wordt het een veilige rit voor iedereen.

Technische samenvatting

Titel

Bestuur, Verantwoordingsplicht en Voorkeuren voor Post-Implementatie Monitoring van AI-integratie in de Klinische Praktijk in West-Afrika: Een Mixed-Methods Studie.

1. Het Probleem en de Context

De integratie van kunstmatige intelligentie (AI) in de gezondheidszorg biedt transformatieve kansen, maar brengt ook aanzienlijke risico's met zich mee, vooral in regio's met beperkte regelgevende capaciteit zoals West-Afrika.

• Kernprobleem: Hoewel AI-toepassingen (zoals kankerscreening en tuberculose-diagnose) in West-Afrika van pilotprojecten naar echte implementatie gaan, ontbreekt er een gevestigd kader voor bestuur, verantwoordingsplicht en continue monitoring.
• Risico's: Zonder adequate governance lopen systemen het risico op prestatiedaling door "data drift" of "concept drift", het versterken van bestaande ongelijkheden (een "digitale kloof 2.0"), en het veroorzaken van patiëntenschade.
• Klinische bezorgdheid: Artsen vrezen onterecht de schuld te krijgen voor AI-fouten, excessieve controle door leveranciers en het ontbreken van duidelijke meldingspaden voor fouten. Er is een urgent behoefte aan empirisch bewijs over hoe West-Afrikaanse clinici en experts AI willen laten reguleren.

2. Methodologie

Het onderzoek is een cross-sectionele mixed-methods studie uitgevoerd van 22 tot 28 februari 2026.

• Kwantitatief deel (Enquête):
  • Populatie: 136 artsen aangesloten bij het West African College of Physicians (WACP). De steekproef was grotendeels afkomstig uit Nigeria (84,6%), met vertegenwoordiging uit Ghana, Liberia, Togo, Niger en Ivoorkust.
  • Instrument: Een gestructureerde, zelfadministratieve vragenlijst via het ODK-platform (Open Data Kit), gebruikmakend van een 5-punts Likert-schaal.
  • Analyse: Beschrijvende statistiek, t-toetsen, ANOVA en multivariabele lineaire regressie in SPSS versie 29.
• Kwalitatief deel (Key Informant Interviews - KII's):
  • Populatie: 72 diepte-interviews met stakeholders, waaronder technische leiders, AI-ontwikkelaars, datawetenschappers, beleidsmakers, ministeriële functionarissen en senior clinici.
  • Analyse: Thematische analyse volgens het raamwerk van Braun & Clarke, uitgevoerd met NVivo versie 14.
• Doel: Het in kaart brengen van voorkeuren voor governance-structuren, verantwoordingsmechanismen en monitoringssystemen.

3. Belangrijkste Bijdragen

Dit onderzoek levert het eerste empirische bewijs uit West-Afrika over de voorkeuren van clinici en experts voor AI-governance. De belangrijkste bijdragen zijn:

1. Empirische onderbouwing: Het vult een kritieke kennislacune op door kwantitatieve en kwalitatieve data te combineren in een regio die vaak wordt genegeerd in het internationale AI-governance-discours.
2. Specifieke voorkeursdata: Het identificeert concrete voorkeuren voor onafhankelijke toezichthouders, real-time monitoring en duidelijke aansprakelijkheidskaders.
3. Risico-inventarisatie: Het kwantificeert de angst voor "onrechtvaardige schuld" en leverancierscontrole, wat essentieel is voor het ontwerpen van acceptabele systemen.
4. Raamwerk voor beleid: Het biedt een roadmap voor beleidsmakers om governance-structuren te bouwen die vertrouwen, transparantie en patiëntveiligheid prioriteren.

4. Resultaten

Kwantitatieve Bevindingen

• Toezicht: 40,4% van de artsen geeft de voorkeur aan een onafhankelijk regulerend orgaan voor het toezicht op AI-tools, gevolgd door ziekenhuisfaciliteiten (32,4%) en overheidsministeries (20,6%). Leveranciers zelf toezicht houden geniet slechts 3,7% steun.
• Vertrouwen: Onafhankelijke regulerende organen kregen de hoogste vertrouwensscore (gemiddeld 4,3/5), terwijl AI-leveranciers de laagste score kregen (2,4/5).
• Monitoring: De meest gewenste aanpak is een real-time dashboard (41,9%), gevolgd door maandelijkse rapportages (19,9%). Jaarlijkse rapportages zijn onpopulair (1,5%).
• Essentiële Componenten:
  • Duidelijke verantwoordingspaden: 94,1% (hoogst gewaardeerd).
  • Transparantie van algoritmen: 91,9%.
  • Real-time prestatiedata: 89,7%.
• Bezorgdheden:
  • 76,5% vreest onterecht de schuld te krijgen voor AI-fouten.
  • 72,8% is bezorgd over excessieve controle door leveranciers.
  • 69,9% ziet geen duidelijk pad voor het melden van AI-schade.

Kwalitatieve Bevindingen

• Continue Monitoring: Experts benadrukken dat implementatie het begin is, niet het einde. Monitoring moet continu zijn om vragen te beantwoorden over nauwkeurigheid, eerlijkheid en veiligheid.
• Gelaagde Monitoring: Prestaties moeten worden gestratificeerd (per leeftijd, geslacht, locatie) om "lokaal schade" te detecteren die in geaggregeerde data verborgen blijft.
• Drift-detectie: Systemen moeten automatisch "data drift" en "concept drift" detecteren en alerts genereren.
• Falen en Protocollen: Er zijn duidelijke protocollen nodig voor wanneer AI faalt: onmiddellijk opschorten, root-cause analyse, hertraining van het model en transparante communicatie.
• Governance: Er is een dringende behoefte aan onafhankelijke, multi-stakeholder toezichthouders, wettelijke aansprakelijkheidskaders en gestandaardiseerde incidentrapportage.

5. Betekenis en Conclusie

De studie concludeert dat West-Afrikaanse clinici en experts bereid zijn AI te adopteren, maar alleen onder strikte governance-voorwaarden.

• Beleidsopties: Beleidsmakers moeten onafhankelijke toezichthouders opzetten, real-time dashboards verplicht stellen, duidelijke wettelijke kaders voor aansprakelijkheid creëren (om artsen te beschermen) en gestandaardiseerde meldsystemen voor incidenten ontwikkelen.
• Impact: Zonder deze kaders dreigt het potentieel van AI in West-Afrika ondermijnd te worden door wantrouwen, regelgevende gaten en vermijdbare patiëntenschade. De bevindingen bieden een concrete blauwdruk voor het bouwen van veilige, eerlijke en transparante AI-systemen die aansluiten bij de lokale context en behoeften.

Samenvattend: Dit onderzoek benadrukt dat technische innovatie in de gezondheidszorg in West-Afrika niet kan slagen zonder een robuust, mensgericht en onafhankelijk governance-kader dat prioriteit geeft aan transparantie en verantwoordingsplicht.