Geographical targeting of active case finding for tuberculosis in Pakistan using artificial intelligence software: a qualitative study embedded within the SPOT TB trial

Tuberculose blijft een van de meest hardnekkige doders ter wereld, een ziekte die gedijt in de schaduwen van drukke steden en afgelegen dorpen. In landen als Pakistan, waar de last van de ziekte uitzonderlijk hoog is, staan gezondheidswerkers voor een enorme uitdaging: het vinden van de miljoenen mensen die ziek zijn maar nog niet zijn gediagnosticeerd. Om deze verborgen gevallen te ontdekken, sturen programma's mobiele teams de gemeenschappen in om screeningskampen op te zetten, waarbij röntgenapparaten worden gebruikt om tekenen van infectie in de longen van mensen op te sporen. Jarenlang rustte de beslissing over waar deze kampen werden opgezet op menselijk oordeel, lokale kaarten en de ervaring van veldmedewerkers. Maar naarmate de hoeveelheid gegevens groeide, begonnen gezondheidsfunctionarissen zich af te vragen of computers het beter konden doen. Ze wenden zich tot kunstmatige intelligentie, een technologie die in staat is om door enorme hoeveelheden informatie te zeven om patronen te ontdekken die mensen misschien missen. De hoop was dat een slim computerprogramma gezondheidswerkers direct naar de wijken zou kunnen wijzen waar zieke mensen het waarschijnlijkst te vinden waren, waardoor de zoektocht sneller en effectiever zou worden.

Deze vraag dreef een grootschalig experiment in Pakistan aan, bekend als de SPOT-TB trial. Onderzoekers wilden zien of het gebruik van een kunstmatige intelligentietool genaamd MATCH-AI om de locaties van kampen te kiezen, meer gevallen van tuberculose zou vinden dan de traditionele methode van het selecteren van locaties op basis van lokale kennis. De tool analyseerde routinematige gezondheidsgegevens en lokale omstandigheden om een lijst met aanbevolen locaties te genereren. Een computer aanbeveling is echter slechts zo goed als de realiteit op de grond. Om te begrijpen waarom de trial geen duidelijke algehele verbetering in het vinden van gevallen liet zien, voerde een apart team van onderzoekers een diepe duik uit in de menselijke kant van het project. Ze spraken met de artsen, supervisoren en coördinatoren die daadwerkelijk de bus redenen en de tenten opzetten, en vroegen hen naar hun dagelijkse ervaringen met de nieuwe technologie. Hun doel was niet alleen om te zien of de software werkte op een scherm, maar om te begrijpen hoe het functioneerde in de complexe, chaotische realiteit van het Pakistaanse gezondheidssysteem.

De onderzoekers ontdekten dat de kunstmatige intelligentietool een tweesnijdend zwaard was. Aan de ene kant waardeerden veel veldmedewerkers de software omdat deze een gevoel van eerlijkheid en structuur bracht in hun werk. Voordat de tool bestond, kon de keuze waar een kamp werd gehouden worden beïnvloed door persoonlijke connecties, politieke druk van lokale leiders, of simpelweg de gewoonte om terug te keren naar dezelfde vertrouwde plekken. De software elimineerde deze menselijke bias en genereerde een lijst met locaties gebaseerd puur op data. Dit hielp personeel om weerstand te bieden aan de druk van functionarissen die kampen in specifieke gebieden wilden om hun eigen redenen. In sommige gevallen wees de tool teams naar afgelegen of voorheen over het hoofd geziene dorpen waar zij clusters van tuberculosegevallen ontdekten die anders onopgemerkt zouden zijn gebleven. Eén team volgde bijvoorbeeld een aanbeveling naar een afgelegen huishouden in Faisalabad en vond daar vijf besmette mensen die samen leefden, een ontdekking die zij toeschreven aan het vermogen van de software om verder te kijken dan de gebruikelijke grenzen.

Toch werd het succesverhaal van de tool gecompliceerd door de harde realiteiten van het landschap en de beperkingen van de technologie zelf. De software was weliswaar goed in het verwerken van cijfers, maar miste het gezond verstand dat voortkomt uit het leven in de gemeenschap. Het suggereerde soms locaties die fysiek onbereikbaar waren, zoals besneeuwde bergtoppen of gebieden die door rivieren werden afgesneden, zonder te beseffen dat een mobiele bus daar niet naartoe kon rijden. In andere gevallen wees het naar plaatsen die onveilig waren vanwege lokale veiligheidsrisico's of gebieden waar culturele normen het voor vrouwen onmogelijk maakten om ver te reizen of een openbaar kamp te bezoeken. In conservatieve regio's bijvoorbeeld, kunnen vrouwen weigeren hun huis te verlaten om vijf kilometer naar een kamp in een drukke markt te reizen, vooral als de screeningslocatie gebrek aan privacy heeft. De software begreep deze sociale barrières niet; het zag alleen een stipje op een kaart. Veldmedewerkers, die het terrein en de mensen kenden, moesten de suggesties van de computer vaak overrulen, waarbij ze hun eigen oordeel gebruikten om locaties te vinden die toegankelijk en acceptabel waren voor de gemeenschap.

De kloof tussen het digitale plan en de fysieke wereld werd vergroot door de infrastructuur die nodig is om het systeem te laten draaien. De software vertrouwde op een digitaal platform om gegevens in realtime te verzamelen, maar in veel afgelegen gebieden was de internetverbinding onbetrouwbaar of afwezig. Wanneer het signaal wegviel, liep het systeem vast, of slaagde de invoer van gegevens in het veld er niet in om te synchroniseren met de centrale server. Dit dwong gezondheidswerkers om terug te vallen op ouderwetse papieren registers, die ze later in de stad in de computer moesten typen. Dit dubbele werk creëerde frustratie en vermoeidheid, wat het proces dat de technologie juist wilde versnellen, vertraagde. Bovendien begrepen de mensen aan de frontlinie vaak niet volledig hoe de software haar beslissingen nam. Ze kregen de opdracht om de lijst met locaties te volgen, maar kregen zelden een duidelijke uitleg over de logica erachter. Dit gebrek aan begrip maakte het moeilijk voor hen om de tool te vertrouwen of een gevoel van eigenaarschap over het nieuwe systeem te voelen, wat ertoe leidde dat sommigen de aanbevelingen negeerden ten gunste van hun eigen ervaring.

De studie concludeerde dat hoewel kunstmatige intelligentie echte belofte inhoudt voor het organiseren en verbeteren van de tuberculosescreening, het de diepe, contextuele kennis van de mensen die in het veld werken niet kan vervangen. De technologie is een krachtige assistent die bias kan verminderen en gebieden kan highlighten die anders over het hoofd zouden worden gezien, maar het is geen vervanging voor menselijk oordeel. Het kan geen rekening houden met de veiligheid van een buurt, de culturele gevoeligheid van een gemeenschap, of de staat van een onverharde weg. Voor de technologie om effectief te werken, moet deze worden ondersteund door een betrouwbare infrastructuur, zoals stabiele internetverbindingen, en moet deze worden geïntroduceerd met grondige training die personeel helpt te begrijpen niet alleen wat ze moeten doen, maar ook waarom. De onderzoekers vonden dat de meest succesvolle aanpak een hybride aanpak was, waarbij de computer een startpunt biedt en het menselijke team hun lokale expertise gebruikt om die aanbevelingen aan te passen aan de echte wereld. Uiteindelijk is de technologie slechts zo sterk als het systeem dat het ondersteunt en de mensen die het gebruiken.