The potential roles and risks of Artificial Intelligence in public health: A scoping review

Technische Samenvatting: De Potentiële Rollen en Risico's van Kunstmatige Intelligentie in de Volksgezondheid

Probleemstelling
Systemen voor de volksgezondheid kampen met chronische beperkingen in middelen terwijl zij streven naar het beschermen en verbeteren van de gezondheid van de populatie op lokale, regionale en mondiale niveaus. Kunstmatige Intelligentie (AI), die technieken omvat zoals machine learning (ML), natuurlijke taalverwerking (NLP) en generatieve AI, biedt potentiële wegen om de efficiëntie en effectiviteit van interventies in de volksgezondheid te vergroten. De snelle adoptie van AI roept echter aanzienlijke zorgen op met betrekking tot rechtvaardigheid, ethiek en vertrouwen. Hoewel er regelgevingskaders bestaan voor klinische medische hulpmiddelen, is er een erkende kloof in het begrip van hoe de implementatie van AI in bredere contexten van de volksgezondheid onbedoeld gezondheidsongelijkheid kan versterken, het publieke vertrouwen kan verminderen of onbedoelde schade kan veroorzaken. Het specifieke probleem dat wordt geadresseerd is het gebrek aan een uitgebreide mapping van zowel de potentiële rollen die AI zou kunnen spelen in de volksgezondheid als de daarmee gepaard gaande risico's, met name binnen de contexten van hooginkomen landen.

Methodologie
Deze studie is een scoping review uitgevoerd in overeenstemming met de PRISMA-extensie voor scoping reviews (PRISMA-ScR). De auteurs hebben vier bibliografische databases doorzocht (Medline, Embase, Web of Science en Scopus) op rapporten gepubliceerd tussen 1 januari 2020 en 8 september 2025.

• Inclusiecriteria: Inclusiecriteria waren primaire studies, reviews, opiniestukken, commentaren en editorials gepubliceerd in het Engels. De reikwijdte was beperkt tot hooginkomen landen (volgens de definitie van de Wereldbank) en gericht op contexten van de volksgezondheid (door de overheid gefinancierde organisaties die interventies of beleid uitvoeren). De review sloot expliciet pandemische contexten, klinische settings (bijv. het gebruik van middelen door de NHS), milieumonitoring, infrastructuurveiligheid en risicovoorspelling op individueel klinisch niveau uit.
• Stakeholderbetrokkenheid: Het protocol en de initiële bevindingen werden verfijnd door consultatie met twee communities of practice: negen professionals uit door de NIHR gefinancierde Health Determinants Research Collaborations (HDRCs) en negen strategische directeuren van data science-instituten, instanties voor de volksgezondheid en netwerken van lokale overheden.
• Datasynthese: Twee reviewers hebben onafhankelijk titels, abstracts en volledige teksten gescreend. Gegevens werden geëxtraheerd door één reviewer en gecontroleerd door een tweede. De synthese bestond uit een narratieve samenvatting van het bewijs per context van de volksgezondheid, waarbij substantieel gelijkaardige potentiële rollen en risico's werden gecombineerd in thematische categorieën.

Belangrijkste Bijdragen en Resultaten
De review heeft 1.805 records en 320 volledige teksten gescreend, waarbij uiteindelijk 67 rapporten werden opgenomen. Deze rapporten identificeerden 44 potentiële rollen voor AI binnen acht contexten van de volksgezondheid:

1. Communicatie over de volksgezondheid: Het gebruik van ML en generatieve AI om gerichte boodschappen te creëren, afbeeldingen te genereren, de helderheid te verbeteren, realtime publieke sentimenten te monitoren en desinformatie te ontkrachten.
2. Educatie over de volksgezondheid: Het automatiseren van feedback voor opdrachten, het creëren van dynamische leermodules en het bieden van gepersonaliseerde training voor professionals.
3. Noodsituaties in de volksgezondheid (niet-uitbraakgerelateerd): Het toewijzen van middelen (bedden, personeel), het beheren van logistiek (evacuaties, routering), het triageren van slachtoffers en het faciliteren van communicatie tussen belanghebbenden.
4. Evidence Reviews (Bewijsbeoordelingen): Het automatiseren van citatiezoekopdrachten, risico op bias-beoordelingen, data-extractie en rapportschrijven om de screeningslast te verminderen.
5. Voorspelling (Forecasting): Het verbeteren van de nauwkeurigheid van modellen voor populatieniveau-uitkomsten zoals obesitas, dementie, cardiovasculaire mortaliteit en alcoholgerelateerde ziekten.
6. Interventies in de volksgezondheid: Het ontwikkelen van op maat gemaakte interventies op populatieniveau, het voorspellen van beleidsimpact en het screenen op gedragsrisico's (bijv. obesitas, opioïd overdosis).
7. Organisaties voor de volksgezondheid: Het analyseren van grote datasets voor besluitvorming, het organiseren van gegevens, het samenvatten van routinetaken en het schrijven van subsidieaanvragen.
8. Surveillance (Toezicht): Het monitoren van naleving van maatregelen zoals het dragen van mondkapjes en sociale distantie via beeldclassificatie en objectdetectie.

Geïdentificeerde Risico's
De review identificeerde een reeks risico's, waarvan veelal doorsnijdend waren in plaats van contextspecifiek:

• Bias en Generaliseerbaarheid: Het meest geciteerde risico, waarbij AI ongelijkheid in de gezondheidszorg, discriminatie en onnauwkeurige voorspellingen kan bestendigen of versterken door bevooroordeelde trainingsdata.
• Transparantie en Ethiek: Zorgen over gegevensprivacy, beveiliging, vertrouwelijkheid en de "black box"-aard van AI-outputs.
• Verergering van Ongelijkheid: Risico's voortvloeiend uit een gebrek aan capaciteit van de beroepsbevolking, infrastructuur of digitale uitsluiting van kwetsbare populaties.
• Integriteit van Content: Het potentieel van generatieve AI om onjuiste inhoud, plagiaat of "hallucinaties" te produceren.
• Professionele De-skilling (Vaardigheidsverlies): Het risico dat overmatige afhankelijkheid van AI kan leiden tot overmoed of een afname van het kritisch denken van professionals.
• Contextspecifieke Risico's: Deze omvatten studenten die hun eigen leerproces saboteren in het onderwijs, het missen van relevante artikelen in evidence reviews, en een afname van het publieke vertrouwen door onauthentieke communicatie.

Betekenis en Claims
De auteurs positioneren deze review als een fundamentele stap in het balanceren van innovatie met verantwoordelijkheid. Zij stellen dat hoewel AI theoretische beloften biedt voor efficiëntie, de huidige bewijslast voor de effectiviteit ervan in de volksgezondheid beperkt en gemengd is.

Het artikel betoogt dat:

• Voorzichtigheid Geboden is: De geïdentificeerde potentiële rollen moeten met voorzichtigheid worden behandeld en worden afgewogen tegen de aanzienlijke risico's, met name wat betreft rechtvaardigheid en vertrouwen.
• Regelgevende Gaten Bestaan: In tegenstelling tot klinische settings ontbreekt het de volksgezondheid aan specifieke regelgevingskaders voor AI. De auteurs pleiten voor volksgezondheidsspecifieke naleving die de waarden van de volksgezondheid centraal stelt.
• Generatie van Bewijs Cruciaal is: Er is een dringende behoefte aan toekomstig onderzoek om de effectiviteit en kosteneffectiviteit van AI-interventies te evalueren, met een specifieke focus op het beoordelen van de impact op het creëren van ongelijkheid.
• Implementatiestrategie: De adoptie van AI vereist strategische planning, training van de beroepsbevolking en betekenisvolle gemeenschapsbetrokkenheid met diverse en ondervertegenwoordigde groepen om ongelijkheid te beperken. De auteurs suggereren een gestructureerd, iteratief proces voor adoptie (van ontdekking tot duurzaamheid) in plaats van chaotische diffusie.

De review concludeert dat zonder zorgvuldige overweging van risico's en robuust bewijs, ineffectieve of bevooroordeelde AI-interventies het publieke vertrouwen in systemen voor de volksgezondheid kunnen ondermijnen. Daarom moet toekomstige implementatie worden geleid door principes van betrouwbaarheid, rechtvaardigheid en methodologische strengheid.