How much does context affect the accuracy of AI health advice?

Titel: Hoeveel beïnvloedt context de nauwkeurigheid van AI-gezondheidsadvies?

1. Het Probleem

Grote Taalmodellen (LLM's) worden steeds vaker gebruikt voor gezondheidsadvies, maar er is beperkt bewijs over hoe hun nauwkeurigheid varieert afhankelijk van taal, onderwerp en informatiebron. Bestaande studies zijn vaak beperkt tot het Engels, richten zich op conversatievragen in plaats van claimverificatie, of evalueren slechts een klein aantal talen. Dit creëert een risico op informatie-ongelijkheid, waarbij AI-systemen in niet-Engelse talen of in specifieke publieke gezondheidscontexten (zoals politiek of wetenschappelijke abstracts) onbetrouwbare informatie kunnen verspreiden, wat de "infodemie" kan verergeren.

2. Methodologie

De auteurs voerden een uitgebreide audit uit van zeven veelgebruikte LLM's op twee verschillende datasets om de context-afhankelijke nauwkeurigheid te testen:

• Datasets:
  1. Gereguleerde Claims: 1.975 wettelijk goedgekeurde voeding- en gezondheidsclaims uit de registers van het VK en de EU. Deze dienen als "ground truth" (waarheid = 1).
  2. Real-world Claims: 9.088 door journalisten gecontroleerde gezondheidsclaims uit het PUBHEALTH-corpus. Deze omvatten onderwerpen zoals COVID-19, abortus, politiek en algemene gezondheid, afkomstig van bronnen zoals overheidsinstanties (CDC), wetenschappelijke tijdschriften (Nature) en media (Fox News, YouTube).
• Talen: De gereguleerde claims werden vertaald naar 21 talen (20 top-contenttalen + Hindi) om een spectrum te creëren van syntactische afstand tot het Engels.
• Modellen: Zeven modellen werden getest, variërend van gesloten API's tot open-source modellen:
  • GPT-4o-mini, GPT-4.1 (OpenAI)
  • Gemini-2-Flash-Lite (Google)
  • Phi-4, Mistral-7B, Gemma-3, Llama-3-8B (Open-weight/Ollama)
• Verificatieproces:
  • Claims werden in drie runs per model verwerkt met een temperatuur van 0,7.
  • De modellen moesten een binaire classificatie geven: "ondersteund" (1) of "niet ondersteund/weerlegd" (0).
  • De einduitspraak werd bepaald door meerderheidsstemming (majority voting).
• Validatie: Voor de niet-Engelse claims werd een "round-trip" vertalingsaudit uitgevoerd (vertalen naar doeltaal en terug naar Engels) om te garanderen dat vertaalfouten de resultaten niet vervalsen (cosine-similariteit > 0,87).
• Statistische Analyse: Er werden gemengde logistische regressiemodellen gebruikt met claim-vaste effecten en cluster-robuste standaardfouten om de invloed van taal, onderwerp en bron te isoleren.

3. Belangrijkste Bijdragen

• Multilinguale Audit: Een van de eerste studies die LLM-prestaties in de gezondheidszorg systematisch evalueert over 21 talen en diverse informatiebronnen.
• Contextuele Granulariteit: Het onderscheid maken tussen "canonieke" (gereguleerde) claims en "real-world" claims (media, wetenschap), wat laat zien dat prestaties sterk variëren afhankelijk van de bron.
• Syntactische Afstand: Het kwantificeren van de relatie tussen de syntactische afstand tot het Engels en de daling in nauwkeurigheid.
• Open Data: Publicatie van alle vertaalde claims, modeloutputs en prompts in een open repository (Zenodo) voor reproduceerbaarheid.

4. Resultaten

• Taalafhankelijkheid: De nauwkeurigheid op gereguleerde claims was het hoogst in het Engels en nauw verwante Europese talen. De prestaties daalden systematisch naarmate de syntactische afstand tot het Engels toenam. Talen zoals Perzisch, Hindi, Chinees, Koreaans, Arabisch en Turks vertoonden de laagste nauwkeurigheid.
• Bron- en Onderwerpvariatie: Op real-world claims (PUBHEALTH) waren de foutpercentages aanzienlijk hoger dan op gereguleerde claims.
  • Beste prestaties: COVID-19-claims en claims afkomstig van Fox News en CDC.gov.
  • Slechtste prestaties: Algemene gezondheidsclaims en abstracts van Nature.com.
  • Oorzaak: De auteurs stellen dat dit niet door woordcomplexiteit komt, maar door trainingsdata (nieuwswebsites zijn oververtegenwoordigd), redactionele framing (korte, duidelijke zinnen vs. gehaakte wetenschappelijke zinnen) en topic-tuning (COVID-19 kreeg meer moderatie/fine-tuning).
• Modelverschillen:
  • GPT-4.1 presteerde significant beter dan de referentie (Gemini-2-Flash-Lite).
  • Phi-4 was consistent het minst nauwkeurig.
  • Er waren significante verschillen tussen bijna alle modelparen (20 van de 21 paren).
• Complexiteit: De leesbaarheid (Flesch-Kincaid grade level) had slechts een marginale invloed op de nauwkeurigheid wanneer onderwerp en bron werden gecontroleerd.

5. Betekenis en Conclusie

De studie concludeert dat de hoge prestaties van LLM's op Engelse, canonieke gezondheidsclaims niet betrouwbaar generaliseren naar andere contexten. Er bestaan aanzienlijke, context-afhankelijke gaten in nauwkeurigheid die vergelijkbaar zijn met de verschillen tussen talen.

• Risico: Het vertrouwen op Engelse benchmarks voor wereldwijde implementatie kan leiden tot diepere informatie-ongelijkheden en het ondermijnen van publieke gezondheidsinspanningen.
• Aanbevelingen:
  • Evaluatie en implementatie moeten specifiek worden toegespitst op lokale talen en informatiecontexten.
  • Er is behoefte aan multilinguale, domeinspecifieke benchmarks voordat AI-systemen in de publieke gezondheidszorg worden ingezet.
  • Beleidmakers (zoals in de EU AI Act) moeten de hoge risico's van meertalige gezondheidschatbots erkennen en eisen voor transparantie en conformiteit afdwingen.
  • Toekomstig onderzoek moet zich richten op real-time monitoring van nauwkeurigheidsdrift en het fine-tunen van modellen voor onderbelichte talen.

Kortom, LLM's kunnen waardevolle partners zijn in de globale gezondheidscommunicatie, maar alleen als ze worden getest en gedeployed met een kritische blik op taal, onderwerp en bron, in plaats van als een "one-size-fits-all" oplossing.