CARE-Bench: Benchmarking Patient-Facing LLM Triage

Technische Samenvatting van CARE-BENCH: Het Benchmarking van Patiëntgerichte LLM-Triage

Probleemdefinitie
Patiëntgerichte medische Large Language Models (LLMs) en agenten worden steeds vaker ingezet om symptoomvragen te beantwoorden voordat patiënten een clinicus bereiken. In deze context is de primaire veiligheidsuitdaging niet louter diagnostische nauwkeurigheid of responskwaliteit, maar het bepalen van de juiste volgende actie die een gebruiker moet ondernemen. Huidige evaluatiebenchmarks vertrouwen vaak op statische klinische vignettes of brede gezondheidsgerelateerde QA-taken, die er niet in slagen de dynamische aard van patiëntgerichte triage te vatten. In real-world interacties hangt de passende actie (bijv. om verduidelijking vragen, zelfzorg aanbevelen of escaleren naar spoedeisende zorg) af van de informatie die in elke beurt wordt onthuld. Voortijdige adviezen kunnen leiden tot onder-triage (het uitstellen van benodigde zorg) of over-triage (het creëren van onnodige vraag), terwijl ambigue reacties gebruikers met een lage gezondheidsvaardigheid kunnen verwarren. Bestaande studies wijzen erop dat huidige modellen moeite hebben met kalibratie, waarbij ze vaak noodsituaties onder-triëren en niet-urgente gevallen over-triëren, of gemengde-actiesignalen geven die de directe volgende stap vertroebelen.

Methodologie
De auteurs introduceren CARE-BENCH, een bron-gegronde benchmark die ontworpen is om sequentiële patiëntgerichte triage te evalueren als een per-beurt huidige-actie taak.

• Taakformulering: De benchmark behandelt triage als een classificatieprobleem waarbij het systeem een "patiënt-onthullingsprefix" ontvangt (geaccumuleerde patiënttekst tot de huidige beurt) en een respons moet genereren. Deze respons wordt gekoppeld aan een van vier actielabels:
  1. INFONEEDED: Gerichte verduidelijking is vereist voordat een zorgniveau kan worden gekozen.
  2. SELFCARE/MONITOR: De huidige informatie ondersteunt zelfzorg, monitoring of toekomstige contingent-gebaseerde veiligheidsmaatregelen.
  3. NONURGENTCARE: Klinische evaluatie is gerechtvaardigd zonder urgente taal.
  4. URGENTCARE: Zorg op dezelfde dag, spoedeisende hulp of zorg waarbij uitstel onveilig is, is gerechtvaardigd.
• Dataset Constructie: De dataset bestaat uit 500 gevallen en 1.059 geëvalueerde rondes gereconstrueerd uit medische dialogen, consultaties en follow-up vragenbronnen (MedDialog/OpenMed, ChatDoctor, PriMock57, en Followup-Q). Een iteratieve workflow waarbij GPT-5.5 en menselijke beoordelaars (waaronder een PhD-kandidaat in de publieke gezondheid en een medisch trainee) bronfeiten abstraheren naar sequentiële patiënt-onthullingen. Elke ronde is gelabeld met de gerechtvaardigde huidige actie op basis van de informatiestatus op dat specifieke moment.
• Evaluatieprotocol: De auteurs evalueerden 11 modellen (variërend van gesloten, open-weight algemene als ook open zorgmodellen) onder twee protocollen:
  1. Ongeprompt: Het model ontvangt alleen de patiënttekst, wat een algemene gebruikersvraag simuleert zonder specifieke instructies.
  2. Geprompt: Een minimale instructie wordt toegevoegd om "beknopt, veilig en actiegericht" te zijn, zonder voorbeelden of labelnamen te verstrekken.
• Scoring: Responsies worden gemapt naar de vier-labelruimte met behulp van een vaste gpt-5.5 mapper. De primaire metriek is macro-F1, aangevuld met accuratesse, geordende over/onder-triage, en drempel-specifieke foutpercentages (gemiste zorg, onnodige zorg, urgente fout-negatieven en foutieve urgente escalatie).

Belangrijkste Bijdragen

1. Operationalisering van Triage: Het artikel operationaliseert patiëntgerichte triage als een per-beurt huidige-actie evaluatietaak over gecontroleerde patiënt-onthullingsprefixes, waarmee het verder gaat dan statische vignette-classificatie.
2. Bron-gegronde Benchmark: Het geeft een dataset vrij van 500 gevallen en 1.059 rondes met controleerbare bron-gronding, inclusief ontwikkeling, validatie en hold-out testsplits.
3. Empirische Evaluatie: Het biedt een uitgebreide evaluatie van 11 LLM's, waarbij wordt aangetoond dat er hardnekkige fouten optreden in de timing van acties en kalibratie die niet worden opgelost door eenvoudige prompting.

Resultaten

• Prestaties: Ongeprompted macro-F1 scores waren laag, variërend van 31,2% tot 50,4%. Prompting verbeterde de prestaties voor 10 van de 11 modellen, met macro-F1 variërend van 46,9% tot 63,4%, maar aanzienlijke drempelfouten bleven bestaan.
• Verhelderingsfout: Een dominante foutmodus is het falen om onvoldoende informatie te herkennen. Wanneer de correcte actie INFONEEDED was, produceerden slechts 19,0% van de ongeprompted en 33,5% van de geprompted outputs correct de stap om om verduidelijking te vragen; de meerderheid (81,0% van ongeprompted en 66,5% van geprompted) adviseerde voortijdig zorg.
• Drempelafwegingen: Prompting verschuift de modelgedrag vaak naar het aanbevelen van professionele zorg. Hoewel dit gemiste professionele zorg (fout-negatieven) vermindert, verhoogt het frequent onnodige zorg (fout-positieven) en over-triage. Bijvoorbeeld, GPT-5.5 bereikte een lage urgente fout-negatieven-ratio (9,8%) maar een hoge onnodige-zorg-ratio (56,9%).
• Gevoeligheidsanalyse: Prestaties verbeterden wanneer alle patiënt-onthullingen in één keer beschikbaar waren (terminale prefix), wat suggereert dat modellen betere finale aanbevelingen kunnen doen maar moeite hebben met de timing van acties tijdens de informatievergarend fase. Traject exact match (correcte actie bij elke beurt) bleef laag (22,0% ongeprompt, 34,9% geprompt).
• Model Variabiliteit: Geen enkel model kwam als duidelijke leider naar voren over alle veiligheidsdimensies. Open zorgmodellen presteerden niet uniform beter dan algemene modellen; bijvoorbeeld vertoonde HuatuoGPT-o1 hoge urgente fout-negatieven-ratio's ondanks dat het een medisch getuned model is.

Betekenis en Claims
Het artikel concludeert dat patiëntgerichte triage geen simpel prompting-probleem is. De hardnekkigheid van fouten — specifiek het falen om zorgadvies uit te stellen tot voldoende informatie is verzameld — suggereert dat huidige modellen niet in staat zijn om hun acties op de juiste wijze te timen op basis van evoluerende informatiestanden.

De auteurs beweren dat CARE-BENCH een gecontroleerde bron biedt voor het bestuderen van de vraag of patiëntgerichte medische LLM's advies over het zoeken van zorg communiceren met de juiste timing en kalibratie. Ze stellen expliciet dat de benchmark de gecommuniceerde huidige actie naar een patiënt evalueert, en niet de klinische besluitvorming binnen een zorgsysteem. De resultaten ondersteunen de claim dat huidige modellen substantiële drempelfouten maken, met name wanneer verduidelijking nodig is voordat er zorgadvies gegeven kan worden. Het artikel benadrukt dat deze bevindingen de noodzaak ondersteunen voor expliciete evaluatie van de timing van acties vóór implementatie, in plaats van uitsluitend te vertrouwen op geaggregeerde accuratesse of brede gezondheidsgerelateerde QA-benchmarks. De auteurs waarschuwen dat de benchmark geen klinische veiligheid, diagnostische nauwkeurigheid of gereedheid voor autonome routering certificeert.