MedCalc-Bench Doesn't Measure What You Think: A Benchmark Audit and the Case for Open-Book Evaluation

Dit paper betoogt dat MedCalc-Bench voornamelijk formule-memoriseren en rekennauwkeurigheid meet in plaats van klinisch redeneren, en pleit voor een herformulering als tool-use-evaluatie na het opsporen van fouten in de dataset en het aantonen dat 'open-book' prompting de prestaties aanzienlijk verbetert.

De kern

Stel je voor dat je een dokter bent die een complexe berekening moet maken om de gezondheid van een patiënt te beoordelen. In het echte leven doet geen enkele dokter dit uit het hoofd. Ze pakken een rekenmachine, een app of een naslagwerk, kijken naar de formule en voeren de getallen in.

Dit is precies wat er misgaat met een beroemde test voor kunstmatige intelligentie (AI) genaamd MedCalc-Bench. De onderzoekers van dit paper zeggen: "Deze test meet niet of de AI slim is, maar of ze een geheugentrainer is die slecht kan rekenen."

Hier is het verhaal van het onderzoek, vertaald in simpele taal met een paar creatieve vergelijkingen.

1. Het Probleem: De "Sluitende Deur"-Test

De huidige test voor MedCalc-Bench is alsof je een student een wiskundetoets geeft, maar je verbiedt ze om hun boekje of rekenmachine te gebruiken. Ze moeten de formule uit hun hoofd kennen én de berekening perfect uitvoeren.

• De realiteit: In het ziekenhuis gebruikt een arts nooit de formule uit het hoofd. Ze gebruiken een tool.
• De test: De AI moet de formule uit het hoofd halen (wat ze vaak vergeten of verwarren) én dan de wiskunde doen.
• Het resultaat: Zelfs de slimste AI's halen maar een 35% tot 74% scoren. Dat lijkt laag, maar de onderzoekers zeggen: "Dat is niet omdat de AI dom is, maar omdat de test onredelijk is."

2. De Drie Ontdekkingen van de Onderzoekers

De onderzoekers hebben drie dingen gedaan om dit op te lossen:

A. De "Schoonmaakbeurt" (Het Audit)

Ze keken naar de "regels" die de test gebruikte en ontdekten dat de regels zelf vol zaten met fouten!

• De analogie: Stel je voor dat je een examen doet, maar de vragen in het examenboekje zelf verkeerd zijn. Misschien staat er een getal verkeerd, of een sleutelwoord is verkeerd gespeld (zoals liver_diease in plaats van liver_disease).
• Het gevolg: Omdat de "antwoorden" in de test op deze fouten waren gebaseerd, scoorde de AI slecht, zelfs als ze het juiste antwoord had berekend. De onderzoekers hebben meer dan 20 van deze fouten gevonden en gecorrigeerd.

B. De "Open Boek"-Oplossing (De Grote Doorbraak)

Dit is het belangrijkste punt. De onderzoekers zeiden: "Waarom vragen we de AI om de formule uit het hoofd te kennen? Laten we ze gewoon de formule geven tijdens de test."

• De analogie: In plaats van een "gesloten boek" examen, geven we de student het boekje met de formule erbij.
• Het resultaat: Zodra ze de formule kregen, schoot de score van de AI van ongeveer 52% naar 85%.
• De les: De AI was niet dom; ze had gewoon de "rekenmachine" nodig. Ze waren uitstekend in het begrijpen van de patiënt en het toepassen van de regels, maar slecht in het onthouden van de formule.

C. De "Perfecte Score" (De Bovenste Grens)

Ze keken naar de fouten die de AI nog steeds maakte, zelfs met het boekje erbij. Ze gebruikten een super-slimme AI (GPT-5.2) om te kijken of die het kon oplossen.

• Het resultaat: Zelfs met de fouten in de test zelf, zou een perfecte AI een score van 95% tot 97% moeten halen.
• Conclusie: De test is eigenlijk heel makkelijk, als je de AI gewoon de juiste hulpmiddelen geeft.

3. Wat betekent dit voor de toekomst?

De onderzoekers concluderen dat MedCalc-Bench eigenlijk geen test is voor "klinisch redeneren" (het denken als een dokter). Het is een test voor geheugen (formules onthouden) en rekenprecisie (niet vergeten een komma te zetten).

De nieuwe suggestie:
We moeten de test heruitvinden als een "Tool-Use" test.

• Hoe het nu werkt: "Hier is een patiënt. Bereken het risico." (De AI moet alles zelf weten).
• Hoe het moet: "Hier is een patiënt, en hier is de handleiding voor de rekenmachine. Gebruik de handleiding om het risico te berekenen."

Samenvatting in één zin

Deze paper zegt dat we AI's niet moeten testen op of ze een formule uit het hoofd kunnen reciteren (zoals een robot), maar op of ze slim genoeg zijn om de juiste tool te vinden en die correct te gebruiken (zoals een echte arts).

Door de AI gewoon de "rekenmachine" te geven, slaan ze de test met vlag en wimpel, en ontdekken we dat de test zelf eigenlijk de verkeerde vragen stelde.

Technische samenvatting

Probleemstelling

MedCalc-Bench is een veelgebruikt benchmark voor het evalueren van Large Language Models (LLM's) op hun vermogen om klinische rekenformules (zoals CKD-EPI, APACHE-II, MELD) toe te passen. De huidige prestaties zijn opvallend laag:

• State-of-the-art direct prompting scoort rond de 35% op de "Verified" split.
• De beste gepubliceerde methoden (Reinforcement Learning met verifieerbare beloningen, agentische frameworks) bereiken maximaal 74%.

De auteurs stellen dat deze benchmark de klinische redeneervaardigheid van modellen niet correct meet. In de klinische praktijk memoriseren artsen geen formules; ze gebruiken hulpmiddelen (calculators). De benchmark dwingt modellen echter om formules uit het geheugen op te halen en complexe wiskundige bewerkingen (logaritmen, exponenten) met hoge precisie uit te voeren. Dit creëert een kunstmatige moeilijkheidsgraad die meer te maken heeft met formule-memorizatie en rekenprecisie dan met daadwerkelijk klinisch inzicht.

Methodologie

De auteurs onderzochten de benchmark via drie hoofdroutes:

1. Systematische Audit van de Benchmark:

   • Ze voerden een grondige review uit van alle 55 calculator-implementaties in de officiële MedCalc-Bench-repository.
   • Elke implementatie werd vergeleken met de primaire klinische bronnen (originele publicaties, MDCalc-documentatie).
   • Fouten werden geïdentificeerd via geautomatiseerd testen, handmatige controle en hulp van LLM's (zoals GPT-5.2 en Claude Opus).

2. Open-Book Prompting Interventie:

   • In plaats van te eisen dat het model de formule uit het geheugen haalt, voegden de auteurs de volledige specificatie van de calculator (formule, parameterdefinities, eenheden, regels) direct toe aan de prompt ("open-book").
   • De taak van het model werd hierdoor gereduceerd tot: (1) juiste parameters uit de casus halen, (2) de meegeleverde formule toepassen, en (3) het resultaat berekenen.
   • Er werd geen fine-tuning of retrieval-augmentatie gebruikt; het was puur een prompt-engineering experiment.

3. Bovenste Grens-analyse (Upper-Bound):

   • Om te bepalen hoeveel van de resterende fouten te wijten waren aan modelbeperkingen versus datasetproblemen, werd GPT-5.2-Thinking ingezet op de gevallen waar een middelgroot model (GLM-4.6V) faalde.
   • Dit model kreeg dezelfde open-book prompt en gebruikte zoekfuncties en tools.

Belangrijkste Bijdragen

1. Ontdekking van 20+ Fouten in de Benchmark:

   • De audit bracht meer dan 20 fouten aan het licht in de officiële dataset-implementaties, variërend van kritieke formulefouten (bijv. verkeerde coëfficiënten voor CKD-EPI en MELD-Na) tot runtime-bugs (verkeerde bestandspaden, typfouten in sleutels zoals liver_diease in plaats van liver_disease).
   • Deze fouten beïnvloedden de "ground truth" labels, wat betekent dat sommige antwoorden van modellen als "fout" werden gemarkeerd terwijl ze correct waren volgens de echte klinische logica.

2. Open-Book Prompting als Krachtige Interventie:

   • Door de specificaties aan de prompt toe te voegen, steeg de nauwkeurigheid van GLM-4.6V van 52% naar 81,5%.
   • Voor GLM-4.7 steeg de score van 36% naar 85,5%.
   • Deze resultaten overtreffen alle eerder gepubliceerde methoden, inclusief systemen die gebruikmaken van Reinforcement Learning (RL) of uitgebreide denkprocessen, zonder dat er extra training nodig was.

3. Herdefiniëring van de Benchmark:

   • De auteurs stellen dat MedCalc-Bench momenteel vooral formule-herinnering en decimale rekenprecisie meet.
   • Ze pleiten ervoor om de benchmark te herpositioneren als een tool-use evaluatie, waarbij de focus ligt op het correct extraheren van parameters en het selecteren van de juiste calculator, in plaats van het memoriseren van formules.

Resultaten

• Prestatieverbetering: De "open-book" methode leverde een verbetering van +29,6 procentpunten op ten opzichte van de baseline. Dit is een grotere sprong dan die geboekt door geavanceerde RL-methoden.
• Foutanalyse:
  • Bij de baseline (zonder formules) waren de belangrijkste fouten: rekenfouten bij reële getallen, verkeerde referentiedatums in casussen en conflicterende versies van formules.
  • Bij open-book prompting verdwenen de formule-herinneringsfouten bijna volledig. De resterende fouten bestonden voornamelijk uit parameter-extractiefouten en rekenprecisieproblemen.
• Bovenste Grens (Upper Bound):
  • GPT-5.2-Thinking loste 70,7% van de resterende fouten op.
  • Na correctie voor datasetfouten (19 gevallen) en ambiguïteiten (10 gevallen), wordt de conservatieve bovenste grens voor nauwkeurigheid geschat op 94,7%, en de optimistische grens op 97,4%.
  • Dit bevestigt dat de benchmark technisch haalbaar is voor moderne AI-systemen zodra de "memorizatie"-barrière wordt verwijderd.

Betekenis en Conclusie

Het paper concludeert dat MedCalc-Bench, zoals het nu is ingericht, een misleidende maatstaf is voor klinisch redeneren. De moeilijkheid zit hem in kunstmatige beperkingen (geheugen en rekenprecisie) die niet overeenkomen met de werkelijke klinische praktijk.

• Praktische Implicatie: Klinische calculators zijn hulpmiddelen. AI-modellen moeten worden geëvalueerd op hun vermogen om deze hulpmiddelen correct te gebruiken (parameters extraheren en formules toepassen), niet op hun vermogen om ze uit het hoofd te kennen.
• Aanbeveling: De auteurs adviseren om MedCalc-Bench (of een opvolger) te standaardiseren naar een open-book, tool-enabled setting. De evaluatie moet dan focussen op parameter-extractie en het correct toepassen van meegeleverde specificaties.
• Onderzoeksmethodologie: Het paper demonstreert ook een nieuwe werkstroom voor onderzoek, waarbij één onderzoeker gebruik maakt van een scala aan AI-modellen (van goedkope modellen voor bulk-taken tot geavanceerde "thinking"-modellen voor auditing en redenering) om een benchmark-audit uit te voeren die anders maanden zou hebben geduurd.

Kortom: De benchmark meet niet wat we denken dat hij meet; hij test rekenkracht en geheugen, niet klinisch inzicht. Met de juiste prompt-strategie (open-book) kunnen bestaande modellen de taak bijna perfect uitvoeren.