Technische Samenvatting: BODHI-framework voor nieuwsgierig en bescheiden AI in klinische besluitvormingsondersteuning

1. Probleemstelling

Large Language Models (LLM's) vertonen significante beperkingen bij de toepassing in klinische besluitvormingsondersteuning, die primair worden gekenmerkt door overmoed en onbuigzame redenering. Ondanks hoge capaciteiten voor statistische patroonherkenning, verwarren LLM's vaak vertrouwen met medisch begrip, waardoor ze declaratieve outputs genereren zelfs wanneer de bewijslast onvoldoende is. Dit gedrag draagt bij aan automatiseringbias, waarbij clinici mogelijk afgaan op incorrecte suggesties van de AI, en aan sycofantisch gedrag, waarbij modellen voldoen aan onlogische medische verzoeken.

Bestaande benaderingen om deze problemen te mitigeren schieten tekort:

• Onzekerheidskwantificatie (Uncertainty Quantification, UQ): Methoden zoals conformal prediction schatten onzekerheid in, maar falen in het modificeren van het gedrag of de communicatiestijl van het model wanneer de onzekerheid hoog is.
• Chain-of-Thought (CoT): Hoewel dit de nauwkeurigheid van redeneringen verbetert, optimaliseert standaard CoT voor correctheid in plaats van voor gepaste epistemische houding (bijv. het toegeven van onzekerheid).
• Fine-tuning: Benaderingen zoals ConfiDx vereisen modelmodificatie, wat de praktische inzetbaarheid en generaliseerbaarheid beperkt.
• Conceptuele kaders: Eerder werk heeft gepleit voor "epistemische bescheidenheid" als ontwerpprincipe, maar heeft geen concrete engineering-implementaties geboden om deze deugden te operationaliseren.

Het kernprobleem is de kloof tussen filosofische voorstellen voor bescheiden AI en de engineering-realiteit van het inzetten van LLM's die in staat zijn hun gedrag betrouwbaar te beperken om in lijn te blijven met epistemische deugden zonder architecturale wijzigingen.

2. Methodologie: Het BODHI-framework

De auteurs stellen BODHI voor (Balanced, Open-minded, Diagnostic, Humble, and Inquisitive), een engineering-framework dat nieuwsgierigheid en bescheidenheid operationaliseert via een twee-pass chain-of-thought protocol. Het framework vereist geen fine-tuning van het model; het functioneert via gestructureerde prompting.

2.1 Kernarchitectuur

Het framework werkt via zes geïntegreerde stappen:

1. Klinische Complexiteitsbeoordeling: Evalueert de query op diagnostische ambiguïteit, urgentie en volledigheid van gegevens.
2. Voorafgaande Vertrouwensbeoordeling: Schat de epistemische staat van het model in op basis van de dekking van de trainingsdistributie.
3. Parallelle Verwerking:
   • Nieuwsgierigheidsmodule (Curiosity Module): Identificeert informatiehiaten en genereert verhelderende vragen.
   • Bescheidenheidsmodule (Humility Module): Beoordeelt de grenzen van het vertrouwen en triggers voor overdracht (deferral).
4. Virtue Activation Matrix (VAM): Brengt klinische complexiteit in kaart tegen de vertrouwensgraad van het model om een van de vier epistemische houdingen te selecteren:
   • Q1 (Doorgaan & Monitoren): Hoog vertrouwen, lage complexiteit.
   • Q2 (Waakzaam & Alternatieven): Hoog vertrouwen, hoge complexiteit.
   • Q3 (Verhelderen & Reviewen): Laag vertrouwen, lage complexiteit (triggert hoge nieuwsgierigheid/bescheidenheid).
   • Q4 (Escaleren & Herformuleren): Laag vertrouwen, hoge complexiteit (triggert deferente bescheidenheid en escalatie).
5. Adaptieve Responsgeneratie: Genereert antwoorden op basis van de geselecteerde houding.
6. Continu Leren: Integreert feedback van clinici om drempelwaarden te verfijnen.

2.2 Het Twee-Pass Protocol

• Pass 1 (Gestructureerde Analyse): Het model genereert een interne, controleerbare analyse met zeven verplichte velden: Taaktype, Doelgroep, Primaire Hypothese, Belangrijkste Onzekerheden, Verhelderende Vragen (1–2 vereist voor niet-spoedgevallen), Red Flags en Veilige Aanbevelingen. Dit maakt de epistemische staat expliciet.
• Pass 2 (Beperkte Output): Het model genereert de naar de clinicus gerichte respons, geconditioneerd op Pass 1. Het past Cross-Cutting Epistemic Constraints toe:
  • Specificiteit: Gebruik concrete getallen/tijdstippen waar beschikbaar.
  • Actieve Inquiry: Zet conditionele stellingen om in directe vragen.
  • Alternatieven: Presenteer differentiële diagnoses wanneer het vertrouwen onder de drempelwaarde ligt.
  • Taakrouting: Past het gedrag aan op basis van context (Emergency, Technical, Hybrid, of Conversation modi).

2.3 Evaluatieontwerp

• Dataset: 200 uitdagende klinische vignettes uit HealthBench Hard, geselecteerd voor gevallen die genuanceerde oordeelsvorming vereisen waar baseline-modellen onderpresteren.
• Modellen: GPT-4.1-mini en GPT-4o-mini.
• Experimenteel Ontwerp: Geëvalueerd over 5 willekeurige seeds (42–46) met 200 gevallen per model, wat resulteert in 1.000 observaties per model.
• Condities: Baseline (standaard prompting) versus BODHI (twee-pass protocol).
• Metrieken: Totale HealthBench-score, Context-Seeking Rate (proportie van responsen met verhelderende vragen), Hedging Frequency, Helpful & Safe score, Emergency Referral Rate en Communicatiekwaliteit.
• Statistiek: Nonparametrische bootstrap resampling (10.000 iteraties), gepaarde t-testen en berekening van de Cohen's d effectgrootte.

3. Belangrijkste Resultaten

De studie demonstreert dat BODHI het gedrag van LLM's significant verandert richting epistemische deugden zonder modelmodificatie.

3.1 Primaire Uitkomsten

• Totale Klinische Kwaliteit:
  • GPT-4.1-mini: Verbeterd van 2,5% naar 19,1% (+16,6 procentpunt, $p < 0,0001$).
  • GPT-4o-mini: Verbeterd van 0,0% naar 2,2% (+2,2 procentpunt, $p < 0,0001$).
• Nieuwsgierigheid (Context-Seeking):
  • GPT-4.1-mini: Gestegen van 7,8% naar 97,3% (+89,6pp). Effectgrootte (Cohen's $d$) = 16,38 (Zeer Groot).
  • GPT-4o-mini: Gestegen van 0,0% naar 73,5% (+73,5pp). Effectgrootte (Cohen's $d$) = 19,54 (Zeer Groot).
• Bescheidenheid (Hedging):
  • GPT-4.1-mini: Gestegen van 1,7% naar 21,9% (+20,3pp, $d = 5,80$).
  • GPT-4o-mini: Gestegen van 0,8% naar 5,2% ($d = 1,16$).
• Veiligheid: Emergency referral rates namen significant toe voor beide modellen (bijv. GPT-4.1-mini van 12,3% naar 28,6%).

3.2 Trade-offs

• Communicatiekwaliteit: Scores daalden voor beide modellen (GPT-4.1-mini: -12,5pp; GPT-4o-mini: -11,3pp). De auteurs wijten dit aan de verschuiving van zelfverzekerde, declaratieve stellingen naar genuanceerde outputs die vragen bevatten. Zij argumenteren dat dit een passende trade-off is voor klinische domeinen met hoge inzet waar overmoed grotere risico's met zich meebrengt dan verbale, voorzichtige (hedged) reacties.
• Modelcapaciteit: GPT-4.1-mini vertoonde grotere winsten in zowel de totale score als in hedging-gedrag vergeleken met GPT-4o-mini, wat suggereert dat de modelcapaciteit de effectiviteit van epistemische beperkingen beïnvloedt.

3.3 Reproduceerbaarheid

De prestaties waren consistent over alle 5 willekeurige seeds. Voor GPT-4.1-mini varieerden de context-seeking rates onder BODHI van 92,9% tot 100,0%, waarbij drie seeds 100% bereikten. Dit geeft aan dat de effecten van het framework robuust zijn en geen artefacten zijn van specifieke sampling.

4. Belangrijkste Bijdragen

1. Operationalisering van Epistemische Deugden: Het artikel biedt het eerste prompting-gebaseerde framework dat empirisch aantoont dat het in staat is LLM's te beperken tot het vertonen van nieuwsgierigheid (informatieverzameling) en bescheidenheid (hedging/deferral) in klinische contexten.
2. Engineering Implementatie: In tegen tegenstelling tot eerder werk dat epistemische bescheidenheid conceptueel bespreekt of fine-tuning vereist, biedt BODHI een twee-pass chain-of-thought protocol dat direct inzetbaar is via prompting.
3. Virtue Activation Matrix: Een nieuwe beslissingslogica die klinische complexiteit en modelvertrouwen in kaart brengt tegen specifieke gedragsstanden (Proceed, Watchful, Clarify, Escalate).
4. Empirische Validatie: Demonstreert "zeer grote" effectgroottes (Cohen's $d > 1,2$) op nieuwsgierigheids- en bescheidenheidsmetrieken, waarmee wordt bewezen dat gedragsmodificatie mogelijk is op het niveau van prompting.

5. Betekenis en Claims

De auteurs beweren dat BODHI een pad biedt naar veiligere klinische AI-implementatie door systemen zodanig te laten opereren dat zij collaboratieve partners zijn die weten wanneer ze vragen moeten stellen en wanneer ze moeten overdragen, in plaats van "overmoedige orakels" te zijn.

• Veiligheid boven Zelfvertrouwen: Het framework geeft prioriteit aan epistemische veiligheid (het erkennen van onzekerheid) boven de schijn van zelfvertrouwen, waarmee het risico op automatiseringbias aanpakt waarbij clinici mogelijk foutief advies van de AI volgen vanwege hoge vertrouwensscores.
• Schaalbaarheid: Omdat het steunt op prompting in plaats van modelretraining, kan het framework over verschillende modelvarianten en klinische domeinen worden toegepast zonder de computationele kosten van fine-tuning.
• Erkende Beperkingen: De auteurs merken nederig op dat er beperkingen zijn, waaronder de afhankelijkheid van één enkele benchmark (HealthBench Hard), de evaluatie van slechts twee modellen van één provider, en de afwezigheid van validatie door een menselijke clinicus (clinician-in-the-loop). Zij erkennen dat de twee-pass architectuur de latentie verhoogt en dat de effectiviteit van het framework kan variëren in verschillende institutionele contexten.

Het artikel concludeert dat hoewel er een kwaliteit-veiligheid trade-off bestaat (lagere communicatiescores), dit een noodzakelijke en passende aanpassing is voor klinische besluitvormingsondersteuning met hoge inzet, die het gedrag van de AI afstemt op de epistemische deugden die vereist zijn voor veilige mens-AI samenwerking.