🤖 machine learning

Learning from Disagreement: Clinician Overrides as Implicit Preference Signals for Clinical AI in Value-Based Care

Dit artikel stelt een formeel kader voor dat clinische overrulingen van AI-aanbevelingen herformuleert als impliciete voorkeurssignalen, en introduceert een dual-learning architectuur en een taxonomie van overrulingen om beloningsmodellen te trainen die zijn afgestemd op patiëntuitkomsten in waardegebaseerde zorg, terwijl suppressiebias veroorzaakt door variërende clinische competenties wordt tegengegaan.

Oorspronkelijke auteurs: Prabhjot Singh, Abhishek Gupta, Chris Betz, Abe Flansburg, Brett Ives, Sudeep Lama, Jung Hoon Son

Gepubliceerd 2026-05-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Prabhjot Singh, Abhishek Gupta, Chris Betz, Abe Flansburg, Brett Ives, Sudeep Lama, Jung Hoon Son

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een robotkok te leren hoe hij een perfecte maaltijd bereidt. In het verleden, als de robot suggereerde zout toe te voegen en de kok zei: "Nee, dat is te veel", dacht de robot: "Oh, ik moet het verkeerd hebben. Ik zal stoppen met het suggereren van zout."

Dit artikel betoogt dat dit de verkeerde manier is om te leren. In plaats van het "Nee" van de kok als een fout te zien, moeten we het zien als een geheime boodschap over waarom ze nee zeiden.

Hier is de eenvoudige uitleg van de ideeën uit het artikel:

1. Het "Nee" is eigenlijk een schatkaart

In ziekenhuizen negeren artsen computeradviezen vaak of passen ze deze aan. Meestal denken technologiebedrijven dat dit een mislukking is – een teken dat de computer irritant of fout is.

Dit artikel zegt: Stop met het behandelen als een mislukking. Behandel het als een rijk datasignaal.

De oude manier: "De arts heeft het advies van de AI afgewezen. De AI is slecht."
De nieuwe manier: "De arts heeft het advies afgewezen. Waarom? Was het advies eigenlijk verkeerd? Of voelde de arts zich gewoon niet zeker genoeg om het te doen? Of waren de regels van het ziekenhuis anders?"

Elke keer dat een arts een aanbeveling aanpast, geeft ze de AI een gelabelde les: "In deze specifieke situatie, met deze specifieke arts, geef ik de voorkeur aan deze actie boven die."

2. De drie soorten koks (het "Vermoogen"-probleem)

Het artikel gebruikt een verhaal over drie verschillende artsen (of koks) om uit te leggen waarom we niet gewoon "Ja" en "Nee" stemmen even zwaar kunnen laten tellen. Stel je een aanbeveling voor om een nieuw hartmedicijn te starten:

Kok A (De Meester): Kent het recept perfect. Controleert de ingrediënten, ziet dat het veilig is en zegt: "Ja, laten we het doen." Dit is een betrouwbare "Ja".
Kok B (De Leerling): Kent het recept als goed, maar heeft het nooit alleen bereid. Ze zijn bang dat ze het verprutsen, dus zeggen ze: "Nee, laten we de hoofdkok (een specialist) erbij halen." Dit is een afwijzing, maar niet omdat het recept slecht is. Het is omdat de kok het vermogen mist om het uit te voeren.
Kok C (De Robot): Zegt zonder na te denken "Ja" tegen alles. Dit lijkt op instemming, maar is eigenlijk lege data.

De valstrik: Als je gewoon de stemmen telt, zie je 2 "Ja's" en 1 "Nee". Je zou kunnen denken dat het recept geweldig is. Maar als je nader kijkt, kwam het "Nee" van een kok die bang was, en was het "Ja" van de robot betekenisloos. Als je deze niet scheidt, kan de AI leren om het recept helemaal niet meer te suggereren omdat "te veel mensen nee zeiden", zelfs als het recept eigenlijk perfect is.

Het artikel noemt dit "Suppressiebias". Het is wanneer de AI stopt met het suggereren van goede, moeilijke dingen, omdat de mensen die niet bekwaam genoeg zijn om ze te doen, steeds "Nee" zeggen.

3. De twee-hersenenoplossing

Om dit op te lossen, stelt het artikel voor dat de AI tegelijkertijd met twee hersenen moet leren, niet slechts één:

Hersenen 1 (Het Beloningsmodel): Leren wat de beste medische actie is.
Hersenen 2 (Het Vermogensmodel): Leren hoe bekwaam elke specifieke arts is om die actie uit te voeren.

De AI voert een lus uit:

"Heeft Dr. Smith nee gezegd? Is het omdat het idee slecht was (Hersenen 1), of omdat Dr. Smith er nog niet klaar voor is om het te doen (Hersenen 2)?"
Als het een vaardigheidsprobleem is, verandert de AI niet van mening over het recept; in plaats daarvan geeft ze Dr. Smith een spiekbriefje (een checklist of een stap-voor-stap handleiding) om hen zelfvertrouwen te geven.
Naarmate Dr. Smith beter wordt, stopt de AI met het geven van het spiekbriefje en behandelt ze hen als een Meesterkok.

4. Waarom dit alleen werkt in "waarde-gebaseerde" zorg

Het artikel betoogt dat dit systeem het beste werkt in een specifiek type ziekenhuisbetalingsmodel dat waarde-gebaseerde zorg wordt genoemd.

De oude manier (Per dienst): Artsen worden betaald per bezoek. Als ze een patiënt doorverwijzen naar een specialist, krijgen ze meer betaald. Dus kunnen ze patiënten doorverwijzen, zelfs als ze ze zelf zouden kunnen behandelen. De AI leert hier de verkeerde lessen.
De nieuwe manier (Waarde-gebaseerd): Artsen worden betaald op basis van resultaten (bijvoorbeeld: "Is de patiënt na 3 maanden beter geworden?").
- In deze wereld, als een arts een patiënt onnodig doorverwijst, kan de patiënt slechter worden of te lang moeten wachten, en verliest het ziekenhuis geld.
- Dit creëert een duidelijk "scorebord". De AI kan 30 of 90 dagen later terugkijken en zien: "De arts die 'Nee' zei en de patiënt doorverwees, had een slecht resultaat. De arts die 'Ja' zei en hen behandelde, had een geweldig resultaat."

Omdat de resultaten zichtbaar zijn en gekoppeld aan het geld, kan de AI eindelijk de waarheid leren: "Oké, het 'Nee' van de angstige arts was een vergissing. De 'Ja' was de juiste zet."

5. Het "Vliegwiel"-effect

Het artikel beschrijft een magische cyclus die ontstaat als je dit goed doet:

De AI suggereert een behandeling.
Artsen geven feedback (overrulen).
De AI leert wie bekwaam is en wie hulp nodig heeft, en past haar suggesties aan.
Artsen worden beter in het uitvoeren van de behandelingen omdat de AI hen helpt.
Omdat artsen beter zijn, zeggen ze vaker "Ja", en leert de AI nog sneller.

Het is als een sneeuwbal die een heuvel afrolt: hoe meer je het systeem gebruikt, hoe slimmer het wordt, en hoe beter de artsen worden.

Samenvatting

Dit artikel zegt: Negeer het "Nee" niet.
Wanneer een arts van mening verandert bij een AI, is het geen systeemfout. Het is een complex gesprek tussen de AI, het vaardigheidsniveau van de arts en de regels van het ziekenhuis. Als we AI bouwen die begrijpt waarom de arts "Nee" zei (is het een vaardigheidsgat? een regelwijziging? of een echte medische meningsverschil?), kunnen we systemen creëren die niet alleen advies geven, maar artsen echt helpen om beter te worden in hun werk.

1. Probleemstelling

Huidige systemen voor Klinische Beslissingsondersteuning (CDS) kampen met hoge overschrijdingspercentages (vaak >96%), die traditioneel worden geïnterpreteerd als systeemfouten (waarschuwingsmoeheid, slechte specificiteit) die moeten worden geminimaliseerd. Het artikel betoogt dat deze interpretatie fundamenteel flawed is.

De Kernmisvatting: Het behandelen van overschrijdingen als ruis gooit de rijkste bron van voorkeursdata die beschikbaar is voor klinische AI overboord.
De Specifieke Uitdaging: In standaard Reinforcement Learning from Human Feedback (RLHF) worden annotatoren vaak als uniform beschouwd of met gelijke weging behandeld. In klinische settings is heterogeniteit onder clinici cruciaal. Een "afwijzing" van een AI-aanbeveling kan voortkomen uit:
1. Echte Klinische Oordeelsvorming: De AI heeft ongelijk (geldig voorkeurssignaal).
2. Capaciteitsgaten: De AI heeft gelijk, maar de clinician mist de vaardigheid/het vertrouwen om de actie uit te voeren (ongeldig voorkeurssignaal voor het beloningsmodel, maar geldig signaal voor een capaciteitsmodel).
3. Workflow/Protocolbeperkingen: Externe factoren die niets te maken hebben met klinische kwaliteit.
De Faalmodus: Naïeve voorkeursleersystemen verwarren deze signalen. Als een populatie van clinici met lage capaciteit een correcte maar moeilijke aanbeveling overschrijdt (bijvoorbeeld het starten van SGLT2-remmers bij hartfalen), leert het systeem dat de aanbeveling "slecht" is en onderdrukt deze. De auteurs noemen dit Suppression Bias (onderdrukkingsbias).

2. Methodologie & Formeel Kader

Het artikel stelt een formeel kader voor dat overschrijdingen herformuleert als impliciete voorkeurssignalen die afhankelijk zijn van drie variabelen: Patiënttoestand ( $s$ ), Organizational Context/Contract ( $c$ ), en Clinician Capability ( $\kappa$ ).

A. De Overschrijdingstaxonomie

De auteurs categoriseren overschrijdingen in vijf distincte types, die elk corresponderen met een specifiek doel voor modelupdate:

Context: De clinician heeft privé-informatie die niet in de toestand van de AI staat (Update: Uitbreiden van de State Representation).
Oordeel: Echte meningsverschillen met het bewijs (Update: Beloningsmodel).
Workflow: Beperkingen zoals tijd/personeel (Update: Filteren uit trainingsdata).
Protocol: Institutionele regels die de AI voorbijgaan (Update: Uitbreiden van de Contract Context).
Capaciteit: De clinician mist de vaardigheid om uit te voeren (Update: Capaciteitsmodel).

B. De Dual Learning Architectuur

Het kader introduceert een dual learning probleem dat wordt opgelost via alternerende optimalisatie om te scheiden "wat juist is" van "wie het kan doen".

Beloningsmodel ( $R_\theta$ ): Leert de latente klinisch-economische waarde van acties. Het wordt getraind op voorkeurparen gewogen op basis van de capaciteit van de clinician.
- Formule: $P(a' \succ r | s, c, \kappa) = \sigma(\beta(\kappa) \cdot [R^*(s, a', c) - R^*(s, r, c)])$
- De wegingsfunctie $\beta(\kappa)$ zorgt ervoor dat clinici met hoge capaciteit beloningsupdates drijven, terwijl overschrijdingen van clinici met lage capaciteit minder zwaar wegen.
Capaciteitsmodel ( $\kappa_\phi$ ): Leert de domeinspecifieke competentie van elke clinician.
- Het schat in hoe goed het gedrag van een clinician overeenkomt met de huidige beste schatting van het beloningsmodel.
- Decompositie: $\kappa$ wordt opgesplitst in Execution Capability (kunnen ze het doen?) en Alignment Capability (praten ze op een manier die overeenkomt met uitkomsten op basis van waarde?).

C. Alternerende Optimalisatielus

Om cirkelredenering en suppression bias te voorkomen, doorloopt het systeem de volgende iteraties:

E-Stap: Fixeer het Beloningsmodel ( $R_\theta$ ) en schat de Clinician Capability ( $\kappa$ ) op basis van hoe goed $R_\theta$ de overschrijdingen van de clinician voorspelt.
M-Stap: Fixeer het Capaciteitsmodel ( $\kappa$ ) en update het Beloningsmodel ( $R_\theta$ ) met behulp van voorkeur-likelihoods gewogen op capaciteit.
Outcome Anchoring: Om te voorkomen dat het systeem convergeert naar collectieve clinici-bias, worden de geconvergeerde modellen gevalideerd tegen longitudinale patiëntuitkomsten (bijvoorbeeld opnamedata, HbA1c-controle) die retrospectief zijn waargenomen.

D. Het "Modify"-Actievoordeel

In tegenstelling tot standaard RLHF dat binaire paarvergelijkingen gebruikt, bieden klinische overschrijdingen een drie-waardige respons:

Accepteren: Bevestiging.
Afwijzen: Voorkeur voor een alternatief (binair).
Aanpassen: Het rijkste signaal. Het biedt een voorkeurpaar plus een nabijheidssignaal (het alternatief ligt dicht bij de aanbeveling) en een gradiëntrichting (hoe de aanbeveling kan worden verbeterd).

3. Belangrijkste Bijdragen

Herformulering van Overschrijdingen: Verschuiving van het paradigma van "overschrijdingen als ruis/fout" naar "overschrijdingen als gestructureerde voorkeurdata".
Capaciteits-geconditioneerde Voorkeursleer: Een nieuwe formulering waarbij het gewicht van een voorkeurssignaal een functie is van de capaciteit van de annotator ( $\kappa$ ), waardoor de onderdrukking van correcte maar moeilijke aanbevelingen wordt voorkomen.
Dual Learning Architectuur: Een formele oplossing voor het gekoppelde probleem van het gelijktijdig leren van een beloningsmodel en een capaciteitsmodel, met expliciete aandacht voor Suppression Bias.
Context-geconditioneerde Beloningen: Uitbreiding van voorkeursleer om organisatorische contractstructuren ( $c$ ) op te nemen, met erkenning dat de "correcte" actie in Value-Based Care (VBC) verschilt van Fee-for-Service (FFS).
Systeemblauwdruk: Een complete architectuur voor het vastleggen, classificeren en leren van overschrijdingen, inclusief steunmechanismen om de capaciteit van clinici te verbeteren op basis van inzichten van het model.

4. Resultaten & Validatie (Theoretische & Empirische Context)

Demonstratie van Suppression Bias: Het artikel toont theoretisch aan dat in een populatie waarin 70% van de clinici de capaciteit mist om een door richtlijnen aanbevolen therapie uit te voeren, een naïef model leert dat de therapie suboptimaal is. Het voorgestelde $\kappa$ -gecorrigeerde model identificeert de therapie correct als optimaal door overschrijdingen van clinici met lage capaciteit minder zwaar te wegen.
Data Flywheel: In chronische zorg op basis van VBC creëert het systeem een cumulatief leervoordeel:
- Longitudinale Dichtheid: Duizenden interacties per clinician per kwartaal.
- Observabiliteit van Uitkomsten: In tegenstelling tot standaard RLHF bieden klinische uitkomsten (bijvoorbeeld opname) grondwaarheid om voorkeuren te valideren.
- Concentratie: Naarmate het model verbetert, concentreren overschrijdingen zich op "blinde vlekken" (hoogwaardige leersignalen) in plaats van routinebeslissingen.
Operationele Provenance: Het kader is voortgekomen uit operationeel werk in een live VBC-implementatie, waarbij reële pathologieën werden aangepakt waarbij aanbevelingen verdwenen omdat de populatie ze niet kon uitvoeren.

5. Betekenis en Implicaties

Voor Klinische AI:
- Instrumentatie is Kritiek: Systemen moeten vanaf dag één zo worden ontworpen dat gestructureerde overschrijdingsdata wordt vastgelegd (inclusief het specifieke gekozen alternatief), niet alleen binaire accepteren/afwijzen.
- Steun (Scaffolding): Het systeem kan het personeel actief verbeteren door capaciteitsgaten te identificeren en gerichte ondersteuning (bijvoorbeeld checklists, protocollen) te bieden aan clinici met lage $\kappa$ , waardoor de kwaliteit van toekomstige voorkeurssignalen toeneemt.
Voor RLHF-onderzoek:
- Heterogeniteit van Annotatoren: Het concept van het wegen van voorkeuren op basis van de capaciteit van de annotator ( $\kappa$ ) is generaliseerbaar naar codegeneratie, juridische review en contentmoderatie.
- Context is Belangrijk: Beloningsfuncties moeten worden geconditioneerd op de operationele context (bijvoorbeeld contracttype, platformbeleid), niet alleen op intrinsieke kwaliteit.
Beleid & Economie:
- Het artikel betoogt dat Value-Based Care (VBC) met uitkomstgerichte prikkels een noodzakelijke voorwaarde is voor het leren van uitgelijnde beloningsmodellen. Fee-for-Service (FFS)-structuren creëren misgelijkte prikkels die het voorkeurssignaal corrumperen, ongeacht de geavanceerdheid van de AI.
- AI-ontwikkelaars en beleidsmakers moeten samenwerken om prikkels te creëren (zoals het CMS ACCESS-model) die definitieve, vroege interventies belonen, waardoor de AI kan leren van hoogwaardige, uitkomst-gevalideerde data.

Conclusie

Het artikel stelt vast dat clinici-overschrijdingen geen fouten zijn, maar het waardevolste trainingsignaal in klinische AI, mits ze worden verwerkt via een dual-learning framework dat klinische waarheid (Beloning) ontkoppelt van menselijke beperking (Capaciteit). Door gebruik te maken van longitudinale uitkomstdata en capaciteits-geconditioneerde weging, kan klinische AI tegelijkertijd haar aanbevelingen verbeteren en het vermogen van het klinische personeel om deze uit te voeren, waardoor een cumulatieve flywheel van verbeterde patiëntuitkomsten ontstaat.