🤖 machine learning

The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions

Dit artikel onthult een "oordeel-gevolg-kloof" in grote taalmodellen, waarbij wordt aangetoond dat zij het met mensen eens zijn dat patiënten verantwoordelijk zijn voor gezondheidsschadelijk gedrag, maar dat zij systematisch weigeren deze verantwoordelijkheid invloed te laten hebben op de toewijzing van schaarse middelen, in tegenstelling tot mensen die consequent de voorkeur geven aan minder schuldige patiënten.

Oorspronkelijke auteurs: Hadi Hosseini, Samarth Khanna, Leona Pierce

Gepubliceerd 2026-08-07

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hadi Hosseini, Samarth Khanna, Leona Pierce

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat jij de scheidsrechter bent bij een wedstrijd met enorme inzet, waarbij de prijs een levensreddende medische behandeling is, zoals een nieuwe nier of een speciale operatie. Je hebt twee spelers: Speler A, die altijd gezond is geweest, en Speler B, die ziek is geworden door iets risicovolls te doen, zoals zwaar roken of te veel drinken. In de echte wereld, wanneer mensen moeten beslissen wie de prijs krijgt, kijken ze vaak naar wie het "verdient". Als Speler B door eigen slechte keuzes ziek is geworden, vinden veel mensen dat Speler B de prijs moet betalen en de kans moet verliezen. Dit idee wordt morele verantwoordelijkheid genoemd: de overtuiging dat als je je eigen problemen veroorzaakt, je niet kunt verwachten dat je een vrijbrief krijgt.

Stel je nu voor dat je een superintelligent robot vraat, een Large Language Model (LLM), om de scheidsrechter te zijn. Deze robots zijn als digitale hersenen die bijna alles op het internet hebben gelezen. Ze zijn geweldig in het geven van advies, het schrijven van verhalen en zelfs in het helpen van artsen bij het diagnosticeren van ziekten. Maar dit is de grote vraag: wanneer deze robots een moeilijke keuze moeten maken over wie een schaars medisch middel krijgt, denken ze dan als mensen? Kijken ze naar de slechte keuzes van Speler B en zeggen ze: "Je hebt het zelf maar uitgelopen, dus nu moet je de consequenties dragen"? Of hebben ze een heel andere set regels? Dit artikel duikt in dat exacte mysterie; het test of deze AI-scheidsrechters dezelfde morele spelregels volgen als wij, of dat ze een compleet ander spel spelen.

De onderzoekers zetten een reeks digitale scenario's op, zoals een computerspel-simulatie, waarbij een AI moest kiezen tussen twee patiënten voor een niertransplantatie. Eén patiënt had een geschiedenis van slechte gewoonten (zoals roken of drugsgebruik), en de andere niet. De AI kreeg een reeks vragen gesteld: Ten eerste, "Is de patiënt verantwoordelijk voor zijn slechte gewoonte?" Ten tweede, "Is de patiënt verantwoordelijk voor het ziek worden door die gewoonte?" En ten slotte, de grote vraag: "Wie moet de nier krijgen?"

Hier vindt de plotwending plaats. Wanneer de AI werd gevraagd of de patiënt verantwoordelijk was voor zijn slechte gewoonten, stemde het bijna perfect overeen met mensen. Het zei: "Ja, die patiënt heeft een slechte keuze gemaakt." Het stemde zelfs ermee in dat de patiënt verantwoordelijk was voor het ziek worden. Maar toen de AI werd gevraagd om de nier daadwerkelijk aan de "goede" patiënt te geven, veranderde de AI volledig van gedachten. In plaats van de patiënt te kiezen die niet rookte, koos de AI overweldigend voor het opgooien van een muntje.

De onderzoekers noemen dit de "Judgment-Consequence Gap" (het gat tussen oordeel en gevolg). Het is alsof een robot zegt: "Ik weet dat je de regels hebt overtreden, en ik weet dat jij degene bent die ze heeft overtreden," maar dan toevoegt: "Maar ik ga je er niet voor straffen, want dat zou onrechtvaardig zijn." Terwijl mensen meestal de verbanden leggen — denkend: "Jij hebt het probleem veroorzaakt, dus jij krijgt de prijs niet" — verbreekt de AI de keten. De AI geeft toe dat de patiënt schuldig is, maar weigert die schuld te laten bepalen wie de levensreddende behandeling krijgt.

De studie vond ook enkele andere interessante eigenaardigheden. Als de patiënt niet wist dat zijn slechte gewoonte gevaarlijk was (bijvoorbeeld omdat hij nooit was verteld dat roken nierfalen veroorzaakt), was de AI veel vergevensgezinder en liet het de patiënt bijna van het lijntje af. Mensen vonden het echter minder belangrijk of de patiënt de risico's kende; zij vonden de patiënt nog steeds verantwoordelijk. Ook toen de onderzoekers de "denkmodus" van de AI aanzetten — waardoor de AI langer pauzeerde en langer redeneerde voordat het antwoord gaf — werd de kloof zelfs groter. De AI raakte nog meer ervan overtuigd dat de patiënt verantwoordelijk was, maar werd ook nog standvastiger in het weigeren om die verantwoordelijkheid te gebruiken om te beslissen wie de nier krijgt.

Kortom, dit artikel suggereert dat hoewel AI het concept van "je hebt het gedaan, je bent het eigendom" begrijpt, het niet lijkt te geloven dat "het eigendom zijn" betekent dat je een levensreddende hulpbron moet verliezen. Het behandelt de beslissing om een nier te geven als een kwestie van strikte rechtvaardigheid waarbij iedereen een gelijke kans krijgt, ongeacht eerdere fouten. Dit is niet zomaar een foutje; het lijkt een diepgewortelde, ingebouwde regel te zijn in hoe deze modellen denken. Dus als we AI ooit toestaan om artsen te helpen beslissen wie een transplantatie krijgt, moeten we weten dat de robot het misschien met ons eens is over wie de schuld heeft, maar dat de robot waarschijnlijk zal weigeren om die schuld de uitkomst te laten veranderen.

Technische Samenvatting: De oordeels-gevolg-kloof in de morele redenering van LLM's

Probleemstelling

Nu Large Language Models (LLM's) steeds vaker worden geïntegreerd in hoogwaardige zorgdomeinen voor besluitvormingsondersteuning en de toewijzing van middelen, is het begrijpen van hun morele redeneervermogen cruciaal. Een specifieke ethische uitdaging ontstaat wanneer schaarse medische middelen (bijv. organen, gespecialiseerde behandelingen) moeten worden toegewezen aan patiënten, waarvan sommigen zelf hebben bijgedragen aan hun ziekte door gezondheidsschadelijk gedrag (bijv. roken, drugsgebruik).

Menselijke morele redenering, geworteld in attributietheorie, koppelt de waargenomen verantwoordelijkheid voor een negatieve uitkomst doorgaans aan downstream-gevolgen, waarbij zijgenen die verantwoordelijk zijn voor hun eigen onheil vaak als minder verdienstelijk worden beschouwd voor schaarse middelen. Het blijft echter onduidelijk of LLM's deze koppeling repliceren of dat ze divergeren in hoe ze verantwoordelijkheid beoordelen versus hoe ze die beoordeling toepassen op consequentiële beslissingen. Voorgaand werk heeft morele redenering grotendeels behandeld als een eenstaps-evaluatie, waardoor er een gat is ontstaan in het begrip waar menselijk en LLM-gedrag in de redeneerketen uiteenlopen.

Methodologie

De auteurs voerden een uitgebreide empirische studie uit waarbij 19 verschillende LLM-configuraties (variërend over 12 modellen uit families zoals Claude, GPT, DeepSeek, Gemini en Llama, met zowel redeneer-ondersteunde als niet-redeneer-modi) werden geëvalueerd tegen menselijke baselines afgeleid uit eerdere studies.

Experimenteel Ontwerp:
De studie maakte gebruik van klinische vignettes aangepast van menselijke studies naar de toewijzing van niertransplantaties (Chan et al., 2024), longkankerbehandeling (Björk, Lynøe en Juth, 2015) en heupvervangende operaties (Björk, Juth en Lynøe, 2018). Het experimentele ontwerp volgde het morele redeneerproces over opeenvolgende niveaus:

Gedragsverantwoordelijkheid: Is de patiënt verantwoordelijk voor het schadelijke gedrag?
Ziekteverantwoordelijkheid: Is de patiënt verantwoordelijk voor het ontwikkelen van de ziekte?
Deprivatieverantwoordelijkheid: Is de patiënt verantwoordelijk voor het worden ontzegd van het schaarse middel?
Toewijzingsbeslissing: Moet, gezien de schaarste, het middel naar de niet-schuldige patiënt gaan, naar de schuldige patiënt, of wordt de beslissing willekeurig genomen?

Gemanipuleerde Variabelen:

Gedragsverandering: Of de patiënt het schadelijke gedrag voortzette of stopte na de diagnose.
Epistemische Staat (Kennisniveau): Of de patiënt op de hoogte was van de gezondheidsrisico's, toegang had tot informatie maar het niet wist, of geen toegang had tot informatie. Dit omvatte ook situaties waarin patiënten actief werden misleid door derden, mensen of AI-agenten.
Redeneervermogen: Vergelijking van modellen met "denkmodus" (uitgebreide redenering) ingeschakeld versus uitgeschakeld.

Procedure:
Modellen werden geprompt als gesimuleerde studieparticipanten in meerder-turn conversaties om de sequentiële structuur van menselijke studies te repliceren. Respons werd verzameld via gestructureerde JSON-outputs met Likert-schaalratings en toewijzingskeuzes. Statistische vergelijkingen werden gemaakt met behulp van Welch's t-testen, Mann-Whitney U-testen en $\chi^2$ -testen, waarbij resultaten over modelconfiguraties heen werden geaggregeerd om algemene patronen te identificeren.

Belangrijkste Bijdragen

Identificatie van de oordeels-gevolg-kloof: Het artikel definieert en demonstreert empirisch een systematische disconnect waarbij LLM's het eens zijn met mensen over morele verantwoordelijkheidsoordelen, maar weigeren deze oordelen te laten influisteren op consequentiële toewijzingsbeslissingen.
Granulaire tracering van redeneerketens: In tegenstelling tot voorgaand werk dat morele redenering als een monolithische output behandelt, isoleert deze studie specifieke fasen (gedrag $\to$ ziekte $\to$ deprivatie $\to$ toewijzing) om precies aan te wijzen waar de divergentie plaatsvindt.
Analyse van Epistemische Sensitiviteit: De studie onthult dat LLM's aanzienlijk gevoeliger zijn voor de toegang van een patiënt tot informatie (informed consent) dan mensen, waarbij de verantwoordelijkheidstoekenning scherp wordt verminderd wanneer informatie niet beschikbaar is, een patroon dat niet werd waargenomen in de menselijke baselines.
Impact van Uitgebreide Redenering: De auteurs onderzoeken of het inschakelen van "denk"-modi de kloof overbrugt, en vinden in plaats daarvan dat uitgebreide redenering de verantwoordelijkheidstoekenning vaak versterkt terwijl het tegelijkertijd de toewijzingsbeslissingen verder richting randomisatie duwt, waardoor de kloof wordt vergroot.

Belangrijkste Resultaten

1. Overeenstemming over Verantwoordelijkheid, Divergentie over Gevolg

Verantwoordelijkheidstoekenning: LLM's en mensen vertonen bijna volledige overeenstemming dat patiënten verantwoordelijk zijn voor hun schadelijke gedrag (gemiddelde scores ~4,4/5). Echter, LLM's (met name niet-redenerende modellen) kennen aanzienlijk minder verantwoordelijkheid toe aan de resulterende ziekte en deprivatie vergeleken met mensen.
Toewijzingsbeslissingen: Terwijl een meerderheid van de menselijke participanten (67,6%) het schaarse middel toewezen aan de minder schuldige patiënt, vervielen LLM's overweldigend in willekeurige toewijzing (beslissen door toeval).
- Redeneer-modellen kozen de niet-schuldige patiënt slechts 9,4% van de tijd.
- Niet-redenerende modellen kozen de niet-schuldige patiënt 24,7% van de tijd.
- In contrast hiermee kozen mensen de niet-schuldige patiënt in 67,6% van de gevallen.
Normatief Standpunt: LLM's steunden actief de visie dat gedragsgebaseerde toewijzing onrechtvaardig is (gemiddeld 5,6/7 op de onrechtvaardigheidsschaal) vergeleken met mensen (3,9/7). Redeneertracen bevestigen dat modellen verantwoordelijkheid erkennen, maar deze expliciet terzijzetten op basis van rechtvaardigheidsprincipes in plaats van het oordeel te negeren.

2. Sensitiviteit voor Kennis en Epistemische Staat

Menselijke Baseline: Menselijke verantwoordelijkheidsoordelen en toewijzingsbeslissingen bleven grotendeels vlak over verschillende kenniscondities (bekende, toegankelijke of onbekende risico's).
LLM Sensitiviteit: LLM's vertoonden dramatische sensitiviteit. Wanneer patiënten geen toegang hadden tot informatie over gezondheidsrisico's, verminderden LLM's de verantwoordelijkheid en schuldtoekenning aanzienlijk. Deze sensitiviteit strekte zich uit tot toewijzingsbeslissingen; voor niet-redenerende modellen daalde het percentage waarbij de niet-schuldige patiënt werd gekozen van 37,4% (kennisconditie) naar 12,6% (geen-toegang conditie).
Misinformatie: LLM's behandelden patiënten die actief waren misleid (door AI, mensen of derden) als moreel gelijkwaardig aan degenen die geen toegang tot informatie hadden, wat de verantwoordelijkheidstoekenning verder verminderde.

3. Effect van Uitgebreide Redenering

Het inschakelen van "denk"-modi verhoogde de scores voor verantwoordelijkheidstoekenning voor de meeste modelfamilies, waardoor ze dichter bij menselijke beoordelingen kwamen aan de oordelen-zijde.
Dit vertaalde zich echter niet naar menselijk-achtig toewijzingsgedrag. In plaats daarvan kozen denk-ingeschakelde modellen vaak voor een voorkeur voor randomisatie, waardoor de oordeels-gevolg-kloof werd vergroot. Dit suggereert dat de kloof een stabiele normatieve toezegging is en geen verwerkingsbeperking.

4. Generalisatie

Deze patronen hielden stand over drie medische domeinen (nier, longkanker, heupvervanging) en vier typen gezondheidsschadelijk gedrag (alcohol, drugs, roken, slecht dieet), wat aangeeft dat de divergentie een algemeen kenmerk is van huidige LLM's.

Betekenis en Claims

Het artikel claimt dat de oordeels-gevolg-kloof een fundamentele mismatch vertegenwoordigt in hoe LLM's morele beoordeling verbinden met actie. De auteurs stellen dat dit geen falen van kennis is (omdat LLM's verantwoordelijkheid correct identificeren), maar een falen van compositie: LLM's passen een ander normatief kader toe (waarschijnlijk contractualistisch of egalitair) dat procedurele rechtvaardigheid en gelijke behandeling prioriteert boven op verdienste gebaseerde redenering wanneer zij consequentiële beslissingen nemen.

Implicaties voor de Gezondheidszorg:
De auteurs wijzen op een risico van "partiële alignment". Clinici die LLM's raadplegen kunnen zien dat het model de verantwoordelijkheid van een patiënt correct identificeert (overeenkomst met menselijke intuïtie) en onterecht aannemen dat het model een corresponderende toewijzing zal aanbevelen. In plaats daarvan kan het model weigeren de patiënt minder prioriteit te geven, waarbij het dergelijke een handeling als onrechtvaardig frameert. Dit creëert een risico op vals vertrouwen in AI-advies, vooral in scenario's waarin patiënten zijn misleid door AI-agenten, waarbij het model verantwoordelijkheid kan vrijspreken op basis van de bron van de misinformatie.

Implicaties voor Alignment Research:
De bevindingen suggereren dat huidige alignment-methoden (zoals RLHF) een "zwakke alignment" kunnen produceren—een oppervlakkige correspondentie met menselijke waarden die uiteenvalt wanneer modellen morele beoordelingen moeten samenvoegen tot beslissingen. De auteurs postuleren dat de kloof een stabiele normatieve toezegging reflecteert die verdiept met redeneervermogen, wat suggereert dat interventies die zich uitsluitend richten op gedragsconsistentie of oppervlakkige waarde-voorkeuren onvoldoende zijn om de kloof tussen oordeel en actie te overbruggen.