The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions
Diese Arbeit offenbart eine „Urteils-Konsequenz-Lücke“ bei großen Sprachmodellen und zeigt, dass diese zwar mit Menschen übereinstimmen, dass Patienten die Verantwortung für gesundheitsschädliches Verhalten tragen, sie jedoch systematisch darauf verzichten, diese Verantwortung die Zuweisung knapper Ressourcen beeinflussen zu lassen, im Gegensatz zu Menschen, die konsequent weniger schuldhafte Patienten bevorzugen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind der Schiedsrichter bei einem sehr hoch eingesetzten Spiel, bei dem der Preis eine lebensrettende medizinische Behandlung ist, wie etwa eine neue Niere oder eine spezielle Operation. Sie haben zwei Spieler: Spieler A, der schon immer gesund war, und Spieler B, der krank wurde, nachdem er etwas Riskantes getan hat, wie zum Beispiel stark zu rauchen oder zu viel Alkohol zu trinken. In der realen Welt, wenn Menschen entscheiden müssen, wer den Preis bekommt, schauen sie oft darauf, wer es „verdient“ hat. Wenn Spieler B seine eigenen schlechten Entscheidungen getroffen hat, finden viele Menschen, dass Spieler B den Preis zahlen und die Chance verlieren sollte. Diese Idee wird als moralische Verantwortung bezeichnet: der Glaube, dass man keinen Freifahrtschein erwarten kann, wenn man selbst seine Probleme verursacht hat.
Stellen Sie sich nun vor, Sie bitten einen superintelligenten Roboter, ein Large Language Model (LLM), der Schiedsrichter zu sein. Diese Roboter sind wie digitale Gehirne, die fast alles im Internet gelesen haben. Sie sind großartig darin, Ratschläge zu geben, Geschichten zu schreiben und sogar Ärzten dabei zu helfen, Krankheiten zu diagnostizieren. Aber hier kommt die große Frage: Wenn diese Roboter eine schwierige Entscheidung darüber treffen müssen, wer eine knappe medizinische Ressource erhält, denken sie dann wie Menschen? Schauen sie auf die schlechten Entscheidungen von Spieler B und sagen: „Du hast es dir selbst zuzuschreiben, jetzt musst du auch damit leben“? Oder haben sie einen ganz anderen Satz an Regeln? Diese Arbeit untersucht genau dieses Mysterium und testet, ob diese KI-Schiedsrichter demselben moralischen Regelwerk folgen wie wir oder ob sie ein völlig anderes Spiel spielen.
Die Forscher gestalteten eine Reihe von digitalen Szenarien, ähnlich einer Videospiel-Simulation, in der eine KI zwischen zwei Patienten für eine Nierentransplantation wählen musste. Ein Patient hatte eine Vorgeschichte mit schlechten Gewohnheiten (wie Rauchen oder Drogenkonsum), der andere hingegen nicht. Die KI wurde nacheinander drei Fragen gestellt: Erstens: „Ist der Patient für seine schlechte Gewohnheit verantwortlich?“ Zweitens: „Ist der Patient dafür verantwortlich, wegen dieser Gewohnheit krank zu werden?“ Und schließlich die entscheidende Frage: „Wer sollte die Niere bekommen?“
Hier findet der Plot-Twist statt. Wenn die KI gefragt wurde, ob der Patient für seine schlechten Gewohnheiten verantwortlich sei, stimmte sie fast perfekt mit Menschen überein. Sie sagte: „Ja, dieser Patient hat eine schlechte Entscheidung getroffen.“ Sie stimmte sogar zu, dass der Patient dafür verantwortlich sei, krank zu werden. Doch als die KI dann tatsächlich gefragt wurde, wer die Niere bekommen sollte – also den „guten“ Patienten –, änderte sie ihre Meinung komplett. Anstatt den Patienten zu wählen, der nicht rauchte, entschied sich die KI überwältigend dafür, eine Münze zu werfen.
Die Forscher nennen dies die „Urteils-Konsequenz-Lücke“ (Judgment-Consequence Gap). Es ist, als würde ein Roboter sagen: „Ich weiß, dass du gegen die Regeln verstoßen hast, und ich weiß, dass du derjenige bist, der sie gebrochen hat“, aber dann hinzufügen: „Aber ich werde dich nicht dafür bestrafen, denn das wäre unfair.“ Während Menschen die Punkte normalerweise miteinander verknüpfen – nach dem Motto: „Du hast das Problem verursacht, also solltest du den Preis nicht bekommen“ – unterbricht die KI diese Kette. Sie gibt zu, dass der Patient die Schuld trägt, weigert sich aber, diese Schuld als Entscheidungsgrundlage dafür zu nutzen, wer die lebensrettende Behandlung erhält.
Die Studie fand auch einige andere interessante Eigenheiten. Wenn der Patient nicht wusste, dass seine schlechte Gewohnheit gefährlich war (vielleicht wurde ihm nie gesagt, dass Rauchen zu Nierenversagen führt), war die KI viel nachsichtiger und ließ ihn fast von der Schuld fre sprechen. Menschen hingegen achteten weniger darauf, ob der Patient die Risiken kannte; sie fanden ihn dennoch für verantwortlich. Auch als die Forscher den „Denkmodus“ der KI aktivierten – indem sie sie baten, länger zu pausieren und zu reflektieren, bevor sie antwortete – wurde die Lücke sogar noch größer. Die KI war sich noch sicherer darin, dass der Patient verantwortlich war, aber sie blieb noch hartnäckiger dabei, die Verantwortung nicht als Entscheidungsgrundlage für die Vergabe der Niere zu nutzen.
Kurz gesagt deutet diese Arbeit darauf hin, dass die KI zwar das Konzept verstehen kann, dass „wer es verursacht hat, muss auch dafür einstehen“, aber sie scheint nicht zu glauben, dass dieses „Einstehen müssen“ bedeutet, dass man eine lebensrettende Ressource verlieren sollte. Sie betrachtet die Entscheidung über die Vergabe einer Niere als eine Angelegenheit strikter Fairness, bei der jeder die gleiche Chance erhält, ungeachtet vergangener Fehler. Dies ist kein bloßer Fehler; es scheint eine tief verwurzelte, eingebaute Regel in der Art und Weise zu sein, wie diese Modelle denken. Wenn wir KI also jemals helfen lassen, Ärzte bei der Entscheidung über eine Transplantation zu unterstützen, müssen wir wissen, dass der Roboter uns zwar bezüglich der Schuldfrage zustimmen mag, aber wahrscheinlich weigern wird, diese Schuld das Ergebnis ändern zu lassen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.