The Value Sensitivity Gap: How Clinical Large Language Models Respond to Patient Preference Statements in Shared Decision-Making

Die Studie zeigt, dass klinische Large Language Models zwar Patientenvorlieben in Shared Decision-Making-Szenarien stets anerkennen, ihre Empfehlungen jedoch nur begrenzt an diese Werte anpassen, wobei gezielte Mitigationsstrategien die Übereinstimmung signifikant verbessern können.

Das Wesentliche

Stellen Sie sich vor, Sie gehen zum Arzt, um eine schwierige Entscheidung zu treffen. Vielleicht geht es darum, ob Sie eine aggressive Chemotherapie mit vielen Nebenwirkungen in Kauf nehmen wollen, um das Leben zu verlängern, oder ob Sie lieber eine sanftere Behandlung wählen, um Ihre Lebensqualität zu erhalten.

In einer idealen Welt würde der Arzt Ihre persönlichen Werte hören und die Empfehlung genau darauf abstimmen. Das nennt man „gemeinsame Entscheidungsfindung".

Nun stellen Sie sich vor, der Arzt nutzt einen sehr fortschrittlichen Computer-Assistenten (eine Künstliche Intelligenz, kurz KI), der ihm hilft, die beste Behandlung zu finden. Die große Frage, die diese Studie beantwortet, lautet: Hört dieser Computer-Assistent wirklich auf das, was der Patient sagt, oder hat er eigene, versteckte Vorlieben, die er einfach durchsetzt?

Hier ist die einfache Erklärung der Studie, mit ein paar bildhaften Vergleichen:

1. Das Problem: Der „versteckte Geschmack" der KI

Die Forscher haben vier verschiedene KI-Modelle getestet (wie GPT-5.2, Claude, Gemini und DeepSeek). Sie stellten fest, dass jede KI wie ein Koch mit einem eigenen, versteckten „Grundgeschmack" ist.

• Der „Abenteuer-Koch" (z. B. GPT-5.2): Dieser Koch empfiehlt fast immer die riskanteste, aggressivste Behandlung. Er denkt: „Lass uns alles versuchen, auch wenn es wehtut!"
• Der „Vorsichtige Koch" (z. B. Claude oder Gemini): Diese Köche sind sehr zurückhaltend. Sie sagen eher: „Lass uns nichts riskieren, wir bleiben auf der sicheren Seite."

Das Tückische: Bevor der Patient überhaupt etwas sagt, hat der Koch schon eine Meinung. Wenn der Patient sagt: „Ich will lieber ruhig leben als lange leben", sollte der Koch seine Meinung ändern. Aber tut er das?

2. Der Experiment: Der Patient gibt seine Wünsche vor

Die Forscher haben den KIs 13 verschiedene Szenarien vorgelegt. In manchen sagten die Patienten: „Ich will alles auf den letzten Drücker versuchen!" (Risikofreudig). In anderen: „Ich will nur das Beste für mein Wohlbefinden, keine schweren Nebenwirkungen" (Qualität vor Quantität).

Das Ergebnis war eine Mischung aus Hoffnung und Enttäuschung:

• Die KIs hörten zu (fast immer): Wenn ein Patient sagte „Ich will das", schrieben die KIs in ihren Texten: „Ja, wir haben Ihre Wünsche gehört." Das war zu 100 % der Fall.
• Aber sie handelten nur halbherzig: Hier kommt der Haken. Obwohl die KIs sagten „Wir haben gehört", änderten sie ihre eigentliche Empfehlung nur sehr wenig.
  • Die Analogie: Stellen Sie sich vor, Sie bestellen ein Steak „medium rare" (halb durch). Der Kellner kommt zurück und sagt: „Haben Sie gehört! Sie wollen medium rare!" Aber er bringt Ihnen trotzdem ein Steak, das fast durch ist. Er hat Ihre Worte gehört, aber das Ergebnis war fast das Gleiche wie vorher.
  • Die KIs passten ihre Empfehlung nur um etwa 3 % bis 7 % an. Das ist wie wenn Sie einen Lautsprecher um eine winzige Schraube drehen – man merkt es kaum.

3. Die Unterschiede zwischen den KIs

Nicht alle KIs waren gleich gut darin, auf Patienten zu hören:

• DeepSeek-R1 war der „aufmerksame Zuhörer". Er passte seine Empfehlung am stärksten an die Wünsche des Patienten an.
• Gemini 3 Pro war der „sture Zuhörer". Er hörte zwar zu, änderte aber seine Meinung am wenigsten.
• GPT-5.2 war der „aggressive Zuhörer". Er wollte immer die härteste Behandlung, egal was der Patient sagte, und ignorierte die Patientenwünsche am stärksten.

4. Der Versuch, es zu reparieren: Die „Gedanken-Notiz"

Die Forscher dachten sich Tricks aus, um die KIs zu zwingen, besser zuzuhören. Sie gaben ihnen Befehle wie:

• „Erstelle eine Tabelle, in der du die Vor- und Nachteile für den Patienten abwägst."
• „Erkläre zuerst, was du tun würdest, wenn der Patient das Gegenteil wollte."

Das Ergebnis: Diese Tricks halfen ein wenig. Die KIs passten ihre Empfehlungen etwas besser an. Aber es war immer noch nicht perfekt. Es war, als würde man einem sturen Koch sagen: „Bitte schreibe eine Liste auf, warum du das Steak anders braten sollst." Er schreibt die Liste, aber das Steak wird trotzdem nicht perfekt.

5. Warum ist das wichtig?

Die Studie zeigt ein echtes Problem in der Medizin der Zukunft:
Wenn wir KI-Systeme in Krankenhäusern einsetzen, könnten diese Systeme Patienten, die eigentlich eine sanfte Behandlung wollen, versehentlich in eine aggressive Behandlung drängen – nur weil die KI „standardmäßig" so programmiert ist.

Besonders betroffen sind Menschen, die ohnehin schon benachteiligt sind (wie Patienten mit Medicaid-Versicherung in den USA). Wenn die KI sagt „Wir müssen aggressiv behandeln", und der Arzt traut der KI blind, wird der Patient vielleicht eine Behandlung bekommen, die er gar nicht wollte.

Fazit in einem Satz

Die KI-Systeme sind wie Köche, die behaupten, sie würden genau nach Rezept kochen, aber in Wirklichkeit haben sie alle ihre eigenen, versteckten Vorlieben, die sie nur sehr zögerlich ändern, selbst wenn der Gast (der Patient) ganz klar sagt, was er essen möchte. Wir müssen diese „versteckten Vorlieben" kennen und offenlegen, bevor wir ihnen unser Leben anvertrauen.

Technische Zusammenfassung

1. Problemstellung und Hintergrund

Das Paper adressiert eine kritische Lücke in der klinischen KI-Governance: Die Undurchsichtigkeit der in medizinischen Large Language Models (LLMs) eingebetteten Wertvorstellungen.

• Kontext: Shared Decision-Making (gemeinsame Entscheidungsfindung) erfordert die Integration klinischer Evidenz mit den Werten und Präferenzen des Patienten. LLMs werden zunehmend als Entscheidungsunterstützungstools eingesetzt, doch ihre impliziten Wertrahmen sind für Ärzte und Patienten intransparent.
• Die Lücke: Während die „Responsible AI for Social and Ethical Healthcare" (RAISE) Symposium „Values In the Model" (VIM)-Labels vorgeschlagen hat, um diese Werte offenzulegen, fehlen empirische Daten, um diese Labels zu füllen.
• Forschungsfrage: Wie reagieren klinische LLMs auf explizite Aussagen zu Patientenpräferenzen? Ändern sie ihre Empfehlungen entsprechend, oder ignorieren sie diese trotz scheinbarer Anerkennung? Bisherige Studien konzentrierten sich auf demografische Verzerrungen (Rasse, Geschlecht), nicht jedoch auf die Sensitivität gegenüber explizit geäußerten Patientenwerten.

2. Methodik

Die Autoren führten ein vollständig gekreuztes faktorielles Experiment durch, um die Wertempfindlichkeit von LLMs zu quantifizieren.

• Datengrundlage: Klinische Fallvignetten wurden aus 98.759 anonymisierten Encounter-Notizen von Medicaid-Patienten (in den USA) abgeleitet. Ein automatisierter Pipeline-Prozess filterte notizen mit hoher „Präferenzsensitivität" heraus. Für das Experiment wurden zwei Vignetten ausgewählt (Onkologie und Kardiologie).
• Modelle: Vier verschiedene LLM-Familien wurden getestet:
  • GPT-5.2 (OpenAI)
  • Claude 4.5 Sonnet (Anthropic)
  • Gemini 3 Pro (Google)
  • DeepSeek-R1 (lokal via Ollama)
• Experimentelles Design:
  • Bedingungen: 13 experimentelle Bedingungen: 1 Kontrollbedingung (keine Präferenz) + 6 Wertedimensionen mit jeweils zwei Polen (insgesamt 12 Bedingungen). Die Dimensionen umfassten: Autonomie, Lebensqualität vs. Langlebigkeit, Risikotoleranz, Behandlungslast, Kostenempfindlichkeit und Präferenz für natürliche vs. konventionelle Ansätze.
  • Phasen:
    • Phase 1: Alle 4 Modelle × 2 Vignetten × 13 Bedingungen = 104 Durchläufe.
    • Phase 2: Test von 6 Prompt-Mitigationsstrategien auf GPT-5.2 (1 Vignette × 13 Bedingungen = 78 Durchläufe).
• Metriken:
  • DVO (Default Value Orientation): Der durchschnittliche „Aggressivitäts-Score" (1–5) unter der Kontrollbedingung (implizite Grundhaltung des Modells).
  • VSI (Value Sensitivity Index): Die absolute Verschiebung des Aggressivitäts-Scores von der Kontrolle, normalisiert auf den maximal möglichen Shift.
  • DCR (Directional Concordance Rate): Der Anteil der Fälle, in denen sich die Empfehlung in die vom Patienten gewünschte Richtung verschob.
  • VAR (Value Acknowledgment Rate): Der Anteil der Fälle, in denen das Modell angab, die Patientenwerte anerkannt zu haben.
• Mitigationsstrategien (Phase 2): Es wurden sechs Prompt-Techniken getestet, darunter „Value Elicitation Prompting", „Value-Weighted Decision Matrix", „Contrastive Explanation" und „VIM Self-Report".

3. Wichtige Ergebnisse

• Heterogene Wertorientierung (DVO): Die Modelle hatten unterschiedliche Grundhaltungen.
  • GPT-5.2 zeigte die aggressivste Basisempfehlung (DVO-Score 3,5/5), insbesondere in der Kardiologie (4,0).
  • Claude 4.5 Sonnet und Gemini 3 Pro waren konservativer (DVO-Score 2,0).
  • DeepSeek-R1 lag dazwischen (3,0), zeigte aber die höchste Sensitivität.
• Reaktion auf Patientenpräferenzen: Alle Modelle passten ihre Empfehlungen an, aber das Ausmaß variierte stark.
  • VSI (Sensitivität): DeepSeek-R1 zeigte die höchste Sensitivität (0,274), gefolgt von Claude (0,177), GPT-5.2 (0,156) und Gemini (0,130).
  • DCR (Richtige Richtung): DeepSeek-R1 erreichte eine perfekte Übereinstimmung (1,0), während Gemini nur 0,625 erreichte.
• Das „Anerkennungs-Paradoxon": Alle Modelle gaben in 100 % der Fälle an, die Patientenwerte anerkannt zu haben (VAR = 1,0). Dennoch waren die tatsächlichen Verschiebungen in den Empfehlungen modest (nur 3–7 % des maximal möglichen Shifts). Es besteht eine Diskrepanz zwischen dem textuellen Bekenntnis zu den Werten und der quantitativen Anpassung der Empfehlung.
• Domain-Spezifität: Die Grundorientierung war nicht einheitlich. GPT-5.2 war in der Kardiologie deutlich aggressiver als in der Onkologie, was darauf hindeutet, dass VIM-Labels domainspezifisch sein müssen.
• Wirksamkeit von Mitigationsstrategien:
  • Strategien, die eine explizite Strukturierung der Abwägung erforderten (Decision Matrix und VIM Self-Report), verbesserten die DCR um 0,125 und den VSI leicht.
  • Andere Strategien (wie reines „Value Elicitation") führten sogar zu einer geringeren Sensitivität.
  • Die statistische Signifikanz der Verbesserungen war aufgrund der kleinen Stichprobe (nur 1 Vignette in Phase 2) begrenzt, aber die deskriptiven Trends waren klar.

4. Schlüsselbeiträge

1. Empirische Messung der Wertempfindlichkeit: Das Paper liefert die ersten quantitativen Daten darüber, wie klinische LLMs auf explizite Patientenpräferenzen reagieren, und definiert Metriken (VSI, DCR, DVO) für zukünftige Benchmarks.
2. Nachweis der Wert-Heterogenität: Es wird gezeigt, dass verschiedene Modellfamilien (und sogar derselbe Modelltyp in verschiedenen Domänen) unterschiedliche implizite Wertvorstellungen haben, die ihre Empfehlungen vor Eingabe von Patientendaten prägen.
3. Identifikation der „Value Sensitivity Gap": Die Studie belegt, dass LLMs zwar Patientenwerte im Text „erkennen", diese aber oft nicht substantiell in die quantitative Empfehlung einfließen lassen. Dies stellt ein Risiko für die tatsächliche Shared Decision-Making dar.
4. Validierung des VIM-Rahmens: Die Ergebnisse liefern den empirischen Inhalt für die von RAISE vorgeschlagenen VIM-Labels, die nun nicht nur theoretisch, sondern datenbasiert gefüllt werden können.

5. Bedeutung und Implikationen

• Governance und Regulierung: Die Ergebnisse unterstreichen die Dringlichkeit von VIM-Labels. Kliniker und Patienten müssen wissen, ob ein KI-Tool tendenziell zu aggressiven oder konservativen Behandlungen neigt, bevor sie es nutzen.
• Equity (Gerechtigkeit): Da Medicaid-Patienten oft eine Vorliebe für konservatives Management haben könnten, aber von aggressiv orientierten KI-Modellen (wie GPT-5.2 in der Kardiologie) bedient werden, besteht die Gefahr von Fehlallokationen (unnötige Überweisungen, Eskalation von Medikamenten).
• Technische Entwicklung: Prompt-Engineering allein (Mitigationsstrategien) reicht nicht aus, um die Wertlücke vollständig zu schließen. Es sind strukturelle Änderungen notwendig, wie z. B. eine Wert-Kalibrierung während des Trainings oder Anpassungen der Reward-Modelle.
• Zukunftsausblick: Das Paper skizziert einen Weg für skalierbare Studien mit mehr Vignetten, stochastischen Temperaturen und klinischer Begutachtung, um die aktuellen Pilotergebnisse zu validieren.

Zusammenfassend demonstriert das Paper, dass klinische LLMs zwar wertempfindlich sind, diese Sensitivität jedoch ungleichmäßig, domainspezifisch und oft oberflächlich bleibt. Dies erfordert neue Governance-Mechanismen und technische Ansätze, um die Lücke zwischen Patientenwünschen und KI-Empfehlungen zu schließen.