Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Diese qualitative Studie aus den Niederlanden vergleicht die Perspektiven von 18 medizinischen Fachkräften und 12 Patienten bezüglich des Vertrauens, der Akzeptanz und der Verantwortung für KI im Gesundheitswesen und zeigt, dass während beide Gruppen Bedenken hinsichtlich der Verantwortung teilen, Ärzte eher auf Validierung und Integration fokussieren, während Patienten menschliche Zuwendung und das Vertrauensverhältnis betonen.

Das Wesentliche

🤖 Der digitale Assistent im Krankenhaus: Was denken Ärzte und Patienten wirklich?

Stell dir vor, das Krankenhaus ist wie eine riesige, gut organisierte Bibliothek. Seit kurzem hat man dort einen neuen, super-schnellen Roboter namens KI (Künstliche Intelligenz) eingestellt. Dieser Roboter kann riesige Datenberge in Sekunden durchsuchen und sagt den Ärzten: „Hey, dieser Patient kann wahrscheinlich morgen nach Hause!"

Aber bevor dieser Roboter wirklich zum Einsatz kommt, haben die Forscher von Erasmus MC in Rotterdam eine Frage gestellt: Was denken eigentlich die Menschen, die den Roboter benutzen (die Ärzte), und was denken die Menschen, die von ihm betroffen sind (die Patienten)?

Sie haben 30 Leute interviewt: 18 Ärzte (Chirurgen und Pflegekräfte) und 12 Patienten. Hier ist das Ergebnis, übersetzt in eine einfache Geschichte.

1. Das Wissen: Der Unterschied zwischen „Ich kenne das Gerät" und „Ich verstehe die Schraube"

• Die Ärzte: Viele Ärzte wissen, dass die KI da ist, aber sie kennen die Feinheiten nicht. Es ist wie bei einem neuen Auto: Sie wissen, wie man fährt, aber sie wissen nicht genau, wie der Motor im Inneren funktioniert. Manche sagen: „Das ist nur Statistik, kein Zauber." Sie machen sich Sorgen, dass sie blind dem Roboter vertrauen könnten.
• Die Patienten: Für die Patienten ist die KI oft wie ein „Magier", der aus dem Nichts kommt. Sie haben oft ein Bauchgefühl: „Ich weiß nicht genau, wie das funktioniert, aber ich hoffe, es ist sicher."
• Die Erkenntnis: Niemand will den Roboter ablehnen, aber alle wollen verstehen, wo die Grenzen liegen. Es ist wie beim Fliegen: Man vertraut dem Piloten, aber man möchte wissen, dass das Flugzeug gewartet wurde.

2. Vertrauen: Wem vertrauen wir eigentlich?

• Die Ärzte: Für Ärzte ist Vertrauen etwas, das man verdienen muss. Sie sagen: „Ich vertraue der KI erst, wenn sie sich bewährt hat." Sie wollen, dass der Roboter ständig überwacht wird, wie ein neuer Mitarbeiter, der noch auf Probe ist.
• Die Patienten: Für Patienten ist das anders. Sie vertrauen nicht dem Roboter, sondern dem Menschen, der den Roboter bedient. Es ist wie bei einem Koch: Wenn der Koch (der Arzt) sagt, das Essen ist gut, dann essen sie es. Sie vertrauen dem Arzt, dass er den Roboter nicht blind folgt.
• Der Konflikt: Die Ärzte denken manchmal, Patienten wollen gar nicht wissen, wie die KI funktioniert. Aber die Patienten sagen: „Doch! Wir wollen wissen, ob der Roboter mitentscheidet."

3. Die Verantwortung: Wer ist schuld, wenn etwas schiefgeht?

• Die Ärzte: Sie sind sich einig: „Am Ende trage ich die Verantwortung." Der Roboter ist nur ein Werkzeug, wie ein Skalpell. Wenn das Skalpell rutscht, ist es nicht das Messer schuld, sondern der Chirurg. Aber sie machen sich Sorgen: Was, wenn der Roboter einen Fehler macht, den niemand sieht?
• Die Patienten: Die Patienten sind sich unsicher. Sie denken: „Wenn der Arzt auf den Computer hört und ich dann krank werde, wer ist dann schuld?" Manche fürchten, dass der Roboter den Arzt so sehr beeinflusst, dass der Arzt nicht mehr auf das hört, was der Patient sagt.

4. Die Beziehung: Verliert der Arzt das „Herz"?

Das ist vielleicht der wichtigste Punkt.

• Die Sorge: Patienten haben Angst, dass die KI sie zu einer bloßen Nummer macht. Stell dir vor, du hast Schmerzen, aber der Computer sagt: „Alles okay, du bist gesund." Der Patient fühlt sich dann nicht gehört.
• Die Hoffnung: Patienten wollen, dass der Arzt sie ansieht, sie berührt und merkt, wie sie sich fühlen. Ein Roboter kann nicht spüren, ob jemand müde oder ängstlich ist.
• Die Ärzte: Viele Ärzte sagen: „Die KI kann uns helfen, mehr Zeit für die Patienten zu haben, weil sie die Papierkram erledigt." Aber sie warnen: „Wir dürfen nicht aufhören, selbst zu denken."

5. Der Alltag: Wird es Arbeit erleichtern oder erschweren?

• Die Hoffnung: Alle hoffen, dass die KI hilft, weil es im Krankenhaus oft an Personal fehlt. Wenn der Roboter die Daten sortiert, hat der Arzt Zeit, dem Patienten zuzuhören.
• Die Angst: Viele Ärzte haben Angst, dass die KI ihnen noch mehr Arbeit macht. Stell dir vor, du bekommst einen neuen Computer, der dir hilft, aber du musst erst 100 Checkboxen abhaken, bevor er funktioniert. Das nervt!
• Die Lösung: Die KI muss sich nahtlos in die Arbeit einfügen, wie ein guter Assistent, der die Akten schon vorbereitet hat, ohne dass man extra umständlich suchen muss.

🏁 Das Fazit in einem Satz

Die Studie zeigt uns, dass wir die KI im Krankenhaus nicht wie ein neues Werkzeug einfach nur „einschalten" können.

• Die Ärzte brauchen Sicherheit und Beweise, dass der Roboter funktioniert.
• Die Patienten brauchen das Gefühl, dass der Arzt noch der Chef ist und dass sie selbst gehört werden.

Wenn wir die KI einführen, müssen wir sicherstellen, dass sie wie ein guter Navigator im Auto ist: Sie zeigt die beste Route an, aber der Fahrer (der Arzt) und die Insassen (die Patienten) müssen immer noch das Sagen haben und sich sicher fühlen. Nur so wird die Technologie wirklich helfen, statt zu stören.

Technische Zusammenfassung

Technische Zusammenfassung: Vertrauen, Akzeptanz und Verantwortung gegenüber KI im Gesundheitswesen

Titel: Vertrauen in, Akzeptanz von und Verantwortung für künstliche Intelligenz im Gesundheitswesen – Patient- und Arzt-Perspektiven.
Autoren: Emma-Jane Spencer et al. (Erasmus MC & TU Delft).
Veröffentlichung: medRxiv Preprint (März 2026).

---

1. Problemstellung und Hintergrund

Trotz massiver Investitionen in die Forschung und Entwicklung von künstlicher Intelligenz (KI) im Gesundheitswesen besteht eine signifikante Implementierungslücke. Studien deuten darauf hin, dass nur ein sehr kleiner Prozentsatz (z. B. 2 %) der KI-Modelle tatsächlich den Weg an das Krankenbett findet.

• Das Kernproblem: Die Diskrepanz zwischen technologischem Fortschritt und klinischer Anwendung wird oft durch mangelndes Vertrauen, unklare Verantwortlichkeiten und ethische Bedenken verursacht.
• Forschungslücke: Bisherige Studien konzentrieren sich stark auf die technische Validierung oder die Sichtweise der Ärzte. Die Perspektive der Patienten ist in empirischen Studien unterrepräsentiert. Es fehlt an vergleichenden qualitativen Analysen, die die Wahrnehmungen beider Stakeholder-Gruppen (Kliniker vs. Patienten) gegenüber KI-Systemen direkt gegenüberstellen, insbesondere im Hinblick auf Vertrauen, Akzeptanz und Verantwortung.

2. Methodik

Die Studie verfolgte ein exploratives qualitatives Forschungsdesign mit folgenden Merkmalen:

• Studiendesign: Semi-strukturierte Interviews.
• Setting: Abteilung für chirurgische Onkologie und Gastroenterologie des Erasmus MC (Rotterdam, Niederlande).
• Teilnehmer (N=30):
  • 18 Gesundheitsfachkräfte (HCPs): 10 Chirurgen und 8 Pflegekräfte (gezieltes Sampling).
  • 12 Patienten: Personen, die innerhalb der letzten 12 Monate eine gastrointestinale Operation durchlaufen hatten.
• Datenerhebung: Interviews dauerten 30–45 Minuten. HCPs wurden im Krankenhaus interviewt, Patienten überwiegend online (Microsoft Teams).
• Datenanalyse:
  • Verbatim-Transkription.
  • Analyse mittels ATLAS.ti.
  • Kombination aus deduktivem (basierend auf bestehenden Theorien) und induktivem (datengetriebenem) Coding.
  • Thematische Analyse zur Identifizierung von Kategorien und Subkategorien.
  • Iterativer Prozess mit mehreren Kodierern zur Sicherung der Zuverlässigkeit (Inter-Rater-Reliability).

3. Wichtige Beiträge und Ergebnisse

Die Analyse ergab drei Hauptthemengebiete mit insgesamt 10 Unterkategorien. Die Studie hebt die Unterschiede und Gemeinsamkeiten zwischen Ärzten/Pflegepersonal und Patienten hervor.

A. KI-Wissen (AI Knowledge)

• Bewusstsein: Beide Gruppen sind sich der Präsenz von KI bewusst, aber das Verständnis variiert stark.
• Unterschiede: Ärzte nutzen oft technische Begriffe (Validierung, Fehlerquoten), während Patienten ihr Wissen oft aus Medien beziehen („Oberflächenwissen").
• Schlüsselerkenntnis: Mangelndes technisches Wissen führt nicht automatisch zur Ablehnung. Beide Gruppen sehen fundiertes Verständnis als Voraussetzung für Vertrauen und sichere Nutzung. Ärzte fordern ein Mindestmaß an Wissen über Datenherkunft und Validierung, um blindes Vertrauen zu vermeiden.

B. Ethische Dimensionen

• Autonomie:
  • Ärzte: Betonen den Erhalt des professionellen Urteilsvermögens („Human-in-the-loop") und warnen vor Automatisierungsbias. Sie nutzen ihr „Bauchgefühl" (klinische Intuition) als entscheidenden Faktor.
  • Patienten: Fühlen sich in ihrer Autonomie bedroht, wenn KI-Empfehlungen die Stimme des Patienten übertönen. Sie wünschen sich Information und Einbeziehung, nicht nur paternalistische Entscheidungen.
• Verantwortung und Rechenschaftspflicht:
  • Ärzte: Sehen die ultimative Verantwortung klar beim behandelnden Arzt, erkennen aber die Komplexität der Verantwortung (Entwickler, Institution). Es besteht eine Spannung zwischen der Übernahme von Verantwortung für Systeme, denen sie nicht zu 100 % vertrauen, und der Hierarchie im Krankenhaus.
  • Patienten: Legen die Verantwortung primär beim Arzt, erkennen aber zunehmend die verteilte Natur der Verantwortung (System, Institution).
• Erklärbarkeit (Explainability):
  • Ärzte: Wollen wissen, wie Modelle trainiert wurden und welche Variablen einfließen, um die Aussagekraft zu beurteilen. Vollständige Transparenz des „Black Box"-Algorithmus wird oft als weniger wichtig erachtet als die praktische Interpretierbarkeit der Ausgabe.
  • Patienten: Viele Ärzte gehen fälschlicherweise davon aus, dass Patienten keine Details wollen. Tatsächlich wünschen sich viele Patienten Transparenz darüber, wie KI ihre Behandlung beeinflusst, um sich nicht „abgefertigt" zu fühlen.
• Bias und Fairness:
  • Ärzte sind sich der Problematik von Trainingsdaten (z. B. Unterrepräsentation von Minderheiten) bewusst und hinterfragen die Generalisierbarkeit.
  • Patienten thematisieren Bias seltener, aber wenn, dann im Kontext sozialer Gerechtigkeit und persönlicher Betroffenheit.

C. Operative und klinische Implikationen

• Klinischer Nutzen: Beide Gruppen sehen Potenzial in der Effizienzsteigerung und der Unterstützung bei Entscheidungen (z. B. Entlassungsmanagement). KI wird als Werkzeug zur Datenverarbeitung und zur Bestätigung klinischer Entscheidungen gesehen, nicht als Ersatz.
• Workflow-Integration: Der Erfolg hängt entscheidend von der nahtlosen Integration in die elektronische Patientenakte (EPA) ab. Zusätzliche Klicks oder separate Systeme werden als Belastung abgelehnt.
• Technische Bedenken:
  • Datenqualität und -vollständigkeit sind kritische Faktoren.
  • Modelle müssen kontinuierlich überwacht werden (Drift-Erkennung).
  • Die Erfassung komplexer klinischer Nuancen (z. B. Schmerzempfinden, Mobilisierung) durch strukturierte Daten ist schwierig.

4. Signifikanz und Schlussfolgerungen

Die Studie liefert wichtige Erkenntnisse für die Implementierung von KI im Gesundheitswesen:

1. Divergente Perspektiven: Es gibt keine „One-Size-Fits-All"-Lösung. Was Ärzte als „Unterstützung" sehen, kann Patienten als „Entmündigung" oder „Nicht-gehört-Fühlen" erscheinen.
2. Vertrauensbildung:
   • Für Ärzte basiert Vertrauen auf Validierung, Transparenz und Überwachung.
   • Für Patienten basiert Vertrauen auf der Arzt-Patienten-Beziehung. KI wird akzeptiert, solange der Arzt die Kontrolle behält und die Technologie verantwortungsvoll einsetzt.
3. Epistemische Gerechtigkeit: Es besteht die Gefahr, dass KI-Empfehlungen die Stimme des Patienten unterdrücken („Epistemic Injustice"). Es muss sichergestellt werden, dass Patienten nicht durch KI-gestützte Autorität zum Schweigen gebracht werden.
4. Empfehlungen für die Praxis:
   • Strukturierte Schulung: Notwendigkeit von KI-Literacy-Programmen für medizinisches Personal und Patienten.
   • Transparente Kommunikation: Ärzte müssen Patienten aktiv über den Einsatz von KI informieren und erklären, ohne sie zu überfordern.
   • Workflow-Design: KI-Tools müssen so integriert sein, dass sie den Arbeitsfluss erleichtern und nicht behindern.
   • Ethik und Governance: Die Implementierung erfordert mehr als nur technische Validierung; sie braucht ethische Rahmenbedingungen, die die menschliche Autonomie und die Beziehungsebene schützen.

Fazit: Die verantwortungsvolle Einführung von KI im Gesundheitswesen erfordert eine Balance zwischen technischer Exzellenz und der Wahrung der menschlichen Werte. Die Einbeziehung beider Stakeholder-Gruppen ist essenziell, um ethisch fundierte und klinisch akzeptierte Systeme zu entwickeln.