Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Stellen Sie sich das Gesundheitssystem wie eine riesige, geschäftige Bibliothek vor, in der die Ärzte die Cheflibrarianer sind. Jahrelang waren sie die Einzigen, die Bücher heraussuchen, Regale ordnen und Geschichten empfehlen durften, die Ihnen helfen, sich besser zu fühlen. Doch in letzter Zeit ist ein neuer Typ von Helfer eingetroffen: ein superschneller, supersmartem Roboter-Bibliothekar, der durch Künstliche Intelligenz (KI) angetrieben wird. Dieser Roboter kann Millionen von Büchern in einer Sekunde scannen, Muster erkennen, die Menschen entgehen könnten, und sogar die perfekte Geschichte für Ihre spezifische Stimmung vorschlagen. Klingt fantastisch, oder? Aber hier ist der Haken: Nur weil der Roboter schnell ist, bedeutet das nicht, dass jeder ihm vertraut. Einige Menschen sorgen sich, dass der Roboter die Geschichte falsch erzählt, ihre Geheimnisse stiehlt oder den menschlichen Bibliothekar vollständig ersetzt.

Diese Studie taucht in die Köpfe normaler Menschen ein, um eine große Frage zu beantworten: Vertrauen wir diesem neuen Roboter-Bibliothekar oder haben wir Angst, dass er unsere Gesundheit vermasselt? Um die Antworten zu verstehen, müssen wir ein paar Dinge wissen. Erstens gibt es die „KI-Literalität“, was nur eine schicke Art zu sagen ist: „Wissen Sie, wie dieses Robotergehirn funktioniert?“ Dann gibt es die „Vertrautheit“, was einfach bedeutet, wie oft Sie diese Roboter in Ihrem täglichen Leben gesehen oder benutzt haben. Schließlich gibt es die Idee der „menschlichen Aufsicht“, was der Glaube daran ist, dass der menschliche Bibliothekar immer noch das Sagen hat und die Arbeit des Roboters überwacht, um sicherzustellen, dass er das Richtige tut. Die Forscher wollten sehen, ob das Wissen über den Roboter, die eigene Nutzung oder das Vertrauen in den menschlichen Bibliothekar verändert, wie hilfreich, riskant oder fair wir den Roboter finden.

Die Forscher, ein Team von der Universität Amsterdam, beschlossen, eine riesige Momentaufnahme der niederländischen Öffentlichkeit zu machen, um zu sehen, was sie wirklich denken. Sie baten fast 4.000 Menschen – etwa die Hälfte Männer und die Hälfte Frauen, mit einem Durchschnittsalter von 52 Jahren – eine Umfrage auszufüllen. Sie fragten nicht einfach nur: „Gefällt Ihnen KI?“ Sie unterteilten es in drei spezifische Gefühle: Ist die automatisierte Entscheidungsfindung (ADM) im Gesundheitswesen hilfreich? Ist sie riskant? Und ist sie fair?

Um die Antworten zu finden, verwendeten sie ein spezielles mathematisches Werkzeug namens Strukturgleichungsmodellierung. Denken Sie an dies wie eine riesige, komplexe Karte, die verschiedene Punkte miteinander verbindet. Die Forscher zeichneten Linien zwischen Dingen wie „Wie viel weiß ich über KI?“ und „Halte ich es für riskant?“ um zu sehen, welche Punkte die stärksten Fäden ziehen. Sie untersuchten auch, ob Menschen, die Chatbots für Gesundheitsfragen nutzten, anders empfanden als diejenigen, die nur Google nutzten. Sie prüften auch, ob Menschen, die darauf vertrauten, dass ihre Ärzte den Unterschied zwischen einer von einem Menschen geschriebenen Notiz und einer von einer KI geschriebenen Notiz erkennen können, sich sicherer im gesamten System fühlten.

Und was hat die Karte enthüllt? Die Ergebnisse sind ein wenig wie eine Achterbahnfahrt mit einigen überraschenden Wendungen.

Erstens: Je mehr Menschen über verschiedene Arten von KI (wie Chatbots, Deepfakes oder generative KI) wussten, desto mehr dachten sie, dass sie hilfreich sein könnte. Es ist, als würde das Wissen darüber, wie ein Zaubertrick funktioniert, dazu führen, dass man das Geschick des Magiers mehr schätzt. Aber hier ist die Wendung: Dieselbe Vertrautheit führte auch dazu, dass sie es für riskanter hielten. Es scheint, dass man, wenn man ein wenig mehr über den Roboter weiß, erkennt, dass er nicht nur ein perfektes Werkzeug ist, sondern ein mächtiges Werkzeug, das auch schiefgehen kann. Das Wissen machte die Leute also nicht nur begeisterter, sondern machte sie auch sicherer über die Gefahren.

Zweitens fand die Studie etwas wirklich Interessantes über den menschlichen Bibliothekar. Der wichtigste Einzelfaktor, der die Menschen dazu brachte, KI als fair und hilfreich einzustufen, war ihr Vertrauen in die Fähigkeit des Arztes, den Unterschied zwischen KI- und menschlichen Inhalten zu erkennen. Wenn eine Person glaubte: „Mein Arzt kann erkennen, ob ein Computer das geschrieben hat“, war sie viel eher geneigt, das gesamte System als fair zu betrachten. Es stellt sich heraus, dass wir weniger dem Roboter selbst vertrauen, sondern vielmehr dem Menschen, der die Leine des Roboters hält. Wenn wir glauben, dass der Mensch die Kontrolle hat und Fehler erkennen kann, fühlen wir uns sicher.

Drittens empfanden die Menschen, die tatsächlich konversationelle Agenten (wie Chatbots oder virtuelle Assistenten) nutzten, um Gesundheitsinformationen zu erhalten, anders als der Rest. Diese Nutzer fanden das System weniger riskant und fairer. Es ist wie das Fahrradfahren: Das erste Mal, wenn man aufsteigt, fühlt es sich wackelig und beängstigend an. Aber wenn man es ein paar Mal gefahren ist, fühlt es sich normal und sicher an. Die Nutzung dieser Werkzeuge schien den beängstigenden Roboter wie einen freundlichen Helfer erscheinen zu lassen. Die Studie merkte jedoch an, dass die meisten Befragten diese Chatbots noch nicht sehr oft nutzen, sodass dieser „Fahrradfahren-Effekt“ noch nicht bei allen eingetreten war.

Interessanterweise untersuchte die Studie auch, ob Menschen, die traditionelle Gesundheitswebsites (wie offizielle Krankenhausseiten) nutzten, sich anders fühlten. Es stellte sich heraus, dass das Vertrauen auf diese altmodischen digitalen Quellen die Menschen dazu brachte, KI als riskanter einzustufen, aber es änderte ihre Meinung darüber nicht wirklich, ob sie hilfreich oder fair sei. Es ist, als ob das Festhalten an den „alten Wegen“ den neuen Roboter noch verdächtiger erscheinen ließ.

Eine Sache, die die Studie nicht fand, war ein starker Zusammenhang zwischen „KI-Literalität“ (wie gut man die Technik versteht) und dem Gefühl, dass KI riskant sei. Man könnte denken, wenn man weiß, wie ein Automotor funktioniert, hätte man weniger Angst vor ihm. Aber bei der KI führte das Wissen darüber, wie sie funktioniert, nicht zwangsläufig dazu, dass die Menschen sich sicherer bezüglich der Risiken fühlten. Die Forscher vermuten, dass dies daran liegen könnte, dass das Verständnis der Technik manche Menschen die Gefahren klarer sehen lässt, während andere übermäßig selbstbewusst werden, was sich gegenseitig aufhebt.

Die Forscher waren vorsichtig und sagten, dass diese Studie eine Momentaufnahme der Zeit ist, kein Film der Zukunft. Sie können nicht mit Sicherheit sagen, dass die Nutzung von Chatbots die Angst der Menschen verursacht; sie wissen nur, dass diese beiden Dinge zusammen auftreten. Sie merkten auch an, dass ihre Umfrage einfache Fragen verwendete, daher gab es möglicherweise mehr Nuancen in diesen Gefühlen, die sie nicht erfasst haben.

Am Ende ist die Geschichte, die diese Arbeit erzählt, eine Geschichte des Vertrauens. Sie legt nahe, dass für die KI, um wirklich ein hilfreicher Teil der Gesundheitsversorgung zu werden, wir nicht nur bessere Roboter brauchen. Wir müssen sicherstellen, dass die Menschen den menschlichen Ärzten vertrauen, die sie benutzen. Wenn die Menschen glauben, dass ihre Ärzte ein Auge auf die KI werfen und Fehler erkennen können, ist die Öffentlichkeit viel eher bereit, die Technologie als fair und hilfreich anzusehen. Aber wenn wir den Menschen im Prozess vergessen, könnte der Roboter für uns alle nur wie eine beängstigende, riskante Maschine wirken.