When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
Diese Studie unter 420 US-amerikanischen Ärzten zeigt, dass die vorangegangene Erfahrung mit KI, und nicht der spezifische klinische Kontext oder die Menge der bereitgestellten Informationen, der primäre Faktor ist, der das Vertrauen und die Zuversicht von Ärzten in KI-gestützte klinische Entscheidungsunterstützungssysteme positiv beeinflusst.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Medizin beginnen Ärzte damit, eine neue Art von Assistenten einzusetzen: künstliche Intelligenz. Diese Computerprogramme, die oft als klinische Entscheidungsunterstützungssysteme bezeichnet werden, können Patientenakten scannen und nächste Schritte vorschlagen, wie etwa, ob ein Medikament verschrieben oder ein Patient an einen Spezialisten überwiesen werden sollte. Das Versprechen ist, dass diese Werkzeuge Ärzten helfen werden, bessere und schnellere Entscheidungen zu treffen. Ein Werkzeug ist jedoch nur dann nützlich, wenn die Person, die es verwendet, ihm genug vertraut, um ihm zuzuhören. Wenn ein Arzt den Rat des Computers ignoriert, weil er ihn nicht versteht oder nicht glaubt, dass er richtig ist, versagt die Technologie. Die große Frage für Krankenhäuser und Forscher ist nicht nur, ob die Software auf einem Computer funktioniert, sondern was ein menschlicher Arzt dazu bringt, sich sicher genug zu fühlen, sie in der realen Welt zu verwenden. Ist es die Art des medizinischen Problems? Ist es die Menge der Informationen, die der Arzt darüber erhält, wie der Computer denkt? Oder ist es schlichtweg die Frage, ob der Arzt diese Art von Technologie schon einmal zuvor verwendet hat?
Ein Forschungsteam der Stanford University setzte sich zum Ziel, diese Fragen zu beantworten, indem es vierhundertzwanzig Familien- und Internisten in den Vereinigten Staaten bat, sich selbst in spezifischen medizinischen Situationen vorzustellen. Sie baten die Ärzte nicht, ein echtes Computerprogramm an echten Patienten anzuwenden. Stattdessen verwendeten sie eine sorgfältig konzipierte Umagemethode, bei der die Ärzte kurze Geschichten oder Vignetten über eine dreiunddreißigjährige Frau namens Jess lasen, die Symptome eines gesundheitlichen Problems zeigte. In einigen Geschichten benötigte Jess ein Rezept gegen Depressionen, während sie in anderen eine Überweisung an einen Spezialisten wegen Aufmerksamkeitsstörungen benötigte. Die Forscher änderten die Details der Geschichte, um drei verschiedene Dinge zu testen. Erstens änderten sie die Art der medizinischen Entscheidung, indem sie ein Rezept mit einer Überweisung verglichen. Zweitens änderten sie, wie viele Informationen der Arzt über das Werkzeug der künstlichen Intelligenz erhielt; einige Ärzte erhielten eine kurze Beschreibung, während andere eine viel längere erhielten, die Details darüber enthielt, wo das Werkzeug entwickelt wurde und wie es trainiert wurde. Drittens untersuchten sie die eigene Geschichte der Ärzte, indem sie notierten, welche von ihnen bereits künstliche Intelligenz in ihrer Forschung oder Praxis genutzt hatten.
Die Forscher wollten sehen, ob diese Änderungen die Ärzte dazu bringen würden, sich bei ihrer endgültigen Entscheidung sicherer zu fühlen. Sie stellten die Hypothese auf, dass Ärzte sich sicherer fühlen würden, wenn sie mehr darüber wüssten, wie das Werkzeug funktioniert, und dass sie dem Werkzeug skeptischer gegenüberstehen würden, wenn die Entscheidung mit höheren Risiken verbunden war, wie etwa der Verschreibung eines neuen Medikaments. Sie fragten sich auch, ob Ärzte, die bereits mit künstlicher Intelligenz vertraut waren, anders auf die Menge der bereitgestellten Informationen reagieren würden. Die Studie ergab, dass die Menge der Informationen nicht so wichtig war, wie erwartet. Ob ein Arzt fünf Sätze oder zehn Sätze über das Werkzeug las, seine Zuversicht in die Entscheidung blieb gleich. Die Art der medizinischen Entscheidung änderte die allgemeine Zuversicht der Ärzte ebenfalls nicht, aber sie veränderte die Sichtweise der Ärzte auf das Werkzeug selbst. Wenn das Szenario die Verschreibung eines Medikaments beinhaltete, waren Ärzte weniger wahrscheinlich bereit zu vertrauen, dass das Werkzeug für jeden Patienten eine konsistente Beratung geben würde, und sie waren eher bereit, auf ihr eigenes Urteil zu vertrauen, anstatt auf den Vorschlag des Computers. Im Gegensatz dazu waren sie bei einem Szenario, das eine Überweisung beinhaltete, eher bereit, der Konsistenz des Werkzeugs zu vertrauen.
Der bedeutendste Befund ergab sich jedoch aus der Betrachtung der vergangenen Erfahrungen der Ärzte. Die Studie zeigte, dass Ärzte, die bereits künstliche Intelligenz in ihrer Forschung oder klinischen Praxis eingesetzt hatten, sich bei der Verwendung des Werkzeugs signifikant sicherer in ihren endgültigen Entscheidungen fühlten. Diese erfahrenen Ärzte waren auch eher bereit zu sagen, dass das Werkzeug die Versorgung, die sie leisten konnten, verbesserte und dass das Ergebnis des Computers zu ihrer endgültigen Wahl beitrug. Dies deutet darauf hin, dass Vertrautheit das Vertrauen stärkt. Interessanterweise fanden die Forscher heraus, dass die bisherige Erfahrung die Ärzte nicht dazu brachte, dem Werkzeug blind zu vertrauen; vielmehr gab es ihnen ein größeres Gefühl der Sicherheit in Bezug auf ihre eigene Fähigkeit, das Werkzeug effektiv einzusetzen. Die Studie widerlegte auch die Vorstellung, dass das bloße Überhäufen eines Arztes mit technischen Details über die Software dessen Vertrauen erhöhen würde. Tatsächlich hatte die zusätzliche Information keinen messbaren Einfluss auf ihr Vertrauen oder ihre Wahrnehmung der Wirksamkeit des Werkzeugs.
Diese Ergebnisse legen nahe, dass der Weg zur Integration künstlicher Intelligenz in die Medizin weniger in der Perfektionierung des Benutzerhandbuchs als vielmehr in der Vorbereitung der Menschen liegt, die sie verwenden werden. Die Forscher kommen zu dem Schluss, dass die Ausbildung zukünftiger Ärzte darauf abzielen sollte, wie man Computervorschläge neben dem eigenen klinischen Urteil abwägt, anstatt nur zu lehren, wie man die Software bedient. Wenn Ärzte diesen Werkzeugen vertrauen sollen, müssen sie verstehen, wie sie sie im Kontext anwenden, und ihr Vertrauen wächst natürlich mit der Erfahrung. Die Studie unterstreicht, dass die Technologie zwar rasant fortschreitet, der menschliche Faktor jedoch der entscheidende Faktor bleibt. Damit künstliche Intelligenz Patienten wirklich helfen kann, muss die medizinische Gemeinschaft sicherstellen, dass Ärzte bereit und gewillt sind, mit ihr zusammenzuarbeiten – eine Bereitschaft, die eher aus Exposition und Praxis als aus bloßen Daten zu entstehen scheint.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.