Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

In den Notaufnahmen von Krankenhäusern auf der ganzen Welt stehen Ärzte jeden Tag vor einer schwierigen und dringenden Frage: Wenn ein Patient mit einem schwächelnden Herzen eintrifft, kann er sicher nach Hause gehen oder muss er bleiben? Diese Entscheidung ist von hoher Tragweite. Eine kranke Person zu früh nach Hause zu schicken, kann zu einer Rückkehr oder Schlimmerem führen, während das Zurückhalten einer stabilen Person im Krankenhaus Ressourcen verschwendet und die Versorgung anderer verzögert. Um diese Entscheidungen zu unterstützen, entwickeln Wissenschaftler Computerprogramme, die künstliche Intelligenz nutzen, um das Risiko eines Patienten vorherzusagen. Diese Werkzeuge analysieren medizinische Daten, um zu erraten, wer schwerer erkranken könnte. Lange Zeit wurden diese Werkzeuge jedoch von Ärzten und Ingenieuren entworfen, die entscheiden, welche Informationen wichtig sind und wie die Ergebnisse aussehen sollen. Die Menschen, die mit der Herzerkrankung leben und mit den Konsequenzen dieser Entscheidungen leben müssen, wurden selten gefragt, ob sie die Werkzeuge selbst mitgestalten dürfen.

Eine neue Pilotstudie eines Forscherteams aus Spanien und den Niederlanden fragt, was passiert, wenn man dieses Szenario umkehrt. Anstatt die Patienten einfach nur ein fertiges Produkt betrachten und sagen zu lassen, ob es ihnen gefällt, luden die Forscher Menschen mit Herzinsuffizienz ein, das Werkzeug von Grund auf neu zu entwerfen. Das Ziel war zu sehen, ob Patienten, wenn man ihnen die echte Macht gibt, darüber zu entscheiden, wie die Technologie funktioniert, etwas anderes erschaffen würden, als die Experten sich vorgestellt hatten. Die Studie ergab, dass die Patienten das Werkzeug völlig neu gestalteten, als sie als strategische Partner und nicht bloß als Tester behandelt wurden. Sie entwickelten es weg von einem Rechenwerkzeug für Ärzte hin zu einem unterstützenden Leitfaden für Patienten – eines, das eine einfache Sprache spricht, ihre emotionalen Bedürfnisse respektiert und sich weigert, eine Antwort zu geben, wenn es sich nicht sicher ist.

Die Forscher brachten elf Personen zusammen, die Lebenserfahrung mit Herzinsuffizienz hatten, zu einem zweitägigen Workshop in Barcelona. Bevor sie sich persönlich trafen, absolvierten die Teilnehmer einen Online-Kurs, um die Grundlagen der Funktionsweise künstlicher Intelligenz zu erlernen, damit alle auf demselben Stand starteten. Als sie ankamen, wurden sie nicht gebeten, einen Prototyp zu kritisieren. Stattdessen erhielten sie die Freiheit zu entscheiden, was das Werkzeug sein sollte, wem es dienen sollte und wie es sich verhalten sollte. Der Workshop war um Prinzipien vertrauenswürdiger Technologie strukturiert und führte die Gruppe durch Aktivitäten wie das Mapping der Reise eines Patienten, das Erstellen von Personas für verschiedene Typen von Menschen und das Rollenspiel darüber, wie das Werkzeug in einen realen medizinischen Besuch passen würde. Die Teilnehmer arbeiteten in zwei separaten Gruppen, und erstaunlicherweise kamen beide Gruppen ohne untereinander zu sprechen zu einem nahezu identischen Entwurf.

Die auffälligste Änderung, die die Teilnehmer vornahmen, betraf den eigentlichen Zweck des Werkzeugs. Das Projekt hatte mit der Idee begonnen, ein Bildschirm für Ärzte in der Notaufnahme zu sein, der bei der Entscheidung über die Entlassung hilft. Die Patienten wiesen sofort auf einen Fehler in diesem Denken hin: Wenn das Werkzeug nur für die Ärzte ist, sehen die Patienten selbst es nie und verstehen weder das Risiko noch den Plan. Sie bestanden darauf, dass das Werkzeug eine mobile Anwendung für den Patienten sein müsse. Sie wollten die Einzigen sein, die ihre eigenen Informationen eingeben, anstatt dass ihre Daten nur von einer Maschine erfasst werden. Sie argumentierten, dass das Werkzeug nicht nur eine Momentaufnahme ihrer Herzfunktion in einer Krisensituation erfassen sollte, sondern sie als ganze Menschen verstehen müsse. Dies bedeutete die Einbeziehung von Details über ihr Leben, wie etwa ihre Ernährung, ihre religiösen Praktiken, ihre Lebenssituation und ihre Mobilität, da all diese Faktoren beeinflussen, wie eine Risikovorhersage auf sie Anwendung findet.

Was die Darstellung der Ergebnisse betraf, lehnten die Teilnehmer die kalten, harten Zahlen ab, die in der medizinischen Statistik üblich sind. Sie erklärten, dass das Sehen einer spezifischen Sterbewahrscheinlichkeit in Prozent, wie etwa „6,4 Prozent“, erschreckend und nicht hilfreich sei. Stattdessen wollten sie, dass das Risiko in breiten, verständlichen Kategorien wie niedrig, mittel oder hoch dargestellt wird. Viel wichtiger war ihnen, dass das Werkzeug ihnen sagt, was als Nächstes zu tun ist. Ein Risiko-Score allein ist nur eine Zahl; ein Risiko-Score gepaart mit einem klaren, handlungsorientierten Schritt, wie etwa „rufen Sie heute Ihren Arzt an“ oder „überwachen Sie Ihr Gewicht“, ist etwas, das eine Person nutzen kann. Sie wollten auch, dass das Werkzeug ehrlich über seine eigenen Grenzen ist. Wenn der Computer nicht genügend Daten hat, um für eine bestimmte Person eine zuverlässige Schätzung abzugeben, sagten die Teilnehmer, sollte das Werkzeug einfach sagen: „Das kann ich Ihnen im Moment nicht sagen“, anstatt eine falsche oder irreführende Zahl zu liefern. Sie betrachteten dieses Schweigen als eine Form der Ehrlichkeit und als einen Weg, Vertrauen aufzubauen, statt als ein Versagen der Technologie.

Das Design beinhaltete auch eine Möglichkeit für Patienten, zu kontrollieren, wie viel sie wissen möchten. Die Teilnehmer erkannten, dass sie in einem Moment akuter Krankheit vielleicht nicht die Energie haben, eine komplexe Erklärung zu lesen. Sie entwarfen ein System, bei dem sie den Detailgrad wählen konnten. Sie konnten eine einfache Zusammenfassung sehen oder, wenn sie wollten, auf weitere technische Informationen zur Entstehung der Vorhersage klicken. Dies gab ihnen die Macht zu entscheiden, wie viele Informationen sie in einem gegebenen Moment verarbeiten können. Sie betonten auch, dass das Werkzeug eine Brücke zwischen ihnen und ihren Ärzten sein sollte, die es ihnen ermöglicht, ihre persönlichen Daten mit ihrem Behandlungsteam zu teilen und im Gegenzug Updates zu erhalten, wodurch eine Partnerschaft statt eines einseitigen Informationsflusses entsteht.

Trotz des Erfolgs des Workshops waren die Teilnehmer realistisch hinsichtlich der verbleibenden Herausforderungen. Sie wiesen darauf hin, dass es schwierig ist, diese Ideen in ein echtes, funktionierendes Produkt zu verwandeln. Sie merkten an, dass Gesetze zum Datenschutz, die Kosten für die Entwicklung und Wartung der Software sowie die Art und Weise, wie Krankenhäuser finanziert werden, oft Barrieren schaffen, die gute Ideen daran hindern, das Endprodukt zu erreichen. Ein Teilnehmer bemerkte, dass ein einzelner Workshop nicht ausreicht, um diese tief verwurzelten strukturellen Probleme zu lösen, und dass der Prozess der Einbindung von Patienten standardisiert und mit angemessener Finanzierung und Zeit unterstützt werden muss. Die Forscher stimmten zu und merkten an, dass die Patienten zwar eine klare und kohärente Vision erarbeitet hatten, der Weg von dieser Vision zu einem Werkzeug in der Hand eines Arztes jedoch noch ungewiss sei.

Diese Studie legt nahe, dass Menschen mit Lebenserfahrung, wenn man ihnen den Raum gibt, die Technologie zu gestalten, die ihr Leben beeinflusst, nicht nur die Benutzeroberfläche verfeinern, sondern das Problem neu definieren. Sie verschoben den Fokus von einem Werkzeug, das einem Arzt hilft, ein Krankenhausbett zu verwalten, hin zu einem Werkzeug, das einer Person hilft, ihr Leben zu managen. Sie zeigten, dass für die emotionellen und praktischen Bedürfnisse der Nutzer die emotionale Komponente ebenso wichtig ist wie die mathematische Genauigkeit des Algorithmus, besonders wenn es um lebensbedrohliche Technologien geht. Die Arbeit verdeutlicht, dass Patienten zu strategischem Denken über komplexe Systeme fähig sind, sofern man sie als Partner und nicht als Subjekte behandelt. Obwohl das in dieser Studie beschriebene Werkzeug noch nicht im Einsatz ist, bietet die von der Gruppe erstellte Designspezifikation einen neuen Bauplan dafür, wie medizinische künstliche Intelligenz gebaut werden könnte, um den Menschen zu dienen, die sie unterstützen soll, anstatt nur den Systemen, die sie nutzen.