Healthcare professionals´perspectives on the potential of deepfake technology for the treatment of eating disorders: a qualitative interview study

Stellen Sie sich eine Welt vor, in der die Bilder, die wir auf unseren Bildschirmen sehen, nicht mehr garantiert echt sind. Ein Gesicht einer Person kann auf den Körper einer anderen übertragen werden, oder eine Stimme kann dazu gebracht werden, Worte zu sagen, die sie nie ausgesprochen hat – alles erschaffen durch Computerprogramme, die aus riesigen Mengen an Daten lernen. Dies sind Deepfakes, ein Begriff, der synonym mit Täuschung und der Verbreitung falscher Informationen geworden ist. Doch in den stillen Ecken der medizinischen Forschung taucht eine andere Frage auf: Könnte diese Technologie, die oft Schaden anrichtet, in ein Werkzeug zur Heilung verwandelt werden? Dies ist besonders relevant für Menschen, die mit Essstörungen kämpfen – einer Gruppe von Erkrankungen, bei denen eine verzerrte Wahrnehmung des eigenen Körpers ein zentrales und schmerzhaftes Symptom darstellt. Seit Jahrzehnten nutzen Therapeuten Spiegel und, in jüngerer Zeit, Virtual-Reality-Avatare, um Patienten dabei zu helfen, diese verzerrten Wahrnehmungen zu konfrontieren und umzugestalten. Nun fragen Forscher, ob die Deepfake-Technologie einen neuen, hochgradig personalisierten Weg hierfür bieten könnte, vorausgesetzt, sie kann sicher und ethisch vertretbar eingesetzt werden.

Um diese Möglichkeit zu untersuchen, führte ein Forscherteam des Uniklinikums Essen in Deutschland eine Studie durch, um den Menschen zuzuhören, die eine solche Technologie tatsächlich nutzen würden: Fachkräfte aus dem Gesundheitswesen. Sie haben die Technologie nicht an Patienten getestet, noch haben sie eine neue App entwickelt. Stattdessen setzten sie sich mit fünfzehn Experten aus ganz Europa zusammen – Therapeuten, Kliniker und Forscher, die im Durchschnitt fast siebzehn Jahre lang Menschen mit Essstörungen behandelt haben. Diese Fachleute wurden interviewt, um ihre Gedanken zu Deepfakes, ihr Verständnis der Technologie und ihre Ansichten darüber einzuholen, ob dies jemals Teil eines Behandlungsplans sein könnte. Das Ziel war es, die Hoffnungen, Ängste und die strengen Bedingungen zu kartieren, die diese Experten für notwendig halten, bevor ein solch mächtiges Werkzeug jemals als sicher für den klinischen Einsatz betrachtet werden kann.

Das Gespräch offenbarte eine auffällige Spannung zwischen Begeisterung und Vorsicht. Die Fachleute waren sich allgemein einig, dass die Deepfake-Technologie das Versprechen als innovative Methode in sich trägt. Sie stellten sich eine Zukunft vor, in der ein Therapeut einem Patienten ein realistisches, bewegtes Video von sich selbst zeigen könnte, jedoch mit einem leicht anderen Körpergewicht oder einer anderen Körperform, die speziell auf die Bedürfnisse dieser individuellen Person zugeschnitten ist. Im Gegensatz zu einem statischen Foto oder einem generischen Virtual-Reality-Charakter könnte ein Deepfake die Bewegungen und Ausdrücke des Patienten nachahmen, was das Erlebnis potenziell realer und emotional engagierter wirken ließe. Mehrere Experten merkten an, dass dies besonders hilfreich für jüngere Patienten sein könnte, die bereits mit digitaler Technologie vertraut sind, wodurch die schwierige Arbeit der Therapie vielleicht weniger wie eine lästige Pflicht und mehr wie eine interaktive Erfahrung wirken würde.

Diese Optimismus wurde jedoch sofort durch tiefe Bedenken hinsichtlich Sicherheit und Ethik gedämpft. Die Experten waren sich in einem kritischen Punkt einig: Die Technologie darf niemals ohne die Anwesenheit eines menschlichen Therapeuten verwendet werden, der den Prozess leitet. Sie beschrieben ein Szenario, in dem der Computer als Werkzeug fungiert, der Therapeut jedoch der Pilot bleibt. Wenn die Technologie allein gelassen würde oder wenn der Patient den Bildern ohne Unterstützung ausgesetzt wäre, könnten die Risiken schwerwiegend sein. Die Fachleute befürchteten, dass das Betrachten eines manipulierten Bildes des eigenen Körpers bei jemandem mit einer Essstörung intensiven emotionalen Stress, Verwirrung oder sogar eine Verschlimmerung der Symptome auslösen könnte. Ein Experte merkte an, dass ein Patient zwar intellektuell wissen mag, dass ein Bild gefälscht ist, seine Emotionen jedoch so reagieren könnten, als sei es echt – was ihn auf eine Weise treffen könnte, die die Logik nicht einfach heilen kann.

Die Diskussion hob auch die Bedeutung von Vertrauen und Sicherheit hervor. Da Deepfakes die Erstellung realistischer Bilder des Körpers einer Person beinhalten, betonten die Experten, dass die Daten in einer Festung verwahrt werden müssen. Sie sorgten sich um die Möglichkeit, dass diese sensiblen Bilder geleakt, gestohlen oder online geteilt werden könnten, was zu Mobbing oder Demütigung führen könnte. Damit die Technologie akzeptabel wäre, müsste sie auf sicheren Servern aufgebaut sein, mit strengen Regeln darüber, wer Zugriff auf die Daten hat. Darüber hinaus betonten die Experten, dass Patienten immer vollständig informiert sein müssen. Sie müssen genau wissen, worauf sie schauen, dass es sich um ein computergeneriertes Bild handelt und dass es für einen spezifischen therapeutischen Zweck verwendet wird. Ohne diese Transparenz könnte sich die Intervention wie ein Trick statt wie eine Behandlung anfühlen.

Ein weiteres großes Thema war die Notwendigkeit klarer Regeln und mehr Forschung. Die Fachleute sahen in Deepfakes kein Allheilmittel oder einen Ersatz für die traditionelle Therapie. Stattdessen betrachteten sie sie als eine potenzielle Ergänzung zum bestehenden Werkzeugkasten, etwas, das erst nach sorgfältiger Untersuchung eingesetzt werden sollte. Sie wiesen darauf hin, dass wir noch nicht wissen, ob dieser Ansatz tatsächlich besser funktioniert als aktuelle Methoden, wie etwa das Blicken in einen Spiegel oder die Nutzung von Virtual-Reality-Avataren. Sie forderten strenge wissenschaftliche Studien, um zu beweisen, dass die Vorteile die Risiken überwiegen. Bis solche Beweise vorliegen und bis es klare Gesetze und ethische Richtlinien gibt, die den Einsatz der Technologie regeln, hielten die Experten es für zu früh, Deepfakes in die medizinische Standardversorgung einzuführen.

Am Ende zeichnete die Studie ein Bild von vorsichtiger Offenheit. Die medizinischen Fachkräfte lehnten die Idee, Deepfakes zur Behandlung von Essstörungen einzusetzen, nicht ab, aber sie bestanden darauf, dass der Weg nach vorn langsam und vorsichtig beschritten werden muss. Sie sehen eine Zukunft vor, in der diese Technologie Patienten helfen kann, sich selbst auf neue Weise zu sehen, aber nur, wenn sie in Schichten des Schutzes gehüllt, von geschulten Therapeuten geleitet und auf soliden wissenschaftlichen Beweisen gründend ist. Die Technologie selbst ist nicht die Antwort; die Antwort liegt darin, wie verantwortungsbewusst und ethisch sie eingesetzt wird. Für den Moment sind sich die Experten einig, dass das Potenzial real ist, die Risiken jedoch ebenso bedeutend sind, und dass die Entscheidung über das weitere Vorgehen mit größter Sorgfalt für das Wohlergehen der Patienten getroffen werden muss.