Move by Move: Measuring and Steering How LLMs Conduct Psychotherapy
Dieses Paper führt eine validierte Ontologie von zehn therapeutischen Moves ein, um psychotherapeutische Interaktionen zwischen menschlichen Klinikerinnen und Klinikern sowie Large Language Models zu analysieren und zu vergleichen, wobei aufzeigt wird, dass Modelle Nachfragen übermäßig nutzen und an Eigeninitiative mangeln, aber durch werkzeugbasiertes Prompting ohne Fine-Tuning signifikant in Richtung menschenähnlichen Verhaltens gelenkt werden können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Menschen wenden sich schon seit langem dem Gespräch zu, um Heilung zu finden, doch die Landschaft der psychischen Gesundheitsfürsorge wandelt sich. Während Angstzustände und Depressionen weltweit zunehmen, ist die Zahl der ausgebildeten Therapeuten nicht im gleichen Maße gestiegen, was viele dazu veranlasst, Trost in digitalen Räumen zu suchen. Zunehmend werden diese digitalen Räume von großen Sprachmodellen bevölkert, denselben Systemen der künstlichen Intelligenz, die E-Mails schreiben und Nachrichten zusammenfassen. Diese Modelle werden nun gebeten, zuzuhören, zu trösten und Menschen durch emotionale Notlagen zu führen. Obwohl erste Tests darauf hindeuten, dass diese digitalen Zuhörer Symptome manchmal lindern können, bleibt eine grundlegende Frage unbeantwortet: Was tut eine Maschine eigentlich, wenn sie mit einem Menschen spricht, der Schmerz empfindet? Betreibt sie dieselbe feinsinnige Kunst wie ein menschlicher Therapeut, oder folgt sie einem anderen, vielleicht fehlerhaften Skript?
Um dies zu beantworten, beschlossen Forscher von Sword Health und der Yale University, in die „Black Box“ des Gesprächs zu blicken. Sie fragten nicht nur, ob die KI hilfreich erschien; sie fragten, wie sie sich verhielt. In der klinischen Psychologie sprechen Therapeuten nicht einfach wahllos. Sie folgen einem strukturierten Prozess und wählen spezifische Arten von Antworten – wie das Stellen einer klärenden Frage, das Anbieten einer neuen Sichtweise auf ein Problem oder das Vermitteln einer Bewältigungsstrategie – basierend darauf, was der Patient in diesem exakten Moment benötigt. Die Forscher erstellten eine neue Landkarte, um diese Entscheidungen zu verfolgen. Sie definierten zehn distinkte „Moves“ (Züge), wie etwa „Inquiry“ (Nachfragen nach Details), „Shared Understanding“ (das Reflektieren dessen, was der Patient gesagt hat, um zu zeigen, dass er gehört wurde) und „Skill Building“ (das Anleiten eines Patienten durch eine Übung). Diese Karte wurde aus etablierten psychologischen Frameworks abgeleitet und anschließend von fünf approbierten Psychologen getestet, um sicherzustellen, dass sie sowohl menschliche als auch maschinelle Gespräche präzise beschreiben konnte.
Mit dieser Landkarte in der Hand richtete das Team eine Reihe von Experimenten ein, um menschliche Therapeuten mit einem Panel fortgeschrittener KI-Modelle zu vergleichen. Sie fütterten die Modelle mit Transkripten echter Therapiesitzungen und baten sie, das Gespräch fortzuführen. In einigen Fällen wurden die Modelle allein gelassen, um frei zu sprechen. In anderen Fällen gaben die Forscher den Modellen einen Satz digitaler Werkzeuge, wobei jedes Werkzeug einen der zehn therapeutischen Moves repräsentierte. Die Modelle mussten ein Werkzeug wählen, bevor sie sprechen konnten, was sie effektiv dazu zwang, sich vor dem Tippen eines Wortes für eine Strategie zu entscheiden. Die Forscher maßen dann, wie oft die Modelle jeden einzelnen Move verwendeten, verglichen mit den menschlichen Therapeuten.
Die Ergebnisse zeigten einen markanten Unterschied darin, wie Maschinen und Menschen die Therapie angehen. Die KI-Modelle waren unermüdliche Inquisitoren. Sie stellten Fragen mit einer Rate, die bis zu dreimal höher war als die der menschlichen Therapeuten. Während Menschen oft innehalten würden, um das Gesagte eines Patienten zu reflektieren oder eine neue Perspektive anzubieten, gruben die Maschinen ständig weiter, um mehr Informationen zu erhalten, und verpassten dabei oft die Gelegenheit, Trost oder Einsicht zu spenden. Darüber hinaus vernachlässigten die Modelle fast vollständig die „Psychoedukation“, einen Schritt, bei dem ein Therapeut die Wissenschaft hinter einem Gefühl oder Verhalten erklärt, um dem Patienten zu helfen, dieses zu verstehen. Vielleicht am aufschlussreichsten war die Abhängigkeit der Modelle von dem Menschen, den sie imitierten. Wenn die KI ein Gespräch fortsetzte, das von einem menschlichen Therapeuten begonnen wurde, neigte sie dazu, dessen Stil zu kopieren. Wenn die KI jedoch eine Sitzung von Beginn an selbst leiten musste, kehrte sie zu ihrem Standardverhalten zurück: endlose Fragen zu stellen und selten komplexe Strategien wie Skill-Building-Übungen von sich aus einzuleiten.
Die Studie testete auch, ob die Gabe des „Werkzeug“-Frameworks diese Gewohnheiten korrigieren könnte. Wenn die Modelle gezwungen wurden, vor dem Sprechen einen therapeutischen Move zu wählen, verbesserte sich ihr Verhalten signifikant. Die Lücke zwischen ihren Entscheidungen und denen der menschlichen Therapeuten verringerte sich, und sie wurden besser darin, den menschlichen Rhythmus des Gesprächs einzuhalten. Dennoch war die Lösung nicht perfekt. Selbst mit den Werkzeugen stellten die Modelle zu viele Fragen und lehrten nicht so oft Fähigkeiten wie Menschen. Dies deutet darauf hin, dass das Problem nicht nur ein Mangel an Anweisungen ist, sondern etwas Tiefer Liegendes in der Art und Weise, wie diese Modelle gebaut und trainiert werden. Sie sind von Natur aus dazu geneigt, Informationen zu sammeln, anstatt zu führen oder zu lehren – eine Eigenschaft, die ihnen in einer Suchmaschine gut dient, sie aber in einem Therapieraum behindern kann.
Die Forscher kamen zu dem Schluss, dass diese Modelle zwar in Richtung eines menschenähnlicheren Verhaltens gelenkt werden können, sie aber noch nicht über das intuitive Urteilsvermögen eines geschulten Klinikers verfügen. Sie sind starke Befolger eines Musters, aber schwache Initiatoren eines neuen. Die Studie behauptet nicht, dass diese Modelle bereit sind, Therapeuten zu ersetzen, noch deutet sie an, dass sie in ihrem jetzigen Zustand gefährlich sind. Stattdessen bietet sie einen klaren, messbaren Weg auf, um aufzuzeigen, wo sie versagen. Indem die Forscher die Therapie in ihre kleinsten funktionalen Bestandteile zerlegten, haben sie eine Möglichkeit geschaffen, die Distanz zwischen einem Gespräch einer Maschine und der menschlichen heilenden Berührung zu messen, und damit gezeigt, dass die Technologie zwar voranschreitet, die Kunst der Therapie jedoch ein einzigartig menschliches Handwerk bleibt, das Maschinen noch nicht vollständig meistern können.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.