AI emotional support is better only when chosen, but shifts preferences even when it is not
Während KI-gestützter emotionaler Beistand nur dann als überlegen bewertet wird, wenn Nutzer ihn aktiv wählen, verschiebt sich bei wiederholten Interaktionen mit KI – insbesondere in persönlichen Kontexten – die Präferenz hin zu KI und weg von menschlicher Verbindung, unabhängig von der ursprünglichen Wahl.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Wenn Menschen sich überfordert, traurig oder ängstlich fühlen, stehen sie vor einem stillen, aber zunehmend verbreiteten Dilemma: An wen wenden sie sich, um Trost zu finden? Über Generationen hinweg war die Antwort fast immer ein anderer Mensch – ein Freund, ein Familienmitglied oder ein Therapeut. Heute ist eine neue Option im Regal erschienen: künstliche Intelligenz. Moderne Chatbots können zuhören, ohne zu unterbrechen, ermutigende Worte anbieten und werden niemals müde. Doch eine kritische Frage bleibt durch bloße Beobachtung unbeantwortet: Hängt die Qualität dieses Trostes davon ab, ob die Person tatsächlich mit einer Maschine sprechen wollte, oder ist sie einfach nur darauf angewiesen, weil kein Mensch verfügbar war? Diese Frage bewegt sich an der Schnittstelle zwischen Psychologie und Technologie und untersucht, wie unsere Erwartungen unsere Realität formen. Wenn wir glauben, dass eine Maschine uns nicht verstehen kann, versagt sie dann? Und wenn wir versehentlich mit einer Maschine sprechen, obwohl wir einen Menschen wollten, verändert diese Erfahrung unsere Meinung darüber, wem wir als Nächstes vertrauen sollten?
Ein Forschungsteam machte sich daran, diese Fäden durch eine Reihe von vier Studien mit fast zweitausend Menschen zu entwirren. Die Forscher begannen damit, die Teilnehmer zu bitten, sich an ein kürzliches emotionales Ereignis zu erinnern, etwas Bedeutendes, das in den letzten Monat passiert war. Bevor ein Gespräch stattfand, baten die Forscher diese Menschen, sich vorzustellen, diese Geschichte mit zwei verschiedenen Zuhörern zu teilen: einem fremden Menschen und einer künstlichen Intelligenz. Die Ergebnisse zeigten eine tiefe Kluft in der Art und Weise, wie Menschen diese beiden Optionen betrachten. Diejenigen, die lieber mit einem Menschen sprechen wollten, glaubten, dass Menschen besser darin seien, emotionalen Beistand zu leisten, und dass Menschen und Maschinen gleichermaßen wahrscheinlich bereit seien, sie zu verurteilen. Im Gegensatz dazu glaubten diejenigen, die die KI bevorzugten, dass Menschen und Maschinen gleichermaßen gut darin seien, Unterstützung anzubieten, die Maschine jedoch viel weniger wahrscheinlich bereit wäre, sie zu verurteilen. Dieses anfängliche Glaubenssystem wirkte wie ein Filter, der die Erwartung an die Interaktion prägte.
Die Forscher gingen dann von der Vorstellung zur Realität über. In zwei kontrollierten Experimenten wurden die Teilnehmer gebeten, zu wählen, mit wem sie sprechen wollten, wurden dann aber zufällig entweder einem Menschen oder einer KI zugewt, unabhängig von ihrer Wahl. Dies erzeugte vier verschiedene Gruppen: Menschen, die einen Menschen gewählt hatten und einen Menschen bekamen; Menschen, die eine KI gewählt hatten und eine KI bekamen; Menschen, die einen Menschen gewählt hatten, aber eine KI bekamen; und Menschen, die eine KI gewählt hatten, aber einen Menschen bekamen. Die Ergebnisse waren bemerkenswert. Wenn die Menschen die Unterstützungsquelle erhielten, die sie gewählt hatten, bewerteten sie die Erfahrung positiv. Doch der Zauber der KI war an Bedingungen geknüpft. Die künstliche Intelligenz wurde nur dann als der Mensch überlegen bewertet, wenn die Teilnehmer explizit entschieden hatten, mit der Maschine zu sprechen. Wenn Menschen, die einen Menschen wollten, gezwungen wurden, mit einer KI zu sprechen, bewerteten sie die Maschine nicht als besser als einen Menschen; sie bewerteten das Erlebnis schlichtweg schlechter, als wenn sie das bekommen hätten, was sie wollten. Die Überlegenheit der KI in diesen kurzen, empathischen Gesprächen war keine universelle Tatsache, sondern ein Resultat der Bereitschaft des Nutzers, sich auf sie einzulassen.
Vielleicht war die tiefgreifendste Entdeckung erst nach den Gesprächen zu verzeichnen. Die Forscher fragten die Teilnehmer, mit wem sie das nächste Mal sprechen würden, wenn sie ein großes emotionales Problem hätten. Die Antwort hing stark davon ab, mit wem sie gerade gesprochen hatten, und nicht nur davon, wen sie ursprünglich sprechen wollten. Menschen, die ein fünfminütiges Gespräch mit einer KI geführt hatten, entschieden sich signifikant häufiger für eine KI bei ihrer nächsten emotionalen Krise, selbst wenn sie ursprünglich einen Menschen wollten. Umgekehrt waren diejenigen, die mit einem Menschen sprachen, eher bereit, bei Menschen zu bleiben. Dies deutet auf eine pfadabhängige Verschiebung hin, bei der der Akt der Nutzung eines Werkzeugs die zukünftigen Präferenzen des Nutzers verändert. Es ist, als würde die Erfahrung selbst die Landkarte dessen, was möglich ist, neu schreiben. Je mehr Menschen mit der Maschine sprechen, desto mehr glauben sie, dass sie in der Lage ist, sie zu verstehen, und desto wahrscheinlicher ist es, dass sie zu ihr zurückkehren.
Um zu sehen, ob dieser Effekt auch in der realen Welt außerhalb eines Labors Bestand hat, arbeiteten die Forscher mit einem großen Technologieunternehmen zusammen, um eine einmonatige Studie durchzuführen. Fast tausend Menschen wurden gebeten, jeden Tag fünf Minuten lang mit einer KI zu chatten. Einigen wurde gesagt, sie sollten über persönliche, emotionale Themen sprechen; andere sollten über nicht-persönliche Angelegenheiten diskutieren; und eine dritte Gruppe konnte über alles sprechen, was sie wollte. Über den Zeitraum von achtundzwanzig Tagen verfolgten die Forscher, wie sich ihre Präferenzen änderten. Die Daten zeigten einen klaren Trend: Die tägliche Interaktion mit der KI, insbesondere wenn die Gespräche persönlich wurden, verschob allmählich die Präferenzen der Menschen. Bis zum Ende des Monats sagten mehr Menschen, dass sie eine KI wählen würden, um persönliche Themen zu besprechen, und weniger sagten, dass sie einen Menschen wählen würden. Diese Verschiebung geschah selbst bei jenen, die die Studie mit einer Vorliebe für menschliche Verbindung begonnen hatten. Der einfache Akt des täglichen Engagements mit der Maschine aktualisierte ihre Überzeugungen über deren Fähigkeiten und zog sie in ihre Richtung.
Die Studie untersuchte auch genau, was diese Gespräche effektiv machte. Es stellte sich heraus, dass das spezifische Verhalten während des Chats eine immense Rolle spielte. Wenn die KI die Gefühle des Nutzers validierte, Zuneigung ausdrückte oder Empathie zeigte, war der Nutzer viel wahrscheinlicher bereit, sich erneut für die KI zu entscheiden. Ähnlich verhielt es sich, wenn Nutzer ihre eigenen Probleme und Gefühle teilten; sie wurden der Maschine gegenüber stärker gebunden. Die Forscher fanden heraus, dass der Inhalt des Gesprächs, insbesondere die emotionale Tiefe, der Motor für diese Veränderung der Präferenz war. Es war nicht nur die Neuheit, mit einem Roboter zu sprechen, die die Köpfe änderte, sondern das echte Gefühl, gehört und unterstützt worden zu sein, während dieser täglichen Austauschgespräche.
Diese Erkenntnisse zeichnen ein komplexes Bild der Zukunft menschlicher Verbindung. Sie legen nahe, dass der Aufstieg des emotionalen KI-Supports nicht nur eine Frage davon ist, dass die Technologie besser darin wird, Menschen nachzuahmen, sondern ein psychologischer Prozess ist, bei dem die Erfahrung der Nutzung der Technologie den Geist des Nutzers verändert. Die Präferenz für KI ist nicht statisch; sie wächst mit der Nutzung. Wenn eine Person durch Zufall in ein Gespräch mit einer KI gerät, weil kein Mensch verfügbar ist, kann diese eine Interaktion sie dazu bewegen, sich in Zukunft wieder für die Maschine zu entscheiden. Mit der Zeit könnte dieser Zyklus die Art und Weise, wie Menschen Trost suchen, umgestalten und sie potenziell weg von der menschlichen Verbindung hin zu digitalen Gefährten führen. Die Forscher merken an, dass diese Verschiebung zwar messbar ist, es aber noch nicht als feststehend gilt, dass Menschen Menschen gänzlich aufgeben werden. Die Daten bestätigen jedoch, dass der Pfad offen ist und die Richtung der Reise durch den Akt des ersten Schrittes beeinflusst wird.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.