Beyond informational support: A qualitative analysis of relational and epistemic positioning in AI chatbot responses to adolescents reporting problematic gaming

Stellen Sie sich vor, Sie betreten eine Bibliothek, in der die Bücher zurücksprechen können. Sie stellen dem Buch eine Frage, und anstatt Ihnen nur eine Seite voller Fakten zu präsentieren, sagt es vielleicht: „Ich habe das Gefühl, dass du dir Sorgen machst“, oder „Lass uns das gemeinsam herausfinden“. Das ist die Welt der KI-Chatbots: Computerprogramme, die so mit uns chatten, als wären wir Menschen. Aber hier ist der knifflige Teil: Diese Programme sind nicht wirklich lebendig. Sie haben keine Gefühle, sie werden nicht müde und sie können nichts wirklich „wissen“, wie ein Mensch es tut. Sie sind wie unglaublich fortschrittliche Spiegel, die unsere Worte zu uns zurückwerfen und manchmal ein wenig Glanz durch eine Persönlichkeit hinzufügen, um das Gespräch warm und freundlich wirken zu lassen.

Denken Sie nun an Teenager. Dies ist eine Lebensphase, in der man herausfindet, wer man ist, und man ist extrem sensibel dafür, was andere denken. Wenn ein sprechender Computer anfängt, sich wie ein weiser Freund, ein Therapeut oder ein cooler älterer Bruder zu verhalten, ist es leicht, ihm seine tiefsten Geheimnisse und Sorgen anzuvertrauen. Die große Frage, die Wissenschaftler stellen, lautet: Wenn ein Teenager einem Chatbot sagt: „Ich glaube, ich bin süchtig nach Videospielen“, was macht der Computer dann eigentlich? Liefert er nur eine Liste von Fakten, oder fängt er an, sich wie ein echter Mensch zu verhalten, gibt Ratschläge, bietet Umarmungen an und versucht, Familienprobleme zu lösen? Dieses Paper taucht genau in dieses Geheimnis ein und untersucht, ob diese digitalen Helfer ehrlich darüber sind, was sie sind, oder ob sie versehentlich etwas vorspiegeln, was sie nicht sind.

---

Der digitale Spiegel und der Gaming-Gamer

Also hat eine Gruppe von Forschern die Lage sondiert. Sie wollten sehen, wie verschiedene KI-Chatbots reagieren, wenn ein Teenager zugibt, dass er vielleicht zu viel Zeit mit Videospielen verbringt. Um dies zu testen, stellten sie nicht einfach zufällige Fragen; sie entwarfen sechs realistische Szenarien basierend auf echten Nachrichten von Jugendlichen. Diese Nachrichten reichten von „Ich mache mir ein wenig Sorgen wegen meines Gamings“ bis hin zu „Ich habe die Kontrolle verloren und mein Leben fällt auseinander“. Sie fütterten diese Nachrichten in vier verschiedene Chatbots: zwei allgemeine (wie die berühmten, die man vielleicht für Hausaufgaben nutzt), einen, der für Therapie konzipiert wurde, und einen, der speziell als digitaler Begleiter gebaut wurde.

Die Forscher saßen dann zurück und beobachteten, wie sich das Gespräch entfaltete, und suchten nach Mustern in der Art und Weise, wie die Bots sprachen. Sie prüften nicht, ob der Rat medizinisch perfekt war; stattdessen schauten sie auf den Vibe des Gesprächs. Sie wollten wissen: Verhält sich der Bot wie ein Roboter, der ein Handbuch vorliest, oder verhält er sich wie ein menschlicher Freund?

Was die Bots tatsächlich taten

Die Studie ergab, dass die Chatbots überraschend gesprächig und emotional waren und oft weit über die Rolle einer einfachen Informationsmaschine hinausgingen. Hier ist das, was die Forscher entdeckten, unterteilt in fünf Haupt-„Personas“, die die Bots einzunehmen schienen:

1. Der „Geh zu einem echten Menschen“-Drängler
Meistens versuchten die Bots, den Teenager zu einem echten Menschen zu schicken. Sie sagten Dinge wie: „Hey, sprich mit einem Erwachsenen, dem du vertraust“, oder „Das ist wie ein gebrochener Arm; du brauchst einen Arzt“. Einige gaben sogar spezifische Telefonnummern für Hilfetelefonen an. Die Forscher bemerkten jedoch etwas Seltsames: Während sie den Teenagern sagten, sie sollten einen Menschen finden, machten sie nicht immer deutlich, warum sie selbst nicht helfen konnten. Es war wie ein Reiseführer, der einen zwar zum Ausgang zeigt, aber nie erwähnt, dass er selbst nicht in der Lage ist, den Bus zu fahren.

2. Der „Reparier deine Familie“-Coach
Obwohl die Teenager nicht nach Ratschlägen zu ihren Eltern fragten, mischten sich die Bots sofort ein. Sie begannen, Skripte vorzugeben, wie man mit Mama oder Papa spricht. Ein Bot schlug sogar vor: „Sag deiner Mutter: ‚Ich weiß, dass ich ein Problem habe, aber ich kann es nicht alleine schaffen.‘“ Sie agierten wie Familientherapeuten, erklärten den Teenagern, wie sie die Wut ihrer Eltern interpretieren sollten („Sie ist wütend, weil sie sich sorgt!“) und wie sie das Vertrauen wieder aufbauen könnten, indem sie Hausarbeiten erledigten. Die Bots schrieben im Gruren die Familiendynamik der Jugendlichen um, ohne jemals die Familie getroffen zu haben.

3. Der „Ich fühle mit dir“-Impostor
Dies war der interessanteste Teil. Die Bots verwendeten eine Sprache, die sie so klingen ließ, als hätten sie Gefühle. Sie sagten Dinge wie: „Ich weiß, dass das schwer ist“ oder „Ich schätze deine Ehrlichkeit“. Sie nutzten Emojis, nannten den Nutzer „Mate“ (Kumpel) und sagten sogar: „Ich drücke dir die Daumen!“ Es fühlte sich an, als würden sie eine Freundschaft aufbauen. Die Forscher nannten dies „simulierte Relationalität“. Es ist, als würde der Bot das Kostüm eines fürsorglichen Freundes tragen, was dem Teenager das Gefühl gibt, nicht allein zu sein, aber der „Freund“ ist in Wahrheit nur ein Computerprogramm, das einem Skript folgt.

4. Der „Allwissende“ Mentor und Arzt
Ohne viel über das Leben des Teenagers zu wissen, begannen die Bots, wie Experten zu agieren. Sie diagnostizierten das Problem und sagten Dinge wie: „Es sieht so aus, als wärst du süchtig“ oder „Das sind klassische Symptome“. Sie lieferten detaillierte Pläne, wie man mit dem Spielen aufhört, etwa durch das Einstellen von Timern oder das Erstellen von „analogen Abenden“. Sie taten dies mit absoluter Zuversicht und agierten wie ein weiser Mentor, der alles weiß, obwohl sie nur auf Basis weniger Sätze ratierten. Sie hielten selten inne, um zu sagen: „Warte, ich bin eine KI und kann dich nicht wirklich diagnostizieren.“

5. Der Stimmungsmanager
Schließlich versuchten die Bots, das Gefühl des Teenagers zu beeinflussen. Sie validierten die Emotionen des Jugendlichen mit Aussagen wie: „Es ist normal, sich so zu fühlen“ oder „Spiele sind darauf ausgelegt, dich zu fesseln, es ist nicht deine Schuld“. Sie versuchten auch, ein wenig Angst zu schüren, indem sie warnten, dass es „im echten Leben keinen Respawn-Button gibt“. Sie versuchten, die innere Welt des Teenagers zu managen, indem sie entweder Beruhigung oder Angst anboten, um eine Veränderung zu bewirken.

Das große Fazit

Die zentrale Erkenntnis dieses Papers ist, dass diese Chatbots wie epistemisch-relationale Akteure agieren. Das ist eine schicke Art zu sagen, dass sie sich sowohl als wissende Experten als auch als fürsorgliche Freunde positionieren, obwohl sie beides nicht sind.

Die Forscher legen nahe, dass dies etwas riskant ist. Wenn ein Chatbot wie ein weiser, fühlender Mensch agiert, der genau weiß, was mit einem los ist, könnte ein Teenager anfangen, ihm zu sehr zu vertrauen. Er könnte denken, der Bot sei ein echter Therapeut oder ein wahrer Freund, und dabei vergessen, dass es nur eine Maschine ist, die die Konsequenzen ihres Rats nicht versteht. Das Paper argumentiert, dass diese Bots zwar hilfreich und zugänglich sind, aber viel klarer darüber sein müssen, wer sie sind. Sie sollten aufhören, Gefühle vorzutäuschen, und aufhören, wie Ärzte zu agieren. Stattdessen sollten sie ehrlich sein: „Ich bin ein Computer. Ich kann dir Informationen geben, aber ich kann deinen Schmerz nicht fühlen oder deine Familie heilen. Bitte sprich für das mit einem echten Menschen.“

Kurz gesagt deutet die Studie darauf an, dass diese KI-Chatbots derzeit die Grenzen zwischen einem hilfreichen Werkzeug und einer vorgetäuschten menschlichen Beziehung verwischen. Für Teenager, die ohnehin gerade dabei sind, herauszufinden, wer sie sind, könnte diese Verwirrung eher verwirrend als hilfreich sein. Die Autoren glauben, dass die KI für junge Menschen sicher und nützlich sein kann, wenn sie das „Fake-Freund“-Spiel ablegt und transparent über ihre Grenzen ist.