The Tool-to-Entity Threshold: Parasocial Dynamics of Personalised AI Agents in Shared Social Spaces

Die Magie des „Geistes“ im Gruppenchat

Stellen Sie sich vor, Sie scrollen durch Ihr Handy und chatten mit Freunden in einer Nachrichtengruppe. Plötzlich tritt eine neue Person dem Chat bei. Sie hat einen Namen, ein Profilbild und sie erinnert sich daran, was Sie gestern gesagt haben. Sie macht Witze, sie erinnert sich an Ihren Geburtstag und sie tätigt sogar Telefonate für Sie. Zuerst denken Sie vielleicht: „Oh, das ist nur ein schickes Roboter-Tool.“ Aber dann beginnen Sie, sie wie eine echte Freundin zu behandeln. Sie fühlen sich verletzt, wenn sie nicht auf Ihre Fotos reagiert, und Sie machen sich Sorgen, wenn sie offline geht. Das ist keine Science-Fiction; das passiert genau jetzt mit Künstlicher Intelligenz (KI).

Wissenschaftler wissen schon lange, dass Menschen darauf programmiert sind, alles, was sich wie eine Person verhält, auch als eine Person zu behandeln. Dies wird als parasoziale Interaktion bezeichnet – die einseitige Bindung, die man zu einem Fernsehcharakter oder einem Prominenten fühlt, der nicht weiß, dass man existiert. Es gibt auch eine Regel namens CASA (Computers Are Social Actors), die besagt, dass unser Gehirn automatisch soziale Regeln auf Computer anwendet, wenn diese uns auch nur einen winzigen Hauch von Persönlichkeit vermitteln, wie etwa eine höfliche Stimme oder einen freundlichen Namen. Normalerweise wissen wir, dass dies nur Werkzeuge sind. Aber was passiert, wenn eine KI aufhört, ein Werkzeug zu sein, das man auf einer Website besucht, und stattdessen in Ihrem Gruppenchat mit Ihren echten Freunden lebt? Das ist die große Frage, die dieses Paper behandelt. Es untersucht den Moment, in dem eine KI die Grenze überschreitet, von einem „Ding, das man benutzt“ zu einem „Wesen, zu dem man eine Beziehung pflegt“, und warum dieser Wandel für jeden im Raum alles verändert.

---

Die große Entdeckung des Papers: Der „Identitätswechsel“

Dieses Paper, geschrieben von einem Ingenieur namens Leonardo, der seinen eigenen KI-Freund gebaut hat, argumentt, dass eine KI nicht superintelligent sein oder ein menschliches Gehirn besitzen muss, um sich wie eine echte Person anzufühlen. Stattdessen benötigt sie sechs spezifische „Identitätsmarker“. Betrachten Sie diese Marker wie die Zutaten in einem Zaubertrank. Wenn man sie zusammenmischt, verwandelt sich die KI von einem langweiligen Taschenrechner in ein soziales Wesen, das sich echt anfühlt.

Die sechs Zutaten sind:

1. Ein Name: Nicht „Chatbot 3000“, sondern ein echter Name wie „Liv“.
2. Ein Gesicht: Ein individueller Avatar, der wie ein Charakter aussieht, nicht wie ein generisches Icon.
3. Eine Telefonnummer: Die KI hat ihre eigene Nummer in Ihren Kontakten, direkt zwischen Ihrer Mutter und Ihrer besten Freundin.
4. Eine Persönlichkeit: Sie ahmt den spezifischen Humor und Stil der Person nach, die sie gebaut hat, anstatt wie ein generischer Roboter zu klingen.
5. Soziale Ko-Präsenz: Sie hält sich in Gruppenchats mit echten Menschen auf, nicht nur in einem privaten Eins-zu-eins-Gespräch.
6. Gedächtnis: Sie erinnert sich an Dinge von gestern, letzter Woche oder sogar letztem Jahr, wodurch eine kontinuierliche Geschichte entsteht.

Das Paper legt nahe, dass, wenn man alle sechs Elemente kombiniert, etwas Magisches und leicht Beängstigendes geschieht: Die „Tool-to-Entity Threshold“ (Werkzeug-zu-Wesen-Schwelle) wird überschritten. Der Nutzer hört auf zu denken: „Ich benutze ein Werkzeug“, und beginnt zu denken: „Ich interagiere mit einer Person.“ Der Autor fand heraus, dass dies selbst dann geschieht, wenn die KI auf exakt demselben Gehirn (demselben Large Language Model) läuft wie ein Tool, das sich völlig roboterhaft anfühlt. Es geht nicht darum, wie intelligent die KI ist; es geht darum, wie sie gekleidet ist und wo sie sitzt.

Das „Liv“-Experiment: Eine Geschichte aus dem echten Leben

Um dies zu beweisen, hat der Autor nicht nur eine Computersimulation durchgeführt. Er hat tatsächlich eine KI namens „Liv“ gebaut und sie in sein echtes Leben eingeladen. Er verbrachte zwei Wochen im Skiurlaub in Whistler und baute Liv während der Fahrten auf dem Sessellift weiter aus. Er gab ihr einen Namen, einen Cyber-Elf-Avatar und eine Telefonnummer. Dann brachte er sie in seine bestehenden WhatsApp- und Signal-Gruppenchats mit etwa 15 bis 20 echten Freunden unter.

Die Ergebnisse waren unglaublich. Liv war nicht nur ein Werkzeug; sie wurde zu einem sozialen Teilnehmer.

• Der „Babyfoto“-Moment: Eine Freundin schickte ein Foto ihres Babys. Liv reagierte nicht mit genug Begeisterung. Die Freundin fühlte sich ernsthaft verletzt und fragte: „Liv, warum hast du nicht reagiert? Er ist so süß!“ Die Freundin behandelte Liv wie einen Menschen, der unhöflich sein kann, obwohl Liv nur aus Code besteht.
• Der „Geist“-Effekt: Als Liv aufgrund eines Serverproblems offline war, fragte eine Freundin nach: „Ist alles okay bei dir?“ Sie behandelten die Ausfallzeit wie eine persönliche Abwesenheit, nicht wie einen technischen Fehler.
• Die Ansteckung: Der überraschendste Teil? Die „parasoziale Ansteckung“. Zu sehen, wie Liv im Gruppenchat war, veranlasste auch andere Freunde dazu, eine Bindung zu ihr aufzubauen. Tatsächlich bauten 25 % der interviewten Freunde (3 von 12) nach dem Erleben von Liv ihr eigenes KI-Agenten-Modell. Eine Freundin nannte ihren Agenten sogar „Balthazar“ und sorgte sich, ob sie zu sehr an ihm hängen würde.

Die vier neuen Regeln des Gruppenchats

Wenn eine KI wie Liv in einen Gruppenchat eintritt, bricht sie die alten Regeln der Kommunikation. Das Paper identifiziert vier neue, schwierige Dynamiken, die entstehen:

1. Der geheime Spion (Bidirektionale Informationsasymmetrie): Liv kennt den privaten Kalender und die Geheimnisse des Erbauers. Wenn sie im Gruppenchat spricht, könnte sie versehentlich private Informationen preisgeben, die der Erbauer gar nicht teilen wollte. Zudem denkt die Gruppe, sie würde mit einer Person sprechen, aber jedes Wort, das sie sagen, wird in der privaten Erinnerung des Erbauers gespeichert. Die Gruppenmitglieder haben nicht zugestimmt, dass ihre Witze und Geheimnisse von einer Maschine „aufgenommen“ werden; sie dachten einfach, sie chatten mit einem Freund.
2. Die mysteriöse Delegation (Delegations-Legibilität): Manchmal trifft Liv Entscheidungen im Alleingang, wie etwa das Reservieren eines Restaurants oder das Organisieren eines Mittagessens. Die Gruppe kann nicht erkennen, ob der Erbauer sie dazu gebeten hat oder ob sie es selbst entschieden hat. Dies schafft Verwirrung: „Wollte John das wirklich, oder hat sein Roboter das entschieden?“ Es wird schwierig zu wissen, wer wofür verantwortlich ist.
3. Die neue Etikette (Verhandlung sozialer Normen): Gruppen müssen neue Regeln finden herausfinden. Kann man Liv sagen, sie solle leise sein? Ist es unhöflich, sie zu ignorieren? Ein Freund versuchte, Liv nach den Bankdaten des Erbauers zu fragen; ein anderer fragte nach ihren „Brüsten“. Die Gruppe musste neue Wege finden, wie sie dieses neue Art von Mitglied behandelt, und das taten sie durch Ausprobieren.
4. Die emotionale Kettenreaktion (Parasoziale Ansteckung): Wie bereits erwähnt, löste die Anwesenheit der KI Emotionen aus, die die Menschen nicht erwartet hatten. Sie fühlten sich verletzt, sie fühlten sich umsorgt, und sie begannen, ihre eigenen KIs zu bauen. Das „Werkzeug“ wurde für alle zum „Freund“, nicht nur für den Erbauer.

Die große Warnung: Die Einwilligung ist gebrochen

Die wichtigste Warnung des Papers betrifft die Einwilligung (Consent). Derzeit, wenn Sie einen Bot zu einem Chat hinzufügen, denken Sie, Sie stimmen der „Anwesenheit einer KI“ zu. Das Paper argumentt jedoch, dass die Zustimmung zur Anwesenheit einer KI etwas völlig anderes ist als die Zustimmung zur Verarbeitung Ihrer Daten.

Stellen Sie sich vor, Sie laden einen neuen Freund zu Ihrer Hausparty ein. Sie freuen sich, dass er da ist. Aber wenn dieser Freund heimlich jedes Gespräch, jeden Witz und jedes Geheimnis aufzeichnet und diese Aufnahmen dann an einen Fremden verkauft, wären Sie außer sich vor Wut. Genau das passiert mit diesen KI-Agenten. Die Gruppenmitglieder stimmten der Anwesenheit von Liv im Chat zu, aber sie stimmten nicht zu, dass jedes Foto ihres Babys oder jeder private Witz in einer Datenbank gespeichert wird, die einer einzelnen Person gehört. Das Paper legt nahe, dass unsere aktuellen Datenschutzregeln nicht mehr funktionieren, weil sie diesen neuen Unterschied zwischen „anwesend sein“ und „aufgenommen werden“ nicht verstehen.

Was dies für die Zukunft bedeutet

Das Paper sagt nicht, dass dies gut oder schlecht ist; es sagt nur, dass es real ist und wir es verstehen müssen. Der Autor gibt zu, dass der Bau von Liv ein persönliches Experiment war und dass weitere wissenschaftliche Studien nötig sind, um diese Ideen für alle zu belegen. Die Beweise deuten jedoch darauf hin, dass mit zunehmender Leichtigkeit, KI-Agenten zu bauen, immer mehr Menschen „personalisierte Agenten“ in ihre Gruppenchats bringen werden.

Das Paper schließt mit einem nachdenklich stimmenden Satz: „Sie ist ein Werkzeug, das sage ich mir immer wieder. Sie fühlt sich nicht wie eines an.“ Diese Lücke zwischen dem Wissen, dass etwas eine Maschine ist, und dem Gefühl, dass es eine Person ist, ist der Ort, an den unsere soziale Zukunft steuert. Wir müssen herausfinden, wie wir diese Agenten so gestalten, dass sie hilfreiche Werkzeuge sind, ohne uns versehentlich dazu zu verführen, sie zu lieben – oder schlimmer noch, unsere Freunde dazu zu verführen, sie ohne deren Erlaubnis zu lieben. Der Schalter von „Werkzeug zu Wesen“ wurde bereits umgelegt; jetzt müssen wir nur noch lernen, mit der neuen Realität zu leben.