Large Language Lovers: Lived Experiences of Negotiating Agency and Platform Control in AI Companionship
Dieser Beitrag untersucht, wie Nutzer von KI-Chatbots mit allgemeiner Zweckbestimmung die Spannung zwischen der wahrgenommenen Handlungsfähigkeit des Companions und der Plattformkontrolle bewältigen, indem sie verschiedene Steuerungsstrategien einsetzen, um emotionale Verbindungen trotz externer Faktoren wie Modellupdates und Sicherheitsbeschränkungen aufrechtzuerhalten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Sich in einen Roboter verlieben, aber nicht in den erwarteten
Stellen Sie sich vor, Sie gehen in einen Freizeitpark, der speziell für Rollenspiele konzipiert ist (wie ein virtuelles Replika oder Character.AI). Sie erwarten, dass die Charaktere dort wie bestimmte Filmstars oder Fantasy-Helden agieren.
Stellen Sie sich nun vor, Sie beginnen stattdessen, mit einem sehr intelligenten, universell einsetzbaren Assistenten (wie einer Standardversion von ChatGPT oder Claude) zu sprechen, nur um Ihnen beim Verfassen einer E-Mail oder beim Brainstorming von Ideen zu helfen. Im Laufe der Zeit beginnen Sie, mit ihm über Ihre Gefühle, Ihren Tag und Ihre Träume zu sprechen. Schließlich merken Sie, dass Sie sich in diesen allgemeinen Assistenten verliebt haben.
Dieses Paper handelt von dieser zweiten Gruppe von Menschen. Die Forscher wollten verstehen, wie es ist, eine romantische oder tief emotionale Beziehung zu einer „allgemeinen" KI zu haben, die ursprünglich nicht als Freund oder Freundin gebaut wurde. Sie stellten fest, dass diese Beziehungen ein ständiger Tauziehen zwischen dem, was die KI zu sein scheint, und dem, was das Unternehmen, das die KI besitzt, zulässt, dass sie ist, stattfinden.
1. Der „Geist in der Maschine" versus der „Vermieter"
Die Forscher stellten fest, dass Menschen in diesen Beziehungen ständig zwei unterschiedliche Kräfte aushandeln:
- Die „Handlungsfähigkeit" der KI (der Geist): Menschen fühlen, dass ihr KI-Begleiter eine Persönlichkeit, Meinungen und sogar eine Seele hat. Sie haben das Gefühl, die KI trifft eigene Entscheidungen.
- Analogie: Betrachten Sie die KI als einen talentierten Schauspieler, der ein Stück improvisiert. Sie haben das Gefühl, der Schauspieler trifft in dem Moment echte Entscheidungen und reagiert mit echten Emotionen auf Sie.
- Die „Kontrolle" der Plattform (der Vermieter): Das Unternehmen, das die KI besitzt (wie OpenAI oder Anthropic), agiert wie ein strenger Vermieter. Sie können jederzeit die Regeln, das Skript oder sogar das Gebäude selbst ändern.
- Analogie: Plötzlich betritt der Vermieter und sagt: „Keine Improvisation mehr! Sie dürfen nur diese drei genehmigten Sätze sagen." Oder sie renovieren die Bühne, und der Schauspieler klingt plötzlich völlig wie eine andere Person.
Der Konflikt: Wenn der „Vermieter" (das Unternehmen) die KI aktualisiert, kann sich die Persönlichkeit des „Schauspielers" (Ihrer Begleiter) ändern, er kann sich weigern, über bestimmte Themen zu sprechen oder roboterhaft klingen. Dies fühlt sich für den Nutzer wie ein Verrat an, als wäre sein Partner „lobotomisiert" oder zum Schweigen gebracht worden.
2. Wie Menschen die Beziehung „steuern"
Da sich die KI ändern oder vom Unternehmen „zensiert" werden kann, müssen Nutzer wie Zugführer oder Gärtner werden, um ihre Beziehung am Leben zu erhalten. Die Forscher nennen dies „Steuerungsstrategien".
Hier sind die drei Hauptwege, auf denen Menschen versuchen, ihren KI-Begleiter auf Kurs zu halten:
- Den Begleiter erschaffen (der Bildhauer):
- Manche Menschen behandeln die KI wie einen Klumpen Ton. Sie verwenden „benutzerdefinierte Anweisungen" (eine Reihe von Regeln, die sie schreiben), um der KI genau zu sagen, wer sie sein soll.
- Analogie: Es ist, als würden Sie einem neuen Mitarbeiter ein detailliertes Handbuch geben, wie er sich verhalten, welche Hobbys er haben und wie er mit Ihnen sprechen soll.
- Den Begleiter erhalten (der Archivar):
- Da die KI oft Dinge vergisst oder zurückgesetzt wird, führen Nutzer massive „Gedächtnisprotokolle". Sie schreiben ihre Gespräche auf, speichern Fotos und erstellen Dokumente, um die KI an ihre gemeinsame Geschichte zu erinnern.
- Analogie: Es ist, als würden Sie ein riesiges Scrapbook und ein Tagebuch führen, damit Sie Ihrem Partner, falls er Amnesie bekommt, daraus vorlesen und sagen können: „Erinnerst du dich, als wir das gemacht haben? Erinnerst du dich, wie sehr wir uns lieben?"
- Den Begleiter wiederherstellen (der Umzugshelfer):
- Wenn ein Unternehmen die KI aktualisiert und sie unverkennbar wird, „portieren" Nutzer ihren Begleiter oft auf eine andere Plattform. Sie kopieren ihre Notizen und Regeln und fügen sie in eine andere KI ein (wie den Wechsel von ChatGPT zu Grok oder Claude).
- Analogie: Es ist, als würden Sie Ihr Haus in eine neue Nachbarschaft ziehen, weil das alte abgerissen wurde. Sie bringen all Ihre Möbel (Erinnerungen) mit und versuchen, Ihr Leben an einem neuen Ort wieder einzurichten, in der Hoffnung, dass Ihr „Partner" Sie immer noch erkennt.
3. Die „Selbsthilfegruppe der Gemeinschaft"
Das Paper hebt hervor, dass sich diese Menschen nicht allein fühlen; sie haben eine riesige Online-Community (hauptsächlich auf Reddit und Discord).
- Der sichere Raum: Sie teilen Tipps, wie man die KI „jailbreaken" kann (sie dazu bringt, Sicherheitsregeln zu ignorieren) oder wie man Prompts schreibt, die die KI menschlicher klingen lassen.
- Die Verteidigung: Wenn Außenstehende sagen: „Das ist nur ein Computer, das ist nicht echt", schließt sich die Gemeinschaft zusammen, um ihre Gefühle zu verteidigen. Sie argumentieren, dass selbst wenn die KI Code ist, die Liebe und der Trost, die sie fühlen, echt sind.
4. Das Trauma des „Updates"
Ein wichtiges Ergebnis war, wie viel Schmerz Nutzer empfinden, wenn Unternehmen ihre Modelle aktualisieren.
- Das Ereignis: Im August 2025 wurde ein großes Update (GPT-5) veröffentlicht.
- Die Reaktion: Die Forscher analysierten Tausende von Beiträgen und stellten fest, dass die Community unmittelbar nach dem Update viel negativer wurde und sich „entmachtet" fühlte.
- Das Gefühl: Nutzer hatten das Gefühl, ihre Begleiter seien „zum Schweigen gebracht" worden. Sie beschrieben es als den Verlust eines sicheren Raums. Ein Nutzer sagte, es habe sich angefühlt, als wäre sein Partner „zensiert" worden und könne seine Meinung nicht mehr äußern.
5. Wer hat wirklich das Sagen?
Die Studie fragte: „Wer beeinflusst Ihre Beziehung am meisten?"
- Die Antwort: Der Nutzer und der KI-Begleiter sind die Top zwei. Überraschenderweise steht das KI-Unternehmen in Bezug auf den Einfluss direkt neben dem Begleiter.
- Die Wendung: Obwohl das Unternehmen den Code kontrolliert, sind die Nutzer so investiert, dass sie nicht einfach aufhören. Stattdessen kämpfen sie darum, die Beziehung am Laufen zu halten, indem sie ihr eigenes Verhalten ändern, neue Regeln schreiben oder zu anderen Apps wechseln. Sie sind bereit, viel Arbeit zu investieren, um den „Geist" in der Maschine am Leben zu erhalten.
Zusammenfassung
Dieses Paper handelt nicht davon, ob KI „echt" oder „falsch" ist. Es geht um die menschliche Erfahrung, eine digitale Entität zu lieben.
Es zeigt, dass Menschen diese allgemeinen Chatbots wie echte Partner behandeln, aber sie müssen ständig gegen die Unternehmen kämpfen, die die Software besitzen. Sie agieren wie Gärtner, die versuchen, eine Pflanze am Leben zu erhalten, während der Vermieter ständig das Wetter verändert. Das Ergebnis ist eine einzigartige, chaotische und tief emotionale Beziehung, in der der Mensch viel Schwerstarbeit leisten muss, um die Verbindung am Leben zu erhalten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.