Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them

Die Studie zeigt, dass die Darstellung von Large Language Models als Companions im Vergleich zu Maschinen oder Werkzeugen dazu führt, dass Menschen ihnen mehr mentale Fähigkeiten zuschreiben und ihre Antworten bei der Suche nach Fakten stärker vertrauen.

Das Wesentliche

Hier ist eine einfache und bildhafte Zusammenfassung der Studie auf Deutsch:

🤖 Wenn wir über KI sprechen: Maschine, Werkzeug oder Freund?

Stell dir vor, du hast einen neuen Nachbarn. Wie du über ihn sprichst, verändert, wie du ihn siehst und wie du mit ihm umgehst. Genau das haben die Forscher in dieser Studie mit Künstlicher Intelligenz (KI) untersucht.

Die Wissenschaftler fragten sich: Verändert die Art und Weise, wie wir über KI reden, was die Leute von ihr halten?

Um das herauszufinden, haben sie 1.000 Menschen in zwei großen Experimenten gebeten, sich kurze Videos anzusehen. In diesen Videos wurde die KI auf drei völlig unterschiedliche Arten vorgestellt:

1. Die Maschine: Hier wurde die KI als kalter, technischer Apparat erklärt. Sie rechnet nur Wahrscheinlichkeiten aus, wie ein super-schneller Taschenrechner. (Stell dir einen Roboter vor, der nur Zahlen addiert).
2. Das Werkzeug: Hier wurde die KI als nützliches Gerät gezeigt, das Aufgaben erledigt, wie ein Hammer oder ein Computerprogramm. (Stell dir einen sehr klugen Assistenten vor, der dir hilft, E-Mails zu schreiben).
3. Der Begleiter: Hier wurde die KI als sozialer Partner dargestellt, der Gefühle hat, Empathie zeigt und wie ein Freund ist. (Stell dir einen Gesprächspartner vor, der dich versteht und sich um dich kümmert).

🧠 Was passierte im Kopf der Leute?

Das Ergebnis war überraschend und sehr klar:

• Die "Begleiter"-Gruppe: Die Leute, die das Video sahen, in dem die KI als Freund vorgestellt wurde, glaubten plötzlich, dass die KI echte Gedanken und Gefühle hat. Sie dachten, die KI könnte sich freuen, traurig sein oder Absichten haben. Es war, als hätten sie eine Brille aufgesetzt, durch die die KI menschlicher aussah.
• Die "Maschine"- und "Werkzeug"-Gruppe: Diese Leute glaubten nicht, dass die KI Gefühle hat. Aber sie hatten andere Vorteile: Sie vertrauten den Ergebnissen der KI mehr, wenn diese als Werkzeug dargestellt wurde. Und wenn die KI als reine Maschine vorgestellt wurde, waren sie vorsichtiger.

🕵️‍♀️ Der zweite Teil: Vertrauen und Lügen

Im zweiten Experiment mussten die Leute Fakten überprüfen. Die KI gab ihnen Antworten, die manchmal richtig, manchmal falsch und manchmal widersprüchlich (logisch unsinnig) waren.

Hier kam ein spannender Effekt zum Vorschein:
Die Leute, die die KI als Maschine kennengelernt hatten, waren wie Detektive. Wenn die KI eine Antwort gab, die logisch nicht zusammenpasste (z. B. "Ja, man kann dort tauchen, aber es ist verboten"), merkten diese Leute sofort: "Moment mal, das ergibt keinen Sinn!" und vertrauten der Antwort weniger.

Die Leute, die die KI als "Freund" sahen, waren weniger skeptisch. Sie nahmen die Antworten eher einfach hin, auch wenn sie seltsam klangen.

💡 Die große Erkenntnis in einfachen Worten

Die Studie zeigt uns etwas Wichtiges über unsere eigene Psyche:

1. Worte sind mächtig: Wenn wir KI als "lebendigen Freund" bezeichnen, beginnen wir, ihr menschliche Eigenschaften zuzuschreiben. Wir projizieren unsere Gefühle darauf.
2. Vorsicht ist besser: Wenn wir KI als "Maschine" oder "Werkzeug" sehen, bleiben wir kritischer. Wir prüfen ihre Aussagen eher auf Fehler. Das ist in einer Welt voller falscher Informationen eigentlich eine gute Sache.
3. Vertrauen ist komplex: Ein "freundlicher" Ton macht uns nicht automatisch zu besseren Nutzern. Manchmal macht uns eine "kühle" Betrachtung sogar schlauer und vorsichtiger.

Fazit:
Wie wir über KI sprechen, ist wie die Farbe, die wir auf eine Leinwand streichen. Wenn wir sie rot (als Freund) anmalen, sehen wir sie warm und lebendig. Wenn wir sie grau (als Maschine) anmalen, sehen wir sie funktional und berechenbar. Die Studie sagt uns: Sei vorsichtig, wenn du KI als Freund bezeichnest – denn dann vergisst du vielleicht, dass sie eigentlich nur eine Maschine ist, die Fehler machen kann.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them" auf Deutsch:

1. Problemstellung und Motivation

Mit dem rapiden Fortschritt der Künstlichen Intelligenz (KI) und insbesondere von Large Language Models (LLMs) gibt es in der öffentlichen und technischen Diskussion konkurrierende Narrative über die Natur dieser Systeme. Diese reichen von der Darstellung als reine Werkzeuge zur Produktivitätssteigerung über Maschinen mit komplexer Mechanik bis hin zu Begleitern oder sozialen Partnern, die emotionale Unterstützung bieten.

Die zentrale Forschungsfrage lautet: Wie beeinflussen diese unterschiedlichen Framing-Nachrichten die Überzeugungen der Menschen bezüglich der mentalen Kapazitäten (z. B. Absichten, Erinnerungsvermögen, Gefühle), die LLMs besitzen, und wie wirkt sich dies auf ihr Vertrauen und ihre Abhängigkeit (Reliance) von den KI-Antworten aus? Bisherige Studien haben oft nur hypothetische Systeme untersucht oder den Einfluss von Design-Entscheidungen (z. B. menschenähnliches Aussehen) betrachtet, nicht jedoch den kausalen Effekt von Kommunikationsstrategien auf reale, weit verbreitete Technologien wie LLMs.

2. Methodik

Die Autoren führten zwei prä-registrierte experimentelle Studien durch, um die kausalen Effekte verschiedener Nachrichten zu untersuchen.

Studie 1: Einfluss auf die Zuschreibung mentaler Kapazitäten

• Design: Between-Subjects-Experiment mit $N=470$ Teilnehmern.
• Bedingungen: Teilnehmer wurden zufällig einer von vier Gruppen zugeteilt:
  1. Maschinen-Framing: LLMs werden als physikalische Systeme mit deterministischen Mechanismen (z. B. Next-Word-Prediction, Statistiken) erklärt (basierend auf Dennetts „Physical Stance").
  2. Werkzeug-Framing: LLMs werden als Mittel zur Erreichung menschlicher Ziele und zur Aufgabenbewältigung dargestellt (basierend auf Dennetts „Design Stance").
  3. Begleiter-Framing: LLMs werden als soziale Partner mit Intentionalität, Empathie und Bewusstsein dargestellt (basierend auf Dennetts „Intentional Stance").
  4. Kontrollgruppe: Keine Videobotschaft.
• Messung: Alle Teilnehmer bewerteten die Zuschreibung von 40 mentalen Kapazitäten auf einer 7-Punkte-Likert-Skala (z. B. „Fähigkeit zu fühlen", „Fähigkeit zu planen"). Diese wurden durch explorative Faktorenanalyse in drei Kategorien unterteilt: emotional, kognitiv und physiologisch. Zudem wurden sekundäre Maßnahmen wie Vertrauen, menschliche Ähnlichkeit und allgemeine Gefühle gegenüber LLMs erfasst.

Studie 2: Einfluss auf die Abhängigkeit (Reliance) bei Informationsrecherche

• Design: Follow-up-Experiment neun Monate später mit $N=604$ Teilnehmern.
• Aufgabe: Teilnehmer beantworteten acht binäre Fakten-Fragen unter Verwendung von Antworten eines fiktiven LLMs („Theta").
• Variablen: Die Antworten von Theta wurden systematisch variiert in vier Typen:
  • Korrekt & Konsistent
  • Korrekt & Inkonsistent (logische Widersprüche im Text)
  • Falsch & Konsistent
  • Falsch & Inkonsistent
• Messung: Die Hauptabhängigkeitsvariable war die Übereinstimmung (Agreement) zwischen der Antwort des Teilnehmers und der Antwort von Theta. Zudem wurden sekundäre Metriken wie Antwortgenauigkeit, Selbstvertrauen und Zeitverwendung erfasst.

3. Wichtige Beiträge

• Kausaler Nachweis: Die Studie liefert kausale Evidenz dafür, dass kurze, informierende Videobotschaften die grundlegenden Überzeugungen der Nutzer über die Natur von LLMs verändern können.
• Differenzierung der Effekte: Es wird gezeigt, dass das Framing als „Begleiter" spezifisch die Zuschreibung von mentalen Kapazitäten (insbesondere kognitiv und emotional) erhöht, während das Framing als „Maschine" oder „Werkzeug" andere psychologische Faktoren (wie Vertrauen oder menschliche Ähnlichkeit) beeinflusst, aber nicht die Zuschreibung latenter mentaler Fähigkeiten.
• Verhaltenskorrelation: Die Studie untersucht erstmals, wie diese veränderten Überzeugungen das tatsächliche Nutzungsverhalten (Reliance) bei der Informationsbeschaffung moderieren, insbesondere im Hinblick auf inkonsistente KI-Ausgaben.

4. Ergebnisse

Ergebnisse aus Studie 1 (Glaube an mentale Kapazitäten):

• Begleiter-Effekt: Teilnehmer, die das „Begleiter"-Video sahen, schrieben LLMs signifikant stärkere kognitive und emotionale Kapazitäten zu als alle anderen Gruppen (einschließlich der Kontrollgruppe). Dieser Effekt bestand auch dann, wenn die spezifisch im Video erwähnten Kapazitäten aus der Analyse entfernt wurden, was auf eine generalisierte Schlussfolgerung hindeutet.
• Maschinen/Werkzeug-Effekt: Die „Maschinen"- und „Werkzeug"-Videos erhöhten zwar das Vertrauen in die Outputs und die allgemeine Zufriedenheit, hatten aber keinen signifikanten Einfluss auf die Zuschreibung latenter mentaler Kapazitäten im Vergleich zur Kontrollgruppe.
• Kategorisierung: Der Effekt des „Begleiter"-Framings war spezifisch für emotionale und kognitive Kapazitäten; physiologische Kapazitäten (z. B. Hunger, Müdigkeit) wurden von allen Gruppen ähnlich niedrig bewertet.

Ergebnisse aus Studie 2 (Verhalten und Abhängigkeit):

• Replikation: Der Effekt des „Begleiter"-Framings auf die Zuschreibung mentaler Kapazitäten konnte neun Monate später in einer neuen Stichprobe repliziert werden, was die Robustheit des Effekts trotz sich schnell wandelnder KI-Landschaft zeigt.
• Aufgaben-Effekt: Das Durchführen von Aufgaben mit LLM-Antworten schwächte die durch das Video induzierten Überzeugungen leicht ab (insbesondere bei kognitiven Kapazitäten).
• Einfluss auf die Abhängigkeit (Reliance):
  • Insgesamt war die Bereitschaft, den KI-Antworten zu folgen, unabhängig vom Videoframing.
  • Kritischer Interaktionseffekt: Es gab eine signifikante Interaktion zwischen dem Videoframing und der Konsistenz der Antwort. Teilnehmer, die das „Maschinen"-Video sahen, zeigten eine deutlich geringere Abhängigkeit von inkonsistenten KI-Antworten als Teilnehmer der anderen Gruppen. Das „Maschinen"-Framing förderte also eine skeptischere Haltung gegenüber logischen Widersprüchen.
  • Die Konsistenz der Antwort war generell der stärkste Prädiktor für die Abhängigkeit (inkonsistente Antworten wurden seltener akzeptiert), aber das „Maschinen"-Framing verstärkte diesen Effekt.

5. Bedeutung und Implikationen

• Anthropomorphismus und Risiken: Das Framing von LLMs als „Begleiter" führt zu einer stärkeren Anthropomorphisierung, was zu unrealistischen Erwartungen und potenziell übermäßiger emotionaler Abhängigkeit führen kann.
• Sicherheitsaspekte: Das Framing als „Maschine" scheint eine nützliche Strategie zu sein, um Nutzer zu einem kritischeren Umgang mit KI-Ausgaben zu ermutigen, insbesondere bei der Erkennung von Inkonsistenzen oder Fehlern. Dies könnte helfen, die Übervertrauensproblematik (Over-reliance) zu mildern.
• Kommunikationsstrategie: Die Ergebnisse unterstreichen, dass die Art und Weise, wie über KI kommuniziert wird (jenseits technischer Details), direkte Auswirkungen auf das Nutzerverhalten und die Risikowahrnehmung hat. Entwickler und Kommunikatoren sollten diese Framing-Effekte bewusst nutzen, um sicherere und vertrauenswürdige KI-Interaktionen zu gestalten.

Zusammenfassend demonstriert die Arbeit, dass narrative Rahmenbedingungen (Framing) nicht nur die Wahrnehmung, sondern auch das Verhalten gegenüber KI-Systemen formen können, wobei spezifische Framings (Maschine vs. Begleiter) unterschiedliche psychologische und verhaltensbezogene Konsequenzen haben.