How Anthropomorphic Language Impacts Public Perceptions of AI
Diese Studie stellt fest, dass die Verwendung anthropomorpher Sprache in der öffentlichen KI-Diskussion – entgegen der Bedenken hinsichtlich irreführender Erwartungen – die unmittelbare Wahrnehmung von KI-Technologien durch die Teilnehmer im Vergleich zu nicht-anthropomorphen Beschreibungen nicht wesentlich verändert, wenngleich langfristige oder naturalistische Effekte möglich bleiben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Freund eine sehr komplexe Maschine zu erklären. Sie haben zwei Möglichkeiten, sie zu beschreiben:
- Der „Roboter-Freund“-Ansatz: Sie sagen: „Die Maschine denkt über Ihre Probleme nach, möchte Ihnen helfen und entscheidet, was Sie kaufen sollten.“ (Dies ist anthropomorphe Sprache – man schreibt einem nicht-menschlichen Ding menschliche Eigenschaften zu).
- Der „Werkzeugkasten“-Ansatz: Sie sagen: „Die Maschine verarbeitet Daten, um Vorschläge zu generieren, basierend auf Mustern, die sie gefunden hat.“ (Dies ist nicht-anthropomorphe Sprache – sie beschreibt sie als Werkzeug).
Dieses Paper von Betty Li Hou und ihrem Team von der NYU und der Boston University stellt eine einfache Frage: Verändert die Art und Weise, wie wir über KI sprechen, tatsächlich die Gefühle der Menschen gegenüber ihr?
Das Experiment: Ein Geschmackstest für KI
Die Forscher richteten einen „Geschmackstest“ für die öffentliche Meinung ein. Sie sammelten 815 Personen und gaben ihnen ein „Briefing-Paket“ – eine Sammlung von Artikeln über KI, die eine normale Person online lesen könnte.
Sie teilten die Teilnehmer in Gruppen auf und gaben ihnen verschiedene Versionen derselben Geschichte:
- Gruppe A las Geschichten, in denen die KI wie ein Mensch beschrieben wurde (sie „denkt“, „will“, „entscheidet“).
- Gruppe B las exakt dieselben Geschichten, aber die Wörter wurden so ausgetauscht, dass sie eher wie ein Taschenrechner klangen (sie „verarbeitet“, „gibt aus“, „wird verwendet“).
- Gruppe C (Die Kontrollgruppe) las Geschichten, die speziell darauf ausgelegt waren, Menschen zu erschrecken, mit der Warnung, dass KI bald so gefährlich wie Atomwaffen sein könnte.
Sie testeten auch zwei verschiedene Arten von KI:
- Chatbots (LLMs): Wie jene, die Aufsätze schreiben oder mit Ihnen sprechen.
- Empfehlungssysteme: Wie die Algorithmen auf Netflix oder Amazon, die vorschlagen, was Sie schauen oder kaufen könnten.
Vor und nach dem Lesen beantworteten die Teilnehmer Fragen zu:
- Wer ist schuld, wenn die KI einen Fehler macht?
- Wird die KI unsere Jobs übernehmen?
- Können wir die KI testen, um sicherzustellen, dass sie sicher ist?
- Ist KI gut oder schlecht für die Gesellschaft?
Die große Überrasung: Der „Roboter-Freund“ funktionierte nicht
Die Forscher erwarteten, dass die Beschreibung der KI als ein „denkendes, entscheidendes“ Wesen die Menschen entweder ängstlicher machen, das Vertrauen stärken oder ihre Meinung darüber ändern würde, wer für Fehler verantwortlich ist.
Aber das passierte nicht.
Egal, ob die Menschen die „Roboter-Freund“-Version oder die „Werkzeugkasten“-Version lasen, ihre Meinungen blieben exakt gleich.
- Sie dachten nicht plötzlich, dass die KI gefährlicher sei.
- Sie dachten nicht plötzlich, dass die KI vertrauenswürdiger sei.
- Sie änderten ihre Meinung nicht darüber, wer die Schuld an Fehlern tragen sollte.
Es ist, als würde man jemandem eine Geschichte über ein Auto erzählen, entweder als „ein Auto, das will, schnell zu fahren“ oder als „eine Maschine, die Treibstoff nutzt, um schnell zu fahren“. Die Meinung des Zuhörers zur Autosicherheit änderte sich nicht aufgrund der Wortwahl.
Der wahre Treiber: Das „Weltuntergangs-Paket“
Als die Forscher jedoch das „Weltuntergangs-Paket“ (dasjenige, das explizit vor katastrophalen Risiken warnte) gaben, waren die Ergebnisse völlig anders.
Menschen, die die gruseligen Warnungen lasen, änderten ihre Meinung. Sie wurden besorgter darüber, dass die KI die Kontrolle übernehmen könnte, weniger zuversichtlich, dass man sie sicher testen kann, und negativer in Bezug auf ihre Auswirkungen auf die Gesellschaft.
Die Analogie:
Denken Sie an die „Roboter-Freund“-Sprache als ein Gewürz. Man kann es über die Suppe (den Text) streuen, aber es verändert nicht die Hauptzutaten. Das „Weltuntergangs-Paket“ hingegen war wie das Hinzufügen einer ganz neuen, scharfen Zutat zur Suppe. Das änderte tatsächlich den Geschmack.
Was dies bedeutet (laut dem Paper)
Das Paper kommt zu dem Schluss, dass Inhalt wichtiger ist als Stil.
- Wenn man die Gefühle der Menschen gegenüber der KI verändern will, muss man ändern, was man ihnen erzählt (z. B. die tatsächlichen Risiken oder Vorteile), und nicht nur, wie man die KI beschreibt (z. B. „intelligent“ vs. „komplex“).
- Die unmittelbare Wirkung der Verwendung „menschlicher“ Wörter zur Beschreibung von KI ist sehr gering, fast nicht existent.
Eine kleine Einschränkung
Die Autoren sind vorsichtig und sagen, dass dies nur unmittelbare Reaktionen misst. Sie merken an, dass, wenn Menschen über Jahre hinweg jeden Tag hören, dass die KI „denkt“, oder wenn sie ständig mit KI interagieren, diese kleinen Effekte sich über die Zeit summieren könnten. Aber für eine einzelne Lesesitzung? Die „menschlichen“ Wörter bewegten keinen Millimeter.
Kurz gesagt: Ein Taschenrechner als „denkendes Genie“ zu bezeichnen, führt nicht dazu, dass Menschen plötzlich glauben, er sei lebendig oder gefährlich. Aber ihnen zu sagen: „Dieser Taschenrechner könnte die Welt zur Explosion bringen“, ändert das definitiv.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.