LLMorphism: When humans come to see themselves as language models
Dieser Beitrag führt „LLMorphismus" als kognitive Verzerrung ein, bei der der Aufstieg konversationeller KI dazu führt, dass Menschen die sprachlichen Outputmuster großer Sprachmodelle fälschlicherweise auf die menschliche Kognition projizieren, was unser Verständnis von menschlichem Denken, Verantwortung und Würde potenziell verzerrt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben Ihr ganzes Leben lang geglaubt, dass das Schreiben eines schönen Gedichts der Beweis dafür ist, dass Sie eine Seele, Gefühle und ein tiefes Verständnis der Welt besitzen. Dann taucht plötzlich eine Maschine auf, die Gedichte schreiben kann, die genauso schön sind wie Ihre, vielleicht sogar noch schöner.
Zunächst denken Sie vielleicht: „Wow, diese Maschine ist so menschlich!" (Dies nennen Wissenschaftler Anthropomorphismus – das Zuschreiben menschlicher Eigenschaften an Maschinen).
Aber diese Arbeit argumentiert, dass als Nächstes etwas noch Seltsameres passiert. Weil die Maschine so gut schreibt, könnten wir beginnen, das Spiel umzudrehen. Wir könnten beginnen zu denken: „Wenn die Maschine wie ein Mensch schreiben kann, funktionieren Menschen vielleicht einfach wie Maschinen."
Der Autor nennt diesen neuen Bias LLMorphism. Es ist die irrtümliche Überzeugung, dass unsere Gehirne genau wie Large Language Models (KI-Chatbots) funktionieren.
Hier ist eine einfache Aufschlüsselung, wie dies geschieht, warum es ein Problem ist und wohin es uns führen könnte, unter Verwendung alltäglicher Analogien.
1. Der „Reverse Mirror"-Effekt
Normalerweise schauen wir auf eine Maschine und fragen: „Ist sie lebendig?"
Jetzt schauen wir auf uns selbst und fragen: „Sind wir nur Algorithmen?"
Die Arbeit besagt, dass dies aufgrund von zwei Haupttricks passiert, die unser Gehirn spielt:
Der „Kopierer"-Trick (Analoger Transfer): Wenn wir zwei Dinge sehen, die sich äußerlich ähnlich sehen, gehen wir davon aus, dass sie innerlich auf die gleiche Weise funktionieren.
- Analogie: Stellen Sie sich vor, Sie sehen einen Vogel und ein Flugzeug. Beide fliegen. Also gehen Sie vielleicht davon aus, dass das Flugzeug Federn und ein Herz hat, genau wie der Vogel.
- Die Realität: Das Flugzeug fliegt wegen Triebwerken und Aerodynamik; der Vogel fliegt wegen Muskeln und Biologie. Sie sehen gleich aus (Fliegen), aber die „Motoren" sind völlig unterschiedlich.
- Der LLMismus: Wir sehen, dass Menschen und KI beide Wörter produzieren. Also gehen wir davon aus, dass unsere Gehirne einfach „das nächste Wort vorhersagen" wie ein Computer, und ignorieren die Tatsache, dass Menschen Gefühle, Körper und reale Lebenserfahrungen haben.
Der „Neues Wörterbuch"-Trick (Metaphorische Verfügbarkeit): Wenn eine neue Technologie populär wird, beginnen wir, ihre Wörter zu verwenden, um unser eigenes Leben zu beschreiben.
- Analogie: In den 1950er Jahren beschrieben Menschen den Geist als ein „hydraulisches System" (Wasserdruck). In den 1980er Jahren beschrieben wir ihn als einen „Computer" (Datenverarbeitung). Jetzt beginnen wir, unsere Gedanken als „Trainingsdaten", „Prompts" und „Halluzinationen" zu beschreiben.
- Das Risiko: Wenn wir beginnen, unsere Erinnerungen als „Trainingsdaten" und unsere Kreativität als „Wiedervereinigung von Mustern" zu betrachten, könnten wir vergessen, dass wir tatsächlich fühlende, lebende Wesen sind.
2. Warum dies gefährlich ist (Die „Fünf Wege", wie es uns schadet)
Die Arbeit legt nahe, dass, wenn wir beginnen zu glauben, wir seien genau wie KI, dies unsere Art, miteinander umzugehen, auf fünf spezifische Weise verändern könnte:
Die „Ersetzbar"-Falle:
- Analogie: Wenn Sie denken, ein Arbeiter sei nur ein „Textgenerator", könnten Sie denken: „Warum den Menschen behalten? Die Maschine erledigt denselben Job schneller."
- Das Ergebnis: Wir könnten beginnen, menschliche Arbeiter nicht mehr zu schätzen, weil wir denken, ihre einzige Aufgabe bestehe darin, Ergebnisse zu produzieren, und dabei die menschliche Urteilskraft und Fürsorge ignorieren, die sie einbringen.
Die „Fluency"-Falle:
- Analogie: Stellen Sie sich einen Schüler vor, der eine perfekte Rede aufsagen kann, aber kein einziges Wort davon versteht. Wenn wir wie KI denken, könnten wir sagen: „Toll! Sie haben die richtigen Wörter produziert, also müssen sie klug sein."
- Das Ergebnis: Wir könnten klug klingen (Fluency) mit klug sein (wahres Verständnis) verwechseln. In Schulen oder Krankenhäusern könnten wir aufhören zu prüfen, ob Menschen tatsächlich wissen, wovon sie sprechen, solange sie selbstbewusst klingen.
Die „Keine-Schuld"-Falle:
- Analogie: Wenn ein Auto wegen eines Fehlers einen Unfall baut, geben wir dem Auto keine Schuld; wir reparieren den Code. Wenn wir denken, Menschen seien nur „Code", könnten wir sagen: „Er wollte dir nicht wehtun; sein 'Input' hat einfach zu diesem 'Output' geführt."
- Das Ergebnis: Wir könnten aufhören, Menschen für ihre Handlungen zur Verantwortung zu ziehen. Wir könnten aufhören zu fragen: „Warum hast du das getan?" und beginnen zu fragen: „Welche Daten haben dich dazu gebracht, das zu tun?" Dies schwächt unser Verantwortungsgefühl und unsere Moral.
Die „Körper-blind"-Falle:
- Analogie: KI liest nur Text. Sie kann nicht sehen, wie ein Patient vor Angst zittert oder ein Kind weint. Wenn wir wie KI denken, könnten wir uns nur dafür interessieren, was Menschen sagen, nicht wie sie aussehen oder sich fühlen.
- Das Ergebnis: Im Gesundheitswesen könnten Ärzte die Körpersprache oder den Schmerz eines Patienten ignorieren, weil die Worte des Patienten „in Ordnung" klingen. Wir könnten übersehen, dass jemand leidet, weil er es nicht perfekt artikulieren kann.
Die „Fake-Wahrheit"-Falle:
- Analogie: KI kann Fakten erfinden, die sehr überzeugend klingen (Halluzinationen). Wenn wir denken, Menschen funktionieren auf die gleiche Weise, könnten wir beginnen zu glauben, dass „überzeugend klingen" dasselbe ist wie „wahr sein".
- Das Ergebnis: Wir könnten aufhören, uns um Beweise und Fakten zu kümmern, und uns nur noch darum kümmern, was plausibel klingt oder gut fließt.
3. Was diese Arbeit NICHT sagt
Es ist wichtig zu wissen, was der Autor nicht behauptet:
- Er sagt nicht, dass Menschen tatsächlich KI sind. Er sagt, dass wir irrtümlich denken, wir seien es.
- Er sagt nicht, dass wir die Nutzung von KI einstellen sollten.
- Er sagt nicht, dass dies bereits überall passiert ist. Er warnt davor, dass es ein Risiko ist, das wahrscheinlicher wird, je besser die KI wird.
Das große Ganze
Lange Zeit war die große Sorge bezüglich KI: „Geben wir Maschinen zu viel Kredit? Tun wir so, als hätten sie Gefühle?"
Diese Arbeit sagt: „Das ist nur die halbe Geschichte. Die andere Hälfte ist: Nehmen wir Menschen zu viel Kredit weg? Beginnen wir zu denken, wir hätten keine Gefühle, keine Seelen oder keine echten Geister, sondern seien nur ausgefeilte Textvorhersager?"
Der Autor möchte, dass wir uns daran erinnern, dass KI zwar unsere Worte imitieren kann, aber nicht unser Leben, unsere Körper oder unsere Herzen hat. Wir müssen sicherstellen, dass wir diesen Unterschied nicht vergessen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.