LLMorphism: When humans come to see themselves as language models
Dit artikel introduceert "LLMorphism" als een cognitieve bias waarbij de opkomst van conversatie-AI ertoe leidt dat mensen ten onrechte de taalkundige outputpatronen van grote taalmodellen projecteren op menselijke cognitie, wat potentieel onze opvattingen over menselijk denken, verantwoordelijkheid en waardigheid kan verstoren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je je hele leven hebt geloofd dat het schrijven van een mooi gedicht het bewijs is dat je een ziel hebt, gevoelens en een diep begrip van de wereld. Dan verschijnt er plotseling een machine die gedichten kan schrijven die net zo mooi zijn, misschien zelfs mooier, dan die jij kunt schrijven.
In eerste instantie zou je kunnen denken: "Wow, deze machine is zo menselijk!" (Dit noemen wetenschappers anthropomorfisme—het toekennen van menselijke eigenschappen aan machines).
Maar dit artikel betoogt dat er iets nog vreemders aan de hand is. Omdat de machine zo goed schrijft, kunnen we de rollen beginnen om te draaien. We kunnen gaan denken: "Als de machine kan schrijven zoals een mens, werken mensen misschien wel gewoon als machines."
De auteur noemt deze nieuwe bias LLM-isme. Het is de verkeerde overtuiging dat onze hersenen precies werken zoals Large Language Models (AI-chatbots).
Hier is een eenvoudige uiteenzetting van hoe dit gebeurt, waarom het een probleem is en waar het ons naartoe kan leiden, met behulp van alledaagse analogieën.
1. Het "Omgekeerde Spiegel"-effect
Normaal gesproken kijken we naar een machine en vragen we: "Is het levend?"
Nu kijken we naar onszelf en vragen we: "Zijn wij gewoon algoritmen?"
Het artikel stelt dat dit gebeurt door twee hoofdspellen die onze hersenen spelen:
De "Kopieer"-truc (Analogische Overdracht): Wanneer we twee dingen zien die aan de buitenkant op elkaar lijken, gaan we ervan uit dat ze aan de binnenkant op dezelfde manier werken.
- Analogie: Stel je een vogel en een vliegtuig voor. Beide vliegen. Je zou dus kunnen aannemen dat het vliegtuig veren en een hart heeft, net als de vogel.
- De Realiteit: Het vliegtuig vliegt dankzij motoren en aerodynamica; de vogel vliegt dankzij spieren en biologie. Ze lijken hetzelfde (vliegen), maar de "motoren" zijn totaal verschillend.
- Het LLM-isme: We zien dat mensen en AI beide woorden produceren. Dus gaan we ervan uit dat onze hersenen gewoon "het volgende woord voorspellen" zoals een computer, en negeren we het feit dat mensen gevoelens, lichamen en echte levenservaringen hebben.
De "Nieuwe Woordenlijst"-truc (Metaforische Beschikbaarheid): Wanneer een nieuwe technologie populair wordt, beginnen we zijn woorden te gebruiken om ons eigen leven te beschrijven.
- Analogie: In de jaren 50 beschreven mensen de geest als een "hydraulisch systeem" (waterdruk). In de jaren 80 beschreven we het als een "computer" (gegevens verwerken). Nu beginnen we onze gedachten te beschrijven als "trainingsdata", "prompts" en "hallucinaties".
- Het Risico: Als we beginnen te denken aan onze herinneringen als "trainingsdata" en onze creativiteit als "patronen combineren", kunnen we vergeten dat we eigenlijk voelende, levende wezens zijn.
2. Waarom dit Gevaarlijk Is (De "Vijf Manieren" waarop het ons Kwaad Doet)
Het artikel suggereert dat als we gaan geloven dat we net als AI zijn, dit op vijf specifieke manieren kan veranderen hoe we met elkaar omgaan:
De "Vervangbare"-valstrik:
- Analogie: Als je denkt dat een werknemer gewoon een "tekstgenerator" is, zou je kunnen denken: "Waarom die mens behouden? De machine doet hetzelfde werk sneller."
- Het Resultaat: We kunnen stoppen met het waarderen van menselijke werknemers omdat we denken dat hun enige taak het produceren van output is, en negeren het menselijke oordeel en de zorg die ze brengen.
De "Vlotheid"-valstrik:
- Analogie: Stel je een student voor die een perfect speech kan opzeggen maar geen enkel woord ervan begrijpt. Als we denken als AI, zouden we kunnen zeggen: "Geweldig! Ze hebben de juiste woorden geproduceerd, dus ze moeten slim zijn."
- Het Resultaat: We kunnen slim klinken (vlotheid) verwarren met slim zijn (echte begrip). In scholen of ziekenhuizen kunnen we stoppen met controleren of mensen eigenlijk weten waar ze het over hebben, zolang ze maar zelfverzekerd klinken.
De "Geen-Schuld"-valstrik:
- Analogie: Als een auto crasht door een bug, verwijten we de auto niet; we repareren de code. Als we denken dat mensen gewoon "code" zijn, zouden we kunnen zeggen: "Hij wilde je geen pijn doen; zijn 'input' leidde gewoon tot die 'output'."
- Het Resultaat: We kunnen stoppen met mensen verantwoordelijk te houden voor hun daden. We kunnen stoppen met vragen: "Waarom heb je dat gedaan?" en beginnen met vragen: "Welke data heeft je dat laten doen?" Dit verzwakt ons gevoel van verantwoordelijkheid en moraliteit.
De "Lichaam-Blind"-valstrik:
- Analogie: AI leest alleen tekst. Het kan niet zien dat een patiënt van angst schudt of dat een kind huilt. Als we denken als AI, kunnen we alleen geven om wat mensen zeggen, niet hoe ze eruitzien of voelen.
- Het Resultaat: In de gezondheidszorg kunnen artsen de lichaamstaal of pijn van een patiënt negeren omdat de woorden van de patiënt "goed" klinken. We kunnen het feit missen dat iemand lijdt omdat ze het niet perfect kunnen verwoorden.
De "Valse Waarheid"-valstrik:
- Analogie: AI kan feiten verzinnen die erg overtuigend klinken (hallucinaties). Als we denken dat mensen op dezelfde manier werken, kunnen we gaan denken dat "overtuigend klinken" hetzelfde is als "waar zijn".
- Het Resultaat: We kunnen stoppen met geven om bewijs en feiten, en alleen geven om wat geloofwaardig klinkt of goed loopt.
3. Wat dit Artikel NIET Zegt
Het is belangrijk te weten wat de auteur niet beweert:
- Hij zegt niet dat mensen echt AI zijn. Hij zegt dat we ten onrechte denken dat we het zijn.
- Hij zegt niet dat we AI moeten stoppen met gebruiken.
- Hij zegt niet dat dit al overal is gebeurd. Hij waarschuwt dat het een risico is dat waarschijnlijker wordt naarmate AI beter wordt.
Het Grote Geheel
Lange tijd was de grote zorg over AI: "Geven we machines te veel krediet? Doen we alsof ze gevoelens hebben?"
Dit artikel zegt: "Dat is slechts de helft van het verhaal. De andere helft is: Neem we te veel krediet weg van mensen? Beginnen we te denken dat we geen gevoelens, zielen of echte geesten hebben, maar gewoon fancy tekstvoorspellers zijn?"
De auteur wil dat we onthouden dat hoewel AI onze woorden kan nabootsen, het niet onze levens, onze lichamen of onze harten heeft. We moeten ervoor zorgen dat we dat verschil niet vergeten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.