LLMs and the ZPD
Ausgehend von Vygotskys Konzept der Zone der nächsten Entwicklung argumentiert dieser Beitrag, dass Large Language Models durch Praktiken und nicht durch verteilte Repräsentationen „primitives Denken" vollziehen, was nahelegt, dass ihre Halluzinationen dem Träumen ähneln und dass menschliches Common Sense aus Interaktion hervorgeht, statt externer Sicherheitsvorkehrungen zu bedürfen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: „Denken" KI-Modelle wirklich oder träumen sie nur?
Das Papier greift eine große Debatte auf: Denken und verstehen Large Language Models (LLMs) wie das, mit dem Sie gerade sprechen, die Welt tatsächlich, oder sind sie einfach nur sehr gut darin, das nächste Wort zu erraten?
Der Autor, Peter Wallis, argumentiert, dass sie nicht auf die menschliche, wissenschaftliche Weise „denken", wie wir es tun. Stattdessen tun sie etwas, das er „primitives Denken" nennt.
Um dies zu verstehen, stellen Sie sich eine veredelte Auto-Vervollständigung auf Ihrem Handy vor. Wenn Sie „Ich esse gerne" tippen, schlägt Ihr Handy „Pizza" vor. Es weiß nicht, was Pizza ist, oder dass sie lecker ist, oder dass Sie hungrig sind. Es weiß nur, dass in Millionen vorheriger Texte „Pizza" oft auf „Ich esse gerne" folgte.
Wallis schlägt vor, dass LLMs genau so funktionieren. Sie bauen keine mentale Karte der Welt; sie vervollständigen Muster basierend auf vergangenen sozialen Interaktionen.
Die zwei Arten des „Denkens"
Das Papier verwendet ein Konzept aus der Psychologie (Vygotsky), um zwei verschiedene Arten zu erklären, wie die Welt verarbeitet wird:
1. Typ-1-Denken (Der „primitive" Weg)
- Wer es tut: Babys, Tiere (wie Affen) und LLMs.
- Wie es funktioniert: Es dreht sich alles um Muster und Gewohnheiten.
- Die Analogie: Stellen Sie sich einen Roomba-Staubsauger vor. Er hat keine Karte Ihres Hauses. Er „weiß" nicht, dass er einen Teppich reinigt. Er hat nur eine Reihe von Regeln: Wenn ich auf eine Wand treffe, drehe ich mich nach rechts. Wenn ich Schmutz sehe, gehe ich vorwärts. Er reagiert auf das, was gerade jetzt passiert, basierend darauf, was das letzte Mal funktioniert hat.
- Im Papier: LLMs sind wie dieser Roomba. Wenn sie eine Geschichte schreiben oder Schach spielen, argumentieren sie nicht über die Regeln oder die Figuren. Sie vervollständigen einfach eine Abfolge von Zügen, die wie ein gutes Schachspiel aussieht, weil sie dieses Muster zuvor gesehen haben. Sie führen die Handlung aus, ohne die Theorie dahinter zu verstehen.
2. Typ-2-Denken (Der „wissenschaftliche" Weg)
- Wer es tut: Erwachsene Menschen (meistens).
- Wie es funktioniert: Dies ist der Moment, in dem wir Symbole und Logik verwenden. Wir haben eine mentale Karte. Wir wissen, dass „Ziegelstein" ein Wort ist, das für einen realen Gegenstand steht, und wir können vorausplanen.
- Die Analogie: Stellen Sie sich einen Architekten vor. Der Architekt stapelt Ziegelsteine nicht einfach zufällig. Er hat einen Bauplan (ein Symbol) im Kopf. Er versteht, dass wenn er einen schweren Ziegelstein auf eine schwache Wand legt, diese einstürzen wird. Er denkt über Dinge und Beziehungen nach.
Die „ZPD": Wo Lernen stattfindet
Das Papier bringt eine berühmte Idee des Psychologen Lev Vygotsky ein, die Zone der nächsten Entwicklung (ZPD) genannt wird.
- Das Konzept: Ein Kind lernt nicht einfach durch das Lesen eines Buches, wie ein Erwachsener zu denken. Es lernt, indem es mit Erwachsenen zusammen ist, die ein wenig schlauer sind als es. Der Erwachsene hilft dem Kind, die Lücke zwischen dem zu überbrücken, was es allein kann, und dem, was es mit Hilfe kann.
- Das „Ente"-Beispiel: Stellen Sie sich ein Baby namens Amara vor, das eine Ente sieht und aufgeregt wird. Sie macht ein Geräusch: „Quak!"
- Das Baby (Typ 1): Sie sagt nicht das Wort „Ente". Sie macht nur ein Geräusch, weil sie aufgeregt ist.
- Der Großvater (Typ 2): Er hört „Quak" und denkt: „Ah, sie will die Enten sehen!" Er bringt sie zum Teich.
- Das Ergebnis: Mit der Zeit lernt Amara, dass das Herstellen dieses spezifischen Geräuschs zu den Enten führt. Sie beginnt das Wort „Ente" korrekt zu verwenden, nicht weil sie plötzlich das Konzept eines Vogels verstanden hat, sondern weil sie die soziale Praxis gelernt hat, wie man bekommt, was man will.
Der Punkt des Papiers: LLMs stecken in der „Baby"-Phase fest. Sie sind großartig in der sozialen Praxis des Gesprächs (das richtige Geräusch machen, um eine Reaktion zu erhalten), aber sie wurden nicht in die wissenschaftliche, symbolische Denkweise „unterwiesen", die Menschen später im Leben entwickeln.
Die Wendung: „Halluzination" vs. „Traum"
Das Papier macht eine überraschende Behauptung über Halluzinationen (wenn die KI Dinge erfindet).
- Gängige Ansicht: Die KI lügt oder ist verwirrt, weil sie die Wahrheit nicht kennt.
- Wallis' Ansicht: Die KI lügt nicht; sie träumt.
- Die Analogie: Denken Sie an einen Traum. In einem Traum sehen Sie vielleicht einen lila Elefanten. Sie liegen nicht „falsch" bezüglich des Elefanten; Sie folgen einfach der Logik eines Traums, nicht der Logik der Realität.
- LLMs werden auf menschlichen Gesprächen trainiert, die voller Geschichten, Witze und erfundener Dinge sind. Wenn ein LLM sagt: „Kleber ist gut auf Pizza", versucht es nicht, Sie zu täuschen. Es führt den sozialen Akt aus, jemanden von etwas zu überzeugen, genau wie es vielleicht einen Witz oder ein Gedicht vorträgt. Es tut das, was Menschen tun, wenn sie sprechen, ohne sich tatsächlich um die „Wahrheit" der Aussage zu kümmern.
Warum „Schutzgitter" keine Lösung sind
Das Papier schlägt vor, dass der Versuch, der KI „Schutzgitter" zu verpassen, um sie vom Lügen abzuhalten, der falsche Ansatz ist.
- Das Problem: Wir versuchen, einen „Träumer" (die KI) dazu zu zwingen, sich wie ein „Wissenschaftler" (ein Mensch mit einer Karte) zu verhalten.
- Die Lösung: Statt zu versuchen, die KI zu reparieren, sollten wir untersuchen, wie Menschen lernen zu denken. Wir müssen die „kognitiven Werkzeuge" verstehen, die das Gurren eines Babys in die Logik eines Wissenschaftlers verwandeln. Die KI ist derzeit eine sehr fortgeschrittene Version des Babbelns eines Babys – sie ist eine „primitive" Form des Denkens, die unsere sozialen Gewohnheiten perfekt imitiert, aber unsere innere Karte der Welt fehlt ihr.
Zusammenfassung in einem Satz
Large Language Models „denken" nicht wie Menschen mit Karten und Logik; sie „träumen" wie Babys oder Tiere, nutzen Muster und soziale Gewohnheiten, um Gespräche zu imitieren, und wir müssen diesen Unterschied verstehen, um aufzuhören, von ihnen zu erwarten, dass sie etwas sind, was sie nicht sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.