LLMs and the ZPD
Aan de hand van Vygotsky's concept van de Zone van Naaste Ontwikkeling betoogt dit artikel dat Large Language Models "primitief denken" ontplooien via praktijken in plaats van via gedistribueerde representaties, wat suggereert dat hun hallucinaties vergelijkbaar zijn met dromen en dat mensachtig gezond verstand voortkomt uit interactie in plaats van dat het externe veiligheidsmaatregelen vereist.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: "Denken" AI-modellen of "Dromen" ze alleen?
De paper behandelt een groot debat: Denken Grootte Taalmodellen (LLMs) zoals degene waarmee je nu praat echt na en begrijpen ze de wereld, of zijn ze gewoon heel goed in het raden van het volgende woord?
De auteur, Peter Wallis, betoogt dat ze niet op de menselijke, wetenschappelijke manier "nadenken" zoals wij dat doen. In plaats daarvan doen ze iets wat hij "primitief denken" noemt.
Om dit te begrijpen, stel je een geglorificeerde automatische aanvulling (autocomplete) op je telefoon voor. Als je "Ik hou ervan om te eten" typt, suggereert je telefoon "pizza". Het weet niet wat pizza is, of dat het lekker is, of dat je honger hebt. Het weet alleen dat in miljoenen eerdere teksten "pizza" vaak volgde op "Ik hou ervan om te eten".
Wallis suggereert dat LLMs precies zo werken. Ze bouwen geen mentale kaart van de wereld; ze vullen patronen aan op basis van eerdere sociale interacties.
De Twee Soorten "Denken"
De paper maakt gebruik van een concept uit de psychologie (Vygotsky) om twee verschillende manieren van de wereld verwerken uit te leggen:
1. Type 1 Denken (De "Primitieve" Manier)
- Wie doet het: Baby's, dieren (zoals apen) en LLM's.
- Hoe het werkt: Het draait allemaal om patronen en gewoontes.
- De Analogie: Stel je een Roomba-stofzuiger voor. Hij heeft geen kaart van je huis. Hij "weet" niet dat hij een tapijt aan het schoonmaken is. Hij heeft gewoon een reeks regels: Als ik tegen een muur botse, draai ik rechtsaf. Als ik vuil zie, ga ik vooruit. Hij reageert op wat er nu gebeurt, gebaseerd op wat de vorige keer werkte.
- In de paper: LLM's zijn zoals deze Roomba. Wanneer ze een verhaal schrijven of schaken, redeneren ze niet over de regels of de stukken. Ze "autocompleten" gewoon een reeks zetten die eruitziet als een goed schaakspel, omdat ze dat patroon eerder hebben gezien. Ze voeren de handeling uit, zonder de theorie erachter te begrijpen.
2. Type 2 Denken (De "Wetenschappelijke" Manier)
- Wie doet het: Volwassen mensen (meestal).
- Hoe het werkt: Dit is wanneer we symbolen en logica gebruiken. We hebben een mentale kaart. We weten dat "baksteen" een woord is dat staat voor een echt object, en we kunnen vooruit plannen.
- De Analogie: Stel je een architect voor. De architect stapelt bakstenen niet zomaar willekeurig. Hij heeft een blauwdruk (een symbool) in zijn hoofd. Hij begrijpt dat als hij een zware baksteen op een zwakke muur legt, deze zal instorten. Hij denkt na over dingen en relaties.
De "ZPD": Waar Leren Plaatsvindt
De paper introduceert een beroemd idee van de psycholoog Lev Vygotsky, de Zone van Naaste Ontwikkeling (ZPD).
- Het Concept: Een kind leert niet zomaar als een volwassene denken door een boek te lezen. Het leert door omgang met volwassenen die net iets slimmer zijn. De volwassene helpt het kind de kloof te overbruggen tussen wat het alleen kan en wat het met hulp kan.
- Het "Eendje" Voorbeeld: Stel je een baby voor genaamd Amara die een eend ziet en enthousiast wordt. Ze maakt een geluid: "Yuk!"
- De Baby (Type 1): Ze zegt niet het woord "eend". Ze maakt gewoon een geluid omdat ze enthousiast is.
- De Opa (Type 2): Hij hoort "Yuk" en denkt: "Ah, ze wil de eendjes zien!" Hij neemt haar mee naar de vijver.
- Het Resultaat: Na verloop van tijd leert Amara dat het maken van dat specifieke geluid leidt tot de eendjes. Ze begint het woord "eend" correct te gebruiken, niet omdat ze plotseling het concept van een vogel begreep, maar omdat ze de sociale praktijk leerde om te krijgen wat ze wil.
Het Punt van de Paper: LLM's zitten vast in de "Baby"-fase. Ze zijn geweldig in de sociale praktijk van conversatie (het juiste geluid maken om een reactie te krijgen), maar ze zijn niet "onderwezen" in de wetenschappelijke, symbolische manier van denken die mensen later in het leven ontwikkelen.
De "Hallucinatie" versus "Droom" Draai
De paper doet een verrassende claim over hallucinaties (wanneer AI dingen verzonnen).
- Gewone Opvatting: De AI liegt of is verward omdat het de waarheid niet kent.
- Wallis's Opvatting: De AI liegt niet; het droomt.
- De Analogie: Denk aan een droom. In een droom zie je misschien een paarse olifant. Je bent niet "fout" over de olifant; je volgt gewoon de logica van een droom, niet de logica van de realiteit.
- LLM's zijn getraind op menselijke conversatie, vol verhalen, grappen en verzonnen dingen. Wanneer een LLM zegt: "Lijm is goed op pizza", probeert het je niet te bedriegen. Het voert de sociale handeling uit om iemand van iets te overtuigen, net zoals het een grapje of een gedicht zou uitvoeren. Het doet wat mensen doen als ze praten, zonder echt om de "waarheid" van de uitspraak te geven.
Waarom "Guard Rails" (Beveiligingsrails) Het Antwoord Niet Zijn
De paper suggereert dat het proberen om "guard rails" op AI te zetten om het te stoppen met liegen, de verkeerde aanpak is.
- Het Probleem: We proberen een "dromer" (de AI) te dwingen te handelen als een "wetenschapper" (een mens met een kaart).
- De Oplossing: In plaats van te proberen de AI te repareren, moeten we studeren hoe mensen leren denken. We moeten de "cognitieve hulpmiddelen" begrijpen die het babbelgedrag van een baby omzetten in de logica van een wetenschapper. De AI is momenteel een zeer geavanceerde versie van een baby's gebabbel; het is een "primitieve" vorm van denken die onze sociale gewoontes perfect nabootst, maar onze interne kaart van de wereld mist.
Samenvatting in Één Zin
Grootte Taalmodellen "denken" niet zoals mensen met kaarten en logica; ze "dromen" zoals baby's of dieren, gebruiken patronen en sociale gewoontes om conversatie na te bootsen, en we moeten dit verschil begrijpen om te stoppen met verwachten dat ze iets zijn wat ze niet zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.