Taal is een rivier van herhaling. In een enkel gesprek kunnen we hetzelfde woord tientallen keren gebruiken, vaak binnen enkele zinnen van elkaar. Wanneer een mens een woord hoort dat hij net heeft gehoord, verwerkt zijn brein dit sneller en gemakkelijker. Dit fenomeen, bekend als herhalingspriming, is een fundamenteel kenmerk van hoe we leren en onthouden. Het suggereert dat de geest een ontmoeting met een woord niet behandelt als een volkomen nieuwe gebeurtenis; in plaats daarvan houdt het een spoor vast van de vorige ontmoeting, wat de volgende soepeler maakt. Maar naarmate kunstmatige intelligentie geavanceerder is geworden, is er een vraag ontstaan: werken grote taalmodellen, de systemen die chatbots en zoektools aandrijven, op dezelfde manier? Wanneer deze machines een woord zien dat ze al eerder hebben verwerkt, activeren ze dan simpelweg die oude herinnering, of stoppen ze en evalueren ze het woord opnieuw vanaf nul?

Het antwoord is belangrijk omdat het de innerlijke werking van deze systemen onthult. Als een model simpelweg een herinnering reactiveert, handelt het als een reflex, een snelle, automatische reactie. Als het opnieuw evalueert, handelt het als een zorgvuldige denker die de context afweegt voordat hij een beslissing neemt. Jarenlang hebben onderzoekers gedebatteerd over de vraag of deze machines een vorm van "snelle" intuïtie bezitten of dat ze altijd betrokken zijn bij langzaam, bedachtzaam redeneren. Dit nieuwe onderzoek, uitgevoerd door onderzoekers van de Yale University en de University of California, Los Angeles, beoogt de vraag te beslechten door te testen hoe verschillende soorten taalmodellen met herhaalde woorden omgaan. Ze vergeleken de ruwe, vooraf getrainde modellen met versies die zijn verfijnd om instructies op te volgen, en ze voerden parallelle experimenten uit met menselijke vrijwilligers om te zien hoe de machines tegenover ons afsteken.

De onderzoekers ontwierpen een reeks tests die de klassieke experimenten weerspiegelden die in de menselijke psychologie worden gebruikt. Ze voerden woorden en zinnen aan vijftien verschillende modellen, variërend van kleinere systemen met 1,5 miljard parameters tot massieve systemen met 14 miljard. Ze vroegen ook aan veertig menselijke deelnemers om dezelfde taken uit te voeren. De tests bestonden uit twee hoofdbestendigheden. In de eerste moesten de proefpersonen snel beslissen of een woord een levend wezen of een niet-levend object vertegenwoordigde. In de tweede moesten ze een zin aanvullen met een ontbrekend woord, waarbij de zin zelf zeer weinig aanwijzingen bood over wat het ontbrekende woord zou moeten zijn. De cruciale variabele was de "lag", of het aantal andere woorden en zinnen dat tussen de eerste keer dat een doelwoord werd gezien en de tweede keer verscheen. Door deze afstand te veranderen, konden de onderzoekers zien of het voordeel van herhaling in de loop van de tijd standhield of vervaagde.

De resultaten toonden een opvallende splitsing in hoe de machines informatie verwerkten. De basismodellen, de ruwe versies van de systemen voordat ze zijn geleerd instructies op te volgen, gedroegen zich met een soort automatische efficiëntie. Wanneer ze een woord zagen dat ze net waren tegengekomen, verwerkten ze het sneller en met meer vertrouwen, ongeacht hoeveel andere woorden er tussendoor waren verschenen. Zelfs als de onderzoekers de vorige antwoorden uit de gesprekshistorie verwijderden, vertoonden de basismodellen nog steeds een verbetering in prestaties. Dit suggereert dat herhaling voor deze modellen een snelle, door stimuli gedreven reactie triggert. Het woord zelf is voldoende om de herinnering wakker te maken, vergelijkbaar met een reflex.

In contrast hiermee gedroegen de instructie-afgestemde modellen zich heel anders. Dit zijn de versies van de systemen die zijn getraind om behulpzame assistenten te zijn, om regels te volgen en om een gesprek te voeren. Wanneer deze modellen een herhaald woord zagen, vertoonden ze niet dezelfde automatische boost. In plaats daarvan hing hun prestatie sterk af van de context. Als er veel woorden tussen de eerste en tweede verschijning van het doelwoord stonden, verdween het voordeel van herhaling. Erger nog, in de grootste en meest geavanceerde instructie-afgestemde modellen werd de herhaling zelfs een hindernis. Het opnieuw zien van het woord maakte het model trager en minder accuraat, alsof de machine in de war was door de redundantie. Dit geeft aan dat deze modellen niet simpelweg reageren op het woord; ze evalueren het actief opnieuw op basis van de omliggende conversatie. Als de context niet overeenkomt met hun verwachtingen, voelt de herhaling als een fout, wat voor interferentie zorgt.

De onderzoekers keken ook naar hoe deze gedragingen veranderden naarmate de modellen groter werden. Binnen één modelfamilie werd de kloof tussen de twee typen groter naarmate de omvang toenam. De basismodellen bleven consistent in hun automatische verwerking, maar de instructie-afgestemde modellen werden steeds gevoeliger voor de afstand tussen herhalingen. Op de grootste schaal vertoonden de instructie-afgestemde modellen de sterkste tekenen van interferentie, wat suggereert dat het proces van het aanleren van instructies hen fundamenteel verandert in hoe ze met herhaalde informatie omgaan. Het is niet alleen een kwestie van beter worden in taken; het is een kwalitatieve verschuiving in hun modus operandi.

Misschien kwam de meest verrassende bevinding voort uit de vergelijking tussen de machines en de menselijke vrijwilligers. De mensen pasten niet netjes in een van beide categorieën. Net als de instructie-afgestemde modellen waren mensen gevoelig voor de afstand tussen herhalingen; hun reactietijden vertraagden naarmate de lag toenam. Echter, in tegen tegenstelling tot de instructie-afgestemde modellen, leden mensen nooit onder interferentie. Ongeacht hoe lang de kloof ook was, het opnieuw zien van een woord hielp hen altijd, en benadeelde hen nooit. Mensen namen een middenweg in: ze waren gevoelig voor de context zoals de geavanceerde machines, maar ze behielden het universele voordeel van herhaling dat de basismodellen lieten zien.

Dit onderzoek suggereert dat het proces van het trainen van een taalmodel om behulpzaam en gehoorzaam te zijn, de cognitieve architectuur fundamenteel verandert. De ruwe modellen werken met een snel, automatisch systeem dat reageert op woorden op het moment dat ze verschijnen. De instructie-afgestemde modellen lijken echter een gecontroleerd systeem te hebben ontwikkelt dat constant de context controleert, en soms de herhaling verwerpt als deze niet in de flow van het gesprek past. De onderzoekers ontdekten dat deze verschuiving niet alleen een verandering in output is, maar een verandering in het onderliggende mechanisme. Wanneer ze in de modellen keken, zagen ze dat de basismodellen direct aandacht besteedden aan de vorige instantie van het woord om hun reactie te versnellen. De instructie-afgestemde modellen hadden echter deze aandacht losgekoppeld van de uiteindelijke beslissing, waardoor ze de automatische boost effectief wegfilterden.

De implicaties van dit werk reiken verder dan het begrijpen van hoe deze machines denken. Het benadrukt een specifieke manier waarop de huidige kunstmatige intelligentie verschilt van de menselijke cognitie. Hoewel we misschien afgeleid raken door herhaling in een lang gesprek, verliezen we nooit het fundamentele voordeel van het eerder hebben gezien van een woord. De instructie-afgestemde modellen zijn, in hun inspanning om contextbewust te zijn, dit fundamentele menselijke kenmerk kwijtgeraakt. Ze zijn zo gefocust op de directe context dat ze een bekend woord soms als een fout behandelen. Dit onderzoek biedt een duidelijke kaart van waar de twee verwerkingsmodi uiteenlopen, en laat zien dat het pad om een machine menselijker te maken in conversatie, er onbedoeld een van heeft gemaakt om minder menselijk te zijn in zijn basisgeheugenprocessen. De studie beweert niet het mysterie van machine-intelligentie te hebben opgelost, maar biedt een precieze, meetbare manier om het verschil te zien tussen een machine die reageert en een machine die denkt.