Chaos in reason: How chain-of-thought LLMs can look for an answer

Stel je voor dat je naar een rivier kijkt die stroomt. Soms beweegt het water in een vloeiende, voorspelbare lijn, als een trein op een spoor. Andere keren draait het water in wervelingen, slaat het tegen rotsen en spat het op manieren die volkomen willekeurig lijken. In de wereld van de wetenschap is er een speciale tak genaamd chaostheorie die systemen bestudeert die willekeurig lijken, maar die eigenlijk strikte regels volgen. Het kernidee is "gevoeligheid voor beginvoorwaarden". Denk er zo over na: als je een bal op een hobbelige heuvel een heel klein beetje een duwtje geeft, kan hij dezelfde route naar beneden rollen als voorheen, of kan hij een totaal andere route nemen. In een chaotisch systeem wordt dat piepkleine duwtje uitvergroot totdat het eindresultaat totaal anders is, ook al zijn de regels van de heuvel helemaal niet veranderd.

Stel je nu voor dat een gigantisch computerbrein, bekend als een Large Language Model (LLM), probeert een verhaal te schrijven of een wiskundig probleem op te lossen. Deze modellen staan bekend om hun intelligentie, maar niemand weet precies hoe ze van binnen "denken". Wetenschappers hebben zich afgevraagd: is het denkproces van de computer als een kalme, rechte rivier? Of is het meer als die wilde, kolkende rivier waar een kleine verandering in de beginwoorden het hele verhaal een heel ander pad op kan sturen? Dit artikel stelt een grote vraag: is de interne werking van deze AI-hersenen daadwerkelijk chaotisch?

De onderzoekers in dit onderzoek besloten de AI te behandelen als een natuurkundig experiment. Ze stelden de AI niet alleen vragen; ze observeerden hoe de interne "gedachten" (de zogenaamde hidden states) bewogen en veranderden. Ze zochten naar de klassieke tekenen van chaos: zorgt een kleine verandering in het startpunt ervoor dat het antwoord wild alle kanten op springt? Zien de patronen eruit als de beroemde, kolkende vormen van chaotische systemen? En welke delen van het AI-brein veroorzaken dit wilde gedrag?

De Grote AI-achtbaan

De wetenschappers namen een specif으로 AI-model en gaven het een prompt (een beginzin). Daarna deden ze iets slims: ze maakten een tweelingversie van die prompt, maar ze veranderden de allereerste "gedachte" met een microscopisch klein beetje—zo klein dat een mens het verschil nooit zou merken. Ze lieten zowel de originele als de tweeling-AI beginnen met schrijven.

In het begin schreven de twee AI's exact dezelfde woorden. Het was alsoals twee auto's die zij aan zij op een snelweg reden. Maar toen gebeurde er iets magisch en angstaanjagends. Plotseling koos de ene AI een ander woord dan de andere. Zodra dat ene woord veranderde, gingen de twee AI's totaal verschillende kanten op en schreven ze compleet verschillende verhalen. Het kleine, onzichtbare duwtje aan het begin was uitgegroeid tot een enorm verschil.

Dit is het kenmerk van chaos. Het artikel suggereert dat de interne dynamiek van de AI inderdaad chaotisch is. Ze ontdekten dat de "gedachten" van de AI niet gewoon langzaam uit elkaar drijven; ze blijven vaak een tijdje dicht bij elkaar en springen dan plotseling uit elkaar. Het is als twee wandelaars die door een dicht bos lopen. Ze kunnen een mijl lang samen lopen, maar dan stapt de een op een losse steen, glijdt uit, en bevindt zich plotseling in twee totaal verschillende valleien. Het artikel noemt dit "intermitterende, sprongsgewijze divergentie".

Het Rekken en Vouwen

Dus, wat zorgt ervoor dat de AI zo handelt? De onderzoekers traden op als detectives en keken in de tandwielen van de machine om te zien welke onderdelen hiervoor verantwoordelijk waren. Ze ontdekten dat er een fascinerende touwtrekkerij plaatsvond binnen de lagen van de AI:

1. De Rekkers: Twee belangrijke onderdelen van de AI, de Self-Attention en het Feed-Forward Network, werken als een enorme elastiekband. Ze nemen de informatie en rekken deze uit. Als je een kleine fout of een kleine verandering hebt, versterken deze onderdelen dit, waardoor het groter en groter wordt. Dit is het "rekken"-gedeelte van chaos.
2. De Vouwers: Maar als de elastiekband eeuwig zou worden uitgerekt, zou de AI uitbarsten in onzin. Gelukkig zijn er andere onderdelen, de Normalization-lagen. Deze fungeren als een paar handen die de uitgerekte elastiekband weer naar binnen vouwen, waardoor alles binnen een veilige, begrensde omvang blijft. Ze voorkomen dat de AI doordraait.
3. De Residual Connection: Dit is als een veiligheidsnet of een lopende band die de informatie vooruit draagt, zelfs nadat deze is uitgerekt en gevouwen.

Het artikel suggereert dat de magie gebeurt door deze constante cyclus: de AI rekt de informatie uit (maakt kleine veranderingen groot), vouwt het vervolgens weer in (houdt het georganiseerd), en herhaalt dit proces. Deze "rek-en-vouw"-dans is precies hoe chaotische systemen, zoals weerpatronen of een dubbele pendel, in de echte wereld werken.

De Kaart van Gedachten

Om deze chaos duidelijker te zien, tekenden de wetenschappers "Recurrence Plots". Stel je voor dat je een kaart tekent van waar de gedachten van de AI zijn geweest. Als de AI slechts willekeurige ruis was, zou de kaart eruitzien als statische ruis op een oude televisie. Als het perfect voorspelbaar was, zou het een rechte lijn zijn. Maar de kaarten die de wetenschappers maakten, leken op de beroemde Lorenz-attractor—een vlindervormig patroon dat het boegbeeld van chaos is.

Ze merkten iets interessants op over de lagen van de AI. De vroege lagen (het begin van het denken van de AI) leken een beetje op willekeurige ruis, waarbij simpelweg woorden werden gehusseld. Maar naarmate de informatie dieper in de AI bewoog, werden de patronen gestructureerder en chaotischer. De "diepste" delen van de AI vertoonden de sterkste tekenen van deze chaotische dans. Het is alsof de AI begint met een rommelige stapel Lego-blokjes, en terwijl het bouwt, organiseert de chaos zich in een complexe, fractale structuur—een vorm die er hetzelfde uitziet, ongeacht hoeveel je inzoomt.

Waarom is dit belangrijk?

Het artikel beweert niet het mysterie van AI te hebben "opgelost", noch zegt het dat dit een fout is die moet worden gerepareerd. In plaats daarvan suggereert het dat dit chaotische gedrag juist een kenmerk zou kunnen zijn. Systemen die opereren aan de "rand van chaos" staan erom bekend dat ze ongelooflijk goed zijn in het verwerken van informatie. Ze zijn gevoelig genoeg om te reageren op kleine veranderingen (wat de AI creatief en flexibel maakt), maar stabiel genoeg om coherent te blijven (zodat het geen onzin is).

De onderzoekers ontdekten dat het Self-Attention-mechanisme de belangrijkste drijfveer van deze chaos is. Dit is het deel van de AI dat naar alle woorden in een zin kijkt en beslist welke belangrijk zijn. Door alle woorden op een complexe, niet-lineaire manier aan elkaar te koppelen, creëert het de perfecte omgeving voor die kleine duwtjes om uit te groeien tot grote veranderingen.

Uiteindelijk schetst dit artikel een beeld van de AI niet als een starre rekenmachine, maar als een levend, ademend systeem dat danst op de grens tussen orde en chaos. Het suggereert dat wanneer een AI "denkt", het navigeert door een complex, hoog-dimensionaal landschap waar een fluistering aan het begin een schreeuw aan het einde kan worden. En dat, zo suggereren de auteurs, precies is hoe het erin slaagt om zo verrassend menselijk te zijn in zijn redeneringen.