Stel je voor dat je een briljante maar ietwat vergeetachtige robot probeert te leren hoe hij een complexe puzzel moet oplossen. Je zou kunnen denken dat als je de robot een superintelligent brein geeft (een Large Language Model, of LLM) en vraagt om "het gewoon uit te zoeken", het zou slagen. Maar in de wereld van kunstmatige intelligentie zijn deze modellen als ongelooflijke patroonherkenners die soms moeite hebben wanneer ze gevraagd wordt om een lang, meerstaps traject te plannen. Ze zijn geweldig in het schrijven van verhalen of chatten, maar als het gaat om strikte logische puzzels — zoals het verplaatsen van blokken of het oplossen van de Tower of Hanoi — raken ze vaak de weg kwijt, waarbij ze de regels of de stappen die ze net hebben genomen, vergeten. Dit is een groot probleem, want als we willen dat AI ons helpt bij taken in de echte wereld, zoals het organiseren van magazijnen of het navigeren van robots, moet het in staat zijn om vooruit te plannen zonder stomme fouten te maken. De grote vraag die onderzoekers zich hebben gesteld is: is de AI eigenlijk te dom om te plannen, of gebruikt het gewoon het verkeerde gereedschap voor de klus?

Dit artikel suggereert dat de AI niet noodzakelijkerwijs dom is; het probeert gewoon te veel tegelijk te doen. De auteurs, Ehsan Futuhi en Nathan R. Sturtevant, stellen een nieuwe manier van denken voor genaamd "Chain of Computation" (COC). In plaats van de AI te vragen om de hele oplossing in één grote adem uit te schrijven (wat is als een mens vragen om een heel boek in één keer te onthouden), plaatsen ze de AI in een lus met een speciaal "kladblok" genaamd een Structured Context Window (SCW). Denk aan een robot met een bloknoot. In plaats van te proberen de hele planning te onthouden, kijkt de robot naar één instructie op het kladblok, voert die ene kleine stap uit, schrijft de volgende instructie op het kladblok en wijst vervolgens aan waar de volgende instructie te vinden is. Het is als een spelletje "volg de leider" waarbij de robot zowel de leider als de volger is, en constant zijn eigen kaart bijwerkt.

De onderzoekers testten dit idee op drie klassieke puzzels: de Tower of Hanoi (het verplaatsen van schijven tussen pennen), BlocksWorld (het stapelen van blokken) en de Pancake Puzzle (het sorteren van pannenkoeken). Ze ontdekten dat wanneer ze de AI dit "kladblok"-systeem gaven, zelfs relatief kleine AI-modellen die vanaf nul zijn getraind, deze puzzels met verbazingwekkende nauwkeurigheid konden oplossen — meer dan 99,89% succes op de blokken- en pannenkoekpuzzels. De truc was dat de AI niet de hele geschiedenis hoefde te onthouden; het hoefde alleen de huidige instructie te lezen, de berekening uit te voeren om de volgende stap te bepalen, en op te schrijven waar het de volgende instructie kon vinden.

Echter, het paper ontdekte ook een specifiek zwak punt. Wanneer de puzzels echt groot werden (zoals de Tower of Hanoi met veel schijven), begon de AI fouten te maken, maar niet omdat het de planning vergat. Het bleek dat de AI in de knoop raakte door simpele wiskunde. Wanneer de robot moest berekenen "schijf nummer 7 minus 1" om de volgende stap te bepalen, ging het soms mis met het getal, vooral als hij dat specifieke getal nog nooit eerder had gezien. De auteurs lieten zien dat als ze de AI hielpen door de wiskunde voor de AI te doen (of door een speciaal "stack"-systeem te gebruiken dat geen complexe wiskunde vereist), de AI zelfs de moeilijkste versies van de Tower of Hanoi (tot 20 schijven) perfect kon oplossen. Dit suggereert dat het planningsbrein van de AI eigenlijk vrij sterk is, maar dat het wat hulp nodig heeft bij de rekenkunde en het geheugenbeheer om zijn volledige potentieel te bereiken.

Het Grote Plaatje: Waarom AI Moeite Heeft met Plannen

Om te begrijpen waarom dit artikel ertoe doet, moeten we eerst de twee hoofdrolspelers in dit verhaal begrijpen: Large Language Models (LLMs) en Plannen.

LLM's zijn de superintelligente AI-hersenen waarvan je misschien hebt gehoord, zoals diegene die essays of code schrijven. Ze zijn getraind op enorme hoeveelheden tekst en hebben geleerd om het volgende woord in een zin te voorspellen. Omdat ze zoveel hebben gelezen, zijn ze geweldig in het herkennen van patronen. Als je hen vraagt een verhaal over een draak te schrijven, kunnen ze dat omdat ze duizenden drakenverhalen hebben gezien. Echter, "plannen" is anders. Plannen is als het oplossen van een doolhof of het organiseren van een reis: je moet een aantal stappen vooruit denken, onthouden wat je hebt gedaan en ervoor zorgen dat je de regels niet breekt.

Lama tijd merkten wetenschappers dat hoewel LLM's geweldig zijn in chatten, ze verschrikkelijk zijn in plannen. Als je een LLM vraagt om een stapel blokken van de ene plek naar de andere te verplaatsen zonder er een te laten vallen, geeft het vaak een plan dat de regels overtreedt of een stap vergeet. Dit is frustrerend omdat we willen dat AI nuttig is in de echte wereld, waar dingen in de juiste volgorde moeten gebeuren.

Er is een theorie dat LLM's eigenlijk "Turing-compleet" zijn, wat een chique wiskundige manier is om te zeggen dat ze in staat zouden moeten zijn om elke berekening te doen die een computer kan doen, inclusom complexe planning. Maar in de praktijk lijken ze te falen. De grote vraag die dit paper aanpakt is: Waarom? Is het brein van de AI fundamenteel kapot voor planning, of is het simpelweg dat we de taak op de verkeerde manier aan hem vragen?

Het Probleem: De "One-Shot" Valstrik

Stel je voor dat je een Rubik's Cube probeert op te lossen. Als iemand je zou vragen om de volledige oplossing (de reeks van 20 of 30 zetten) in één enkele zin op te schrijven zonder te stoppen om na te denken, zou je het misschien fout doen. Je zou de middelste stappen kunnen vergeten of de kleuren door elkaar kunnen halen.

Dit is wat er gebeurt wanneer we een standaard LLM vragen te plannen. We geven het meestal een prompt zoals "Los deze puzzel op" en het probeert de hele lijst met zetten in één keer te genereren. Het paper noemt dit "Single-Pass, Full Context". Het probleem is dat naarmate de puzzel groter wordt, de lijst met zetten langer wordt. De AI moet al die zetten tegelijkertijd in zijn "hoofd" (zijn context window) houden. Naarmate de lijst groeit, begint de AI de controle te verliezen. Het is alsof je een gesprek voert met een vriend terwijl je ook tegelijkertijd een boodschappenlijst, een telefoonnummer en een wiskundig probleem in je hoofd moet houden. Uiteindelijk raakt de AI in de war, maakt hij een fout in het begin, en valt het hele plan dan uit elkaar.

De auteurs stellen dat de AI niet slecht is in plannen; het is alleen slecht in het vasthouden van een gigantische, ongeorganiseerde lijst met instructies in zijn hoofd.

De Oplossing: De "Chain of Computation" (COC)

Om dit op te lossen, bouwden de auteurs een nieuw systeem genaamd Chain of Computation (COC). In plaats van de AI te vragen om de hele planning in één keer te schrijven, plaatsten ze de AI in een lus.

Stel je voor dat de AI een robot is die in een fabriek werkt. In plaats van de robot een gigantisch blauwdruk van de hele fabriek te geven, geef je hem een Structured Context Window (SCW). Zie de SCW als een lange rol papierlint, zoals de oude papieren linten die in oude computers werden gebruikt of een heel lange plaknotitie.

Zo werkt de robot met dit nieuwe systeem:

1. Lezen: De robot kijkt naar de allereerste instructie op de tape.
2. Denken: Hij bepaalt wat de volgende stap is op basis van die ene instructie.
3. Schrijven: Hij schrijft een nieuwe instructie aan het einde van de tape.
4. Wijzen: Hij schrijft een "pointer" (zoals een pijl) op die zegt: "Ga kijken naar de instructie direct na deze."
5. Herhalen: De robot verplaatst zijn "oog" naar de nieuwe instructie en doet het opnieuw.

De robot hoeft nooit de hele planning te onthouden. Hij hoeft alleen maar te focussen op de huidige instructie en te beslissen wat de volgende stap is. Het is als een spelletje "Volg de Leider" waarbij de robot constant zijn eigen kaart bijwerkt.

Het paper introduceert een speciaal hulpmiddel genaamd een pointer. Deze pointer vertelt de robot precies welk deel van de tape hij moet bekijken. Dit is cruciaal omdat het de "aandacht" van de robot gericht houdt op een klein, beheersbaar stukje informatie, in plaats van hem te laten verdrinken in een zee van tekst.

De Experimenten: De Robot Testen

De auteurs testten deze nieuwe robot op drie beroemde puzzels om te zien of hij kon leren om beter te plannen.

1. BlocksWorld
Dit is een puzzel waarbij je een verzameling blokken op een tafel hebt gestapeld en je moet ze in een specifieke vorm herarrangeren. Je kunt alleen het bovenste blok van een stapel verplaatsen.

• Het Resultaat: De robot was ongelooflijk goed in dit. Zelfs toen de puzzel zeer complex werd (met 40 blokken), loste de robot het 100% van de tijd perfect op. Hij leerde de strategie van "alles uitstapelen, en dan opnieuw stapelen" en kon dit toepassen op elke nieuwe opstelling van blokken die hij nog nooit had gezien.

2. De Pancake Puzzle
In deze puzzel heb je een stapel pannenkoeken van verschillende groottes. Je kunt alleen de bovenkant van de stapel omdraaien (zoals een pannenkoek in een pan omdraaien) om ze te herschikken. Het doel is om ze op grootte te sorteren.

• Het Resultaat: Vergelijkbaar met BlocksWorld deed de robot het fantastisch. Hij loste bijna elke puzzel op, zelfs met 40 pannenkoeken. De enige keer dat hij "faalde", was wanneer de pannenkoeken al gesorteerd waren en hij ze toch probeerde om te draaien. Maar aangezien het omdraaien en weer terugdraaien het eindresultaat niet schaadde, bereikte hij alsnog het doel. Dit toonde aan dat de robot de kernlogica van de puzzel had geleerd.

3. Tower of Hanoi (TOH)
Dit is de moeilijkste puzzel. Je hebt drie pennen en een stapel schijven van verschillende groottes. Je moet de hele stapel van de ene pen naar de andere verplaatsen, maar je mag nooit een grote schijf op een kleine schijf plaatsen. Het aantal stappen dat nodig is, groeit exponentieel (het wordt heel snel enorm groot).

• Het Resultaat: Hier was de robot goed, maar niet perfect. Hij loste ongeveer 92% van de puzzels op wanneer de schijven klein waren (tot 15 schijven). Maar naarmate de puzzels moeilijker werden, begon hij fouten te maken.

Het Mysterie: Waarom Faalde de Robot?

De auteurs stopten niet bij "het werkte". Ze wilden weten waarom hij faalde op de moeilijkste puzzels. Ze keken nauwgezet naar de fouten die de robot maakte op de Tower of Hanoi.

Ze ontdekten dat de robot niet faalde omdat hij de planning niet begreep. Hij wist precies welke schijf hij moest bewegen en waar hij hem moest plaatsen. Het probleem was wiskunde.

Om de planning bij te houden, moest de robot eenvoudige rekenkunde uitvoeren, zoals "Als ik 7 schijven heb, moet ik eerst de bovenste 6 verplaatsen." Hij moest "7 minus 1" berekenen om "6" te krijgen. Het paper vond dat wanneer de robot een getal tegenkwam dat hij nog nooit eerder had gezien (zoals een zeer groot schijfnummer), hij de wiskunde fout deed. Hij zou "7 minus 1" als "5" of "8" kunnen berekenen, en dan liep het hele plan uit de bocht.

Dit was een enorme ontdekking. Het betekende dat het "planningsbrein" van de robot eigenlijk perfect werkte. De fout lag niet in de logica; het lag in de rekenmachine.

De Fix: Helpen met Wiskunde en Geheugen

Om dit te bewijzen, probeerden de auteurs twee verschillende oplossingen:

Fix 1: Symbolische Wiskunde
Ze zeiden tegen de robot dat hij niet zelf de wiskunde moest proberen te doen. In plaats daarvan gaven ze hem "symbolische" instructies. Bijvoorbeeld, in plaats van te zeggen "Verplaats schijf 6", zou de robot zeggen "Verplaats schijf (n-1)". Vervolgens zou een apart, eenvoudig computerprogramma (een rekenmodule) de werkelijke berekening uitvoeren en de robot het echte getal vertellen.

• Het Resultaat: Wanneer ze dit deden, steeg het succespercentage van de robot. Hij kon de puzzels perfect oplossen omdat hij zich geen zorgen hoefde te maken over het fout doen van de getallen. Dit bewees dat het planningsgedeelte in orde was; de wiskunde was de flessenhals.

Fix 2: De Stack (PDA)
De auteurs realiseerden zich dat de robot voor de Tower of Hanoi niet eens over de tape hoefde te springen om naar verschillende instructies te zoeken. Hij hoefde alleen maar naar de bovenkant van de stack te kijken en nieuwe instructies aan de bovenkant toe te voegen. Dit is precies hoe een "Stack" werkt in de informatica (Last-In, First-Out).
Ze herformuleerden de taak van de robot zodat hij fungeerde als een Deterministic Pushdown Automaton (PDA). Dit is een chique term voor een machine die alleen een stack gebruikt.

• Het Resultaat: Met deze nieuwe opstelling loste de robot 100% van de Tower of Hanoi-puzzels op, zelfs met 20 schijven (wat meer dan 1 miljoen stappen vereist!). Hij hoefde geen complexe wiskunde te doen om de volgende instructie te vinden, omdat de stack het automatisch afhandelde.

Wat Dit Betekent

Dit paper suggereert dat Large Language Models niet inherent slecht zijn in plannen. Het probleem was dat we ze alles tegelijk vroegen te doen: de hele planning onthouden, de wiskunde doen en de volgende stap bepalen, terwijl ze naar een gigantische muur van tekst staarden.

Door de taak op te splitsen in kleine, iteratieve stappen en de AI een "kladblok" (de SCW) te geven om zijn geheugen te beheren, kan de AI zeer effectief leren plannen. Het paper laat zien dat zelfs kleine AI-modellen, getraind vanaf nul, complexe planningsstrategieën kunnen leren als ze de juiste instrumenten krijgen.

De belangrijkste les is dat de "redeneerkracht" van de AI sterk is, maar dat de "rekenkracht" en het "geheugenbeheer" hulp nodig hebben. Als we de planningslogica scheiden van de wiskunde en de AI een gestructureerde manier geven om zijn stappen te beheren, kan het problemen oplossen die voorheen als te moeilijk werden beschouwd.

De auteurs concluderen dat hoewel ze een grote stap voorwaarts hebben gezet, er nog veel te leren valt. Ze willen onderzoeken hoe het "pointer"-systeem de AI precies helpt en of deze methode in de toekomst kan worden gebruikt voor nog complexere, praktische plannings-taken in de echte wereld. Maar voor nu hebben ze aangetoond dat met een beetje structuur, AI inderdaad een zeer goede planner kan zijn.