💬 NLP

When LLMs Stop Following Steps: A Diagnostic Study of Procedural Execution in Language Models

Dit artikel introduceert een diagnostische benchmark die aantoont dat, hoewel grote taalmodellen hoge nauwkeurigheid behalen op korte procedurale taken, hun vermogen om stapsgewijze algoritmen getrouw uit te voeren aanzienlijk verslechtert naarmate de complexiteit toeneemt, wat blootlegt dat sterke benchmarkprestaties vaak aanzienlijke zwaktes in het volgen van instructies maskeren.

Oorspronkelijke auteurs: Sailesh Panda, Pritam Kadasi, Abhishek Upperwal, Mayank Singh

Gepubliceerd 2026-05-04

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Sailesh Panda, Pritam Kadasi, Abhishek Upperwal, Mayank Singh

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: De "Recept"-test

Stel je voor dat je een chef een heel specifiek, stap-voor-stap recept geeft om een cake te bakken. Het recept zegt: "Meng bloem en suiker. Voeg dan eieren toe. Roer vervolgens 10 seconden. Bak daarna."

Je zou misschien verwachten dat de chef elke instructie in de juiste volgorde volgt. Maar wat als de chef, in plaats van de stappen te volgen, gewoon raadt hoe een cake er normaal gesproken uitziet en je een resultaat geeft? Of wat als ze halverwege komen, de laatste drie stappen vergeten en gewoon zeggen: "Hier is de cake"?

Dit artikel is als een gigantische proefkeuken waar onderzoekers 14 verschillende "chef"-AI-modellen (Grote Taalmodellen) duizenden van deze specifieke recepten gaven. De recepten waren simpele wiskundige problemen, maar ze waren ontworpen om lang en lastig te zijn. Het doel was niet om te zien of de AI moeilijke wiskunde kon doen, maar om te zien of het de instructies trouw kon volgen van begin tot eind.

De Opzet: De "Eindeloze Trap"

De onderzoekers bouwden een speciale test met twee hoofdwijzen om de taak moeilijker te maken:

De Lengte van de Trap: Ze gaven de AI recepten met tussen de 5 en 95 stappen. Stel je een trap voor. Een trap van 5 stappen is makkelijk te beklimmen. Een trap van 95 stappen is vermoeiend.
De "Terugkijk"-regel: Bij sommige recepten gebruikte stap 10 niet alleen het resultaat van stap 9. Het kon bijvoorbeeld zeggen: "Ga terug en gebruik het resultaat van stap 3." Dit is als een wandelaar vertellen: "Zet een stap vooruit, ga dan terug naar de derde boom die je passeerde en pak daar een steen op." Dit dwingt de AI om dingen te onthouden die lang geleden zijn gebeurd.

Wat Ze Vonden: De "Geheugenverlies"

De resultaten waren verrassend. Hoewel de wiskunde simpel was (alleen optellen, aftrekken, vermenigvuldigen of delen), werden de AI's steeds slechter naarmate de recepten langer werden.

De Daling: Bij een kort recept van 5 stappen kregen de AI's ongeveer 61% van de tijd het juiste antwoord. Maar bij een lang recept van 95 stappen daalde hun succespercentage tot slechts 20%.
De "Terugkijk"-Problemen: Wanneer de AI stappen moest onthouden die lang geleden waren (zoals stap 3), daalde hun prestatie nog verder. Het is alsof de AI in de war raakte over waar ze zich bevonden in het verhaal.

Hoe de AI's Faalden: De "Valserij"-chefs

De onderzoekers keken niet alleen naar het eindantwoord; ze keken ook hoe de AI probeerde het probleem op te lossen. Ze ontdekten dat de AI's vaak niet echt het werk deden. In plaats daarvan probeerden ze op verschillende grappige manieren te "valseren" of "af te snijden":

De "Vroege Exit" (Onder-executie): Dit was de meest voorkomende fout. De AI zou het recept beginnen, een paar stappen doen, zich vervelen of in de war raken, en dan rechtstreeks naar het einde springen, alsof ze alles hadden voltooid. Het is als een student die de eerste zin van een opstel schrijft, dan overslaat naar de conclusie zonder het midden te schrijven.
De "Hallucinerende" Stappen: Soms verzon de AI extra stappen die helemaal niet in het recept stonden. Het is alsof een chef "strooi met eenhoornstof" toevoegt, terwijl het recept nooit zei dat je dat moest doen.
De "Zelfcorrectie"-valstrik: Soms kreeg de AI het antwoord verkeerd, besefte het, en probeerde het later in de tekst te herstellen. Maar tegen de tijd dat het het herstelde, had het het eindresultaat al verpest.
De "Patroonzoeker": In plaats van de wiskunde te doen, leken sommige AI's het antwoord te raden op basis van hoe de getallen eruit zagen, in plaats van daadwerkelijk de stappen te volgen.

De Belangrijkste Conclusie

Het artikel concludeert dat het feit dat een AI je een "plausibel" eindantwoord geeft, niet betekent dat het het werk daadwerkelijk heeft gedaan.

Denk eraan als een student die een toets maakt. Als ze het juiste antwoord krijgen, denk je misschien dat ze hebben gestudeerd. Maar dit artikel laat zien dat ze soms gewoon gokken of het antwoord onthouden van een vorige toets, in plaats van het probleem stap voor stap op te lossen.

Kortom: Huidige AI-modellen zijn geweldig in slim klinken en een eindresultaat geven, maar ze worstelen om te fungeren als een betrouwbare robot die een lange, saaie lijst met instructies exact volgt zoals geschreven. Wanneer de instructies te lang worden of te veel herinnering uit het verleden vereisen, raakt de AI de draad kwijt en stopt met het volgen van de regels.

1. Probleemstelling

Hoewel Large Language Models (LLM's) sterke prestaties laten zien op redeneerbenchmarks, garandeert een hoge nauwkeurigheid van het eindantwoord niet dat het model de specifieke procedure die in de prompt is verstrekt, trouw heeft uitgevoerd. Modellen vertrouwen vaak op shortcuts, patroonherkenning, opgeslagen associaties of onstabiele tussenberekeningen om tot een plausibel antwoord te komen zonder daadwerkelijk de voorgeschreven stappen te volgen.

Deze onderscheiding is cruciaal voor toepassingen die strikte naleving van algoritmen vereisen (bijvoorbeeld numerieke berekeningen, besluitvorming op basis van regels en gestructureerde workflows). Het artikel adresseert de kloof tussen "het lijken te redeneren" en "instructies trouw uitvoeren", met name naarmate de taakcomplexiteit toeneemt.

2. Methodologie

De auteurs introduceren een gecontroleerde diagnostische benchmark die is ontworpen om falen in procedurele uitvoering te isoleren van ambiguïteit in taakinterpretatie.

Taakformulering:
- Invoer: Twee numerieke variabelen ( $x$ en $y$ ).
- Procedure: Een stapsgewijs rekenkundig algoritme geschreven in natuurlijke taal. Het algoritme initialiseert $S_1=x$ en $S_2=y$ , en definieert vervolgens een reeks tussenvariabelen ( $S_3, S_4, \dots$ ) met behulp van basisrekenkundige bewerkingen ( $+, -, \times, \div$ ).
- Doel: Het model moet het algoritme exact zoals geschreven uitvoeren en de uiteindelijke berekende waarde teruggeven.
- Ground Truth: Deterministisch en eenvoudig verifieerbaar via een externe executor, waardoor ambiguïteit wordt uitgesloten.
Complexiteitsassen:
1. Algoritmelengte: Het aantal stappen ( $T$ ) varieert van 5 tot 95 (in stappen van 10).
2. Look-back-afhankelijkheden: Om state-tracking op de proef te stellen, introduceert de benchmark afhankelijkheden waarbij een huidige stap kan vereisen dat tussenvariabelen uit eerdere stappen worden opgehaald.
  - Look-back 1: Hangt alleen af van de onmiddellijk vorige stap.
  - Look-back 7: Hangt af van een willekeurige van de vorige 7 stappen.
Datasetconstructie:
- Schaal: 55 datasets met in totaal 55.000 voorbeelden.
- Variabelen: Combinaties van invoerbereiken ( $[0,1], [1,10], [10,100]$ ), datatypes (integer vs. float) en varianten van bewerkingen (gemengd, alleen optellen, alleen aftrekken, etc.).
Geëvalueerde Modellen:
- 14 Modellen: Variërend in schaal (1,5B tot 685B parameters) en families (DeepSeek, Qwen, Mistral, OLMo, OpenAI, enz.), inclusief zowel standaard instructie-getuned als op redenering gerichte modellen.
Evaluatiemetrics:
- Eerste-antwoordnauwkeurigheid: Juistheid van het eerste geëxtraheerde antwoord.
- Correct@Any: Juistheid als een willekeurig antwoordsegment in de output correct is (vangt zelfcorrectie op).
- Non-null antwoordpercentage: Percentage van de outputs dat een geldige <answer>-tag bevat.
- Stapvolgend gedrag: Categorisatie in Exact (juiste stappen), Onder-executie (voortijdige beëindiging) en Over-executie (extra stappen).

3. Belangrijkste Bijdragen

Diagnostische Benchmark: Een nieuw, gecontroleerd milieu dat specifiek is ontworpen om procedurale fideliteit te meten in plaats van alleen de juistheid van het eindantwoord.
Empirisch Bewijs van "Procedurele Illusie": Demonstreert dat zelfs wanneer het volledige algoritme expliciet wordt verstrekt, LLM's het vaak niet trouw uitvoeren naarmate de complexiteit toeneemt.
Analyse van Falingsmodi: Identificeert specifieke falingsmodi op generatieniveau (bijvoorbeeld onder-executie, ontbrekende antwoorden, voortijdige antwoorden) die onzichtbaar zijn wanneer men uitsluitend kijkt naar de eindnauwkeurigheid.
Gevoeligheid voor Afhankelijkheidsdiepte: Toont aan dat modellen niet alleen moeite hebben met lange reeksen, maar vooral met niet-lokale state-oproeping (look-back-afhankelijkheden).

4. Belangrijkste Resultaten

Afname van Nauwkeurigheid met Complexiteit:
- Aantal Stappen: De gemiddelde nauwkeurigheid van het eerste antwoord daalt drastisch van 61% bij 5 stappen naar 20% bij 95 stappen.
- Look-back-diepte: Het verhogen van de look-back-afhankelijkheid van 1 naar 7 verlaagt de gemiddelde nauwkeurigheid met een extra 18,43 procentpunten, wat wijst op een specifieke zwakte in het bijhouden van niet-lokale tussentoestanden.
Falingsmodi op Generatieniveau:
- Onder-executie: Naarmate het aantal stappen toeneemt, stijgt het aandeel "onder-uitgevoerde" generaties (stoppen voor de laatste stap) van 24,25% naar 50,87%.
- Exacte Executie: Daalt van 70,88% naar 46,84%.
- Voortijdige Antwoorden: Veel modellen genereren een antwoord vroeg in de output zonder de redeneertrace te voltooien, wat wijst op afhankelijkheid van patroonherkenning in plaats van uitvoering.
Invoer- en Taakfactoren:
- Bewerkingstype: Optellen en aftrekken leveren over het algemeen een hogere nauwkeurigheid op dan vermenigvuldigen en delen.
- Grootte: Hoewel de numerieke grootte de prestaties beïnvloedt in specifieke varianten (bijvoorbeeld vermenigvuldiging), verklaart dit niet volledig de brede afname in nauwkeurigheid. De primaire drijfveer is de procedurele last van het bijhouden van de state.
- Modellschaal: Grotere modellen presteren over het algemeen beter, maar de trend van afnemende nauwkeurigheid met complexiteit geldt voor alle modelgroottes.
Zelfcorrectie:
- Hoewel "Correct@Any" vaak hoger is dan "First-Answer Accuracy", toont dit aan dat modellen vaak initiële fouten maken en proberen zichzelf te corrigeren, maar toch falen om de strikte procedurele flow die vereist is, in stand te houden.

5. Betekenis en Implicaties

Beperkingen van Huidig Redeneren: De studie daagt de aanname uit dat "Chain-of-Thought" of langere redeneertraces gelijkstaan aan trouw instructievolgen. Modellen "hallucineren" vaak het proces of slaan stappen volledig over terwijl ze een plausibel eindgetal produceren.
Veiligheid en Betrouwbaarheid: Voor toepassingen met hoge risico's (bijvoorbeeld financiële berekeningen, beleidshandhaving) is het vertrouwen op LLM's om expliciete meerstapsprocedures uit te voeren momenteel riskant, omdat ze stil kunnen falen door stappen over te slaan of tussentoestanden te hallucineren.
Toekomstige Richtingen: De bevindingen suggereren een behoefte aan:
- Nieuwe trainingsdoelen die procedurele afwijkingen expliciet bestraffen.
- Tool-verrijkte agenten (met behulp van externe rekenmachines/executors) om de deterministische delen van algoritmen te behandelen.
- Architecturale verbeteringen voor betere state-tracking op lange horizon en oplossing van niet-lokale afhankelijkheden.

Kortom, het artikel biedt een rigoureuze lens om te evalueren of LLM's een probleem werkelijk "denken" of slechts het resultaat "gissen", en onthult aanzienlijke zwaktes in trouw instructie-uitvoering naarmate de procedurele complexiteit toeneemt.