💬 NLP

Understanding LLM Failures: A Multi-Tape Turing Machine Analysis of Systematic Errors in Language Model Reasoning

Dit artikel stelt een deterministisch multi-tape Turing-machine-model voor om systematische fouten in redeneertaken van grote taalmodellen formeel te analyseren, waardoor de oorzaken van falen zoals tokenisatieproblemen en de beperkingen van chain-of-thought prompting nauwkeurig kunnen worden gelokaliseerd.

Oorspronkelijke auteurs: Magnus Boman

Gepubliceerd 2026-02-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Magnus Boman

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat een grote taalmodel (zoals de AI waar we mee chatten) geen magische, alleswetende geest is, maar eerder een extreem nauwkeurige, maar soms wat verwarde fabrieksarbeider.

Dit paper, geschreven door Magnus Boman, probeert te begrijpen waarom deze "arbeider" soms stomme fouten maakt op taken die voor een mens heel makkelijk zijn. Om dit te doen, vergelijkt hij de AI niet met een menselijk brein, maar met een ouderwets, maar zeer logisch apparaat: een Turing-machine.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. De Fabriek met Zeven Banden (De Multi-Tape Machine)

Stel je de AI niet voor als één grote zwarte doos, maar als een fabriek met zeven verschillende transportbanden (de "tapes" in het paper). Elke band heeft een specifieke taak:

Band 1: Krijgt de ruwe tekst binnen (zoals "Strawberry").
Band 2: Zet die tekst om in stukjes code (tokens).
Band 3: Houdt het woordenboek bij.
Band 4: Bevat de "hersenen" (de parameters en regels).
Band 5: Is het werkblad waar de berekeningen plaatsvinden.
Band 6: Kijkt naar de kansen: "Welk woord komt hier het beste?"
Band 7: Schrijft het eindresultaat op.

De AI werkt stap voor stap: van links naar rechts over deze banden. Het paper zegt: "Als we kijken waar precies de fout zit op welke band, kunnen we begrijpen waarom de AI faalt."

2. De Aardbei-probleem (Waarom telt de AI niet goed?)

Je vraagt de AI: "Hoe vaak komt de letter 'r' voor in het woord 'Strawberry'?"
Een mens telt direct: S-t-r-a-w-b-e-r-r-y. Dat zijn er drie.
De AI faalt hier vaak. Waarom?

De Analogie: Stel je voor dat de AI niet naar letters kijkt, maar naar pakketjes.
Als je het woord "Strawberry" naar de AI stuurt, wordt het op Band 1 (de input) soms verpakt in één groot pakketje: tStrawberry.
Op Band 2 (de tokens) ziet de AI dit pakketje als één enkel blok. Hij kan er niet in kijken om te zien dat er letters in zitten. Het is alsof je vraagt: "Hoeveel blokken zijn er in dit pakket?" en de AI zegt: "Eén", omdat hij het pakket niet mag openmaken.
Zelfs als het pakketje open is (bijv. Str + aw + berry), is het voor de AI nog steeds moeilijk om systematisch door de letters te lopen en te tellen. Hij heeft geen ingebouwde "telfunctie" in zijn werkblad (Band 5); hij gokt alleen op basis van wat hij eerder heeft gezien.

3. De Nestende Zinnen (Waarom raakt de AI in de war?)

Stel je vraagt: "De kat die de hond die de muis bang maakte, jaagde..."
Dit is een zin met veel lagen (nesten). Een mens houdt dit makkelijk bij: "De kat jaagde."
De AI raakt hier vaak in de war.

De Analogie: Stel je voor dat de AI een geheugen heeft dat maar tot een bepaalde diepte reikt, of dat hij geen stapelborden (stack) heeft om dingen tijdelijk op te slaan.
Elke keer dat er een nieuw stukje zin komt (een "die"), moet de AI een nieuwe laag in zijn geheugen openen. Bij een diepe nesting (zoals 3 of 4 lagen diep) raakt hij de overzichten kwijt. Hij vergeet wie wie jaagde.
Het paper zegt dat de AI eigenlijk geen echte "recursie" (zichzelf herhalen) kan doen zoals een menselijk brein, maar alleen patronen herkent. Als de zin te complex wordt, breekt het patroon.

4. De Oplossing: "Chain-of-Thought" (Het Kladblok)

Je hebt misschien gehoord van "Chain-of-Thought" (CoT). Dit is wanneer je de AI vraagt: "Denk eerst na, schrijf je stappen op, en geef dan het antwoord."

De Analogie: In onze fabriek is Band 7 (de output) normaal gesproken alleen voor het eindantwoord. Maar met CoT mag de AI eerst zijn gedachten op die band schrijven voordat hij het antwoord geeft.
Het is alsof de AI een kladblok krijgt. In plaats van alles in zijn hoofd (op Band 5) te moeten onthouden, schrijft hij: "Oké, eerst de kat, dan de hond, dan de muis..."
Door dit op te schrijven, kan hij in de volgende stap terugkijken naar wat hij net schreef. Dit helpt enorm, MAAR het heeft grenzen. Als de taak echt een ingewikkelde berekening vereist (zoals het tellen van letters in een heel lang woord), en de AI heeft geen echte telfunctie, helpt het kladblok niet. Hij blijft dan gissen, alleen dan wat langer.

5. De Grote Conclusie

Dit paper zegt eigenlijk:
"Laten we stoppen met denken dat AI een magisch brein is. Het is een machine die werkt volgens strikte, logische regels. Soms faalt hij niet omdat hij 'dom' is, maar omdat de manier waarop hij tekst verpakt (in tokens) of de manier waarop hij zijn geheugen gebruikt, bepaalde taken onmogelijk maakt."

Het paper biedt een blauwdruk om te zien waar de machine vastloopt:

Is het een probleem met hoe de tekst wordt opgesplitst? (De verpakking).
Is het een probleem met het geheugen? (De stapelborden).
Is het een probleem met de berekening? (Het ontbreken van een telfunctie).

Door dit te begrijpen, kunnen we beter weten wat AI wel en niet kan, en waarom "simpele" vragen soms zo lastig zijn. Het is geen magie, het is gewoon een heel complexe, maar soms haperende, fabriek.

Probleemstelling

Grote Taalmodellen (LLM's) vertonen vaak falen op ogenschijnlijk triviale taken, zoals het tellen van letters in een woord (bijv. het aantal 'r's in "Strawberry") of het verwerken van diep geneste, recursieve zinsstructuren. Bestaande verklaringen voor deze fouten zijn vaak gebaseerd op empirische schaalwetten of geometrische metaforen, maar missen een rigoureuze, formalistische onderbouwing die precies aangeeft waar en waarom in het verwerkingsproces de fouten ontstaan. Er is behoefte aan een model dat de operationele beperkingen van LLM's in termen van klassieke rekentheorie kan analyseren, in plaats van alleen te vertrouwen op observaties van schaalgedrag.

Methodologie: Multi-Tape Deterministische Turingmachine

De auteur, Magnus Boman, stelt een formalisatie van de LLM-interactiecyclus voor als een deterministische multi-tape Turingmachine (TM). Dit model decomposeert de LLM-inferentie in discrete fasen, waarbij elke tape een specifiek component van de pijplijn vertegenwoordigt:

Tape 1 (Chars-in): De ruwe invoer (karakters/bits).
Tape 2 (Tokens): De token-sequentie (geïntegreerde ID's, geen embeddings).
Tape 3 (Tokeniser + Vocab): Woordenlijst, BPE-merge-regels en inverse mappings.
Tape 4 (Model spec): Architectuurmetadata en parameters (met beperkte precisie).
Tape 5 (Work): Intermediaire activaties, inclusief KV-cache en tijdelijke scratch-waarden voor attention en feed-forward berekeningen.
Tape 6 (Logits/Probs): De buffer voor scores of kansen van de volgende tokens.
Tape 7 (Chars-out): De gedetokeniseerde karaktersoetvoer.

Het model werkt in drie hoofdfasen:

Tokenisatie: Vertaling van karakters (Tape 1) naar token-ID's (Tape 2) met behulp van de vocabulaire (Tape 3).
Forward Computation: Berekening van attention en feed-forward lagen met parameters (Tape 4) en workspace (Tape 5) om kansen te genereren (Tape 6).
Detokenisatie: Terugvertaling van token-ID's naar karakters (Tape 7).

Het model benadrukt dat LLM's in deze formalisatie beperkt zijn tot het patroonherkennen binnen de token-grenzen en dat ze geen ingebouwde, expliciete algoritmen hebben voor taken zoals tellen of recursie, tenzij deze expliciet in de toestandsruimte ( $Q$ ) zijn geïmplementeerd.

Kernbijdragen

Formalisatie: Introductie van een multi-tape TM-model dat elke component van de LLM-inferentie toewijst aan een specifieke tape en lees/schrijf-kop.
Lokalisatie van Fouten: Het in staat zijn om fouten te lokaliseren naar specifieke fasen (bijv. tokenisatie versus forward computation) in plaats van het model als een "zwarte doos" te behandelen.
Verduidelijking van Heuristieken: Het tonen dat taken die voor mensen triviaal zijn (zoals tellen), voor LLM's onbereikbaar zijn zonder expliciete subroutines, omdat tokenisatie de karakterstructuur verbergt.
Herinterpretatie van Chain-of-Thought (CoT): CoT wordt geanalyseerd als het externaliseren van intermediaire berekeningen op de output-tape (Tape 7), fungerend als een extern scratchpad, in plaats van een fundamentele verandering in het rekenvermogen.
Attention Mechanismen: Het formele inbedden van attention-mechanismen in tape-operaties, wat een precieze analyse mogelijk maakt van contextvenster-beperkingen en attention-dilutie.

Resultaten en Analyse

1. Het "Strawberry"-Telprobleem

Het model analyseert waarom LLM's falen bij het tellen van letters in "Strawberry".

Oorzaak: Bij tokenisatie wordt "Strawberry" vaak gemapt naar één token of subwoorden (bijv. Str, aw, berry).
Fase 2 Beperking: Tijdens de forward computation (Tape 4+5) bestaat er geen iteratieve routine om door de interne karakters van een token te lopen. De modelactivaties accumuleren voor de token-ID, niet voor de individuele karakters.
Oplossing in het model: Om dit exact op te lossen, moeten er expliciete subtoestanden worden toegevoegd aan $Q_{fwd}$ (zoals qcount), die de token terugvertalen naar karakters en een teller bijhouden. Zonder deze subroutines blijft het model afhankelijk van statistische schattingen.

2. Recursieve Centra-Embedding

Het model analyseert zinnen met diep geneste structuren (bijv. "The cat that the dog that the mouse feared chased...").

Fout: Transformers hebben moeite met het bijhouden van meerdere onvoltooide afhankelijkheden.
Theoretische Limiet: Centra-embeddings vereisen context-gevoelige grammatica (Type 1 in de Chomsky-hiërarchie). Zonder expliciete stack-mechanismen (push/pop-toestanden) in de forward-computatie, kunnen transformers slechts context-vrije patronen (Type 2) benaderen.
Conclusie: De attention-mechanismen kunnen de hiërarchische structuur niet handhaven zonder een expliciete stack in de werk-tape (Tape 5), wat leidt tot systematische fouten bij diepe nesting.

3. Chain-of-Thought (CoT) Prompting

Mechanisme: CoT wordt geïnterpreteerd als het schrijven van tussenstappen op Tape 7 (de output-tape) voordat het eindantwoord wordt gegenereerd. Dit fungeert als extern geheugen.
Beperkingen: Hoewel CoT helpt bij het externaliseren van berekeningen, verandert het de onderliggende computatieklasse niet. Taken die onbeperkte recursie, exact tellen zonder subroutines, of paradoxen vereisen, blijven buiten het betrouwbare bereik van het model, ongeacht de prompt-strategie. CoT werkt alleen binnen de grenzen van wat kan worden uitgedrukt via sequentiële tekstgeneratie.

Betekenis en Conclusie

Deze studie biedt een rigoureuze, falsifieerbare alternatief voor de gebruikelijke geometrische metaforen in het begrijpen van LLM's. Door LLM-gedrag te grondvesten in discrete tape-operaties en rekentheorie, biedt het model:

Een duidelijke verklaring voor waarom bepaalde fouten systematisch optreden (bijv. door tokenisatie of het ontbreken van stack-mechanismen).
Een theoretisch kader om te begrijpen dat CoT geen "magische" oplossing is voor alle redeneertaken, maar een specifieke computatiepatroon met duidelijke grenzen.
Een basis voor toekomstig onderzoek naar het toevoegen van extra tapes voor logische operaties, tellen en wiskunde, en het analyseren van numerieke foutenpropagatie.

Kortom, het artikel stelt dat de beperkingen van LLM's niet alleen een kwestie van schaal zijn, maar fundamentele operationele beperkingen in hun architectuur en tokenisatie-pijplijn, die het beste kunnen worden begrepen via een Turing-machine-analyse.