💬 NLP

Understanding LLM Failures: A Multi-Tape Turing Machine Analysis of Systematic Errors in Language Model Reasoning

Die Arbeit stellt ein formales Modell von Sprachmodellen als deterministische Mehrband-Turingmaschinen vor, um systematische Fehlerquellen präzise zu lokalisieren und zu erklären, wie Tokenisierung und externe Berechnungsmethoden wie Chain-of-Thought das Verständnis und die Grenzen von LLMs beeinflussen.

Ursprüngliche Autoren: Magnus Boman

Veröffentlicht 2026-02-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Magnus Boman

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, ein großes Sprachmodell (wie ein sehr fortschrittlicher KI-Assistent) ist nicht wie ein menschliches Gehirn, das denkt, sondern eher wie eine hochspezialisierte, aber etwas verwirrte Fabrik, die Texte verarbeitet.

Der Autor Magnus Boman hat eine neue Art entwickelt, um zu verstehen, warum diese KIs manchmal bei scheinbar einfachen Aufgaben versagen. Er vergleicht die KI mit einer multitape-Turing-Maschine. Klingt kompliziert? Lassen Sie uns das mit einer einfachen Geschichte erklären.

Die KI als eine Fabrik mit sieben Förderbändern

Stellen Sie sich die KI nicht als eine einzige schwarze Kiste vor, sondern als eine Fabrik mit sieben verschiedenen Förderbändern (Tapes), auf denen die Information nacheinander wandert. Jedes Band hat eine ganz bestimmte Aufgabe:

Band 1 (Der Rohstoff): Hier landen die Buchstaben, die Sie eintippen (z. B. "Strawberry").
Band 2 (Die Bausteine): Die KI zerlegt die Buchstaben in ihre eigenen "Wortbausteine" (Tokens). Das ist wie wenn ein Übersetzer ein Wort in Silben aufteilt, aber die KI macht das manchmal etwas seltsam.
Band 3 (Das Wörterbuch): Hier liegen die Regeln, wie Buchstaben zu Bausteinen werden.
Band 4 (Das Gehirn): Hier sind die gespeicherten Kenntnisse und Regeln der KI (die Parameter).
Band 5 (Der Arbeitstisch): Hier werden die Zwischenergebnisse berechnet (z. B. welche Wörter wichtig sind).
Band 6 (Die Wahrscheinlichkeiten): Hier steht, wie wahrscheinlich das nächste Wort ist.
Band 7 (Das fertige Produkt): Hier erscheint der Text, den wir lesen.

Warum die KI bei "Erdbeere" (Strawberry) scheitert

Ein klassisches Beispiel, das Menschen leicht finden, aber KIs oft falsch machen: "Wie oft kommt der Buchstabe 'r' in 'Strawberry' vor?"

Das menschliche Gehirn: Zählt einfach: S-t-r-a-w-b-e-r-r-y. Das sind drei.
Die KI-Fabrik:
- Auf Band 2 wird das Wort "Strawberry" oft in große Brocken zerlegt, z. B. in Str, aw, berry.
- Die KI sieht auf dem Förderband nicht die einzelnen Buchstaben, sondern diese großen Brocken.
- Da es auf dem "Arbeitstisch" (Band 5) keine spezielle Maschine gibt, die innerhalb des Brockens berry die Buchstaben einzeln zählt, muss die KI raten. Sie versucht, Muster aus ihrer Vergangenheit zu erraten, statt wirklich zu zählen.
- Die Metapher: Es ist, als würde man einem Bäcker ein ganzes Brot geben und fragen: "Wie viele Krümel sind in der Mitte?" Wenn der Bäcker das Brot nicht aufschneiden und einzeln zählen darf, wird er schätzen.

Warum "Gedankenketten" (Chain-of-Thought) helfen

Oft sagen wir KIs: "Denke Schritt für Schritt nach." Das nennt man Chain-of-Thought.

In unserer Fabrik-Metapher bedeutet das: Wir geben der KI ein zusätzliches Notizblock-Band (Band 7).

Statt sofort das Ergebnis zu liefern, schreibt die KI erst ihre Gedanken auf das Notizblock-Band: "Okay, ich habe 'Str', dann 'aw', dann 'berry'. In 'berry' sind zwei 'r's..."
Indem sie die Gedanken aufschreibt, kann sie später auf diese Notizen zurückgreifen, anstatt alles im Kopf (auf dem Arbeitstisch) behalten zu müssen.
Aber: Das ist kein Wundermittel. Wenn die Aufgabe erfordert, dass man wirklich zählt oder komplexe verschachtelte Logik (wie "Der Hund, den die Maus, die den Käse...") verfolgt, hilft das Notizbuch nur begrenzt. Die KI kann immer noch nicht "zählen", wenn sie keine spezielle Zähl-Maschine eingebaut hat. Sie schreibt nur schönere Raten auf.

Das Problem mit verschachtelten Sätzen

Stellen Sie sich einen Satz vor: "Der Hund, den die Katze, die den Vogel jagte, biss..."
Das ist wie eine Matroschka-Puppe (eine Puppe in einer Puppe).

Die KI muss sich merken: Wer hat wen gebissen?
In unserer Fabrik fehlt der KI oft ein Stapel-System (wie ein Stapel Teller, auf dem man oben und unten greifen kann).
Ohne diesen Stapel verliert die KI den Überblick, sobald die Puppen zu tief ineinander stecken. Sie erinnert sich nur an das, was ganz oben auf dem Stapel liegt, und vergisst, was unten war.

Was bedeutet das für uns?

Diese Analyse zeigt uns zwei wichtige Dinge:

KI ist kein magisches Denken: Sie ist ein sehr schneller, aber starrer Prozess, der Buchstaben in Blöcke zerlegt und Wahrscheinlichkeiten berechnet. Wenn die Blöcke die Details (wie einzelne Buchstaben) verdecken, scheitert die KI.
Wir müssen die Werkzeuge anpassen: Um KIs besser zu machen, reicht es nicht, sie nur größer zu machen (mehr Daten, mehr Speicher). Wir müssen ihnen explizite Werkzeuge geben (wie einen Zähler oder einen Stapelspeicher), damit sie Aufgaben lösen können, die für uns Menschen trivial sind, aber für ihre "Förderbänder" unsichtbar bleiben.

Zusammenfassend: Die KI ist wie ein brillanter Übersetzer, der manchmal vergisst, dass Wörter aus Buchstaben bestehen. Wenn wir ihr helfen, die Buchstaben wieder sichtbar zu machen (durch bessere Werkzeuge oder Notizen), wird sie weniger Fehler machen. Aber sie wird nie "denken" wie ein Mensch, solange ihr das Werkzeug zum Zählen oder logischen Schließen fehlt.

1. Problemstellung

Große Sprachmodelle (LLMs) zeigen oft Versagensmodi bei scheinbar trivialen Aufgaben, die für Menschen einfach sind. Beispiele hierfür sind das Zählen bestimmter Buchstaben in einem Wort (z. B. „Wie oft kommt 'r' in 'Strawberry' vor?") oder das Verstehen tief verschachtelter rekursiver Satzstrukturen.
Die aktuelle Forschung stützt sich stark auf empirische Skalierungsgesetze und geometrische Metaphern (z. B. „Embedding-Räume"), liefert jedoch keine rigorose, falsifizierbare Erklärung dafür, warum und wo genau diese Fehler im Inferenzprozess auftreten. Es fehlt ein formales Modell, das die Diskrepanz zwischen der theoretischen Turing-Vollständigkeit von neuronalen Netzen und ihren praktischen algorithmischen Grenzen aufdeckt.

2. Methodik: Multi-Tape Turing-Maschine

Der Autor schlägt eine Formalisierung des LLM-Inferenzprozesses als deterministische Multi-Tape-Turing-Maschine (TM) vor. Dies ermöglicht eine präzise Lokalisierung von Fehlern auf spezifische Stufen der Pipeline.

Die Architektur der Maschine:
Die Maschine besteht aus einem endlichen Zustandsraum $Q$ und sieben Bändern (Tapes), die jeweils eine spezifische Rolle im Inferenzzyklus einnehmen:

Tape 1 (Chars-in): Roh-Input (Zeichenfolgen, z. B. UTF-8).
Tape 2 (Tokens): Die Sequenz der Token-IDs (nach Tokenisierung und während der Generierung).
Tape 3 (Tokeniser + Vocab): Lese-/Schreib-Zugriff auf das Vokabular, BPE-Merge-Regeln und Umkehrabbildungen (Token zu Zeichen).
Tape 4 (Model spec): Modellparameter und Architektur-Metadaten (als endlich-präzise rationale Zahlen).
Tape 5 (Work): Arbeitspeicher für Zwischenaktivierungen, KV-Caches (Key/Value) und temporäre Werte für Attention und Feed-Forward-Operationen.
Tape 6 (Logits/Probs): Puffer für Wahrscheinlichkeitsverteilungen der nächsten Token.
Tape 7 (Chars-out): Detokenisierte Zeichen-Ausgabe.

Operative Phasen:
Der Prozess läuft in diskreten Phasen ab, gesteuert durch Zustandsübergänge:

Tokenisierung: Umwandlung von Tape 1 zu Tape 2 unter Nutzung von Tape 3.
Vorwärtsberechnung (Forward Pass): Berechnung von Embeddings, Attention und Feed-Forward auf Basis von Tape 2, 4 und 5; Ausgabe von Wahrscheinlichkeiten auf Tape 6.
Selektion: Greedy-Argmax (oder Sampling) auf Tape 6, um das nächste Token zu wählen.
Emission & Detokenisierung: Append des Tokens auf Tape 2 und Umwandlung in Zeichen auf Tape 7.

3. Schlüsselbeiträge

Formalisierung: Einführung einer Multi-Tape-TM zur Darstellung des LLM-Inferenzzyklus mit klar definierten Rollen für jedes Band.
Fehlerlokalisierung: Demonstration, wie Fehler spezifischen Phasen zugeordnet werden können (z. B. Tokenisierung vs. Vorwärtsberechnung).
Grenzen heuristischer Strategien: Klärung, welche Aufgaben algorithmisch trivial, aber für LLMs ohne explizite Subroutinen unzugänglich sind.
Neue Interpretation von Chain-of-Thought (CoT): CoT wird als Externalisierung von Zwischenschritten auf das Ausgabe-Band (Tape 7) als externer Scratchpad interpretiert.
Attention-Mechanismen: Formale Einbettung von Attention-Operationen in die Band-Operationen, was eine präzise Analyse von Kontextfenstern und Aufmerksamkeitsverteilung ermöglicht.

4. Ergebnisse und Analyse

A. Das „Strawberry"-Beispiel (Buchstaben-Zählen)

Das Modell zeigt, warum LLMs beim Zählen von Buchstaben scheitern:

Tokenisierung als Hindernis: Das Wort „Strawberry" wird oft als einzelner Token oder in Subwörter (z. B. Str, aw, berry) zerlegt.
Fehlende Iteration: Im Vorwärtsdurchlauf (Tape 5) existiert keine Schleife, die über die internen Zeichenstruktur eines Tokens iteriert. Das Modell kann keine explizite Zählroutine ausführen, es sei denn, diese wurde als spezifischer Zustand ( $q_{count}$ ) in den Zustandsraum $Q_{fwd}$ implementiert.
Ergebnis: Das Modell verlässt sich auf statistische Muster statt auf symbolische Berechnung. Eine exakte Lösung erfordert die Erweiterung des Modells um explizite Subroutinen zum Detokenisieren und Zählen.

B. Rekursive Verschachtelung (Center-Embedding)

Bei Sätzen wie „The cat that the dog that the mouse feared chased..." scheitern Transformer an der tiefen Verschachtelung:

Fehlender Stack-Mechanismus: Standard-Attention-Mechanismen (auf Tape 5 berechnet) können keine hierarchische Struktur über mehrere Ebenen hinweg aufrechterhalten, da sie keine Push/Pop-Operationen für einen Stack besitzen.
Chomsky-Hierarchie: Center-embedded Strukturen erfordern kontextsensitive Grammatiken (Typ 1), während Transformer mit begrenztem Kontextfenster höchstens kontextfreie Muster (Typ 2) approximieren können.
Fehlerursache: Ohne explizite Zustände zum Speichern und Abgleichen von Abhängigkeiten ( $q_{push}, q_{pop}$ ) verliert das Modell die syntaktische Bindung.

C. Attention und Kontext

Die Analyse identifiziert spezifische Fehlermodi der Attention:

Kontextfenster-Verletzung: Bei $t > L_{max}$ können alte Token nicht mehr erreicht werden.
Attention-Dilution: Bei Zeichen-basierten Aufgaben verteilen sich die Gewichte über Token-Grenzen hinweg, was eine präzise Fokussierung auf einzelne Zeichen verhindert.
Head-Sättigung: Durch numerische Präzisionsgrenzen kann Attention deterministisch werden.

D. Chain-of-Thought (CoT) Prompting

CoT wird im TM-Modell als Schreiben auf Tape 7 (Ausgabe) interpretiert, das als externer Scratchpad dient:

Vorteil: Es entlastet den internen Arbeitspeicher (Tape 5), da Zwischenschritte im Text sichtbar sind und in nachfolgenden Schritten erneut attendiert werden können.
Grenze: CoT ändert nicht die zugrundeliegende Berechnungsklasse. Aufgaben, die unbeschränkte Rekursion oder exaktes Zählen erfordern, bleiben unlösbar, wenn keine entsprechenden Subroutinen im Modell implementiert sind. CoT hilft nur bei Aufgaben, die in endlich vielen Schritten externalisiert werden können (z. B. kurze arithmetische Aufgaben, Schema-basierte Zerlegung).

5. Bedeutung und Fazit

Dieser Ansatz bietet eine rigorose, falsifizierbare Alternative zu geometrischen Metaphern und ergänzt empirische Skalierungsgesetze durch eine prinzipielle Fehleranalyse.

Theoretische Klarheit: Das Modell zeigt, dass viele LLM-Fehler nicht auf mangelnde Intelligenz, sondern auf strukturelle Defizite im Inferenz-Pipeline (fehlende Schleifen, fehlende Stack-Mechanismen, Tokenisierung-Verluste) zurückzuführen sind.
Unterscheidung von Lernzielen: Es verdeutlicht den Unterschied zwischen statistischem Musterabgleich (Reversal Curse) und algorithmischer Ausführung.
Zukunftsperspektive: Das Modell legt nahe, dass die Lösung komplexer Probleme (wie exaktes Zählen oder tiefe Rekursion) nicht allein durch mehr Daten oder Parameter erreicht wird, sondern durch die Integration expliziter algorithmischer Subroutinen oder erweiterter Band-Strukturen (z. B. für Tools oder Speicher).

Zusammenfassend bietet die Multi-Tape-TM-Formalisierung ein Werkzeug, um die fundamentalen Grenzen und die operative Funktionsweise von LLMs präzise zu analysieren und vorherzusagen, wann und warum bestimmte Fehlermodi auftreten.