💬 NLP

Latent Reasoning with Supervised Thinking States

Das Paper stellt „Thinking States“ vor, eine Methode für latentes Schließen, bei der Denkprozesse parallel zur Eingabeverarbeitung in Form von Token-Embeddings generiert werden, wodurch die Effizienz gegenüber Chain-of-Thought-Verfahren gesteigert und die Leistung bei komplexen Aufgaben verbessert wird.

Ursprüngliche Autoren: Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Veröffentlicht 2026-02-10

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Der „Denker“, der zu viel redet

Stellen Sie sich vor, Sie müssten eine komplizierte Matheaufgabe lösen. Die meisten modernen KI-Modelle (wie ChatGPT) nutzen eine Methode namens „Chain-of-Thought“ (CoT). Das ist so, als würde ein Schüler die gesamte Rechnung laut vorlesen: „Zuerst nehme ich 5, dann addiere ich 10, dann multipliziere ich das mit 2...“

Das ist super für die Genauigkeit, aber es hat ein Problem: Es dauert ewig und verbraucht extrem viel „Papier“ (Rechenleistung), weil die KI jeden einzelnen Zwischenschritt als Text ausschreiben muss, bevor sie zur Antwort kommt. Es ist, als müsste ein Koch jedes Mal, wenn er eine Zutat schneidet, laut sagen: „Ich schneide jetzt die Zwiebel. Ich schneide jetzt die Karotte.“ Das kostet Zeit und Energie.

Die Lösung: „Thinking States“ – Das Flüstern im Kopf

Die Forscher haben nun eine Methode namens „Thinking States“ entwickelt.

Stellen Sie sich den Unterschied so vor:

Chain-of-Thought (Alt): Der Schüler schreibt seine Zwischenschritte riesengroß auf ein Whiteboard, damit er sie nicht vergisst. Das Whiteboard wird immer voller und unübersichtlicher.
Thinking States (Neu): Der Schüler behält seine Gedanken im Kopf. Er macht keine Notizen auf das Whiteboard, sondern er hat ein „inneres Notizbuch“. Er denkt kurz nach, fasst den Gedanken in einer winzigen, unsichtbaren Form zusammen und nutzt diesen „Gedanken-Impuls“, um den nächsten Satz zu verstehen.

Wie funktioniert das technisch (vereinfacht)?
Anstatt dass die KI lange Sätze schreibt, unterbricht sie den Lesevorgang alle paar Wörter kurz. In dieser Millisekunde generiert sie einen „Gedanken-Zustand“ (Thinking State). Dieser Zustand ist wie ein digitales Komprimierungspaket. Er enthält die Essenz dessen, was gerade passiert ist, wird aber nicht als Text ausgegeben, sondern als ein mathematischer Code direkt in die nächste Rechenrunde „eingespritzt“.

Warum ist das genial? (Die drei Vorteile)

Es ist blitzschnell: Da die KI nicht mehr ganze Sätze „tippen“ muss, um nachzudenken, spart sie massiv Zeit. Es ist, als würde man von „Laut vorlesen“ auf „leise im Kopf mitdenken“ umstellen.
Es ist platzsparend: Das „Gedächtnis“ der KI (der Kontext) wird nicht durch endlose Textwüsten vollgestopft. Die KI kann also viel längere Aufgaben bearbeiten, ohne dass ihr „Arbeitsgedächtnis“ überläuft.
Man kann es ihr beibringen: Das ist der Clou! Normalerweise ist „Denken im Kopf“ für eine KI schwer zu kontrollieren, weil man nicht sieht, was sie denkt. Die Forscher haben aber einen Trick gefunden: Sie lassen die KI während des Trainings trotzdem kurz „laut denken“ (mit echtem Text), um ihr beizubringen, wie die richtigen Gedanken aussehen sollten. Später, wenn sie „arbeitet“, nutzt sie nur noch die effiziente, unsichtbare Version dieser Gedanken.

Ein Beispiel aus dem Paper

Stellen Sie sich eine Aufgabe vor: „Ein Münzwurf ist Kopf. Alice wirft, dann wirft Bob. Was ist das Ergebnis?“

Die alte KI müsste schreiben: „Schritt 1: Start ist Kopf. Schritt 2: Alice wirft, also wird es Zahl. Schritt 3: Bob wirft, also wird es wieder Kopf. Antwort: Kopf.“
Die „Thinking States“-KI liest die Wörter, macht einen winzigen „Gedanken-Sprung“ im Hintergrund (der Code für „Zustand: Zahl“), liest weiter und spuckt sofort die Antwort aus.

Fazit

Die Forscher haben der KI beigebracht, effizienter zu reflektieren. Sie haben den Weg vom „laut plappernden Schüler“ zum „konzentrierten, stillen Denker“ gefunden. Das Ergebnis: Die KI ist genauso schlau (oder sogar schlauer bei komplexen Aufgaben), aber sie ist viel schneller und braucht weniger Rechenpower.

Zusammenfassung: Latent Reasoning mit Supervised Thinking States

1. Problemstellung

Large Language Models (LLMs) nutzen häufig Chain-of-Thought (CoT)-Reasoning, um komplexe Aufgaben zu lösen. Dabei generiert das Modell explizite Zwischenschritte in natürlicher Sprache. Dies hat jedoch zwei wesentliche Nachteile:

Hohe Inferenzkosten: Die Generierung langer rationaler Ketten erhöht die Latenz und die Rechenlast erheblich.
Kontextverlängerung: Die zusätzlichen Tokens vergrößern das Kontextfenster, was die Effizienz mindert.

Bisherige Ansätze zur "latenten" (verborgenen) Argumentation versuchten, diese Gedanken in kontinuierliche Embeddings zu komprimieren. Diese leiden jedoch unter zwei Problemen: Sie sind schwer zu überwachen (erfordern oft zeitaufwendiges Backpropagation Through Time, BPTT) und sind oft weniger interpretierbar.

2. Methodik: Das "Thinking States"-Modell

Die Autoren schlagen eine Architektur vor, die Reasoning-Prozesse direkt während der Verarbeitung der Eingabe-Tokens durchführt, ohne die Kontextlänge zu erhöhen.

Kernkomponenten:

Chunk-basierte Rekursion: Die Eingabesequenz wird in nicht überlappende Blöcke (Chunks) unterteilt. Das Modell verarbeitet diese iterativ.
Thinking Block ( $T$ ): Ein leichtgewichtiges Transformer-Decoder-Modul, das aus den Repräsentationen eines Chunks eine Sequenz von Gedanken in natürlicher Sprache generiert.
Compression Block ( $C$ ): Ein Transformer-Encoder, der diese variable Anzahl an Gedanken-Tokens in einen fixen, komprimierten Zustand (Thinking State $S$ ) überführt.
Injection-Mechanismus: Dieser komprimierte Zustand wird den Repräsentationen der folgenden Tokens in einer flachen Schicht (z. B. der ersten Schicht) des Backbone-LLM hinzugefügt ( $\tilde{X}_i = X_i + S_i$ ). Dies ermöglicht es den Gedanken, den weiteren Rechenprozess des LLM zu beeinflussen.

Training (Teacher-Forcing):
Ein entscheidender technischer Durchbruch ist die Parallelisierung des Trainings. Anstatt BPTT zu nutzen, verwendet das Modell Teacher-Forcing:

Es werden echte, natürliche Sprach-Annotationen (CoT-Schritte) verwendet.
Diese Ziel-Gedanken werden vorab durch den Compression Block gejagt, um den "idealen" Zustand $S^*$ zu berechnen.
Dieser ideale Zustand wird in das Modell injiziert, was ein vollkommen paralleles Training über alle Chunks hinweg ermöglicht, ohne die Rechenlast von BPTT.

3. Key Contributions (Hauptbeiträge)

Effiziente Rekursion: Einführung eines Mechanismus, der Reasoning-Zustände während der Eingabeverarbeitung generiert, ohne den Kontext zu verlängern.
Supervised Latent Reasoning: Nutzung von natürlicher Sprache zur Überwachung der latenten Zustände, was sowohl die Interpretierbarkeit als auch die Effizienz des Trainings (durch Parallelisierung) erhöht.
Speculative Thinking (Inferenz-Optimierung): Ein Algorithmus zur Beschleunigung der Prefill-Phase, der davon ausgeht, dass viele Chunks keine komplexen Gedanken benötigen, und nur bei Bedarf iterativ nachrechnet.

4. Ergebnisse

Die Evaluierung auf verschiedenen Benchmarks zeigt:

State-Tracking (Parity/Vars): Thinking States zeigt eine überlegene Längen-Generalisierung. Während CoT bei längeren Sequenzen scheitert, kann das rekursive Modell durch den stabilen internen Zustand auch deutlich längere Aufgaben lösen, die es im Training nicht gesehen hat.
Allgemeines Reasoning (GSM8K & Multi-Hop QA):
- In Multi-Hop QA erreicht das Modell eine Genauigkeit, die fast an CoT heranreicht, aber deutlich schneller ist.
- In GSM8K (Mathematik) übertrifft es bestehende latente Methoden (wie Coconut oder iCoT) deutlich und bietet einen Geschwindigkeitsvorteil von ca. 2,66x gegenüber CoT.
Fehleranalyse: Das Modell ist robuster gegenüber Halluzinationen in CoT-Ketten, leidet aber gelegentlich unter "State Ambiguity" (wenn die relevante Information erst am Ende der Frage steht und das Modell zu früh einen falschen Zustand berechnet).

5. Signifikanz

Die Arbeit ist signifikant, da sie eine Brücke zwischen der hohen Genauigkeit von explizitem CoT und der Effizienz latenter Repräsentationen schlägt. Sie zeigt, dass man "Denkprozesse" komprimieren kann, ohne die Fähigkeit zur logischen Schlussfolgerung zu verlieren. Dies hat weitreichende Folgen für die Bereitstellung leistungsfähiger KI-Modelle in Umgebungen mit begrenzten Rechenressourcen und bietet einen vielversprechenden Startpunkt für zukünftiges Reinforcement Learning (RL), bei dem Modelle lernen könnten, ihre internen Zustände über menschliche Vorgaben hinaus zu optimieren.