💬 NLP

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

Dieses Paper führt ein axiomatisches Framework ein, das aus vier funktionalen Metriken besteht, um latente Gedankenrepräsentationen in LLMs unabhängig von der Downstream-Genauigkeit zu bewerten, wobei aufgezeigt wird, dass aktuelle Modelle strukturell daran scheitern, diese Axiome zu erfüllen, indem sie nur minimale Informationen über die Input-Embeddings hinaus kodieren und nicht die Fähigkeit besitzen, zwischen spezifischen Fragen innerhalb derselben Aufgabe zu unterscheiden.

Ursprüngliche Autoren: Fahd Seddik, Fatemeh Fard

Veröffentlicht 2026-06-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Fahd Seddik, Fatemeh Fard

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein Large Language Model (LLM) wie einen brillanten, aber sehr privaten Koch vor. Wenn Sie ihn bitten, ein mathematisches Problem zu lösen oder eine knifflige Frage zu beantworten, spuckt er die Antwort nicht einfach sofort aus. Stattdessen durchläuft er einen „Denkprozess“.

In der Vergangenheit konnten wir dieses Denken sehen, weil der Koch seine Schritte Schritt für Schritt aufschrieb (wie einen „Chain of Thought“ – Gedankenkette). Doch in letzter Zeit haben Entwickler versucht, den Koch schneller denken zu lassen, indem sie diese Schritte in einer „Black Box“ aus kontinuierlichen, unsichtbaren Zahlen (den sogenannten latenten Gedankenrepräsentationen) verstecken. Die Idee dahinter ist: „Wenn das Endergebnis korrekt ist, muss das versteckte Denken doch auch gut sein, oder?“

Das Problem:
Die Autoren dieser Arbeit sagen: „Nicht so schnell.“ Nur weil der Koch ein köstliches Gericht serviert (eine korrekte Antwort), bedeutet das nicht, dass der versteckte Denkprozess tatsächlich logisch war. Der Koch könnte geraten haben, oder das „Denken“ könnte ein chaotisches Durcheinander sein, das nur durch Zufall funktioniert.

Um dies zu beheben, haben die Autoren einen neuen Weg entwickelt, um die versteckten Gedanken des Kochs zu untersuchen, ohne auf das Endergebnis zu schauen. Sie haben eine „Vier-Punkte-Inspektions-Checkliste“ (genannt Axiome) erstellt, um zu prüfen, ob die versteckten Gedanken tatsächlich ihre Aufgabe erfüllen.

Die Vier-Punkte-Inspektions-Checkliste

Betrachten Sie den „Gedanken“ als eine geheime Notiz, die der Koch vor dem Kochen schreibt. Die Autoren argumentieren, dass eine gute geheime Notiz vier Tests bestehen muss:

Kausalität (Der „Ursache-Wirkungs-Test“):
- Die Metapher: Wenn Sie das geschriebene Rezept des Kochs durch seine geheime Notiz ersetzen würden, sollte das fertige Gericht dann immer noch genauso schmecken?
- Die Behauptung: Die geheime Notiz muss exakt dieselben Informationen enthalten wie die logischen Schritte. Wenn Sie die Schritte durch die Notiz ersetzen, sollte das Modell immer noch in der Lage sein, die Antwort perfekt vorherzusagen. Wenn die Notiz eine entscheidende Zutat vermissen lässt, scheitert das Gericht.
Minimalität (Der „Kein Schnickschnack“-Test):
- Die Metapher: Stellen Sie sich vor, der Koch bekommt eine 50-seitige Geschichte über eine Katze vorgesetzt, aber die Frage handelt nur vom Wetter. Eine gute geheime Notiz sollte nur die Wetter-Informationen enthalten, nicht die ganze Geschichte über die Katze.
- Die Behauptung: Der Gedanke sollte eine komprimierte, effiziente Zusammenfassung sein. Er sollte keine zusätzlichen „Rauschdaten“ oder irrelevanten Details aus dem Prompt tragen, die nicht helfen, das Problem zu lösen.
Separabilität (Der „Identitäts“-Test):
- Die Metapher: Wenn Sie dem Koch zwei sehr ähnliche Matheaufgaben geben (z. B. „Was ist 2+2?“ und „Was ist 2+3?“), sollten seine geheimen Notizen völlig unterschiedlich aussehen. Wenn die Notizen für beide Probleme identisch aussehen, unterscheidet der Koch nicht wirklich zwischen den Fragen; er rät nur.
- Die Behauptung: Der versteckte Gedanke muss für jede spezifische Frage einzigartig sein. Er muss ein Problem klar von einem anderen abgrenzen, selbst wenn sie sich ähnlich sehen.
Stabilität (Der „Konsistenz“-Test):
- Die Metapher: Wenn der Koch in einem Satz sagt „Die Antwort ist vier“ und in einem anderen „Es ist vier“, sollte die geheime Notiz dieselbe sein. Auch wenn der Koch verwirrt ist und manchmal mit „Ja“ und manchmal mit „Nein“ antwortet, sollte die geheime Notiz diese Verwirrung widerspiegeln und nicht einfach zufällig eine Seite wählen.
- Die Behauptung: Der Gedanke sollte sich nicht ändern, nur weil sich die Formulierung leicht ändert. Er sollte auch die Unsicherheit des Modells akkurat widerspiegeln.

Was sie herausgefunden haben (Das Audit)

Die Forscher nahmen fünf verschiedene populäre KI-Modelle (wie Llama und DeepSeek) und unterzogen sie 23 verschiedenen Denkaufgaben (wie räumliche Rätsel, Logikspiele und Mathematik). Sie überprüften die „geheimen Notizen“, die diese Modelle generierten, anhand ihrer Vier-Punkte-Checkliste.

Das schockierende Ergebnis:
Keines der Modelle bestand alle vier Tests.

Sie konnten Unterschiede zwischen Aufgaben erkennen: Die Modelle konnten den Unterschied zwischen einer „Mathe“-Frage und einer „Geschichts“-Frage erkennen.
Aber sie scheiterten an den feinen Details: Als sie mit zwei verschiedenen Fragen innerhalb derselben Aufgabe konfrontiert wurden (z. B. zwei verschiedene Matheaufgaben), sahen die „geheimen Notizen“ der Modelle fast identisch aus. Sie kollabierten zu einem generischen Klumpen.
Der Prompt war besser als der Gedanke: Überraschenderweise war der einfache Text der ursprünglichen Frage (der Prompt) oft eine bessere „Gedankenrepräsentation“ als die komplexen verborgenen Zahlen, die das Modell generierte. Die versteckten Gedanken fügten nicht viel neue Information hinzu; sie waren größtenteils nur ein Echo des Inputs.

Das große Fazit

Die Autoren kommen zu dem Schluss, dass dieses Scheitern nicht daran liegt, dass die Modelle zu klein oder schlecht trainiert sind. Es ist ein strukturelles Problem. Selbst die größten, fortschrittlichsten Modelle scheitern derzeit daran, einen echten, distinkten „Gedanken“ für jede einzelne Frage zu erzeugen. Sie sind gut darin, die richtige Antwort zu produzieren, aber ihr interner „Denkprozess“ ist oft ein kollabierter, generischer Nebel, der tatsächlich nicht zwischen spezifischen Problemen unterscheidet.

Kurz gesagt: Die Modelle liefern die richtigen Antworten, aber ihr „Denken“ ist auf eine Weise defekt, die Standardtests nicht sehen können. Die Checkliste der Autoren ist das Werkzeug, das nötig ist, um diese verborgenen Mängel aufzudecken.

Technisches Resümee: Formalisierung latenter Gedanken: Vier Axiome der Gedankenrepräsentation in LLMs

Problemstellung

Das Feld des Schließen (Reasoning) durch Large Language Models (LLMs) verlagert sich zunehmend von diskreten Chain-of-Thought (CoT)-Token hin zu kontinuierlichen latenten Repräsentationen (z. B. Soft Thinking, Latent Thinking), um die Effizienz und die Kapazität des Schließens zu verbessern. Die Evaluierung dieser „kontinuierlichen Gedankenrepräsentationen“ ist jedoch grundlegend fehlerhaft. Aktuelle Methodiken verlassen sich fast ausschließlich auf die Genauigkeit bei nachgelagerten Aufgaben (z. B. Benchmark-Passraten), um die Qualität der Repräsentation zu beurteilen. Dieser Ansatz vermischt die Qualität der internen Repräsentation mit der allgemeinen Fähigkeit des Modells, diese Repräsentation zu dekodieren oder zu verarbeiten. Infolgedessen werden Repräsentationsfehler durch die nachgelagerte Genauigkeit maskiert; ein Modell kann hohe Benchmark-Scores erzielen, während seine internen „Gedanken“ die notwendigen Argumentationsschritte nicht originalgetreu kodieren oder nicht zwischen distinkten Instanzen derselben Aufgabe unterscheiden können.

Es mangelt an:

Einer prinzipienbasierten Definition dessen, welche funktionalen Eigenschaften eine gültige Gedankenrepräsentation besitzen muss.
Einem intrinsischen Evaluierungsprotokoll, das die Qualität der Repräsentation unabhängig von der Genauigkeit nachgelagerter Aufgaben misst.
Einem klaren Verständnis des aktuellen Status von Kandidatenmethoden, angesichts von Berichten, dass latente Reasoning-Token oft für Vorhersagen unnötig sind oder keine strukturierten Suchprozesse im latenten Raum implementieren.

Methodik

Die Autoren schlagen ein axiomatisches Evaluierungsframework vor, das Gedankenrepräsentationen basierend auf vier funktionalen Eigenschaften charakterisiert, die unabhängig von irgendeinem nachgelagerten Dekodierungsprozess definiert sind. Das Framework behandelt die Gedankenrepräsentation ( $T$ ) als einen latenten funktionalen Zustand, der die Transformation von einem Eingaberaum ( $X$ ) zu einem semantischen Ausgaberaum ( $S$ ) vermittelt.

Die vier Axiome

Das Framework definiert vier Axiome, von denen jedes eine entsprechende quantitative Metrik besitzt, die direkt am Quell-LLM ohne erneutes Training berechnet wird:

Kausalität: $T$ muss den expliziten Reasoning-Präfix ( $y_{pre}$ ) innerhalb des Rechengraph des Modells funktional substituieren.
- Metrik: KL-Substitutionsfehler. Gemessen durch das Ersetzen der Token-Embeddings von $y_{pre}$ durch den projizierten $T$ und die Berechnung der Kullback-Leibler-Divergenz zwischen der ursprünglichen Fortsetzungverteilung $P(y_{suf} | y_{pre})$ und der intervenierten Verteilung $P(y_{suf} | T)$ . Niedrigere Werte deuten auf bessere Kausalität hin.
Minimalität: $T$ muss die Eingabe komprimieren und dabei die maximale Relevanz für die Ausgabeverteilung beibehalten, wobei es dem Prinzip des Information Bottleneck folgt. Es sollte Störvariablen (irrelevanten Kontext) aus der Eingabe herausfiltern.
- Metrik: Minimalitätslücke ( $\Delta_{IB}$ ). Eine Cross-Entropy-Surrogate für die Information Bottleneck Lagrangian bei $\beta=2$ . Sie wird berechnet als $\Delta_{IB} = CE(X | Y, T) - CE(Y | T)$ . Höhere Werte deuten auf eine Repräsentation hin, die ausreichend für die Ausgabe ist, aber nur minimale Restinformationen über die Eingabe liefert, die über die Ausgabe hinausgehen.
Separabilität: $T$ muss eine ausreichende topologische Struktur besitzen, um zwischen semantisch nicht äquivalenten Ausgabeverteilungen zu unterscheiden. Es muss in der Lage sein, zwischen zwei unterschiedlichen Fragen innerhalb derselben Aufgabe (feingranular) und zwischen verschiedenen Aufgaben (grobgranular) zu differenzieren.
- Metrik: Diskriminator-Genauigkeit. Ein trainierbarer binärer Diskriminator wird trainiert, um $T$ mit einer Kandidat-Ausgabesequenz abzugleichen. Die Genauigkeit wird an Paaren derselben Aufgabe (feingranular) und an Paaren verschiedener Aufgaben (grobgranular) gemessen.
Stabilität: $T$ muss invariant gegenüber oberflächlichen lexikalischen Variationen (Paraphrasierung) und robust gegenüber Stichproben-Stochastizität (Mode Collapse) sein. Es sollte die Parameter der semantischen Verteilung $P(S|x)$ kodieren und nicht eine einzelne Realisierung.
- Metrik: Distributionale Konsistenz-Score (DCS). Die AUROC eines Probes, der vorhersagt, ob die Beam-Outputs einer Frage mehrere semantische Äquivalenzklassen abdecken (semantische Entropie $H_x > 0$ ).

Experimentelles Setup

Kandidaten: Die Studie auditiert mehrere Kandidatenrepräsentationen, einschließlich Last Input Token (LIT) Hidden States, Soft Thinking (mit und ohne Gumbel-Noise) sowie Latent Thinking, über variierende „Thinking Budgets“ (1 bis 128 Schritte).
Modelle: Fünf Open-Weight-LLMs aus unterschiedlichen Architekturen und Trainingsparadigmen: Llama-3.1-8B, Llama-3.3-70B (Dense/Instruct), DeepSeek-R1-Distill-Qwen-32B (Reasoning-distill), Skywork-OR1-32B (Native RL) und GPT-OSS-20B (Sparse MoE).
Aufgaben: 23 Reasoning-Aufgaben aus dem Big Bench Extra Hard (BBEH) Datensatz, die räumliches Denken, faktische Beantwortung von Fragen, logische Rätsel und mehr abdecken.
Protokoll: Die Evaluierungen werden am Quell-LLM unter Verwendung eines eingefrorenen 1B-Backbones für das Probing durchgeführt, um sicherzustellen, dass die Metriken von der Größe des Quellmodells und dessen nachgelagerter Performance entkoppelt sind.

Kernergebnisse

Die Anwendung dieses intrinsischen Protokolls offenbart einen „Repräsentationskollaps“, den die nachgelagerte Benchmark-Genauigkeit nicht erkennt:

Kein Kandidat erfüllt alle Axiome: Keiner der evaluierten Kandidaten erfüllt gleichzeitig Kausalität, Minimalität, Separabilität und Stabilität.
Separabilitäts-Fehlgeschlagen (Identität pro Frage): Während die Repräsentationen zuverlässig zwischen verschiedenen Aufgaben unterscheiden (Cross-Task-Genauigkeit liegt nahe an der Sättigung), scheitern sie daran, zwischen verschiedenen Instanzen derselben Aufgabe zu unterscheiden (Same-Task-Genauigkeit). Fast alle Kandidaten (außer Output-Embeddings) performen auf oder nahe an der Zufalls-Baseline für die Same-Task-Diskriminierung. Dies deutet darauf hin, dass latente Repräsentationen die spezifische Identität einzelner Fragen verlieren und distinkte Reasoning-Pfade in ununterscheidbare Vektoren kollabieren lassen.
Wettbewerbsfähigkeit der Input-Embeddings: Das Input-Prompt-Embedding selbst ist mit und oft überlegen gegenüber den Kandidaten-Thought-Repräsentationen über alle vier Achsen hinweg. Dies deutet darauf hin, dass aktuelle latente Repräsentationen kaum Informationen kodieren, die über das bereits in der Input-Embedding vorhandene Maß hinausgehen.
Strukturelles Versagen: Das Fehlermuster ist konsistent über verschiedene Familien von Dense-, Reasoning-Distilled- und RL-trainierten Modellen hinweg. Eine Erhöhung der Anzahl der Thinking-Schritte (z. B. in Soft Thinking oder Latent Thinking) löst den Kollaps nicht; in einigen Fällen verschlechtert sich die Performance mit steigender Schrittzahl sogar.
Kausalität vs. Input: Keine Gedankenrepräsentation liefert konsistent mehr kausale Information als das alleinige Input-Embedding. Das Ersetzen des Reasoning-Präfixes durch $T$ führt zu einer Fortsetzungverteilung, die nicht von dem Ersetzen durch das Input-Embedding zu unterscheiden ist, was impliziert, dass $T$ kein einzigartiges kausales Signal hinzufügt.

Bedeutung und Behauptungen

Das Paper behauptet, ein prinzipienbasiertes Mittel zur Entwicklung und Auditierung von Kandidaten für Gedankenrepräsentationen bereitzustellen, die als Untersuchungsobjekte betrachtet werden – evaluiert danach, was ein LLM über ein Problem weiß, statt nach der nachgelagerten Reasoning-Qualität einer etwaigen Kette.

Diagnostische Auflösung: Das Framework ermöglicht es Forschern, Änderungen in der nachgelagerten Genauigkeit spezifischen Repräsentationseigenschaften zuzuordnen (z. B. einem Abfall in der Separabilität), anstatt aggregierte Benchmark-Scores zu nutzen, die die Ursache verschleiern.
Optimierungsziele: Die vier Messgrößen bieten explizite, quantifizierbare Optimierungsziele für die zukünftige Forschung und bewegen sich damit über heuristische Proxies wie Token-Budgets oder die Imitation von explizitem CoT hinaus.
Strukturelle Einsicht: Die Ergebnisse legen nahe, dass die Lücke zwischen aktuellen Methoden des latenten Reasonings und dem idealen funktionalen Gedanken struktureller Natur ist und nicht bloß eine Funktion der Modellgröße oder spezifischer Trainingsverfahren (wie RL oder Distillation) ist. Die aktuelle Generation latenter Repräsentationen versagt darin, die strukturierte, instanzspezifische Suche zu implementieren, die für robustes Schließen erforderlich ist.

Die Autoren positionieren dieses Framework als orthogonal zur Evaluierung von Reasoning-Benchmarks und bieten eine notwendige Analyseschicht an, um die internen Mechanismen von Reasoning-Modellen zu verstehen, bevor diese zuverlässig verbessert werden können. Der Code und die Evaluierungspipeline werden öffentlich zur Verfügung gestellt, um Audits und Entwicklungen zu erleichtern.