💬 NLP

Decoupling Task-Solving and Output Formatting in LLM Generation

Das Papier stellt Deco-G vor, ein Decoding-Framework, das die Leistung großer Sprachmodelle bei komplexen Aufgaben verbessert, indem es die Problemlösung durch ein dediziertes Format-Schätzungsmodul von starren Formatierungsanforderungen entkoppelt, welches die Einhaltung sicherstellt, ohne das Denken zu behindern.

Ursprüngliche Autoren: Haikang Deng, Po-Nien Kung, Nanyun Peng

Veröffentlicht 2026-07-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Haikang Deng, Po-Nien Kung, Nanyun Peng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bitten einen superintelligenten Roboter, ein schwieriges mathematisches Problem zu lösen, aber Sie verlangen von ihm auch, die Antwort in einem sehr spezifischen, starren Format zu schreiben, wie zum Beispiel „Die endgültige Antwort ist 42.“ Normalerweise, wenn man den Teil „hart nachdenken“ mit dem Teil „perfekt schreiben“ in einer einzigen großen Anweisung mischt, wird der Roboter verwirrt. Es ist, als würde man versuchen, beim Seiltanz zu jonglieren; man lässt oft den Ball (die Mathematik) fallen oder stolpert über das Seil (das Format).

Das Paper von Haikang Deng und Kollegen stellt ein neues System namens DECO-G vor, um dies zu beheben. Betrachten Sie DECO-G als ein brillantes Teamwork zwischen zwei Spezialisten: einem Problemlöser und einem Format-Polizisten.

Das Problem: Das „verhedderte“ Chaos

Auf die alte Art gab man dem Roboter einen riesigen Prompt: „Löse dieses mathematische Problem UND stelle sicher, dass du die Antwort in einer JSON-Box schreibst.“ Das Paper argumentiert, dass diese „Verhedderung“ (Entanglement) das Gehirn des Roboters beeinträchtigt. Es legt nahe, dass, wenn der Robot versucht, beides gleichzeitig zu tun, er mathematische Fehler macht, nur um die Formatierungsregeln zu erfüllen.

Die Autoren argumentieren explizit gegen die Idee, dass es ausreicht, dem Roboter einfach zu sagen, er solle „vorsichtig sein“, oder starre, vorgefertigte Templates zu verwenden (wie das Erzwingen eines strikten JSON-Schemas Schritt für Schritt). Sie fanden heraus, dass diese starren Methoden den Roboter oft mitten im Gedankenfluss unterbrechen, was zu inkohärenten Antworten oder falschen Berechnungen führt, selbst wenn das Format perfekt aussieht.

Die Lösung: Die Zwei-Teams-Strategie

DECO-G teilt die Aufgabe auf.

Der Problemlöser (Das LLM): Dies ist der Hauptroboter. Er erhält nur das mathematische Problem. Er macht sich über das Format keine Gedanken. Er denkt, begründet und löst das Problem frei.
Der Format-Polizist (Das FEM): Dies ist ein separates, kleineres Hilfsmodul. Es löst nicht die Mathematik. Seine einzige Aufgabe ist es, die Ausgabe des Roboters zu beobachten und zu flüstern: „Hey, du kommst dem Ende nahe, aber du musst ‚Die endgültige Antwort ist‘ sagen, bevor du die Zahl angibst.“

Die Magie geschieht in der Art und Weise, wie sie kommunizieren. Der Format-Polizist nutzt einen speziellen „probabilistischen Lookahead“ (eine schicke Art, in die Zukunft zu schauen), um zu erraten: „Wenn der Roboter jetzt ‚Die‘ sagt, wie hoch ist die Wahrscheinlichkeit, dass er den Satz korrekt beendet?“ Wenn die Wahrscheinlichkeit niedrig ist, lenkt der Polizist die Wahl des nächsten Wortes des Roboters sanft, um ihn wieder auf Kurs zu bringen, ohne ihn am Denken zu hindern.

Die Geheimwaffen

Um dieses Teamwork schnell und ohne die Rechenleistung zu bremsen, haben die Autoren drei coole Tricks eingeführt:

Instruction-Aware Distillation: Anstatt den Format-Polizisten auf zufälligem, langweiligem Chat zu trainieren, haben sie ihn spezifisch darauf trainiert, wie sich der Roboter verhält, wenn er tatsächlich Probleme löst. Das macht den Polizisten viel klüger darin, zu wissen, was der Roboter als Nächstes wahrscheinlich tun wird.
Flexible Trie Building: Stellen Sie sich eine Karte aller möglichen Wege vor, wie die Antwort aussehen könnte. Normalerweise werden diese Karten riesig und unordentlich, wenn die Antwort unterschiedliche Längen haben kann. Die Autoren bauten eine „flexible“ Karte, die Pfade zusammenführt, damit der Computer nicht überfordert wird, indem er versucht, jede einzelne Möglichkeit zu prüfen.
HMM State Pruning: Der Format-Polizist hat ein massives Gehirn mit tausenden verborgenen Zuständen. Die Autoren erkannten, dass der Roboter die meiste Zeit nur einen winzigen Bruchteil dieser Zustände wirklich braucht. Also sagten sie dem Polizisten, er solle den Rest ignorieren, was die Reczhentätigkeit um etwa das 13-fache reduzierte (von ca. 1,08 GFLOPs auf 0,08 GFLOPs pro Schritt), während die Genauigkeit fast gleich blieb.

Was die Zahlen sagen

Das Team testete dies auf drei verschiedenen Herausforderungen:

Mathematische Probleme (GSM8k): Bei der Lösung von Grundschulmathematik schlug DECO-G andere Methoden konsistent. Zum Beispiel erreichte es beim Llama-3.1-8B-Modell 85,2 % der richtigen Antworten bei einer Format-Konformität von 100 %. Im Gegensatz dazu war eine starre Methode namens „Outlines“ nur zu 81,3 % korrekt, und ein Standard-„Prompt-Only“-Ansatz erreichte 82,3 %, scheiterte aber meistens am Format.
Event Extraction: Wenn der Roboter gebeten wurde, spezifische Details aus Nachrichten zu extrahieren, verbesserte DECO-G die Scores für die Identifizierung dessen, wer was getan hat (die Metrik „Argument Id“ stieg auf 39,4 für Llama).
LLM-as-a-Judge: Wenn der Roboter Zusammenfassungen bewerten musste, half DECO-G ihm, besser mit menschlichen Richtern zu korrelieren, wobei es die höchsten durchschnittlichen Korrelationswerte erreichte (wie 0,418 für Kohärenz bei Llama).

Das Urteil

Das Paper legt nahe, dass wir durch die Trennung von „Denken“ und „Formatierung“ das Beste aus beiden Welten bekommen können: Antworten, die sowohl mathematisch korrekt als auch perfekt formatiert sind. Die Autoren maßen dies über reale Datensätze hinweg und fanden heraus, dass DECO-G konsistent besser abschneidet, als alles in einem Schritt zu versuchen oder starre, erzwungene Einschränkungen zu nutzen.

Sie merken jedoch an, dass dies ein paar Einschränkungen gibt. Dieses System ist kein Zauberstab, der sofort bei jedem Roboter funktioniert; man muss für jeden spezifischen Roboter-Modell einen neuen „Format-Polizisten“ trainieren. Außerdem müssen bei einigen Modellen (wie der Qwen-Serie) die Kräfte des Format-Polizisten stärker gebündelt werden (durch einen Kontrollfaktor von γ=2), damit er zuhört.

Kurz gesagt: DECO-G legt nahe, dass man, wenn man möchte, dass ein Roboter ein Genie in Mathematik und ein Perfektionist im Format ist, ihn nicht beides gleichzeitig machen lassen sollte. Geben Sie ihm einen Partner, der die Regeln verwaltet, und sehen Sie zu, wie er glänzt.

Technisches Resümee: Entkopplung von Aufgabenlösung und Formatierung bei der LLM-Generierung

Problemstellung

Große Sprachmodelle (LLMs) haben eine zunehmende Kompetenz in komplexen Denkaufgaben wie mathematischer Problemlösung und automatischer Evaluierung bewiesen. Die Leistung sinkt jedoch häufig, wenn Prompts Aufgabenanweisungen mit starren Ausgabeformat-Anforderungen kombinieren. Diese „Verflechtung“ zwingt das Modell dazu, gleichzeitig für die Genauigkeit des Denkprozesses und die strikte Einhaltung des Formats zu optimieren, was zu konkurrierenden Zielen führt, die die Denkfähigkeit des Modells behindern.

Bestehende Ansätze versuchen, dies durch zwei Hauptwege abzumildern, die beide Limitationen aufweisen:

Lockerung von Beschränkungen: Das Entfernen oder Aufweichen von Format-Anforderungen führt oft zu niedrigen Compliance-Raten, was die Ausgaben für strukturierte Anwendungen unbrauchbar macht.
Constrained Decoding: Frameworks wie Outlines oder Guidance erzwingen strikte Token-Übergänge, um die Format-Konformität zu garantieren. Diese Methoden greifen jedoch invasiv ein, unterbrechen den internen Denkfluss des Modells und führen zu abrupten Abbrüchen oder inkohärenten Ausgaben.

Neuere Studien (z. B. Tam et al., 2024; Long et al., 2025) deuten darauf hin, dass strengere Beschränkungen mit einer größeren Degradation der Denkfähigkeit korrelieren, was auf die kritische Notwendigkeit eines Frameworks hinweist, das die Format-Beschränkungen von der Aufgabenlösung entkoppelt, ohne das Potenzial des LLM für das logische Denken zu opfern.

Methodik: DECO-G

Die Autoren schlagen DECO-G vor, ein Decoding-Framework, das das Aufgaben-Reasoning explizit von der Ausgabeformatierung trennt. Die Kernphilosophie besteht darin, die Einhaltung des Formats an ein Hilfsmodul zu delegieren, sodass sich das primäre LLM ausschließlich auf die Problemlösung konzentrieren kann.

Architektur

Das Framework arbeitet durch ein duales Modulsystem:

Task-Solving LLM: Erhält nur den aufgabenspezifischen Prompt (z. B. ein mathematisches Problem) ohne explizite Formatierungsanweisungen.
Format Estimation Module (FEM): Erhält die Format-Beschränkungen (z. B. „Die endgültige Antwort ist...“). Das FEM führt einen probabilistischen Lookahead durch, um die Wahrscheinlichkeit zu schätzen, dass zukünftige Token-Sequenzen die Format-Beschränkungen erfüllen werden.

In jedem Decoding-Schritt wird die vom FEM geschätzte Compliance-Wahrscheinlichkeit verwendet, um die ursprüngliche Token-Verteilung des LLM neu zu gewichten. Die endgültige Wahrscheinlichkeitsverteilung wird konstruiert als:
$P(x_t|x_{<t}, \alpha) \propto P_{LM}(x_t|x_{<t}) [P_{FEM}(\alpha|x_{<t}, x_t)]^\gamma$
wobei $\alpha$ die Format-Beschränkungen darstellt und $\gamma$ ein Hyperparameter für die Steuerungsstärke (Steering Strength) ist.

Zentrale technische Innovationen

Um diesen Ansatz praktikabel und effizient zu machen, führen die Autoren drei spezifische Innovationen ein:

Instruktionsbewusste Destillation (Instruction-Aware Distillation):
Vorherige kontrollierbare Generierungsmethoden (z. B. GeLaTo, Ctrl-G) destillieren Hidden Markov Models (HMMs) aus unbedingter Zufallssampling. Dies erfasst nicht das instruktionsbedingte Verhalten von feinabgestimmten LLMs. DECO-G adressiert dies, indem es das HMM ausschließlich auf Instruktions-Antwort-Paaren aus dem Natural-Instructions-v2 Datensatz destilliert. Dies stellt sicher, dass das FEM das Verhalten des LLM beim Befolgen spezifischer Aufgabeninstruktionen genau modelliert.
Flexible Trie-Konstruktion:
Reale Format-Beschränkungen beinhalten oft komplexe Templates mit festem Text (Pivots) und variablen Feldern (Wildcards). Die Standard-DFA-Konstruktion (Deterministischer endlicher Automat) führt zu einer Zustandsraum-Explosion ( $O(K^N)$ ), wenn sie mit verketteten Segmenten variabler Länge umgeht. DECO-G führt einen flexiblen Trie-Algorithmus ein, der eine Zustandskonvergenz (State Convergence) erzwingt. Diese Strategie führt alle validen Pfade eines Wildcard-Segments zu einem einzigen kanonischen Eintrittszustand für das nächste Segment zusammen, wodurch die Komplexität auf lineares Wachstum ( $O(N \times K)$ ) reduziert wird.
HMM-Zustands-Pruning:
Der probabilistische Lookahead im FEM beinhaltet die Berechnung von Emissionswahrscheinlichkeiten über das gesamte Vokabular, was rechenintensiv ist ( $O(h|V|)$ ). Die Autoren beobachten, dass die HMM-Zustandsverteilung hochgradig spärlich (sparse) ist. Durch das Pruning des HMM auf die Top- $k$ wahrscheinlichsten Zustände (z. B. Top 5%) reduzieren sie die Komplexität auf $O(k|V| + h \log h)$ . Empirische Ergebnisse zeigen, dass das Beibehalten von nur 5% der Zustände über 98% der Modellleistung beibehält, während die FLOPs um etwa das 13-fache reduziert werden.

Experimentelle Ergebnisse

Die Autoren evaluierten DECO-G über drei verschiedene Aufgaben hinweg: Mathematisches Reasoning (GSM8k), Event Argument Extraction (ACE05) und LLM-as-a-Judge (SummEval), unter Verwendung von Modellen wie Llama-3.1-8B, Qwen2.5-7B und Qwen3-8B.

Mathematisches Reasoning (GSM8k): DECO-G übertraf die Baselines konsistent. Während Standard-Prompting (Prompt-Only) eine hohe Genauigkeit, aber eine niedrige Format-Compliance erreichte, und strukturierte Generierung (Outlines) Compliance garantierte, aber die Genauigkeit verschlechterte, erreichte DECO-G eine 100%ige Format-Compliance, während es die Reasoning-Genauigkeit beibehielt oder verbesserte. Beispielsweise erreichte DECO-G auf Llama-3.1-8B eine Genauigkeit von 85,2 % im Vergleich zu 81,3 % bei Outlines und 82,3 % bei Prompt-Only (NL).
Event Argument Extraction (ACE05): DECO-G verbesserte die allgemeine Extraktionsqualität, insbesondere bei der Identifizierung von Argument-IDs (AI) und Argument-angehängten IDs (AI+), was auf eine bessere Integration von Rollen und extrahierten Argumenten hindeutet.
LLM-as-a-Judge (SummEval): DECO-G zeigte die stärkste durchschnittliche Korrelation mit menschlichen Annotatoren über Metriken wie Kohärenz, Konsistenz, Flüssigkeit und Relevanz hinweg. Die qualitative Analyse ergab, dass DECO-G eine natürlichere Integration von Scoring-Phrasen an beliebigen Positionen ermöglicht, während Baselines oft ein starres Anhängen von Bewertungen erzwangen.

Bedeutung und Ansprüche

Das Paper behauptet, dass DECO-G einen neuen Paradigmenwechsel in der kontrollierbaren Textgenerierung darstellt, indem es eine „Verantwortungstrennung“ zwischen Reasoning und Formatierung erreicht.

Bewahrung des Reasonings: Durch die Entfernung der kognitiven Last der Formatierung aus dem unmittelbaren Generierungsprozess des LLM entfaltet das Framework das volle Denkpotenzial des Modells.
Garantierte Compliance: Im Gegensatz zum unbeschränkten Prompting bietet DECO-G durch den Reweighing-Mechanismus des FEM eine mathematische Garantie für die Einhaltung des Formats.
Praktische Effizienz: Durch instruktionsbewusste Destillation, flexible Trie-Konstruktion und Zustands-Pruning demonstrieren die Autoren, dass der Rechenaufwand vernachlässigbar ist (er macht ca. 0,53 % des Haupt-Forward-Passes des LLM aus), was das Framework für den realen Einsatz lebensfähig macht.

Die Autoren kommen zu dem Schluss, dass dieser Entkopplungsansatz zu allgemeinen Leistungssteigerungen führt, getrieben durch die Fähigkeit, strikte Beschränkungen durchzusetzen, ohne die mit starren Decoding-Frameworks verbundene Degradation des Reasonings zu verursachen. Sie räumen Einschränkungen ein, wie etwa die Notwendigkeit, ein neues HMM für verschiedene LLM-Familien zu destillieren, sowie die Sensitivität des Steuerungs-Hyperparameters $\gamma$ gegenüber der Skewness der Token-Verteilung des Modells.