🤖 AI

Towards Direct Latent-Space Synthesis for Parallel Branches in LLM-Agent Workflows

Dieses Paper stellt Parallel-Synthesis vor, ein Plug-and-Play-Framework, das es LLM-Agenten ermöglicht, Ausgaben direkt aus den KV-Caches paralleler Worker-Zweige zu synthetisieren, wodurch redundante Textkonkatenationen eliminiert und die Latenz signifikant reduziert werden, während die Leistung über verschiedene Aufgaben hinweg beibehalten oder verbessert wird.

Ursprüngliche Autoren: Shikun Liu, Mufei Li, Dongqi Fu, Haoyu Wang, Yinglong Xia, Hong Li, Hong Yan, Pan Li

Veröffentlicht 2026-06-15

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Shikun Liu, Mufei Li, Dongqi Fu, Haoyu Wang, Yinglong Xia, Hong Li, Hong Yan, Pan Li

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Der „Gruppenchat“-Engpass

Stellen Sie sich vor, Sie sind ein Projektleiter (der Synthesizer), der ein Team aus drei Forschern (den Worker-Agenten) leitet. Ihr Ziel ist es, ein komplexes Rätsel zu lösen.

Der alte Weg (Text-Serialisierung): Sie sagen allen drei Forschern, sie sollen nach draußen gehen und Hinweise finden. Jeder schreibt einen langen Bericht über seine Erkenntnisse. Um zur endgültigen Antwort zu gelangen, müssen Sie warten, bis sie fertig sind, nehmen dann ihre drei separaten Berichte, heften sie zu einem riesigen Dokument zusammen und lesen das Ganze von Anfang bis Ende durch, bevor Sie Ihre Schlussfolgerung schreiben können.
- Der Fehler: Das ist langsam. Sie lesen die gleichen Hintergrundinformationen dreimal (einmal in jedem Bericht), nur um zu den neuen Hinweisen zu gelangen. Es ist, als würde man das erste Kapitel eines Buches dreimal neu lesen, bevor man zum eigentlichen Wendepunkt der Handlung kommt.
Der neue Weg (Parallel-Synthese): Anstatt auf schriftliche Berichte zu warten, verfügen Sie über eine spezielle „telepathische Verbindung“. Sobald die Forscher ihre Arbeit beendet haben, „schließen Sie sich“ nicht an deren Worte an, sondern verbinden sich direkt mit ihren Gehirnen (ihren latenten Zuständen oder KV-Caches). Sie sehen ihre Erkenntnisse, ihr Denken und ihre Beweise sofort, ohne dass diese sie aufschreiben müssen und ohne dass Sie alles neu lesen müssen.

Was ist „Latent Space“ und „KV Cache“?

In der Welt der Large Language Models (LLMs) speichert ein Modell, wenn es „denkt“, nicht nur Wörter; es speichert einen komplexen mathematischen „Fingerabdruck“ dessen, was es in diesem Moment weiß. Dies wird als KV Cache (Key-Value Cache) bezeichnet.

Analogie: Betrachten Sie den KV Cache als ein fertig gekochtes Gericht, das auf einem Teller steht.
- Textbasierte Synthese ist so, als würden Sie die Köche bitten, das Rezept aufzuschreiben und Ihnen das Papier zu schicken, woraufhin Sie die Zutaten selbst kaufen und das Essen erneut kochen müssen, nur um es zu probieren.
- Parallel-Synthese ist so, als würden die Köche Ihnen den Teller mit dem bereits heißen, fertigen Essen direkt überreichen. Sie überspringen den Schritt des Kochens komplett.

Wie die Lösung funktioniert

Die Arbeit stellt ein Framework namens Parallel-Synthesis vor. Es fungiert als Übersetzer und Brücke zwischen den Arbeitern und dem Manager. Es nutzt drei Haupttricks:

Positional Re-encoding (Die „Zeitlinien-Korrektur“):
- Das Problem: Die drei Forscher arbeiteten auf unterschiedlichen Zeitlinien. Wenn Sie deren „Gehirnzustände“ einfach zusammenwerfen, wird das Modell verwirrt, was zuerst geschah.
- Die Lösung: Das System gleicht ihre Zeitlinien an. Es sagt dem Modell: „Auch wenn diese drei Gedanken an unterschiedlichen Stellen stattfanden, stellt euch vor, sie wären alle von genau diesem einen Moment in der Zeit aus verzweigt.“ Dies hält die Logik korrekt, ohne sie in eine einzige Textzeile erzwingen zu müssen.
Cache Mapping (Der „Einstellknopf“):
- Das Problem: Jeder Forscher hat vielleicht eine etwas andere „Stimme“ oder einen anderen Stil in seinen internen Gedanken.
- Die Lösung: Ein kleines, intelligentes Werkzeug (ein MLP) passt diese internen Zustände an, sodass sie dieselbe „Sprache“ sprechen, bevor der Manager sie lift. Es ist wie ein Universalübersetzer für ihre telepathische Verbindung, damit der Manager jeden perfekt versteht.
Spezialisierte Trainings (Die „Übungsrunde“):
- Das System ist nicht nur ein Stecker, sondern ein trainiertes Gehirn. Die Forscher haben das Manager-Modell mit zwei Arten von Übungen trainiert:
  - Track 1: Das Modell lernte, wie man mehrere „Gehirnzustände“ gleichzeitig liest (wie das Erlernen des gleichzeitigen Zuhörens bei drei Radiosendern).
  - Track 2: Das Modell lernte, wie man gute Entscheidungen basierend auf diesen Zuständen trifft (wie das Lösen eines Rätsels durch den Vergleich von Hinweisen, statt nur Stimmen zu zählen).

Die Ergebnisse: Schneller und Schlauer

Die Autoren testeten diese neue Methode bei neun verschiedenen Aufgaben, die von der Lösung von Matheaufgaben über das Schreiben von Code bis hin zur Diagnose von Datenbankfehlern und der Beantwortung wissenschaftlicher Fragen reichten.

Geschwindigkeit: Da das System die Schritte des „Neu-Lesens“ und „Neu-Kochens“ überspringt, ist es bei der Erzeugung des ersten Wortes der Antwort 2,5- bis 11-mal schneller.
Genauigkeit: In 7 von 9 Tests schnitt es genauso gut oder sogar besser ab als die alte textbasierte Methode.
- Warum? Bei schwierigen Denkaufgaben (wie Mathe oder komplexer Wissenschaft) enthalten die „rohen Gehirnzustände“ mehr Nuancen als eine schriftliche Zusammenfassung. Das Modell kann die Logik eher „fühlen“ als sie nur zu „lesen“.
- Hinweis: Bei einfachen Aufgaben, bei denen es nur um einen Fakt geht (wie Multiple-Choice-Fragen), ist die alte Textmethode immer noch sehr gut, aber die neue Methode ist niemals schlechter.

Was es NICHT ist

Es ist keine Methode, um die KI in Bezug auf die reine Rechenleistung pro Sekunde schneller „denken“ zu lassen.
Es ist keine Methode, damit die KI direkt mit Menschen kommuniziert (Sie lesen am Ende immer noch den Text).
Es ist kein magisches Heilmittel für jede Art von Workflow, aber ein bedeutendes Upgrade für Workflows, in denen mehrere Agenten parallel arbeiten und dann ihre Ergebnisse kombinieren müssen.

Zusammenfassung

Parallel-Synthesis ist eine neue Art und Weise, wie KI-Agenten miteinander kommunizieren. Anstatt lange Berichte zu schreiben und diese wieder zu lesen (was langsam und repetitiv ist), teilen sie ihre „Gedanken“ direkt in ihrem rohen, internen Format. Dies spart eine enorme Menge an Zeit und hilft der KI überraschenderweise dabei, bei komplexen Problemen bessere Entscheidungen zu treffen, da es die volle Tiefe des Denkprozesses bewahrt.

Technische Zusammenfassung: Parallel-Synthesis für die direkte Synthese im latenten Raum in LLM-Agenten-Workflows

1. Problemformulierung

Große Sprachmodelle (LLMs) dienen als Ausführungsmaschinen für moderne agentische Systeme, operieren jedoch über eine sequenzielle Text-Schnittstelle. Dies erzeugt einen grundlegenden Widerspruch zu strukturierten Agenten-Workflows, insbesondere solchen, die als gerichtete azyklische Graphen (DAGs) organisiert sind, in denen unabhängige Sub-Agenten (Worker) parallele Zweige ausführen – wie etwa das Abrufen von Evidenz, das Lösen von Teilaufgaben oder das Generieren von Kandidatenlösungen –, bevor ein nachgeschalteter Synthesizer deren Ergebnisse zusammenführt.

Aktuelle Systeme handhaben dieses „Parallel-dann-Synthetisieren“-Muster, indem sie die textuellen Ausgaben aller Worker-Zweige in einen einzigen, erweiterten Prompt für den Synthesizer konkatenieren. Dieser Ansatz leidet unter zwei primären Einschränkungen:

Verlust der Struktur: Er flacht die reiche Abhängigkeitsstruktur des DAG in eine lineare Sequenz ab und verwirft dabei die Unabhängigkeit der Zweige.
Redundante Berechnung: Der Synthesizer muss die Ausgaben der Worker erneut kodieren (prefill), obwohl diese Token bereits während der Dekodierungsphase der Worker in Key-Value (KV)-Caches kodiert wurden. Dies verursacht signifikante Latenz und Rechenaufwand.

Obwohl die Zusammenfassung (Summarization) eine potenzielle Abschwächung darstellt, beruht sie auf natürlicher Sprachkommunikation, was dennoch eine erneute Kodierung erfordert und das Risiko birgt, kritische Details zu verlieren. Dieses Paper untersucht eine direktere Alternative: Kann ein Synthesizer-Agent die latenten KV-Zustände paralleler Worker-Zweige direkt konsumieren, ohne sie in Text umzuwandeln?

2. Methodik: Parallel-Synthesis

Die Autoren führen Parallel-Synthesis ein, ein Plug-and-Play-Framework, das es einem nachgeschalteten Synthesizer ermöglicht, die von parallelen Worker-Agenten erzeugten KV-Caches direkt wiederzuverwenden. Das Framework besteht aus drei Kernkomponenten, die darauf ausgelegt sind, die Lücke zwischen disjointen parallelen Caches und dem Generierungsprozess des Synthesizers zu schließen:

2.1 Modellarchitektur

Positional Re-encoding (Positionale Neukodierung):
Die Ausgaben der Worker $z_j$ werden ursprünglich relativ zu ihrem spezifischen Zweigkontext $c_j$ generiert, was zu distinkten RoPE-Positionen (Rotary Positional Embedding) führt. Um sie gemeinsam zu synthetisieren, re-kodiert das Framework die positionalen Embeddings aller Worker-Ausgaben auf eine gemeinsame Position nach der Verzweigung $n$ . Konkret wird das $r$ -te Token einer Worker-Ausgabe unter Verwendung des RoPE-Rotationsoperators auf die Position $n+r$ neu kodiert, wodurch sichergestellt wird, dass alle Zweige als parallele Fortsetzungen von einem einzigen Verzweigungspunkt aus erscheinen, statt als eine serialisierte Sequenz.
Cache Mapper:
Um die unabhängig generierten Caches zu kalibrieren, bildet ein lernfähiges Multi-Layer Perceptron (MLP) die Metadaten der Worker (Ausgabelänge und Gesamtzahl der Worker) auf affine Koeffizienten ab. Diese Koeffizienten wenden elementweise Transformationen auf die re-kodierten Keys und Values ( $\hat{K}, \hat{V}$ ) an, wodurch die latenten Zustände effektiv angepasst werden, um einen sequenziellen Kontext besser zu approximieren, bevor sie konkateniert werden.
Synthesizer LoRA Adapter:
Ein Low-Rank Adaptation (LoRA) Modul wird auf der Synthesizer-Seite trainiert, um dem Modell zu helfen, die nicht-sequenzielle, Multi-Branch-Cache-Schnittstelle zu interpretieren und darüber zu schlussfolgern. Dieser Adapter wird nur während der Synthese aktiviert, sodass die Ausführung der Worker unverändert bleibt.

2.2 Trainingsstrategie

Das Framework wird unter Verwendung eines Zwei-Track-Post-Training-Ansatzes trainiert, wobei die Checkpoints anschließend zusammengeführt werden, um komplementäre Fähigkeiten zu bewahren:

Track 1: Allgemeine Anpassung an parallele Kontexte:
- Fortgesetztes Pre-training: Verwendet groß angelegte Multi-Turn-Dialogdaten (z. B. WildChat, UltraChat), bei denen Dialog-Turns als parallele Caches anstatt als serialisierte Historie kodiert sind. Dies dient als architektonisches Warm-up.
- Supervised Fine-Tuning (SFT): Verwendet Aufgaben mit natürlich dekomponierbaren Eingaben (z. B. Tool-Use-Trajektorien, Few-Shot-Exemplare, Multi-Dokument-QA), um dem Modell beizubringen, Informationen über parallele Zweige hinweg aktiv zu synthetisieren.
Track 2: Destillation aus textbasierter Synthese:
Um komplexe Denkprozesse zu erfassen, destillieren die Autoren Trajektorien aus einer Standard-Text-Serialisierungs-Pipeline (unter Verwendung von BrowseComp). Hochwertige Synthese-Spuren, bei denen der Synthesizer über Worker-Ausgaben schlussfolgert und diese vergleicht, werden in das Cache-basierte Format konvertiert. Dies lehrt das Modell, höherwertige Argumentation und Urteilskraft über parallele Agenten-Trajektorien auszuüben.

3. Zentrale Beiträge

Direkte latente Schnittstelle: Schlägt eine neuartige Schnittstelle vor, bei der Synthesizer KV-Caches direkt von parallelen Agenten konsumieren und so den Flaschenhals der Text-Serialisierung umgehen.
Kalibrierungsmechanismus: Führt einen Cache Mapper und ein Positionales Re-encoding ein, um disjunkte parallele Caches in einen kohärenten Kontext für den Synthesizer auszurichten.
Trainingsparadigma: Demonstriert, dass effektive parallele Synthese ein spezifisches Post-Training (sowohl allgemeine Anpassung als auch Reasoning-Destillation) erfordert und nicht nur eine Inference-Zeit-Cache-Wiederverwendung ist.
Plug-and-Play-Design: Das Framework ist als Adapter konzipiert, der in bestehende agentische Workflows integriert werden kann, ohne die Worker-Agenten modifizieren zu müssen.

4. Experimentelle Ergebnisse

Die Autoren evaluierten Parallel-Synthesis über neun Downstream-Datensätze hinweg, die mathematische Argumentation (AIME, GSM8K), wissenschaftliche Beantwortung von Fragen (GPQA, MedQA), Code-Generierung (HumanEval, MBPP) und Multi-Agenten-Benchmarks (GAIA, MARBLE) abdecken.

Performance: Parallel-Synthesis erreicht auf 7 von 9 Datensätzen eine Leistung, die der Standard-Text-basierten Synthese entspricht oder diese übertrifft. Bemerkenswert ist, dass es bei Aufgaben mit hohem Argumentationsanteil (z. B. AIME 2025, GPQA, MARBLE) signifikante Gewinne erzielt, was darauf hindeutet, dass die direkte Synthese im latenten Raum reichere Argumentationsspuren bewahrt als Text. Bei evidenzbasierten Aufgaben (z. B. GAIA, MBPP) ist die Leistung vergleichbar.
Effizienz: Durch das Vermeiden des Re-Prefills von Worker-Ausgaben reduziert Parallel-Synthesis die Time-to-First-Token (TTFT) um das 2,5- bis 11-fache im Vergleich zur textbasierten Synthese.
Argumentationsfähigkeit: Die Methode übertrifft einfache Majority-Voting-Baselines auf den meisten Datensätzen, was darauf hindeutet, dass sie eher zwischenzusetzende Argumentationsschritte und die Qualität der Evidenz nutzt als lediglich Endantworten zu aggregieren.
Ablationsstudien:
- Das Zusammenführen von Track 1 und Track 2 Checkpoints liefert bessere Ergebnisse als sequenzielles Tuning, was das katastrophale Vergessen verhindert.
- Sowohl der Cache Mapper als auch der Synthesizer LoRA sind notwendig; das Entfernen eines Teils verschlechtert die Leistung.
- Die Bereitstellung vollständiger Trajektorien-Informationen (einschließlich Tool-Beobachtungen) liefert die höchste Genauigkeit, aber zu einem Latenzpreis; finale Ausgaben bieten den besten Kompromiss.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass Parallel-Synthesis zeigt, dass die direkte Cache-basierte Synthese eine vielversprechende Schnittstelle für nativere und effizientere Agenten-Workflows ist. Die Ergebnisse legen nahe, dass:

Latente Zustände sind überlegen für die Argumentation: Für Aufgaben, die eine tiefe Integration paralleler Argumentationsspuren erfordern, kann der direkte Cache-Konsum mit der textbasierten Synthese konkurrenzfähig oder sogar überlegen sein.
Effizienz ist inhärent: Die Methode reduziert die redundante Berechnung grundlegend, indem sie die Notwendigkeit der erneuten Kodierung verarbeiteter Informationen eliminiert.
Training ist essenziell: Im Gegensatz zu RAG-ähnlichen Methoden der Cache-Wiederverwendung, die oft auf Kalibrierung zur Laufzeit setzen, erfordert robuste parallele Agenten-Synthese explizites Post-Training, um zu lernen, wie man heterogene Branch-Zustände interpretiert und aggregiert.

Die Autoren kommen zu dem Schluss, dass Parallel-Synthesis zwar noch kein universeller Ersatz für die Textkommunikation in allen komplexen Workflows ist, aber ein starkes Indiz dafür liefert, dass DAG-strukturierte Workflows nativer ausgeführt und zusammengeführt werden können, ohne den Overhead der Text-Serialisierung. Zukünftige Arbeiten müssten das Post-Training auf breitere Sammlungen von Agenten-Workflow-Daten skalieren, um vielfältigere Tool-Use-Muster und Verzweigungsstrukturen abzudecken.