💬 NLP

From Assumptions to Actions: Turning LLM Reasoning into Uncertainty-Aware Planning for Embodied Agents

Dieses Paper führt PCE ein, ein Planner-Composer-Evaluator-Framework, das latente LLM-Annahmen in strukturierte Entscheidungsbäume transformiert, um eine unsicherheitsbewusste Planung für verkörperte Agenten zu ermöglichen, wodurch die Aufgabenerfolgsrate und Effizienz im Vergleich zu traditionellen Methoden signifikant verbessert und der Kommunikationsaufwand reduziert wird.

Ursprüngliche Autoren: SeungWon Seo, SooBin Lim, SeongRae Noh, Haneul Kim, HyeongYeop Kang

Veröffentlicht 2026-02-05

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: SeungWon Seo, SooBin Lim, SeongRae Noh, Haneul Kim, HyeongYeop Kang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie und ein Freund versuchen gemeinsam ein komplexes Gericht in einer Küche zuzubereiten, in der Sie immer nur die Hälfte des Raumes gleichzeitig sehen können. Sie können nicht sehen, was in den Schränken steht, und Sie können nicht sehen, was Ihr Freund gerade in der Hand hält. Um erfolgreich zu sein, müssen Sie erraten, wo sich die Zutaten befinden und was Ihr Freund plant zu tun.

In der Welt der KI werden diese „Kochroboter“ als embodied agents (verkörperte Agenten) bezeichnet. Lange Zeit war die beste Methode für diese Roboter, das Problem des „Ich kann nicht alles sehen“ zu bewältigen, ständig miteinander zu kommunizieren. „Siehst du das Mehl?“ „Nein, siehst du es?“ „Ist der Ofen an?“

Das Paper argumentiert, dass dieses ständige Geplapper teuer, langsam und nervig ist (besonders wenn ein Mensch involviert ist). Stattdessen stellt die Autoren ein neues System namens PCE (Planner-Composer-Evaluator) vor, das der KI lehrt, besser nachzudenken, bevor sie spricht.

So funktioniert PCE, erklärt anhand einer einfachen Analogie:

Das Problem: Das „Ratespiel“

Stellen Sie sich vor, Sie sind die KI. Sie müssen einen Cupcake finden. Sie haben ein paar Optionen:

Den Kühlschrank prüfen.
Das Schlafzimmer prüfen.
Ihren Freund fragen, wo er ist.

Alte KI-Systeme würden einfach eine Option wählen, vielleicht eine Frage stellen und dann hoffen, dass es klappt. Wenn sie falsch geraten hatten, mussten sie von vorne beginnen. Sie behandelten jede Vermutung als einen separaten, isolierten Gedanken.

Die Lösung: Der „Entscheidungsbaum“

PCE verändert die Art und Weise, wie die KI denkt. Anstatt nur einen Pfad zu wählen, erstellt sie eine mentale Landkarte der Möglichkeiten (einen Entscheidungsbaum), bevor sie eine Aktion ausführt.

Hier ist der dreistufige Prozess, den PCE verwendet:

1. Der Planner (Der Träumer)

Zuerst betrachtet die KI die Situation und listet alle Dinge auf, von denen sie glaubt, dass sie wahr sein könnten.

Gedanke: „Vielleicht sind die Cupcakes in der Küche.“
Gedanke: „Vielleicht weiß mein Freund, wo sie sind.“
Gedanke: „Vielleicht sind sie im Schlafzimmer.“

In alten Systemen waren diese Gedanken nur eine ungeordnete Liste. PCE behandelt sie als Ausgangspunkte eines Spiels.

2. Der Composer (Der Architekt)

Dies ist der magische Schritt. Der Composer nimmt diese ungeordneten Gedanken und organisiert sie in einem Flussdiagramm.

Zweig A: WENN die Cupcakes in der Küche sind, DANN gehe in die Küche, um nachzusehen.
Zweig B: WENN die Cupcakes NICHT in der Küche sind, DANN prüfe, ob mein Freund weiß, wo sie sind.
Zweig C: WENN mein Freund es nicht weiß, DANN prüfe das Schlafzimmer.

Er erstellt eine vollständige „Was-wäre-wenn“-Karte. Er rät nicht einfach nur; er bildet jeden logischen Pfad ab, den die Situation nehmen könnte.

3. Der Evaluator (Der Punktezähler)

Nun betrachtet die KI ihr Flussdiagramm und bewertet jeden Pfad. Sie stellt drei Fragen für jeden Pfad:

Wahrscheinlichkeit: Wie wahrscheinlich ist es, dass dieses Szenario wahr ist? (z. B. „Cupcakes sind normalerweise in der Küche, also ist dies hoch.“)
Gewinn (Gain): Wie sehr hilft uns diese Aktion dabei, die Aufgabe abzuschließen, falls dies der Fall ist?
Kosten (Cost): Wie viel Zeit oder Energie kostet uns diese Aktion? (Gehen ist günstig; mit einem Menschen zu sprechen ist teuer).

Die KI berechnet einen finalen „Score“ für jeden Pfad. Sie wählt den Pfad mit dem höchsten Score.

Warum das besser ist

Das Paper testete dieses System in zwei sehr schwierigen „Küchenumgebungen“ (genannt C-WAH und TDW-MAT) unter Verwendung verschiedener KI-Gehirne (LLMs).

Weniger Gerede: Die alten Systeme sprachen ständig miteinander, um Dinge herauszufinden. PCE klärte die wahrscheinlichsten Szenarien intern und sprach nur, wenn es absolut notwendig war.
Schnellere Ergebnisse: Da sie weniger Zeit mit Reden und mehr Zeit mit dem Handeln nach ihren besten Vermutungen verbrachten, erledigten sie Aufgaben schneller.
Klugere Menschen: In einem Test mit echten Menschen bevorzugten die Menschen die Arbeit mit dem PCE-Roboter. Sie empfanden den Roboter als vertrauenswürdiger und effizienter, weil er sie nicht mit ständigen Fragen nervte, ihn aber auch nicht ignorierte, wenn er wirklich Hilfe benötigte.

Das Wichtigste in Kürze

Das Paper zeigt, dass es nicht automatisch das Problem löst, dass man nicht weiß, was um einen herum passiert, wenn man die KI einfach nur „schlauer“ macht (größere Modelle) oder sie „länger nachdenken“ lässt.

Stattdessen benötigt man eine Struktur. Indem man die KI dazu zwingt, ihre Annahmen aufzuschreiben, sie in einem Baum zu organisieren und sie wie ein mathematisches Problem zu bewerten, kann sie rationale Entscheidungen treffen, ohne ständig um Hilfe bitten zu müssen. Es verwandelt „Raten“ in „kalkuliertes Risiko“.

Kurz gesagt: PCE lehrt die KI, aufzuhören zu raten und stat�tdessen ihre Optionen abzuwägen, damit sie auch dann selbstbewusst handeln kann, wenn die Welt verschwommen und ungewiss ist.

Technisches Resümee: Von Annahmen zu Handlungen (PCE)

Problemdefinition

Die Arbeit befasst sich mit der Herausforderung der unsicherheitsbewussten Planung für verkörperte Agenten (Embodied Agents), die in dezentralen, teilweise beobachtbaren Multi-Agenten-Umgebungen agieren. In solchen Szenarien (z. B. häusliche Zusammenarbeit) verfügen die Agenten über begrenzte Perzeptionsfelder, was zu einer allgegenwärtigen Unsicherheit hinsichtlich verborgener Objekte sowie der Intentionen und Handlungen von Kollaborateuren führt.

Bestehende Ansätze, die auf Large Language Models (LLMs) basieren, mildern diese Unsicherheit oft durch häufige Inter-Agent-Kommunikation ab. Während dies für die Koordination effektiv ist, verursacht dieses „kommunikationszentrierte“ Paradigma erhebliche Token- und Zeitkosten. Zudem können kontinuierliches Nachfragen und Berichten Arbeitsabläufe stören, insbesondere wenn menschliche Partner beteiligt sind. Die Autoren argumentieren, dass die bloße Skalierung der LLM-Kapazität oder die Vertiefung von Reasoning-Ketten die Unsicherheit nicht inhärent löst; ohne explizite Mechanismen zur Bewertung zugrunde liegender Annahmen haben auch größere Modelle Schwierigkeiten, konkurrierende Hypothesen abzuwägen, was zu Fehlausrichtung der Prioritäten und einer verschlechterten Planungsqualität führt.

Methodik: Das PCE-Framework

Die Autoren schlagen PCE (Planner-Composer-Evaluator) vor, ein modulares Framework, das fragmentierte, latente Annahmen innerhalb von LLM-Reasoning-Traces in einen strukturierten Entscheidungsbaum transformiert, um eine rationale Aktionsauswahl ohne schwere Kommunikation zu ermöglichen. Das Framework operiert auf einem Modell des Dezentralisierten Teilweise Beobachtbaren Markov-Entscheidungsprozesses (DEC-POMDP).

Das Planungsmodul wird in eine dreistufige Pipeline umgestaltet:

Planner (Reasoning für die Aktionsauswahl):
- Empfängt Kontext (Ziele, Gedächtnis, Beobachtungen) und generiert eine initiale Aktionswahl, begleitet von einem Chain-of-Thought (CoT) Reasoning-Trace.
- Empirisch gesehen enthalten diese Traces implizite, isolierte Annahmen über die Umgebung (z. B. „Gegenstände befinden sich wahrscheinlich im Schrank“), versäumen es jedoch, diese für die globale Entscheidungsfindung explizit zu aggregieren.
Composer (Vom Trace zum Szenario-Baum):
- Extrahiert zentrale Unsicherheiten (Annahmen) aus dem Trace des Planners und strukturiert sie in einen Entscheidungsbaum.
- Interne Knoten repräsentieren Annahmen mit True/False-Verzweigungen.
- Blattknoten repräsentieren spezifische Aktionen (physisch oder kommunikativ), die für die akkumulierten Annahmen entlang dieses Pfades angemessen sind.
- Der Baum wird top-down unter Verwendung von LLM-Commonsense-Reasoning erweitert, um Annahmen zu priorisieren, die die Unsicherheit am stärksten reduzieren. Er generiert bei Bedarf neue atomare Annahmen und stellt die Konsistenz mit den aktuellen Prämissen sicher.
Evaluator (Bewertung und Selektion):
- Bewertet jeden Pfad vom Wurzelknoten zum Blatt (Szenario), um die Aktionsauswahl zu steuern.
- Die Bewertungsfunktion $U(S, a)$ $U (S, a)$ integriert drei normalisierte Metriken:
  - Likelihood ( $L$ ): Die geschätzte Wahrscheinlichkeit, dass die Prämisse des Szenarios wahr ist.
  - Conditional Gain ( $G$ ): Der erwartete Fortschritt in Richtung des Ziels, falls das Szenario eintritt.
  - Execution Cost ( $C$ ): Die benötigten Ressourcen (Bewegungsdistanz oder Nachrichtenlänge).
- Der endgültige Score wird berechnet als $U(S, a) = L(S) \cdot G(a) - \lambda C(a)$ .
- Der Agent wählt die Aktion, die dem Blatt mit dem höchsten Score entspricht, wobei er physische Exploration gegen Kommunikation abwägt und nur dann kommuniziert, wenn die Kommunikation einen höheren erwarteten Nutzen bringt.

Zentrale Beiträge

Struktureller Wandel in der Planung: Im Gegensatz zu früheren Arbeiten, die Koordination durch iterative Kommunikation oder gemeinsame Planverhandlung optimieren, behandelt PCE Umweltannahmen als primäre Entscheidungsvariablen. Es argumentiert über die in den Belief-State des Agenten eingebettete Unsicherheit, bevor die Aktion ausgeführt wird.
Unsicherheitsbewusster Entscheidungsbaum: Das Framework konvertiert latente LLM-Annahmen in einen expliziten Entscheidungsbaum, was die systematische Versöhnung multipler Hypothesen, die Erkennung logischer Konflikte und das konsistente Abwägen alternativer Aktionen ermöglicht.
Kommunikationseffizienz: Durch die explizite Bewertung des Nutzens von Kommunikation gegenüber physischen Aktionen reduziert PCE unnötige Dialoge, während es die Planungsleistung beibehält oder verbessert.
Modellagnostik: Das Framework operiert auf generischen Reasoning-Traces statt auf modellspezifischen Internals, was die Anwendung auf diverse LLM-Backbones ermöglicht.

Experimentelle Ergebnisse

Die Autoren evaluierten PCE in zwei anspruchsvollen Multi-Agenten-Benchmarks: C-WAH (10 Episoden, 3–5 Sub-Ziele, Horizont 250) und TDW-MAT (24 Episoden, 10 Zielobjekte, Horizont 3000). Die Experimente wurden über drei diverse LLM-Backbones durchgeführt: GPT-4o mini, GPT-OSS:20B und Gemma3:4B.

Performance: PCE übertraf konsistent kommunikationszentrierte Baselines (CoELA, REVECA, CaPo, CoTS) in Bezug auf die Erfolgsrate und die Aufgabeneffizienz (weniger Gesamtschritte oder höherer Anteil des Objekttransports) über alle Backbones hinweg.
Token-Nutzung: PCE erreichte eine vergleichbare oder geringere Gesamttoken-Nutzung („Usages“) im Vergleich zu den Baselines, trotz seiner Multi-Modul-Architektur, indem es die Anzahl der Kommunikationsaktionen und die Episodenlängen signifikant reduzierte.
Ablationsstudien:
- Skalierung: Eine bloße Erhöhung der Modellkapazität oder der Reasoning-Tiefe führte nur zu moderaten Verbesserungen. PCE lieferte robuste, additive Leistungssteigerungen über alle Skalen hinweg, was bestätigt, dass strukturierte Unsicherheitsbehandlung die Skalierung ergänzt.
- Komponenten: Das Entfernen eines Moduls (Planner, Composer oder Evaluator) verschlechterte die Leistung, was die Notwendigkeit der vollständigen Pipeline bestätigt.
Nutzerstudie: In einer Mensch-Agent-Kollaborationsstudie bewerteten Teilnehmer PCE signifikant höher als die Varianten „Communication Always“ und „No Communication“ in Bezug auf Angemessenheit, Nützlichkeit, Effizienz und Vertrauen. Die selektive Kommunikation von PCE wurde als besser abgestimmt und zuverlässiger wahrgenommen.

Bedeutung und Thesen

Die Arbeit beansprucht, einen prinzipienbasierten Weg aufzuzeigen, um latente LLM-Annahmen in zuverlässige Strategien für die unsicherheitsbewusste Planung zu verwandeln. Ihre primäre Bedeutung liegt im Wechsel vom Fokus auf kommunikationsintensive Minderung hin zur prinzipienbasierten Nutzung von Annahmen, die bereits im Reasoning des LLMs vorhanden sind.

Die Autoren behaupten:

Kommunikation ist keine Voraussetzung für Koordination: Agenten können physische und kommunikative Aktionen adaptiv ausbalancieren, indem sie explizit über Unsicherheit argumentieren.
Skalierung ist unzureichend: Die bloße Vergrößerung der Modellgröße oder der Reasoning-Tiefe löst das grundlegende Problem der Abhängigkeit von veralteten internen Gedächtnissen in teilweise beobachtbaren Umgebungen nicht; eine explizite Strukturierung der Unsicherheit ist erforderlich.
Generalisierbarkeit: Das Framework ist domänenunabhängig und kann auf verschiedene LLM-Backbones und Multi-Agenten-Domänen angewendet werden, ohne dass ein modellspezifisches Fine-Tuning erforderlich ist.

Die Arbeit deutet auf eine neue Richtung für verkörperte Systeme hin, bei denen die rationale Aktionsauswahl durch strukturierte Hypothesenbewertung statt durch reaktive Dialoge gesteuert wird.