💬 NLP

Exploring Plan Space through Conversation: An Agentic Framework for LLM-Mediated Explanations in Planning

Diese Arbeit stellt ein agentic Framework vor, das mithilfe von Multi-Agenten-LLMs kontextabhängige und nutzerzentrierte Erklärungen für Planungsprobleme generiert, um die menschliche Entscheidungsfindung durch interaktive Dialoge zu unterstützen und in einer Nutzerstudie gegenüber template-basierten Baselines zu validieren.

Ursprüngliche Autoren: Guilhem Fouilhé, Rebecca Eifler, Antonin Poché, Sylvie Thiébaux, Nicholas Asher

Veröffentlicht 2026-04-10

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Guilhem Fouilhé, Rebecca Eifler, Antonin Poché, Sylvie Thiébaux, Nicholas Asher

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie planen den perfekten Nachmittag für Ihre Familie. Sie wollen einkaufen, kochen und die Kinder zum Sport bringen. Aber die Zeit ist knapp, und Sie können nicht alles gleichzeitig machen. Ein Computerprogramm (ein „Planer") könnte Ihnen theoretisch eine Lösung vorschlagen, aber was, wenn es Ihnen sagt: „Das geht nicht"? Oder was, wenn es einen Plan vorschlägt, bei dem Sie das Abendessen opfern müssen, was Sie aber gar nicht wollen?

Hier kommt die Idee dieses Forschungsprojekts ins Spiel: Ein intelligenter Gesprächspartner, der nicht nur plant, sondern auch erklärt.

Hier ist die Erklärung der Arbeit in einfachen Worten, mit ein paar bildhaften Vergleichen:

1. Das Problem: Der sture Computer vs. der menschliche Planer

Stellen Sie sich den klassischen Planer wie einen sehr strengen, aber etwas sturen Bibliothekar vor. Er hat eine Liste von Regeln und versucht, alle Bücher (Ziele) in ein Regal (den Plan) zu packen. Wenn das Regal voll ist, sagt er einfach: „Nein, passt nicht." Er erklärt aber nicht warum oder welches Buch Sie weglassen könnten, damit es passt.

In der echten Welt wollen wir aber nicht nur eine fertige Liste. Wir wollen verstehen, warum etwas nicht funktioniert, und wir wollen mit dem System diskutieren, um einen Plan zu finden, der uns wirklich gefällt.

2. Die Lösung: Ein Team aus KI-Assistenten (Multi-Agenten)

Die Forscher haben ein System gebaut, das wie ein kleines Team aus Spezialisten funktioniert, anstatt auf einen einzelnen Roboter zu setzen. Man kann es sich wie eine Drehbuch-Abteilung für einen Film vorstellen:

Der Dolmetscher (Translator): Der Benutzer spricht normale Sprache („Können wir auch noch Pizza essen?"). Der Dolmetscher übersetzt das in die strenge, mathematische Sprache, die der Computer versteht.
Der Detektiv (Question Suggester): Manchmal wissen Menschen nicht genau, was sie fragen sollen. Dieser Assistent schlägt vor: „Hey, fragen Sie doch mal, ob wir das Abendessen weglassen können, um Zeit für die Pizza zu haben."
Der Logiker (Planner & Explanation Framework): Das ist der eigentliche Rechenkopf. Er berechnet, was möglich ist und wo die Konflikte liegen (z. B. „Pizza und Sport gehen nicht gleichzeitig").
Der Erklärer (Explanation Translator): Wenn der Logiker sagt: „Konflikt zwischen Pizza und Sport", nimmt der Erklärer diese trockene Information und macht daraus einen freundlichen Satz: „Wenn Sie Pizza essen wollen, müssen Sie leider den Sporttermin verschieben."

3. Wie das Gespräch funktioniert (Das „Plan-Raum"-Erkunden)

Stellen Sie sich den „Plan-Raum" wie einen großen, dunklen Wald vor.

Früher: Der Computer warf Ihnen einen einzigen Lichtstrahl (einen Plan) hin. Wenn Sie nicht damit zufrieden waren, mussten Sie von vorne anfangen.
Jetzt: Sie gehen mit dem KI-Assistenten Hand in Hand durch den Wald.
- Sie fragen: „Warum ist der Weg zum Sport blockiert?"
- Der Assistent antwortet: „Weil Sie gleichzeitig einkaufen wollen, und das dauert zu lange."
- Sie fragen: „Was passiert, wenn ich das Einkaufen streiche?"
- Der Assistent sagt: „Dann schaffen Sie beides!"

Das System lernt aus Ihrer Rückmeldung und passt den Plan schrittweise an. Es ist kein „Einweg-Kommunikation", sondern ein echtes Gespräch.

4. Der große Test: Menschen vs. Vorlagen

Die Forscher haben ein Experiment gemacht, um zu sehen, ob dieses neue System wirklich besser ist.

Gruppe A (Die Vorlagen-Gruppe): Diese Leute durften nur aus einer feststehenden Liste von Fragen wählen (wie bei einem Multiple-Choice-Test). Das war wie ein Gespräch mit einem Automaten, der nur vordefinierte Sätze sagt.
Gruppe B (Die KI-Gruppe): Diese Leute konnten frei sprechen, Fragen stellen, die ihnen gerade in den Sinn kamen, und den Assistenten um Hilfe bitten.

Das Ergebnis:
Die Gruppe mit der KI konnte ihre Ziele (den „Nutzen" des Plans) schneller und besser erreichen. Aber das Wichtigste war das Gefühl: Die Menschen fühlten sich sicherer, verstanden die Probleme besser und hatten weniger das Gefühl, gegen eine undurchsichtige Maschine zu kämpfen. Sie hatten das Gefühl, den Wald gemeinsam zu durchqueren, anstatt im Dunkeln zu tappen.

Zusammenfassung

Diese Forschung zeigt, dass wir KI nicht als einen allwissenden Gott sehen sollten, der uns einfach sagt, was wir tun sollen. Stattdessen sollten wir KI als einen kooperativen Reiseleiter nutzen.

Wenn Sie einen Plan erstellen wollen (ob für den Nachmittag, für ein Projekt oder für die Logistik eines Unternehmens), ist es entscheidend, dass Sie verstehen, warum der Computer bestimmte Entscheidungen trifft. Durch das Gespräch mit einer KI, die komplexe Berechnungen in einfache Sprache übersetzt, können wir bessere Entscheidungen treffen und den Menschen wieder in den Mittelpunkt des Planungsprozesses stellen.

Kurz gesagt: Es geht nicht darum, den Menschen durch den Computer zu ersetzen, sondern den Computer so zu programmieren, dass er uns hilft, unsere eigenen Pläne besser zu verstehen und zu verbessern.

1. Problemstellung

Die Automatisierung der Planerstellung für reale sequenzielle Entscheidungsprobleme zielt oft nicht darauf ab, den menschlichen Planer zu ersetzen, sondern einen iterativen Prozess der Präferenzelizitation und des Denkens zu unterstützen. In diesem Kontext ist es entscheidend, dass das System dem Nutzer erklärt, warum bestimmte Ziele nicht erreicht werden können oder wie Konflikte zwischen Zielen gelöst werden können.

Herausforderungen bestehen darin:

Interaktivität: Erklärungen müssen dialogfähig sein, um Follow-up-Fragen und Nachfragen zu ermöglichen, da ein einmaliger statischer Erklärungsversuch oft nicht ausreicht.
Komplexität von LLMs: Große Sprachmodelle (LLMs) sind zwar gut im Verstehen natürlicher Sprache, aber empirisch und theoretisch nicht in der Lage, komplexe Planungsprobleme allein zuverlässig zu lösen.
Brücke zwischen Sprache und Formalismus: Nutzer formulieren Fragen in natürlicher Sprache, während Planer und Erklärungsframeworks formale Logik (z. B. LTLf) benötigen. Eine direkte Übersetzung ist fehleranfällig und erfordert Kontextverständnis.

2. Methodik: Ein Multi-Agenten-Framework

Die Autoren schlagen ein hybrides System vor, das LLMs als „Agenten" in spezifischen Rollen einsetzt, um mit einem spezialisierten Planungs- und Erklärungs-Backend zu interagieren. Das System ist agnostisch gegenüber dem zugrunde liegenden Erklärungsframework.

Architektur (Abbildung 1 & 2)

Das System besteht aus mehreren LLM-basierten Agenten, die als Übersetzer und Dispatcher fungieren:

Question Suggester ( $S_Q$ ): Generiert basierend auf dem aktuellen Iterationsschritt relevante Vorschläge für Fragen, um die kognitive Last des Nutzers zu senken und die Interaktion zu fördern.
Question Translator ( $T_Q$ ): Klassifiziert die vom Nutzer gestellte Frage in eine formale Frageart (z. B. „Warum?", „Wie?", „Was wenn?") und extrahiert die Argumente (Ziele). Er leitet die Anfrage an den richtigen Pfad weiter (direkte Antwort, Follow-up oder Anfrage an das Erklärungsframework).
Goal Translator ( $T_G$ ): Übersetzt natürliche Sprachbeschreibungen von Zielen in formale temporale Logikformeln (LTLf), die vom Planer verstanden werden.
Explanation Translator ( $T_E$ ): Nimmt die formale Erklärung vom Backend entgegen und generiert eine kontextabhängige, natürliche Sprachantwort für den Nutzer. Dieser Agent kann auch Zusammenfassungen erstellen und den Tonfall anpassen.
Dispatcher: Routet die Anfragen basierend auf der identifizierten Frageart.

Das Erklärungsframework (EFCC)

Das Backend nutzt das Framework „Explanation Framework with Conflicts and Corrections" (EFCC), das auf Minimal Unsolvable Subsets (MUS) und Minimal Correction Sets (MCS) basiert.

MUS: Eine Menge von Zielen, die zusammen nicht lösbar sind, deren Teilmenge aber lösbar ist.
MCS: Eine Menge von Zielen, deren Entfernung die Lösbarkeit wiederherstellt.
Das Framework unterstützt verschiedene Fragearten (Tabelle 1), darunter:
US-why / US-how: Warum ist der Plan unlösbar? Wie kann ich ihn lösbar machen?
S-why-not / S-how: Warum wird ein Ziel nicht erreicht? Wie kann ich es erreichen?
S-can / S-what-if: Kann ein Ziel erreicht werden? Was passiert, wenn ich es erzwingen?

Iterativer Prozess

Der Nutzer definiert in jedem Schritt eine Menge von Referenzzielen ( $G_{ref}$ ) und eine Menge von erzwingbaren Zielen ( $G_{enf}$ ). Das System berechnet einen Plan. Falls unlösbar, liefert das Framework MUS/MCS. Der Nutzer kann dann Fragen stellen, um zu verstehen, welche Ziele aufgegeben werden müssen, um den Plan zu lösen.

3. Schlüsselbeiträge

Formalisierung eines Rahmens: Definition eines generischen Frameworks für iteratives Planen mit natürlichen Sprachfragen und Erklärungen (Abschnitt 3).
Erweiterung der Erklärungsarten: Implementierung von EFCC mit einer breiten Palette von Fragearten (nicht nur „Warum nicht", sondern auch „Wie", „Was wenn", etc.), die auf MUS/MCS basieren (Abschnitt 4).
LLM-basierte Implementierung: Entwicklung eines Multi-Agenten-Systems, das LLMs als Übersetzer und Suggestoren nutzt, um die Lücke zwischen natürlicher Sprache und formaler Planung zu schließen (Abschnitt 5).
Benutzerstudie: Durchführung einer umfassenden Studie mit Laien, die die LLM-basierte Schnittstelle mit einer herkömmlichen, vorlagenbasierten (Template-based) Schnittstelle vergleicht.

4. Ergebnisse der Benutzerstudie

Die Studie umfasste 131 Teilnehmer, die in zwei Gruppen aufgeteilt waren:

$G_{TPL}$ (Control): Nutzte eine vorlagenbasierte Schnittstelle mit vorgegebenen Fragen.
$G_{LLM}$ (Experimental): Nutzte die LLM-basierte Schnittstelle mit freier Eingabe und Fragevorschlägen.

Quantitative Ergebnisse:

Effizienz: Die $G_{LLM}$ -Gruppe benötigte im Durchschnitt weniger Iterationsschritte, um einen hohen Nutzen (Utility) zu erreichen, obwohl der Unterschied statistisch nicht signifikant war (aufgrund hoher Varianz).
Fragemenge: Die $G_{LLM}$ -Gruppe stellte signifikant weniger Fragen (11,4 vs. 22,8), aber jede Frage führte zu mehr internen Abfragen beim Erklärungsframework (da der LLM-Translator komplexe Anfragen zerlegen konnte).
Nutzung: 61,7 % der Fragen in der $G_{LLM}$ -Gruppe stammten aus den Vorschlägen des Question Suggesters.

Qualitative Ergebnisse (Feedback-Fragebogen):

Die $G_{LLM}$ -Gruppe bewertete die Aufgabe als weniger schwierig.
Die Teilnehmer fühlten sich sicherer bezüglich der Machbarkeit von Plänen.
Die LLM-Schnittstelle wurde als deutlich hilfreicher bei der Verbesserung von Plänen und der Reduzierung der Schwierigkeit eingestuft (statistisch signifikante Unterschiede bei mehreren Likert-Skalen-Fragen).
Die Dialoge waren oft kurz (Median 2 Turns), aber in 50 % der Fälle entschieden sich Nutzer für einen Dialog, was auf den Bedarf an interaktiven Erklärungen hindeutet.

Fehleranalyse:

Die Klassifizierung von Fragearten durch den LLM-Translator war in 91 % der Fälle korrekt.
Hauptfehler waren falsche Routing-Entscheidungen (z. B. Weiterleitung als Follow-up, wenn eine neue Berechnung nötig war).

5. Bedeutung und Ausblick

Dieses Paper demonstriert erfolgreich, dass LLMs in hybriden Architekturen eine wertvolle Rolle als Schnittstelle für komplexe Planungssysteme spielen können, ohne die Rechenlogik selbst zu übernehmen.

Vertrauen und Akzeptanz: Durch interaktive, dialogfähige Erklärungen wird das Verständnis für die Systementscheidungen verbessert und das Vertrauen der Nutzer gestärkt.
Skalierbarkeit: Der Ansatz entkoppelt die Sprachverarbeitung (LLM) von der logischen Berechnung (Planer), was es ermöglicht, fortschrittliche Planungsalgorithmen mit modernen Sprachmodellen zu kombinieren.
Zukunft: Die Autoren planen, das Framework auf realistischere Anwendungsfälle mit Domänenexperten zu erweitern, die Goal-Translator-Agenten zu evaluieren und die Zusammenfassungsfähigkeiten (Summarization) von LLMs weiter zu verbessern.

Zusammenfassend bietet das vorgestellte Framework einen robusten Weg, um die Lücke zwischen der starren Logik von KI-Planern und der flexiblen, kontextabhängigen Kommunikation mit menschlichen Nutzern zu schließen.