🤖 AI

When Planning Fails Despite Correct Execution: On Epistemic Calibration for LLM-Based Multi-Agent Systems

Dieser Beitrag stellt den Epistemic Planning Calibration Agentic Workflow (EPC-AW) vor, um epistemische Fehlkalibrierung in auf LLM basierenden Multi-Agenten-Systemen zu adressieren – bei der Agenten trotz korrekter Ausführung die Machbarkeit von Wissen falsch einschätzen –, indem informationskonsistente Planselektion und dynamische Zustandsverfeinerung eingesetzt werden, um den Systemerfolg im Durchschnitt um 9,75 % zu steigern.

Ursprüngliche Autoren: Zehao Wang, Shilong Jin, Zhao Cao, Lanjun Wang

Veröffentlicht 2026-05-25

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Zehao Wang, Shilong Jin, Zhao Cao, Lanjun Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Kernproblem: „Selbstbewusst falsche" Pläne

Stellen Sie sich vor, Sie leiten ein Team aus drei Experten (einen Planer, einen Ausführenden und einen Prüfer), um ein komplexes Rätsel zu lösen.

Normalerweise scheitern solche Teams, weil jemand beim Ausführen der Arbeit einen Fehler macht. Vielleicht benutzt der Ausführende das falsche Werkzeug, oder der Prüfer übersieht einen Tippfehler. Wir wissen, wie man diese Fehler behebt: Man sagt ihnen einfach: „Hey, das hat nicht funktioniert, versuch es noch einmal."

Aber dieses Papier hat eine heimtückische neue Art des Scheiterns entdeckt. Manchmal folgt das Team dem Plan perfekt. Der Ausführende benutzt die richtigen Werkzeuge, der Prüfer sieht keine Fehler, und die Aktionen werden genau wie geschrieben ausgeführt. Dennoch scheitert das Team daran, das Rätsel zu lösen.

Warum? Weil der Planer zu selbstbewusst war.

Der Planer betrachtete die Informationen, die er hatte, und sagte: „Ich bin zu 100 % sicher, dass dieser Plan funktionieren wird!" Aber er lag falsch. Er merkte nicht, dass ihm ein entscheidendes Puzzleteil fehlte. Der Plan sah auf dem Papier gut aus, war aber mit den verfügbaren Informationen tatsächlich unmöglich zu vollenden.

Die Autoren nennen dies „epistemische Fehlkalibrierung". Auf Deutsch: Das Team ist sich selbstbewusst falsch über das, was es weiß.

Die Analogie: Die blinden Wanderer

Stellen Sie sich das Team als Wanderer vor, die versuchen, bei Nebel ein Gebirge zu überqueren.

Der Planer zeichnet eine Karte basierend auf dem, was er gerade sehen kann.
Der Ausführende geht den Weg.
Der Prüfer stellt sicher, dass der Ausführende nicht stolpert.

Der alte Weg (Ausführungsfehler):
Fällt der Ausführende in ein Loch, sagt der Prüfer: „Stop! Du bist hingefallen." Das Team repariert den Weg und geht weiter.

Das neue Problem (epistemische Fehlkalibrierung):
Der Planer zeichnet einen Weg, der klar aussieht. Der Ausführende geht ihn perfekt. Der Prüfer sieht keine Löcher. Doch der Weg führt zu einer Klippenkante, die der Planer im Nebel nicht sehen konnte. Das Team läuft den ganzen Weg bis zum Rand und fällt herunter, obwohl sie perfekt gelaufen sind.

Das Problem ist nicht, dass sie schlecht gelaufen sind; es ist, dass die Karte fehlerhaft war, weil der Planer zu selbstbewusst darüber war, was er sehen konnte.

Die Lösung: EPC-AW (das Team für den „Realitätscheck")

Die Autoren haben einen neuen Arbeitsablauf namens EPC-AW entwickelt, um dies zu beheben. Anstatt nur zu prüfen, ob der Ausführende korrekt gelaufen ist, prüfen sie, ob der Plan für alle Sinn ergibt, selbst wenn sie unterschiedliche Informationen haben.

Sie verwenden zwei Haupttricks:

1. Der „Gruppenkonsens"-Check (Planauswahl auf Basis der Informationskonsistenz)

Anstatt den Planer allein den besten Weg wählen zu lassen, fragt das System: „Wenn wir diesen Plan drei verschiedenen Personen zeigen würden, die jeweils etwas unterschiedliches Wissen haben, würden sie dann alle immer noch denken, es sei eine gute Idee?"

Der Trick: Das System simuliert verschiedene Versionen des Teams, wobei jede Version leicht unterschiedliche „Erinnerungen" oder Informationen hat.
Der Test: Wenn der Planer denkt, ein Weg sei großartig, aber die „anderen Versionen" des Teams denken, es sei eine schlechte Idee, weil sie etwas wissen, was der Planer nicht weiß, lehnt das System diesen Plan ab.
Das Ergebnis: Es werden nur Pläne ausgewählt, bei denen alle übereinstimmen, unabhängig davon, wer welche Informationen hat. Dies filtert die „selbstbewusst falschen" Pläne heraus.

2. Das „Lessons Learned"-Notizbuch (Konsistenzgeleitete Verfeinerung des epistemischen Zustands)

Manchmal macht das Team denselben Fehler immer wieder. Vielleicht versucht der Planer ständig, ein Werkzeug zu verwenden, das für eine bestimmte Art von Frage nicht funktioniert.

Der Trick: Das System führt ein spezielles Notizbuch. Jedes Mal, wenn der Planer einen Plan wählt, der vom „Gruppenkonsens"-Check abgelehnt wird, notiert das System, warum es eine schlechte Idee war.
Das Ergebnis: Beim nächsten Mal schaut der Planer in das Notizbuch und sagt: „Ach ja, ich erinnere mich, ich habe das schon einmal versucht und es ist gescheitert, weil mir Informationen fehlten." Dies verhindert, dass das Team denselben selbstbewussten Fehler zweimal macht.

Was haben sie herausgefunden?

Die Forscher testeten diese neue Methode an sechs verschiedenen „Rätsel-lösenden" Herausforderungen (wie das Beantworten schwieriger Fragen, die eine Internetsuche oder Mathematik erfordern).

Das Ergebnis: Durch die Verwendung dieses „Gruppenkonsens"- und „Lessons Learned"-Ansatzes löste das Team 9,75 % mehr Probleme als zuvor.
Die Erkenntnis: Selbst wenn Sie die intelligenteste KI und die besten Werkzeuge haben, werden Sie dennoch scheitern, wenn die KI zu selbstbewusst darüber ist, was sie weiß. Sie benötigen ein System, das ständig prüft: „Sind wir uns hier wirklich sicher?", bevor es handelt.

Zusammenfassung

Dieses Papier lehrt uns, dass bei KI-Teams falsch liegen nicht immer ein Fehler in der Ausführung ist; manchmal ist es ein Fehler im Selbstbewusstsein. Indem wir die KI zwingen, ihre Pläne gegen verschiedene Perspektiven zu prüfen und aus vergangener Selbstüberschätzung zu lernen, können wir Systeme bauen, die viel schwerer zu täuschen sind.

Technische Zusammenfassung: Epistemische Kalibrierung für LLM-basierte Multi-Agenten-Systeme

1. Problemdefinition: Epistemische Fehlkalibrierung in der Planung

Die Arbeit identifiziert einen ausgeprägten Fehlermodus in Multi-Agenten-Systemen auf Basis großer Sprachmodelle (LLM), der als epistemische Fehlkalibrierung in der Planung bezeichnet wird. Im Gegensatz zu herkömmlichen Ausführungsfehlern (z. B. ungültige Tool-Ausgaben oder logische Schlussfolgerungsfehler) tritt dieser Fehler auch dann auf, wenn alle Aktionen gemäß dem Plan korrekt ausgeführt werden.

Das Kernproblem entsteht, wenn ein planender Agent aufgrund unvollständiger Informationen eine unbegründete Zuversicht in die Durchführbarkeit eines Plans entwickelt. Der Agent erkennt die Grenzen seines Wissens in Aufgaben, die eine iterative Informationsbeschaffung erfordern, nicht. Folglich kann das System einen Plan generieren, der zwar in sich konsistent und ausführbar erscheint, aber in Bezug auf das Ziel grundsätzlich nicht durchführbar ist. Diese Fehlkalibrierung zeichnet sich durch zwei Eigenschaften aus:

Latenz: Sie hinterlässt während der Planungsphase keine expliziten Fehlersignale; der Plan wirkt kohärent, was eine Erkennung vor der Ausführung erschwert.
Dynamik: Mit dem Erwerb neuer Informationen entwickeln sich die Einschätzungen der Durchführbarkeit weiter. Frühere Signale einer Fehlkalibrierung können durch neue Daten verdeckt werden, wodurch dieselben Planungsfehler im Laufe der Zeit erneut auftreten.

Bestehende Reparaturmethoden (post-hoc-Debugging oder Online-Ausführungsüberwachung) adressieren primär beobachtbare Ausführungsfehler und verlassen sich auf explizite Fehlersignale. Sie können die latente, auf Planungsstufe befindliche epistemische Fehlkalibrierung nicht beheben, die selbst bei korrekter Ausführung bestehen bleibt.

2. Methodik: EPC-AW

Um dieses Problem zu mildern, schlagen die Autoren den Epistemic Planning Calibration Agentic Workflow (EPC-AW) vor. Anstatt zu versuchen, die Plan-Durchführbarkeit direkt zu verifizieren (was ohne vollständige Informationen oft unmöglich ist), bewertet EPC-AW, ob ein Plan unter variierenden Informationsbedingungen von Agenten unterstützt bleibt. Der Workflow arbeitet durch drei spezialisierte Agenten: einen Planer, einen Ausführenden und einen Diagnostiker, wobei jeder über heterogene private Speicher verfügt.

EPC-AW besteht aus zwei komplementären Komponenten:

A. Informationskonsistenzbasierte Planauswahl (IPS)

Innerhalb eines einzelnen Planungsdurchgangs dient IPS als Diagnosewerkzeug, um robuste Pläne ohne explizite Fehlersignale auszuwählen.

Mechanismus: Der Planer generiert eine Reihe von Kandidatenplänen. Jeder Agent (Planer, Ausführender, Diagnostiker) bewertet diese Pläne basierend auf seinem eigenen privaten Informationszustand.
Vorhersage über Agenten hinweg: Die Agenten prognostizieren, wie ihre Peers dieselben Pläne unter Berücksichtigung der unterschiedlichen Informationszustände der Peers bewerten würden.
Auswahlkriterien: Pläne werden basierend auf der Konsistenz ihrer Bewertungen über diese heterogenen Informationszustände hinweg bewertet. Pläne, deren Bewertungen zwischen den Agenten stark variieren, gelten als „epistemisch fragil". Das System wählt den Plan mit dem höchsten Konsistenzscore über die Agenten hinweg aus, wobei davon ausgegangen wird, dass ein Plan, der gegenüber Informationsvariationen robust ist, weniger wahrscheinlich unter Fehlkalibrierung leidet.

B. Konsistenzgeleitete Verfeinerung des epistemischen Zustands (CESR)

Über mehrere Durchgänge hinweg adressiert CESR die dynamische Natur der Fehlkalibrierung, indem es aus früheren Diskrepanzen lernt.

Mechanismus: Das System vergleicht den vom Planer ausgewählten Plan (basierend auf seiner eigenen Zuversicht) mit dem vom IPS ausgewählten Plan (basierend auf der Konsistenz über die Agenten hinweg).
Konstruktionsinduktion: Tritt eine Abweichung auf (d. h. die Wahl des Planers unterscheidet sich von der IPS-Wahl), generiert der Diagnostiker eine leichte epistemische Einschränkung. Diese Einschränkung abstrahiert die strukturellen Merkmale oder Informationslücken, die zu der Fehleinschätzung des Planers führten.
Speicherintegration: Diese Einschränkungen werden im persistenten Speicher des Planers akkumuliert. Die zukünftige Planung wird durch diese Einschränkungen geleitet, wodurch das erneute Auftreten spezifischer Fehlkalibrierungsmuster verhindert wird, während das System neue Beweise sammelt.

3. Hauptbeiträge

Die Arbeit leistet folgende spezifische Beiträge:

Formalisierung eines neuen Fehlermodus: Sie definiert epistemische Fehlkalibrierung in der Planung als ein separates Reparaturziel und hebt Fehler hervor, die aus fehlerkalibrierten Durchführbarkeitsbewertungen entstehen, selbst wenn die Ausführung fehlerfrei ist.
IPS-Mechanismus: Sie stellt eine Methode vor, um Pläne auszuwählen, die über Agenten mit heterogenen Informationen hinweg stabil bleiben, und adressiert damit das Fehlen beobachtbarer Fehlersignale in der Planung.
CESR-Mechanismus: Sie schlägt einen speichergetriebenen Ansatz vor, um die epistemische Kalibrierung im Laufe der Zeit anzupassen, indem vergangene Diskrepanzen genutzt werden, um zukünftige Planung einzuschränken und anhaltende Fehleinschätzungen zu unterdrücken.
Empirische Validierung: Umfassende Experimente an sechs Benchmarks belegen die Wirksamkeit des Ansatzes.

4. Experimentelle Ergebnisse

Die Autoren bewerteten EPC-AW an sechs unterschiedlichen Benchmarks: Bamboogle, 2Wiki, HotpotQA, Musique, GAIA und MedQA. Diese Datensätze reichen von inferenzintensiver Schlussfolgerung bis hin zu suchgetriebener Problemlösung in offenen Welten.

Leistungssteigerung: EPC-AW erzielte im Vergleich zur „No-Repair"-Basislinie (standard AgentFlow) eine durchschnittliche absolute Verbesserung von 9,75 % der Erfolgsrate auf Systemebene.
Vergleich mit Basislinien: EPC-AW übertraf bestehende Reparaturstrategien, einschließlich Retry (lokale metakognitive Neu-Generierung) und Rollback (wiederherstellung des Systemzustands). Beispielsweise verbesserte EPC-AW auf dem 2Wiki-Benchmark die Genauigkeit um 12,83 % gegenüber der Basislinie und schnitt damit deutlich besser ab als Retry (+9,00 %) und Rollback (+7,00 %).
Ablationsstudien: Das Entfernen entweder von IPS oder CESR führte zu einer Leistungsverschlechterung, was bestätigt, dass sowohl die konsistenzbasierte Auswahl innerhalb eines Durchgangs als auch das Feedback durch Einschränkungen über mehrere Durchgänge hinweg essenziell sind.
Generalisierung: Die Methode zeigte Robustheit über verschiedene LLM-Backbones hinweg (Qwen3-14B, Qwen3-30B, DeepSeek-R1-32B), was darauf hindeutet, dass der Ansatz nicht von spezifischen Modellarchitekturen abhängt.
Kostenanalyse: Der zusätzliche rechnerische Overhead durch IPS (parallele Bewertung von Kandidatenplänen) und CESR (Einschränkungs-Injektion) ist minimal. Die asymptotische Zeitkomplexität bleibt $O(T \cdot (\tau_{llm} + \tau_{tool}))$ , wobei die Token-Kosten primär mit bestehenden Speicher- und Abrufkontexten skalieren, anstatt neue Engpässe einzuführen.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass EPC-AW das Paradigma der Fehlerminderung von einer Korrektur zur Ausführungszeit hin zu einer epistemischen Kalibrierung zur Planungszeit verschiebt. Indem epistemische Kalibrierung als systemweite Überlegung behandelt wird, ermöglicht dieser Ansatz Multi-Agenten-Systemen, unzuverlässige Pläne besser zu identifizieren und Denkpfade zu revidieren, bevor sich Fehler ausbreiten.

Die Autoren positionieren diese Arbeit als einen Schritt hin zu einer zuverlässigeren Bereitstellung von LLM-basierten Multi-Agenten-Systemen in Umgebungen mit unvollständigen und sich entwickelnden Informationen. Sie betonen, dass ihre Methode den Erfolg von Aufgaben verbessert, indem sie nicht unterstützte Durchführbarkeitsbewertungen reduziert, ohne neue Fähigkeiten oder ethische Bedenken einzuführen, die über die bereits in der LLM-Bereitstellung untersuchten hinausgehen. Die Arbeit unterstreicht die Bedeutung der Behandlung latenter Planungsfehler, die für die traditionelle Ausführungsüberwachung unsichtbar sind.