🤖 AI

Efficient LLM Collaboration via Planning

Das Papier schlägt COPE vor, ein Kollaborationsframework zur Laufzeit, bei dem kleine und große Sprachmodelle abwechselnd als Planer und Ausführer in einer mehrstufigen Kaskade agieren und dabei eine Leistung erzielen, die mit proprietären Großmodellen vergleichbar ist, während die Inferenzkosten drastisch reduziert werden.

Ursprüngliche Autoren: Byeongchan Lee, Jonghoon Lee, Dongyoung Kim, Jaehyung Kim, Kyungjoon Park, Dongjun Lee, Jinwoo Shin

Veröffentlicht 2026-05-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Byeongchan Lee, Jonghoon Lee, Dongyoung Kim, Jaehyung Kim, Kyungjoon Park, Dongjun Lee, Jinwoo Shin

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben eine komplexe Aufgabe zu lösen, wie etwa einen defekten Motor zu reparieren oder ein kniffliges Mathe-Rätsel zu knacken. Sie haben zwei Helfer zur Verfügung:

Der lokale Handwerker: Ein kleiner, kostenloser und schneller Arbeiter, der direkt in Ihrer Garage wohnt. Er ist großartig bei einfachen Jobs, gerät aber manchmal bei komplizierten Problemen ins Stocken.
Der Meister-Architekt: Ein riesiger, teurer Experte, der in einem fernen, hochtechnologischen Turm lebt. Er kann fast alles lösen, doch die Anmietung kostet jedes Mal ein Vermögen, wenn Sie um Hilfe bitten.

Das Problem ist: Wenn Sie den Meister-Architekten für jeden einzelnen Job anheuern, werden Sie pleitegehen. Wenn Sie nur den lokalen Handwerker einsetzen, könnte er bei den schwierigen Aufgaben scheitern.

Dieser Beitrag stellt eine neue Arbeitsweise namens COPE (Collaborative Planning and Execution – Kollaborative Planung und Ausführung) vor. Es ist wie ein intelligentes Team-System, das es diesen beiden Arbeitern ermöglicht, effizient zusammenzuarbeiten, ohne Geld zu verschwenden.

Wie COPE funktioniert: Die „Zuerst planen"-Strategie

Anstatt den Handwerker einfach zu bitten, den „Motor zu reparieren", und auf das Beste zu hoffen, verwendet COPE einen Planungs-Schritt. Denken Sie an einen „Plan" als eine schnelle, hochrangige Karte oder eine Reihe von Anweisungen, die vor Beginn der eigentlichen Arbeit verfasst werden.

Hier ist der schrittweise Ablauf der Zusammenarbeit:

Stufe 1: Der Handwerker versucht, die Führung zu übernehmen
Der lokale Handwerker versucht, den gesamten Job allein zu erledigen. Zuerst verfasst er einen schnellen „Plan" (ein einfaches Ziel oder eine Richtlinie) für sich selbst und versucht dann, das Problem basierend auf diesem Plan zu lösen.

Die Prüfung: Wenn der Handwerker sehr zuversichtlich ist, dass er es richtig gemacht hat (zum Beispiel, wenn er es dreimal versucht hat und jedes Mal die gleiche Antwort erhielt), beendet er den Job. Es ist kostenlos und schnell!
Das Scheitern: Wenn er unsicher ist oder die Antwort fragwürdig aussieht, gibt er nicht auf. Er geht zu Stufe 2 über.

Stufe 2: Der Architekt zeichnet eine Karte, der Handwerker baut
Jetzt schreitet der teure Meister-Architekt ein, aber nur für einen Moment. Der Architekt leistet noch nicht die schwere Arbeit. Stattdessen verfasst er einen neuen, besseren Plan (eine klarere Karte) basierend auf dem Problem.
Er übergibt diesen neuen Plan an den lokalen Handwerker. Der Handwerker versucht dann, das Problem erneut zu lösen, folgt diesmal jedoch der Experten-Karte des Architekten.

Die Prüfung: Wenn der Handwerker, geleitet von der Karte des Architekten, zuversichtlich ist, beendet er den Job. Sie haben nur für einen winzigen Teil der Zeit des Architekten bezahlt, um die Karte zu zeichnen, und sparen so viel Geld.
Das Scheitern: Wenn der Handwerker selbst mit der Karte noch feststeckt, eskaliert er zu Stufe 3.

Stufe 3: Der Architekt übernimmt
Wenn die ersten beiden Schritte nicht funktioniert haben, erledigt der Meister-Architekt schließlich den gesamten Job selbst – sowohl die Planung als auch die Ausführung. Dies ist der teuerste Schritt, tritt aber nur vor, wenn es absolut notwendig ist.

Warum dies eine große Sache ist

Der Beitrag hat einige überraschende Erkenntnisse darüber gewonnen, wie diese Teamarbeit funktioniert:

Große Gehirne helfen kleinen Gehirnen: Wenn der Meister-Architekt den Plan für den Handwerker schreibt, wird der Handwerker viel schlauer. Es ist wie ein Schüler, der ein Mathe-Problem plötzlich versteht, nachdem ein Professor die Strategie (den Plan) erklärt hat, selbst wenn der Schüler die eigentlichen Berechnungen durchführt.
Kleine Gehirne können große Gehirne verwirren: Interessanterweise führt es tatsächlich dazu, dass der Architekt schlechter performt, wenn der Handwerker versucht, den Plan für den Meister-Architekten zu schreiben. Der Architekt ist so schlau, dass ein einfacher, minderwertiger Plan des Handwerkers ihn tatsächlich ablenken kann. Deshalb ist das System so konzipiert, dass der Architekt nur für den Handwerker plant und nicht umgekehrt.
Es spart Geld, ohne Qualität zu verlieren: In Tests mit Mathematik, Programmierung und sogar komplexen Agenten-Aufgaben (wie einem Roboter, der ein Haus navigiert) erzielte COPE Ergebnisse, die genauso gut oder sogar besser waren als die alleinige Nutzung des Meister-Architekten. Allerdings kostete es 45 % bis 75 % weniger, weil der teure Architekt nur für die schwierigsten Teile oder lediglich zum Zeichnen der Karte herangezogen wurde.

Das Fazit

COPE ist wie ein intelligenter Manager, der weiß, wann er den lokalen Arbeiter den Job erledigen lassen soll, wann er den Experten um einen schnellen Tipp (den Plan) bittet und wann er den Experten ruft, um das Ganze zu erledigen. Indem es „Planung" als eine leichte Brücke zwischen einem kleinen und einem großen Modell verwendet, ermöglicht es ihnen, effizient zusammenzuarbeiten, schwierige Probleme zu lösen, ohne das Bankkonto zu sprengen.

Technischer Überblick: Effiziente Kollaboration von LLMs durch Planung (COPE)

Problemstellung

Large Language Models (LLMs) stehen vor einem kritischen Zielkonflikt zwischen Leistungsfähigkeit und Rechenkosten. Während große proprietäre Modelle bei komplexen Aufgaben State-of-the-Art-Ergebnisse erzielen, sind ihre Inferenzkosten erheblich, was eine häufige Nutzung für viele Anwendungen unpraktisch macht. Umgekehrt sind kleine, Open-Source-Modelle kosteneffizient und leicht auf Edge-Geräten bereitstellbar, verfügen jedoch oft nicht über die Kapazität, komplexe Probleme eigenständig zu lösen. Bestehende kostensensitive Inferenzmethoden, wie mehrstufige Kaskaden (z. B. LLM Cascade, ABC), arbeiten typischerweise über eine unabhängige Delegation: Ein kleines Modell versucht eine Aufgabe, und wenn es einen Vertrauenscheck nicht besteht, wird die gesamte Aufgabe an ein größeres Modell übergeben. Diese Ansätze fehlen eine strukturierte, interaktive Kollaboration innerhalb einer Stufe, was ihre Fähigkeit einschränkt, komplexe Aufgaben gemeinsam zu lösen.

Methodik: COPE-Rahmenwerk

Die Autoren schlagen COPE (Collaborative Planning and Execution) vor, ein Kollaborationsrahmenwerk zur Laufzeit, das die Interaktion zwischen kleinen und großen Modellen durch Planung strukturiert. Anstatt eine Aufgabe direkt auszuführen, generiert ein Modell zunächst eine hochrangige Abstraktion (einen „Plan"), wie ein Ziel oder eine Richtlinie, die als leichtgewichtiges Zwischenmittel dient, um einen nachgelagerten Ausführer zu steuern.

COPE arbeitet in einer dreistufigen adaptiven Kaskade:

Stufe 1 (Planung und Ausführung durch kleines Modell): Ein kleines Modell agiert sowohl als Planer als auch als Ausführer. Es sampelt $n$ zieltypische Pläne und generiert entsprechende Lösungen. Das System fasst die Antworten durch Mehrheitsvoting zusammen. Wenn das Konsensverhältnis (der Anteil der Stichproben, die der häufigsten Antwort zustimmen) einen Schwellenwert $\tau_1$ überschreitet, wird die Antwort akzeptiert. Andernfalls eskaliert das Problem.
Stufe 2 (Planung durch großes Modell, Ausführung durch kleines Modell): Wenn Stufe 1 fehlschlägt, generiert ein großes Modell einen neuen Plan vom Typ Richtlinie. Das kleine Modell versucht dann die Ausführung erneut und nutzt dabei sowohl den ursprünglichen Plan aus Stufe 1 als auch den neuen Plan des großen Modells. Es generiert neue Lösungen, und das Mehrheitsvoting wird erneut angewendet. Wenn das Konsensverhältnis einen zweiten Schwellenwert $\tau_2$ überschreitet, wird die Antwort akzeptiert; andernfalls eskaliert sie.
Stufe 3 (Planung und Ausführung durch großes Modell): Wenn Stufe 2 fehlschlägt, übernimmt das große Modell die volle Kontrolle, nutzt den in Stufe 2 generierten Plan erneut und führt die Aufgabe direkt aus.

Wichtige technische Merkmale:

Trainingsfrei: COPE erfordert kein Fine-Tuning; es verlässt sich ausschließlich auf Prompt-Engineering zur Laufzeit.
Adaptive Rechenleistung: Das Rahmenwerk weist Ressourcen dynamisch zu, bewältigt einfache Aufgaben mit kleinen Modellen und eskaliert nur schwierige Aufgaben an größere Modelle.
Aufgabenspezifisches Vertrauen: Die Vertrauensmetrik wird an den Aufgabentyp angepasst:
- Mathematisches Schlussfolgern: Mehrheitsvoting bei extrahierten Antworten.
- Code-Generierung: Durchlaufquote bei versteckten Testfällen (falls irgendeine Ausgabe besteht, wird sie ausgewählt).
- Offene Aufgaben: Minimierung der Perplexität (Ausgabe mit der niedrigsten Perplexität wird ausgewählt; Eskalation, wenn die Perplexität zu hoch ist).
- Agenten-Aufgaben: Mehrheitsvoting bei Aktionsschritten.

Hauptbeiträge

Rahmenwerk-Vorschlag: Vorstellung von COPE, einem Rahmenwerk zur Laufzeit, das Planung als Vermittler für die modellübergreifende Kollaboration nutzt und es kleinen und großen Modellen ermöglicht, das Denken des anderen zu unterstützen.
Trainingsfreie Effizienz: Die Methode ist trainingsfrei und few-shot-frei, erfordert nur Prompts und erleichtert so die einfache Bereitstellung über diverse Aufgaben hinweg.
Leistung-Kosten-Abwägung: Nachgewiesene Fähigkeit, die Leistung großer proprietärer Modelle zu erreichen oder zu übertreffen, während die monetären Inferenzkosten drastisch gesenkt werden.
Breite Anwendbarkeit: Validiert über mathematisches Schlussfolgern, Code-Generierung, offene Generierung und Agenten-Aufgaben, wobei gezeigt wird, dass Planung als effektive Priorität für kosteneffiziente Inferenz dient.

Experimentelle Ergebnisse

Die Autoren bewerteten COPE an mehreren Benchmarks und verglichen es mit Baselines wie Einzelmodell-Inferenz, Standardkaskaden (Vote/Verify), ABC und FrugalGPT.

Mathematisches Schlussfolgern (MATH-500): COPE erreichte 75,8 % Genauigkeit und übertraf GPT-4o (75,2 %), während die Inferenzkosten um fast 45 % gesenkt wurden (von 5025 auf 2766 USD pro Million Probleme). Bei Verwendung von GPT-4o-mini als großem Modell erreichte COPE 74,4 % Genauigkeit (vs. 73,8 % für das große Modell allein) mit einer Kostensenkung von 40 %.
Mathematisches Schlussfolgern (AIME-2024): Auf diesem schwierigeren Datensatz erreichte COPE 40,0 % Genauigkeit, die höchste aller Baselines, bei den niedrigsten Kosten (478 vs. 502 für das große Modell allein).
Code-Generierung (MBPP): COPE verbesserte die Genauigkeit auf 66,4 % im Vergleich zu 64,0 % bei GPT-4o, während die Inferenzkosten um fast 75 % gesenkt wurden.
Offene Aufgaben (MT-Bench): COPE erreichte eine Gewinnrate von 44,8 % gegen die Baseline des großen Modells (vs. 42,5 % für das große Modell allein) bei deutlich niedrigeren Kosten.
Agenten-Aufgaben (ALFWorld): COPE verbesserte die Erfolgsrate auf 36,9 % (vs. 35,0 % für das große Modell) und senkte die Kosten um etwa 29 %.

Die Autoren stellen fest, dass die Leistungsgewinne von COPE gegenüber Baselines mit kleinen Modellen bei schwierigen Problemen am deutlichsten sind (Level 5 in MATH-500), wo sich die Genauigkeit um 15,0 Prozentpunkte verbesserte.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass Planung als effektive Priorität für kosteneffiziente Inferenz fungiert. Durch die Strukturierung der Kollaboration mittels Planung ermöglicht COPE Modellen den Austausch von hochrangiger Voraussicht ohne den Overhead einer vollständigen Aufgabendelegation. Die Autoren heben hervor, dass dieser Ansatz sich natürlich mit Edge-Cloud- und Agenten-Umgebungen vereinbaren lässt, in denen die meisten Schritte kostengünstig von kleinen Modellen bewältigt werden können, wobei größere Modelle selektiv bei schwierigeren Entscheidungen eingreifen.

Die Arbeit legt nahe, dass modellübergreifendes Scaling durch Planung eine viable Alternative ist, ein einzelnes Modell einfach weiter zu pushen oder sich auf unabhängige Kaskaden zu verlassen. Die Ergebnisse deuten darauf hin, dass COPE ein breit wirksames und skalierbares Rahmenwerk ist, das unnötige Rechenleistung reduzieren und zu einer nachhaltigeren KI-Nutzung beitragen kann, ohne die Leistung zu beeinträchtigen.