Evoflux: Inference-Time Evolution of Executable Tool Workflows for Compact Agents
Das Papier stellt Evoflux vor, eine während der Inferenz angewendete evolutionäre Suchmethode, welche die Ausführbarkeit von Tool-Workflows für kompakte Sprachmodelle durch die dynamische Reparatur und Optimierung typisierter Workflow-Graphen mittels strukturierter Edits und Ausführungs-Feedback signifikant verbessert und dabei traditionelle Ansätze des Supervised Fine-Tunings sowie des Reinforcement Learning in Live-Tool-Umgebungen übertrifft.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Das „Kleiner-Koch-Problem“
Stellen Sie sich vor, Sie haben einen sehr kleinen, budgetfreundlichen Küchenroboter (ein kompaktes KI-Modell). Sie möchten möchten, dass er ein komplexes Gericht kocht, indem er Werkzeuge aus einer riesigen, sich ständig verändernden Speisekammer verwendet (ein Live-Katalog von Werkzeugen).
Der Roboter muss:
- Die richtigen Zutaten (Werkzeuge) in der Speisekammer finden.
- Ein Rezept (Workflow) befolgen, das die Schritte korrekt miteinander verbindet.
- Tatsächlich das Essen kochen (die Werkzeuge ausführen) und das Ergebnis probieren.
Das Problem: Kleine Roboter sind günstig und schnell, aber sie sind „brüchig“. Sie schreiben oft ein Rezept, das auf dem Papier gut aussieht, aber scheitert, wenn sie versuchen, das Essen tatsächlich zu kochen. Vielleicht greifen sie nach dem falschen Werkzeug, vergessen, eine Zutat an den nächsten Schritt weiterzugeben, oder versuchen, ein Werkzeug zu benutzen, das nicht mehr existiert.
Normalerweise versuchen wir dies zu beheben, indem wir dem Roboter „beibringen“, wie es geht, indem wir ihm tausende perfekte Rezepte zeigen (Trainingsdaten). Aber diese Arbeit argumentiert, dass es nicht gut funktioniert, wenn man nur über ein Budget von wenigen hundert Beispielen verfügt (knappe Ressourcen); das Lehren des Roboters führt dann nicht zum Erfolg. Er lernt lediglich die Form des Rezepts auswendig, lernt aber nicht, wie er Fehler korrigiert, wenn in der echten Küche etwas schiefgeht.
Die Lösung: Evoflux (Die „Evolutionäre Reparaturcrew“)
Anstatt zu versuchen, das Gehirn des Roboters neu zu trainieren, gibt Evoflux dem Roboter eine „Reparaturcrew“, die während der Roboter tatsächlich kocht, arbeitet.
Betrachten Sie Evoflux als eine dynamische Reparaturschleife:
- Der erste Versuch: Der Roboter schreibt ein Rezept (einen Workflow-Graphen).
- Der Testlauf: Das System versucht, das Rezept auszuführen. Wenn es bricht (z. B. „Werkzeug nicht gefunden“ oder „Zutat fehlt“), fängt das System den Fehler ab.
- Die Evolution: Anstatt aufzugeben, behandelt das System das kaputte Rezept wie einen mutierten Organismus. Es nimmt kleine, intelligente Änderungen (Edits) vor, um den spezifischen Fehler zu beheben.
- Hat es das falsche Werkzeug gewählt? Tauschen Sie es aus.
- Hat es eine Zutat vergessen? Fügen Sie sie hinzu.
- Waren die Schritte in der falschen Reihenfolge? Ändern Sie die Reihenfolge.
- Survival of the Fittest (Überleben des Stärkeren): Das System führt die neue Version aus. Wenn sie besser funktioniert, behält es sie bei. Wenn sie scheitert, versucht es es erneut. Dies geschieht viele Male in einem kurzen Intervall – es entwickelt das Rezept weiter, bis es eines findet, mit dem das Essen tatsächlich erfolgreich gekocht werden kann.
Wichtige Metaphern aus der Arbeit
- Der „plausible, aber kaputte“ Graph: Die Arbeit stellt fest, dass kleine Modelle oft Workflows generieren, die wie eine gültige Karte aussehen, aber in einen Abgrund führen. Evoflux betrachtet nicht nur die Karte; es fährt das Auto, um zu sehen, ob die Straße auch wirklich existiert.
- Die Debatte „Reparatur“ vs. „Training“:
- Training (SFT/DPO): Wie der Versuch, ein Kochbuch auswendig zu lernen. Wenn das Kochbuch klein ist (wenige Beispiele), lernt der Roboter den Stil der Rezepte, scheitert aber, wenn sich die Zutaten ändern. Die Arbeit fand heraus, dass dies bei einem kleinen Budget den Roboter oft sogar schlechter machte, als wenn er einfach nur geraten hätte (Zero-Shot).
- Evoflux (Suche): Wie ein Mechaniker, der das Auto repariert, während man gerade fährt. Es verändert nicht das Gehirn des Fahrers, sondern repariert einfach den Motor in Echtzeit basierend auf den Straßenbedingungen.
- Die „Token-Kosten“ (Treibstoff):
- ReAct (Der alte Weg): Dies ist wie ein Roboter, der lange Zeit laut mit sich selbst spricht, um den nächsten Schritt zu überlegen. Er kann großartige Lösungen finden, verbraucht aber viel Treibstoff (Tokens) und ist unberechenbar.
- Evoflux: Dies ist effizienter. Es versucht einige spezifische Korrekturen, prüft, ob sie funktionieren, und stoppt dann. Es erzielt bessere Ergebnisse als das Training und benötigt weniger Treibstoff als die langatmige „Selbstgespräch-Methode“.
Was die Arbeit tatsächlich herausgefunden hat
Die Forscher testeten dies auf einem Benchmark namens MCP-Bench, der echte, Live-Werkzeuge verwendet (wie Finanz-, Reise- und Wissenschaftswerkzeuge).
- Erfolgsrate: Für kleine Roboter war die Chance, dass ein Rezept beim ersten Versuch funktioniert, sehr gering (etwa 3 %).
- Die Lösung: Mit Evoflux stieg die Erfolgsrate auf zwischen 17 % und 24 %.
- Das Scheitern des Trainings: Als sie versuchten, die Roboter mit denselben wenigen hundert Beispielen zu „lehren“, die Evoflux für die Suche nutzte, wurden die Roboter nicht besser. Tatsächlich schnitten sie oft schlechter ab, als wenn sie gar nicht gelehrt worden wären.
- Der Vergleich: Eine Methode namens ReAct (bei der der Roboter Schritt für Schritt denkt) konnte manchmal höhere Werte erreichen, war aber sehr inkonsistent und teuer. Evoflux war zuverlässiger und kostengünstiger.
Das Fazit
Wenn Sie einen kleinen, günstigen KI-Agenten und ein begrenztes Budget an Beispielen haben, um ihn zu lehren: Versuchen Sie nicht einfach, ihn zu trainieren. Lassen Sie ihn stattdessen versuchen, scheitern und nutzen Sie dann einen intelligenten, evolutionären Suchprozess, um seine Fehler in Echtzeit zu beheben.
Die Arbeit kommt zu dem Schluss, dass es für kleine Agenten eine viel zuverlässigere Strategie ist, den Plan während der Ausführung zu korrigieren, als zu versuchen, ein paar Beispiele auswendig zu lernen, wie man ihn ausführt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.