Agentic Skill Optimization over Lie Algebroids
Dieses Paper stellt LASKO vor, ein neuartiges Framework, das die Optimierung agentischer Fähigkeiten mittels Lie-Algebroiden modelliert, um Edit-Policies und deren nicht-kommutative Kompositionen darzustellen, wodurch durch das Filtern von Edits mittels kostengünstiger Lie-Klammer-Tests vor der aufwendigen LLM-Validierung Beschleunigungen in der Größenordnung von Zehnerpotenzen ermöglicht werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, eine riesige, komplexe Maschine aus Lego-Steinen zu reparieren, bei der jeder Stein eine spezifische Anweisung, eine Regel oder eine Checkliste für einen Roboter ist. Diese Maschine ist ein „agentisches System“, das dazu entworodert ist, intelligente Dinge zu tun. Das Problem ist: Wenn der Roboter einen Fehler macht, können Sie nicht einfach einen Lego-Stein austauschen und hoffen, dass es klappt. Manchmal kommt es immens auf die Reihenfolge an, in der Sie die Steine austauschen. Wenn Sie zuerst die „Sicherheitsregeln“ reparieren, bevor Sie die „Mathematik-Regeln“ reparieren, funktioniert die Maschine. Aber wenn Sie die Reihenfolge umkehren, bricht das gesamte Konstrukt zusammen.
Dieses Rätsel ist genau das, was das Paper LASKO (Lie Algebroid SKill Optimization) zu lösen versucht.
Das Problem: Die „Reihenfolge-Falle“
Betrachten Sie die Anweisungen des Roboters als eine lange Geschichte, die in einer speziellen Sprache namens Markdown geschrieben ist. Um den Roboter besser zu machen, versucht ein KI-Optimizer, diese Geschichte zu bearbeiten. Er schlägt winzige Änderungen vor: „Füge hier eine Regel hinzu“, „Lösche dieses Beispiel“ oder „Korrigiere dieses Schema“.
Auf die alte Art und Weise (genannt SKILLOPT) agiert der Optimizer wie ein tollpatschiger Gärtner. Er probiert eine Änderung aus, sieht, ob die Pflanze wächst, und probiert dann die nächste. Er geht davon aus, dass jede Änderung unabhängig ist, wie das Hinzufügen einer einzelnen Blume zu einem Garten. Das Paper argumentiert jedoch, dass dies falsch ist. Diese Änderungen sind eher wie die Zahnräder in einer Uhr. Wenn man die Feder repariert, bevor man das Zahnrad repariert, mit dem sie verbunden ist, wird die Uhr nicht ticken. Das Paper zeigt, dass zwei Änderungen, die für sich genommen perfekt aussehen können, kläglich scheitern, wenn man sie in der falschen Reihenfolge durchführt.
Das Paper argumentiert explizit gegen die Idee, dass man einfach jede mögliche Kombination von Änderungen nacheinander ausprobieren kann. Es besagt, dass das Ausprobieren jeder einzelnen Reihenfolge (ein „Brute-Force“-Ansatz) zu teuer und zu langsam ist, da man den Roboter jedes Mal durch einen massiven, teuren Test laufen lassen muss. Es argumentiert auch gegen die Idee, dass ein einzelner „Score“ für eine Änderung die ganze Geschichte erzählt; manchmal sieht eine Änderung sofort gut aus, ruiniert aber die Fähigkeit des Roboters, später zu lernen.
Die Lösung: Der „Geheimnis-Handschlag“-Detektor
Die Autoren schlagen ein neues Framework namens LASKO vor. Um es zu verstehen, stellen Sie sich vor, die Anweisungen des Roboters sind nicht nur eine flache Liste, sondern eine 3D-Struktur mit verborgenen Schichten.
- Die sichtbare Schicht (Der Anker): Das ist das, was Sie auf dem Bildschirm sehen – die tatsächlichen Wörter, die sich im Dokument ändern.
- Die verborgene Schicht (Der Kern): Das ist das Unsichtbare: das interne Routing, die Template-Variablen und die „Stimmung“ des Roboters, die man nicht sofort sehen kann, die aber das Verhalten zukünftiger Änderungen beeinflusst.
- Der Geheimnis-Handschlag (Die Klammer/Der Bracket): Dies ist die große Idee des Papers. Es ist ein mathematischer Test, der prüft, ob zwei Änderungen korrekt „Händeschütteln“. Wenn man erst Änderung A und dann Änderung B durchführt, fühlt es sich dann genauso an, als würde man Änderung B und dann Änderung A durchführen?
In der Welt von LASKO, wenn zwei Änderungen nicht „kommutieren“ (das heißt, die Reihenfolge verändert das Ergebnis), markiert das System sie als ein „High-Bracket“-Paar. Dies ist wie ein Verkehrspolizist an einer belebten Kreuzung. Anstatt jeden Wagen (jede mögliche Edits-Reihenfolge) durchfahren zu lassen, um zu sehen, ob er kracht, nutzt der Polizist einen schnellen, günstigen Sensor, um den Verkehrsfluss zu prüfen.
Die Magie: Beschleunigung um das 15-fache
Hier werden die Zahlen spannend. Das Paper hat eine Reihe von Tests durchgeführt, um zu sehen, ob diese „Verkehrspolizist“-Idee tatsächlich funktioniert.
Sie stellten eine Herausforderung auf, bei der der Roboter einen Workflow mit 10 spezifischen Ankern (wie „Schema“, „Tool Contract“, „Validator“ usw.) korrigieren musste.
- Der alte Weg (Brute Force): Um die perfekte Korrektur zu finden, müsste man jede mögliche Reihenfolge von Edits ausprobieren. Für 10 Elemente sind das 90 verschiedene geordnete Paare. Wenn man jedes davon durch ein riesiges KI-Modell laufen lässt (wie das im Paper erwähnte DeepSeek V3.1 4-bit Modell mit 671B Parametern), dauert es eine Ewigkeit.
- Der LASKO-Weg: Das System führt zuerst eine super-schnelle „Bracket-Sonde“ aus. Das ist eine winzige, günstige Berechnung, die nur Mikrosekunden dauert (speziell stellt das Paper fest, dass eine Sonde in einem Test etwa 0,000127 Sekunden dauerte). Diese Sonde sagt voraus, welche Paare von Edits wahrscheinlich die „High-Bracket“-Paare sind, die tatsächlich wichtig sind.
- Das Ergebnis: Anstatt alle 90 Paare zu testen, führt LASKO 90 Bracket-Sonden aus, um die Liste zu filtern, und validiert dann nur die obersten 10 vorhergesagten Paare.
In ihren Experimenten erreichte dieser Ansatz eine Beschleunigung von fast 15× im Vergleich zur Brute-Force-Methode. In einem spezifischen Test mit einem DeepSeek V3.1 Modell dauerte die Brute-Force-Methode 538,1 Sekunden, um alle Optionen zu validieren, während LASKO dieselbe Aufgabe in nur 36,2 Sekunden erledigte. Das ist eine 14,85× Beschleunigung.
Noch beeindruckender: In einem Test mit einem Nemotron 70B Modell sank die Zeit von 712,4 Sekunden auf 86,0 Sekunden (eine 8,28× Beschleunigung). Über alle getesteten Modelle hinweg betrug die durchschnittliche Beschleunigung 6,94×.
Was das tatsächlich bedeutet
Das Paper ist sehr vorsichtig damit zu betonen, dass dies kein Zauberstab ist, der alles sofort löst. Es ersetzt nicht die Notwendigkeit des teuren „Validierungsschritts“, bei dem der Roboter die Korrektur tatsächlich ausführt. Stattdessen fungiert es als Filter.
Stellen Sie sich das wie einen Türsteher in einem Club vor. Die „Bracket-Sonde“ ist der Türsteher, der die Ausweise kontrolliert. Er ist schnell und günstig. Er hält die Leute auf, die definitiv nicht reinkommen (die schlechten Edit-Reihenfolgen), damit die teure „servierte Validierung“ (der eigentliche Eintritt in den Club) nur mit den Leuten zu tun hat, die eine echte Chance haben.
Die Autoren schlagen vor, dass diese Methode es ermöglicht, die perfekte Reparatursequenz (einen Score von 1,000 zu erhalten), während man nur einen Bruchteil der Zeit und des Geldes aufwendet. In einem Test mit 160 Edits hätte die Brute-Force-Methode 25.441 teure Validierungsprüfungen benötigt. LASKO benötigte durch sein Bracket-Screening nur 168 Sonden (eine Kombination aus Bracket-Checks und finalen Validierungsaufrufen), um denselben perfekten Score zu erzielen.
Das Fazit
Das Paper legt nahe, dass wir, indem wir Skill-Editing nicht als flache Liste von Optionen, sondern als strukturiertes System behandeln, in dem die Reihenfolge und der verborgene Kontext entscheidend sind, KI-Agenten viel schneller optimieren können. Es geht nicht darum, besser zu raten; es geht darum zu wissen, welche Vermutungen die teure Prüfung wert sind.
Obwohl die Ergebnisse vielversprechend sind und die Beschleunigungen in realen Experimenten mit großen Modellen gemessen wurden, rahmen die Autoren dies als ein neues Framework für die Optimierung ein. Sie zeigen, dass der „Lie Bracket“ (der Test auf Reihenfolgessensitivität) ein mächtiges Werkzeug ist, um schlechte Pfade herauszufiltern, bevor sie uns Zeit und Geld kosten. Es verwandelt die chaotische Suche durch ein Labyrinth in eine geführte Tour, die sicherstellt, dass wir nur die Pfade gehen, die am wahrscheinlichsten zum Ausgang führen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.