SkillSmith: Compiling Agent Skills into Boundary-Guided Runtime Interfaces
SkillSmith ist ein boundary-first Compiler-Laufzeit-Framework, das LLM-basierte Agentensysteme optimiert, indem es Fähigkeiten offline in minimale ausführbare Schnittstellen kompiliert und dadurch den Token-Verbrauch, die Anzahl der Schlussfolgerungsschleifen sowie die Ausführungszeit erheblich reduziert, gleichzeitig aber eine effiziente fähigkeitsübergreifende Wiederverwendung über verschiedene Modelle hinweg ermöglicht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben einen brillanten, aber sehr schwatzhaften persönlichen Assistenten (den KI-Agenten), der versucht, komplexe Probleme zu lösen, wie etwa eine defekte Maschine zu reparieren oder einen rechtlichen Vertrag zu verfassen. Um diesem Assistenten zu helfen, verfügen Sie über eine riesige Bibliothek von Anleitungen (genannt „Fähigkeiten").
Das Problem: Der „Alles-auf-einen-Haufen"-Ansatz
Derzeit, wenn der Assistent ein spezifisches Problem lösen muss, sagen wir „Wie backe ich einen Kuchen?", gibt das System ihm nicht einfach nur das Kuchenrezept. Stattdessen wirft es die gesamte Bibliothek der „Back-Fähigkeiten" in das Gehirn des Assistenten.
Diese Bibliothek enthält:
- Das Kuchenrezept (das, was Sie tatsächlich benötigen).
- Anleitungen zum Backen von Brot, Keksen und Torten (irrelevanter Kontext).
- Eine 50-seitige Geschichte der Mehlproduktion (noch mehr irrelevanter Kontext).
- Eine Liste jedes jemals hergestellten Herdmarken (irrelevanter Kontext).
Der Assistent muss dann all dies lesen, herausfinden, welcher Teil das Kuchenrezept ist, und anschließend einen Plan zum Backen des Kuchens ausarbeiten. Wenn Sie ihn bitten, im nächsten Schritt eine Torte zu backen, muss er die gesamte Bibliothek erneut lesen, den Tortenteil herausfinden und einen neuen Plan erstellen.
Das Papier nennt dies „Redundanz". Es verschwendet Zeit, Geld (da KI Kosten pro gelesenes Wort verursacht) und geistige Energie. Der Assistent liest ständig die gleichen langweiligen Teile erneut und erfindet das Rad neu.
Die Lösung: SkillSmith (der „Compiler")
Die Autoren haben ein Tool namens SkillSmith entwickelt. Stellen Sie sich SkillSmith als einen professionellen Lektor und Übersetzer vor, der arbeitet, bevor der Assistent seine Aufgabe beginnt.
Anstatt dem Assistenten die gesamte unordentliche Bibliothek zu geben, macht SkillSmith Folgendes:
- Liest das Handbuch offline: Es setzt sich mit der riesigen Bibliothek der „Back-Fähigkeiten" hin, wenn niemand zuschaut.
- Schneidet den Ballast: Es identifiziert genau, was für bestimmte Aufgaben benötigt wird. Es erkennt: „Oh, für das Backen eines Kuchens benötigen wir nur die Seiten 10–15. Die Brotanleitungen und die Geschichte des Mehls können vorerst weggeworfen werden."
- Erstellt einen „Spickzettel": Es verwandelt diese spezifischen Seiten in eine winzige, perfekte Schritt-für-Schritt-Anweisungskarte (einen „Grenzvertrag").
- Versteckt den Rest: Es hält den Rest der Bibliothek in einem verschlossenen Kasten bereit, der nur geöffnet wird, wenn der Assistent feststeckt oder eine spezifische Einzelheit nachschlagen muss.
Funktionsweise in Echtzeit
Wenn der Assistent eine Aufgabe erhält:
- Alter Weg: „Hier ist das ganze 500-seitige Buch. Viel Glück." -> Assistent liest 500 Seiten -> Assistent schreibt einen Plan.
- SkillSmith-Weg: „Hier ist ein 2-seitiger Spickzettel speziell für das Kuchenbacken." -> Assistent liest 2 Seiten -> Assistent führt den Plan aus.
Wenn der Assistent später eine Torte backen muss, tauscht SkillSmith den Spickzettel gegen einen „Torten-Spickzettel" aus. Der Assistent muss sich nie wieder durch die irrelevanten Brotanleitungen wühlen.
Die Ergebnisse: Schneller, günstiger und intelligenter
Das Papier testete dies an einem Benchmark namens SkillsBench (eine Sammlung von 7 verschiedenen Aufgaben, vom Verfassen von Angebotsschreiben bis zur Analyse von 3D-Scans). Hier ist, was passierte, als sie SkillSmith im Vergleich zur alten Methode des „Hineinwerfens der gesamten Bibliothek" einsetzten:
- Geschwindigkeit: Die Aufgaben wurden 2-mal schneller gelöst.
- Kosten: Die Menge des „Lesens" (Tokens), das die KI durchführen musste, sank um 57 %. Da KI Kosten pro gelesenes Wort verursacht, ist dies eine enorme Einsparung.
- Denken: Die KI musste 43 % seltener „denken" (durch Denk-Schleifen gehen).
- Genauigkeit: Sie machte nicht mehr Fehler; tatsächlich halfen die vorgefertigten „Spickzettel" (von einer intelligenteren KI kompiliert), wenn ein kleineres, günstigeres KI-Modell verwendet wurde, dem kleineren Modell sogar dabei, Aufgaben zu lösen, die es allein nicht bewältigen konnte.
Die „Compiler"-Analogie
Die Autoren vergleichen dies mit der Arbeitsweise von Computerprogrammierern.
- Alter Weg: Sie geben einem Computer jedes Mal, wenn er ein mathematisches Problem lösen muss, ein Buch mit englischen Anweisungen. Der Computer muss jedes einzelne Mal Englisch in Mathematik übersetzen.
- SkillSmith: Ein Programmierer übersetzt die englischen Anweisungen einmal in Maschinencode. Wenn der Computer das Programm ausführt, führt er einfach den schnellen Maschinencode aus. Er muss nicht jedes Mal das Englische neu übersetzen.
Zusammenfassung
SkillSmith ist ein Tool, das unordentliche, riesige Anleitungen für KI-Agenten nimmt, den Müll herausschneidet und sie in winzige, effiziente, einsatzbereite Anweisungskarten verwandelt. Dies verhindert, dass die KI Zeit damit verschwendet, Dinge zu lesen, die sie nicht benötigt, und spart dabei Geld und Zeit, während die Ergebnisse genau bleiben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.