GOAT: A Training Framework for Goal-Oriented Agent with Tools
Die Arbeit stellt GOAT vor, ein neuartiges Trainingsframework, das die Feinabstimmung von Open-Source-LLM-Agenten für komplexe Werkzeugnutzung ohne menschliche Annotation ermöglicht, indem es zielgerichtete API-Ausführungsdaten automatisch aus Dokumentation synthetisiert, und erreicht damit State-of-the-Art-Leistung auf bestehenden Benchmarks sowie auf einem neu vorgestellten GOATBench.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben eine sehr kluge, gut gebildete Bibliothekarin (die KI), die weiß, wie man Bücher liest und Geschichten schreibt. Wenn Sie diese Bibliothekarin jedoch bitten, in den hinteren Raum der Bibliothek zu gehen, eine bestimmte Kiste mit alten Karten zu finden, eine bestimmte Seite herauszuziehen und dann diese Seite zu verwenden, um ein bestimmtes Rezept in einem Kochbuch zu finden, verläuft sie sich oft. Sie könnte die falsche Kiste erraten, das falsche Buch öffnen oder vergessen, die Kartenseite in die Küche zu bringen.
Dies ist das Problem bei aktuellen KI-Agenten, wenn sie versuchen, „Werkzeuge" zu verwenden (wie APIs, die digitale Verbindungen zu Datenbanken, Wetterdiensten oder Filmlisten darstellen). Sie sind hervorragend im Chatten, aber schrecklich darin, eine mehrstufige Mission zu planen, bei der ein Schritt vollständig vom Ergebnis des vorherigen abhängt.
Die Arbeit stellt GOAT (Goal-Oriented Agent with Tools) vor, eine neue Trainingsmethode, die darauf ausgelegt ist, diese verwirrte Bibliothekarin in einen Meisterdetektiv zu verwandeln. So funktioniert es, unter Verwendung einfacher Analogien:
Das Problem: Das „Raten-Spiel"
Normalerweise müssen Forscher, um einer KI beizubringen, Werkzeuge zu nutzen, Menschen anheuern, um Tausende von Beispielen zu schreiben wie: „Fragen Sie zuerst die Wetter-API nach Regen. Nehmen Sie dann diese 'Regen'-Antwort und fragen Sie die Kleidung-API nach einem Regenmantel."
Dies ist teuer und langsam. Ohne diese von Menschen geschriebenen Beispiele raten KI-Modelle einfach. Sie scheitern oft an komplexen Aufgaben, die das Verketten mehrerer Schritte erfordern.
Die Lösung: Die „Reverse-Engineering"-Küche
Die Autoren von GOAT erkannten, dass sie keine Menschen benötigten, um die Anweisungen zu schreiben. Sie hatten bereits das „Kochbuch" (die API-Dokumentation). Anstatt die KI zu bitten, das Rezept aus einem fertigen Gericht zu erraten, beschlossen sie, zuerst das Gericht zu zubereiten und dann das Rezept zu beschreiben.
Sie verwenden eine „Call-First"-Strategie (Zuerst-Aufrufen-Strategie):
- Karte der Küche: Zuerst liest das System alle API-Handbücher und zeichnet eine Karte, wie die Werkzeuge miteinander verbunden sind. (Beispiel: „Die Ausgabe des 'Wetter'-Werkzeugs passt perfekt in die Eingabe des 'Regenschirm'-Werkzeugs").
- Das Mahl kochen (Der Call-First-Schritt): Das System wählt einen Pfad auf dieser Karte und führt die Werkzeuge tatsächlich aus. Es fragt das Wetter-Werkzeug nach Daten, erhält das Ergebnis und verwendet dieses Ergebnis sofort, um das Regenschirm-Werkzeug zu befragen. Es rät nicht; es führt echte Schritte aus und erhält echte Antworten.
- Das Rezept schreiben (Der Abstraktionsschritt): Nachdem die Werkzeuge die Arbeit erledigt haben, betrachtet die KI die fertige Ereigniskette und schreibt eine Benutzerabfrage, die dazu passt. Sie sagt im Wesentlichen: „Oh, ich habe gerade all diese Schritte unternommen, um einen Regenmantel zu finden. Also ist eine Benutzeranfrage wie 'Was soll ich tragen, wenn es regnet?', genau das, was ich gerade gelöst habe."
Indem dies umgekehrt durchgeführt wird (Aktion Frage), lernt die KI die korrekte Logik, wie Werkzeuge verbunden sind, ohne dass ein Mensch die Anweisungen schreiben muss. Sie lernt, indem sie zuerst die Arbeit verrichtet und dann erklärt, was sie getan hat.
Das Ergebnis: Ein Super-Helfer
Die Arbeit testete diese neu mit „GOAT" trainierten Agenten an mehreren Herausforderungen:
- RestBench & API-Bank: Dies sind wie Prüfungen, bei denen die KI Filmrezensionen oder Musikempfehlungen unter Verwendung einer Werkzeugkette finden muss.
- GOAT-Bench: Die Autoren schufen eine brandneue, größere Prüfung, die speziell für diese Art von komplexen, mehrstufigen Aufgaben entwickelt wurde.
Die Ergebnisse waren eindeutig:
- Open-Source-Modelle: Vor GOAT waren kleinere, quelloffene KI-Modelle (die kostenlos und für jedermann verfügbar sind) bei diesen komplexen Aufgaben fast nutzlos. Sie scheiterten fast 100 % der Zeit.
- Nach GOAT: Einmal mit dieser neuen Methode trainiert, wurden dieselben Open-Source-Modelle unglaublich gut in diesen Aufgaben. In einigen Fällen schnitten sie besser ab als teure, geschlossene Modelle (wie GPT-4), die diese Tests normalerweise dominieren.
- Kein Mensch nötig: Der gesamte Trainingsdatensatz wurde vom System automatisch unter Verwendung der API-Handbücher erstellt. Keine Menschen mussten sich hinsetzen und die schrittweisen Anweisungen ausformulieren.
Das Fazit
GOAT ist eine Möglichkeit, KI-Agenten beizubringen, wie man Werkzeuge plant und nutzt, indem man sie zuerst die eigentliche Arbeit ausführen lässt und sie dann lehrt, das Ziel zu beschreiben. Es verwandelt Open-Source-KI-Modelle von „ratlosen Ratern" in „zuverlässige Planer", ohne dass teure menschliche Lehrer erforderlich sind. Die Autoren haben ihren Code und ihre neue Test-Suite (GOAT-Bench) für andere nutzbar gemacht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.