A Control System, a Dataset, and a Recipe for Making Frozen LLM Agents Learn a Domain

Der KI-Chef und das magische Kochbuch

Stellen Sie sich vor, Sie haben einen brillanten, superintelligenten Chef, der fast alles kochen kann. Dieser Chef ist eine Künstliche Intelligenz, genauer gesagt ein Large Language Model (LLM). Aber hier ist der Haken: Dieser Chef wandert nicht einfach in eine Küche und fängt an zu kochen. Er braucht ein Rezept, ein Set an Werkzeugen und einen Plan. In der Welt der KI wird dieser Aufbau als „Harness“ bezeichnet. Es ist das Handbuch, das der KI sagt, wie sie denken soll, welche Werkzeuge sie benutzen soll (wie einen Taschenrechner oder eine Suchmaschine) und wie sie ihre Arbeit überprüfen soll, bevor sie das fertige Gericht serviert.

Lange Zeit dachten Wissenschaftler, der einzige Weg, den Chef besser zu machen, bestünde darin, den Chef selbst zu trainieren – ihm neue Fähigkeiten von Grund auf beizubringen. Doch eine neuere Idee legt nahe, dass der Chef vielleicht bereits großartig ist und wir lediglich das Rezept anpassen müssen. Die große Frage, die Forscher stellen, lautet: Sollten wir die KI ihr eigenes Rezept umschreiben lassen, während sie gerade kocht (ein riskantes, teures Unterfangen), oder sollten wir das Rezept als ein festes Menü an Optionen behandeln und ein kluges, einfaches System nutzen, um das Beste für die jeweilige Aufgabe auszuwählen? Dieses Paper untersucht genau diese Frage und testet, ob ein „eingefrorener“ KI (eine, deren Gehirn sich nicht verändert) allein durch die Änderung der Art und Weise, wie wir ihr Anweisungen geben, massiv verbessert werden kann.

---

Das Experiment: Die KI mit einem „Rezept-Schaltbrett“ bändigen

Die Autoren dieses Papers entschieden sich für einen sehr sorgfältigen, kontrollierten Ansatz. Anstatt eine KI wild umherziehen zu lassen und ihr eigenes Code zu umschreiben (was sie als vergleichbar mit einem Schüler beschreiben, der die Prüfungsfragen umschreibt, während er die Prüfung ablegt), bauten sie ein „Kontrollsystem“. Stellen Sie sich dieses System wie ein riesiges, magisches Schaltbrett mit exakt 729 verschiedenen Einstellungen vor. Jede Einstellung ist eine spezifische Kombination von Anweisungen:

• Prompt-Stil: Soll die KI direkt, strukturiert oder reflektierend sein?
• Werkzeug-Richtlinie (Tool Policy): Soll sie Werkzeuge nur bei Bedarf oder immer benutzen?
• Gedächtnis: Soll sie sich an vergangene Erfolge erinnern oder sowohl an Erfolge als auch an Misserfolge?
• Planung: Soll sie einfach loslegen, einen kurzen Plan erstellen oder planen und dann überarbeiten?
• Verifizierung: Soll sie ihre Arbeit am Ende doppelt prüfen oder Schritt für Schritt?
• Schritt-Budget: Wie viele Schritte sollte sie unternehmen, bevor sie stoppt?

Die Forscher wollten sehen, ob sie ein intelligentes Lernsystem (genannt Reinforcement Learning) nutzen können, um diese Schalter in Echtzeit umzulegen, um das perfekte Rezept für jede Aufgabe zu finden. Sie testeten dies in drei verschiedenen „Küchen“:

1. Werkzeugnutzung (Tool-Use): Die KI verwaltet eine fiktive Kundendatenbank (wie ein CRM).
2. Programmierung (Coding): Die KI wird gebeten, Code zu schreiben, der spezifische Tests besteht (unter Verwendung des HumanEval-Benchmarks).
3. Informationsbeschaffung (Retrieval): Die KI wird gebeten, knifflige Fragen zu beantworten, indem sie in einem Stapel von Dokumenten sucht (unter Verwendung von HotpotQA).

Sie führten dieses Experiment mit zwei verschiedenen „Chefs“ durch: einem lokalen Open-Source-Modell (Ollama) und einem leistungsstarken Cloud-Modell (AWS Bedrock). Sie verglichen ihr intelligentes, lernendes Schaltbrett mit zwei anderen Methoden: einem Zufalls-Ratenden (der Einstellungen zufällig auswählt) und einer „statischen Baseline“ (einem einzelnen, einmal optimierten Rezept, das mit einem Tool namens DSPy erstellt wurde).

Die große Überraschung: Das „statische“ Rezept gewinnt

Hier ist die Wendung, die die Autoren nicht erwartet hatten: Das intelligente, lernende Schaltbrett hat nicht gewonnen.

In fast allen Tests schnitt die „statische Baseline“ – das einzelne, vorgefertigte Rezept, das einmal sorgfältig entworfen und dann unverändert gelassen wurde – genauso gut oder sogar besser ab als das System, das ständig versuchte zu lernen und sich anzupassen.

• Im Bereich Werkzeugnutzung erledigte das statische Rezept 96 % der Aufgaben korrekt auf dem Bedrock-Modell, während das Lernsystem nur etwa 62 % richtig löste.
• Bei der Programmierung war das statische Rezept genauso gut wie das Lernsystem, verbrauchte aber weit weniger „Token“ (die digitalen Zutaten, die die KI „frisst“), was es viel günstiger und schneller machte.
• Selbst im Bereich Informationsbeschaffung, wo es für alle Beteiligten schwieriger war, hielt das statische Rezept stand.

Die Autoren erkannten den Grund für dieses Ergebnis: Das „lernende“ System versuchte, die beste Einstellung aus 729 Möglichkeiten zu finden, hatte aber nicht genug Zeit oder Versuche, um die Landkarte zu erlernen. Es war, als würde man versuchen, den besten Pfad durch ein riesiges Labyrinth mit nur 25 Versuchen zu finden; man bleibt wahrscheinlich in einer Sackgasse stecken. Das statische Rezept hingegen wurde mit einer Methode erstellt, die von Anfang an nur plausible, hochwertige Optionen betrachtete, sodass es keine Zeit mit dem Erkunden schlechter Pfade verschwendete.

Was das für die Zukunft bedeutet

Das Paper kommt zu dem Schluss, dass man für die meisten praktischen, realen Situationen nicht mit einem komplexen, selbstlernenden System beginnen sollte, das versucht, alles von Grund auf neu zu verstehen. Stattdessen sollte man:

1. Mit einem starken, statischen Rezept beginnen (wie dem, das durch DSPy erstellt wurde).
2. Das Lernsystem erst später hinzufügen, und zwar nur dann, wenn sich die Aufgaben so stark ändern, dass das alte Rezept nicht mehr funktioniert.

Die Autoren stellten auch ein „Rezept“ (einen Leitfaden namens RECIPE.md) zur Verfügung, damit andere Teams diese Systeme bauen können. Sie betonen, dass man, falls man ein Lernsystem verwendet, vorsichtig mit „Cold Starts“ sein muss (wo das System am Anfang versehentlich eine schlechte Einstellung wählt) und darauf achten muss, dass Abstürze, bei denen ein einzener schlechter Versuch die gesamte Charge ruiniert, vermieden werden.

Kurz gesagt deutet das Paper darauf an, dass die Idee einer KI, die ständig ihre eigenen Anweisungen umschreibt, zwar cool und futuristisch klingt, in der realen Welt jedoch ein gut geschriebenes, festes Handbuch oft besser, schneller und kostengünstiger funktioniert als ein System, das noch versucht, das Handbuch zu schreiben, während es bereits arbeitet. Der „Lernanteil“ ist nützlich, aber erst, nachdem man bereits einen guten Ausgangspunkt gefunden hat.