🤖 AI

BONSAI: Evolvability-Guided Tree Search over Skills

BONSAI ist ein neuartiges Framework zur Skill-Optimierung für eingefrorene Agenten, das eine evolvabilitätsgesteuerte Monte-Carlo-Baumsuche einsetzt, um zwischen Overfitting-Spitzen und verbesserbaren Plateaus zu unterscheiden, und dabei bestehende Baselines in der Heldout-Genauigkeit signifikant übertrifft.

Ursprüngliche Autoren: Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Veröffentlicht 2026-08-10

📖 6 Min. Lesezeit🧠 Tiefgang

CC0 1.0

Ursprüngliche Autoren: Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem superintelligenten Roboter eine komplexe Aufgabe beizubringen, wie etwa das Reparieren einer Tabellenkalkulation oder das Lösen eines kniffligen mathematischen Problems. Der Haken dabei? Der Roboter ist „eingefroren“. Sein Gehirn ist festgeschrieben; Sie können ihn nicht neu trainieren, seine Neuronen nicht anpassen oder ihn aus seinen Fehlern lernen lassen, wie es ein menschlicher Schüler tun würde. Der einzige Weg, ihn besser zu machen, besteht darin, ihm eine Reihe von Anweisungen – einen „Skill“ (eine Fertigkeit) – in einfachem Englisch zu schreiben. Betrachten Sie diesen Skill nicht als einen einfachen Befehl, sondern als ein detailliertes Handbuch, das dem Roboter genau sagt, welche Werkzeuge er greifen muss, welche Fallstricke zu vermeiden sind und wie er seine Arbeit überprüft, bevor er das Ergebnis abliefert.

Die große Frage, die sich Wissenschaftler stellen, lautet: Wie schreibt man das perfekte Handbuch? Wenn man einfach nur ein paar Änderungen vornimmt, sie testet und die behält, die funktionieren, könnte man stecken bleiben. Es ist wie eine Wanderung auf einem Berg, bei der die Karte nur die aktuelle Höhe anzeigt. Man könnte einen winzigen, scharfen Gipfel erreichen, der hoch aussieht, aber so schmal ist, dass der nächste Schritt einen direkt in den Abgrund führt. Oder man könnte auf einem breiten, sanften Plateau stehen, auf dem jeder Schritt nach vorne zu noch höherem Boden führt, man aber den Unterschied allein durch den Blick auf die aktuelle Höhe nicht erkennen kann. Dieses Paper stellt einen neuen Weg vor, diese Landschaft zu navigieren, indem es ein Konzept nutzt, das aus der Biologie entlehnt ist: „Evolvability“ (Evolvierbarkeit) – die Fähigkeit eines Pfades, selbst dann noch gute Ergebnisse zu liefern, wenn man einen falschen Abzweig nimmt.

Das Problem: Die Falle des „Scharfen Gipfels“

Die Forscher bei IBM Research bemerkten einen Fehler in der Art und Weise, wie wir diese KI-Handbücher üblicherweise verbessern. Die Standardmethode ist simpel: Man nehme ein Handbuch, bitte die KI, es umzuschreiben, teste die neue Version und wenn die Punktzahl steigt, behalte sie. Wenn sie sinkt, wirf sie weg.

Das Problem ist, dass diese Methode „blind“ ist. Sie betrachtet nur die Punktzahl des aktuellen Handbuchs. Sie kann nicht zwischen einem Handbuch auf einem breiten Plateau (einem sicheren, stabilen Bereich, in dem kleine Änderungen meist zu noch besseren Ergebnissen führen) und einem Handbuch auf einer schmalen, überoptimierten Spitze (einem fragilen Gipfel, auf dem die Punktzahl zwar hoch ist, aber jede winzige Änderung dazu führt, dass die Punktzahl abstürzt) unterscheiden. Wenn man auf einer Spitze steht, könnte die nächste Bearbeitung zwar einen kleinen Fehler beheben, aber zehn andere Dinge kaputt machen, die perfekt funktionierten. Die Standardmethode läuft ständig in den Abgrund, weil sie nur die hohe Punktzahl sieht, nicht aber die Gefahr.

Die Lösung: BONSAI und der „Evolvability“-Kompass

Um dies zu beheben, entwickelte das Team ein neues Framework namens BONSAI. Anstatt nur darauf zu schauen, wie gut ein Handbuch jetzt gerade ist, fragt BONSAI: „Wie gut ist die Nachbarschaft um dieses Handbuch herum?“

Sie nutzen eine kluge Metapher aus der Natur: Evolvability. In der Biologie wird eine Spezies nicht nur danach beurteilt, wie gut sie heute überlebt, sondern nach ihrer Fähigkeit, auch in der Zukunft nützliche Nachkommen hervorzubringen. Eine Spezies auf einem „breiten Plateau“ kann mutieren und trotzdem überleben; eine Spezies auf einer „scharfen Spitze“ stirbt aus, wenn sie sich auch nur ein wenig verändert.

BONSAI behandelt die Suche nach dem perfekten Handbuch wie das Wachsen eines Baumes:

Der Baum: Es beginnt mit einem einzigen „Samen“-Handbuch.
Die Äste: Jedes Mal, wenn die KI versucht, das Handbuch umzuschreiben, lässt sie einen neuen Ast wachsen (einen Kindknoten).
Der Kompass: Bei der Entscheidung, welchen Ast als Nächstes zu erkunden, wählt BONSAI nicht einfach den Ast mit der höchsten Punktzahl. Es wählt den Ast, der das beste Zukunftspotenzial zu haben scheint. Es berechnet einen Wert namens Evolvability, was im Grunde der Durchschnitt der Punktzahlen aller kleinen Änderungen (Mutationen) ist, die an diesem Handbuch vorgenommen wurden.

Wenn ein Handbuch auf einer „Spitze“ liegt, werden seine Nachbarn schreckliche Punktzahlen haben, und die Evolvability-Punktzahl wird niedrig sein. BONSAI vermeidet dies. Wenn ein Handbuch auf einem „Plateau“ liegt, werden seine Nachbarn ebenfalls gute Punktzahlen haben, und die Evolvability-Punktzahl wird hoch sein. BONSAI taucht tief in diese sicheren, produktiven Bereiche ein.

Wie es funktioniert: Der „Graft“-Trick

Die Forscher fügten ein spezielles Feature namens GRAFT hinzu. Stellen Sie sich vor, Sie haben zwei Äste eines Baumes: Ein Ast hat gelernt, wie man mit „Mathematikproblemen“ umgeht, und ein anderer Ast hat gelernt, wie man mit „Tabellenkellen“ umgeht. Sie befinden sich auf unterschiedlichen Pfaden und kommunizieren nie miteinander.

Normalerweise kann die KI diese Fähigkeiten nicht kombinieren, da sie immer nur ein Handbuch gleichzeitig betrachtet. Aber GRAFT ermöglicht es der KI, in den „Mathematik“-Ast hineinzuschauen, einen Trick zu entdecken, der funktioniert, und diesen Trick in das „Tabellenkalkulations“-Handbuch zu kopieren. Es ist, als würde ein Gärtner einen starken Zweig von einem Baum nehmen und ihn auf einen anderen pflanzen (verpflanzen/pfropfen), um ihm neue Kräfte zu verleihen. Dies geschieht, ohne die Baumstruktur zu brechen, wodurch die KI die besten Ideen aus verschiedenen Teilen ihrer Suche mischen und kombinieren kann.

Die Ergebnisse: Höher klettern

Das Team testete BONSAI bei drei verschiedenen Herausforderungen:

SpreadsheetBench: Das Reparieren von Excel-Dateien.
SearchQA: Das Beantworten von Quizfragen unter Verwendung von Suchergebnissen.
LiveMathematicianBench: Das Lösen von mathematischen Problemen.

Sie verwendeten einen eingefrorenen 30-Milliarden-Parameter-KI-Agenten (den „Performer“) und eine separate KI, um die Handbücher zu schreiben (den „Optimizer“). Sie verglichen BONSAI mit zwei anderen Methoden, GEPA und SkillOpt, wobei sichergestellt wurde, dass alle die gleiche Menge an Rechenleistung (das gleiche „Budget“) verwendeten.

Die Ergebnisse waren eindeutig:

Auf SpreadsheetBench verbesserte BONSAI die Genauigkeit um 5,71 Punkte gegenüber dem Start-Handbuch und schlug den besten Konkurrenten (GEGA) um 2,14 Punkte.
Auf SearchQA verbesserte es sich um 6,57 Punkte gegenüber dem Start-Handbuch.
Auf LiveMathematicianBench war der Unterschied gewaltig. BONSAI erreichte eine Genauigkeit von 64,91 %, während das Start-Handbuch nur bei 28,23 % lag und der Konkurrent GEPA bei 56,14 % lag.

Die Forscher fanden heraus, dass, wenn sie den „Evolvability“-Kompass ausschalteten und die KI einfach gierig nach der höchsten Punktzahl jagten (wie die alten Methoden), die KI frühzeitig auf jenen „scharfen Spitzen“ stecken blieb und aufhörte, sich zu verbessern. BONSAI hingegen fand tiefer in der Suche immer noch bessere Lösungen, weil es wusste, welche Pfade sicher zu erkunden waren.

Das Fazit

Das Paper legt nahe, dass wir, um eingefrorene KI-Agenten intelligenter zu machen, nicht nur nach der höchsten Punktzahl im Hier und Jetzt suchen sollten. Wir sollten nach dem vielversprechendsten Umfeld suchen. Durch die Nutzung einer Baumsuchmethode, die Stabilität und Zukunftspotenzial (Evolvability) über sofortige, fragile Siege stellt, fand BONSAI bessere Anweisungen, denen die KI folgen konnte. Es musste nicht das Gehirn der KI neu trainieren; es musste nur ein besseres Handbuch schreiben, und das gelang ihm, weil es wusste, welche Wege sicher zu gehen waren.

Technisches Resümee: BONSAI – Evolvability-Guided Tree Search over Skills

1. Problemstellung

Das Paper adressiert die Herausforderung, Skills (Fähigkeiten) für eingefrorene Agenten (frozen agents) zu optimieren. Ein „Skill“ wird als ein natürlichsprachliches Dokument definiert (das eher als Handbuch denn als einfaches Prompt-Template fungiert), welches einen eingefrorenen Large Language Model (LLM) anleitet, dessen Gewichte nicht aktualisiert werden können. Da der Agent nicht aus Erfahrung lernen kann, muss jede fehlende Fähigkeit in den Skill-Text kodiert werden.

Der Standardansatz zur Skill-Optimierung umfasst eine iterative Schleife: Bearbeitung des Skills basierend auf dem Scheitern des Agenten, Testen auf gehaltenen Aufgaben (held-out tasks) und Beibehaltung von Änderungen, die die Punktzahl verbessern. Die Autoren identifizieren dabei eine kritische Schwachstelle dieser Methode: Ein einzelner Validierungswert kann nicht unterscheiden, ob ein Dokument auf einem breiten Plateau (robust gegenüber weiteren Änderungen) ruht oder auf einer schmalen Spitze (überoptimiert und brüchig) thront. Ein Dokument auf einer schmalen Spitze kann zwar hoch punkten, stellt aber eine Sackgasse dar, da weitere Änderungen dazu neigen, bestehende Fähigkeiten zu zerstören. Bestehende Methoden verfügen über keine Möglichkeit, die „Evolvability“ (Evolvierbarkeit) einer Skill-Region zu messen – also die Kapazität, unter Mutation lebensfähige Variationen zu erzeugen – ohne zusätzliche Rechenkosten zu verursachen.

2. Methodik: BONSAI

BONSAI (Bonsai Optimisation via Natural-language Search and Adaptive Iteration) formuliert die Skill-Optimierung als eine von Evolvability geleitete Monte-Carlo-Baumsuche (MCTS), statt nur auf unmittelbarer Fitness zu basieren.

Kernkomponenten

Modelle: Es werden zwei eingefrorene Modelle verwendet.
- Performer: Der eingefrorene Agent (z. B. granite-4.1-30b), der Aufgaben basierend auf dem Skill ausführt.
- Optimizer: Ein zweites eingefrorenes Modell (z. B. DeepSeek-V3.2), das den Skill basierend auf den Fehlern des Performers umschreibt.
Baumstruktur: Skills werden in einem Baum organisiert, wobei der Wurzelknoten ein Seed-Dokument ist. Jede Kante repräsentiert eine Mutation (ein reflektives Umschreiben) des Elternknotens. Diese Struktur erzwingt eine Nachbarschaftstopologie im Dokumentenraum.

Schlüsselmetriken

Fitness ( $v(n)$ ): Der Validierungswert des Dokuments am Knoten $n$ .
Evolvability ( $Q(n)$ ): Definiert als die erwartete Fitness der mutationalen Nachbarschaft eines Skills. Sie wird durch den Mittelwert der Fitness der Abstammungslinie (Lineage) des Knotens (der Knoten selbst plus alle seine Nachkommen) geschätzt.
$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$
wobei $L(n)$ die Lineage und $m(n)$ die Anzahl der bewerteten Mitglieder ist.
Brittleness (Brüchigkeit, $\sigma(n)$ ): Die Differenz zwischen aktueller Fitness und Evolvability: $\sigma(n) = v(n) - Q(n)$ $σ (n) = v (n) - Q (n)$ .
- $\sigma > 0$ : Deutet auf eine brüchige, überoptimierte Spitze hin (der aktuelle Score ist höher als der Durchschnitt der Nachbarschaft).
- $\sigma \le 0$ : Deutet auf eine evolvierbare Region hin (die Nachbarschaft hält das Niveau oder verbessert den aktuellen Score).

Suchalgorithmus

Die Suche erfolgt iterativ unter Verwendung einer Upper Confidence Bound (UCB) Selektionsregel:
$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$

Exploitation (Ausbeutung): Der Term $\lambda(Q(s) - v(s))$ steuert die Suche in Regionen mit hoher Evolvability. Wenn $\lambda=1$ , priorisiert die Suche $Q(s)$ (Evolvability) gegenüber der reinen Fitness $v(s)$ .
Exploration (Erkundung): Der Standard-UCB-Term stellt sicher, dass schwache Zweige erneut besucht werden.
Akzeptanz: Ein vorgeschlagener Kindknoten wird nur akzeptiert, wenn er einen kleinen Trainings-Minibatch strikt verbessert (Gleichung 4).
Backup: Akzeptierte Kindknoten aktualisieren die Lineage-Statistiken ( $N$ , $m$ , $W$ ). Abgelehnte Mutationen aktualisieren nur die Besuchszahl $N$ , um zu verhindern, dass gescheiterte Umschreibungen die Evolvability-Schätzung einer Region künstlich senken.
Widening (Verbreiterung): Knoten haben eine sublineare Kapazität für Kinder basierend auf der Anzahl der bewerteten Proben, was sicherstellt, dass die Suche eher tief als breit verläuft.

Grafting (Optionaler Operator)

Um die Fragmentierung von Fähigkeiten über verschiedene Zweige hinweg zu adressieren, enthält BONSAI den Graft-Operator (Impfung). Wenn ein Knoten $A$ eine Fähigkeit vermissen lässt, die ein Knoten $B$ aus einer anderen Lineage besitzt (bestimmt durch den Vergleich der Per-Task-Scores auf den Trainingsdaten), wird der Optimizer angewiesen, $A$ so umzuschreiben, dass die Technik von $B$ integriert wird. Der Spender $B$ dient als Evidenz, nicht als Vorfahre, und erhält keine Besuchsupdates.

Shipping (Auslieferung)

Nach Erschöpfung des Budgets liefert BONSAI das einzelne Dokument mit dem höchsten Validierungswert ( $\arg\max v(n)$ ) aus, nicht das mit der höchsten Evolvability. Dies stellt sicher, dass das Endprodukt das beste gefundene Dokument ist, während die Evolvability lediglich als Steuerungsmechanismus für das Suchbudget dient.

3. Wesentliche Beiträge

Evolvability als Steuerungsmetrik: Die Autoren identifizieren die Robustheit unter Mutation (Evolvability) als die entscheidende Eigenschaft für die Skill-Optimierung und unterscheiden sie von der gegenwärtigen Fitness.
Kostenfreie Schätzung: Sie schlagen eine Methode vor, die Evolvability ( $Q$ ) zu messen, die keine zusätzlichen Modellaufrufe erfordert. Sie nutzt bereits im Rahmen der Suche bezahlte Fitness-Scores, um die Qualität der mutationalen Nachbarschaft zu schätzen.
Baumbasierter Suchrahmen: BONSAI verwandelt eine ungeordnete Sammlung von Kandidaten in einen strukturierten Suchraum, in dem Nachbarschaftseigenschaften gemessen und via MCTS optimiert werden können.
Asymmetrischer Fähigkeitstransfer: Die Einführung des Graft-Operators ermöglicht den Transfer spezifischer Fähigkeiten zwischen Lineages, ohne die Dokumente zu verschmelzen, wodurch das Problem der Divergenz von Skills adressiert wird.

4. Experimentelle Ergebnisse

Das Framework wurde auf drei Benchmarks mit einem eingefrorenen 30B Performer und einem DeepSeek-V3.2 Optimizer evaluiert.

SpreadsheetBench: BONSAI verbesserte das Seed-Dokument um 5,71 Genauigkeitspunkte und übertraf den budget-entsprechenden Baseline-Ansatz GEPA um 2,14 Punkte. Mit aktiviertem Grafting erreichte es 25,00 % Genauigkeit.
SearchQA: BONSAI verbesserte das Seed-Dokument um 6,57 Punkte und übertraf GEPA um 0,71 Punkte (79,00 % vs. 78,29 %).
LiveMathematicianBench: BONSAI erreichte 64,91 % Genauigkeit, was das Seed-Dokument (28,23 %) deutlich übertraf und GEPA um 8,77 Punkte schlug.
Vergleich mit SkillOpt: Über alle Benchmarks hinweg übertraf BONSAI die zweite Baseline, SkillOpt, um durchschnittlich 3,97 Punkte. Die Autoren führen SkillsOpts Defizit auf dessen Aggregationsphase zurück, die Edits komprimiert, ohne die zugrunde liegenden Trajektorien zu berücksichtigen.
Ablation (Evolvability vs. Greedy): Wenn das Selektionssignal auf reine Greedy-Fitness ( $\lambda=0$ ) geändert wurde, sank die Performance über alle Benchmarks signifikant (z. B. -7,02 Punkte bei LiveMathematicianBench), was bestätigt, dass die Steuerung durch Evolvability der primäre Erfolgsfaktor ist.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass BONSAI das Suchbudget erfolgreich in Regionen des Skill-Raums lenkt, die weiterhin Verbesserungen ermöglichen, anstatt in engen, überoptimierten Spitzen stecken zu bleiben. Durch die Behandlung der Evolvability als eine von der Fitness getrennte Eigenschaft vermeidet die Methode den „blinden Fleck“ der Standard-Score-basierten Optimierung.

Die Autoren betonen, dass diese Verbesserung ohnt Kosten gegenüber dem Standard-„Accept-if-better“-Loop erzielt wird, da die Evolvability-Metrik aus den bestehenden Suchdaten abgeleitet wird. Das Framework zeigt, dass für eingefrorene Agenten das „Terrain“ des Skill-Raums (seine Fähigkeit zur Evolution) ebenso wichtig ist wie die aktuelle „Höhe“ (Score). Die Ergebnisse legen nahe, dass die Organisation der Skill-Optimierung als Baumsuche, die durch mutationale Robustheit geleitet wird, eine überlegene Generalisierung auf gehaltenen Aufgaben im Vergleich zu bestehenden reflexiven Prompt-Evolution- oder trainierbaren Zustandsansätzen liefert.