🤖 AI

BONSAI: Evolvability-Guided Tree Search over Skills

BONSAI is een nieuw framework voor vaardigheidsoptimalisatie voor bevroren agenten dat evolueerbaarheid-gestuurde Monte Carlo boomzoekmethoden gebruikt om onderscheid te maken tussen overfitting-pieken en verbeterbare plateaus, waarbij het bestaande baselines op held-out nauwkeurigheid aanzienlijk overtreft.

Oorspronkelijke auteurs: Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Gepubliceerd 2026-08-10

📖 6 min leestijd🧠 Diepgaand

CC0 1.0

Oorspronkelijke auteurs: Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente robot probeert te leren hoe hij een complexe taak moet uitvoeren, zoals het repareren van een spreadsheet of het oplossen van een lastig wiskundig probleem. De crux? De robot is "bevroren". Zijn brein zit op slot; je kunt hem niet hertrainen, zijn neuronen niet aanpassen of hem laten leren van zijn fouten zoals een menselijke student dat doet. De enige manier om hem beter te maken, is door hem een reeks instructies te schrijven—een "vaardigheid"—in gewone mensentaal. Zie deze vaardigheid niet als een simpele opdracht, maar als een gedetailleerde handleiding die de robot vertelt welke gereedschappen hij precies moet pakken, welke valkuilen hij moet vermijden en hoe hij zijn werk moet controleren voordat hij het resultaat inlevert.

De grote vraag waar wetenschappers zich mee bezighouden is: Hoe schrijf je de perfecte handleiding? Als je slechts een paar veranderingen probeert, ze test en de versies behoudt die werken, loop je het risico vast te lopen. Het is alsof je een berg beklimt waarbij de kaart alleen je huidige hoogte weergeeft. Je kunt een kleine, scherpe piek bereiken die hoog lijkt, maar die zo smal is dat de volgende stap je direct de afgrond in jaagt. Of je kunt op een breed, flauw plateau staan waar elke stap vooruit naar een nog hoger punt leidt, maar je kunt het verschil niet zien door alleen naar je huidige hoogte te kijken. Dit artikel introduceert een nieuwe manier om dit landschap te navigeren, gebruikmakend van een concept dat geleend is uit de biologie: "evolvability" (evolueerbaarheid)—het vermogen van een pad om zelfs wanneer je een verkeerde afslag neemt, goede resultaten te blijven produceren.

Het Probleem: De Valstrik van de "Scherpe Piek"

De onderzoekers bij IBM Research merkten een gebrek op in de manier waarop we deze AI-handleidingen gewoonlijk verbeteren. De standaardmethode is simpel: neem een handleiding, vraag de AI om deze te herschrijven, test de nieuwe versie, en als de score omhoog gaat, behoud je deze. Als de score omlaag gaat, gooi je deze weg.

Het probleem is dat deze methode "blind" is. Het kijkt alleen naar de score van de huidige handleiding. Het kan het verschil niet zien tussen een handleiding die zich op een breed plateau bevindt (een veilig, stabiel gebied waar kleine veranderingen meestal leiden tot nog betere resultaten) en een handleiding die op een smalle, overfitted spike staat (een fragiele piek waar de score hoog is, maar elke kleine verandering de score doet instorten). Als je op een spike staat, kan de volgende bewerking één klein foutje herstellen, maar tien andere dingen breken die perfect werkten. De standaardmethode loopt de afgrond in omdat het alleen de hoge score ziet, niet het gevaar.

De Oplossing: BONSAI en de "Evolvability"-kompas

Om dit op te lossen, heeft het team een nieuw framework ontwikkeld genaamd BONSAI. In plaats van alleen te kijken hoe goed een handleiding nu is, vraagt BONSAI: "Hoe goed is de buurt rondom deze handleiding?"

Ze gebruiken een slimme metafoor uit de natuur: Evolvability. In de biologie wordt een soort niet alleen beoordeeld op hoe goed hij vandaag overleeft, maar op zijn vermogen om in de toekomst nuttige nakomelingen te blijven produceren. Een soort op een "breed plateau" kan muteren en nog steeds overleven; een soort op een "scherpe spike" sterft uit als hij ook maar een klein beetje verandert.

BONSAI behandelt de zoektocht naar de perfecte handleiding als het kweken van een boom.

De Boom: Het begint met één "kiem"-handleiding.
De Takken: Elke keer dat de AI de handleiding probeert te herschrijven, groeit er een nieuwe tak (een kind-node).
Het Kompas: Bij het beslissen welke tak het beste verkend moet worden, kiest BONSAI niet simpelweg de tak met de hoogste score. Het kiest de tak die eruitziet alsof deze de beste toekomst heeft. Het berekent een score genaamd Evolvability, wat in essentie de gemiddelde score is van alle kleine veranderingen (mutaties) die aan die handleiding zijn aangebracht.

Als een handleiding op een "spike" staat, zullen de buren een verschrikkelijke score hebben en zal de evolvability-score laag zijn. BONSAI vermijdt dit. Als een handleiding op een "plateau" staat, zullen de buren ook goede scores hebben en zal de evolvability-score hoog zijn. BONSAI duikt diep in deze veilige, productieve gebieden.

Hoe het werkt: De "Graft"-truc

De onderzoekers voegden een speciale functie toe genaamd GRAFT. Stel je voor dat je twee takken van de boom hebt: één tak heeft geleerd hoe hij "wiskundige problemen" moet aanpakken, en een andere tak heeft geleerd hoe hij "spreadsheets" moet aanpakken. Ze bevinden zich op verschillende paden en praten niet met elkaar.

Normaal gesproken kan de AI deze vaardigheden niet combineren omdat hij slechts één handleiding tegelijk bekijkt. Maar GRAFT stelt de AI in staat om even in de "wiskunde"-tak te kijken, een truc te zien die werkt, en die truc over te nemen in de "spreadsheet"-handleiding. Het is alsof een tuinier een sterke tak van de ene boom neemt en die op een andere boom ent om deze nieuwe krachten te geven. Dit gebeurt zonder de boomstructuur te breken, waardoor de AI de beste ideeën uit verschillende delen van zijn zoektocht kan mengen en combineren.

De Resultaten: Hoger Klimmen

Het team heeft BONSAI getest op drie verschillende uitdagingen:

SpreadsheetBench: Het repareren van Excel-bestanden.
SearchQA: Het beantwoorden van quizvragen met behulp van zoekresultaten.
LiveMathematicianBench: Het oplossen van wiskundige problemen.

Ze gebruikten een bevroren AI-agent met 30 miljard parameters (de "performer") en een aparte AI om de handleidingen te schrijven (de "optimizer"). Ze vergeleken BONSAI met twee andere methoden, GEPA en SkillOpt, waarbij ze ervoor zorgden dat iedereen over dezelfde hoeveelheid rekenkracht beschikte (hetzelfde "budget").

De resultaten waren duidelijk:

Op SpreadsheetBench verbeterde BONSAI de nauwkeurigheid met 5,71 punten ten opzichte van de start-handleiding en versloeg het de beste concurrent (GEPA) met 2,14 punten.
Op SearchQA verbeterde het met 6,57 punten ten opzichte van de start-handleiding.
Op LiveMathematicianBench was het verschil enorm. BONSAI bereikte een nauwkeurigheid van 64,91%, terwijl de start-handleiding slechts op 28,23% zat en de concurrent GEPA op 56,14%.

De onderzoekers ontdekten dat wanneer ze het "evolvability"-kompas uitzetten en de AI simpelweg de hoogste score lieten najagen (zoals de oude methoden doen), de AI vroegtijdig vastliep op die "scherpe pieken" en stopte met verbeteren. BONSAI vond echter dieper in de zoektocht nog steeds betere oplossingen, omdat het wist welke paden veilig waren om te bewandelen.

De Conclusie

Het artikel suggereert dat om bevroren AI-agents slimmer te maken, we niet alleen moeten zoeken naar de hoogste score van dit moment. We moeten zoeken naar de meest veelbelovende buurt. Door een boomzoekmethode te gebruiken die stabiliteit en toekomstig potentieel (evolvability) waardeert boven onmiddellijke, fragiele winsten, vond BONSAI betere instructies voor de AI om te volgen. Het had niet nodig om het brein van de AI te hertrainen; het hoefde alleen maar een betere handleiding te schrijven, en dat deed het door te weten welke paden veilig waren om te bewandelen.

Technisch overzicht: BONSAI – Evolvability-Guided Tree Search over Skills

1. Probleemstelling

Het artikel behandelt de uitdaging van het optimaliseren van skills (vaardigheden) voor bevroren agenten (frozen agents). Een "skill" wordt gedefinieerd als een document in natuurlijke taal (dat fungeert als een handboek in plaats van een simpel prompt-sjabloon) dat een bevroren Large Language Model (LLM) aanstuurt waarvan de gewichten niet kunnen worden bijgewerkt. Omdat de agent niet kan leren van ervaring, moet elke ontbrekende capaciteit in de tekst van de skill worden gecodeerd.

De standaardaanpak voor skill-optimalisatie omvat een iteratieve lus: de skill aanpassen op basis van fouten van de agent, testen op uitgesloten taken, en aanpassingen behouden die de score verbeteren. De auteurs identificeren een kritiek blinde vlek in deze methode: een enkele validatiescore kan niet onderscheiden tussen een document dat rust op een breed plateau (robuust tegen verdere aanpassingen) en een document dat zich op een smalle piek bevindt (overfit en broos). Een document op een smalle piek kan een hoge score behalen, maar is een doodlopend spoor, omdat verdere aanpassingen de bestaande capaciteiten de neiging hebben te breken. Bestaande methoden missen een manier om de "evolvability" (evolueerbaarheid) van een skill-regio te meten—het vermogen om levensvatbare variaties te produceren onder mutatie—zonder extra computationele kosten te maken.

2. Methodologie: BONSAI

BONSAI (Bonsai Optimisation via Natural-language Search and Adaptive Iteration) herformuleert skill-optimalisatie als een Monte-Carlo Tree Search (MCTS) die wordt gestuurd door evolvability in plaats van alleen directe fitness.

Kerncomponenten

Modellen: Er worden twee bevroren modellen gebruikt.
- Performer: De bevroren agent (bijv. granite-4.1-30b) die taken uitvoert op basis van de skill.
- Optimizer: Een tweede bevroren model (bijv. DeepSeek-V3.2) dat de skill herschrijft op basis van de fouten van de performer.
Boomstructuur: Skills zijn georganiseerd in een boom waarbij de wortel een seed-document is. Elke rand (edge) vertegenwoordigt een mutatie (een reflectieve herschrijving) van het ouder-knooppunt. Deze structuur legt een nabijheidstopologie op de documentruimte op.

Kernmetrieken

Fitness ( $v(n)$ ): De validatiescore van het document op knooppunt $n$ .
Evolvability ( $Q(n)$ ): Gedefinieerd als de verwachte fitness van de mutatie-nabijheid van een skill. Het wordt geschat door de gemiddelde fitness van de lineage (stamboom) van het knooppunt (het knooppunt zelf plus al zijn afstammelingen).
$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$
waarbij $L(n)$ de lineage is en $m(n)$ het aantal gescoorde leden.
Brittleness ( $\sigma(n)$ ): Het verschil tussen de huidige fitness en de evolvability: $\sigma(n) = v(n) - Q(n)$ $σ (n) = v (n) - Q (n)$ .
- $\sigma > 0$ : Geeft een broze, overfit piek aan (de huidige score is hoger dan het gemiddelde van de nabijheid).
- $\sigma \le 0$ : Geeft een evolueerbare regio aan (de nabijheid houdt stand of verbetert de huidige score).

Zoekalgoritme

De zoektocht verloopt in iteraties met behulp van een Upper Confidence Bound (UCB) selectieregel:
$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$

Exploitatie: De term $\lambda(Q(s) - v(s))$ stuurt de zoektocht naar regio's met een hoge evolvability. Wanneer $\lambda=1$ , geeft de zoektocht prioriteit aan $Q(s)$ (evolvability) boven de ruwe fitness $v(s)$ .
Exploratie: De standaard UCB-term zorgt ervoor dat zwakke takken opnieuw worden bezocht.
Acceptatie: Een voorgestelde kind-node wordt alleen geaccepteerd als deze een kleine trainings-minibatch strikt verbetert (Eq. 4).
Backup: Geaccepteerde kinderen updaten de lineage-statistieken ( $N$ , $m$ , $W$ ). Afgewezen mutaties updaten alleen het bezoeknummer $N$ , wat voorkomt dat mislukte herschrijvingen de evolvability-schatting van een regio kunstmatig verlagen.
Widening: Knopen hebben een sublineaire capaciteit voor kinderen op basis van het aantal gescoorde monsters, wat ervoor zorgt dat de zoektocht diep blijft in plaats van breed.

Grafting (Optionele Operator)

Om capaciteitsfragmentatie over verschillende takken van de boom aan te pakken, bevat BONSAI een graft-operator (ent-operator). Als een knoop $A$ een capaciteit mist die een cross-lineage knoop $B$ bezit (bepaald door het vergelijken van per-taak scores op trainingsdata), wordt de optimizer gevraagd om $A$ te herschrijven om de techniek van $B$ te incorporeren. De donor $B$ dient als bewijs, niet als voorouder, en ontvangt geen updates voor het bezoeknummer.

Shipping

Bij het uitputten van het budget levert BONSAI het enkele document met de hoogste validatiescore ( $\arg\max v(n)$ ), niet het document met de hoogste evolvability. Dit zorgt ervoor dat de uiteindelijke output het best presterende document is dat is gevonden, terwijl evolvability uitsluitend dient als sturingsmechanisme voor het zoekbudget.

3. Belangrijkste Bijdragen

Evolvability als sturingsmetriek: De auteurs identificeren robuustheid onder mutatie (evolvability) als de cruciale eigenschap voor skill-optimalisatie, en onderscheiden dit van de huidige fitness.
Kostenvrije schatting: Ze stellen een methode voor om evolvability ( $Q$ ) te meten die geen extra modeloproepen vereist. Het hergebruikt fitness-scores die al betaald zijn tijdens de zoektocht om de kwaliteit van de mutatie-nabijheid te schatten.
Boomgebaseerd zoekframework: BONSAI zet een ongeordende verzameling kandidaten om in een gestructureerde zoekruimte waar nabijheidseigenschappen gemeten en geoptimaliseerd kunnen worden via MCTS.
Asymmetrische capaciteitsoverdracht: De introductie van de graft-operator maakt de overdracht van specifieke capaciteiten tussen lineages mogelijk zonder documenten samen te voegen, wat het probleem van divergerende skills aanpakt.

4. Experimentele Resultaten

Het framework werd geëvalueerd op drie benchmarks met een bevroren 30B performer en een DeepSeek-V3.2 optimizer.

SpreadsheetBench: BONSAI verbeterde de seed-document met 5,71 accuratesiepunten en presteerde 2,14 punten beter dan de budget-gematchte baseline GEPA. Met Grafting ingeschakeld, bereikte het 25,00% accuratesie.
SearchQA: BONSAI verbeterde ten opzichte van de seed met 6,57 punten en presteerde beter dan GEPA met 0,71 punten (79,00% vs 78,29%).
LiveMathematicianBench: BONSAI behaalde 64,91% accuratesie, waarmee het de seed (28,23%) met een grote marge versloeg en GEPA met 8,77 punten versloeg.
Vergelijking met SkillOpt: Over alle benchmarks presteerde BONSAI gemiddeld 3,97 punten beter dan de tweede baseline, SkillOpt. De auteurs schrijven het tekortschieten van SkillOpt toe aan de aggregatiefase, die edities comprimeert zonder de onderliggende trajecten te zien.
Ablatie (Evolvability vs. Greedy): Wanneer het selectiesignaal werd gewijzigd naar pure greedy fitness ( $\lambda=0$ ), daalde de prestatie aanzienlijk over alle benchmarks (bijv. -7,02 punten op LiveMathematicianBench), wat bevestigt dat sturing door evolvability de primaire drijfveer voor succes is.

5. Betekenis en Claims

Het artikel claimt dat BONSAI er succesvol in slaagt om het zoekbudget te sturen naar regio's in de skill-ruimte die blijven verbeteren, in plaats van vast te komen zitten op smalle, overfit pieken. Door evolvability te behandelen als een aparte eigenschap van fitness, vermijdt de methode de "blinde vlek" van standaard score-gebaseerde optimalisatie.

De auteurs benadrukken dat deze verbetering wordt bereikt zonder extra kosten bovenop de standaard accept-if-better loop, aangezien de evolvability-metriek wordt afgeleid van bestaande zoekdata. Het framework demonstreert dat voor bevroren agenten het "terrein" van de skill-ruimte (het vermogen om te evolueren) even belangrijk is als de huidige "hoogte" (score). De resultaten suggereren dat het organiseren van skill-optimalisatie als een boomzoektocht, gestuurd door mutatie-robuustheid, superieure generalisatie op uitgesloten taken oplevert vergeleken met bestaande reflectieve prompt-evolutie of trainbare-state benaderingen.