🤖 AI

BONSAI: Evolvability-Guided Tree Search over Skills

BONSAI est un nouveau cadre d'optimisation de compétences pour les agents gelés qui emploie une recherche arborescente de Monte Carlo guidée par l'évolutivité afin de distinguer les pics de surapprentissage des plateaux améliorables, surpassant de manière significative les références existantes en précision sur données non vues.

Auteurs originaux : Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Publié 2026-08-10

📖 7 min de lecture🧠 Analyse approfondie

CC0 1.0

Auteurs originaux : Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

Article original placé dans le domaine public sous CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot super intelligent comment effectuer une tâche complexe, comme réparer un tableur ou résoudre un problème de mathématiques difficile. Le hic ? Le robot est « gelé ». Son cerveau est verrouillé en place ; vous ne pouvez pas le réentraîner, modifier ses neurones ou le laisser apprendre de ses erreurs comme le ferait un étudiant humain. La seule façon de l'améliorer est de lui écrire un ensemble d'instructions — une « compétence » — en langage clair. Considérez cette compétence non pas comme une simple commande, mais comme un manuel de terrain détaillé qui lui dit exactement quels outils saisir, quels pièges éviter et comment vérifier son travail avant de rendre la réponse.

La grande question que les scientifiques se posent est la suivante : comment écrire le manuel parfait ? Si vous essayez simplement quelques changements, que vous les testez et que vous gardez ceux qui fonctionnent, vous risquez de rester bloqué. C'est comme faire de la randonnée sur une montagne où la carte n'indique que votre altitude actuelle. Vous pourriez atteindre un petit sommet acéré qui semble haut, mais qui est si étroit que le pas suivant vous fait tomber droit dans un précipice. Ou bien, vous pourriez être sur un large plateau doux où chaque pas en avant mène à un terrain encore plus élevé, mais vous ne pouvez pas faire la différence simplement en regardant votre hauteur actuelle. Ce document présente une nouvelle façon de naviguer dans ce paysage, en utilisant un concept emprunté à la biologie appelé « évoluabilité » — la capacité d'un chemin à continuer de produire des résultats satisfaisants même lorsque vous faites un faux pas.

Le Problème : Le Piège du « Pic Acéré »

Les chercheurs d'IBM Research ont remarqué une faille dans la manière dont nous améliorons habituellement ces manuels d'IA. La méthode standard est simple : prendre un manuel, demander à l'IA de le réécrire, tester la nouvelle version, et si le score augmente, on le garde. S'il baisse, on le jette.

Le problème est que cette méthode est « aveugle ». Elle ne regarde que le score du manuel actuel. Elle ne peut pas faire la différence entre un manuel situé sur un large plateau (une zone sûre et stable où de petits changements mènent généralement à de meilleurs résultats) et un manuel perché sur un pic étroit et surajusté (un sommet fragile où le score est élevé, mais où tout changement infime provoque un effondrement du score). Si vous êtes sur un pic, l'édition suivante pourrait corriger une petite erreur mais en briser dix autres qui fonctionnaient parfaitement. La méthode standard continue de marcher dans le vide car elle ne voit que le score élevé, pas le danger.

La Solution : BONSAI et la Boussole de l'« Évoluabilité »

Pour corriger cela, l'équipe a créé un nouveau cadre appelé BONSAI. Au lieu de regarder simplement si un manuel est bon en ce moment, BONSAI demande : « À quel point le voisinage autour de ce manuel est-il bon ? »

Ils utilisent une métaphore intelligente tirée de la nature : l'Évoluabilité. En biologie, une espèce n'est pas seulement jugée sur sa capacité à survivre aujourd'hui, mais sur sa capacité à continuer de produire des descendants utiles dans le futur. Une espèce sur un « large plateau » peut muter et survivre malgré tout ; une espèce sur un « pic acéré » disparaît si elle change ne serait-ce qu'un peu.

BONSAI traite la recherche du manuel parfait comme la croissance d'un arbre.

L'Arbre : Il commence avec un manuel « graine ».
Les Branches : Chaque fois que l'IA essaie de réécrire le manuel, elle fait pousser une nouvelle branche (un nœud enfant).
La Boussole : Pour décider quelle branche explorer ensuite, BONSAI ne choisit pas simplement la branche avec le score le plus élevé. Il choisit la branche qui semble avoir le meilleur futur. Il calcule un score appelé Évoluabilité, qui est essentiellement la moyenne des scores de tous les petits changements (mutations) apportés à ce manuel.

Si un manuel est sur un « pic », ses voisins auront des scores terribles, et le score d'évoluabilité sera bas. BONSAI l'évite. Si un manuel est sur un « plateau », ses voisins auront également de bons scores, et le score d'évoluabilité sera élevé. BONSAI plonge profondément dans ces zones sûres et productives.

Comment ça marche : L'astuce de la « Greffe »

Les chercheurs ont ajouté une fonctionnalité spéciale appelée GRAFT. Imaginez que vous avez deux branches d'un arbre : une branche a appris à gérer des « problèmes de mathématiques », et une autre branche a appris à gérer des « feuilles de calcul ». Elles sont sur des chemins différents et ne se parlent jamais.

Habituellement, l'IA ne peut pas combiner ces compétences car elle ne regarde qu'un seul manuel à la fois. Mais GRAFT permet à l'IA de jeter un coup d'œil à la branche « mathématiques », de voir une astuce qui fonctionne, et de copier cette astuce dans le manuel de la « feuille de calcul ». C'est comme un jardinier qui prend une branche forte d'un arbre et la greffe sur un autre pour lui donner de nouveaux pouvoirs. Cela se produit sans briser la structure de l'arbre, permettant à l'IA de mélanger et assortir les meilleures idées de différentes parties de sa recherche.

Les Résultats : Grimper plus haut

L'équipe a testé BONSAI sur trois défis différents :

SpreadsheetBench : Réparer des fichiers Excel.
SearchQA : Répondre à des questions de quiz en utilisant des résultats de recherche.
LiveMathematicianBench : Résoudre des problèmes de mathématiques.

Ils ont utilisé un agent d'IA de 30 milliards de paramètres gelé (le « performeur ») et une IA distincte pour écrire les manuels (l'« optimiseur »). Ils ont comparé BONSAI à deux autres méthodes, GEPA et SkillOpt, en veillant à ce que tout le monde utilise la même puissance de calcul (le même « budget »).

Les résultats étaient clairs :

Sur SpreadsheetBench, BONSAI a amélioré la précision de 5,71 points par rapport au manuel de départ et a battu le meilleur concurrent (GEPA) de 2,14 points.
Sur SearchQA, il s'est amélioré de 6,57 points par rapport au manuel de départ.
Sur LiveMathematicianBench, l'écart était énorme. BONSAI a atteint 64,91 % de précision, alors que le manuel de départ n'était qu'à 28,23 %, et le concurrent GEPA était à 56,14 %.

Les chercheurs ont constaté que lorsqu'ils désactivaient la boussole d'« évoluabilité » pour laisser l'IA poursuivre avidement le score le plus élevé (comme les anciennes méthodes), l'IA restait coincée sur ces « pics acérés » très tôt et cessait de s'améliorer. BONSAI, cependant, continuait de trouver de meilleures solutions plus profondément dans la recherche car il savait quels chemins étaient sûrs à explorer.

Ce qu'il faut retenir

Ce document suggère que pour rendre les agents d'IA gelés plus intelligents, nous ne devrions pas seulement chercher le score le plus élevé immédiatement. Nous devrions chercher le voisinage le plus prometteur. En utilisant une méthode de recherche en arbre qui valorise la stabilité et le potentiel futur (l'évoluabilité) plutôt que les victoires immédiates et fragiles, BONSAI a trouvé de meilleures instructions à suivre pour l'IA. Il n'avait pas besoin de réentraîner le cerveau de l'IA ; il avait juste besoin d'écrire un meilleur manuel de terrain, et il l'a fait en sachant quels chemins étaient sûrs à parcourir.

Résumé Technique : BONSAI – Recherche en Arbre Guidée par l'Évoluabilité sur les Compétences (Skills)

1. Énoncé du Problème

L'article traite du défi de l'optimisation des compétences (skills) pour des agents gelés (frozen agents). Une « compétence » est définie comme un document en langage naturel (agissant comme un manuel de terrain plutôt que comme un simple modèle de prompt) qui guide un Grand Modèle de Langage (LLM) gelé dont les poids ne peuvent pas être mis à jour. Puisque l'agent ne peut pas apprendre de l'expérience, toute capacité manquante doit être encodée dans le texte de la compétence.

L'approche standard de l'optimisation des compétences consiste en une boucle itérative : modifier la compétence en fonction des échecs de l'agent, tester sur des tâches non vues, et conserver les modifications qui améliorent le score. Les auteurs identent un angle mort critique dans cette méthode : un score de validation unique ne peut pas distinguer un document reposant sur un plateau large (robuste aux modifications ultérieures) d'un document perché sur un pic étroit (sur-ajusté et fragile). Un document sur un pic étroit peut obtenir un score élevé, mais constitue une impasse, car les modifications ultérieures ont tendance à briser les capacités existantes. Les méthodes existantes manquent d'un moyen de mesurer l'« évoluabilité » d'une région de compétence — la capacité à produire des variations viables sous mutation — sans engendrer de coûts de calcul supplémentaires.

2. Méthodologie : BONSAI

BONSAI (Bonsai Optimisation via Natural-language Search and Adaptive Iteration) reformule l'optimisation des compétences comme une recherche arborescente de Monte-Carlo (MCTS) guidée par l'évoluabilité plutôt que par la simple fitness immédiate.

Composants Clés

Modèles : Deux modèles gelés sont utilisés.
- Performer (Exécutant) : L'agent gelé (ex: granite-4.1-30b) qui exécute les tâches basées sur la compétence.
- Optimizer (Optimiseur) : Un second modèle gelé (ex: DeepSeek-V3.2) qui réécrit la compétence en fonction des échecs du performer.
Structure de l'Arbre : Les compétences sont organisées en un arbre dont la racine est un document initial (seed). Chaque arête représente une mutation (une réécriture réflexive) du nœud parent. Cette structure impose une topologie de voisinage au espace documentaire.

Métriques Clés

Fitness ( $v(n)$ ) : Le score de validation du document au nœud $n$ .
Évoluabilité ( $Q(n)$ ) : Définie comme la fitness attendue du voisinage mutationnel d'une compétence. Elle est estimée par la fitness moyenne de la lignée du nœud (le nœud lui-même plus tous ses descendants).
$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$
où $L(n)$ est la lignée et $m(n)$ est le nombre de membres évalués.
Fragilité ( $\sigma(n)$ ) : L'écart entre la fitness actuelle et l'évoluabilité : $\sigma(n) = v(n) - Q(n)$ $σ (n) = v (n) - Q (n)$ .
- $\sigma > 0$ : Indique un pic fragile et sur-ajusté (le score actuel est supérieur à la moyenne du voisinage).
- $\sigma \le 0$ : Indique une région évolutive (le voisinage maintient ou améliore le score actuel).

Algorithme de Recherche

La recherche procède par itérations en utilisant une règle de sélection par Borne Supérieure de Confiance (UCB) :
$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$

Exploitation : Le terme $\lambda(Q(s) - v(s))$ oriente la recherche vers des régions à haute évoluabilité. Lorsque $\lambda=1$ , la recherche privilégie $Q(s)$ (l'évoluabilité) par rapport à la fitness brute $v(s)$ .
Exploration : Le terme UCB standard garantit que les branches faibles soient revisitées.
Acceptation : Un enfant proposé n'est accepté que s'il améliore strictement un petit mini-batch d'entraînement (Éq. 4).
Retour en arrière (Backup) : Les enfants acceptés mettent à jour les statistiques de lignée ( $N$ , $m$ , $W$ ). Les mutations rejetées ne mettent à jour que le compte de visites $N$ , empêchant les réécritures ratées de diminuer artificiellement l'estimation de l'évoluabilité d'une région.
Élargissement (Widening) : Les nœuds ont une capacité sous-linéaire d'enfants basée sur le nombre d'échantillons évalués, garantissant que la recherche reste profonde plutôt que large.

Greffage (Opérateur Optionnel)

Pour traiter la fragmentation des capacités entre les différentes branches de l'arbre, BONSAI inclut un opérateur de greffage (graft). Si un nœud $A$ manque d'une capacité qu'un nœud $B$ d'une autre lignée possède (déterminé par la comparaison des scores par tâche sur les données d'entraînement), l'optimiseur est chargé de réécrire $A$ pour incorporer la technique de $B$ . Le donneur $B$ sert de preuve, non d'ancêtre, et ne reçoit aucune mise à jour de visite.

Livraison (Shipping)

Une fois le budget épuisé, BONSAI livre le document unique ayant le score de validation le plus élevé ( $\arg\max v(n)$ ), et non celui ayant la plus haute évoluabilité. Cela garantit que le résultat final est le meilleur document performant trouvé, l'évoluabilité servant uniquement de mécanisme de pilotage pour le budget de recherche.

3. Contributions Clés

L'Évoluabilité comme Métrique de Pilotage : Les auteurs identifient la robustesse sous mutation (évoluabilité) comme la propriété critique pour l'optimisation des compétences, la distinguant de la fitness présente.
Estimation sans Coût Supplémentaire : Ils proposent une méthode pour mesurer l'évoluabilité ( $Q$ ) qui n'entraîne aucun appel de modèle supplémentaire : elle réutilise les scores de fitness déjà payés lors de la recherche pour estimer la qualité du voisinage mutationnel.
Cadre de Recherche par Arbre : BONSAI convertit une collection non ordonnée de candidats en un espace de recherche structuré où les propriétés de voisinage peuvent être mesurées et optimisées via MCTS.
Transfert de Capacité Asymétrique : L'introduction de l'opérateur de greffage permet le transfert de capacités spécifiques entre lignées sans fusionner les documents, traitant ainsi le problème de la divergence des compétences.

4. Résultats Expérimentaux

Le cadre a été évalué sur trois benchmarks en utilisant un performer gelé de 30B et un optimiseur DeepSeek-V3.2.

SpreadsheetBench : BONSAI a amélioré la précision du document initial de 5,71 points et a surpassé la baseline GEPA (à budget égal) de 2,14 points. Avec le greffage activé, il a atteint 25,00 % de précision.
SearchQA : BONSAI a progressé de 6,57 points par rapport au document initial et a surpassé GEPA de 0,71 point (79,00 % contre 78,29 %).
LiveMathematicianBench : BONSAI a atteint 64,91 % de précision, surpassant le document initial (28,23 %) de manière significative et battant GEPA de 8,77 points.
Comparaison avec SkillOpt : Sur tous les benchmarks, BONSAI a surpassé la seconde baseline, SkillOpt, de 3,97 points en moyenne. Les auteurs attribuent la faiblesse de SkillOpt à son étape d'agrégation, qui compresse les éditions sans voir les trajectoires sous-jacentes.
Ablation (Évoluabilité vs Greedy) : Lorsque le signal de sélection était une pure fitness gourmande ( $\lambda=0$ ), la performance a chuté de manière significative sur tous les benchmarks (ex: -7,02 points sur LiveMathematicianBench), confirmant que le pilotage par l'évoluabilité est le principal moteur de succès.

5. Signification et Revendications

L'article affirme que BONSAI parvient à diriger le budget de recherche vers des régions de l'espace des compétences qui continuent de produire des améliorations, plutôt que de rester piégé sur des pics étroits et sur-ajustés. En traitant l'évoluabilité comme une propriété distincte de la fitness, la méthode évite le « angle mort » de l'optimisation standard basée sur le score.

Les auteurs soulignent que cette amélioration est obtenue sans coût supplémentaire par rapport à la boucle standard « accept-if-better », car la métrique d'évoluabilité est dérivée des données de recherche existantes. Le cadre démontre que pour les agents gelés, le « terrain » de l'espace des compétences (sa capacité à évoluer) est aussi important que l'« élévation » actuelle (le score). Les résultats suggèrent que l'organisation de l'optimisation des compétences sous forme de recherche en arbre guidée par la robustesse mutationnelle produit une meilleure généralisation sur les tâches non vues par rapport aux approches existantes de l'évolution de prompt réflexive ou des états entraînables.