🤖 AI

LEVI: Stronger Search Architectures Can Substitute for Larger LLMs in Evolutionary Search

L'article présente LEVI, un cadre de recherche évolutionnaire open source qui exploite une diversité de solutions améliorée, un routage intelligent des mutations et des benchmarks proxy efficaces pour obtenir des résultats de pointe en recherche sur les systèmes et en optimisation de prompts à un coût de calcul nettement inférieur à celui des méthodes existantes reposant sur des LLM plus grands.

Auteurs originaux : Temoor Tanveer

Publié 2026-05-12

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Temoor Tanveer

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous cherchiez la recette absolument parfaite pour un plat complexe, comme un soufflé idéal. Autrefois, les chercheurs tentaient de résoudre ce problème en engageant un chef célèbre mondialement, ultra-coûteux (un modèle de langage « de pointe » ou « frontier ») pour goûter chaque variation et suggérer de minuscules ajustements. Bien que cela ait fonctionné, c'était incroyablement coûteux, comme payer un chef célèbre pour goûter une cuillerée de soupe à chaque fois que vous ajoutiez une pincée de sel.

L'article présente LEVI, une nouvelle approche qui soutient : « Vous n'avez pas besoin d'un chef célèbre à chaque étape si vous disposez d'un meilleur système d'organisation de cuisine. »

Voici comment fonctionne LEVI, décomposé en trois idées simples :

1. Le « Jardin de Graines Diverses » (Au lieu d'une seule graine)

L'Ancienne Méthode : La plupart des systèmes commencent avec une seule idée (une seule recette de base) et tentent de l'améliorer. Si cette unique idée est coincée dans un « mauvais quartier » (un piège local), le système gaspille beaucoup d'argent à essayer de s'en extirper, engageant souvent le chef célèbre coûteux pour forcer un changement.

La Méthode LEVI : LEVI commence par planter tout un jardin de graines très différentes dès le départ. Certaines pourraient être de terribles recettes, mais elles sont différentes les unes des autres.

L'Analogie : Imaginez que vous cherchez le meilleur chemin à travers une forêt. Au lieu de commencer à un seul endroit en espérant trouver la sortie, LEVI dépose 50 randonneurs différents dans 50 clairières distinctes immédiatement.
Le Bénéfice : Parce que le jardin est si diversifié, le système ne reste pas coincé. Il conserve une carte (appelée « archive CVT-MAP-Elites ») qui garantit que chaque nouvelle idée est placée dans un endroit unique, empêchant tout le groupe de se regrouper et de répéter les mêmes erreurs.

2. Le « Personnel de Cuisine Intelligent » (Petits vs Grands Chefs)

L'Ancienne Méthode : Chaque fois qu'un changement est nécessaire, le système fait appel au chef célèbre coûteux, même pour des tâches minuscules comme « remplacer le sucre par du miel » ou « ajouter une pincée de sel ». C'est comme engager un chef étoilé Michelin pour éplucher un oignon.

La Méthode LEVI : LEVI utilise un « Routeur Conscient du Rôle ». Il agit comme un gestionnaire de cuisine intelligent :

Les Petits Chefs (Modèles Bon Marché) : Pour 90 % du travail — ajuster les ingrédients, corriger de petites erreurs ou apporter des modifications mineures — LEVI utilise un cuisinier local rapide et peu coûteux (un modèle d'IA plus petit). Ils excellent dans les tâches routinières.
Le Chef Célèbre (Modèle Coûteux) : Le chef coûteux n'est appelé que rarement, peut-être une fois tous les 10 pas, pour un « Changement de Paradigme ». C'est à ce moment que le gestionnaire demande au chef célèbre : « Regardez toutes ces différentes recettes que nous avons. Pouvez-vous inventer un tout nouveau style de cuisine que aucun d'entre nous n'a encore imaginé ? »
Le Bénéfice : Vous obtenez la créativité du grand chef sans payer pour qu'il épluche les légumes.

3. L'« Échantillon de Dégustation » (Benchmarks Proxy)

L'Ancienne Méthode : Pour vérifier si une nouvelle recette est bonne, certains systèmes la font goûter à chaque client d'une ville (des milliers de personnes). Cela prend une éternité et coûte une fortune.

La Méthode LEVI : LEVI réalise que pour savoir si une recette s'améliore, vous n'avez pas besoin de demander à tout le monde. Vous avez juste besoin d'un petit groupe de dégustateurs soigneusement sélectionnés qui représentent toute la ville.

L'Analogie : Au lieu de demander à 1 000 personnes si la soupe est bonne, LEVI choisit un groupe « proxy » de 30 personnes. Si la soupe a bon goût pour ce groupe spécifique, elle sera probablement bonne pour tout le monde.
Le Bénéfice : Cela réduit de moitié ou plus le nombre de « dégustations » (évaluations), économisant d'énormes quantités de temps et d'argent tout en trouvant toujours la meilleure recette.

Les Résultats : Faire Plus avec Moins

L'article a testé LEVI sur des problèmes du monde réel, comme l'optimisation du code informatique pour les centres de données et l'amélioration de la façon dont l'IA répond aux questions.

Le Coût : LEVI a obtenu les mêmes résultats (ou de meilleurs) que d'autres systèmes tout en dépensant 3 à 6 fois moins d'argent. Dans un cas spécifique, il a égalé les meilleurs résultats à 35 fois moins de coût.
La Vitesse : Parce qu'il utilise une meilleure « organisation de cuisine », LEVI a trouvé les meilleures solutions beaucoup plus rapidement, atteignant souvent les meilleurs scores dès les premières dizaines d'essais, tandis que d'autres systèmes luttaient encore après des centaines d'essais.

L'Essentiel

Le pari principal de l'article est que la meilleure organisation bat les plus grands cerveaux. En construisant un système plus intelligent qui gère la diversité, utilise l'outil approprié pour chaque tâche et teste efficacement, vous pouvez résoudre des problèmes difficiles sans avoir besoin des modèles d'IA les plus coûteux disponibles. Il s'agit de travailler plus intelligemment, pas simplement de dépenser plus.

Résumé technique : LEVI – Des architectures de recherche plus puissantes peuvent remplacer les grands modèles de langage dans la recherche évolutionnaire

1. Énoncé du problème

Les méthodes évolutionnaires guidées par les grands modèles de langage (LLM) (par exemple, AlphaEvolve, FunSearch) ont démontré leur efficacité dans des domaines tels que la découverte mathématique, l'optimisation de code et l'ingénierie de prompts. Cependant, ces cadres reposent actuellement fortement sur des grands modèles de langage (LLM) de pointe coûteux pour chaque étape de mutation et d'évaluation. Cette dépendance crée une barrière à l'entrée élevée, les exécutions individuelles coûtant jusqu'à 30 $ et nécessitant des milliers d'appels à des modèles tels que Claude Opus ou Gemini Pro.

Les auteurs soutiennent que ce coût n'est pas une exigence inhérente à l'évolution guidée par les LLM, mais plutôt un artefact d'architectures de recherche inefficaces. Les cadres existants échouent souvent à préserver la diversité des solutions, contraignant à recourir à des modèles plus grands pour échapper aux optima locaux. Ils traitent également toutes les mutations de manière uniforme, dépensant des budgets de modèles de pointe pour des modifications locales que des modèles plus petits pourraient gérer, et gaspillent des ressources sur des évaluations redondantes dans des contextes lourds en simulations (rollouts).

2. Méthodologie : Le cadre LEVI

LEVI (Cadre évolutionnaire « Harness-First ») est conçu pour découpler la performance de la recherche de l'échelle du modèle en optimisant trois axes de coûts spécifiques : la base de données de solutions, le routage des mutations et la stratégie d'évaluation.

2.1. Base de données de solutions : CVT-MAP-Elites avec amorçage

LEVI remplace les archives standard par une archive CVT-MAP-Elites (Centroidal Voronoi Tessellation MAP-Elites).

Préservation de la diversité : Contrairement aux MAP-Elites à grille régulière, CVT-MAP-Elites s'adapte élégamment aux espaces de descripteurs de haute dimension sans croissance exponentielle des cellules. Il mappe les candidats vers des cellules comportementales basées sur un tuple de descripteurs côté entrée (par exemple, des caractéristiques AST comme la complexité cyclomatique) et côté sortie (par exemple, des profils d'exécution).
Initialisation amorcée : Au lieu de démarrer à partir d'une seule graine, LEVI effectue un « passage de graine » préalable où un LLM génère une séquence de solutions structurellement diverses. Ces graines, même si elles ont de faibles scores, sont utilisées pour calibrer les bornes descriptives de l'archive (via une normalisation z-score et des transformations sigmoïdes) et peupler les cellules initiales.
Dimensions comportementales : L'archive maintient la diversité en s'assurant que des identités algorithmiques distinctes occupent des cellules différentes, empêchant la recherche de s'effondrer dans un seul bassin d'attraction.

2.2. Routage des mutations conscient du rôle

LEVI introduit un routeur qui assigne les tâches de mutation aux modèles en fonction du « rôle » spécifique de la mutation, plutôt que d'utiliser un seul grand modèle pour toutes les étapes.

Voie de raffinement (~90 % des appels) : Les modifications locales (ajustement de constantes, échange de structures de données) sont acheminées vers des modèles plus petits et moins chers (par exemple, Qwen3-30B-A3B). La diversité robuste de l'archive absorbe le bruit et la redondance typiques des modèles plus petits, empêchant la dérive de l'archive.
Voie de changement de paradigme (~10 % des appels) : Périodiquement, ou en cas de stagnation, un modèle plus grand (par exemple, Gemini Flash 3) est déclenché. Au lieu de muter un seul parent, le grand modèle reçoit des représentants de cellules d'archive distinctes et bien séparées, et a pour tâche de proposer un candidat appartenant à une nouvelle famille algorithmique. Cela vise des réécritures structurelles plutôt que des raffinements locaux.

2.3. Sélection de benchmark proxy

Pour les contextes où l'évaluation est dominée par les simulations (rollouts) (par exemple, l'optimisation de prompts), LEVI construit un benchmark proxy ( $D_{proxy}$ ) à partir de l'ensemble de validation complet.

Préservation du classement : Le proxy est sélectionné par sélection avant greedy pour maximiser la corrélation entre le classement des candidats sur l'ensemble proxy et l'ensemble complet.
Fonction objectif : La sélection optimise la fidélité du classement (accord dans l'ordre des candidats), la séparation (pouvoir discriminatif des exemples) et la minimisation de la redondance. Cela permet à la boucle évolutionnaire de fonctionner avec significativement moins de simulations par itération tout en maintenant le signal de sélection requis pour l'évolution.

3. Contributions clés

Efficacité architecturale : LEVI démontre que l'investissement dans l'architecture de recherche (maintien de la diversité, routage conscient du rôle et sélection de proxy) peut remplacer ou surpasser l'utilisation de grands modèles de langage plus volumineux.
Réduction des coûts : Le cadre atteint des résultats de pointe ou compétitifs à une fraction du coût des références existantes utilisant des modèles de pointe.
Implémentation open-source : LEVI est publié sous forme de cadre open-source, fournissant un cadre reproductible pour la recherche évolutionnaire « harness-first ».

4. Résultats expérimentaux

Les auteurs ont évalué LEVI sur sept benchmarks de recherche systèmes et quatre benchmarks d'optimisation de prompts.

4.1. Benchmarks de recherche systèmes

Performance vs Coût : Sur six des sept problèmes (Cloudcast, EPLB, LLM-SQL, Prism, Txn Sched, Spot-M, Spot-S), LEVI a obtenu les meilleurs scores en utilisant un budget 3,3 à 6,7 fois plus petit que les exécutions de modèles de pointe publiées pour des cadres tels que GEPA, OpenEvolve, ShinkaEvolve et AdaEvolve.
Gains spécifiques : Sur le problème LLM-SQL, LEVI a surpassé le cadre leader en n'utilisant que 0,50 $, soit une réduction des coûts de 35 fois.
Efficacité des échantillons : Dans des comparaisons contrôlées utilisant le même modèle (Qwen3-30B-A3B) et le même budget, LEVI a atteint une haute performance 15 fois plus vite (en termes d'évaluations) que les références, continuant à s'améliorer là où les autres stagnaient.

4.2. Optimisation de prompts

Efficacité des simulations : Sur quatre benchmarks (HotpotQA, IFBench, Hover, PUPA), LEVI a égalé ou dépassé la performance de GEPA tout en utilisant moins de la moitié du budget de simulations (2 191 contre 4 985 simulations au total).
Efficacité du proxy : La sélection de benchmark proxy a réussi à préserver le signal de classement, permettant à la boucle évolutionnaire de converger avec moins d'évaluations sur l'ensemble complet.

4.3. Études d'ablation

Amorçage : Le retrait de l'initialisation amorcée a causé des baisses de performance significatives (par exemple, une baisse de 5 points sur Spot Scheduling), confirmant la nécessité d'une diversité précoce.
Dimensions de diversité : Des descripteurs plus riches étaient critiques pour les problèmes nécessitant plusieurs familles algorithmiques (Spot Scheduling) mais moins critiques pour les problèmes dominés par une seule famille (Transaction Scheduling).
Routage des modèles : La voie « Changement de paradigme » était décisive pour les problèmes nécessitant des sauts structurels (EPLB), où le retrait des grands modèles provoquait une stagnation. À l'inverse, pour les tâches lourdes en raffinement local (Transaction Scheduling), la voie des grands modèles était parfois une surcharge.

5. Signification et revendications

L'article affirme que le coût élevé de la recherche évolutionnaire guidée par les LLM est largement un problème d'ingénierie soluble plutôt qu'une limitation fondamentale du paradigme. En déplaçant l'accent des « modèles plus grands » vers des « architectures de recherche plus puissantes », LEVI abaisse la barrière à l'entrée pour la découverte évolutionnaire.

Les auteurs positionnent LEVI comme une preuve de concept selon laquelle des architectures de recherche plus puissantes peuvent remplacer les grands modèles de langage. Ils notent que si leur approche réduit les coûts financiers en déplaçant le travail vers des modèles moins chers et des architectures plus solides, elle peut nécessiter plus d'évaluations, un compromis favorable lorsque les évaluations sont peu coûteuses (par exemple, l'exécution de code) mais moins lorsqu'elles sont coûteuses (par exemple, l'entraînement de modèles). Le travail suggère une orientation future où la recherche évolutionnaire repose entièrement sur des modèles open-weight peu coûteux, à condition que le cadre de recherche soit suffisamment robuste.