Imaginez un monde où les programmes informatiques ne se contentent pas de suivre un manuel d'instructions rigide écrit par un humain, mais peuvent réellement apprendre de leurs erreurs et réécrire leurs propres règles pour s'améliorer. C'est le rêve des « agents auto-évolutifs ». Imaginez un personnage de jeu vidéo qui, après avoir perdu un combat de boss, ne se contente pas de recommencer ; il fait une pause, cherche à comprendre pourquoi il a perdu, modifie son propre guide de stratégie, et réessaie. Pendant longtemps, les scientifiques ont cru que pour que cela fonctionne, un humain devait construire une recette très spécifique et étape par étape à suivre par l'ordinateur. Cette recette était comme un entraîneur strict dictant au joueur exactement quand regarder le tableau des scores, quand changer d'arme et quand arrêter de s'entraîner. Mais à mesure que les ordinateurs sont devenus plus intelligents — devenant des « modèles frontières » capables de raisonnements complexes — les chercheurs ont commencé à se demander : avons-nous encore besoin de cet entraîneur strict ? Ou l'ordinateur peut-il définir sa propre routine d'entraînement si nous lui donnons simplement un objectif et un budget ?

Cet article, intitulé « Rethinking Self-Evolving Agents » (Repenser les agents auto-évolutifs), plonge directement dans cette question. Les chercheurs, Hui Xue et Fan Yang de Microsoft Research, ont mis en place une expérience fascinante pour voir si une IA super intelligente peut organiser son propre processus d'apprentissage sans un script préécrit. Ils ont comparé l'ancienne méthode, où le cadre (l'« entraîneur ») dicte chaque étape du processus d'amélioration, contre une nouvelle méthode appelée « Optimisation à issue ouverte » (OEO - Open-Ended Optimization). Dans l'OEO, l'IA reçoit un objectif clair, une liste de mouvements autorisés et une limite sur la quantité d'« énergie » (ou de tokens) qu'elle peut dépenser, mais elle décide elle-même de comment utiliser cette énergie pour s'améliorer. C'est comme donner à un chef une liste d'ingrédients et un temps imparti, mais le laisser décider s'il va cuisiner un gâteau ou faire un sauté, plutôt que de le forcer à suivre une recette spécifique.

Les résultats étaient étonnamment clairs. En utilisant une IA de haut niveau (GPT-5.5) comme « chef », l'approche à issue ouverte était tout aussi bonne, et souvent bien meilleure, que les recettes strictes et préécrites. En fait, sur 14 tests différents, l'IA à issue ouverte a gagné 12 fois, a fait une égalité une fois, et n'a perdu qu'une seule fois par une marge infime (0,21 point de pourcentage). Plus impressionnant encore, elle a accompli cela en utilisant seulement environ 34,3 % du budget d'« énergie » requis par la méthode stricte. Il s'avère que si l'IA est assez intelligente, elle n'a pas besoin d'un entraîneur pour lui dire comment s'entraîner ; elle peut trouver de elle-même la meilleure façon d'apprendre à la volée.

Cependant, l'article trace une ligne très importante dans le sable. Cette liberté ne fonctionne que si l'IA est véritablement capable. Lorsque les chercheurs ont testé le système avec une IA de niveau « moyen » ou « faible », l'approche à issue ouverte a échoué. Les IA plus faibles se sont confondues, n'ont pas réussi à déterminer quoi faire ensuite et ont produit des résultats erronés. Dans ces cas, la recette stricte et préécrite (l'« entraîneur ») était essentielle pour maintenir la progression. L'étude suggère que les règles strictes ne sont pas toujours nécessaires, mais qu'elles agissent comme un échafaudage utile pour les cerveaux moins capables. Le point clé n'est pas que nous devions abandonner toutes les règles, mais que nous devions laisser les IA les plus intelligentes piloter leur propre apprentissage, tout en gardant les petites roues de soutien pour celles qui apprennent encore à marcher.

La découverte fondamentale : Qui doit conduire le bus ?

La principale conclusion de cet article est que pour les modèles d'IA hautement capables, le « pipeline d'optimisation prescrit » — ce plan rigide et étape par étape que les humains écrivaient autrefois pour l'ordinateur — n'est plus une condition nécessaire au succès. Par le passé, des systèmes comme SKILLOPT (qui utilise un pipeline d'entraînement par étapes successives) et GEPA (qui utilise une recherche évolutive réflexive) étaient la référence. Ils fonctionnaient comme une chaîne de montage d'usine : le cadre décidait exactement comment recueillir des preuves, comment éditer le code et quand s'arrêter.

Les chercheurs ont introduit l'Optimisation à issue ouverte (OEO) pour tester si l'IA pouvait prendre le volant. Dans l'OEO, le cadre fixe toujours les règles de la route (l'objectif, le budget et les données autorisées), mais l'IA décide de l'itinéraire. Elle peut choisir de recueillir des preuves, de réécrire ses propres instructions ou de s'arrêter dès qu'elle pense avoir terminé.

Lorsqu'ils ont opposé l'OEO piloté par GPT-5.5 aux méthodes strictes, les résultats ont été frappants. Dans 8 configurations de benchmarks différentes, l'OEO a battu ou égalé la méthode stricte SKILLOPT dans chaque cas. Contre la méthode GEPA, l'OEO a gagné 5 fois sur 6, la seule défaite étant d'un minuscule 0,21 point de pourcentage. La partie la plus excitante est peut-être l'efficacité : l'OEO a utilisé une médiane de seulement 34,3 % du budget de tokens configuré pour SKILLOPT. Cela signifie que l'IA ne s'est pas seulement améliorée ; elle s'est améliorée en utilisant moins de la moitié du « carburant » de l'ancienne méthode.

Éliminer l'option de la « facilité »

Avant de célébrer, les chercheurs ont dû s s'assurer qu'ils n'étaient pas trompés. Ils se sont demandé : « L'IA a-t-elle juste eu de la chance parce qu'elle connaissait déjà la réponse ? » ou « A-t-elle simplement réécrit le code une seule fois et s'est-elle arrêtée là ? ».

Pour tester cela, ils ont lancé un contrôle de « zéro interaction ». Ils ont donné à l'IA la compétence initiale et lui ont demandé de la réécrire une seule fois sans aucun cycle de pratique ou de rétroaction. Les résultats ont montré que cette réécriture en « un coup » (one-shot) n'était pas suffisante. Sur certaines tâches, la réécriture en un coup a même rendu l'IA moins performante. Sur d'autres, elle a amélioré le score, mais restait nettement en retrait par rapport au système OEO (par exemple, sur la tâche LiveMath, la réécriture en un coup était à plus de 30 points de pourcentage derrière l'OEO interactif). Cela prouve que les gains ne provenaient pas de la connaissance préexistante de l'IA seule ; ils provenaient de la boucle interactive où l'IA pouvait apprendre, s'adapter et affiner sa stratégie au fil du temps.

La limite de capacité : Quand avons-nous besoin d'un coach ?

L'article a également découvert une limite cruciale à cette liberté. L'approche « à issue ouverte » n'est pas une solution miracle qui fonctionne pour toutes les IA. Les chercheurs ont testé le système avec des optimiseurs de niveau « moyen » et « faible » (des modèles moins capables).

Ici, la situation s'est inversée. Lorsque l'optimiseur n'était que de capacité « moyenne », le pipeline strict de SKILLOPT a en réalité mieux performé que l'OEO. Lorsque l'optimiseur était « faible », le système OEO s'est complètement effondré ; l'IA faible n'a même pas pu produire une action valide via l'interface ouverte, et aucun progrès n'a été réalisé. En revanche, le pipeline strict a permis de maintenir l'IA faible en mouvement, même si ce n'était pas le moyen le plus efficace.

Cela suggère que le pipeline strict et préécrit agit comme un « échafaudage ». Pour une IA de génie, l'échafaudage est inutile et peut même être un obstacle. Mais pour un apprenant qui cherche encore ses marques, cet échafaudage est essentiel pour éviter de tomber dans le précipice.

Le chemin vs La destination

Enfin, les chercheurs ont regardé sous le capot pour voir comment l'IA apprenait. Ils ont comparé le « voyage » (les modifications et changements spécifiques effectués par l'IA) avec la « destination » (le score de performance final).

Ils ont découvert que les deux méthodes empruntaient des chemins très différents. Le système OEO a effectué des changements plus importants et plus audacieux, et a réécrit son propre historique plus souvent que le système strict SKILLOPT. Cependant, malgré ces itinéraires radicalement différents, ils ont souvent résolu les mêmes problèmes. Dans de nombreux cas, les compétences finales produites par les deux méthodes étaient correctes sur le même ensemble de questions de test, même si le texte des compétences différait grandement.

Cela nous indique qu'il n'y a pas qu'une seule « bonne » façon de résoudre un problème. Le pipeline strict force l'IA sur un chemin étroit et sûr, tandis que l'approche à issue ouverte lui permet d'explorer un paysage plus large et plus chaotique. Les deux peuvent mener à la même destination, mais l'approche à issue ouverte y parvient avec plus de flexibilité et moins de carburant, à condition que le conducteur soit assez qualifié pour gérer la route ouverte.

L'essentiel

L'article conclut que nous devons repenser la façon dont nous construisons les agents auto-évolutifs. Nous n'avons pas besoin de forcer chaque IA dans une boîte rigide et préécrite. Au lieu de cela, nous devrions adopter une approche « adaptative à la capacité ». Si l'IA est assez intelligente (un modèle « frontière »), nous pouvons lui remettre les clés et la laisser composer son propre processus d'apprentissage en ligne. Nous devons simplement maintenir les garde-fous en place : les objectifs, le budget et les règles d'engagement. Mais pour les modèles moins capables, le coaching strict et traditionnel reste la meilleure façon de garantir qu'ils apprennent efficacement. C'est un passage du « taille unique » au « bon outil pour le bon cerveau ».