Recursive Agentic Reasoning
Cet article introduit un cadre unifié de trois opérateurs de raisonnement récursifs (GROW, PRUNE et BRANCH) et démontre, à travers une évaluation approfondie, que le branchement répété surpasse systématiquement les autres méthodes de raisonnement au moment de l'inférence à travers divers modèles et benchmarks, tout en soulignant l'importance critique des protocoles d'évaluation appariés pour éviter des conclusions comparatives trompeuses.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Lorsqu'un programme informatique tente de résoudre un problème difficile, il produit souvent une seule ligne de pensée, une séquence de mots qui mène à une réponse. Pendant des années, les chercheurs se sont demandé si donner à ces programmes plus de temps et plus de tentatives les rendrait plus intelligents. Au lieu d'accepter cette première réponse, pourrait-on demander à l'ordinateur d'essayer à nouveau, de diviser le problème en morceaux plus petits, ou de générer plusieurs solutions différentes et de choisir la meilleure ? Cette question est au cœur de la recherche moderne en intelligence artificielle. Le domaine est actuellement rempli de nombreuses stratégies différentes pour utiliser la puissance de calcul supplémentaire afin d'améliorer le raisonnement. Certaines méthodes demandent au modèle de raffiner sa propre réponse, d'autres lui demandent de décomposer une tâche complexe en une série d'étapes plus simples, et d'autres encore lui demandent de générer de nombreuses tentatives indépendantes et de voter sur le résultat. Comme chacune de ces approches a été testée de manière isolée, avec différentes questions de test et différentes règles de notation, il a été impossible de savoir quelle stratégie fonctionne réellement le mieux lorsque le budget de calcul est identique.
Une équipe de chercheurs s'est donné pour mission de trancher ce débat en traitant ces différentes stratégies comme des variations d'un processus unique : la récursion, ou l'acte d'un système s'appelant lui-même pour résoudre un problème. Ils ont défini trois manières distinctes dont un ordinateur pourrait procéder. La première, qu'ils ont appelée « grow » (croître), consistait à prendre une seule ligne de raisonnement et à demander à l'ordinateur de l'étendre, en affinant le même chemin encore et encore. La deuxième, « prune » (élaguer), consistait à demander à l'ordinateur de diviser un problème difficile en une liste de questions plus petites et ordonnées, de les résoudre une par une, puis de recoudre les réponses entre elles. La troisième, « branch » (embrancher), consistait à demander à l'ordinateur de générer cinq solutions complètement différentes d'un coup et de sélectionner celle qui apparaît le plus souvent parmi elles. Pour garantir une comparaison équitable, les chercheurs ont testé ces trois méthodes, ainsi qu'une tentative standard en un seul passage, sur le même ensemble de problèmes en utilisant exactement les mêmes modèles informatiques. Ils ont testé ces méthodes à travers cinq types de défis différents, allant de puzzles logiques complexes à étapes multiples aux questions académiques de niveau master, en utilisant trois des modèles d'IA les plus avancés disponibles.
Les résultats de cette expérience contrôlée ont été clairs et quelque peu surprenants. La stratégie consistant à générer plusieurs solutions et à voter pour la meilleure, la méthode « branch », a amélioré la précision des réponses dans chaque cas de test qu'ils ont mené. En moyenne, cette méthode a augmenté le taux de bonnes réponses de près de six points de pourcentage par rapport à la tentative standard unique. En revanche, les deux autres méthodes étaient incohérentes. La méthode « grow », qui approfondit un seul chemin, a amélioré les performances dans la plupart des cas mais a rendu l'ordinateur moins performant pour résoudre certains types de questions difficiles. La méthode « prune », qui décompose les problèmes, n'a montré qu'une amélioration infime, souvent indiscernable d'un bruit aléatoire. Les données suggèrent qu'il n'est pas nécessaire d'avoir un système complexe pour décider quelle méthode utiliser pour quel problème ; la méthode qui consiste simplement à essayer plusieurs chemins et à choisir le vainqueur par consensus est le choix supérieur dans tous les cas.
Les chercheurs ont creusé davantage pour comprendre pourquoi cette méthode de vote fonctionnait si bien, et ils ont découvert que la raison n'était pas celle que la plupart des gens attendaient. La croyance commune est que générer plusieurs réponses aide l'ordinateur parce qu'il permet d'explorer de nombreux chemins logiques différents et de trouver le bon parmi eux. Cependant, les données ont montré que le principal avantage provenait d'une source différente : la récupération après un échec. Lorsque ces modèles informatiques avancés sont invités à réfléchir pendant longtemps, ils manquent souvent de l'espace mémoire qui leur est alloué avant de pouvoir terminer l'écriture de leur réponse. Dans une tentative unique, cela se traduit par une réponse vide, ce qui est compté comme une mauvaise réponse. Mais quand on demande à l'ordinateur d'essayer cinq fois, les probabilités que les cinq tentatives échouent exactement au même moment sont très faibles. Le système de vote écarte automatiquement les réponses vides et sélectionne une réponse valide parmi les tentatives réussies. Les chercheurs ont trouvé un lien étroit entre la fréquence à laquelle la méthode standard échouait à produire une réponse et l'ampleur de l'amélioration du score par la méthode de vote. Dans les tests les plus difficiles, la méthode de vote a réduit de moitié le taux de réponses vides ou d'échecs.
Cette découverte change notre façon de penser sur la manière de rendre l'intelligence artificielle plus intelligente. Elle suggère qu'une grande partie de l'avantage lié au fait de demander à un ordinateur d'essayer plusieurs fois est simplement qu'elle récupère des réponses qui seraient autrement perdues à cause de limites techniques. Les chercheurs ont également souligné une leçon critique pour les études futures : la manière dont on compte les résultats importe énormément. Dans leur analyse initiale, ils ont constaté que si l'on comptait les échecs de connexion réseau ou les dépassements de délai comme des mauvaises réponses, la méthode de vote semblait moins performante sur certaines tâches. C'était parce que la méthode de vote effectue plus de tentatives, elle a donc plus de chances de rencontrer un incident technique. En comparant strictement les méthodes uniquement sur les questions que toutes ont réussi à répondre, les chercheurs ont révélé la véritable performance. Leur travail démontre que, pour les modèles les plus capables disponibles aujourd'hui, la stratégie la plus simple consistant à essayer plusieurs fois et à choisir le consensus est le moyen le plus fiable d'obtenir de meilleures réponses, et que les gains proviennent largement du fait de s'assurer que l'ordinateur termine sa pensée plutôt que de trouver un chemin plus ingénieux vers la solution.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.