🤖 AI

MARS: Modular Agent with Reflective Search for Automated AI Research

MARS est un cadre novateur pour la recherche en IA autonome qui surmonte les goulots d'étranglement de l'ingénierie complexe du machine learning en intégrant une planification par recherche arborescente de Monte Carlo sensible aux budgets, un pipeline modulaire de conception-décomposition-implémentation et une mémoire réflexive comparative pour atteindre des performances de pointe sur MLE-Bench.

Auteurs originaux : Jiefeng Chen, Bhavana Dalvi Mishra, Jaehyun Nam, Rui Meng, Tomas Pfister, Jinsung Yoon

Publié 2026-05-21

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiefeng Chen, Bhavana Dalvi Mishra, Jaehyun Nam, Rui Meng, Tomas Pfister, Jinsung Yoon

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous tentiez de remporter une compétition de cuisine à enjeux élevés, mais avec une règle très stricte : vous n'avez que 24 heures pour cuisiner, et chaque minute passée à émincer des oignons vous coûte de l'argent.

La plupart des programmes informatiques tentant de résoudre ce problème sont comme des chefs amateurs qui se mettent à émincer tout en même temps. Ils écrivent une seule recette géante et désordonnée (un « script monolithique ») qui tente de tout faire d'un seul coup. S'ils brûlent la soupe, ils jettent toute la marmite et repartent de zéro. Ils ne se soucient pas du temps nécessaire pour faire bouillir l'eau ; ils veulent simplement que la soupe ait bon goût. Dans le monde réel de la recherche en intelligence artificielle, c'est une catastrophe, car entraîner des modèles d'IA revient à faire bouillir une énorme marmite de soupe : cela demande beaucoup de temps et d'électricité.

L'article présente MARS (Modular Agent with Reflective Search), qui est comme un Chef Étoilé avec une Équipe de Spécialistes et un Carnet de Notes Intelligent.

Voici comment MARS fonctionne, décomposé en trois parties simples :

1. La Recherche « Consciente du Budget » (Le Planificateur Intelligent)

Imaginez que vous jouez à un jeu de « Devinez la Meilleure Recette », mais avec un budget limité pour les ingrédients et le temps.

L'Ancienne Méthode : Vous essayez chaque recette à laquelle vous pouvez penser, même si l'une d'elles prend 10 heures à cuisiner. Si elle a un goût légèrement meilleur, vous la choisissez, même si vous n'avez plus le temps de cuisiner quoi que ce soit d'autre.
La Méthode MARS : MARS utilise une stratégie appelée MCTS Consciente du Budget. Imaginez cela comme un planificateur intelligent qui regarde l'horloge. Si la Recette A prend 1 heure et a un goût « correct », et que la Recette B prend 10 heures et a un goût légèrement meilleur, MARS choisit la Recette A. Il sait que gaspiller 9 heures pour une amélioration minime est une mauvaise affaire. Il demande constamment : « Cette amélioration vaut-elle le temps et l'argent supplémentaires ? »

2. Construction Modulaire (La Chaîne de Montage)

Au lieu d'écrire une seule recette géante de 50 pages, MARS décompose le processus de cuisson en plusieurs stations séparées et distinctes.

L'Ancienne Méthode : Un seul chef écrit un script unique et confus. Si la sauce est mauvaise, il doit réécrire tout le document de 50 pages pour le corriger.
La Méthode MARS : MARS utilise un pipeline « Conception-Décomposition-Implémentation ». Il assigne différents « agents » (chefs spécialistes) à des tâches spécifiques :
- Agent A gère les légumes (les données).
- Agent B gère les épices (l'architecture du modèle).
- Agent C gère la cuisson (l'entraînement).
  Si la sauce est trop salée, MARS ne modifie que les instructions de l'« Agent Épices ». Il ne touche ni aux légumes ni à la viande. Cela rend le code plus facile à corriger, plus facile à tester et beaucoup moins susceptible de faire planter l'ensemble du système.

3. Mémoire Réflexive Comparative (Le Carnet de Notes « Eureka ! »)

C'est la partie la plus magique. Dans une cuisine normale, si un plat échoue, vous dites peut-être simplement : « Ça n'a pas marché », et vous passez à autre chose.

L'Ancienne Méthode : Les agents d'IA oublient souvent pourquoi un plat a échoué. Ils peuvent reproduire la même erreur car ils n'ont pas appris la cause spécifique.
La Méthode MARS : MARS conserve une « Mémoire Réflexive Comparative ». Lorsqu'un nouveau plat s'avère meilleur que l'ancien, MARS ne se contente pas de dire « Bon travail ». Il agit comme un détective. Il compare la différence exacte entre l'ancienne recette et la nouvelle.
- Exemple : « Ah ! Le nouveau plat est meilleur parce que nous avons ajouté une pincée de sel et que nous l'avons cuit 2 minutes de plus. Le sel était la clé, pas le temps. »
- Il note cela comme une « Leçon ». Plus tard, s'il tente un tout autre plat, il peut dire : « Hé, j'ai appris que le sel aide avec ce type de problème », et appliquer cette leçon à une branche totalement différente de la recherche.
- L'article a révélé que 63 % des leçons utilisées par MARS provenaient de ces « transferts inter-branches » — ce qui signifie qu'il a appris à partir d'un type de problème et l'a appliqué avec succès à un autre. C'est le moment « Eureka ! ».

Le Résultat

Les chercheurs ont testé MARS sur MLE-Bench, qui est comme une grande compétition de cuisine difficile avec 75 défis différents (de l'analyse de texte à la reconnaissance d'images).

La Compétition : D'autres agents d'IA (comme AIDE ou AIRA) ont tenté de résoudre ces problèmes mais se sont souvent retrouvés bloqués, ont écrit du code désordonné ou ont gaspillé du temps sur des expériences coûteuses qui ne rapportaient rien.
Le Gagnant : MARS a remporté plus de médailles (Or, Argent, Bronze) que tout autre système open-source. Il n'a pas eu simplement de la chance ; il a été plus efficace. Il a trouvé de meilleures solutions plus rapidement en ne gaspillant pas de temps sur des expériences coûteuses et de faible valeur, et en apprenant de ses erreurs de manière structurée.

En résumé : MARS est un chercheur en IA qui ne se contente pas de « tenter des choses au hasard ». Il planifie soigneusement son temps, décompose les gros problèmes en petits morceaux gérables, et tient un carnet de notes détaillé sur exactement pourquoi les choses ont fonctionné ou échoué, lui permettant d'apprendre et de s'améliorer beaucoup plus vite que ses concurrents.

Résumé Technique : MARS (Agent Modulaire avec Recherche Réflexive) pour la Recherche Automatisée en IA

1. Énoncé du Problème

L'automatisation de la recherche en IA se heurte à un goulot d'étranglement critique dans l'exécution de tâches complexes d'ingénierie du Machine Learning (MLE). Contrairement au génie logiciel général, où la correction est souvent binaire et la vérification peu coûteuse en calcul, le MLE est une entreprise probabiliste et intensive en ressources. Il nécessite de naviguer dans un paysage défini par :

Évaluation Coûteuse en Calcul : L'entraînement des modèles et le traitement des données consomment d'énormes ressources, rendant l'« essai-erreur » coûteux.
Attribution Opaque de la Performance : Lorsqu'une expérience produit de meilleurs résultats, isoler les facteurs causaux spécifiques (attribution du crédit) est difficile.
Complexité Architecturale : Les dépôts de recherche nécessitent une interaction transparente entre le chargement des données, l'architecture du modèle et les boucles d'entraînement.

Les agents actuels basés sur les Grands Modèles de Langage (LLM) peinent dans ce domaine. Ils génèrent typiquement des scripts monolithiques qui ignorent les coûts d'exécution, manquent de la modularité requise pour un ingénierie rigoureuse, et échouent à apprendre efficacement des essais passés en raison de leur incapacité à résoudre le problème de l'attribution du crédit.

2. Méthodologie : Le Cadre MARS

MARS (Agent Modulaire avec Recherche Réflexive) reformule le processus de recherche comme une quête d'un dépôt de logiciel optimal. Il est construit sur trois piliers fondamentaux conçus pour répondre aux contraintes spécifiques de la découverte scientifique autonome :

A. Planification Consciente du Budget (MCTS Conscient des Ressources)

Pour répondre au coût élevé de l'évaluation, MARS emploie une Recherche Arborescente de Monte Carlo (MCTS) contrainte par les coûts. Contrairement aux algorithmes de recherche standard qui optimisent uniquement la performance de la tâche, MARS intègre une Fonction de Récompense Guidée par l'Efficacité directement dans l'arbre de recherche.

Mécanisme : La fonction de récompense $R(v)$ équilibre les gains de performance ( $G(v)$ ) avec la latence d'exécution ( $t(v)$ ), pénalisant les solutions qui dépassent les budgets de temps ou sont inefficaces en calcul.
Espace d'Action : L'arbre de recherche utilise trois opérateurs :
1. Ébauche : Génération d'une nouvelle solution à partir de zéro.
2. Amélioration : Modification des nœuds valides pour maximiser les objectifs.
3. Débogage : Résolution des erreurs d'exécution dans les nœuds échoués.
Résultat : Cela permet à l'agent de privilégier des solutions efficaces (par exemple, un entraînement d'une heure plutôt qu'un de quatre heures avec une performance comparable), optimisant ainsi le taux de découverte dans un budget fixe.

B. Construction Modulaire

MARS remplace le scripting fragile et monolithique par une architecture logicielle structurée au niveau du dépôt.

Pipeline : Il emploie un flux de travail « Concevoir-Décomposer-Implémenter » impliquant des agents spécialisés :
1. Génération d'Idées : Formule un plan complet en langage naturel.
2. Décomposition Modulaire : Analyse le plan en modules fonctionnels logiques et indépendants.
3. Implémentation des Composants : Implémente et valide séquentiellement les modules.
Raffinement par Diff : Les modifications de code sont structurées dans un format diff standardisé, permettant des mises à jour atomiques multi-fichiers. Cette approche contourne les limites de tokens, réduit le bruit contextuel, permet la mise en cache et la réutilisation du code, et améliore considérablement la testabilité en localisant le débogage à des fichiers spécifiques.

C. Mémoire Réflexive Comparative

Pour résoudre le problème de l'attribution du crédit, MARS introduit un mécanisme de Mémoire Réflexive Comparative qui extrait des insights causaux à fort signal du processus d'exploration.

Distillation de Leçons : Au lieu de simplement résumer les journaux, le système effectue une analyse comparative entre la solution actuelle et la meilleure solution connue. Il isole les changements algorithmiques spécifiques qui entraînent des variations de performance.
Types de Leçons :
- Leçons d'Amélioration de Solution : Dérivées de solutions valides, identifiant les changements causaux et les règles généralisées.
- Leçons de Débogage : Dérivées d'exécutions échouées, expliquant la logique de l'échec et fournissant des directives pour prévenir des erreurs similaires.
Utilisation : L'agent conserve les leçons les plus récentes en mémoire et les cite explicitement lorsqu'il les applique à de nouvelles solutions, facilitant le transfert d'insights entre différentes branches.

3. Contributions Clés

Introduction du Cadre : La proposition de MARS, un cadre explicitement optimisé pour la recherche autonome en IA en combinant une MCTS consciente du budget, un pipeline d'implémentation modulaire et une Mémoire Réflexive Comparative.
Performance de l'État de l'Art : Une évaluation approfondie sur le benchmark MLE-Bench démontre que MARS atteint des performances de l'état de l'art parmi les frameworks open-source dans des conditions comparables, restant compétitif face aux leaders des classements mondiaux.
Moments Qualitatifs « Eureka » : Le système présente des percées qualitatives où 63 % des leçons utilisées proviennent d'un transfert inter-branche, démontrant la capacité de l'agent à généraliser efficacement les insights à travers différents chemins de recherche.
Publication Ouverte : Les auteurs publient les invites, le code généré et les trajectoires pour faciliter les recherches futures.

4. Résultats Expérimentaux

L'évaluation a été menée sur MLE-Bench, comprenant 75 compétitions Kaggle exigeantes couvrant le NLP, la vision par ordinateur et les données tabulaires.

Métriques de Performance : MARS a obtenu le taux de Médaille d'Or le plus élevé (31,1 %) parmi tous les agents rapportés dans l'évaluation contrôlée.
Compétitivité :
- En utilisant Gemini-3-Pro-Preview, MARS a atteint un taux de Médaille quelconque de 56,0 % et un taux Au-dessus de la Médiane de 65,8 %.
- La variante mise à l'échelle, MARS+ (utilisant 2x GPU H100), a atteint un taux de Médaille quelconque de 62,7 % et un taux de Médaille d'Or de 33,8 %, surpassant de solides concurrents comme ML-Master 2.0.
Études d'Ablation :
- Décomposition Modulaire : Le retrait de ce composant a considérablement dégradé le succès, validant son rôle dans la réduction du bruit contextuel et l'amélioration de la testabilité.
- Mécanismes de Mémoire : Le retrait complet de la mémoire a causé une chute drastique des performances. La distillation comparative s'est révélée essentielle pour isoler les facteurs causaux par rapport à une simple analyse empirique.
- MCTS Consciente du Budget : La stratégie de recherche proposée a constamment surpassé la MCTS Vanilla et la Recherche Gloutonne, confirmant que la pénalisation du temps d'exécution améliore la découverte de solutions optimales.
Efficacité des Coûts : Une version de MARS de 4 heures a obtenu un taux de Médaille quelconque plus élevé (28,4 %) tout en dépensant considérablement moins (9,6 $) que les bases de référence de 24 heures, démontrant que les gains de performance proviennent de l'efficacité architecturale plutôt que d'une simple augmentation de l'allocation des ressources.

5. Signification et Revendications

L'article revendique que MARS répond aux limitations des agents autonomes actuels dans la recherche en IA à long terme en traitant la recherche comme un défi d'ingénierie rigoureux au niveau du dépôt. En intégrant une planification consciente des ressources, une construction modulaire et une mémoire réflexive comparative, MARS résout efficacement le problème de l'attribution du crédit tout en équilibrant l'exploration avec l'efficacité computationnelle.

Les auteurs affirment que cette approche structurée, qui imite la prévoyance stratégique des ingénieurs humains, permet des performances de l'état de l'art dans des tâches complexes d'ingénierie du Machine Learning. La capacité du système à éprouver des moments « Eureka » grâce au transfert de leçons inter-branche suggère une évolution vers des agents capables non seulement d'exécuter du code, mais aussi d'apprendre et de généraliser des insights scientifiques de manière autonome.

L'article reconnaît des limitations, notant que l'évaluation est actuellement restreinte à MLE-Bench et que le coût computationnel de la recherche itérative et de la distillation reste un obstacle. Un travail futur est proposé pour étendre le cadre à des domaines scientifiques plus larges et optimiser la viabilité économique grâce à une mise en cache contextuelle avancée et un arrêt anticipé.