Résumé Technique : Arbor – La recherche en arbre comme couche de cognition pour les agents autonomes

Énoncé du Problème

Les avancées récentes dans l'optimisation de code basée sur les modèles de langage étendu (LLM) ont démontré que les agents autonomes peuvent découvrir des solutions de haute qualité pour des cibles de calcul isolées (par exemple, des kernels uniques ou des opérateurs spécifiques). Cependant, la performance des logiciels de production découle de l'interaction complexe de multiples couches (application, framework, compilateur, kernel, matériel). L'optimisation d'une couche peut exposer des goulots d'étranglement ou des régressions dans une autre, créant un espace d'action état par état (stateful) et de grande dimension où les interventions peuvent invalider les progrès antérieurs.

Les approches existantes font face à trois limitations principales :

1. Portée isolée : Les auto-tuneurs de compilateurs et les frameworks multi-agents opèrent généralement au sein d'une seule couche ou sur une cible unique, échouant à traiter les dépendances inter-couches.
2. Absence de mémoire d'état : Les systèmes actuels ne maintiennent pas une mémoire de travail partagée qui évolue à chaque mesure, traitant les échecs simplement comme des signaux d'arrêt plutôt que comme des données diagnostiques.
3. Incapacité à gérer les défaillances en cascade : Lorsqu'une optimisation provoque un plantage du système ou une régression, les systèmes existants manquent de mécanismes pour diagnostiquer la cause racine, propager les contraintes vers la recherche et remodeler l'exploration ultérieure.

Le défi central passe de la génération de candidats à la sélection de candidats : naviguer dans un paysage dynamique où chaque intervention remodèle la distribution des goulots d'étranglement, nécessant un système capable de détecter les changements, de diagnostiquer les échecs à travers les couches et d'étendre la frontière de recherche de manière autonome.

Méthodologie : Le Framework Arbor

Arbor formule l'optimisation full-stack comme une recherche en arbre scorée par heuristique sur un espace d'action qui s'étend dynamiquement. Il introduit une couche de cognition qui maintient un arbre de recherche explicite servant de mémoire de travail partagée entre les agents.

1. Procédure de Recherche et Gestion d'État

• Structure de l'Arbre : L'état d'optimisation est un arbre $T = (V, E)$ dont la racine est un profil de référence (baseline). Chaque nœud représente une action et son résultat (conservé, annulé ou plantage). Le chemin de la racine au nœud définit la séquence cumulative des interventions.
• Expansion Dynamique : L'arbre n'est pas statique. Après une action réussie, le système effectue un nouveau profilage pour révéler des goulots d'étranglement auparavant invisibles, générant de nouvelles branches qui n'existaient pas à l'initialisation.
• Boucle de Recherche : L'Orchestrateur exécute une boucle en profondeur (depth-first) :
  1. Profiler l'état actuel pour identifier les goulots d'étranglement et les parts de temps GPU.
  2. Scorer les actions candidates à l'aide d'une fonction heuristique.
  3. Dépêcher l'action ayant le score le plus élevé à un Spécialiste de Domaine.
  4. Passer les résultats par une vérification de précision et un benchmarking de bout en bout.
  5. Mettre à jour l'arbre : les actions conservées deviennent la nouvelle référence ; les actions annulées enregistrent des annotations diagnostiques ; les plantages déclenchent une analyse de la cause racine (RCA).
  6. Recalculer le score des candidats restants à mesure que la distribution des goulots d'étranglement se déplace.

2. Scoring Heuristique

Les candidats sont scorés en équilibrant le gain attendu par rapport au coût et au risque, en incorporant un bonus d'exploration :
$$h(a) = \frac{g(a)}{c(a) \cdot (1 - r_{acc}) \cdot (1 - r_{crash}) \cdot m_{gap}} + C_s \frac{\ln N}{1 + n_{cat}}$$

• $g(a)$ : Gain attendu, estimé à partir de la part de temps GPU du kernel cible et des priors de vitesse spécifiques aux catégories (dérivés d'une base de connaissances persistante).
• $c(a)$ : Coût estimé en temps réel (implémentation, redémarrage, benchmarking).
• $r_{acc}, r_{crash}$ : Taux d'échec empiriques pour la précision et les plantages, affinés au fil de la campagne.
• $m_{gap}$ : Multiplicateur d'urgence proportionnel à l'écart restant par rapport à l'objectif de débit.
• Terme UCB : Encourage l'exploration de catégories d'actions sous-échantillonnées.

3. Architecture Multi-Agents avec Poids et Contrepoids

Arbor structure ses agents pour imiter les organisations d'ingénierie efficaces, décomposant les capacités en Compétences Techniques (expertise de domaine) et Compétences Relationnelles (protocoles de coordination).

• L'Orchestrateur (Le "Lead Technique") :

  • Dirige la boucle d'optimisation par le profilage, le scoring et la délégation.
  • Construit dynamiquement des Spécialistes de Domaine au moment de l'exécution pour des tâches spécifiques (kernel, framework, communication, compilateur, dispatch).
  • Compose les prompts en utilisant le contexte matériel, les entrées de la base de connaissances et l'historique des échecs.
  • N'implémente pas le code lui-même mais décide de ce qu'il faut essayer et de qui doit l'implémenter.

• Le Critique (L' "Assurance Qualité") :

  • Sécurise la stabilité et l'intégrité des mesures.
  • Effectue l'Analyse de la Cause Racine (RCA) sur les plantages, distinguant les erreurs d'implémentation des directions improductives.
  • Applique des Garde-fous pour détecter les anomalies de benchmark.
  • Mène l'Introspection pour évaluer si une idée annulée conserve un mérite sous des contraintes différentes.
  • Surveille la santé du système à long terme, publiant des contraintes pour éviter de revisiter des régions improductives.

• Les Spécialistes de Domaine :

  • Construits dynamiquement par tâche.
  • Opèrent de manière asynchrone à travers les couches, effectuant un raffinement itératif avec une validation locale avant de retourner des correctifs prêts à être fusionnés.
  • Respectent les contraintes publiées par le Critique.

• La Base de Connaissances Persistante :

  • Accumule les stratégies et les modes d'échec à travers les sessions.
  • Permet un transfert de démarrage à chaud (warm-start) vers de nouveaux modèles et matériels, informant les priors de scoring et réduisant la variance d'une exécution à l'autre.

Contributions Clés

1. Formulation de Recherche en Arbre État par État : Le papier formule l'optimisation inter-couches comme une recherche en arbre où l'arbre sert de mémoire de travail partagée. Les échecs se propagent sous forme de contraintes sur les nœuds enfants, et les succès déclenchent un nouveau profilage pour étendre la frontière de recherche.
2. Architecture Multi-Agents avec Poids et Contrepoids : Introduit un système à deux agents où un Orchestrateur dirige une optimisation agressive tandis qu'un Critique sauvegarde la stabilité. Aucun des deux agents ne peut piloter le système unilatéralement, garantissant que les sacrifices de débit à court terme ne sont faits que lorsque la viabilité de la session est en jeu.
3. Décomposition des Compétences : Décompose les capacités des agents en compétences techniques (expertise de domaine) et compétences relationnelles (protocoles de coordination), appuyées par une base de connaissances persistante pour le transfert inter-sessions.
4. Construction Dynamique de Spécialistes : S'éloigne des agents fixes en construisant des Spécialistes de Domaine dynamiquement au moment de l'exécution selon la cible d'optimisation spécifique, le contexte matériel et les données historiques.

Résultats

Arbor a été évalué sur l'inférence de modèles LLM sur six modèles de production sur des GPU AMD Instinct (MI355X et MI300X).

• Améliorations de Débit :
  • Sur MI355X, Arbor a atteint une amélioration de débit de +40% à +193% par rapport aux bases optimisées par le fournisseur après plusieurs jours de fonctionnement entièrement autonome.
  • Sur MI300X (validation inter-génération), les améliorations allaient de +62% à +99%.
• Reproductibilité : La variance d'une exécution à l'autre était de moins de 2 points de pourcentage, démontant une reproductibilité indépendante du matériel.
• Ablation/Comparaison : Un agent unique sans le harnais Arbor (le "harnais" étant le framework de recherche en arbre multi-agents) a plafonné à seulement +33% d'amélioration de débit et a planté de manière irrécupérable en quelques heures.
• Étude de Cas (gpt-oss-120b) : Dans un arbre de recherche spécifique pour un modèle MoE de 120B, le système a exploré 30 actions. 9 ont été conservées, 16 ont été annulées avec des insights diagnostiques, et 3 ont planté mais ont été récupérées via la RCA. Le système a atteint 6 515 tok/s/GPU (une amélioration de 48% par rapport à la base de 4 405 tok/s/GPU), utilisant des enseignements de l'introspection (ex: identification de chemins de code mort) et de la RCA (classification des plantages comme problèmes de dépendance plutôt que des défauts algorithmiques).

Signification et Revendications

Le papier affirme qu'Arbor représente un changement de paradigme, passant de la génération de candidats isolés à la navigation dans des espaces d'action étendus et état par état. En traitant les échecs comme des signaux diagnostiques qui remodèlent l'exploration et en maintenant une mémoire de travail partagée, Arbor permet des campagnes pleinement autonomes de plusieurs jours qui seraient autrement impossibles en raison de l'instabilité du système.

Le framework démontre que :

1. L'optimisation inter-couches est réalisable sans intervention humaine, à condition que le système puisse détecter les changements de goulots d'étranglement et diagnostiquer les échecs à travers la pile logicielle.
2. Les architectures de poids et contrepoids sont critiques pour une autonomie soutenue, empêchant l'exploration agressive de déstabiliser le système.
3. Le transfert de connaissances entre les sessions et les générations de matériel est réalisable grâce à la mémoire persistante, abaissant la barrière pour l'implémentation de nouveaux matériels ou modèles.

Enfin, Arbor vise à réduire le coût opérationnel et l'intensité carbone des déploiements de LLM en automatisant l'effort coordonné traditionnellement requis des équipes d'ingénierie sur l'ensemble de la pile logicielle et matérielle.