Résumé Technique : AgentFugue

Énoncé du Problème

Les avancées récentes dans les tâches agentic à long horizon ont principalement reposé sur le « passage à l'échelle vers le haut » (scaling up) — l'amélioration d'agents individuels grâce à des modèles de base plus puissants, une meilleure intégration d'outils et un étayage plus efficace. Bien que cette approche étende les capacités d'une seule trajectoire, elle n'augmente pas intrinsèquement la largeur de l'exploration.

L'article aborde la question du « passage à l'échelle vers le large » (scaling out) : plusieurs agents pairs travaillant sur la même tâche peuvent-ils collectivement améliorer les capacités sans dépendre d'une spécialisation de rôle explicite, d'une orchestration de flux de travail ou d'une planification centralisée ? Le défi central réside dans la communication : sans elle, les agents opèrent comme des recherches isolées ; avec une communication non restreinte, les signaux utiles sont souvent noyés dans le bruit, et la diversité de l'exploration s'effondre. Les auteurs soutiennent qu'un passage à l'échelle vers le large efficace nécessite un mécanisme de raisonnement collectif où les agents pairs peuvent échanger sélectivement les progrès intermédiaires tout en maintenant des directions de recherche distinctes.

Méthodologie : AgentFugue

Les auteurs proposent AgentFugue, un cadre de raisonnement collectif construit autour d'un hub de raisonnement partagé. Contrairement aux planificateurs centralisés ou aux systèmes multi-agents de style débat, AgentFugue traite les agents comme des pairs explorant la même tâche en parallèle, le hub agissant comme une couche de communication externe plutôt que comme un contrôleur.

Architecture Principale

1. Hub de Raisonnement Partagé ($H$) : Une couche de communication plug-in qui s'installe aux côtés des agents pairs. Elle ne remplace pas le raisonnement local mais rend les découvertes intermédiaires d'une trajectoire sélectivement disponibles pour les autres.
2. Épisodes : Les trajectoires locales des agents sont divisées en segments contigus appelés « épisodes » basés sur un budget de contexte fixe.
3. Opérations du Hub en Deux Étapes :
   • Écriture d'Épisode ($M_{write}$) : Lorsque le contexte d'un agent atteint un budget d'écriture, le hub compresse le segment terminé en une note d'épisode ($z_{i,e}$) concise. Cette note capture ce qui a été établi, tenté, écarté, et quelles preuves ont été collectées. Le contenu brut de l'épisode est stocké dans le hub, tandis que le contexte de travail de l'agent est évacué et remplacé par la note pour libérer de la capacité.
   • Lecture Pilotée par l'Intention ($M_{read}$) : Les agents ne reçoivent pas passivement toutes les notes. Au lieu de cela, un agent émet une requête structurée contenant une intention ($q_{i,t}$) et un ensemble de références d'épisodes ($E_{i,t}$) basées sur les notes visibles dans son contexte actuel. Le hub récupère le contenu brut complet des épisodes référencés et synthétise une pièce d'orientation ou de preuve ciblée ($r_{i,t}$) adaptée au besoin actuel de l'agent.

Optimisation

Le hub est instancié à l'aide d'un modèle de langage de taille modérée (initialisé à partir de Qwen3.5-9B) et optimisé en deux étapes :

1. Affinement Supervisé (SFT) : Le hub apprend à générer des notes de référence et des lectures basées sur des données générées par un enseignant.
2. Optimisation de Politique Relative par Groupe (GRPO) : Le hub est davantage aligné avec la réussite des tâches en aval via l'apprentissage par renforcement au sein de la boucle multi-agent complète. Les agents de tâche sont figés ; la pression GRPO optimise la couche de communication elle-même, récompensant les sorties du hub qui conduisent à des chemins de recherche plus courts et réussis.

Paramètres de Passage à l'Échelle

Le cadre est évalué dans deux configurations :

• Équipes Homogènes : Plusieurs agents partagent le même modèle de base et la même configuration, testant les gains purement issus de l'interaction inter-trajectoire.
• Équipes Hétérogènes : Les agents diffèrent par leurs modèles de base ou leurs configurations, testant si le hub peut médier des biais de raisonnement complémentaires et des modes d'échec.

Contributions Clés

1. Identification du Passage à l'Échelle des Agents Pairs : L'article identifie un cadre distinct pour le raisonnement à long horizon où la capacité doit émerger de la réutilisation inter-trajectoire plutôt que de la spécialisation de rôle.
2. Cadre AgentFugue : Un cadre de communication basé sur l'écriture, la récupération et la lecture d'épisodes de raisonnement partagés. Il transforme les trajectoires parallèles en une écologie de raisonnement partagée sélectivement sans planification centralisée, s'inspirant de la structure d'une fugue baroque où des voix distinctes développent les progrès les unes des autres.
3. Analyse Empirique : Une étude complète du cadre dans les équipes homogènes et hétérogènes, analysant quand le passage à l'échelle vers le large améliore l'efficacité par agent, quand il génère des gains au niveau de l'équipe, et où le mécanisme échoue.

Résultats Expérimentaux

Les auteurs ont évalué AgentFugue sur trois benchmarks exigeants à long horizon : BrowseComp (recherche web profonde multi-sauts), WideSearch (collecte de preuves orientée largeur) et HLE (raisonnement multi-domaine rédigé par des experts).

• Performance : AgentFugue a obtenu des résultats de pointe sur tous les benchmarks et configurations de modèles de base (Qwen3.5-35B-A3B et DeepSeek-v4-Flash), surpassant de fortes références incluant ReAct en agent unique, les systèmes DeepResearch et d'autres approches multi-agents (Naive-Multi-Agent, Swarm-Multi-Agent).
• Comportement de Passage à l'Échelle :
  • Dans les équipes homogènes, la précision par agent s'est améliorée de manière significative à mesure que la taille de l'équipe augmentait de $N=1$ à $N=5$, après quoi elle a atteint un plateau. Cependant, l'agrégation au niveau de l'équipe (Pass@N) a continué de s'améliorer avec des équipes plus grandes.
  • Dans les équipes hétérogènes, les modèles plus faibles ont bénéficié le plus du hub, tandis que les modèles plus forts ont également vu des gains. Les équipes hétérogènes ont déclenché une utilisation plus élevée du hub (trafic mémoire) par rapport aux équipes homogènes, indiquant que des modèles de base diversifiés produisent des notes intermédiaires qui sont véritablement nouvelles pour les pairs.
• Efficacité : Le hub a réussi à échanger l'exploration isolée contre une coordination partagée. À mesure que la taille de l'équipe augmentait, les appels de recherche et de visite par agent ont diminué, tandis que le trafic mémoire augmentait, indiquant un passage d'une exploration redondante à une réutilisation structurée de l'information.

Importance et Revendications

L'article revendique que le raisonnement collectif peut transformer le passage à l'échelle des systèmes d'agents pairs en une source distincte de gains de capacité, plutôt que simplement une méthode de dépense de plus de puissance de calcul.

• Distinct des Paradigmes Existants : Contrairement au débat multi-agent ou au chat de groupe, AgentFugue n'impose pas un tour de parole synchronisé. Contrairement à l'échantillonnage « meilleur de N », les trajectoires s'influencent mutuellement pendant l'exploration via des progrès intermédiaires réutilisables. Contrairement au RAG sur des corpus statiques, le chemin de lecture est piloté par l'intention et synthétise le contenu brut à la demande.
• Généralisation : Les améliorations ont été cohérentes à travers des tâches axées sur la récupération, centrées sur le raisonnement et orientées vers la largeur, suggérant que le hub de raisonnement partagé est un primitif de coordination générique.
• Limites : Les auteurs notent que l'implémentation actuelle utilise un hub de taille modérée et un ensemble limité de modèles de base. Ils reconnaissent également des modes d'échec où des notes de faible qualité ou des conclusions intermédiaires trop confiantes peuvent propager des hypothèses trompeuses à travers l'équipe, réduisant potentiellement la diversité.

Les auteurs concluent que si le défi reste de rendre cette communication suffisamment sélective pour préserver la diversité tout en étant suffisamment fiable pour empêcher la propagation d'erreurs, AgentFugue démontre que le passage à l'échelle des agents pairs est un axe viable et efficace pour améliorer le raisonnement agentic à long horizon.