Résumé Technique : TCP-MCP

Énoncé du Problème

L'article identifie une limitation fondamentale dans la conception actuelle des Systèmes Multi-Agents (SMA) : l'isolation de l'ingénierie des prompts par rapport à l'optimisation de la topologie de communication. Les flux de travail existants traitent souvent les prompts des agents et les graphes de communication comme des objets de conception distincts. Cependant, les auteurs soutiennent que le comportement des agents dépend intrinsèquement des informations reçues (dictées par la topologie), tandis que l'utilité d'une arête de communication dépend de la manière dont l'agent récepteur interprète ces informations (dictée par son prompt). Ce couplage suggère que l'optimisation indépendante des prompts et des topologies conduit à des systèmes sous-optimaux, car un prompt efficace sous un motif de communication donné peut échouer sous un autre. Le défi central consiste à explorer un espace hybride de haute dimension combinant des décisions structurelles discrètes (topologie) et des choix sémantiques (prompts), sans convergence prématurée ni omission d'interactions critiques.

Méthodologie : TCP-MCP

Les auteurs proposent TCP-MCP (Prompting Couplé à la Topologie pour la Résolution Collaborative de Problèmes par Multi-Agents), un cadre de co-évolution guidé par le paysage qui traite les prompts et la topologie de communication comme un « génome » unifié.

1. Représentation Unifiée du Génome

Un SMA candidat est représenté comme un graphe orienté $G = (V, E)$ où les nœuds sont des agents spécifiques à un rôle. Le système est encodé comme un génome unifié $M = (G, P)$, où $P$ contient les affectations de prompts au niveau des nœuds. Crucialement, les modèles de prompts sont stockés indépendamment de la topologie mais sont instanciés au moment de l'exécution en fonction du contexte du voisinage entrant ($N^-(v_i; G)$). Cela permet au comportement d'un nœud de s'adapter à la structure du graphe même si son modèle stocké reste inchangé.

2. Optimisation Multi-Objectif

Le cadre optimise simultanément trois objectifs concurrents :

• Performance de la Tâche ($A(M)$) : Précision sur la tâche cible.
• Coût en Jetons ($C(M)$) : Minimisation de l'utilisation des jetons.
• Complexité Structurelle ($K(G)$) : Une fonction du nombre de nœuds et d'arêtes, pénalisée logarithmiquement pour empêcher la complexité de dominer le classement.

L'objectif est de trouver un ensemble de Pareto de solutions qui arbitrent entre ces objectifs.

3. Processus de Recherche Évolutionnaire

La recherche se déroule en trois étapes principales :

• Initialisation et Sondage du Paysage : Le cadre utilise l'Échantillonnage Hypercube Latin (LHS) pour générer une population initiale diversifiée. Il calcule un score de préférence scalaire et la Corrélation Distance-Fitness (FDC) lors de l'initialisation pour calibrer le comportement de recherche précoce, identifiant si les candidats à haute préférence sont regroupés près du meilleur actuel.
• Co-évolution (Variation) :
  • Croisement Structurel : Utilise l'Héritage Minimal de Prompt (PMI). Au lieu de mélanger les chaînes de prompts, l'opérateur recombinne des sous-graphes topologiques. Les nœuds receveurs conservent leurs prompts d'origine, tandis que les nœuds transplantés héritent des prompts des donneurs si disponibles, ou utilisent des valeurs par défaut légères. Cela préserve la stabilité des prompts tout en permettant la recombinaison structurelle.
  • Mutation : Comprend la Mutation de Topologie (ajout/suppression d'arêtes/nœuds), la Mutation de Rôle (changement des identités d'agents et régénération des prompts via un PromptMutator), et la Mutation Radicale (introduction de changements structurels majeurs comme des topologies en chaîne/arbre/étoile).
• Contrôle Adaptatif et Sélection :
  • Sélection Environnementale : Utilise le NSGA-II contraint avec élitisme. Un plancher de précision dynamique garantit que les candidats à faible coût ne sont pas sélectionnés si leur précision est trop faible.
  • Préservation de la Diversité : Emploie un nichage basé sur des bins pour le coût en jetons et la complexité structurelle afin d'éviter la surpopulation autour de points d'arbitrage spécifiques.
  • Réponse au Paysage : Au lieu de recalculer la FDC, le système surveille les diagnostics Pareto inter-générationnels (Hypervolume, espacement, écarts de frontière). Un indice de réponse dérivé de ces métriques pilote l'exploration adaptative, augmentant la pression de mutation et d'injection lorsque la frontière stagne ou que la diversité diminue.

Contributions Clés

1. Formulation du Problème : L'article formule la conception des SMA comme un problème de co-évolution simultanée sur un génome unifié, modélisant explicitement le couplage entre le comportement des prompts et la topologie de communication.
2. Cadre Pratique : TCP-MCP introduit un cadre de co-évolution informé par le paysage comprenant :
   • Une représentation unifiée du génome.
   • L'Héritage Minimal de Prompt (PMI) pour le croisement structurel.
   • Des mécanismes de contrôle adaptatif pilotés par des diagnostics de front de Pareto plutôt que par des calendriers statiques.
3. Validation Expérimentale : Les auteurs démontrent que l'évolution conjointe des prompts et de la topologie produit des résultats supérieurs par rapport aux bases de référence de génération automatique de graphes et des résultats compétitifs face à des systèmes de débat coûteux, tout en exposant des arbitrages Pareto clairs.

Résultats Expérimentaux

Le cadre a été évalué sur MMLU, MMLU-Pro et GSM8K en utilisant le socle DeepSeek-V3.2.

• Performance : TCP-MCP a atteint une précision de 89,96 % sur MMLU, 82,66 % sur MMLU-Pro et 96,61 % sur GSM8K.
• Comparaison :
  • Il a surpassé G-Designer (la base de référence de génération automatique de graphes la plus performante) sur les trois benchmarks.
  • Comparé à LLM-Debate, TCP-MCP a atteint une précision compétitive (légèrement inférieure sur MMLU/MMLU-Pro, légèrement supérieure sur GSM8K) tout en utilisant significativement moins de jetons (jusqu'à 5,69 fois moins sur MMLU-Pro).
  • Il a constamment surpassé les bases de référence à topologie fixe (Graphe Complet, Graphe Aléatoire) et les cadres de flux de travail généraux (AutoGen, ChatDev, MetaGPT).
• Résilience : Les structures évoluées ont montré une transférabilité entre les jeux de données (par exemple, de MMLU à MMLU-Pro) et les socles (de DeepSeek-V3.2 à GPT-4), conservant de fortes performances sans relancer la recherche.
• Études d'Ablation :
  • La suppression du croisement structurel a causé la plus grande baisse de performance, soulignant l'importance de recombiner les modules prompt-topologie.
  • La suppression de la mutation a réduit la performance et augmenté l'utilisation des jetons, indiquant que la mutation est nécessaire pour l'exploration au-delà de la recombinaison.
  • Une variante séquentielle (optimisation des prompts d'abord, puis de la topologie) a sous-performé l'approche de co-évolution simultanée, validant la nécessité d'une optimisation conjointe.

Importance et Revendications

L'article revendique que l'évolution conjointe des prompts et de la structure de communication offre une voie pratique vers la conception de systèmes multi-agents adaptés aux tâches et conscients des coûts. L'importance réside dans le passage de la construction des SMA d'un processus fragmenté (ingénierie de prompts et conception de topologie séparées) à un problème d'optimisation couplé au niveau du système.

Les auteurs soulignent que TCP-MCP ne se contente pas de trouver un seul système « meilleur », mais découvre un ensemble de Pareto de conceptions, permettant aux praticiens de sélectionner des points de fonctionnement basés sur des contraintes spécifiques concernant la précision, le coût et la complexité. Les résultats suggèrent que le « couplage » entre prompt et topologie est un facteur critique, souvent négligé, de la performance des SMA, et que les traiter comme un objet de recherche unifié produit des systèmes plus robustes et efficaces que les stratégies d'optimisation isolées.

Limitations notées par les auteurs :

• L'évaluation est restreinte à un socle fixe (DeepSeek-V3.2) et à des sous-ensembles de développement fixes.
• Les points de fonctionnement sélectionnés peuvent nécessiter plus de jetons que les bases de référence à coût absolu le plus bas, bien qu'ils offrent de meilleurs arbitrages précision-coût.
• Le travail actuel se concentre sur des topologies statiques sélectionnées avant l'évaluation, laissant la communication dynamique et l'adaptation à long horizon pour des travaux futurs.