💬 NLP

CANTANTE: Optimizing Agentic Systems via Contrastive Credit Attribution

CANTANTE est un nouveau cadre qui optimise les systèmes multi-agents basés sur les LLM en résolvant le problème de l'attribution du crédit par une attribution contrastive des récompenses au niveau du système aux agents individuels, atteignant des performances de pointe en matière d'optimisation des invites sur divers benchmarks tout en réduisant les coûts d'inférence.

Auteurs originaux : Tom Zehle

Publié 2026-05-14

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Tom Zehle

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez une équipe de trois experts travaillant ensemble pour résoudre un puzzle difficile : un Planificateur qui trace les étapes, un Codeur qui écrit la solution, et un Validateur qui vérifie si cela fonctionne. C'est ce que l'article appelle un « Système Multi-Agents ».

Le problème identifié par les auteurs, dirigés par Tom Zehle, est le suivant : lorsque l'équipe échoue, vous obtenez une seule note pour le groupe entier (par exemple, « Vous avez eu un C »). Mais vous ne savez pas qui a fait une erreur. Le Planificateur a-t-il donné de mauvaises instructions ? Le Codeur a-t-il fait une faute de frappe ? Ou le Validateur a-t-il manqué une erreur ?

Dans l'apprentissage automatique traditionnel, toute l'équipe reçoit la même note, et tout le monde tente de modifier son comportement en fonction de cette seule évaluation. C'est comme si un entraîneur disait à une équipe de football : « Vous avez perdu le match », puis demandait au gardien de but, à l'attaquant et à l'arbitre de tous modifier leurs stratégies en se basant sur cette seule phrase. C'est inefficace et confus.

La Solution : CANTANTE

Les auteurs présentent un nouveau cadre appelé CANTANTE. Imaginez CANTANTE comme un Analyste Sportif surdoué qui observe l'équipe jouer le même match plusieurs fois avec des stratégies légèrement différentes, puis décompose exactement qui a contribué à la victoire ou à la défaite.

Voici comment cela fonctionne, en utilisant une analogie simple :

1. Le Jeu du « Et Si » (Attribution Contrastive)

Au lieu de simplement noter l'équipe une fois, CANTANTE fait passer l'équipe à travers le même puzzle trois ou quatre fois de suite.

Exécution A : Le Planificateur utilise un ton strict, le Codeur utilise un style rapide.
Exécution B : Le Planificateur utilise un ton amical, le Codeur utilise le même style rapide.
Exécution C : Le Planificateur utilise un ton strict, le Codeur utilise un style lent.

Après avoir effectué ces exécutions, l'équipe obtient une note pour chaque essai. Maintenant, l'Attributeur (l'Analyste) intervient. Il examine les différences :

« Dans les exécutions A et B, le Codeur était le même, mais le Planificateur a changé. La note a augmenté. Donc, le nouveau ton du Planificateur était utile ! »
« Dans les exécutions A et C, le Planificateur était le même, mais le Codeur a changé. La note a diminué. Donc, le nouveau style du Codeur était nuisible. »

Ceci est appelé Attribution Contrastive. Elle isole la contribution de chaque personne en les comparant les unes aux autres, plutôt que de simplement regarder la note finale.

2. Le « Score de Crédit » pour chaque Agent

Une fois que l'Analyste a déterminé qui a aidé et qui a nui à l'équipe, il attribue à chaque agent un Score de Crédit spécifique (allant de -1 à +1).

Si le Planificateur obtient un +0,8, le système sait qu'il doit ajuster les instructions du Planificateur pour les rendre plus proches de cette version réussie.
Si le Codeur obtient un -0,5, le système sait qu'il doit orienter le Codeur loin de ce style spécifique.

Crucialement, l'article affirme que cela est meilleur que de simplement copier la note globale. Dans l'ancienne méthode, si l'équipe échouait, le Planificateur pouvait être blâmé même s'il avait fait un excellent travail et que le Codeur était le problème. CANTANTE corrige cela en disant : « Le Planificateur a bien travaillé ; le Codeur doit changer. »

3. Les Résultats : Des Équipes Plus Intelligentes, Moins de Gaspillage

Les auteurs ont testé cela sur trois types de « puzzles » très différents :

Codage (MBPP) : Écrire des programmes informatiques.
Mathématiques (GSM8K) : Résoudre des problèmes de mots.
Recherche (HotpotQA) : Répondre à des questions complexes nécessitant de consulter des informations à plusieurs endroits.

Les Constats :

Meilleures Notes : CANTANTE a systématiquement surpassé les autres méthodes. Sur la tâche de codage, il a amélioré la précision de près de 19 % par rapport à la deuxième meilleure méthode. Sur la tâche de mathématiques, l'amélioration a été de 12,5 %.
Moins Coûteux à Exécuter : Étonnamment, les équipes optimisées par CANTANTE n'avaient pas besoin de « réfléchir » plus longtemps ni d'utiliser plus de puissance informatique pour obtenir la bonne réponse. En fait, sur les tâches de codage et de mathématiques, elles ont utilisé moins de ressources (tokens) que les équipes non optimisées.
Stabilité : La méthode ne s'est pas contentée d'avoir de la chance une fois ; elle a fonctionné de manière cohérente à travers différents points de départ aléatoires.

Pourquoi Cela Compte (Selon l'Article)

L'article soutient que la création de ces équipes d'IA ne devrait pas être un jeu de « devinez et vérifiez » où des humains ajustent manuellement les invites. Au lieu de cela, cela devrait être une science de l'Attribution de Crédit.

Tout comme un entraîneur ne crie pas sur toute l'équipe lorsqu'un joueur manque un tir, CANTANTE garantit que le système d'IA apprend exactement quelle partie de l'équipe doit s'améliorer. Il transforme la « boîte noire » d'un système multi-agents en une machine transparente où chaque agent sait exactement comment s'améliorer.

En bref : CANTANTE est une méthode qui permet aux équipes d'IA d'apprendre de leurs erreurs en demandant : « Qui spécifiquement a causé ce résultat ? » plutôt que de simplement dire : « Nous avons échoué, essayez plus fort ». Cela conduit à des systèmes d'IA plus intelligents, plus efficaces et plus précis.

Résumé Technique : CANTANTE

Énoncé du Problème

Les systèmes multi-agents (SMA) basés sur les modèles de langage à grande échelle (LLM) ont démontré de solides performances dans des tâches complexes telles que l'ingénierie logicielle, la modélisation prédictive et la génération augmentée par récupération. Cependant, l'automatisation de leur configuration demeure un défi structurel. Bien que des scores d'évaluation au niveau du système (par exemple, précision, récompense) soient disponibles, les paramètres régissant le comportement individuel des agents (tels que les invites) sont locaux. Cela crée un décalage dans l'« attribution de crédit » : l'optimisation du système nécessite de convertir un signal scalaire global en signaux de mise à jour spécifiques pour chaque agent.

Les approches existantes propagent souvent les scores globaux directement aux agents individuels ou mettent à jour les agents de manière séquentielle (par exemple, en mode tour par tour), échouant à décomposer efficacement le signal de récompense. Cela se traduit par une optimisation inefficace où les agents peuvent recevoir des signaux de mise à jour incorrects (par exemple, un planificateur pénalisé pour une erreur d'un codeur) ou où l'espace de recherche devient ingérable en raison du caractère combinatoire des configurations conjointes.

Méthodologie : CANTANTE

Les auteurs introduisent CANTANTE (Attribution Contrastive pour le Réglage des Systèmes Multi-Agents), un cadre qui formalise l'optimisation des SMA comme un problème d'attribution de crédit. Le mécanisme central est l'attribution contrastive intra-groupe, qui décompose les récompenses au niveau du système en signaux de mise à jour par agent.

Mécanisme Central

Échantillonnage de Configuration Conjointe : À chaque itération, des optimiseurs locaux proposent $K$ paramétrisations candidates (par exemple, des invites) pour chacun des $N$ agents. Ceux-ci sont assemblés en $K$ configurations conjointes.
Déroulement et Évaluation : Chaque configuration conjointe est exécutée sur un ensemble de requêtes, produisant des scores au niveau du système et des traces d'exécution (trajectoires des sorties des agents).
Attribution Contrastive : Au lieu d'attribuer un crédit basé sur des scores absolus, un modèle d'attribution (un LLM sollicité par une invite) compare les trajectoires au sein d'un groupe de comparaison aléatoire de taille $g$ $g$ . Il évalue comment la sortie spécifique de chaque agent a contribué aux différences observées dans les résultats du système par rapport aux autres configurations du groupe.
- L'attributeur produit un crédit scalaire $c \in [-1, +1]$ pour chaque agent par déroulement.
- Cela permet au système de distinguer des configurations ayant des scores système identiques en analysant les différences comportementales intermédiaires.
Mises à Jour Locales : Les crédits agrégés sont transmis aux optimiseurs locaux respectifs, qui mettent à jour les paramètres des agents (invites) de manière indépendante.

Instance

Dans les expériences, CANTANTE est instancié pour l'optimisation d'invites, traitant les invites des agents comme des paramètres système apprenables. Le cadre est agnostique au choix de l'optimiseur local ; les auteurs utilisent CAPO (Optimisation d'Invites Consciente des Coûts) comme optimiseur local par défaut, mais démontrent la compatibilité avec d'autres comme EvoPrompt.

Contributions Clés

Formalisation : L'article formalise l'optimisation des SMA basés sur les LLM comme un problème d'attribution de crédit, le distinguant de l'optimisation d'invites standard où le système est traité comme un bloc monolithique.
Conception du Cadre : CANTANTE introduit un mécanisme d'attribution contrastive qui isole les contributions par agent en comparant des déroulements conjoints, découplant l'attribution du mécanisme de mise à jour spécifique.
Validation Empirique : Le cadre est évalué par rapport à des références de l'état de l'art (GEPA et MIPROv2) sur trois benchmarks distincts avec des topologies de flux de travail différentes :
- MBPP : Programmation (flux de travail conditionnel avec planificateur, exécutant et validateur).
- GSM8K : Raisonnement mathématique (assemblage parallèle avec trois exécutants et un agent de consensus).
- HotpotQA : Réponse à des questions multi-sauts (génération augmentée par récupération avec récupérateur, lecteur, synthétiseur et vérificateur d'hallucinations).
Ablation et Analyse : Les auteurs isolent l'attribution contrastive comme le principal moteur des gains de performance via une ablation « d'attribution d'identité » (où les scores globaux sont propagés directement). Ils analysent également les corrélations de crédit pour diagnostiquer les goulots d'étranglement de la topologie des SMA.

Résultats

CANTANTE atteint le meilleur rang moyen parmi tous les optimiseurs évalués sur les benchmarks.

Gains de Performance :
- MBPP : Atteint une précision de 41,89 %, soit une amélioration de +18,9 points de pourcentage par rapport à la référence la plus forte (MIPROv2) et +36,35 points par rapport aux invites initiales non optimisées. Il présente également une variance significativement plus faible sur les graines par rapport aux références.
- GSM8K : Atteint une précision de 82,33 %, améliorant MIPROv2 de +12,5 points de pourcentage et GEPA de 21,06 points.
- HotpotQA : Atteint une précision de 11,93 %, restant dans un écart-type de la référence la plus forte et s'améliorant par rapport à la configuration initiale.
Efficacité : Sur MBPP et GSM8K, CANTANTE atteint une précision plus élevée tout en nécessitant moins de tokens au moment de l'inférence par requête par rapport aux invites non optimisées et aux autres références, indiquant que les gains ne sont pas dus à une augmentation du calcul mais à une meilleure paramétrisation.
Robustesse : La méthode reste efficace avec des tailles de jeux de données réduites (jusqu'à 75 échantillons) et est robuste aux changements du modèle d'attribution et de l'invite.
Corrélation de Crédit : L'analyse confirme que l'attributeur produit des signaux par agent significatifs plutôt que de simplement échoquer les scores globaux. Par exemple, sur GSM8K, les agents s'exécutant plus tard reçoivent une attribution plus élevée en raison d'un biais de récence, un motif cohérent avec les comportements connus des LLM.

Importance et Revendications

L'article revendique que CANTANTE représente une étape vers le traitement des paramètres des systèmes multi-agents comme des objets d'apprentissage automatique plutôt que comme une configuration manuelle. En abordant le décalage structurel entre les paramètres locaux et les retours globaux, le cadre permet une adaptation raisonnée des SMA à de nouvelles tâches.

Les auteurs soulignent que l'attribution contrastive est un primitif d'optimisation plus efficace pour les SMA basés sur les LLM que la propagation des scores globaux. La capacité à générer des signaux par agent significatifs permet :

Une optimisation plus stable et efficace (comme observé dans une variance plus faible et une convergence plus rapide).
Des capacités de diagnostic pour la conception de la topologie des SMA (identification des agents qui sont des goulots d'étranglement).
Le découplage du mécanisme d'attribution de l'optimiseur local, permettant l'intégration de stratégies d'optimisation sophistiquées.

Ce travail est présenté comme une approche fondamentale pour automatiser la configuration de flux de travail agentiques complexes, réduisant la main-d'œuvre manuelle actuellement requise pour le déploiement.