Résumé Technique : BOUNDARY_SYNC

Énoncé du Problème

Alors que les grands modèles de langage (LLM) sont de plus en plus déployés en tant qu'agents de communication dans des systèmes multi-agents pour des tâches telles que le raisonnement collaboratif, le débat et la simulation sociale, une question critique reste non résolue : la communication entre agents provoque-t-elle une convergence des sorties vers un consensus homogénéisé, sapant ainsi les bénéfices de la diversité des architectures multi-agents ? Bien que des travaux concomitants aient documenté des phénomènes tels que l'effondrement représentationnel, le comportement de troupeau (herding) et le conformisme, il manque un protocole de mesure standardisé qui (a) isole la communication comme mécanisme causal, (b) quantifie la force du couplage sur une échelle commune à travers les conditions et les modèles, et (c) distingue les effets transitoires induits par le prompt des mises à jour d'opinions cumulatives.

Méthodologie : Protocole BOUNDARY_SYNC

Les auteurs introduisent le BOUNDARY_SYNC, un protocole de mesure conçu pour quantifier le couplage représentationnel via le Facteur d'Amplification du Couplage (CAF).

Conception Expérimentale

• Agents : $K$ agents analysent de manière itérative des stimuli sur $T=10$ pas de temps.
• Stimuli :
  • Conditions Textuelles : Les agents évaluent les stéréotypes de genre dans des scénarios professionnels basés sur les a priori du modèle (aucun passage de texte explicite n'est fourni dans les expériences principales).
  • Conditions d'Image : Les agents analysent des images de scènes synthétiques générées procéduralement (512×384) via une API de vision, produisant des distributions de probabilité structurées.
• Mécanisme de Communication : À des intervalles spécifiques (tous les 3 pas), les agents reçoivent un message de protocole contenant :
  1. Leur propre distribution mélangée de la ronde précédente.
  2. La distribution moyenne de tous les autres agents (consensus des voisins).
  3. Une instruction pour pondérer leur propre sortie par rapport au consensus des voisins (par défaut $\alpha=3, \beta=2$, produisant un poids attendu de 0,6 pour soi et de 0,4 pour les voisins).
• Métrique (CAF) :
  $$CAF = \frac{\bar{JSD}_{cond}}{\bar{JSD}_{baseline}}$$
  Où $\bar{JSD}$ est la divergence de Jensen-Shannon moyenne par étape entre la stratégie précédente d'un agent et sa sortie actuelle.
  • $CAF < 1$ : Homogénéisation (la communication réduit le changement de sortie).
  • $CAF \approx 1$ : Indépendance.
  • $CAF > 1$ : Diversification.
• Contrôles : L'étude emploie des contrôles rigoureux incluant :
  • Ablation sans synchronisation : Désactivation des messages de protocole pour établir une ligne de base.
  • Perturbation de prompt : Remplacement du consensus des voisins par un texte non pertinent de Wikipédia pour isoler les effets sociaux de la complexité générique du prompt.
  • Variation de la taille du groupe : Test de $K=3$ vs $K=5$.
  • Replication inter-modèles : Utilisation de GPT-4o, DeepSeek V4 Pro et Qwen3.7-Plus.
  • Analyse sans état (stateless) : Activation/désactivation du consensus par ronde pour observer la dynamique de trajectoire.

Principales Contributions

1. Preuve Causale d'Homogénéisation : Le protocole fournit une preuve causale que la communication textuelle induit une homogénéisation significative dans GPT-4o, confirmée par les ablations sans communication et les contrôles de perturbation de prompt.
2. Lignes de Base Appropriées à la Modalité : Les auteurs établissent que la comparaison des modalités nécessite des lignes de base spécifiques à chaque modalité. Lorsqu'elles sont correctement normalisées, les communications textuelles et d'images produisent une homogénéisation proportionnelle de magnitude comparable, bien que les tâches d'image présentent une perte de diversité absolue plus élevée en raison d'une entropie initiale plus grande.
3. La Taille du Groupe comme Modérateur : L'étude identifie la taille du groupe ($K$) comme un paramètre de conception primaire qui déplace la direction du couplage. $K=5$ produit une homogénéisation, tandis que $K=3$ produit une diversification ($CAF > 1$).
4. Variation Spécifique au Modèle et Identification d'Artéfacts : Le protocole révèle une variation extrême de la susceptibilité au couplage entre les modèles (plage de CAF de 0,034 à 0,803). Il identifie spécifiquement que le CAF proche de zéro dans DeepSeek V4 Pro est dominé par des artéfacts de format (sortie JSON contrainte) plutôt que par un véritable couplage social.
5. Mécanisme de Couplage Sans État (Stateless) : La recherche démontre que le couplage est sans état et piloté par la présence immédiate de l'information des pairs dans le contexte du prompt. Le couplage disparaît lorsque l'information des pairs est retirée, contredisant les modèles classiques de dynamique d'opinion (ex: DeGroot) qui prédisent des mises à jour d'état interne cumulatives et persistantes.

Résultats Clés

• Homogénéisation Textuelle : Dans GPT-4o ($N=30$), la communication textuelle avec $K=5$ produit un $CAF = 0,803$($95% CI [0,740, 0,873]$), représentant une réduction d'environ 20 % du changement de sortie par rapport à la ligne de base ($d=1,30, p < 0,001$).
• Homogénéisation par Image : La communication par image produit un $CAF_{image} = 0,834$ lorsqu'elle est comparée à sa propre ligne de base sans communication. Bien que proportionnelle au texte, la réduction absolue de la JSD est plus grande ($\Delta = 0,044$ contre $0,038$) en raison d'une diversité initiale plus élevée dans les tâches visuelles.
• Effet de la Taille du Groupe :
  • $K=5$ : Homogénéisation ($CAF \approx 0,80$ pour le texte, $0,74$ pour l'image).
  • $K=3$ : Diversification ($CAF \approx 1,14$ pour le texte, $1,06$ pour l'image).
• Perturbation de Prompt : Le remplacement du consensus par un texte non pertinent entraîne un $CAF = 1,082$ (diversification) pour GPT-4o, confirmant que l'effet est spécifiquement social et non un artéfact de la longueur du prompt.
• Dynamiques Sans État : Les trajectoires de JSD par ronde présentent un motif en "dents de scie", chutant lorsque le consensus est présent et rebondissant immédiatement lorsqu'il est retiré. Un consensus continu mène à une convergence monotone vers une JSD proche de zéro, mais aucune dérive cumulative n'est observée à travers les rondes sans exposition continue.
• Comparaison de Simulation : Une simulation DeGroot bruitée surestime l'homogénéisation textuelle ($CAF_{sim}=0,657$ contre $CAF_{réel}=0,803$) et échoue à capturer la nature sans état et réversible du couplage des LLM.

Signification et Revendications

L'article affirme établir que le couplage des agents LLM est réel, mesurable, proportionnellement cohérent entre les modalités et contrôlable au niveau du prompt.

• Implications de Conception : Les résultats suggèrent que les concepteurs de systèmes multi-agents peuvent contrôler la diversité des sorties en manipulant le contexte du prompt (retrait de l'information des pairs) et la taille du groupe. Les petits groupes ($K=3$) peuvent être préférés pour la diversité (brainstorming), tandis que les groupes plus larges ($K=5$) peuvent être préférés pour le consensus (vérification de faits).
• Contribution Méthodologique : BOUNDARY_SYNC offre une métrique standardisée et normalisée par condition (CAF) pour évaluer la force du couplage, répondant à l'absence de protocoles standardisés dans le domaine.
• Contribution Théorique : Les résultats remettent en question les modèles classiques de dynamique d'opinion en démontrant que le couplage des LLM est un phénomène sans état et dépendant du contexte, plutôt qu'un résultat de mises à jour d'état interne cumulatives.

Les auteurs soulignent que ces résultats ont des implications directes pour la conception de systèmes multi-agents LLM fiables, permettant la détection et l'atténuation de l'homogénéisation involontaire tout en préservant une diversité bénéfique.