When Verification Is Late: Delay Floors and Placement Flips in Corrected Multi-Agent Systems

Résumé Technique : Quand la vérification est tardive : Seuils de délai et basculements de placement dans les systèmes multi-agents corrigés

Énoncé du problème
Le papier traite de la conception de systèmes multi-agents (spécifiquement ceux construits sur des modèles de langage de grande taille ou LLM) où un essaim d'agents peu fiables est guidé vers l'exactitude factuelle par un sous-ensemble de « correcteurs » ou de vérificateurs. Alors que la littérature antérieure a établi que l'ajout de la vérification améliore la précision dans les contextes sans délai, et que d'autres travaux ont montré que les délais de vérification peuvent déstabiliser le consensus, aucun cadre préalable n'a intégré ces facteurs pour répondre à une question de conception critique : Étant donné un budget fixe pour la vérification, quelle quantité de correction doit être achetée, et où doit-elle être placée, lorsque la vérification induit intrinsèquement un délai ?

Les auteurs modélisent ce problème comme un système de consensus de Laplacian ancré, retardé et contraint (pinned, delayed grounded-Laplacian). Dans ce modèle, les agents échangent des croyances, et les correcteurs tirent le système vers la preuve seulement après un délai de vérification $\tau$. Le défi central est qu'une force de traction plus élevée (force du correcteur $w$) améliore l'exactitude mais augmente également le risque d'instabilité sous l'effet du délai, créant un compromis que les théories de placement traditionnelles sans délai ne peuvent capturer.

Méthodologie
Les auteurs formulent la dynamique du système sous la forme d'une équation différentielle stochastique à retard linéaire (SDDE) :
$$\dot{x}(t) = -L_g x(t) - W x(t-\tau) + \xi(t)$$
où $L_g$ est le Laplacien ancré (représentant le couplage des agents et l'ancrage à la preuve), $W$ est la matrice diagonale des forces de correction, $\tau$ est le délai de vérification commun, et $\xi(t)$ est un bruit blanc.

La métrique principale de performance du système est la cohérence ($H$), définie comme la trace de la matrice de covariance stationnaire des croyances (équivalente à la norme $H_2$ au carré du bruit vers la croyance). Le problème de conception consiste à minimiser $H$ sous une contrainte de budget sur les forces de correction.

Les étapes analytiques clés incluent :

1. Réduction modale : En exploitant la base propre de $L_g$, le système est décomposé en $N$ modes scalaires indépendants. La cohérence totale est la somme des variances stationnaires de ces modes.
2. Variance en forme fermée : Les auteurs dérivent une expression exacte en forme fermée de la variance stationnaire $V(a, w, \tau)$ d'un mode scalaire unique avec un taux de décroissance $a$, une force $w$ et un délai $\tau$. Cette expression unifie la pénalité sans délai et l'instabilité induite par le délai.
3. Analyse de stabilité : Ils identifient un plafond de stabilité strict $w_{max}(\tau)$ au-delà duquel le système oscille et perd une distribution stationnaire.
4. Optimisation : Le papier analyse la frontière budget-exactitude, déterminant la distribution optimale d'un budget fixe parmi les correcteurs (concentration sur quelques agents forts versus répartition sur de nombreux agents) sous la contrainte du délai.

Contributions clés et résultats

1. Le seuil de délai (Plafond d'exactitude) :
   Le papier prouve que pour tout délai non nul $\tau > 0$, il existe une limite inférieure strictement positive sur l'erreur réalisable (le « seuil de délai »), quel que soit le budget de vérification utilisé.

   • Constante exacte : Dans la limite d'un petit délai, le produit force-délai optimal $w^* \tau$ converge vers le nombre de Dottie $\xi^* \approx 0,739085$ (la racine unique de $\cos \xi = \xi$).
   • Implication : Aucun ajout de budget ne peut abaisser l'exactitude en dessous de ce seuil. Une fois que le budget atteint un seuil spécifique ($B_{floor}$), toute dépense supplémentaire ne produit plus de gains d'exactitude ; si le budget est mécaniquement converti en force brute sans limitation, il peut en réalité dégrader les performances en poussant le système vers l'instabilité.

2. Le basculement de placement (Placement Flip) :
   Dans les systèmes sans délai, le placement optimal consiste souvent à concentrer le budget sur quelques correcteurs puissants (selon la courbure de la loi de coût). Les auteurs montrent que le délai modifie fondamentalement cette règle.

   • Mécanisme : Le délai impose un « genou » dans la loi de coût à une force spécifique $w^*(\tau)$. Au-delà de cette force, l'énergie supplémentaire est inutile ou nuisible.
   • Résultat : Passé un seuil de budget en forme fermée, la stratégie optimale bascule de la concentration de ressources vers la répartition. Il devient strictement préférable de déployer de nombreux correcteurs modérés (chacun plafonné à $w^*(\tau)$) plutôt que quelques correcteurs extrêmement forts.

3. Plafond de budget fini :
   Contrairement aux théories sans délai où la cohérence s'améliore de manière monotone avec le budget, le système contraint par le délai possède un plafond de budget fini ($B_{floor}$). Les objectifs nécessitant une exactitude inférieure au seuil de délai sont mathématiquement irréalisables.

4. Condition de commutateur pour l'exactitude :
   Le papier établit que la réduction modale (somme des variances indépendantes) est exacte si et seulement si la matrice de correcteur $W$ commute avec le Laplacien ancré $L_g$ ($[L_g, W] = 0$). Pour les placements non commutatifs, la réduction modale fournit une approximation de premier ordre avec une borne d'erreur connue, bien que les estimations de la frontière de stabilité puissent être optimistes pour les placements non uniformes.

5. Calibration empirique :
   Le modèle est calibré par rapport aux données d'un essaim Qwen3.6-35B-A3B corrigé. Les résultats montrent :

   • Le modèle de relaxation retardée s'ajuste bien aux trajectoires de croyance observées ($R^2 = 0,94–0,99$).
   • Des délais de vérification plus longs sont corrélés à des retours plus lents vers la vérité.
   • Limite d'identifiabilité : Les données confirment que le délai ($\tau$) et la force de correction ($w$) ne sont pas séparément identifiables à partir des trajectoires moyennées ; ils se regroupent en un taux effectif unique. Cela concorde avec les prédictions théoriques pour cette famille de modèles.

Signification et revendications
Le papier prétend combler un fossé entre deux littératures existantes : la théorie du placement sans délai (qui ignore le délai) et la théorie de la stabilité par le délai (qui ignore les contraintes de budget).

• Message pratique : Dans les systèmes multi-agents LLM corrigés, la latence de vérification, et non la puissance de vérification, fixe la limite ultime de l'exactitude réalisable.
• Conseil de conception : Les concepteurs doivent éviter l'instinct consistant à « empiler » indéfiniment la puissance de vérification. Une fois que le budget dépasse le seuil dépendant du délai, la stratégie doit passer du renforcement des agents individuels à la distribution du budget sur plus d'agents, tout en plafonnant strictement la force individuelle pour éviter la déstabilisation.
• Contribution théorique : Ce travail fournit la première caractérisation en forme fermée du « seuil de délai » dans les réseaux ancrés, identifiant le nombre de Dottie comme la constante fondamentale régissant le compromis entre la force de correction et la latence de vérification.

Les auteurs restent modestes quant aux limites, notant que le modèle linéaire décrit la relaxation autour d'un plateau plutôt que la dynamique non linéaire complète, et que les lois de coût et les topologies de graphes utilisés sont stylisés. Ils reconnaissent également que, bien que le modèle s'ajuste à des conditions spécifiques, il ne peut pas distinguer le délai et la force à partir de données moyennées sans un ajustement par question.