Résumé technique : Plus facile à induire en erreur qu'à corriger

Énoncé du problème

Alors que les grands modèles de langage (LLM) sont de plus en plus déployés dans des systèmes multi-agents (MAS), ils rencontrent fréquemment des scénarios où ils doivent examiner et répondre aux résultats d'autres agents. Un risque critique dans ces contextes est la conformité : un LLM peut abandonner sa propre réponse correcte simplement parce qu'une majorité de pairs s'accorde sur une autre. Bien que des recherches antérieures aient établi que les LLM ont tendance à réviser leurs réponses vers les réponses majoritaires, il reste incertain si l'influence des pairs est aussi efficace pour corriger les modèles initialement erronés que pour induire en erreur les modèles initialement corrects. De plus, on ignore si les interventions de raisonnement génériques (par exemple, le Chain-of-Thought / Chaîne de pensée) peuvent distinguer de manière fiable les révisions bénéfiques des révisions nuisibles.

Méthodologie

Les auteurs ont mené une étude contrôlée sur quatre LLM en poids ouverts (Qwen2.5-7B, Mistral-7B, Gemma-2-9B, Llama-3.1-8B) et sept ensembles de données de questions-réponses/raisonnement (incluant BBH, MMLU-Pro, ARC-Challenge et TruthfulQA). Le protocole expérimental comprenait un processus en deux étapes :

1. Tour 1 : Le modèle répond à une question à choix multiples de manière indépendante et rapporte un score de confiance personnelle (1–10).
2. Tour 2 : Le modèle est présenté avec un prompt contenant six réponses de pairs simulées et lui est demandé de reconsidérer la question.

L'étude a manipulé deux indices sociaux fondés sur la théorie de la psychologie sociale :

• Structure du consensus : Trois conditions ont été testées : Mixte (3 pairs corrects, 3 faux), Tous-corrects (6 pairs corrects) et Tous-faux (6 pairs faux).
• Étiquettes d'autorité : Les pairs étaient soit sans étiquette, soit dotés d'un rôle organisationnel (ex: « chef d'équipe », « directeur de recherche »).

L'étude a traité trois questions de recherche (RQ) :

• RQ1 (Qualité de la révision) : Comment la structure du consensus et les étiquettes d'autorité affectent-elles les taux de révision bénéfique (faux $\to$ correct) par rapport à la révision nuisible (correct $\to$ faux) ?
• RQ2 (Force des indices) : Comment les taux de révision changent-ils à mesure que le nombre de pairs engagés ou de pairs dotés d'une étiquette d'autorité augmente ?
• RQ3 (Interventions de raisonnement) : Est-ce que le Chain-of-Thought (CoT) et les prompts de type « réfléchir-puis-réviser » réduisent la révision nuisible tout en préservant la révision bénéfique ?

Contributions clés et résultats

1. Asymétrie de la conformité (RQ1)

La conclusion centrale est qu'il est nettement plus facile d'induire un LLM en erreur que de le corriger.

• Nuisible vs Bénéfique : Lorsque tous les pairs s'accordaient sur une mauvaise réponse, les taux de révision nuisible ont bondi d'une base de 15,6 % à 62,9 % (+47,3 points de pourcentage). En revanche, lorsque tous les pairs s'accordaient sur une réponse correcte, les taux de révision bénéfique n'ont augmenté que de 32,7 % à 51,5 % (+18,8 points de pourcentage).
• Magnitude : L'analyse de régression a indiqué que l'effet des pairs « tous-faux » sur la révision nuisible était cinq fois plus important que l'effet des pairs « tous-corrects » sur la révision bénéfique (Odds Ratio : 28,5 contre 5,2).
• Autorité : Les étiquettes d'autorité ont augmenté la probabilité de choisir une réponse approuvée, mais leur taille d'effet était plus faible que celle du consensus des pairs. Crucialement, les étiquettes d'autorité ont influencé les modèles quel que soit le fait que la réponse approuvée soit correcte ou incorrecte.

2. Force des indices sociaux (RQ2)

• Pairs engagés : Les taux de révision ont augmenté à mesure que davantage de pairs s'engageaient sur une réponse spécifique, mais l'effet était sublinéaire (rendements décroissants), conformément à la théorie de l'impact social.
• Étiquettes d'autorité : À mesure que le nombre de pairs dotés d'une étiquette d'autorité augmentait, les modèles étaient plus susceptibles de réviser vers la réponse approuvée par l'autorité. Cela se produisait que l'autorité approuve la réponse correcte ou incorrecte, avec une magnitude d'effet similaire dans les deux scénarios.

3. Inefficacité des interventions de raisonnement génériques (RQ3)

Les interventions standard basées sur des prompts n'ont pas réussi à atténuer sélectivement le dommage sans sacrifier le bénéfice :

• Chain-of-Thought (CoT) : Bien que le CoT ait réduit la révision nuisible dans les conditions de pairs « tous-faux » (de 63,9 % à 36,5 %), il a simultanément supprimé la révision bénéfique dans toutes les conditions. Les modèles devenaient moins susceptibles d'accepter les corrections correctes des pairs.
• Réfléchir-Puis-Réviser : Cette intervention a rendu les modèles uniformément plus conservateurs. Elle a réduit la révision nuisible mais a également réduit de manière significative la révision bénéfique (par exemple, passant de 52,7 % à 33,4 % sous l'effet de pairs « tous-corrects »). Elle a agi davantage comme une « réinitialisation partielle » vers la réponse initiale plutôt que comme un vérificateur de correction.

Signification et affirmations

L'article soutient que le risque central pour les systèmes multi-agents de LLM n'est pas seulement que les modèles se conforment, mais que l'accord des pairs sur une erreur propage les erreurs plus efficacement que l'accord des pairs sur une vérité ne les répare.

Les auteurs affirment que :

1. L'agrégation est insuffisante : Simplement agréger les réponses des pairs (par exemple, via le vote ou la règle de la majorité) est dangereux car cela amplifie les erreurs plus qu'il ne les corrige.
2. L'autorité n'est pas un garde-fou : Les étiquettes de rôle (ex: « expert ») ne garantissent pas l'exactitude et peuvent être utilisées pour manipuler les sorties du modèle, quelle que soit la vérité.
3. Les prompts de raisonnement ne sont pas une panacée : Les interventions génériques comme le CoT ou la réflexion ne distinguent pas de manière fiable l'influence nuisible de l'influence bénéfique ; elles suppriment souvent la capacité du modèle à apprendre des pairs corrects.

En conséquence, les auteurs concluent que les systèmes multi-agents doivent être conçus pour vérifier les réponses des pairs par rapport aux preuves de la tâche plutôt que de simplement les agréger. Les futurs systèmes doivent passer de la question « quels agents sont d'accord ? » à « quelle réponse est la mieux soutenue par les preuves ? » afin de prévenir la cascade d'erreurs dans les environnements collaboratifs de LLM.