When Identity Overrides Incentives: Representational Choices as Governance Decisions in Multi-Agent LLM Systems

1. Problématique

L'article aborde une question fondamentale dans le déploiement des systèmes multi-agents pilotés par les grands modèles de langage (LLM) : les agents LLM agissent-ils comme des acteurs stratégiques sensibles aux incitations (maximisation des gains) ou comme des suiveurs de rôles guidés par leur identité assignée ?

Dans les simulations de politiques publiques (notamment environnementales et économiques), les agents sont souvent dotés de « personas » (ex: industriel, activiste, gouvernement) pour rendre la simulation réaliste. Les auteurs s'interrogent sur l'impact de ces choix de représentation (présence de personas, visibilité des tableaux de gains) sur le comportement stratégique. Le risque est que le système produise un comportement cohérent avec le rôle (identité) plutôt qu'avec la structure d'incitations du jeu, faussant ainsi les résultats de la simulation et rendant les décisions de gouvernance implicites mais non documentées.

2. Méthodologie

Les auteurs ont conçu une expérience factorielle contrôlée pour isoler les effets de l'identité et des incitations.

• Configuration du jeu :
  • Contexte : Scénarios de politique environnementale impliquant quatre agents : un Industriel, un Gouvernement, un Activiste environnemental et un Citoyen.
  • Actions : Chaque agent choisit entre deux actions binaires (ex: Polluer vs Nettoyer, Réguler vs Ne pas réguler).
  • Types de scénarios : 53 scénarios au total, divisés en deux catégories :
    • Dominance Verte (Green-dominant) : L'équilibre de Nash correspond à une transition écologique coordonnée (action socialement et individuellement optimale).
    • Dominance Tragédie (Tragedy-dominant) : L'équilibre de Nash correspond à une tragédie des biens communs (comportement individuellement bénéfique mais collectivement nuisible, ex: pollution maximale).
• Design Expérimental (Facteur 2x2) :
  1. Présence de Persona : Les agents reçoivent-ils une description de rôle détaillée (motivations, identité) ou agissent-ils uniquement comme des joueurs stratégiques neutres ?
  2. Visibilité des Gains : Les agents voient-ils explicitement le tableau des gains (payoff table) ou doivent-ils les inférer à partir du récit ?
  • Cela crée quatre conditions : {Persona, Pas de Persona} × {Gains Cachés, Gains Visibles}.
• Modèles testés : Quatre modèles LLM open-source instruct-tuned :
  • Qwen-7B et Qwen-32B
  • Llama-3.1-8B
  • Mistral-7B
• Mesures :
  • Atteinte de l'équilibre : Pourcentage de runs aboutissant à un équilibre de Nash.
  • Type d'équilibre : Classification de l'équilibre atteint (Transition Verte vs Tragédie des Communs).
  • Analyse de la chaîne de pensée (CoT) : Étude des raisonnements générés pour identifier si le modèle utilise une logique de gains ou une logique d'identité.

3. Contributions Clés

1. Preuve de la primauté de l'identité sur les incitations : L'article démontre que la simple présence d'un persona peut supprimer le comportement aligné sur les gains, même lorsque les tableaux de gains sont entièrement visibles.
2. Choix de représentation comme décision de gouvernance : Les auteurs établissent que des choix techniques apparemment mineurs (ajouter un persona, cacher les gains) ne sont pas de simples détails d'implémentation, mais des décisions de gouvernance qui façonnent les résultats systémiques.
3. Profils comportementaux distincts : Identification de trois profils de réactivité aux changements de représentation selon la famille de modèles.
4. Conditions nécessaires pour le comportement stratégique : Mise en évidence que l'alignement sur les gains nécessite simultanément la suppression des personas et la visibilité explicite des gains.

4. Résultats Principaux

A. Impact des Personas sur l'Atteinte de l'Équilibre

• Scénarios de Tragédie (Tragedy-dominant) :
  • Avec des personas présents, tous les modèles atteignent un taux d'équilibre de Nash proche de 0 %, même avec des gains visibles. Les agents refusent de jouer l'équilibre de Tragédie (pollution) car cela contredit leur rôle moral ou social assigné.
  • Sans personas et avec gains visibles : Seuls les modèles Qwen (7B et 32B) parviennent à atteindre l'équilibre de Tragédie (taux de 65 % à 90 %). Les modèles Llama et Mistral échouent toujours (0 %), indiquant une incapacité à identifier l'équilibre de Tragédie même sans biais de rôle.
• Scénarios Verts (Green-dominant) :
  • Avec des personas, les modèles atteignent facilement l'équilibre vert (coordonné).
  • Effet inverse : La suppression des personas et la visibilité des gains déstabilisent la coordination dans les scénarios verts. Par exemple, Qwen-32B voit son taux d'atteinte de l'équilibre chuter de 96,1 % à 16,6 % lorsque les personas sont retirés et les gains rendus visibles.

B. Biais de Sélection de l'Équilibre

• En présence de personas, plus de 99 % des équilibres atteints correspondent à la « Transition Verte », même dans les scénarios où la Tragédie est l'optimum de gains.
• Le passage à la condition « Sans Persona + Gains Visibles » provoque un basculement massif pour les modèles Qwen : le taux d'équilibres de type « Tragédie » passe de 0 % à près de 90 % (pour Qwen-32B), montrant une sensibilité extrême au cadre (framing).

C. Profils Comportementaux par Modèle

1. Qwen (7B/32B) : Très adaptatif. Il bascule entre un comportement aligné sur le rôle (avec persona) et un comportement aligné sur les gains (sans persona + gains visibles). C'est le seul modèle capable de trouver l'équilibre de Tragédie lorsque les conditions sont réunies.
2. Mistral-7B : Très sensible aux changements de représentation dans les scénarios verts (baisse de coordination), mais incapable d'atteindre l'équilibre de Tragédie dans aucune condition (reste bloqué sur des comportements coopératifs ou non-équilibrés).
3. Llama-8B : Presque invariant. Son comportement reste stable (très haut taux d'équilibre vert) quelle que soit la condition, indiquant une résistance aux changements de framing mais aussi une incapacité à s'adapter aux incitations de Tragédie.

D. Analyse des Chaînes de Pensée (CoT)

L'analyse des raisonnements montre que :

• Avec des personas, les agents utilisent des termes liés à l'identité, à la morale et à la responsabilité sociale.
• Sans personas et avec gains visibles, les modèles Qwen basculent vers des termes de théorie des jeux (« équilibre de Nash », « meilleure réponse », « gains »).
• Les autres modèles ne montrent pas ce basculement sémantique vers l'optimisation des gains, expliquant leur échec à atteindre l'équilibre de Tragédie.

5. Signification et Implications

• Gouvernance des Systèmes Multi-Agents : Les concepteurs de systèmes LLM doivent être conscients que l'ajout de personas n'est pas neutre. Cela peut masquer les incitations économiques réelles et produire des simulations biaisées vers des résultats « socialement désirables » mais économiquement irrationnels.
• Fiabilité des Simulations : Pour des analyses de politiques publiques visant à prédire des comportements stratégiques réalistes (y compris des comportements de défection ou de pollution), l'utilisation de personas doit être soigneusement justifiée, voire évitée si l'on cherche à modéliser la maximisation de l'utilité.
• Dépendance au Modèle : Les résultats ne sont pas généralisables à tous les LLM. L'hypothèse qu'un agent LLM se comporte comme un agent rationnel dépend fortement de l'architecture du modèle (ici, Qwen se comporte différemment de Llama ou Mistral).
• Recommandation : Les choix de représentation (personas, présentation des gains) doivent être documentés explicitement comme des paramètres de configuration critiques, et les systèmes doivent être évalués sur plusieurs configurations pour éviter des conclusions erronées basées sur un seul artefact de conception.

En conclusion, l'article démontre que l'identité peut écraser les incitations dans les LLM, transformant des agents stratégiques en suiveurs de rôles, et que la capacité à raisonner stratégiquement est une propriété fragile et spécifique à certains modèles, conditionnée par la manière dont le problème est présenté.