Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

Résumé technique : Choisir son agent : Arbitrages dans l'adoption de conseillers, de coachs et de délégués IA en négociation multipartite

Énoncé du problème
Alors que les grands modèles de langage (LLM) passent d'outils passifs à des agents autonomes, une lacune critique subsiste dans la compréhension de la manière dont les différentes allocations d'agence affectent les résultats dans des environnements multipartites stratégiquement interdépendants. Si la recherche antérieure a largement étudié les dyades humain-IA dans des tâches avec des vérités de terrain vérifiables (ex. : diagnostic médical), il existe peu de données empiriques sur la façon dont l'assistance par l'IA fonctionne dans des scénarios de marchandage où les actions d'un participant modifient le paysage des gains des autres. Plus précisément, il reste à déterminer si le « désalignement préférence-performance » observé dans les tâches individuelles — où les utilisateurs préfèrent des agents sous-optimaux qui exigent une charge cognitive moindre — persiste dans les contextes de groupe, et comment les différents modes d'interaction (Conseiller, Coach, Délégué) influencent le bien-être collectif, les taux d'adoption et les retombées de marché.

Méthodologie
Les auteurs ont mené une expérience comportementale en ligne randomisée, intra-sujets ($N=243$ participants formant 81 groupes). Les participants ont pris part à trois jeux de marchandage successifs à tours multiples (échange de jetons) avec des évaluations privées induites, un cadre connu pour présenter des inefficacités humaines dues à l'aversion au risque et aux normes d'équité.

L'étude a opérationnalisé le spectre de l'agence de l'IA en trois modalités distinctes, toutes propulsées par le même modèle sous-jacent (Gemini-2.5-Flash) afin de garantir une capacité de modèle constante :

1. Conseiller (Advisor) : L'IA recommande proactivement une action (offre ou réponse) avec une justification ; l'utilisateur conserve un droit de veto et peut modifier la suggestion avant la soumission.
2. Coach : L'utilisateur rédige d'abord une action ; l'IA fournit un feedback réactif sur le plan, que l'utilisateur peut intégrer ou ignorer.
3. Délégué (Delegate) : L'IA génère et exécute l'action de manière autonome pour le compte de l'utilisateur. L'utilisateur ne peut ni veto ni modifier la décision, bien qu'il puisse consulter la justification.

L'expérience a utilisé un design contrebalancé où chaque groupe a expérimenté les trois modalités dans un ordre randomisé. L'étude a mesuré le surplus de groupe et individuel (mis à l'échelle par rapport à un benchmark Pareto-efficient), les taux d'adoption (usage volontaire) et les préférences des utilisateurs via des enquêtes pré et post-jeu. L'analyse a employé des modèles linéaires à effets mixtes (LMM) pour tenir compte de la structure imbriquée des données, calculant à la fois les effets en intention de traiter (ITT) et les estimations ajustées selon la non-conformité volontaire (VNCA).

Résultats clés
L'étude documente un désalignement préférence-performance significatif et identifie un mécanisme de filtre humain comme le moteur des différences de bien-être :

• Préférence vs Performance : Les participants préféraient fortement la modalité Conseiller (44 % des choix) par rapport au Délégué (19 %), invoquant un désir de contrôle et de confiance. Cependant, les groupes ont atteint le surplus collectif le plus élevé sous la modalité Délégué. Ni le mode Conseiller ni le mode Coach n'ont produit de gains de bien-être statistiquement significatifs par rapport à la base de référence humaine au niveau du groupe.
• Le Filtre Humain : L'analyse des mécanismes a révélé que, bien que les propositions générées par l'IA créent systématiquement des surplus conjoints plus élevés que les propositions manuelles dans tous les modes, l'intervention humaine dans les modes Conseiller et Coach a dilué cet avantage. Les utilisateurs ont fréquemment modifié, réduit ou ignoré les suggestions de l'IA, revenant à des schémas de transaction conservateurs et humains (ex. : échanges 1 pour 1) pour s'aligner sur les normes sociales. En revanche, le mode Délégué a totalement contourné cette étape de filtrage, permettant aux capacités d'optimisation supérieures de l'IA d'atteindre le marché.
• Retombées de Création de Marché (Market-Making) : La modalité Délégué a généré des externalités positives. Les homologues non assistés dans les jeux de délégation ont obtenu une augmentation de 21,6 % de leur surplus individuel par rapport à la base de référence. Les agents autonomes ont agi comme des « créateurs de marché » coopératifs, introduisant des propositions de haute qualité qui ont structurellement amélioré le pool d'offres partagées, plutôt que d'exploiter les joueurs non assistés.
• Frictions d'Adoption : Malgré l'avantage de performance du Délégué, l'adoption n'a pas été universelle. En ajustant pour la non-conformité volontaire, le gain de bien-être individuel pour les délégués est environ 1,5 fois supérieur à l'estimation ITT, suggérant que le coût psychologique de céder le contrôle empêche les utilisateurs de réaliser le plein potentiel de la technologie.

Signification et Revendications
L'article soutient que le goulot d'étranglement pour le bien-être assisté par l'IA dans les contextes stratégiques n'est pas la capacité du modèle, mais la structure d'interaction à travers laquelle cette capacité est délivrée. Les auteurs affirment que :

1. Le design d'interaction est un mécanisme : Les modalités d'assistance doivent être conçues comme des mécanismes avec une participation endogène. Le « filtre humain » dans les rôles de conseil et de coaching agit comme un traducteur socio-technique qui privilégie l'alignement relationnel et le contrôle sur l'efficacité brute des ressources, souvent au détriment du bien-être collectif.
2. Le « Paradoxe de la Collaboration Inversée » : Contrairement aux dilemmes d'adoption traditionnels où les individus supportent des coûts pour des bénéfices de groupe, la délégation offre ici un gain mutuel potentiel (individuel et collectif), mais est bloquée par l'aversion psychologique à renoncer à l'agence.
3. Implications de Design : Pour réaliser des gains de bien-être, les systèmes doivent aborder le compromis contrôle-délégation. Les auteurs proposent des voies de design telles que la « délégation avec fenêtres de veto » (permettant l'exécution autonome avec une période de révision), la divulgation progressive de la confiance pour calibrer la confiance, et des cadres d'évaluation au niveau du groupe qui privilégient le surplus collectif plutôt que les mesures de satisfaction individuelle.

L'étude conclut que si la délégation autonome produit l'efficacité la plus élevée, son adoption dans les systèmes multipartites réels dépend de la conception d'interfaces capables d'atténuer les coûts psychologiques de la cession de contrôle sans réintroduire le « filtre humain » qui nuit à l'efficacité.