Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

Technische Samenvatting: Kies je Agent: Afwegingen bij het adopteren van AI-adviseurs, coaches en delegaten in meerpartij-onderhandelingen

Probleemstelling
Terwijl Large Language Models (LLM's) transformeren van passieve hulpmiddelen naar autonome agenten, bestaat er een kritieke kloof in het begrip van hoe verschillende allocaties van agency de uitkomsten beïnvloeden in multi-party, strategisch onderling afhankelijke omgevingen. Hoewel eerder onderzoek uitgebreid mens-AI-dyades heeft bestudeerd in taken met verifieerbare grondwaarheden (bijv. medische diagnose), zijn er weinig empirische gegevens over hoe AI-assistentie functioneert in onderhandelingsscenario's waarbij de acties van één deelnemer het uitbetalingslandschap voor anderen wijzigen. Specifiek blijft het onduidelijk of de "voorkeur-prestatie-misalignment" die wordt waargenomen in individuele taken — waarbij gebruikers suboptimale agenten verkiezen die minder cognitieve belasting vereisen — persisteert in groepsverband, en hoe verschillende interactiemodaliteiten (Adviseur, Coach, Delegeer) collectief welzijn, adoptiegraad en marktspillovers beïnvloeden.

Methodologie
De auteurs voerden een gerandomiseerd, binnen-proefpersoons online gedragsexperiment uit ($N=243$ deelnemers die 81 groepen van drie vormden). Deelnemers namen deel aan drie opeenvolgende multi-turn onderhandelingsspellen (chip-handel) met geïnduceerde private waarderingen, een setting die bekend staat om menselijke inefficiënties door risicoaversie en rechtvaardigheidsnormen.

De studie operationaliseerde het spectrum van AI-agency in drie onderscheidende modaliteiten, die allemaal werden aangedreven door dezelfde onderliggende LLM (Gemini-2.5-Flash) om constante modelcapaciteit te waarborgen:

1. Adviseur (Advisor): De AI adviseert proactief een actie (bod of reactie) met een rationale; de gebruiker behoudt het vetorecht en kan de suggestie aanpassen voordat deze wordt ingediend.
2. Coach: De gebruiker stelt eerst een actie op; de AI geeft reactieve feedback op het plan, die de gebruiker kan incorporeren of negeren.
3. Delegaat (Delegate): De AI genereert en voert de actie autonoom uit namens de gebruiker. De gebruiker kan de beslissing niet vetoën of wijzigen, hoewel hij/zij de rationale wel kan inzien.

De studie maakte gebruik van een tegengebalanceerd ontwerp waarbij elke groep alle drie de modaliteiten ervoer in een gerandomiseerde volgorde. De studie mat groeps- en individueel surplus (geschaald tegen een Pareto-efficiënt benchmark), adoptiegraad (vrijwillig gebruik) en gebruikersvoorkeuren via pre- en post-game enquêtes. De analyse maakte gebruik van Linear Mixed-Effects Models (LMM) om rekening te houden met de geneste structuur van de data, waarbij zowel Intent-to-Treat (ITT) effecten als Voluntary non-compliance-adjusted (VNCA) schattingen werden berekend.

Belangrijkste Resultaten
De studie documenteert een significante voorkeur–prestatie-misalignment en identificeert een menselijk filtermechanisme als de drijfveer van verschillen in welzijn:

• Voorkeur vs. Prestatie: Deelnemers gaven sterk de voorkeur aan de Adviseur-modaliteit (44% van de keuzes) boven de Delegeer (19%), waarbij zij een verlangen naar controle en vertrouwen aanvoerden. Echter, groepen bereikten het hoogste collectieve surplus alleen onder de Delegeer-modaliteit. Noch de Adviseur-, noch de Coach-conditie produceerde statistisch significante welzijnsverbeteringen ten opzichte van de menselijke baseline op groepsniveau.
• Het Menselijk Filter: De mechanisme-analyse toonde aan dat hoewel door AI gegenereerde voorstellen consistent hogere gezamenlijke surplus creëerden dan handmatige voorstellen in alle condities, menselijke interventie in de Adviseur- en Coach-modi het voordeel verwaterde. Gebruikers wijzigden, reduceerden of negeerden AI-suggesties vaak, waarbij ze terugvielen op conservatieve, menselijke baseline-handelspatronen (bijv. 1-voor-1 ruil) om in lijn te blijven met sociale normen. In contrast hiermee omzeilde de Delegeer-modus dit filterstadium volledig, waardoor de superieure optimalisatiecapaciteiten van de AI de markt konden bereiken.
• Marktmaker-Spillovers: De Delegeer-modaliteit genereerde positieve externaliteiten. Onbegeleide tegenhangers in Delegeer-games bereikten een toename van 21,6% in individueel surplus vergeleken met de baseline. De autonome agenten fungeerden als coöperatieve "marktmakers", die hoogwaardige voorstellen introduceerden die de gedeelde aanbodpool structureel verbeterden, in plaats van onbegeleide spelers uit te buiten.
• Adoptie-fricties: Ondanks het prestatievoordeel van de Delegeer, was adoptie niet universeel. Na correctie voor vrijwillige non-compliance, was de individuele welzijnsgroei voor delegaten ongeveer 1,5 keer de ITT-schatting, wat suggereert dat de psychologische kosten van het opgeven van controle het volledige potentieel van de technologie verhinderen te realiseren.

Betekenis en Claims
Het artikel betoogt dat de bottleneck voor AI-ondersteund welzijn in strategische settings niet de modelcapaciteit is, maar de interactiestructuur waarbinnen deze capaciteit wordt geleverd. De auteurs stellen:

1. Interactieontwerp is een Mechanisme: Ondersteuningsmodaliteiten moeten worden ontworpen als mechanismen met endogene participatie. De menselijke filter in adviserende en coachende rollen fungeert als een socio-technische vertaler die relationele afstemming en controle prioriteert boven rauwe materiële efficiëntie, vaak ten koste van het collectieve welzijn.
2. De "Inverted Collaboration Paradox": In tegenstelling tot traditionele adoptiedilemma's waarbij individuen kosten dragen voor groepsvoordelen, biedt delegatie hier een potentieel win-win scenario (individuele en groepswinsten), maar wordt dit geblokkeerd door psychologische afkeer van het opgeven van agency.
3. Ontwerpimplicaties: Om welzijnswinsten te realiseren, moeten systemen de controle–delegatie afweging aanpakken. De auteurs stellen ontwijnen voor zoals "delegatie met veto-vensters" (toestaan van autonome uitvoering met een beoordelingsperiode), progressieve vertrouwensexpositie om vertrouwen te kalibreren, en groepsniveau evaluatiekaders die collectief surplus prioriteren boven individuele tevredenheidsmetrieken.

De studie concludeert dat hoewel autonome delegatie de hoogste efficiëntie oplevert, de adoptie ervan in real-world multi-party systemen afhangt van het ontwerpen van interfaces die de psychologische kosten van het opgeven van controle verzachten zonder de efficiëntie-vernietigende "menselijke filter" opnieuw te introduceren.