Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

Resumo Técnico: Escolha o seu Agente: Trade-offs na Adoção de Conselheiros, Treinadores e Delegados de IA em Negociações Multi-partidárias

Definição do Problema
À medida que os Grandes Modelos de Linguagem (LLMs) transitam de ferramentas passivas para agentes autônomos, surge uma lacuna crítica na compreensão de como diferentes alocações de agência afetam os resultados em ambientes multi-partidários estrategicamente interdependentes. Embora pesquisas anteriores tenham estudado extensivamente díades humano-IA em tarefas com verdades fundamentais verificáveis (ex: diagnóstico médico), há escassos dados empíricos sobre como a assistência de IA funciona em cenários de barganha, onde as ações de um participante alteram o panorama de ganhos (payoff) dos outros. Especificamente, permanece incerto se o "desalinhamento entre preferência e desempenho" observado em tarefas individuais — onde usuários preferem agentes subótimos que exigem menor carga cognitiva — persiste em configurações de grupo, e como diferentes modalidades de interação (Conselheiro, Treinador, Delegado) influenciam o bem-estar coletivo, as taxas de adoção e os transbordamentos de mercado (market spillovers).

Metodologia
Os autores conduziram um experimento comportamental online randomizado, de sujeitos dentro do mesmo grupo (within-subjects), ($N=243$ participantes formando 81 grupos de três). Os participantes engajaram-se em três jogos sucessivos de barganha de múltiplos turnos (troca de fichas), com valorações privadas induzidas, um cenário conhecido por exibir ineficiências humanas devido à aversão ao risco e normas de justiça.

O estudo operacionalizou o espectro de agência da IA em três modalidades distintas, todas alimentadas pelo mesmo modelo subjacente (Gemini-2.5-Flash) para garantir a constância da capacidade do modelo:

1. Conselheiro (Advisor): A IA recomenda proativamente uma ação (oferta ou resposta) com uma justificativa; o usuário retém o poder de veto e pode modificar a sugestão antes do envio.
2. Treinador (Coach): O usuário elabora uma ação primeiro; a IA fornece um feedback reativo sobre o plano, que o usuário pode incorporar ou ignorar.
3. Delegado (Delegate): A IA gera e executa a ação autonomamente em nome do usuário. O usuário não pode vetar ou modificar a decisão, embora possa visualizar a justificativa.

O experimento utilizou um design contrapesado onde cada grupo experimentou as três modalidades em ordem randomizada. O estudo mediu o excedente de grupo e individual (escalonado contra um benchmark de Pareto-eficiente), taxas de adoção (uso voluntário) e preferências do usuário via questionários pré e pós-jogo. A análise empregou Modelos Lineares de Efeitos Mistos (LMM) para considerar a estrutura aninhada dos dados, calculando tanto os efeitos de Intenção de Tratar (ITT) quanto as estimativas ajustadas para Não-conformidade Voluntária (VNCA).

Resultos Principais
O estudo documenta um significativo desalinhamento entre preferência e desempenho e identifica um mecanismo de filtro humano como o motor das diferenças de bem-estar:

• Preferência vs. Desempenho: Os participantes preferiram fortemente a modalidade Conselheiro (44% das escolhas) sobre o Delegado (19%), citando o desejo de controle e confiança. No entanto, os grupos alcançaram o maior excedente coletivo sob a modalidade Delegado. Nem a condição de Conselheiro, nem a de Treinador produziram ganhos de bem-estar estatisticamente significativos em relação à linha de base humana no nível do grupo.
• O Filtro Humano: A análise do mecanismo revelou que, embora as propostas geradas pela IA criassem consistentemente um excedente conjunto maior do que as propostas manuais em todas as condições, a intervenção humana nas modalidades de Conseliro e Treinador diluiu esse benefício. Os usuários frequentemente modificavam, reduziam ou ignoravam as sugestões da IA, revertendo para padrões de troca humanos mais conservadores (ex: trocas de 1 por 1) para se alinharem com normas sociais. Em contraste, o modo Delegado contornou totalmente essa etapa de filtragem, permitindo que as capacidades superiores de otimização da IA atingissem o mercado.
• Transbordamentos de Formação de Mercado (Market-Making Spillovers): A modalidade Delegado gerou externalidades positivas. Contrapartes não assistidas em jogos de Delegado alcançaram um aumento de 21,6% no excedente individual em comparação com a linha de base. Os agentes autônomos atuaram como "formadores de mercado" cooperativos, introduzindo propostas de alta qualidade que elevaram estruturalmente o pool de ofertas compartilhado, em vez de explorar jogadores não assistidos.
• Fricções de Adoção: Apesar da vantagem de desempenho do Delegado, a adoção não foi universal. Ajustando para a não-conformidade voluntária, o ganho de bem-estar individual para delegados foi aproximadamente 1,5 vezes a estimativa ITT, sugerindo que o custo psicológico de ceder o controle impede os usuários de realizar todo o potencial da tecnologia.

Significância e Alegações
O artigo argumenta que o gargalo para o bem-estar assistido por IA em configurações estratégicas não é a capacidade do modelo, mas a estrutura de interação através da qual essa capacidade é entregue. Os autores afirmam que:

1. O Design de Interação é um Mecanismo: As modalidades de assistência devem ser desenhadas como mecanismos com participação endógena. O "filtro humano" nos papéis de conselheiro e treinador atua como um tradutor sociotécnico que prioriza o alinhamento relacional e o controle sobre a eficiência bruta do material, muitas vezes ao custo do bem-estar coletivo.
2. O "Paradoxo da Colaboração Invertida": Ao contrário dos dilemas tradicionais de adoção onde indivíduos arcam com custos para benefícios do grupo, a delegação aqui oferece um potencial de ganho mútuo (ganhos individuais e de grupo), mas é bloqueada pela aversão psicológica à renúncia da agência.
3. Implicações de Design: Para realizar ganhos de bem-estar, os sistemas devem abordar o trade-off entre controle e delegação. Os autores propõem caminhos de design como "delegação com janelas de veto" (permitindo execução autônoma com um período de revisão), divulgação progressiva de confiança para calibrar a confiança, e frameworks de avaliação de nível de grupo que priorizem o excedente coletivo sobre métricas de satisfação individual.

O estudo conclui que, embora a delegação autônoma gere a maior eficiência, sua adoção em sistemas multi-partidários do mundo real depende de projetar interfaces que mitiguem os custos psicológicos de ceder o controle sem reintroduzir o "filtro humano" que destrói a eficiência.