Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

Resumen Técnico: Elija su Agente: Compensaciones en la Adopción de Asesores, Entrenadores y Delegados de IA en Negociaciones Multipartidistas

Planteamiento del Problema
A medida que los Modelos de Lenguaje de Gran Escala (LLM) transicionan de herramientas pasivas a agentes autónomos, existe una brecha crítica en la comprensión de cómo diferentes asignaciones de agencia afectan los resultados en entornos multipartidistas y estratégicamente interdependientes. Mientras que la investigación previa ha estudiado extensamente los díadas humano-IA en tareas con verdades fundamentales verificables (por ejemplo, el diagnóstico médico), existen escasos datos empíricos sobre cómo la asistencia de la IA funciona en escenarios de negociación donde las acciones de un participante alteran el panorama de beneficios para otros. Específicamente, no está claro si la "desalineación entre preferencia y desempeño" observada en tareas individuales —donde los usuarios prefieren agentes subóptimos que requieren menos carga cognitiva— persiste en entornos grupales, y cómo diferentes modalidades de interacción (Asesor, Entrenador, Delegado) influyen en el bienestar colectivo, las tasas de adopción y los efectos de desbordamiento en el mercado.

Metodología
Los autores realizaron un experimento conductual en línea, aleatorizado y de sujetos dentro del mismo grupo ($N=243$ participantes formando 81 grupos de tres). Los participantes participaron en tres juegos sucesivos de negociación de múltiples turnos (intercambio de fichas), con valoraciones privadas inducidas, un entorno conocido por exhibir ineficiencias humanas debido a la aversión al riesgo y las normas de equidad.

El estudio operacionalizó el espectro de la agencia de la IA en tres modalidades distintas, todas impulsadas por el mismo LLM subyacente (Gemini-2.5-Flash) para asegurar una capacidad de modelo constante:

1. Asesor (Advisor): La IA recomienda proactivamente una acción (oferta o respuesta) con una justificación; el usuario conserva el poder de veto y puede modificar la sugerencia antes de la entrega.
2. Entrenador (Coach): El usuario redacta primero una acción; la IA proporciona retroalimentación reactiva sobre el plan, la cual el usuario puede incorporar o ignorar.
3. Delegado (Delegate): La IA genera y ejecuta la acción de forma autónoma en nombre del usuario. El usuario no puede vetar ni modificar la decisión, aunque puede visualizar la justificación.

El experimento utilizó un diseño contrapesado donde cada grupo experimentó las tres modalidades en orden aleatorio. El estudio midió el excedente grupal e individual (escalado contra un punto de referencia de eficiencia de Pareto), las tasas de adopción (uso voluntario) y las preferencias de los usuarios mediante encuestas pre y post-juego. El análisis empleó Modelos Lineales de Efectos Mixtos (LMM) para dar cuenta de la estructura anidada de los datos, calculando tanto los efectos de Intención de Tratar (ITT) como las estimaciones de No Cumplimiento Voluntario Ajustado (VNCA).

Resultados Clave
El estudio documenta una significativa desalineación entre preferencia y desempeño e identifica un mecanismo de filtro humano como el motor de las diferencias de bienestar:

• Preferencia vs. Desempeño: Los participantes prefirieron fuertemente la modalidad de Asesor (44% de las elecciones) sobre el Delegado (19%), citando un deseo de control y confianza. Sin embargo, los grupos alcanzaron el mayor excedente colectivo solo bajo la modalidad de Delegado. Ni la condición de Asesor ni la de Entrenador produjeron ganancias de bienestar estadísticamente significativas respecto a la línea base de solo humanos a nivel de grupo.
• El Filtro Humano: El análisis de los mecanismos reveló que, si bien las propuestas generadas por la IA creaban consistentemente un mayor excedente conjunto que las propuestas manuales en todas las condiciones, la intervención humana en los modos de Asesor y Entrenador diluía este beneficio. Los usuarios modificaban, reducían o ignoraban frecuentemente las sugerencias de la IA, regresando a patrones de intercambio conservadores y basados en la línea base humana (por ejemplo, intercambios de 1 por 1) para alinearse con las normas sociales. En contraste, el modo de Delegado evitaba por completo este paso de filtrado, permitiendo que la capacidad de optimización superior de la IA alcanzara el mercado.
• Desbordamientos de Formación de Mercado (Market-Making Spillovers): La modalidad de Delegado generó externalidades positivas. Los contrapartes no asistidos en los juegos de Delegado lograron un aumento del 21.6% en su excedente individual en comparación con la línea base. Los agentes autónomos actuaron como formadores de mercado cooperativos, introduciendo propuestas de alta calidad que actualizaron estructuralmente el fondo de ofertas compartido, en lugar de explotar a los jugadores no asistidos.
• Fricciones de Adopción: A pesar de la ventaja de desempeño del Delegado, la adopción no fue universal. Al ajustar por el no cumplimiento voluntario, la ganancia de bienestar individual para los delegados fue aproximadamente 1.5 veces la estimación ITT, lo que sugiere que el costo psicológico de ceder el control impide que los usuarios alcancen el pleno potencial de la tecnología.

Significancia y Reivindicaciones
El artículo argumenta que el cuello de botella para el bienestar asistido por IA en entornos estratégicos no es la capacidad del modelo, sino la estructura de interacción a través de la cual se entrega esa capacidad. Los autores sostienen que:

1. El Diseño de Interacción es un Mecanismo: Las modalidades de asistencia deben diseñarse como mecanismos con participación endógena. El "filtro humano" en los roles de asesoría y entrenamiento actúa como un traductor sociotécnico que prioriza la alineación relacional y el control sobre la eficiencia bruta de los materiales, a menudo a expensas del bienestar colectivo.
2. La "Paradoja de la Colaboración Invertida": A diferencia de los dilemas de adopción tradicionales donde los individuos asumen costos por beneficios grupales, la delegación aquí ofrece un posible escenario de ganar-ganar (ganancias tanto individuales como grupales), pero se ve bloqueado por la aversión psicológica a renunciar a la agencia.
3. Implicaciones de Diseño: Para alcanzar las ganancias de bienestar, los sistemas deben abordar la compensación entre control y delegación. Los autores proponen vías de diseño tales como "delegación con ventanas de veto" (permitir la ejecución autónoma con un periodo de revisión), la divulgación progresiva de la confianza para calibrar la confianza, y marcos de evaluación a nivel de grupo que prioricen el excedente colectivo sobre las métricas de satisfacción individual.

El estudio concluye que, si bien la delegación autónoma genera la mayor eficiencia, su adopción en sistemas multipartidistas del mundo real depende de diseñar interfaces que mitiguen los costos psicológicos de ceder el control sin reintroducir el "filtro humano" que destruye la eficiencia.