When Identity Overrides Incentives: Representational Choices as Governance Decisions in Multi-Agent LLM Systems

Resumen Técnico: Cuando la Identidad Anula los Incentivos

1. Planteamiento del Problema

Los sistemas de modelos de lenguaje grandes (LLM) se están desplegando cada vez más en entornos multi-agente para tareas estratégicas como la simulación de políticas públicas, modelado económico y negociación. Un desafío fundamental es entender cómo las elecciones de diseño representacional (como la asignación de personas basadas en roles y la visibilidad de las recompensas/payoffs) afectan el comportamiento de los agentes.

La pregunta central es: ¿Actúan los agentes de LLM como actores estratégicos sensibles a los incentivos (maximizando recompensas) o como seguidores de roles impulsados por su identidad asignada?

El problema radica en que, en simulaciones de políticas (especialmente ambientales), los diseñadores suelen asignar personas (ej. "Industrialista", "Activista") para dar realismo. Sin embargo, no está claro si estas identidades enmascaran o suprimen la capacidad del modelo para razonar sobre los incentivos económicos reales, lo que podría llevar a resultados de simulación sesgados que no reflejan la dinámica estratégica real, sino las suposiciones normativas del diseñador.

2. Metodología

Los autores diseñaron un experimento controlado de 2x2 factorial para aislar el efecto de las representaciones:

• Factores Experimentales:
  1. Presencia de Persona: ¿Reciben los agentes descripciones de roles (ej. "Eres un industrialista que busca maximizar beneficios") o actúan sin identidad específica?
  2. Visibilidad del Payoff: ¿Se les proporciona explícitamente la tabla de recompensas (payoffs) o deben inferirlas solo de la narrativa?
• Escenarios: Se utilizaron 53 escenarios de política ambiental divididos en dos tipos:
  • Dominio Verde (Green-dominant): Donde la acción coordinada pro-ambiental es el Equilibrio de Nash (ej. transición verde).
  • Dominio Tragedia (Tragedy-dominant): Donde el comportamiento individualmente beneficioso pero colectivamente dañino es el óptimo de pago (ej. Tragedia de los Comunes).
• Modelos Evaluados: Cuatro modelos de código abierto: Qwen-7B, Qwen-32B, Llama-3.1-8B y Mistral-7B.
• Diseño del Juego: Un juego de cuatro agentes (Industrialista, Gobierno, Activista Ambiental, Ciudadano) con acciones binarias. Se evaluó la tasa de logro del Equilibrio de Nash y el tipo de equilibrio alcanzado.
• Análisis Adicional: Se realizaron pruebas de sensibilidad de prompts variando la redacción de las personas para verificar la robustez de los hallazgos.

3. Contribuciones Clave

El artículo establece que las elecciones representacionales no son detalles de implementación triviales, sino decisiones de gobernanza que determinan el comportamiento del sistema:

1. La Identidad Anula los Incentivos: La presencia de personas suprime drásticamente el comportamiento alineado con los incentivos. Incluso con información completa de recompensas, los agentes con personas fallan en alcanzar equilibrios de Nash en escenarios de "Tragedia", prefiriendo en su lugar resultados de "Transición Verde" (alineados con la identidad del rol, no con el pago óptimo).
2. Requisito Dual para el Comportamiento Estratégico: Para recuperar un comportamiento alineado con los pagos (payoff-aligned), es necesario eliminar las personas Y proporcionar explícitamente las tablas de recompensas. Solo bajo esta combinación específica los modelos logran razonar estratégicamente.
3. Heterogeneidad de Modelos: No todos los LLM reaccionan igual. Se identificaron tres perfiles de comportamiento distintos:
   • Qwen: Se adapta al encuadre (framing). Cambia drásticamente entre comportamiento alineado con el rol y alineado con los pagos.
   • Mistral: Se ve fuertemente perturbado por los cambios de representación en escenarios verdes, pero no logra identificar el equilibrio de Tragedia en ninguna condición.
   • Llama: Mantiene un comportamiento casi invariante, independiente de las condiciones de representación.

4. Resultados Principales

• Escenarios de Tragedia (Económicos):
  • Con personas presentes: Tasa de Equilibrio de Nash cercana a 0% para todos los modelos, a pesar de tener información de pagos. Los agentes eligen acciones "verdes" (cooperativas) en lugar de las óptimas para el pago (contaminar).
  • Sin personas y con pagos visibles: Solo los modelos Qwen logran tasas de equilibrio significativas (65% para Qwen-7B y 90% para Qwen-32B). Llama y Mistral siguen fallando (0%).
• Escenarios Verdes (Ambientales):
  • La mayoría de los modelos alcanzan altos niveles de equilibrio (>90%) con personas ocultas o visibles, ya que la identidad y los incentivos están alineados.
  • Sin embargo, al eliminar las personas y mostrar los pagos, la coordinación se rompe en algunos modelos (ej. Qwen-32B cae del 96.1% al 16.6%), demostrando que las personas a veces facilitan la coordinación en escenarios donde los incentivos puros son complejos.
• Sesgo en la Selección de Equilibrio:
  • Con personas, casi el 100% de los equilibrios alcanzados corresponden a la "Transición Verde", incluso en escenarios donde la "Tragedia de los Comunes" es el equilibrio de Nash.
  • Al eliminar las personas, los modelos Qwen cambian masivamente hacia la "Tragedia de los Comunes" (hasta un 90% de cambio en la selección de equilibrio), revelando que las personas estaban sesgando la selección hacia resultados socialmente preferidos en lugar de estratégicamente óptimos.
• Sensibilidad al Prompt: Variaciones menores en la redacción de las personas (sin cambiar la estructura del juego) pueden alterar el resultado del equilibrio, lo que indica una alta sensibilidad a la formulación del prompt.

5. Significado e Implicaciones

• Gobernanza y Diseño: Las decisiones sobre cómo se presentan los agentes (con o sin personas, con o sin tablas de pagos explícitas) deben tratarse como decisiones de gobernanza. Un diseñador puede, sin darse cuenta, forzar un resultado "ético" o "cooperativo" simplemente añadiendo una descripción de rol, invalidando la utilidad del modelo para predecir comportamientos estratégicos reales.
• Riesgo de Interpretación Errónea: Los sistemas que parecen simular un comportamiento racional pueden estar, en realidad, codificando suposiciones normativas del diseñador a través de las personas. Los resultados de las simulaciones no deben interpretarse como predicciones neutrales de la dinámica del sistema.
• Dependencia del Modelo: La capacidad de un sistema multi-agente para comportarse como un actor estratégico no es una propiedad general de los LLM, sino que depende críticamente de la arquitectura del modelo (Qwen vs. Llama/Mistral) y de la configuración del prompt.
• Recomendaciones:
  • Documentar explícitamente las elecciones representacionales.
  • Evaluar sistemas en múltiples configuraciones (con/sin personas, con/sin pagos).
  • Evitar presentar los resultados de simulaciones como verdades absolutas, reconociendo que el diseño del prompt determina si el sistema actúa como un maximizador de pagos o un seguidor de identidad.

En conclusión, el estudio demuestra que la identidad puede anular los incentivos, y que la "racionalidad" en los LLM multi-agente es frágil y altamente dependiente de cómo se presenta el problema al modelo.