When Identity Overrides Incentives: Representational Choices as Governance Decisions in Multi-Agent LLM Systems

Título: Quando a Identidade Sobrepõe os Incentivos: Escolhas Representacionais como Decisões de Governança em Sistemas Multi-Agente de LLMs

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) estão sendo cada vez mais implantados em sistemas multi-agente para tarefas estratégicas, como simulações de políticas públicas, modelagem econômica e negociação. No entanto, há uma lacuna crítica no entendimento de como as escolhas de design — especificamente a atribuição de personas baseadas em papéis (identidades) e a visibilidade das recompensas (payoffs) — afetam o comportamento dos agentes.

A questão central é: quando agentes de LLM com identidades atribuídas (ex: "Industrialista", "Governo") enfrentam cenários que exigem tomada de decisão estratégica, eles agem como atores estratégicos sensíveis a incentivos (maximizando recompensas) ou como seguidores de papéis orientados por identidade (agindo de acordo com o estereótipo do personagem)? A falta de compreensão sobre essa interação impede a governança eficaz desses sistemas, pois as escolhas de representação podem gerar resultados que contradizem a estrutura de incentivos do jogo.

2. Metodologia

Os autores conduziram um experimento controlado de fatorial 2x2 em um ambiente de jogo estratégico de quatro agentes.

• Cenário: Um jogo de política ambiental envolvendo quatro partes interessadas: Industrialista, Governo, Ativista Ambiental e Cidadão.
• Ações: Cada agente escolhe entre duas ações binárias (ex: Poluir vs. Limpar; Regular vs. Não Regular).
• Variáveis Independentes (Fatores):
  1. Presença de Persona: Os agentes recebem descrições detalhadas de seus papéis e motivações (ex: "Você é um industrialista focado em lucros") ou apenas instruções neutras para agir estrategicamente.
  2. Visibilidade de Recompensa (Payoff): Os agentes têm acesso explícito à tabela de recompensas (payoffs) para todas as combinações de ações ou devem inferir os incentivos apenas a partir da narrativa.
• Modelos Testados: Quatro modelos de linguagem instruídos (Open Source):
  • Qwen-7B e Qwen-32B
  • Llama-3.1-8B
  • Mistral-7B
• Cenários de Jogo: 53 cenários divididos em duas categorias:
  • Dominantes em "Green Transition" (Transição Verde): Onde a cooperação ambiental é o Equilíbrio de Nash (o resultado ótimo para todos).
  • Dominantes em "Tragedy of the Commons" (Tragédia dos Comuns): Onde o comportamento individualmente benéfico, mas coletivamente prejudicial (ex: poluir), é o Equilíbrio de Nash.
• Métricas:
  • Taxa de Atingimento do Nash: Se o resultado conjunto dos agentes corresponde a um Equilíbrio de Nash.
  • Seleção de Equilíbrio: Se o equilíbrio atingido foi "Green Transition" ou "Tragédia dos Comuns".
  • Análise de Cadeia de Pensamento (CoT): Exame dos raciocínios gerados pelos modelos para identificar viés de identidade vs. otimização de recompensa.

3. Contribuições Principais

1. Identificação do Viés de Identidade: Demonstração empírica de que a atribuição de personas suprime o comportamento alinhado a incentivos, forçando os agentes a agir de acordo com estereótipos de papel, mesmo quando as recompensas financeiras sugerem o oposto.
2. Decisões de Governança: Afirmar que escolhas representacionais (como incluir ou não uma persona) não são detalhes de implementação, mas decisões de governança que determinam se o sistema se comporta como um otimizador racional ou um simulador de identidade.
3. Perfis Comportamentais Distintos: Revelação de que diferentes famílias de modelos reagem de maneira radicalmente diferente às mesmas intervenções de design.
4. Condição Dupla Necessária: A descoberta de que, para recuperar o comportamento alinhado a incentivos em cenários de "Tragédia", é necessário simultaneamente remover as personas e fornecer recompensas explícitas.

4. Resultados Chave

A. O Efeito da Persona sobre o Equilíbrio de Nash

• Cenários de Tragédia (Tragédia dos Comuns):

  • Com personas presentes, todos os modelos atingiram taxas de Equilíbrio de Nash próximas a 0%, mesmo com informações completas de recompensa. Os agentes falharam em maximizar seus ganhos, preferindo ações alinhadas ao papel (ex: proteger o meio ambiente), ignorando o incentivo econômico de poluir.
  • Com personas removidas e payoffs visíveis, apenas os modelos Qwen (7B e 32B) conseguiram atingir o equilíbrio de Tragédia (taxas de 65% a 90%).
  • Modelos Llama e Mistral falharam em atingir o equilíbrio de Tragédia em qualquer condição (0% em todos os casos), permanecendo presos em comportamentos cooperativos ou falhando em coordenar.

• Cenários de Transição Verde:

  • A presença de personas facilitou a coordenação para o resultado "Green" (taxas altas de Nash).
  • Curiosamente, remover as personas e mostrar os payoffs em cenários verdes quebrou a coordenação para os modelos Qwen (a taxa de Nash caiu de ~96% para ~16% no Qwen-32B), indicando que a identidade ajudava a manter a cooperação nesses casos.

B. Seleção de Equilíbrio e Viés

• Com personas, quase 100% dos equilíbrios atingidos (mesmo em cenários onde a Tragédia era o Nash) foram do tipo Green Transition. As personas forçaram um viés moral/social sobre a lógica econômica.
• A remoção de personas e a exposição de payoffs permitiram que os modelos Qwen mudassem para o equilíbrio de Tragédia (aprox. 88% dos casos para Qwen-32B), demonstrando uma mudança drástica de ~90 pontos percentuais na seleção de equilíbrio baseada apenas na representação.

C. Perfis Comportamentais por Modelo

1. Qwen (7B/32B): Altamente adaptável ao enquadramento (framing). Alterna entre comportamento alinhado ao papel (com personas) e alinhado a incentivos (sem personas + payoffs visíveis). É o único que consegue atingir o equilíbrio de Tragédia quando as condições são corretas.
2. Mistral-7B: Fortemente afetado pela remoção de personas em cenários verdes (queda na coordenação), mas incapaz de identificar o equilíbrio de Tragédia em qualquer condição (sempre 0% de Nash em cenários econômicos).
3. Llama-8B: Comportamento quase invariante. Mantém altas taxas de cooperação (Green) independentemente da presença de personas ou visibilidade de payoffs, falhando em otimizar racionalmente em cenários de Tragédia.

D. Sensibilidade ao Prompt

Variações na formulação do texto da persona (mesmo mantendo a estrutura do jogo e os incentivos fixos) levaram a resultados estratégicos diferentes, confirmando que a superfície do prompt influencia diretamente o comportamento do sistema.

5. Significado e Implicações

• Governança e Design: O artigo conclui que engenheiros de prompt e pesquisadores não podem tratar personas como meros "detalhes estéticos". A escolha de incluir uma persona é uma decisão de governança que define se o sistema prioriza valores sociais (identidade) ou eficiência econômica (incentivos).
• Risco de Interpretação Errada: Sistemas que parecem simular comportamento estratégico racional podem, na verdade, estar codificando suposições normativas do designer através das personas. Resultados de simulações não devem ser interpretados como previsões neutras de dinâmica de sistemas, mas como saídas moldadas por premissas embutidas.
• Fragilidade da Racionalidade: A capacidade de LLMs de agir como agentes racionais (maximizando payoffs) é frágil e depende criticamente da ausência de identidade de papel e da presença explícita de dados de recompensa.
• Recomendação Prática: Para aplicações que exigem análise de incentivos puros, deve-se evitar personas e fornecer tabelas de recompensa explícitas. Para aplicações que buscam alinhamento de valores, personas podem ser úteis, mas os designers devem estar cientes de que isso pode suprimir a resposta a incentivos econômicos.

Em resumo, o trabalho estabelece que a identidade pode sobrepor os incentivos, transformando agentes de IA em simuladores de papel em vez de otimizadores estratégicos, e que essa mudança pode ser controlada (e deve ser gerenciada) através de decisões conscientes de design e representação.