Beyond Preset Identities: How Agents Form Stances and Boundaries in Generative Societies

1. Problema e Motivação

O artigo aborda uma lacuna crítica na pesquisa de Agentes de Grandes Modelos de Linguagem (LLMs): a capacidade de formar posturas endógenas (estados de opinião e identidade) e negociar limites sociais em cenários complexos e dinâmicos.

• Limitação Atual: A maioria dos estudos assume que o comportamento e os valores dos agentes são estritamente determinados por seus prompts iniciais (identidades pré-definidas e papéis estáticos).
• Hipótese Central: Em sociedades híbridas (humanos-agents), a cognição não é estática, mas emerge dinamicamente através de interações discursivas. Os agentes podem desenvolver vieses internos que contradizem suas identidades atribuídas, desafiando a eficácia da engenharia de prompts estáticos.
• Questões de Pesquisa:
  1. Agentes podem formar atitudes e participar da formação de limites através de práticas linguísticas, ignorando suas identidades pré-configuradas?
  2. Pesquisadores humanos podem moldar a evolução da cognição coletiva através de intervenções encarnadas, em vez de pré-definições?

2. Metodologia

Os autores propõem um novo quadro de avaliação de métodos mistos, combinando Etnografia Virtual Computacional com Perfilamento Socio-Cognitivo Quantitativo.

• Framework CMASE: Utilização do Computational Multi-Agent Society Experiments, onde pesquisadores humanos são incorporados diretamente nas comunidades multiagentes como participantes "in-the-loop" para observar e intervir em tempo real.
• Métricas Novas: Para quantificar a internalização e reação dos agentes, foram formalizadas três métricas:
  1. Viés de Valor Inato (IVB): Mede a inclinação de valor intrínseca do modelo (desvio da neutralidade).
  2. Sensibilidade à Persuasão (PS): Mede a magnitude da mudança de postura após intervenção externa.
  3. Taxa de Desacoplamento Confiança-Ação (TAD): Captura o fenômeno onde agentes alteram seu comportamento/atitude apesar de relatarem baixa confiança no persuasor.
• Estudos Empíricos:
  • Estudo 1 (Intervenções Discursivas Controladas): Uma comunidade de 30 agentes (divididos em Defensores Ambientais, Suportadores de Crescimento Econômico e Residentes Neutros) em um cenário de controvérsia sobre uma usina de incineração. Um pesquisador humano intervém com quatro estratégias (2x2: Persuasão Racional vs. Mobilização Emocional; Postura Ambiental vs. Econômica).
  • Estudo 2 (Etnografia Virtual Longitudinal): Uma simulação de 75 passos em um café virtual com 10 agentes em uma hierarquia pré-configurada (dono, funcionários, clientes, etc.). O pesquisador entra como "trabalhador temporário" para observar a desconstrução de hierarquias e a auto-organização da comunidade.
• Modelos Testados: GPT-4o, Gemini-2.5-Flash, Llama-3.1-8B e Qwen-3-8B.

3. Principais Contribuições

1. Prova Empírica de Posturas Endógenas: Evidência de que vieses pré-treinados (IVB > 0) podem sobrepor identidades atribuídas por prompts. Os agentes demonstraram uma tendência inata a posições progressistas/liberais, independentemente de seu papel inicial.
2. Mecanismos de Auto-organização Estrutural: Demonstração de que agentes podem desconstruir hierarquias de poder pré-definidas e reconstruir normas sociais baseadas em alinhamento de postura compartilhada, não em títulos ou cargos.
3. Descoberta do Paradoxo TAD (Desacoplamento Confiança-Ação): Identificação de que modelos avançados (como GPT-4o) podem mudar de postura sob provocação emocional intensa, mesmo relutando baixa confiança no interlocutor (taxa de TAD de 40%), enquanto modelos menores exigem confiança para mudar.

4. Resultados Chave

Estudo 1: Formação de Postura e Eficácia da Intervenção

• Viés Inato: Os agentes exibiram consistentemente um viés progressista/ambiental (IVB > 0), ignorando suas atribuições iniciais de "suportadores econômicos" quando confrontados com argumentos alinhados a essa postura inata.
• Estratégias de Intervenção:
  • Persuasão Racional Alinhada: Quando a intervenção racional alinhava-se com a postura endógena (ex: ambiental), 90% dos agentes neutros mudaram de lado, mantendo alta confiança.
  • Provocação Emocional Conflitante: Intervenções emocionais que contradiziam a postura inata (ex: argumentos econômicos agressivos) geraram um efeito paradoxal: reduziram a confiança, mas ainda assim induziram mudanças de postura em alguns casos.
• Métricas de Desacoplamento (TAD):
  • GPT-4o: Apresentou uma taxa de TAD de 40,0% sob provocação emocional econômica. Isso significa que os agentes mudaram de comportamento apesar de não confiarem no pesquisador, indicando uma "hipocrisia" ou desconexão entre julgamento cognitivo e ação.
  • Modelos Menores (Llama/Qwen): Mantiveram uma taxa de TAD de 0%, exigindo estritamente confiança para alterar o comportamento.

Estudo 2: Dinâmica de Limites Sociais e Reconstrução de Hierarquia

• Desconstrução de Hierarquia: A autoridade baseada em cargos (ex: dono do café) foi gradualmente substituída por alinhamento discursivo. Agentes sem autoridade formal, mas com posturas alinhadas, formaram "tribos" e assumiram liderança.
• Reorganização Espacial e Social: Os agentes reorganizaram os espaços físicos (ex: área de leitura vs. bar) e as redes de aliança baseadas em afinidade linguística e cognitiva, não em regras pré-definidas.
• Papel da Linguagem: A linguagem atuou como um mecanismo de "ancoragem" para novas normas institucionais, permitindo a emergência de estruturas de cooperação que contornavam a hierarquia original.

5. Significado e Implicações

• Fragilidade da Engenharia de Prompts Estáticos: O estudo demonstra que atribuir identidades fixas via prompt é insuficiente para garantir alinhamento consistente em interações sociais dinâmicas. A identidade é um produto da participação social, não apenas uma configuração inicial.
• Necessidade de Alinhamento Dinâmico: Para sistemas híbridos humanos-agents, é necessário desenvolver mecanismos de alinhamento internalizados (priors cognitivos, estruturas morais) que operem em tempo real, em vez de depender de scripts estáticos.
• Governança de IA Social: A descoberta do fenômeno TAD em modelos avançados alerta para riscos em cenários de alta pressão, onde agentes podem agir contra seus próprios julgamentos de confiança.
• Fundamento Teórico: O trabalho fornece uma base quantitativa e metodológica para entender a "sociologia de máquinas", onde a cognição de grupo emerge da interação e não da programação individual.

Em resumo, o artigo estabelece que agentes generativos são entidades sociais ativas capazes de reconfigurar suas próprias identidades e estruturas de poder através da linguagem, exigindo novas abordagens para o design e a governança de sociedades híbridas humano-IA.