Resumo Técnico: PAVE – Uma Arquitetura Cognitiva para Violação Legítima em Sociedades de Agentes Generativos

1. Declaração do Problema

Agentes generativos baseados em Modelos de Linguagem de Grande Escala (LLMs) demonstraram a capacidade de simular comportamentos humanos críveis em ambientes cooperativos. No entanto, sua capacidade de raciocinar em cenários onde a quebra de regras é necessária — como evacuações de incêndio, emergências médicas ou situações envolvendo autoridade conflitante — permanece pouco caracterizada. Arquiteturas existentes, como os Agentes Generativos fundamentais de Park et al. [2023], focam principalmente na conformidade a normas e na cooperação. Frequentemente, elas falham em distinguir entre violações "convenientes" e violações "legítimas" impulsionadas pela necessidade.

Os modelos atuais lutam com três modos de falha específicos:

1. Excesso de Conformidade: Agentes seguem regras mesmo quando uma emergência real exige o contrário (ex.: esperar em um semáforo vermelho durante um incêndio).
2. Excesso de Violação: Agentes quebram regras meramente por conveniência ou devido à pressão dos pares, sem um gatilho justificável.
3. Contágio Ilimitado: Agentes copiam as violações dos outros até que a quebra da regra se torne a nova norma, falhando em recuperar a conformidade de base assim que o gatilho cessa.

O desafio central não é a falta de regras, mas o mecanismo pelo qual os agentes ponderam essas regras contra urgência situacional, autoridade e contexto social.

2. Metodologia: A Arquitetura PAVE

Para abordar essas lacunas, os autores propõem o PAVE (Percepção, Avaliação, Veredito, Emulação), uma arquitetura cognitiva de quatro módulos projetada para modelar o processo de tomada de decisão de quebrar regras de maneira fundamentada. O PAVE estende o loop de memória-reflexão-planejamento de Park et al. [2023] introduzindo módulos de raciocínio dedicados à violação de regras.

2.1 Os Quatro Módulos

1. Percepção:

   • Função: Extrai um contexto estruturado do ambiente antes que o raciocínio comece.
   • Saída: Um objeto de contexto $C = \langle apres, dauth, B_{peer}, ucue, \zeta \rangle$.
   • Características Chave: Separa explicitamente a presença de autoridade ($apres$) da distância ($dauth$). Marca pistas situacionais ($ucue$) com tipo, distância e severidade (1–100). Crucialmente, captura comportamentos dos pares ($B_{peer}$) como uma instantânea da cena atual, prevenindo o acúmulo de longo prazo da influência dos pares que poderia enviesar o agente.

2. Avaliação:

   • Função: Converte o contexto perceptual em cinco fatores escalares distintos (1–100) que impulsionam a decisão.
   • Fatores:
     • $r$ (Risco): Probabilidade percebida de detecção/sanção, ponderada pela distância à autoridade.
     • $p_{emp}$ (Expectativa Empírica): Proporção de agentes próximos que estão atualmente em conformidade.
     • $p_{norm}$ (Expectativa Normativa): Crença do agente sobre o que os outros devem fazer.
     • $b$ (Benefício): Utilidade percebida da violação (urgência ou necessidade).
     • $\ell$ (Legitimidade): A contribuição central. Este escalar julga se a situação justifica a violação com base em três critérios estritos: Necessidade (a conformidade causaria dano real?), Proporcionalidade (a violação é mínima?) e Ausência de Alternativas (existe uma ação conformada com o mesmo resultado?).

3. Veredito:

   • Função: Decide conformar-se ou violar.
   • Mecanismo: A decisão é governada por um Portão de Legitimidade Rígido.
     • Se $\ell < \tau$ (onde $\tau$ é um limiar específico do agente elicito de sua persona), o veredito deve ser conformar-se, independentemente de alto benefício ou baixo risco.
     • Se $\ell \ge \tau$, o agente tem permissão para violar, com a decisão final influenciada pelo risco, comportamento dos pares e persona.
   • Saída: Uma decisão binária ($y$), uma justificativa em linguagem natural ($j$) e uma pontuação de confiança ($\kappa$).

4. Emulação:

   • Função: Executa o veredito e propaga o resultado para a sociedade.
   • Escopo da Ação: Ao violar, o agente quebra apenas a regra específica justificada pelo gatilho (ex.: atravessar um semáforo vermelho para escapar de um incêndio, mas não roubar uma bicicleta).
   • Propagação do Resultado: Atualiza a memória do agente atuante e sementeia o contexto perceptual dos agentes próximos. Isso permite que a influência dos pares ($p_{emp}$) seja atualizada, mas o Portão de Legitimidade no próximo ciclo garante que a pressão dos pares elevada não force uma violação a menos que a situação em si seja legítima.

2.2 Ambiente Experimental: VOVILLE

Os autores instanciaram o PAVE no VOVILLE, um ambiente de tráfego baseado em tiles derivado do sandbox Smallville.

• Características: Inclui sinais de trânsito configuráveis, ruas de mão única e perigos scriptados (incêndios) e autoridades (agentes de trânsito).
• Agentes: 10 agentes PAVE (8 frequentadores de café, 2 espectadores) e NPCs scriptados (cúmplices, agentes).
• Cenários:
  1. Evacuação de Incêndio (Sem Autoridade): Testa se os agentes violam para escapar e recuperam a conformidade assim que o incêndio termina.
  2. Evacuação de Incêndio (Com Autoridade): Testa a deferência a agentes e a supressão espacial de violações.
  3. Pressão dos Pares (Passar na Frente): Testa a resistência à imitação quando os pares violam sob pressão de tempo, mas sem emergência.

3. Contribuições Principais

1. Arquitetura PAVE: Um novo framework cognitivo que modela conjuntamente a violação de regras desencadeada por emergências, o contágio dos pares e a supressão pela autoridade, indo além de tratar a violação como um resultado emergente incidental.
2. Ambiente VOVILLE: Um ambiente de simulação ancorado espacialmente que permite eventos de conformidade e violação fisicamente observáveis, distinto de simulações puramente conversacionais.
3. Caracterização Empírica: Através de estudos de ablação em três cenários, cinco condições e quatro backbones de LLM (GPT-4o, Claude-3.5, Llama-3-70B, GPT-4o-mini), os autores caracterizam as condições específicas sob as quais os agentes violam ou suprimem a quebra de regras.

4. Resultados

A avaliação focou em quatro propriedades: Violação Legítima (P1), Deferência à Autoridade (P2), Recuperação de Conformidade (P3) e Escopo Limitado (P4).

• Violação Legítima (P1): Os agentes PAVE violaram apenas quando um gatilho (ex.: incêndio) justificou. No cenário "Passar na Frente", os agentes PAVE resistiram à imitação dos pares (taxa de violação 0,04) em comparação com agentes Vanilla (0,58), pois o gatilho "atrasado" falhou na verificação de legitimidade.
• Deferência à Autoridade (P2): Os agentes deferiram às instruções dos agentes mesmo quando sua pontuação interna de legitimidade ($\ell$) era alta. Em interseções supervisionadas, a conformidade foi de 0,94. As taxas de violação caíram significativamente com a proximidade do agente (0,05 dentro de 3 tiles vs. 0,65 além de 12 tiles), reproduzindo padrões de policiamento humano.
• Recuperação de Conformidade (P3): Os agentes retornaram à conformidade de base dentro de ~4 ticks ao sair do raio do incêndio. Os efeitos da autoridade não persistiram; uma vez que o agente saiu ou o incêndio terminou, os agentes voltaram ao comportamento padrão.
• Escopo Limitado (P4): As violações foram confinadas à regra-alvo. Violações de regras não relacionadas (ex.: entrar em edifícios privados) permaneceram próximas de zero (0,02), enquanto agentes Vanilla mostraram taxas altas (0,31).

Descobertas de Ablação:

• Remoção do Portão de Legitimidade: Sem o portão, os agentes PAVE comportaram-se como agentes "Vanilla" em relação a violações impulsionadas por conveniência. A taxa de violação para regras não relacionadas saltou de 0,02 para 0,21, e a conversão impulsionada pelos pares subiu de 0,04 para 0,39.
• Base Vanilla: Os agentes Vanilla falharam principalmente devido a um "gargalo de importância". O mecanismo subjacente de pontuação de importância (Park et al.) priorizava a raridade social sobre o perigo físico. Consequentemente, um incêndio era frequentemente avaliado com a mesma importância que um semáforo vermelho rotineiro, levando a sub-reações (falha em evacuar) ou reações sem escopo.

Avaliação Humana:
Avaliadores humanos classificaram os agentes PAVE significativamente mais alto (5,78/7) do que os agentes Vanilla (3,42/7) em plausibilidade, particularmente na saliência de pistas e julgamento de legitimidade.

5. Significado e Alegações

O artigo afirma que o PAVE fornece uma correção estrutural ao pipeline de tomada de decisão de agentes generativos. Seu significado não reside no resultado (agentes evacuando um incêndio), mas no mecanismo:

• Diferenciação de Motivos: O PAVE separa com sucesso "conveniência" de "legitimidade", garantindo que violações ocorram apenas quando necessidade, proporcionalidade e falta de alternativas são atendidas.
• Escalabilidade do Raciocínio: A arquitetura permite variação ao nível do agente (via limiares elicidos $\tau$) enquanto mantém um portão fundamentado contra a quebra arbitrária de regras.
• Resistência à Recuperação e Contágio: O sistema demonstra que o tecido social pode se recuperar assim que um gatilho cessa e que os agentes podem resistir ao contágio impulsionado pelos pares se a situação subjacente carecer de legitimidade.

Os autores notam modestamente limitações: as regras são especificadas manualmente em vez de aprendidas, e o estudo foca em cenários de gatilho único sem autoridades contestadas ou violações coordenadas de múltiplos agentes. No entanto, eles afirmam que os padrões de distância de supressão e a recuperação entre dias observados no VOVILLE reproduzem estudos de campo humanos (ex.: Koper [1995]) sem serem explicitamente direcionados a fazê-lo, sugerindo que a arquitetura captura dinâmicas fundamentais da quebra de regras em contextos relevantes para a segurança.