CAMO: An Agentic Framework for Automated Causal Discovery from Micro Behaviors to Macro Emergence in LLM Agent Simulations

Título: CAMO: Um Framework Agêntico para Descoberta Causal Automatizada de Comportamentos Micro para Emergência Macro em Simulações de Agentes LLM

1. O Problema

As simulações de agentes impulsionadas por Grandes Modelos de Linguagem (LLMs) tornaram-se laboratórios poderosos para estudar fenômenos sociais complexos, como coordenação, formação de normas e polarização. No entanto, um desafio fundamental persiste: a "caixa preta" da emergência.

• Embora padrões macroscópicos emergentes sejam observados, os mecanismos causais que ligam comportamentos microscópicos (ações individuais dos agentes) e interações mesoscópicas a esses resultados macroscópicos permanecem obscuros.
• A emergência surge de interações entrelaçadas, feedbacks em nível meso e não-linearidades, tornando difícil desvendar os mecanismos gerativos.
• Métodos existentes de descoberta causal (estatísticos ou baseados apenas em LLMs) geralmente falham em ambientes adaptativos e emergentes, pois foram projetados para espaços de variáveis estáticos ou não conseguem lidar com a complexidade dinâmica de sistemas multiagente.
• Questão Central: Como recuperar automaticamente os mecanismos causais que ligam comportamentos micro/meso a um resultado macro emergente ($Y$) em simulações de agentes LLM, de forma que isso apoie tanto a explicação quanto a intervenção?

2. Metodologia: O Framework CAMO

O CAMO (Causal discovery from Micro behaviors to Macro Emergence) é um framework multiagente que não tenta recuperar a estrutura causal completa do simulador (o que é frequentemente inviável), mas foca em identificar um conjunto mínimo e suficiente de variáveis e caminhos causais a montante que explicam um resultado emergente específico.

O sistema opera através de um loop de auto-evolução rápida-lenta envolvendo cinco agentes LLM:

1. A1: Worldview Parser (Analisador de Visão de Mundo):
   • Converte conhecimento de domínio não estruturado em hipóteses causais estruturadas.
   • Extrai variáveis candidatas e relações, preservando conflitos de fontes heterogêneas como alternativas competitivas.
2. A2: Worldview Integrator (Integrador de Visão de Mundo):
   • Unifica variáveis semanticamente equivalentes e resolve conflitos entre diferentes perspectivas.
   • Seleciona uma "visão de mundo decisória" para a rodada atual e mantém um grafo de mecanismos que armazena caminhos causais a montante para revisão futura.
3. A3: Causal Cartographer (Cartógrafo Causal):
   • Refinamento Local: Realiza um loop de "adicionar-podar" (add-prune) para refinar o conjunto de fatores computáveis. Adiciona fatores que reduzem a incerteza condicional de $Y$ e remove redundâncias.
   • Descoberta Restrita: Executa descoberta causal baseada em restrições (gerando CPDAGs ou PAGs) sob as restrições estruturais da visão de mundo atual.
   • Subgrafo Explicativo: Constrói um subgrafo explicativo mínimo ($E_Y$) que conecta as raízes (comportamentos fundamentais) ao Markov Boundary de $Y$.
4. A4: Simulation Scriptwright (Roteirista de Simulação):
   • Converte arestas ambíguas ou prioritárias em scripts de intervenção executáveis dentro do simulador (ex: alterar prompts, políticas ou parâmetros de ambiente).
5. A5: Counterfactual Adjudicator (Juiz de Contrafactuais):
   • Executa intervenções pareadas (ex: $do(X=x)$ vs $do(X=x')$) dentro do simulador.
   • Usa evidências contrafactuais internas para orientar arestas ambíguas e validar hipóteses, atuando como um filtro de redundância e confirmação.

Objetivo de Saída:
O CAMO produz dois componentes principais:

1. Markov Boundary Computável ($MB_H(Y)$): O conjunto mínimo de variáveis suficientes para prever e intervir em $Y$.
2. Subgrafo Explicativo de Conexão Mínima ($E_Y$): Um grafo que traça os caminhos causais a montante (micro/meso) que explicam como a emergência surge, garantindo minimalidade e suficiência.

3. Contribuições Principais

1. Formulação do Problema: Define a descoberta causal micro-para-macro em simulações de agentes LLM como o problema de identificar uma explicação causal a montante mínima, mas suficiente, para um resultado emergente.
2. Framework CAMO: Apresenta o primeiro framework multiagente que combina priors de domínio, dados observacionais e contrafactuais internos ao simulador para estudar mecanismos de emergência.
3. Loop de Auto-Evolução: Introduz um mecanismo de loop rápido-lento que usa intervenções contrafactuais para curar hallucinations de priors e intervenções ruidosas, melhorando a robustez sem assumir identificabilidade global.
4. Validação Teórica e Empírica: Fornece garantias teóricas de convergência para um Markov Boundary computável e demonstra superioridade em experimentos reais.

4. Resultados Experimentais

Os experimentos foram conduzidos em quatro cenários de emergência, incluindo uma plataforma de entrega on-demand (O2O) baseada em dados reais (Meituan), Smallville (coordenação de agentes) e AgentSociety (polarização de opinião e disseminação de mensagens inflamatórias).

• Recuperação de Fatores e Estrutura:
  • O CAMO superou significativamente todas as baselines (métodos estatísticos puros como PC/FCI, métodos puramente baseados em LLM e híbridos) na recuperação do Markov Boundary e do conjunto de ancestrais.
  • No cenário de entrega O2O, o CAMO alcançou um F1 de 1.00 na recuperação do Markov Boundary e 0.98 na precisão de ancestrais (Anc-F1), enquanto as melhores baselines ficaram abaixo de 0.35.
  • O framework conseguiu recuperar a estrutura causal completa com o mínimo de arestas redundantes (menor SHD e FPR).
• Intervenções Eficazes (Sem Ground Truth):
  • Em cenários sem grafo causal de verdade conhecido, o CAMO foi capaz de classificar intervenções eficazes com maior precisão (Precision@5 e MAP@5) do que os métodos concorrentes.
  • Isso demonstra que o grafo aprendido pelo CAMO fornece orientações acionáveis reais para alterar resultados emergentes.
• Análise de Componentes:
  • Estudos de ablação mostraram que remover os agentes de visão de mundo (A1/A2) ou o módulo de contrafactuais (A5) degrada drasticamente o desempenho, confirmando a necessidade de integração de conhecimento e validação experimental.

5. Significado e Impacto

O trabalho do CAMO representa um avanço significativo na interseção entre IA Generativa e Ciência Causal:

• Interpretabilidade: Transforma simulações de agentes LLM de "caixas pretas" observacionais em sistemas explicáveis, revelando como e por que comportamentos macro emergem de interações micro.
• Intervenção Acionável: Fornece não apenas uma explicação, mas alavancas de intervenção concretas (ex: quais prompts ou políticas alterar) para controlar ou mitigar fenômenos emergentes indesejados (como polarização ou colapso de sistemas de entrega).
• Rigor Metodológico: Ao integrar dados observacionais com testes contrafactuais internos ao simulador, o CAMO supera as limitações de métodos puramente estatísticos (que não lidam com não-linearidades complexas) e de métodos puramente baseados em LLM (que sofrem com alucinações e falta de verificação empírica).

Em resumo, o CAMO oferece uma metodologia robusta para desvendar a complexidade de sistemas sociais simulados, permitindo que pesquisadores e desenvolvedores não apenas observem a emergência, mas a compreendam e a controlem de forma causalmente fundamentada.