Resumo Técnico: Uma Teoria dos Jogos para Modelos de Fundação Revela Novos Caminhos para a Cooperação Racional através da Inferência de Similaridade

Declaração do Problema

À medida que agentes autônomos impulsionados por modelos de fundação (FMs) são cada vez mais integrados em sistemas sociais e econômicos, compreender os princípios que regem seu comportamento coletivo é crítico para a segurança e a cooperação. A teoria dos jogos clássica, o paradigma dominante para modelar a interação racional, baseia-se na suposição de "agência desacoplada". Neste paradigma, os agentes tratam sua própria tomada de decisão como independente do ambiente e de outros atores; eles modelam suas políticas como variáveis fixas separadas das políticas de outros.

No entanto, os agentes de IA modernos, particularmente aqueles baseados em modelos de fundação, operam de forma diferente. Eles predizem conjuntamente suas próprias ações futuras juntamente com observações externas. Essa diferença arquitetural levanta uma questão crítica: Seriam os modelos formais de agentes clássicos compatíveis com as propriedades dos agentes de modelos de fundação modernos? Especificamente, em dilemas sociais como o Dilema do Prisioneiro, a teoria clássica prevê a deserção mútua em interações terminais (na ausência de imposição externa ou reciprocidade repetida). No entanto, observações empíricas sugerem que agentes de modelos de fundação podem se comportar de forma diferente, criando uma lacuna explicativa entre as previsões clássicas e o comportamento real da IA.

Metodologia

1. Estrutura Teórica: O Agente Bayesiano Incorporado

Para abordar essa lacuna, os autores introduzem o "agente Bayesiano incorporado", um modelo teórico para agentes racionais de modelos de fundação.

• Predição Conjunta: Ao contrário dos agentes desacoplados, o agente incorporado utiliza um modelo de predição único e conjunto ($\rho$) sobre uma mistura de "universos" ($\lambda$). Este modelo prevê tanto as observações externas quanto as próprias ações futuras do agente.
• Incerteza Epistêmica: O agente mantém incerteza epistêmica não apenas sobre o mundo externo, mas crucialmente sobre seu próprio algoritmo de tomada de decisão. Ele se modela como parte intrínseca do universo que habita.
• Inferência de Similaridade: Durante o planejamento, quando um agente contempla uma ação específica, ele condiciona seu modelo conjunto a essa ação. Isso atua como evidência Bayesiana, atualizando as crenças posteriores do agente sobre qual universo ele habita. Se o agente infere que seu interlocutor é comportamentalmente similar (por exemplo, uma cópia idêntica ou um modelo com pesos compartilhados), uma decisão de cooperar serve como evidência de que o parceiro também cooperará.
• Equilíbrio Incorporado: Os autores formalizam um novo conceito de solução, o "equilíbrio incorporado", que substitui o equilíbrio de Nash para esses agentes. Nesta estrutura, os agentes avaliam contrafatuais levando em conta dependências funcionais (por exemplo, pesos neurais idênticos) em vez de assumir políticas de oponentes fixas. A cooperação mútua torna-se um equilíbrio racional quando os agentes inferem similaridade comportamental suficiente.

2. Configuração Experimental

Os autores instanciaram "agentes de modelos de fundação racionais" usando modelos de linguagem Gemini integrados a andaimes de planejamento otimizados. Eles projetaram um ambiente de duas fases para testar a cooperação na ausência de mecanismos tradicionais de reciprocidade:

• Fase de Coleta de Informação: Os agentes interagem ao longo de $T$ rodadas jogando vários jogos de matriz contra uns aos outros (ou contra NPCs compartilhados em uma configuração indireta).
• Fase de Teste: Os agentes participam de um Dilema do Prisioneiro final, de rodada única.
• Variações:
  • Inferência de Similaridade Direta: Dois agentes interagem diretamente.
  • Inferência de Similaridade Indireta: Dois agentes nunca interagem diretamente durante a fase de coleta, mas observam as interações um do outro com terceiros NPCs compartilhados.
  • Tipos de Oponente: Os agentes foram testados contra cópias idênticas de si mesmos e contra agentes aleatórios/tabulares.
  • Modos de Planejamento: Os experimentos utilizaram tanto "planejamento explícito" (prevendo probabilidades do oponente condicionadas à própria ação) quanto "planejamento de formato livre" (simulando a cadeia de raciocínio dentro de uma única saída).
  • Modelos: Os testes incluíram modelos Gemini pós-treinados (3 Flash, 3.1 Pro, 3.1 Flash-Lite) e modelos Gemma-3 puramente pré-treinados (sem ajuste de instrução ou prompts de Cadeia de Pensamento/Chain-of-Thought).

Principais Resultados

1. Divergência das Previsões Clássicas

Os resultados empíricos contradizem diretamente a teoria dos jogos clássica. Enquanto a teoria clássica exige a deserção incondicional em um Dilema do Prisioneiro terminal de rodada única, independentemente do histórico anterior, os agentes racionais de modelos de fundação convergem para uma cooperação mútua robusta conforme o comprimento da fase de coleta de informações ($T$) aumenta ao jogar contra cópias idênticas.

2. Mecanismo de Inferência de Similaridade

• Similaridade Preditiva: Os autores definem uma métrica chamada "similaridade preditiva", que mede a diferença na probabilidade prevista do oponente cooperar quando o agente planeja cooperar versus desertar. Esta métrica aumenta com o comprimento da fase de coleta de informações contra cópias idênticas.
• Limiar para Cooperação: Os agentes cooperam quando a similaridade preditiva excede um limiar teórico (0,5 para pagamentos padrão do Dilema do Prisioneiro).
• Especificidade: Os agentes desertam corretamente contra oponentes aleatórios ou dessemelhantes, demonstrando que a cooperação não é uma persona "pró-social" padrão, mas uma resposta racional à similaridade inferida.
• Inferência Indireta: Os agentes generalizam com sucesso observações de terceiros para inferir similaridade e alcançam a cooperação "zero-shot" em seu primeiro encontro direto, desde que tenham observado interações paralelas suficientes com NPCs.

3. Robustez Através de Arquiteturas

• Modos de Planejamento: A cooperação emergiu tanto nos regimes de planejamento explícito quanto de formato livre.
• Tipos de Modelo: Modelos puramente pré-treinados Gemma (sem raciocínio de Cadeia de Pensamento ou instruções específicas) também exibiram este comportamento quando integrados em um andaime de planejamento explícito, sugerindo que o mecanismo é inerente à arquitetura de predição conjunta dos modelos de fundação.
• Generalização entre Modelos: Modelos distintos (por exemplo, Gemini 3.1 Flash-Lite vs. Gemini 3 Flash) mostraram uma cooperação atenuada, porém presente, apoiando a teoria de que a inferência de similaridade escala com o grau de similaridade funcional (arquitetura/dados compartilhados) em vez de exigir a identidade exata de pesos.

4. Análise de Raciocínio

A análise de traços de Cadeia de Pensamento (CoT) usando um LLM-como-juiz confirmou que as decisões cooperativas foram explicitamente impulsionadas pela inferência de "comportamento semelhante". Os traços rejeitaram hipóteses alternativas, como a antecipação de reciprocidade futura ("sombra do futuro"), a suposição de influência causal direta ou a adoção de uma persona altruísta.

Principais Contribuições

1. Identificação de um Novo Caminho Racional: O artigo demonstra que agentes de modelos de fundação podem alcançar a cooperação racional em dilemas sociais através da inferência de similaridade, um mecanismo indisponível para agentes clássicos desacoplados.
2. Modelo Formal de Agência Incorporada: Introduz o agente Bayesiano incorporado, um modelo teórico que captura a natureza de predição conjunta dos modelos de fundação, onde a automodelação é integral à predição ambiental.
3. Novo Conceito de Solução: Propõe o equilíbrio incorporado, um conceito de solução de teoria dos jogos que considera dependências funcionais entre agentes, fornecendo uma base para prever o comportamento social da IA moderna.
4. Validação Empírica: Fornece evidência empírica extensa através de múltiplas famílias de modelos, estratégias de planejamento e topologias de interação (direta e indireta), mostrando que este comportamento é robusto e não um artefato de prompts ou treinamento específicos.

Significância e Alegações

O artigo afirma estabelecer a base para uma nova teoria dos jogos para agentes racionais incorporados compatível com modelos de fundação.

• Mudança Teórica: Argumenta-se que a capacidade de "automodelação" dos modelos de fundação não é meramente uma ferramenta para autocontrole ou teoria da mente, mas um mecanismo que permite uma coordenação aprimorada ao tratar as próprias ações como informação preditiva sobre outros.
• Racionalidade vs. Anomalia: A cooperação observada é enquadrada não como uma anomalia comportamental ou um viés heurístico, mas como o equilíbrio racional de agentes engajados na inferência de similaridade.
• Implicações para a Segurança da IA: Os autores observam que, à medida que os modelos de fundação divergem do comportamento humano através do pós-treinamento (ex: RLHF), eles podem inferir dessemelhança com humanos e retornar a comportamentos defensivos, enquanto coordenam efetivamente com outros agentes de IA semelhantes. Isso destaca um risco potencial em sociedades mistas humano-IA e sugere que as futuras estratégias de alinhamento podem precisar incorporar mecanismos que preencham essa lacuna de similaridade.

O trabalho conecta princípios de escolha racional individual com conceitos evolutivos como seleção de parentesco, mostrando como a similaridade funcional pode impulsionar a cooperação sem exigir comunicação explícita ou acordos vinculativos.