Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

1. Formulação do Problema

O artigo aborda uma lacuna fundamental na teoria da decisão relativa à origem das probabilidades ação-resultado.

• Contexto: A teoria da decisão clássica (von Neumann-Morgenstern e Savage) fornece um critério formal para escolha racional: Maximizar a Utilidade Esperada (MUE). No entanto, essas estruturas dependem de informações associativas (probabilísticas) sem especificar a fonte das probabilidades utilizadas.
• A Lacuna: Embora os humanos raciocinem naturalmente de forma causal (distinguindo entre observar um evento e intervir para causá-lo), a teoria da decisão padrão frequentemente trata as probabilidades como meras associações estatísticas.
• O Desafio:
  1. Como formalizar a tomada de decisão quando a informação causal é conhecida (já abordado por Judea Pearl).
  2. Como formalizar a tomada de decisão quando o mecanismo causal que controla o ambiente é desconhecido para o agente racional.
  3. Como fundamentar as probabilidades necessárias para a MUE em modelos causais, e não apenas em dados observacionais, especificamente em casos de conhecimento causal incompleto.

2. Metodologia e Estrutura Teórica

Os autores constroem uma ponte entre a Teoria da Decisão Clássica e a Inferência Causal (especificamente os Modelos Gráficos Causais de Pearl).

A. Definições Fundamentais

• Ambiente Causal: Definido como um ambiente incerto $(\Omega, A, C, E)$ acrescido de um Modelo Gráfico Causal (MGC) $G$. O MGC codifica relações causais entre ações ($A$) e consequências ($C$), bem como outras variáveis ambientais.
• Intervenção ($do(\cdot)$): O mecanismo central que distingue modelos causais de associativos. Uma ação $a$ é modelada como uma intervenção $do(a)$, que modifica a distribuição conjunta de variáveis fixando o valor de uma variável e removendo as arestas de entrada para aquele nó no grafo.
• Problema de Decisão Causal (PDC): Uma tupla $(\Omega, A, G, E, C, \succeq)$ onde o tomador de decisão escolhe uma ação para maximizar a utilidade com base no modelo causal.

B. Abordagem Teórica

O artigo prossegue em duas etapas teóricas principais:

1. Revisão da Informação Causal Conhecida: Reconhece o resultado de Pearl (2009), onde um agente racional com um modelo causal conhecido $G$ escolhe a ação $a^*$ para maximizar $\sum P_G(c | do(a))u(c)$.
2. Extensão para Informação Causal Desconhecida: A contribuição metodológica central é estender isso para cenários onde o agente não conhece o modelo causal verdadeiro $G$.
   • Hipótese: Um agente racional com estrutura causal desconhecida mantém crenças subjetivas sobre uma família de estruturas causais possíveis ($\mathcal{F}$).
   • Mecanismo: O agente trata cada estrutura causal possível $g \in \mathcal{F}$ como uma verdade potencial, calcula a utilidade esperada dentro dessa estrutura usando o operador $do$ e, em seguida, agrega essas utilidades ponderadas pela probabilidade que o agente atribui a cada estrutura.

3. Contribuições Principais

A. Teorema 4.2: Tomada de Decisão com Modelos Causais Desconhecidos

A principal contribuição teórica do artigo é o Teorema 4.2, que fornece um teorema de representação para a tomada de decisão racional sob informação causal desconhecida.

• Declaração: Uma relação de preferência $\succeq$ sobre ações em um Problema de Decisão Causal finito e limitado é racional se e somente se existir:

  1. Uma função de utilidade $u: C \to \mathbb{R}$.
  2. Uma distribuição de probabilidade $P_C$ sobre uma família não vazia de modelos gráficos causais $\mathcal{F}$.

• Regra de Decisão: O agente escolhe a ação $a$ sobre $b$ se e somente se:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  Onde:

  • $P_C(g)$ é a crença subjetiva do agente de que a estrutura causal $g$ é o modelo verdadeiro.
  • $P_g(c | do(a))$ é a probabilidade da consequência $c$ dada a intervenção $do(a)$ dentro do modelo causal específico $g$.

• Significado: Isso prova que as probabilidades ação-resultado podem ser fundamentadas em modelos causais mesmo quando o mecanismo causal específico é desconhecido. A "probabilidade" usada no cálculo da utilidade esperada é uma distribuição de mistura sobre estruturas causais.

B. Definição de Equilíbrio de Nash Causal

Os autores aplicam o Teorema 4.2 à Teoria dos Jogos para definir um Equilíbrio de Nash Causal.

• Contexto: Em um jogo estratégico bayesiano, os jogadores têm informação incompleta sobre o modelo causal verdadeiro $\omega$ que rege o ambiente.
• Definição: Um perfil de ações $a^*$ é um Equilíbrio de Nash Causal se nenhum jogador $i$ puder melhorar sua Utilidade Esperada Causal ($u^C_i$) alterando unilateralmente sua ação, dadas suas crenças sobre a estrutura causal e as ações dos outros.
• Fórmula:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  Esta formulação incorpora explicitamente o operador $do$, distinguindo-se dos Equilíbrios de Nash padrão que dependem de probabilidades condicionais $P(c | a_i, a_{-i})$.

4. Resultados

1. Fundamentação Formal: O artigo demonstra com sucesso que as probabilidades necessárias para o Princípio da Utilidade Esperada podem ser derivadas de modelos causais, resolvendo o debate sobre a "origem" dessas probabilidades.
2. Generalização: O resultado generaliza o critério de modelo causal conhecido de Pearl para o cenário mais realista de mecanismos causais desconhecidos.
3. Implementabilidade Computacional: A estrutura fornece um critério computacionalmente implementável. Um agente pode aprender uma distribuição sobre estruturas causais (por exemplo, via algoritmos de aprendizado de estrutura) e usar a fórmula derivada para tomar decisões ótimas.
4. Extensão em Teoria dos Jogos: O artigo estabelece que conceitos padrão da teoria dos jogos, como Equilíbrio de Nash, podem ser rigorosamente estendidos para ambientes onde os agentes raciocinam causalmente e não apenas associativamente.

5. Significado e Implicações

• Conectando IA e Filosofia: O trabalho conecta o debate filosófico entre a Teoria da Decisão Causal (TDC) e a Teoria da Decisão Evidencial (TDE) com a aprendizagem de máquina prática e a tomada de decisão em IA. Fornece uma justificação matemática para o uso do raciocínio causal por agentes.
• Robustez a Mudanças de Distribuição: Ao fundamentar decisões em mecanismos causais (intervenções) e não em correlações, a estrutura é teoricamente mais robusta a mudanças no ambiente (mudanças de distribuição) onde modelos puramente associativos falhariam.
• IA Centrada no Humano: Como os humanos usam naturalmente o raciocínio causal (e tendem a ignorar informações puramente probabilísticas em favor de explicações causais), esta estrutura oferece uma base mais "compatível com humanos" para o design de agentes de IA racionais.
• Interação Estratégica: A introdução do Equilíbrio de Nash Causal abre novas vias para analisar interações estratégicas em economia e sistemas multiagente onde as dinâmicas causais subjacentes são incertas.

Conclusão

O artigo argumenta que a tomada de decisão racional sob incerteza é fundamentalmente um processo causal. Ao estender o Princípio da Utilidade Esperada para incluir uma distribuição sobre modelos causais, os autores fornecem uma base matemática rigorosa para a tomada de decisão quando os mecanismos causais são desconhecidos, garantindo que as probabilidades ação-resultado sejam fundamentadas na realidade estrutural do ambiente e não em mera associação estatística.