Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

A continuación se presenta un resumen técnico detallado del artículo "Elegir con información causal desconocida: Las probabilidades acción-resultado para la toma de decisiones pueden fundamentarse en modelos causales" de Mauricio Gonzalez Soto et al.

1. Planteamiento del Problema

El artículo aborda una brecha fundamental en la teoría de la decisión respecto al origen de las probabilidades acción-resultado.

• Contexto: La teoría de la decisión clásica (von Neumann-Morgenstern y Savage) proporciona un criterio formal para la elección racional: Maximizar la Utilidad Esperada (MUE). Sin embargo, estos marcos dependen de información asociativa (probabilística) sin especificar el origen de las probabilidades utilizadas.
• La Brecha: Aunque los humanos razonan naturalmente de manera causal (distinguiendo entre observar un evento e intervenir para causarlo), la teoría de la decisión estándar a menudo trata las probabilidades como meras asociaciones estadísticas.
• El Desafío:
  1. Cómo formalizar la toma de decisiones cuando la información causal es conocida (ya abordado por Judea Pearl).
  2. Cómo formalizar la toma de decisiones cuando el mecanismo causal que controla el entorno es desconocido para el agente racional.
  3. Cómo fundamentar las probabilidades requeridas para la MUE en modelos causales y no solo en datos observacionales, específicamente en casos de conocimiento causal incompleto.

2. Metodología y Marco Teórico

Los autores construyen un puente entre la Teoría de la Decisión Clásica y la Inferencia Causal (específicamente los Modelos Gráficos Causales de Pearl).

A. Definiciones Fundamentales

• Entorno Causal: Definido como un entorno incierto $(\Omega, A, C, E)$ aumentado con un Modelo Gráfico Causal (MGC) $G$. El MGC codifica las relaciones causales entre acciones ($A$) y consecuencias ($C$), así como otras variables ambientales.
• Intervención ($do(\cdot)$): El mecanismo central que distingue los modelos causales de los asociativos. Una acción $a$ se modela como una intervención $do(a)$, que modifica la distribución conjunta de variables fijando el valor de una variable y eliminando las aristas entrantes a ese nodo en el grafo.
• Problema de Decisión Causal (PDC): Una tupla $(\Omega, A, G, E, C, \succeq)$ donde el tomador de decisiones elige una acción para maximizar la utilidad basada en el modelo causal.

B. Enfoque Teórico

El artículo procede en dos pasos teóricos principales:

1. Revisión de Información Causal Conocida: Reconoce el resultado de Pearl (2009) donde un agente racional con un modelo causal conocido $G$ elige la acción $a^*$ para maximizar $\sum P_G(c | do(a))u(c)$.
2. Extensión a Información Causal Desconocida: La contribución metodológica central es extender esto a escenarios donde el agente no conoce el modelo causal verdadero $G$.
   • Hipótesis: Un agente racional con estructura causal desconocida mantiene creencias subjetivas sobre una familia de estructuras causales posibles ($\mathcal{F}$).
   • Mecanismo: El agente trata cada estructura causal posible $g \in \mathcal{F}$ como una verdad potencial, calcula la utilidad esperada dentro de esa estructura utilizando el operador $do$, y luego agrega estas utilidades ponderadas por la probabilidad que el agente asigna a cada estructura.

3. Contribuciones Clave

A. Teorema 4.2: Toma de Decisiones con Modelos Causales Desconocidos

La contribución teórica principal del artículo es el Teorema 4.2, que proporciona un teorema de representación para la toma de decisiones racional bajo información causal desconocida.

• Enunciado: Una relación de preferencia $\succeq$ sobre acciones en un Problema de Decisión Causal finito y acotado es racional si y solo si existe:

  1. Una función de utilidad $u: C \to \mathbb{R}$.
  2. Una distribución de probabilidad $P_C$ sobre una familia no vacía de modelos gráficos causales $\mathcal{F}$.

• Regla de Decisión: El agente elige la acción $a$ sobre $b$ si y solo si:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  Donde:

  • $P_C(g)$ es la creencia subjetiva del agente de que la estructura causal $g$ es el modelo verdadero.
  • $P_g(c | do(a))$ es la probabilidad de la consecuencia $c$ dada la intervención $do(a)$ dentro del modelo causal específico $g$.

• Significado: Esto demuestra que las probabilidades acción-resultado pueden fundamentarse en modelos causales incluso cuando el mecanismo causal específico es desconocido. La "probabilidad" utilizada en el cálculo de la utilidad esperada es una distribución de mezcla sobre estructuras causales.

B. Definición de Equilibrio de Nash Causal

Los autores aplican el Teorema 4.2 a la Teoría de Juegos para definir un Equilibrio de Nash Causal.

• Contexto: En un juego estratégico bayesiano, los jugadores tienen información incompleta sobre el modelo causal verdadero $\omega$ que gobierna el entorno.
• Definición: Un perfil de acciones $a^*$ es un Equilibrio de Nash Causal si ningún jugador $i$ puede mejorar su Utilidad Esperada Causal ($u^C_i$) cambiando unilateralmente su acción, dadas sus creencias sobre la estructura causal y las acciones de los demás.
• Fórmula:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  Esta formulación incorpora explícitamente el operador $do$, distinguiéndolo de los Equilibrios de Nash estándar que dependen de probabilidades condicionales $P(c | a_i, a_{-i})$.

4. Resultados

1. Fundamentación Formal: El artículo demuestra exitosamente que las probabilidades requeridas para el Principio de Utilidad Esperada pueden derivarse de modelos causales, resolviendo el debate sobre el "origen" de estas probabilidades.
2. Generalización: El resultado generaliza el criterio de modelo causal conocido de Pearl al escenario más realista de mecanismos causales desconocidos.
3. Implementabilidad Computacional: El marco proporciona un criterio computacionalmente implementable. Un agente puede aprender una distribución sobre estructuras causales (por ejemplo, mediante algoritmos de aprendizaje de estructura) y utilizar la fórmula derivada para tomar decisiones óptimas.
4. Extensión Teórica de Juegos: El artículo establece que conceptos estándar de la teoría de juegos, como el Equilibrio de Nash, pueden extenderse rigurosamente a entornos donde los agentes razonan causalmente y no asociativamente.

5. Significado e Implicaciones

• Puente entre IA y Filosofía: El trabajo conecta el debate filosófico entre la Teoría de la Decisión Causal (TDC) y la Teoría de la Decisión Evidencial (TDE) con el aprendizaje automático práctico y la toma de decisiones en IA. Proporciona una justificación matemática de por qué los agentes deben utilizar el razonamiento causal.
• Robustez ante Cambios de Distribución: Al fundamentar las decisiones en mecanismos causales (intervenciones) y no en correlaciones, el marco es teóricamente más robusto ante cambios en el entorno (cambios de distribución) donde los modelos puramente asociativos fallarían.
• IA Centrada en el Humano: Dado que los humanos utilizan naturalmente el razonamiento causal (y tienden a ignorar la información puramente probabilística en favor de explicaciones causales), este marco ofrece una base más "compatible con el humano" para diseñar agentes de IA racionales.
• Interacción Estratégica: La introducción del Equilibrio de Nash Causal abre nuevas vías para analizar interacciones estratégicas en economía y sistemas multiagente donde las dinámicas causales subyacentes son inciertas.

Conclusión

El artículo argumenta que la toma de decisiones racional bajo incertidumbre es fundamentalmente un proceso causal. Al extender el Principio de Utilidad Esperada para incluir una distribución sobre modelos causales, los autores proporcionan una base matemática rigurosa para la toma de decisiones cuando los mecanismos causales son desconocidos, asegurando que las probabilidades acción-resultado se fundamenten en la realidad estructural del entorno y no en meras asociaciones estadísticas.