Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

1. Enunciato del Problema

Il paper affronta un divario fondamentale nella teoria della decisione riguardante l'origine delle probabilità azione-esito.

• Contesto: La teoria della decisione classica (von Neumann-Morgenstern e Savage) fornisce un criterio formale per la scelta razionale: Massimizzare l'Utilità Attesa (MEU). Tuttavia, questi framework si basano su informazioni associative (probabilistiche) senza specificare la fonte delle probabilità utilizzate.
• Il Divario: Sebbene gli esseri umani ragionino naturalmente in modo causale (distinguendo tra osservare un evento e intervenire per causarlo), la teoria della decisione standard tratta spesso le probabilità come semplici associazioni statistiche.
• La Sfida:
  1. Come formalizzare il processo decisionale quando le informazioni causali sono note (già affrontato da Judea Pearl).
  2. Come formalizzare il processo decisionale quando il meccanismo causale che controlla l'ambiente è sconosciuto all'agente razionale.
  3. Come fondare le probabilità richieste per la MEU su modelli causali piuttosto che su semplici dati osservazionali, specificamente in casi di conoscenza causale incompleta.

2. Metodologia e Framework Teorico

Gli autori costruiscono un ponte tra la Teoria della Decisione Classica e l'Inferenza Causale (in particolare i Modelli Grafici Causali di Pearl).

A. Definizioni Fondamentali

• Ambiente Causale: Definito come un ambiente incerto $(\Omega, A, C, E)$ arricchito con un Modello Grafico Causale (CGM) $G$. Il CGM codifica le relazioni causali tra azioni ($A$) e conseguenze ($C$), nonché altre variabili ambientali.
• Intervento ($do(\cdot)$): Il meccanismo fondamentale che distingue i modelli causali da quelli associativi. Un'azione $a$ è modellata come un intervento $do(a)$, che modifica la distribuzione congiunta delle variabili fissando il valore di una variabile e rimuovendo gli archi in entrata verso quel nodo nel grafo.
• Problema Decisionale Causale (CDP): Una tupla $(\Omega, A, G, E, C, \succeq)$ in cui il decisore sceglie un'azione per massimizzare l'utilità basandosi sul modello causale.

B. Approccio Teorico

Il paper procede in due principali passaggi teorici:

1. Revisione delle Informazioni Causali Note: Riconosce il risultato di Pearl (2009) in cui un agente razionale con un modello causale noto $G$ sceglie l'azione $a^*$ per massimizzare $\sum P_G(c | do(a))u(c)$.
2. Estensione alle Informazioni Causali Sconosciute: Il contributo metodologico principale è l'estensione di ciò a scenari in cui l'agente non conosce il vero modello causale $G$.
   • Ipotesi: Un agente razionale con struttura causale sconosciuta detiene credenze soggettive su una famiglia di possibili strutture causali ($\mathcal{F}$).
   • Meccanismo: L'agente tratta ogni possibile struttura causale $g \in \mathcal{F}$ come una verità potenziale, calcola l'utilità attesa all'interno di quella struttura utilizzando l'operatore $do$, e poi aggrega queste utilità pesate per la probabilità che l'agente assegna a ciascuna struttura.

3. Contributi Chiave

A. Teorema 4.2: Processo Decisionale con Modelli Causali Sconosciuti

Il contributo teorico primario del paper è il Teorema 4.2, che fornisce un teorema di rappresentazione per il processo decisionale razionale sotto informazioni causali sconosciute.

• Enunciato: Una relazione di preferenza $\succeq$ sulle azioni in un Problema Decisionale Causale finito e limitato è razionale se e solo se esiste:

  1. Una funzione di utilità $u: C \to \mathbb{R}$.
  2. Una distribuzione di probabilità $P_C$ su una famiglia non vuota di modelli grafici causali $\mathcal{F}$.

• Regola Decisionale: L'agente sceglie l'azione $a$ rispetto a $b$ se e solo se:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  Dove:

  • $P_C(g)$ è la credenza soggettiva dell'agente che la struttura causale $g$ sia il modello vero.
  • $P_g(c | do(a))$ è la probabilità della conseguenza $c$ dato l'intervento $do(a)$ all'interno del specifico modello causale $g$.

• Significato: Ciò dimostra che le probabilità azione-esito possono essere fondate su modelli causali anche quando il meccanismo causale specifico è sconosciuto. La "probabilità" utilizzata nel calcolo dell'utilità attesa è una distribuzione di miscela sulle strutture causali.

B. Definizione di Equilibrio di Nash Causale

Gli autori applicano il Teorema 4.2 alla Teoria dei Giochi per definire un Equilibrio di Nash Causale.

• Contesto: In un gioco strategico bayesiano, i giocatori hanno informazioni incomplete sul vero modello causale $\omega$ che governa l'ambiente.
• Definizione: Un profilo di azioni $a^*$ è un Equilibrio di Nash Causale se nessun giocatore $i$ può migliorare la propria Utilità Attesa Causale ($u^C_i$) cambiando unilateralmente la propria azione, date le proprie credenze sulla struttura causale e sulle azioni degli altri.
• Formula:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  Questa formulazione incorpora esplicitamente l'operatore $do$, distinguendosi dagli Equilibri di Nash standard che si basano su probabilità condizionali $P(c | a_i, a_{-i})$.

4. Risultati

1. Fondamento Formale: Il paper dimostra con successo che le probabilità richieste per il Principio dell'Utilità Attesa possono essere derivate da modelli causali, risolvendo il dibattito sull'"origine" di queste probabilità.
2. Generalizzazione: Il risultato generalizza il criterio del modello causale noto di Pearl allo scenario più realistico di meccanismi causali sconosciuti.
3. Implementabilità Computazionale: Il framework fornisce un criterio implementabile computazionalmente. Un agente può apprendere una distribuzione sulle strutture causali (ad esempio, tramite algoritmi di apprendimento della struttura) e utilizzare la formula derivata per prendere decisioni ottimali.
4. Estensione Teorico-Giochistica: Il paper stabilisce che concetti teorico-giochistici standard come l'Equilibrio di Nash possono essere rigorosamente estesi ad ambienti in cui gli agenti ragionano in modo causale piuttosto che associativo.

5. Significato e Implicazioni

• Collegamento tra IA e Filosofia: Il lavoro collega il dibattito filosofico tra Teoria della Decisione Causale (CDT) e Teoria della Decisione Evidenziale (EDT) con l'apprendimento automatico pratico e il processo decisionale dell'IA. Fornisce una giustificazione matematica del perché gli agenti dovrebbero utilizzare il ragionamento causale.
• Robustezza allo Shift di Distribuzione: Fondando le decisioni su meccanismi causali (interventi) piuttosto che su correlazioni, il framework è teoricamente più robusto ai cambiamenti nell'ambiente (shift di distribuzione) dove i modelli puramente associativi fallirebbero.
• IA Centrata sull'Uomo: Poiché gli esseri umani utilizzano naturalmente il ragionamento causale (e tendono a ignorare le informazioni puramente probabilistiche a favore di spiegazioni causali), questo framework offre una base più "compatibile con l'uomo" per la progettazione di agenti IA razionali.
• Interazione Strategica: L'introduzione dell'Equilibrio di Nash Causale apre nuove vie per analizzare le interazioni strategiche in economia e nei sistemi multi-agente dove le dinamiche causali sottostanti sono incerte.

Conclusione

Il paper sostiene che il processo decisionale razionale in condizioni di incertezza è fondamentalmente un processo causale. Estendendo il Principio dell'Utilità Attesa per includere una distribuzione sui modelli causali, gli autori forniscono una solida base matematica per il processo decisionale quando i meccanismi causali sono sconosciuti, garantendo che le probabilità azione-esito siano fondate sulla realtà strutturale dell'ambiente piuttosto che su una mera associazione statistica.