Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

1. Problemstellung

Das Papier adressiert eine fundamentale Lücke in der Entscheidungstheorie hinsichtlich des Ursprungs von Aktions-Ergebnis-Wahrscheinlichkeiten.

• Kontext: Die klassische Entscheidungstheorie (von Neumann-Morgenstern und Savage) liefert ein formales Kriterium für rationale Wahl: Maximierung des Erwartungsnutzens (MEU). Diese Rahmenwerke verlassen sich jedoch auf assoziative (probabilistische) Informationen, ohne die Quelle der verwendeten Wahrscheinlichkeiten zu spezifizieren.
• Die Lücke: Während Menschen natürlicherweise kausal reasoning betreiben (Unterscheidung zwischen dem Beobachten eines Ereignisses und dem Eingreifen, um es zu verursachen), behandelt die Standard-Entscheidungstheorie Wahrscheinlichkeiten oft als rein statistische Assoziationen.
• Die Herausforderung:
  1. Wie man Entscheidungsfindung formalisiert, wenn kausale Informationen bekannt sind (bereits von Judea Pearl adressiert).
  2. Wie man Entscheidungsfindung formalisiert, wenn der kausale Mechanismus, der die Umwelt steuert, für den rationalen Akteur unbekannt ist.
  3. Wie man die für MEU erforderlichen Wahrscheinlichkeiten in kausalen Modellen verankert und nicht nur in Beobachtungsdaten, insbesondere in Fällen unvollständiger kausaler Kenntnisse.

2. Methodik und Theoretischer Rahmen

Die Autoren bauen eine Brücke zwischen Klassischer Entscheidungstheorie und Kausaler Inferenz (insbesondere Pearls Kausale Graphische Modelle).

A. Fundamentale Definitionen

• Kausale Umwelt: Definiert als eine unsichere Umwelt $(\Omega, A, C, E)$, erweitert um ein Kausales Graphisches Modell (CGM) $G$. Das CGM kodiert kausale Beziehungen zwischen Aktionen ($A$) und Konsequenzen ($C$) sowie anderen Umweltvariablen.
• Intervention ($do(\cdot)$): Der Kernmechanismus, der kausale von assoziativen Modellen unterscheidet. Eine Aktion $a$ wird als Intervention $do(a)$ modelliert, die die gemeinsame Verteilung von Variablen modifiziert, indem sie den Wert einer Variable fixiert und eingehende Kanten zu diesem Knoten im Graphen entfernt.
• Kausales Entscheidungsproblem (CDP): Ein Tupel $(\Omega, A, G, E, C, \succeq)$, bei dem der Entscheidungsträger eine Aktion wählt, um den Nutzen basierend auf dem kausalen Modell zu maximieren.

B. Theoretischer Ansatz

Das Papier verfährt in zwei Hauptschritten:

1. Überblick über bekannte kausale Informationen: Es anerkennt Pearls (2009) Ergebnis, wonach ein rationaler Akteur mit einem bekannten kausalen Modell $G$ die Aktion $a^*$ wählt, um $\sum P_G(c | do(a))u(c)$ zu maximieren.
2. Erweiterung auf unbekannte kausale Informationen: Der methodische Kernbeitrag besteht darin, dies auf Szenarien zu erweitern, in denen der Akteur das wahre kausale Modell $G$ nicht kennt.
   • Hypothese: Ein rationaler Akteur mit unbekannter kausaler Struktur hält subjektive Überzeugungen über eine Familie möglicher kausaler Strukturen ($\mathcal{F}$).
   • Mechanismus: Der Akteur betrachtet jede mögliche kausale Struktur $g \in \mathcal{F}$ als potenzielle Wahrheit, berechnet den erwarteten Nutzen innerhalb dieser Struktur unter Verwendung des $do$-Operators und aggregiert diese Nutzen dann gewichtet mit der Wahrscheinlichkeit, die der Akteur jeder Struktur zuweist.

3. Hauptbeiträge

A. Theorem 4.2: Entscheidungsfindung mit unbekannten kausalen Modellen

Der primäre theoretische Beitrag des Papiers ist Theorem 4.2, das einen Darstellungssatz für rationale Entscheidungsfindung unter unbekannten kausalen Informationen liefert.

• Aussage: Eine Präferenzrelation $\succeq$ über Aktionen in einem endlichen, beschränkten kausalen Entscheidungsproblem ist rational genau dann, wenn es existiert:

  1. Eine Nutzenfunktion $u: C \to \mathbb{R}$.
  2. Eine Wahrscheinlichkeitsverteilung $P_C$ über eine nicht-leere Familie kausaler graphischer Modelle $\mathcal{F}$.

• Entscheidungsregel: Der Akteur wählt Aktion $a$ vor $b$ genau dann, wenn:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  Wobei:

  • $P_C(g)$ die subjektive Überzeugung des Akteurs ist, dass die kausale Struktur $g$ das wahre Modell ist.
  • $P_g(c | do(a))$ die Wahrscheinlichkeit der Konsequenz $c$ gegeben Intervention $do(a)$ innerhalb des spezifischen kausalen Modells $g$ ist.

• Bedeutung: Dies beweist, dass Aktions-Ergebnis-Wahrscheinlichkeiten in kausalen Modellen verankert werden können, selbst wenn der spezifische kausale Mechanismus unbekannt ist. Die in der Erwartungsnutzenberechnung verwendete „Wahrscheinlichkeit" ist eine Mischverteilung über kausale Strukturen.

B. Definition des Kausalen Nash-Gleichgewichts

Die Autoren wenden Theorem 4.2 auf die Spieltheorie an, um ein Kausales Nash-Gleichgewicht zu definieren.

• Kontext: In einem bayesschen strategischen Spiel haben Spieler unvollständige Informationen über das wahre kausale Modell $\omega$, das die Umwelt steuert.
• Definition: Ein Aktionsprofil $a^*$ ist ein Kausales Nash-Gleichgewicht, wenn kein Spieler $i$ seinen Kausalen Erwartungsnutzen ($u^C_i$) durch einseitiges Ändern seiner Aktion verbessern kann, gegeben seine Überzeugungen über die kausale Struktur und die Aktionen der anderen.
• Formel:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  Diese Formulierung integriert explizit den $do$-Operator und unterscheidet sich damit von Standard-Nash-Gleichgewichten, die auf bedingten Wahrscheinlichkeiten $P(c | a_i, a_{-i})$ basieren.

4. Ergebnisse

1. Formale Verankerung: Das Papier zeigt erfolgreich, dass die für das Prinzip des Erwartungsnutzens erforderlichen Wahrscheinlichkeiten aus kausalen Modellen abgeleitet werden können, wodurch die Debatte über den „Ursprung" dieser Wahrscheinlichkeiten gelöst wird.
2. Verallgemeinerung: Das Ergebnis verallgemeinert Pearls Kriterium für bekannte kausale Modelle auf das realistischere Szenario unbekannter kausaler Mechanismen.
3. Berechenbare Umsetzbarkeit: Der Rahmen liefert ein berechenbar umsetzbares Kriterium. Ein Akteur kann eine Verteilung über kausale Strukturen lernen (z. B. durch Struktur-Lernalgorithmen) und die abgeleitete Formel verwenden, um optimale Entscheidungen zu treffen.
4. Spieltheoretische Erweiterung: Das Papier etabliert, dass spieltheoretische Konzepte wie das Nash-Gleichgewicht rigoros auf Umgebungen erweitert werden können, in denen Akteure kausal statt assoziativ reasoning betreiben.

5. Bedeutung und Implikationen

• Verbindung von KI und Philosophie: Die Arbeit verbindet die philosophische Debatte zwischen Kausaler Entscheidungstheorie (CDT) und Evidentieller Entscheidungstheorie (EDT) mit praktischem maschinellem Lernen und KI-Entscheidungsfindung. Sie liefert eine mathematische Begründung dafür, warum Akteure kausales reasoning verwenden sollten.
• Robustheit gegenüber Verteilungsverschiebungen: Durch die Verankerung von Entscheidungen in kausalen Mechanismen (Interventionen) statt Korrelationen ist der Rahmen theoretisch robuster gegenüber Änderungen in der Umwelt (Verteilungsverschiebungen), bei denen rein assoziative Modelle versagen würden.
• Mensch-zentrierte KI: Da Menschen natürlicherweise kausales reasoning verwenden (und dazu neigen, reine probabilistische Informationen zugunsten kausaler Erklärungen zu ignorieren), bietet dieser Rahmen eine „mensch-kompatiblere" Basis für die Gestaltung rationaler KI-Agenten.
• Strategische Interaktion: Die Einführung des Kausalen Nash-Gleichgewichts eröffnet neue Wege zur Analyse strategischer Interaktionen in Wirtschaft und Multi-Agenten-Systemen, bei denen die zugrundeliegende kausale Dynamik unsicher ist.

Fazit

Das Papier argumentiert, dass rationale Entscheidungsfindung unter Unsicherheit fundamental ein kausaler Prozess ist. Durch die Erweiterung des Prinzips des Erwartungsnutzens um eine Verteilung über kausale Modelle liefern die Autoren eine rigorose mathematische Grundlage für Entscheidungsfindung, wenn kausale Mechanismen unbekannt sind, und stellen sicher, dass Aktions-Ergebnis-Wahrscheinlichkeiten in der strukturellen Realität der Umwelt verankert sind und nicht in bloßer statistischer Assoziation.