🤖 AI

Formalizing and falsifying causal pathways of rare events

Dieses Paper schlägt eine formale Definition und testbare Implikationen für kausale Pfade seltener Ereignisse innerhalb von Strukturgleichungsmodellen vor, wobei eine kausale Abstraktion eingeführt wird, die verbale Erklärungen und detaillierte Modellierung überbrückt, indem sie sich auf pfadspezifische Bedingungen statt auf den vollständigen Systemgraphen konzentriert.

Ursprüngliche Autoren: Anahita Haghighat, Dominik Janzing

Veröffentlicht 2026-06-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Anahita Haghighat, Dominik Janzing

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen: Warum ist etwas Seltenes und Unerwartetes passiert?

Vielleicht ist es ein Börsencrash, ein plötzlicher Maschinenausfall oder eine Person, die obdachlos geworden ist. Normalerweise versuchen wir, diese Ereignisse durch eine einzige „Ursache“ (wie „die Maschine ging kaputt, weil ein Bolzen brach“) zu erklären. Die Autoren dieser Arbeit argumentieren jedoch, dass es nicht ausreicht, auf den gebrochenen Bolzen zu zeigen. Wir müssen die gesamte Kette von Ereignissen verstehen, die zum Unglück geführt haben, und wir brauchen eine Möglichkeit, zu beweisen, dass unsere Geschichte tatsächlich wahr ist und nicht nur eine Vermutung.

Hier ist eine einfache Aufschlüsselung ihrer Ideen unter Verwendung alltäglicher Analogien.

1. Das Problem: Die „gebrochene Kette“ vs. die „ganze Kette“

Stellen Sie sich ein seltenes Ereignis wie einen Dominokturm vor, der schließlich umgefallen ist.

Der alte Ansatz: Die meisten Wissenschaftler zeigen einfach auf den ersten Domino, der angestoßen wurde (die Ursache), und sagen: „Das ist der Grund, warum er gefallen ist.“
Die Sicht der Arbeit: Die Autoren sagen: „Das ist keine vollständige Erklärung.“ Nur weil der erste Domino gefallen ist, heißt das noch lange nicht, dass der ganze Turm fallen musste. Vielleicht waren die mittleren Dominos wackelig, oder vielleicht hat der Tisch gewackelt. Um das Ereignis wirklich zu erklären, muss man den spezifischen Pfad beschreiben, den die Energie vom Anfang bis zum Ende genommen hat.

Sie nennen dies einen „Kausalen Pfad“ (Causal Pathway). Es ist nicht nur der Ausgangspunkt; es ist die spezifische Route, die die „schlechten Nachrichten“ nahmen, um zum endgültigen Desaster zu gelangen.

2. Die Lösung: Ein „Bewertungsbogen“ für Erklärungen

Woher wissen wir, ob die Geschichte von jemandem darüber, warum etwas passiert ist, gut ist? Die Autoren haben einen mathematischen Bewertungsbogen (genannt „Explanation Score“) erstellt.

Stellen Sie sich vor, Sie erzählen einem Geschworenen eine Geschichte: „Das Haus brannte nieder, weil das Kind eine Kerze auf dem Tisch stehen ließ.“

Der Bewertungsbogen fragt: Wenn wir die Zeit zurückdrehen würden und das Kind dazu zwingen würden, die Kerze auf dem Tisch stehen zu lassen, wie wahrscheinlich wäre es, dass das Haus abbrennt?
Die Mathematik: Sie vergleichen zwei Zahlen:
1. Wie selten war der Brand ursprünglich? (z. B. 1 zu einer Million).
2. Wie wahrscheinlich ist der Brand, wenn wir wissen, dass die Kerze auf dem Tisch stand? (z. B. 1 zu 10).
Das Ergebnis: Wenn die zweite Zahl viel höher ist als die erste, erhält Ihre Erklärung eine hohe Punktzahl. Wenn der Brand selbst mit der Kerze immer noch super unwahrscheinlich war, erhält Ihre Erklärung eine niedrige Punktzahl (oder sogar eine negative, was bedeutet, dass Ihre Geschichte den Brand sogar weniger wahrscheinlich erscheinen lässt!).

Dieser Bewertungsbogen hilft uns, schlechte Erklärungen zu falsifizieren. Wenn Ihre Geschichte eine niedrige Punktzahl erhält, beweist die Mathematik, dass Ihre Geschichte schwach ist, selbst wenn sie logisch klingt.

3. Der Trick: Komplexe Realität in einfache „Ja/Nein“-Fragen verwandeln

Das echte Leben ist chaotisch. Variablen sind kontinuierlich (die Temperatur ist 22,4 °C, nicht nur „heiß“ oder „kalt“). Aber um die Mathematik zu betreiben, verwandeln die Autoren alles in einfache Binärvariablen (Ja/Nein, 1/0).

Die Analogie: Stellen Sie sich vor, Sie beschreiben einen Sturm. Anstatt zu sagen „Der Wind betrug 65 mph“, sagen Sie „Der Wind war stark (Ja)“. Anstatt zu sagen „Der Regen betrug 2 Zoll“, sagen Sie „Der Regen war heftig (Ja)“.
Die „Merkmals-Monotonie“ (Feature Monotonicity): Sie stellen sicher, dass, wenn der Wind stärker wird, das Flagge „Stark“ weiterhin auf „Ja“ bleibt. Sie wollen nicht in eine Situation geraten, in der ein stärkerer Wind plötzlich dazu führt, dass die Flagge „Stark“ zu „Nein“ springt. Dies hält die Geschichte logisch.

Durch die Vereinfachung der Welt in diese „Ja/Nein“-Kategorien können sie eine klare Karte (einen Pfad) erstellen, wie ein „Ja“ zum nächsten „Ja“ führt, bis das endgültige Unglück eintritt.

4. Das „Kontext“-Problem: Warum die Mitte wichtig ist

Manchmal reicht die Ursache allein nicht aus. Man braucht den Kontext.

Die Analogie: Stellen Sie sich einen Autounfall vor.
- Ursache: Der Fahrer drückte das Gaspedal.
- Das Problem: Das Gaspedal zu drücken, verursacht normalerweise keinen Unfall. Es verursacht nur einen Unfall, wenn das Auto im Leerlauf ist oder die Bremsen defekt sind.
Die Erkenntnis der Arbeit: Eine gute Erklärung muss den „Kontext“ enthalten (dass die Bremsen defekt sind). Wenn Sie den Kontext weglassen, ist Ihre Erklärung unvollständig. Die Autoren zeigen, dass, wenn Sie den Kontext ignorieren, Ihr „Explanation Score“ sinkt, was beweist, dass Ihre Geschichte fehlerhaft ist.

5. Die Geschichte mit KI testen (Das „LLM“-Experiment)

Um zu zeigen, dass dies funktioniert, baten die Autoren eine KI (ein Large Language Model), eine Geschichte darüber zu erfinden, wie eine Person in den USA obdachlos wurde.

Die KI erstellte eine Kette: Psychische Erkrankung → Jobverlust → Verlust der Ersparnisse → Verlust der Familie → Obdachlosigkeit.
Die Autoren fragten die KI dann: „Wie wahrscheinlich ist es, dass ‚Jobverlust‘ zu ‚Verlust der Ersparnisse‘ führt?“ Die KI gab eine Wahrscheinlichkeit an (z. B. 80 %).
Sie liefen die Zahlen durch ihren Bewertungsbogen.
Das Ergebnis: Die Geschichte hatte eine niedrige Punktzahl an einem spezifischen Glied (dem Übergang von „Verlust der Ersparnisse“ zu „Verlust der Familie“). Die Mathematik zeigte, dass der Verlust der Wohnung nicht automatisch bedeutet, dass die Familie einen fallen lässt.
Die Lektion: Die Geschichte der KI klang dramatisch, aber die Mathematik bewies, dass es eine schwache Erklärung war, weil dieses spezifische Bindeglied zu unwahrscheinlich war.

Zusammenfassung

Diese Arbeit liefert uns ein formales Regelwerk für die Erklärung seltener Katastrophen. Sie besagt:

Zeigen Sie nicht nur auf den Anfang; bilden Sie den gesamten Pfad ab.
Verwandeln Sie komplexe Fakten in einfache „Ja/Nein“-Schritte.
Nutzen Sie eine Punktzahl, um zu prüfen, ob Ihre Geschichte das Ereignis tatsächlich wahrscheinlicher macht.
Wenn die Punktzahl niedrig ist, wird Ihre Erklärung falsifiziert (als falsch bewiesen), selbst wenn sie in einem Gespräch gut klingt.

Dies verwandelt „Geschichtenerzählen“ in „Mathematik“ und ermöglicht es uns, gute wissenschaftliche Erklärungen von schlechten Vermutungen zu unterscheiden.

Technisches Resümee: Formalisierung und Falsifizierung kausaler Pfade bei seltenen Ereignissen

1. Problemstellung

Die Arbeit befasst sich mit der Herausforderung, kausale Erklärungen für seltene Ereignisse (Ausreißer) bereitzustellen, wie etwa Naturkatastropen, Börsencrashs oder Systemausfälle. Während bestehende Methoden der Ursachenanalyse (Root Cause Analysis) effektiv eine kleine Menge kausaler Ursprünge identifizieren, scheitern sie oft daran, die spezifischen Mechanismen und Subgraphen zu erfassen, durch die diese Ursachen zum beobachteten Ergebnis propagieren. Zudem sind vollständige Kausalmodelle häufig unbekannt, und Standardansätze, die auf asymptotischer Extremwerttheorie oder kontinuierlichen Variablenannahmen beruhen, sind für seltene, aber nicht extrem seltene Ereignisse oder diskrete Domänen ungeeignet.

Das Kernproblem ist das Fehlen einer formalen, testbaren Vorstellung eines „kausalen Pfades“, die die Lücke zwischen einfachen verbalen Erklärungen und detaillierter kausaler Modellierung schließt. Aktuelle Methoden haben Schwierigkeiten zu quantifizieren, ob eine vorgeschlagene Ereigniskette eine gültige Erklärung für eine spezifische seltene Beobachtung darstellt, insbesondere wenn der vollständige kausale Graph nicht verfügbar ist oder wenn die Erklärung unter partieller Modellkenntnis robust bleiben muss.

2. Methodik

2.1 Formalisierung kausaler Pfade und Erklärungs-Scores

Die Autoren führen ein Framework basierend auf Strukturgleichungsmodellen (SEMs) und gerichteten azyklischen Graphen (DAGs) ein, um kausale Pfade für binäre Ereignisse zu formalisieren.

Cluster von Ereignissen: Eine Menge binärer Variablen $B$ , die durch einen kausalen DAG $C$ verbunden sind. Eine Teilmenge $R$ repräsentiert die Wurzelursachen, bei denen Mechanismen „korrumpiert“ oder interveniert wurden.
Erklärungs-Score (Explanation Score): Aufbauend auf Oesterle et al. (2025) definiert das Paper einen Erklärungs-Score $E(x \to y)$ für ein Ereignis $X=x$ , das $Y=y$ erklärt, als:
$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$
Dieser Score misst, wie sehr die Intervention $do(X=x)$ die Wahrscheinlichkeit von $Y=y$ im Verhältnis zu dessen ursprünglicher Seltenheit erhöht. Ein Score nahe 1 deutet auf eine starke Erklärung hin.
Pfad-Erklärungs-Score (Pathway Explanation Score): Um die Einschränkung zu adressieren, dass Wurzelursachen allein nicht die gesamte Propagation erklären, definieren die Autoren einen Pfad-Erklärungs-Score $E^K_{R \to t}$ . Dieser Score bewertet, ob das Setzen der Wurzelursachen auf 1 das gesamte Cluster von Ereignissen (einschließlich Mediatoren) im Verhältnis zur Seltenheit des Zielereignisses wahrscheinlich macht.
$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$
Diese Metrik bestraft Erklärungen, bei denen Zwischenereignisse selbst nach dem Setzen der Wurzelursachen unwahrscheinlich bleiben, wodurch sichergestellt wird, dass der Pfad kohärent ist.

2.2 Kausale Abstraktion und Binarisierung

Um kontinuierliche oder komplexe Variablen zu handhaben, schlägt das Paper eine Pfad-Abstraktion (Pathway Abstraction) vor, eine Methode, um detaillierte Kausalmodelle auf vereinfachte binäre Pfade abzubilden.

Merkmalsmonotonie (Feature Monotonicity): Variablen werden mittels Merkmalsfunktionen $\tau$ (z. B. $X \ge x$ ) in binäre Ereignisse transformiert. Das Framework setzt voraus, dass diese Merkmale die „Merkmalsmonotonie“ erfüllen, was bedeutet, dass ein Anstieg des Merkmalswertes eines Elternknotens die Wahrscheinlichkeit des Merkmalswertes des Kindknotens erhöht.
Natürliche Mikro-Realisierung (Natural Micro-Realization): Um die unpräzise Natur von Interventionen auf grobkörnigen (binären) Variablen zu handhaben, definieren die Autoren eine „natürliche Mikro-Realisierung“ einer Intervention $do(B_S=b_S)$ . Dies beinhaltet das Ziehen der zugrunde liegenden kontinuierlichen Variablen aus ihrer bedingten Verteilung unter der binären Beschränkung, was effektiv die Intervention im feinkörnigen Modell simuliert.
Genauigkeitsmetrik: Die Qualität einer Abstraktion wird durch die KL-Divergenz zwischen den interventionalen Verteilungen des abstrakten Modells und der wahren projizierten Verteilung gemessen, normiert auf die Seltenheit des Zielereignisses.

2.3 Evaluierung via Konsistenzprüfungen

Das Framework ermöglicht die Falsifizierung kausaler Erklärungen durch Konsistenzprüfungen:

Quantitative Konsistenz: Wenn ein Pfad vorgeschlagen wird, müssen die Übergangswahrscheinlichkeiten zwischen den Knoten (z. B. $P(B_j=1 | B_i=1)$ ) konsistent mit dem Erklärungs-Score sein. Wenn das Produkt dieser Wahrscheinlichkeiten die Wahrscheinlichkeit des Zielereignisses nicht ausreichend erhöht, gilt die Erklärung als schwach.
Qualitative Konsistenz: Das Framework kann genutzt werden, um Agenten (z. B. LLMs) über Substrukturen eines vorgeschlagenen Pfades abzufragen, um zu verifizieren, ob die behaupteten kausalen Verbindungen unter spezifischen Kontexten Bestand haben.

3. Zentrale Beiträge

Formale Definition kausaler Pfade: Das Paper definiert einen kausalen Pfad nicht nur als eine Menge von Wurzelursachen, sondern als ein Tupel $(C, P, B, B_t, B_R, P_B)$ , wobei $P$ ein Subgraph ist, der das Ziel erklärt. Dies unterscheidet zwischen dem vollständigen kausalen Graphen $C$ (der als Kontext dient) und dem erklärenden Pfad $P$ .
Pfad-Erklärungs-Score: Eine neuartige Metrik, die die Qualität einer Erklärung quantifiziert, indem sie bewertet, ob die Wurzelursachen die gesamte Sequenz von Ereignissen im Pfad wahrscheinlich machen, und nicht nur das Zielereignis. Dieser Score ist additiv über disjunkte Mengen von Mechanismen und vermeidet die Kontextabhängigkeit der Shapley-Werte.
Ereignisbasierte Abstraktion: Die Einführung der Pfad-Abstraktion ermöglicht es, einfache, verbalisierbare kausale Erklärungen aus komplexen, kontinuierlichen oder teilweise unbekannten Modellen abzuleiten. Sie bietet einen rigorosen Weg, das „Feinkorn-Problem“ (Coarse-Graining) von Variablen zu handhaben und gleichzeitig testbare Implikationen beizubehalten.
Falsifizierbarkeit: Durch die Forderung nach expliziten Festlegungen darüber, welche Mechanismen wie erwartet reagierten und welche verändert wurden, macht das Framework kausale Erklärungen falsifizierbar. Es liefert Bedingungen (z. B. Lemma 3.7 über Log-Likelihood-Gaps), unter denen eine Erklärung abgelehnt werden kann.

4. Ergebnisse und Demonstrationen

Theoretische Schranken: Die Autoren beweisen, dass starke lokale kausale Erklärungen (hohe paarweise Scores) keine starken globalen Pfad-Erklärungen garantieren. Sie leiten notwendige Bedingungen für hohe Pfad-Scores ab, wie etwa das Vermeiden von Mediatoren, die signifikant weniger wahrscheinlich als ihre Eltern sind.
Beziehung zur Notwendigkeit: Das Paper zeigt auf, dass für seltene Ereignisse ein positiver Erklärungs-Score eine hohe Wahrscheinlichkeit der Notwendigkeit (Probability of Necessity, PN) impliziert, was bedeutet, dass die Wurzelursache wahrscheinlich notwendig für das Eintreten des Ereignisses ist, selbst wenn der Score nicht perfekt ist.
LLM-Evaluierungs-Fallstudie: Die Autoren wandten ihr Framework auf die Evaluierung kausaler Pfade an, die von einem Large Language Model (LLM) bezüglich der Ursachen von Langzeitobdachlosigkeit generiert wurden.
- Das LLM generierte einen Pfad $A \to B \to C \to D \to E$ .
- Durch die Abfrage der Übergangswahrscheinlichkeiten beim LLM berechneten die Autoren einen Pfad-Erklärungs-Score von $\approx 0,29$ .
- Der niedrige Score wurde auf ein schwaches Bindeglied ( $C \to D$ ) zurückgeführt, bei dem der Übergang von „Verlust der Wohnung“ zu „Entfremdung von der Familie“ nicht ausreichend wahrscheinlich war.
- Diese Übung demonstrierte, dass das Framework in der Lage ist, schwache Verbindungen in verbalen Erklärungen quantitativ zu identifizieren und Revisionen vorzuschlagen (z. B. das Hinzufügen einer direkten Verbindung oder die Umformulierung von Knoten), um die Plausibilität zu verbessern.

5. Bedeutung und Ansprüche

Das Paper beansprucht, das Feld der kausalen Inferenz und der erklärbaren KI (XAI) voranzubringen, indem es eine formale, quantitative Sprache für die Diskussion kausaler Erklärungen seltener Ereignisse bereitstellt.

Überbrückung der Lücke: Es schließt die Lücke zwischen einfachen verbalen Erklärungen (die oft intuitiv, aber nicht testbar sind) und detaillierter kausaler Modellierung (die oft zu komplex oder unbekannt ist).
Falsifizierbarkeit: Die primäre Bedeutung liegt darin, kausale Erklärungen falsifizierbar zu machen. Indem das Framework fordert, dass eine Erklärung eine spezifische Menge von interventionalen Wahrscheinlichkeiten impliziert, ermöglicht es empirische oder logische Prüfungen gegen Daten oder Expertenmeinungen.
KI-Sicherheit und Transparenz: Die Autoren positionieren diese Arbeit als einen Schritt zur Bewertung der Wahrhaftigkeit kausaler Aussagen durch KI-Systeme. Durch die Formalisierung von Erklärungen als explizite Pfade wird es möglich, fehlerhafte kausale Darstellungen gesellschaftlich bedeutsamer Ereignisse zu erkennen, was zur Zuverlässigkeit generativer KI beiträgt.

Die Autoren bleiben bescheiden und merken an, dass das Framework nicht automatisch die Gültigkeit eines kausalen DAGs oder die Wahrheit interventionaler Wahrscheinlichkeiten beweist; vielmehr liefert es die Konzepte und Metriken, die notwendig sind, um Plausibilität auf datengestützte Weise zu diskutieren und zu bewerten.