🤖 machine learning

Reconciling Causality and Non-Equilibrium Thermodynamics with Hamiltonian Causal Models

Dieses Paper führt Hamiltonian Causal Models (HCMs) ein, ein Framework auf Trajektorien-Ebene, das statistische kausale Modellierung mit Nichtgleichgewichtsthermodynamik versöhnt, indem es kausale Effekte durch interventionsgesteuerte Hamiltonian-Mechanismen definiert und Entropieproduktion nutzt, um Irreversibilität und kausalen Einfluss in nichtstationären physikalischen Systemen zu quantifizieren.

Ursprüngliche Autoren: Dario Rancati, Max Welling, Francesco Locatello

Veröffentlicht 2026-06-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dario Rancati, Max Welling, Francesco Locatello

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beobachten den Film eines physikalischen Systems, wie etwa einen Tropfen Tinte, der sich in Wasser ausbreitet, oder ein Pendel, das schwingt. Standardmäßige Wege, um Ursache und Wirkung (Kausalität) zu untersuchen, betrachten meist die „Vorher“- und „Nachher“-Momentaufnahmen. Sie fragen: „Wenn ich den Startpunkt ändere, ändert sich dann der Endpunkt?“

Doch die Autoren dieser Arbeit argumentieren, dass für physikalische Systeme dieser „Momentaufnahme“-Ansatz den wichtigsten Teil der Geschichte übersieht: die Reise selbst.

Hier ist eine einfache Aufschlüsselung ihrer neuen Idee, der Hamiltonschen Kausalmodelle (HCMs), unter Verwendung alltäglicher Analogien.

1. Das Problem: Die „Momentaufnahme“ vs. der „Film“

In Standard-Kausalmodellen behandeln wir Ursache und Wirkung oft wie einen Schalter: Man drückt ihn, und etwas passiert. Aber in der realen physikalischen Welt geschehen Ursachen oft über die Zeit hinweg.

Die Analogie: Stellen Sie sich vor, Sie schubsen ein Kind auf einer Schaukel an.
- Standardansicht: Sie schauen darauf, wo das Kind am Anfang ist und wo es am Ende ist. Wenn Sie das Kind unterschiedlich schubsen, es aber am Ende am selben Ort landet, würden Standardmodelle sagen: „Kein Unterschied!“
- Die Realität: Die Art und Weise, wie Sie geschubst haben, war entscheidend. Vielleicht haben Sie einen langen, sanften Stoß gegeben und einen anderen kurzen, ruckartigen. Selbst wenn sie am Ende am selben Ort sind, war der Pfad, den sie genommen haben, völlig unterschiedlich. Das Kind spürte unterschiedliche Kräfte, und der Luftwiderstand (Reibung) wirkte während der Reise anders.

Die Autoren sagen, wir brauchen ein Modell, das den gesamten Film betrachtet, nicht nur die Start- und Endbilder.

2. Die Lösung: Der „Energie-Bauplan“ (Hamiltonsche Modelle)

Die Autoren führen einen Rahmen ein, der Hamiltonsche Kausalmodelle genannt wird. Betrachten Sie einen „Hamiltonian“ als den Energie-Bauplan eines Systems. Es ist eine mathematische Regelordnung, die besagt, wie Energie gespeichert wird und wie sie zwischen den Teilen eines Systems fließt.

Die Analogie: Stellen Sie sich eine komplexe Rube-Goldberg-Maschine vor.
- Der Bauplan (Hamiltonian) beschreibt exakt, wie die Dominosteine, Hebel und Kugeln miteinander verbunden sind und wie viel Energie in jedem Teil steckt.
- Die Bewegungsregeln: Die Gesetze der Physik (wie die Gravitation) sind die „unveränderlichen Regeln“, die sich niemals ändern.
- Die Intervention: Eine Intervention ist wie eine menschliche Hand, die in den Bauplan eingreift. Sie könnten eine Feder straffer ziehen oder den Winkel einer Rampe ändern. Sie ändern nicht die Gesetze der Gravitation, sondern Sie ändern das Setup (den Mechanismus), auf den die Gravitation wirkt.

In diesem Modell wird eine „Ursache“ dadurch definiert, wie die Änderung des Bauplans den gesamten Pfad verändert, den das System durch die Zeit nimmt.

3. Die Geheimzutat: Der „thermodynamische Fingerabdruck“

Der spannendste Teil der Arbeit ist die Art und Weise, wie sie diese Ursachen detektieren. Sie verwenden ein Konzept aus der Physik namens Entropieproduktion.

Die Analogie: Denken Sie an Entropie als ein Maß für „Unordnung“ oder „Irreversibilität“.
- Wenn Sie einen Film eines zerbrechenden Glases sehen, sieht es echt aus. Wenn Sie ihn rückwärts abspielen (Glassplitter fliegen nach oben und setzen sich wieder zusammen), sieht es unmöglich aus. Dieses Gefühl von „Das kann nicht rückwärts passieren“ ist Entropie.
- Der Fingerabdruck: Wenn Sie in ein System eingreifen (wie das Schubsen jener Schaukel), erzeugen Sie einen spezifischen „thermodynamischen Fußabdruck“. Das System erzeugt Wärme und Reibung auf eine Weise, die einzigartig für die Art und Weise ist, wie Sie geschubst haben.

Die Autoren haben entdeckt, dass die Entropieproduktion als ein super-sensibler Detektor für Kausalität fungiert.

Warum sie besonders ist: Standardmessungen könnten sagen: „Die Schaukel landete am selben Ort, also war der Stoß derselbe.“ Aber die Entropieproduktion wird sagen: „Nein! Der erste Stoß erzeugte viel Hitze und Lärm (hohe Entropie), während der zweite Stoß sanft war (niedrige Entropie). Daher waren die Ursachen unterschiedlich!“

Sie kann kausale Effekte detektieren, die für Standardmethoden unsichtbar sind, weil sie auf die Irreversibilität des Pfades schaut, nicht nur auf das Endergebnis.

4. Die Lektion von „Maxwell’s Dämon“

Die Arbeit berührt auch ein berühmtes Gedankenexperiment mit einem „Dämon“, der Teilchen sortiert, um die Entropie zu verringern. Die Autoren nutzen dies, um zu erklären, dass Interventionen nicht kostenlos sind.

Die Analogie: Wenn Sie ein System kontrollieren wollen (wie einen Thermostaten), müssen Sie Informationen sammeln und Energie aufwenden, um dies zu tun. Die Arbeit argumentiert, dass man, um Kausalität wirklich zu verstehen, die „Kosten“ der Intervention selbst berücksichtigen muss. Der „Dämon“ (der Kontrolleur) ist Teil des Systems, und seine Handlungen hinterlassen eine thermodynamische Spur, die beweist, dass eine kausale Verbindung besteht.

5. Was sie tatsächlich bewiesen haben (Die Ergebnisse)

Die Autoren haben nicht nur theoretisiert; sie haben dies mit Computersimulationen getestet:

Verborgene Unterschiede aufdecken: Sie erstellten Szenarien, in denen zwei verschiedene Kontrollmethoden exakt zum gleichen Endergebnis führten. Standardwerkzeuge sagten: „Kein kausaler Unterschied.“ Ihr neues Werkzeug (Entropieproduktion) sagte korrekt: „Dies sind völlig unterschiedliche Ursachen!“
Verbindungen kartieren: In komplexen, kreisförmigen Systemen (wo A B beeinflusst und B wiederum A beeinflusst) zeigten sie, dass sie durch die Messung der „Entropie“, die ein bestimmter Teil des Systems bei einer Störung produziert, genau herausfinden konnten, welche Teile mit welchen verbunden sind. Es ist wie das Versuch, herauszufinden, wer in einem überfüllten Raum mit wem spricht, indem man einfach nur auf den Lärm hört, den sie machen.

Zusammenfassung

Diese Arbeit schlägt einen neuen Weg vor, um Ursache und Wirkung in physikalischen Systemen zu verstehen, indem sie:

Den gesamten Weg (Trajektorie) betrachtet anstatt nur den Start- und Endpunkt.
Energie-Baupläne nutzt, um die unveränderlichen Gesetze der Physik von den Dingen zu trennen, die wir kontrollieren können.
Die Entropieproduktion (die erzeugte Hitze und Unordnung) als „Fingerabdruck“ verwendet, um zu beweisen, dass eine Ursache tatsächlich stattgefunden hat, selbst wenn das Endergebnis gleich aussieht.

Sie schlägt die Brücke zwischen der statistischen Welt der „Daten“ und der physikalischen Welt der „Thermodynamik“ und bietet ein Werkzeug, um kausale Verbindungen zu sehen, die zuvor unsichtbar waren.

Technisches Resümee: Versöhnung von Kausalität und Nichtgleichgewichtsthermodynamik mit Hamiltonschen Kausalmodellen

Problemstellung

Standardmäßige statistische Kausalmodelle (z. B. Strukturelle Kausalmodelle, Potential Outcomes) stehen vor erheblichen Herausforderungen bei der Anwendung auf physikalische zeitliche Phänomene. Diese Frameworks haben oft Schwierigkeiten, nativ folgende Aspekte zu berücksichtieren:

Trajektorien-basierte Interventionen: Interventionen, die als zeitabhängige Kontrollen entlang des Pfades eines Systems wirken, statt als statische Zuweisungen.
Nichtstationarität: Induzierte Gesetze, die sich über die Zeit ändern.
Pfadabhängigkeit: Kausale Effekte, die von der spezifischen Historie des Systems abhängen, nicht nur von Endzuständen.
Feedback und Zyklen: Zyklische Abhängigkeiten, die sich dynamisch durch die Zeit entfalten.

Darüber hinaus besteht eine konzeptionelle Lücke zwischen statistischer Kausalität und physikalischer Kausalität. In der Physik ist die kausale Richtung an den thermodynamischen Zeitpfeil (Irreversibilität) gebunden, wohingegen Standard-Kausalmodelle oft zeitumkehrsymmetrische Gesetze als kompatibel mit kausaler Asymmetrie behandeln. Bestehende Frameworks erfordern Ad-hoc-Konstruktionen, um diese physikalischen Realitäten zu handhaben, und versäumen es, zwischen intervenierbaren Mechanismen und unveränderlichen Bewegungsgesetzen zu unterscheiden.

Methodik: Hamiltonsche Kausalmodelle (HCMs)

Die Autoren führen Hamiltonsche Kausalmodelle (HCMs) ein, ein Framework auf Trajektorien-Ebene, bei dem beobachtete Variablen mit lokalen, unbeobachteten thermischen Umgebungen (Bädern) interagieren.

Kerndefinitionen

Systemstruktur: Ein HCM ist definiert auf einer symplektischen Mannigfaltigkeit $\Gamma = \Gamma_X \times \Gamma_E$ , wobei $X$ die beobachteten Variablen und $E$ die unbeobachteten Bäder repräsentiert.
Hamiltonsche Zerlegung: Das System entwickelt sich über einen Hamiltonian $H(z, \lambda)$ $H (z, λ)$ , der sich zerlegt in:
- Intrinsische Potenziale ( $H_{self}$ ).
- Kopplungen an kausale Eltern ( $H_{mech}$ ).
- Kopplungen an lokale Bäder ( $H_{bath}$ ).
- Freie Umgebungsdynamik ( $H_E$ ).
  Diese Zerlegung übernimmt die Rolle der kausalen Markov-Faktorisierung in klassischen Strukturellen Kausalmodellen (SCMs).
Interventionen: Interventionen werden als zeitabhängige Policys $\lambda(t)$ modelliert, welche den Hamiltonian (speziell die Mechanismen $H_{mech}$ und $H_{bath}$ ) modifizieren, aber die zugrunde liegenden Bewegungsgleichungen (die symplektische Struktur) nicht verändern. Dies trennt intervenierbare Mechanismen von unveränderlichen physikalischen Gesetzen.
Kausaler Effekt: Definiert als eine Diskrepanz zwischen den Pfadgesetzen einer Variable unter verschiedenen Interventions-Policys. Im Gegensatz zu Standard-Average Treatment Effects (ATE), die sich oft auf einzelne Zeitpunkte oder kumulative Summen konzentrieren, definieren HCMs kausale Effekte über den gesamten Trajektorienraum.

Thermodynamische Integration

Das Framework nutzt die Nichtgleichgewichtsthermodynamik, um kausalen Einfluss zu quantifizieren:

Arbeit: Die Energie, die durch eine Intervention verrichtet wird. Die Autoren zeigen, dass Arbeitsraten identifizieren können, welche Variablen an einem lokalen Mechanismus teilnehmen (graphische Elternschaft), sofern der Hamiltonian bekannt ist.
Entropieproduktion ( $\Sigma$ ): Eine Pfadraum-Größe, die die Irreversibilität eines Prozesses misst, indem sie das Vorwärts-Pfadgesetz mit seinem zeitumkehrvertauschten Gegenstück vergleicht.
- Projektierte lokale Entropieproduktion: Eine Größe, die aus der marginalen Trajektorie eines einzelnen Knotens abschätzbar ist und als Zeuge für kausale Effekte dient.
- Lokale Entropieproduktionsrate: Ein verfeinertes Maß für kontrollierte Langevin-Diffusionsprozesse, das bei Unterwerfung unter infinitesimale „rechts-lokale“ Interventionen zwischen direkten Eltern und indirekten Vorfahren unterscheiden kann.

Zentrale Beiträge

Formale Struktur: Die Einführung von HCMs, die kontrollierte Hamiltonian-Systeme mit Kausalmodellierung vereint und eine natürliche Beschreibung von zeitabhängigen, adaptiven und zyklischen Interventionen ermöglicht.
Thermodynamische kausale Observablen:
- Nachweis, dass Arbeitsraten graphische Eltern identifizieren, wenn der Hamiltonian bekannt ist.
- Beweis, dass die projektierte Entropieproduktion als Zeuge für kausale Effekte fungiert und Pfad-Ebene-Diskrepanzen detektiert, die für Standard-ATEs unsichtbar sind.
- Ableitung eines lokalen Entropieproduktions-Response-Kriteriums (Theorem 3.9), das direkte Elternstrukturen in zyklischen, nichtstationären Langevin-Systemen mittels infinitesimaler Interventionen identifiziert.
Theoretische Vereinigung: Aufzeigen, dass HCMs klassische SCMs und zyklische Verallgemeinerungen als stationäre Spezialfälle zurückführen (via des Limits großer Bad-Größen und kleiner Trägheitsparameter), während sie sich natürlich auf Nichtgleichgewichtsregime erweitern lassen.

Experimentelle Ergebnisse

Die Autoren validieren die Theorie durch zwei Sätze von Experimenten:

Validierung der Pfad-Ebene-Kausalitätsdetektion (Proposition 3.7):
- Szenario A (Gleiche Endpunkte): Eine lineare Kette von Oszillatoren, die durch zwei Protokolle angetrieben wird, die denselben Endzustand über unterschiedliche Pfade erreichen. Der Standard-Endpoint-ATE ist per Definition Null.
- Szenario B (Umgekehrte Zeit): Ein System mit einem verborgenen Mediator, der Impulse in umgekehrter Reihenfolge erhält. Der kumulative ATE ist aufgrund der Zeit-Translationssymmetrie Null.
- Ergebnis: In beiden Fällen konnten Standard-Estimanden den kausalen Unterschied nicht detektieren. Die projektierte Entropieproduktion konnte jedoch die Protokolle mit hoher statistischer Signifikanz unterscheiden, was bestätigt, dass sie Pfad-Ebene-Effekte detektiert, die für Standard-ATEs unsichtbar sind.
Eltern-Entdeckung in zyklischen Systemen (Theorem 3.9):
- Szenario: Zufällige zyklische Erdős–Rényi-Graphen ( $n=15$ ), instanziiert mit drei Familien von Potenzialen (Bilinear, Sigmoid, Kubisch).
- Methode: Schätzung der lokalen Entropieproduktions-Response $R_{i|j}$ auf infinitesimale Interventionen.
- Ergebnis: Die Methode erreichte eine nahezu perfekte Recall-Rate und eine starke Präzision bei der Rekonstruktion direkter Elternstrukturen in diesen anspruchsvollen nichtstationären, zyklischen Settings und übertraf dabei Standardansätze, die mit Zyklen Schwierigkeiten haben.

Bedeutung und Ansprüche

Das Paper beansprucht, eine „neue Sprache“ für statistische Kausalität anzubieten, die natürlich mit der Art und Weise korrespondiert, wie Kausalität in physikalischen Systemen entsteht.

Versöhnung: Es schließt die Lücke zwischen statistischen Kausalmodellen und Nichtgleichgewichtsthermodynamik, indem es den thermodynamischen Zeitpfeil als Quelle der kausalen Asymmetrie behandelt.
Neuheit in der Kausaldetektion: Es bietet Werkzeuge zur Beschreibung von Kausalität in Systemen, in denen Interventionen dynamisch sind und Feedbackschleifen existieren – Bereiche, in denen Standard-SCMs oft Ad-hoc-Lösungen benötigen.
Physikalische Interpretierbarkeit: Durch die Fundierung kausaler Effekte in der Entropieproduktion bietet das Framework eine physikalisch sinnvolle, aus Daten schätzbare Metrik für Kausalität, die Irreversibilität erfasst.

Die Autoren bleiben bescheiden hinsichtlich zukünftiger Richtungen und merken an, dass HCMs zwar SCMs verallgemeinern, aber nicht unmittelbar allgemeine temporale SCMs mit Nicht-Gradienten-Drifts beschreiben. Sie identifizieren die Erweiterung auf solche Frameworks und die Entwicklung von Kausaldetektions-Algorithmen basierend auf Hamiltonian-Learning als prominente nächste Schritte.