A framework for the use of generative modelling in non-equilibrium statistical mechanics

Dieses Paper schlägt ein Framework zur Modellierung von Nichtgleichgewichts- und selbstorganisierenden Systemen unter Verwendung generativer Modelle und des Prinzips der variativen freien Energie vor, welches eine handhabbare, sparsame Erklärung der Systemdynamik als eine Form der variativen Inferenz bietet, ohne dass das System buchstäblich Inferenz durchführen muss.

Das Wesentliche

Das große Ganze: Das „Als ob“-Spiel

Stellen Sie sich vor, Sie beobachten einen Vogelschwarm, der am Himmel kreist. Für einen Wissenschaftler sind diese Vögel einfach nur physische Objekte, die sich gemäß Wind, Schwerkraft und Muskelkraft bewegen. Aber dieses Paper schlägt eine andere Art vor, sie zu betrachten.

Die Autoren argumentieren, dass wir diese Vögel beschreiben können, als ob sie Mathematik betreiben würden. Konkret können wir so tun, als würden sie ständig erraten, wo sie sein sollten, und ihren Flug anpassen, um ihre Vermutungen mit der Realität in Einklang zu bringen. Sie sitzen nicht tatsächlich im Himmel und betreiben Analysis; sie sind einfach nur physische Objekte. Aber sie als ob sie zu raten würden, zu beschreiben, macht es für uns (die Wissenschaftler) viel einfacher zu verstehen und vorherzusagen, wie sie sich bewegen.

Das Paper nennt dies das Prinzip der freien Energie (Free Energy Principle, FEP). Es ist ein Werkzeug, mit dem wir komplexe, chaotische Systeme (wie Zellen, Gehirne oder sogar das Wetter) modellieren können, indem wir so tun, als versuchten sie, „Überraschung“ zu minimieren.

Das Kernkonzept: Die „Markov-Decke“ (Die unsichtbare Wand)

Um zu verstehen, wie das funktioniert, stellen Sie sich ein Haus mit einer ganz besonderen Wand vor.

• Im Haus: Die „internen Zustände“ (die Familie, die dort lebt).
• Außerhalb des Hauses: Die „externen Zustände“ (das Wetter, die Nachbarn, die Welt).
• Die Wand: Die „Markov-Decke“ (Markov Blanket). Dies ist die Grenze (wie Sinnesorgane oder Haut), die das Innere vom Äußeren trennt.

Die Wand hat zwei Arten von Fenstern:

1. Sensorische Fenster: Man kann nach draußen sehen, aber man kann das Äußere nicht direkt berühren.
2. Aktive Türen: Man kann von außen drücken (wie ein Fenster öffnen, um Luft hereinzulassen), aber man kann nicht hindurchsehen.

Das Paper behauptet, dass ein System, das eine solche Wand besitzt, natürlich dazu neigt, in einem Zustand zu bleiben, in dem es nicht von dem, was durch die sensorischen Fenster kommt, „überrascht“ wird. Wenn ein Fisch im Wasser ist, erwartet er, sich nass zu fühlen. Wenn er plötzlich trocken fühlt (hohe Überraschung), hat er ein Problem. Das System bewegt sich natürlich so, dass es in der „nassen“ Zone bleibt.

Der magische Trick: „Surprisal“ und „Freie Energie“

Die Autoren führen zwei Schlüsselkonzepte ein:

1. Surprisal (Überraschung): Wie geschockt ein System über seine aktuelle Situation ist. Wenn Sie ein Fisch sind und im Wasser sind, ist Ihre Überraschung gering. Wenn Sie an Land sind, ist Ihre Überraschung hoch.
2. Variational Free Energy (Variationelle freie Energie): Dies ist eine mathematische „obere Schranke“ der Überraschung. Denken Sie an sie als eine Art Bewertungsbogen.
   • Das System kennt den exakten Wert seiner Überraschung nicht (weil es nicht die ganze Welt sehen kann).
   • Stattdessen nutzt es ein „Best-Guess“-Modell, um einen Bewertungsbogen namens Freie Energie zu berechnen.
   • Das Paper argumentt, dass physische Systeme natürlich dazu neigen, diesen Bewertungsbogen zu minimieren.

Die Analogie: Stellen Sie sich vor, Sie spielen ein Videospiel, bei dem Sie nicht die ganze Karte sehen können. Sie sehen nur einen kleinen Kreis um Ihren Charakter herum. Sie wollen vermeiden, von Klippen zu stürzen (Überraschung). Sie wissen nicht genau, wo die Klippen sind, aber Sie haben eine „Ahnung“ (ein generatives Modell) davon, wo sie sein könnten. Sie bewegen sich, um das Risiko, von einer Klippe zu fallen, basierend auf Ihrer Ahnung zu minimieren. Das Paper sagt, dass physische Objekte dies automatisch tun – nicht, weil sie denken, sondern aufgrund der Art, wie sie gebaut sind.

Die Unterscheidung zwischen „Karte und Territorium“

Dies ist der wichtigste philosophische Punkt des Papers.

• Das Territorium: Die reale Welt (der tatsächliche Fisch, die tatsächlichen Zellen, die tatsächliche Physik).
• Die Karte: Das mathematische Modell des Wissenschaftlers.

Kritiker sagen oft: „Warte mal! Du sagst, der Fisch hat eine Karte in seinem Kopf. Das stimmt nicht! Der Fisch ist einfach nur ein Fisch.“

Die Autoren sagen: „Nein, das sagen wir nicht.“

Sie argumentieren, dass die Karte (unsere Mathematik) nur ein Werkzeug ist, das wir verwenden, um das Territorium zu beschreiben.

• Wir können eine Karte schreiben, die besagt: „Der Fisch verhält sich, als ob er versuchen würde, im Wasser zu bleiben.“
• Das bedeutet nicht, dass der Fisch tatsächlich denkt: „Ich muss nass bleiben.“
• Es bedeutet nur, dass, wenn wir den Fisch mit dieser „Als ob“-Logik beschreiben, die Mathematik perfekt funktioniert.

Das Paper bezeichnet dies als eine „deflationäre“ Sichtweise. Wir geben dem Fisch kein Gehirn oder eine Seele; wir benutzen nur einen cleveren mathematischen Trick (variationelle Inferenz), um seine Bewegung zu beschreiben. Die „Inferenz“ findet in unserem Modell statt, nicht notwendigerweise im Fisch.

Die Beispiele: Wie es in der Praxis funktioniert

Das Paper testet diese Idee mit zwei Computersimulationen:

1. Zelluläre Morphogenese (Den Körper aufbauen):

   • Stellen Sie sich eine Gruppe identischer, undifferenzierter Zellen vor.
   • Die Wissenschaftler geben ihnen ein „Ziel“ (eine Karte dessen, wie Kopf, Körper und Schwanz aussehen sollten).
   • Die Zellen haben keinen Bauplan. Stattdessen nutzen sie die „Freie Energie“-Regel. Sie bewegen sich und verändern ihre chemischen Signale, um die „Überraschung“ darüber zu minimieren, nicht am richtigen Ort zu sein.
   • Ergebnis: Die Zellen organisieren sich spontan zu einem Kopf, einem Körper und einem Schwanz, nur indem sie versuchen, ihre „Überraschung“ darüber zu minimieren, wo sie sich befinden.

2. Periodisch feuernde Zellen (Ein Rhythmus):

   • Stellen Sie sich einen Ring von Zellen vor, die in einem bestimmten Rhythmus feuern müssen (wie ein Herzschlag).
   • Die Wissenschaftler legen eine „Zielwelle“ fest (eine Sinuskurve).
   • Die Zellen passen ihr Feuern an, um dieser Welle zu entsprechen, und minimieren den Fehler zwischen dem, was sie fühlen, und dem, was sie zu fühlen „erwarten“.
   • Ergebnis: Die Zellen finden zu einem perfekten, stabilen Rhythmus und verhalten sich so, als ob sie die zukünftigen Schläge vorhersagen würden.

Das Fazit: Eine Karte der Karten

Das Paper schließt mit einer klugen Wendung.

Wenn das „Territorium“ die reale Welt ist und die „Karte“ unser wissenschaftliches Modell ist...

• Dann ist das Prinzip der freien Energie eine Karte der Karten.

Es ist eine Regel, die uns sagt: „Jedes physische System, das existiert und stabil bleibt, muss aus der Sicht eines Beobachters so aussehen, als versuche es, die Überraschung zu minimieren.“

Es spielt keine Rolle, ob das System ein Stein, eine Zelle oder ein menschliches Gehirn ist. Wenn es eine Grenze (eine Markov-Decke) hat und stabil bleibt, können wir es mit dieser „Als ob“-Logik beschreiben. Das Paper behauptet nicht, dass der Stein bewusst ist; es behauptet, dass unsere beste Art, den Stein zu verstehen, darin besteht, ihn so zu behandeln, als wäre er ein Modell seiner eigenen Umgebung.

Zusammenfassung in einem Satz

Dieses Paper schlägt einen mathematischen Rahmen vor, in dem wir jedes stabile physische System (wie eine Zelle oder eine Maschine) beschreiben können, als ob es ständig seinen eigenen Zustand errät und korrigiert, um „Überraschung“ zu vermeiden – nicht, weil das System tatsächlich denkt, sondern weil diese „Als ob“-Beschreibung für Wissenschaftler der leistungsfähigste und genaueste Weg ist, um zu modellieren, wie die Welt funktioniert.

Technische Zusammenfassung

Technisches Resümee: Ein Rahmenwerk für die Verwendung generativer Modellierung in der Nichtgleichgewichts-Statistischen Mechanik

Problemstellung
Die Arbeit befasst sich mit der Herausforderung, offene, Nichtgleichgewichtssysteme zu modellieren, die aus gekoppelten Objekten (z. B. Partikeln, Zellen oder Populationen) bestehen. Traditionelle Ansätze beruhen oft auf der expliziten Definition stochastischer dynamischer Systeme, was jedoch oft unhandlich sein kann und es schwierig macht, zu interpretieren, warum ein zusammengesetztes System auf eine bestimmte Weise evolviert. Die Autoren suchen nach einem Rahmenwerk, das eine sparsame Erklärung für die Dynamik interagierender Systeme basierend auf den Eigenschaften ihrer Kopplung bietet, ohne notwendigerweise vorauszusetzen, dass die physischen Objekte selbst eine wörtliche Inferenz vollziehen. Eine zentrale philosophische und technische Hürde ist der potenzielle „Landkarte-Territorium-Fehlschluss“ (Map-Territory Fallacy) – der Vorwurf, dass die Modellierung nach dem Free Energy Principle (FEP) die wissenschaftliche Karte (das Modell) mit dem physischen System selbst (dem Territorium) verwechselt und somit inferenzielle Prozesse fälschlicherweise als reale Merkmale des Objekts reifiziert.

Methodik
Die Autoren schlagen ein Rahmenwerk vor, das auf dem Variational Free Energy Principle (FEP) basiert und generative Modelle nutzt, um die Abhängigkeitsbeziehungen zwischen den Zuständen (oder Trajektorien) gekoppelter Systeme darzustellen. Die Methodik vollzieht die folgenden Schritte:

1. Markov-Blanket-Partitionierung: Das System wird in interne Zustände ($\mu$), externe Zustände ($\eta$) und ein Markov-Blanket ($b$) unterteilt, welches aus sensorischen und aktiven Zuständen besteht. Diese Partition etabliert eine bedingte Unabhängigkeit zwischen internen und externen Zuständen gegeben das Blanket.
2. Generative Modellierung: Eine gemeinsame Wahrscheinlichkeitsverteilung $p(\eta, b, \mu)$ wird als generatives Modell definiert. Dieses Modell kodiert die statistischen Abhängigkeiten des Systems.
3. Variationale Inferenz als Dynamik: Die Autoren zeigen, dass, wenn ein System eine Dichte eines Nichtgleichgewichts-Stationärzustands (Non-Equilibrium Steady State, NESS) besitzt, seine Dynamik als Gradientenfluss auf der variationalen freien Energie ($F$) ausgedrückt werden kann.
   • Sie nutzen die Zerlegung stochastischer Differentialgleichungen (SDEs) in eine solenoidale (antisymmetrische) Komponente und eine dissipative (positiv semidefiniten) Komponente.
   • Unter der Annahme, dass das System im Durchschnitt die Surprisal (negative Log-Wahrscheinlichkeit) minimiert und die Kullback-Leibler-Divergenz zwischen einer variatonalen Dichte $q$ und der wahren Posterior-Verteilung gegen Null geht, wird gezeigt, dass die Dynamik der internen Zustände einem Gradientenfluss auf $F$ folgt.
   • Entscheidend ist, dass $F$ als Lyapunov-Funktion für die Dynamik des Systems dient, was Stabilität garantiert und eine handhabbare obere Schranke für die Surprisal bietet.
4. Unterscheidung der Modelle: Das Rahmenwerk unterscheidet strikt zwischen:
   • Dem Generativen Modell: Dem vom Beobachter konstruierten wissenschaftlichen Modell (der „Landkarte“).
   • Der Variationalen Dichte: Der Wahrscheinlichkeitsverteilung über externe Zustände, die durch die internen Zustände des Systems parametrisiert wird.
   • Dem Physischen System: Dem tatsächlichen Objekt (dem „Territorium“).

Zentrale Beiträge und Ergebnisse

• Formale Handhabbarkeit: Die Arbeit stellt fest, dass jedes System, das ein Markov-Blanket besitzt und eine Zerlegung seiner Dynamik in solenoidale und dissipative Flüsse aufweist (gemäß Gleichung 2.1.1), sein Verhalten mathematisch als Minimierung der variationalen freien Energie neu formulieren lässt. Dies ermöglicht es, komplexe, nichtlineare Kopplungsdynamiken über die handhabbarere Mathematik der statistischen Inferenz und Gradientenflüsse zu beschreiben.
• Empirische Illustrationen (Toy Models): Die Autoren präsentieren zwei Simulationen, um die konstruktive Anwendung des FEP zu demonstrieren:
  1. Zelluläre Morphogenese: Eine Simulation von acht undifferenzierten Zellen, die migrieren und differenzieren, um eine Zielmorphologie (Kopf, Körper, Schwanz) zu bilden. Indem den Zellen ein generatives Modell ausgestattet wird, das Zielpositionen und Signalprofile vorhersagt, selbstorganisiert sich das System. Die aktiven Zustände der Zellen (Position und Signalisierung) minimieren die freie Energie und „inferieren“ damit effektiv ihre einzigartige Identität und Position innerhalb des Ensembles.
  2. Periodisch feuernde Zellen: Ein Ring aus Gap-Junction-gekoppelten, erregbaren Zellen mit einem generativen Modell, das eine periodische Zielwellenform kodiert. Die internen Zustände inferieren die Phase des Zyklus, während die aktiven Zustände (Ionenkanal-Gating) Vorhersagefehler minimieren. Das System konvergiert zu einem Grenzzyklus (einer stabilen kreisenden Bahn) statt zu einem Fixpunkt, was zeigt, dass FEP-Dynamiken oszillatorische Selbstorganisation beschreiben können.
• Auflösung des Landkarte-Territorium-Fehlschlusses: Die Arbeit argumentiert, dass das FEP nicht den Landkarte-Territorium-Fehlschluss begeht. Die Behauptung, ein System „vollziehe Inferenz“, ist eine „Als-ob“-Beschreibung, die durch das generative Modell des Beobachters bereitgestellt wird. Das System selbst muss keine Gradienten buchstäblich berechnen oder Bayes-Updates durchführen; vielmehr ist seine physische Dynamik mathematisch äquivalent zu einem solchen Prozess. Die „Inferenz“ ist eine Eigenschaft des Modells des Systems, nicht notwendigerweise ein wörtlicher Mechanismus innerhalb des Systems.

Bedeutung und Ansprüche
Die Autoren positionieren diese Arbeit als Rückkehr zu den grundlegenden Prinzipien des FEP und betonen dessen Rolle als konstruktives Rahmenwerk statt als universelles empirisches Gesetz.

• Bescheidener Umfang: Die Arbeit stellt explizit klar, dass die bereitgestellten Beispiele „durchgearbeitete Beispiele“ für eine konstruktive Anwendung des FEP sind und keine unabhängigen empirischen Validierungen seiner Universalität darstellen. Die Beispiele wurden so konstruiert, dass sie die notwendige Zerlegung (Markov-Blanket, spezifische $Q$- und $\Gamma$-Felder) besitzen, um zu illustrieren, wie das Formalismus funktioniert, wenn die erforderlichen Bedingungen erfüllt sind.
• Eine „Landkarte der Landkarten“: Die zentrale philosophische Behauptung ist, dass das FEP eine „Landkarte jenes Teils des Territoriums liefert, der sich so verhält, als wäre er eine Landkarte“. Es bietet einen Satz ultimativer erklärender Constraints dafür, was ein Modell eines physikalischen Prozesses konstituiert. Indem das FEP das generative Modell als wissenschaftliches Werkzeug behandelt, um zu beschreiben, wie Subsysteme einander verfolgen, ermöglicht es die Konstruktion verschachtelter Modelle, die bekannte Relationen respektieren, ohne die inferenziellen Aspekte des Modells als wörtliche Merkmale des physischen Objekts zu reifizieren.
• Philosophische Ausrichtung: Das Rahmenwerk steht im Einklang mit den Ansichten von Wittgenstein und Jaynes, wonach statistische Mechanik und Modellierung Prozesse sind, um Sinn aus sensorischen Strömen und Mikrozuständen unter Berücksichtigung makroskopischer Constraints zu gewinnen. Das FEP wird als ein prinzipierter Ansatz präsentiert, um die Beziehung zwischen einem physischen System und den Modellen zu formalisieren, die es beschreiben, wodurch klargestellt wird, dass die „Inferenz“ in der mathematischen Beschreibung (der Landkarte) liegt, die zur Erklärung der Stabilität und Selbstorganisation des physischen Systems (des Territoriums) verwendet wird.

Zusammenfassend argumentiert die Arbeit, dass die Verwendung generativer Modelle zur Darstellung von Beziehungen zwischen Subsystemen zu einer statistischen Theorie führt, in der die Dynamik interagierender Systeme als variationale Inferenz gelesen werden kann. Dies bietet ein leistungsfähiges, handhabbares Werkzeug zur Modellierung von Nichtgleichgewichtsphänomenen, sofern man eine klare Unterscheidung zwischen dem wissenschaftlichen Modell (dem generativen Modell) und dem physischen System wahrt, das es beschreibt.