Machine Learning the H-theorem

Das Rätsel der Einbahnstraße

Stellen Sie sich vor, Sie beobachten ein Video, in dem ein Glas auf dem Boden zerbricht. Es sieht chaotisch und unordentlich aus. Stellen Sie sich nun vor, Sie spielen dieses Video rückwärts ab: Die Scherben fliegen nach oben, fügen sich zusammen und landen perfekt auf dem Tisch. Sie wissen sofort, dass die Rückwärtsversion gefälscht ist. Warum? Weil in unserem Universum die Zeit eine Richtung hat. Dinge neigen dazu, von Ordnung zu Unordnung zu gehen, wie etwa ein ordentliches Zimmer, das langsam unordentlich wird, wenn man es einfach sich selbst überlässt. Dies ist der Kern des Zweiten Hauptsatzes der Thermodynamik – einer Regel, die besagt, dass die „Unordnung“ (oder Entropie) des Universums stetig zunimmt.

Aber hier ist der seltsame Teil: Wenn man sich die winzigen Regeln ansieht, die einzelne Atome und Moleküle regieren, sind sie der Zeit gegenüber gleichgültig. Wenn man zwei Billardkugeln beim Aneinanderprallen filmen und das Video rückwärts abspielen würde, sähe es exakt gleich aus. Die physikalischen Gesetze sind „zeitreversibel“. Wie erhalten wir also eine Einbahnstraße für die Zeit, wenn jeder einzelne Schritt im Prozess eine Zwei-Wege-Straße ist? Dieses Rätsel beschäftigt Wissenschaftler seit über einem Jahrhundert. Sie nennen es den „Zeitpfeil“. Um dies zu lösen, verwenden sie meist ein komplexes mathematisches Werkzeug namens H-Theorem, das wie eine Anzeigetafel fungiert, die immer sinkt, während sich ein System dem Gleichgewicht annähert. Aber was wäre, wenn wir die Regeln des Spiels nicht kennen würden? Was wäre, wenn wir einem Computer einfach einen Haufen Daten übergeben würden und ihn fragten, in welche Richtung die Zeit fließt?

Die Suche der Arbeit: Einem Roboter beibringen, die Zeit zu fühlen

In dieser Arbeit wollten die Autoren herausfinden, ob ein maschinelles Lernmodell diesen „Zeitpfeil“ eigenständig wiederentdecken kann, ohne die Antwort vorher zu kennen. Sie gaben dem Computer weder die Formel für das H-Theorem noch Physik-Lehrbücher. Stattdessen erschufen sie eine virtuelle Welt voller 1.000 harter Scheiben (wie winzige, perfekte Billardkugeln), die in einem quadratischen Kasten umherspringen. Sie starteten diese Scheiben in einem chaotischen, zufälligen Zustand, in dem sie sich alle mit der gleichen Geschwindigkeit, aber in unterschiedliche Richtungen bewegten. Dann ließen sie die Simulation laufen und zeichneten die Position und Geschwindigkeit jeder einzelnen Scheibe zu jedem Zeitpunkt auf.

Die Aufgabe des Computers war einfach, aber knifflig: Betrachte zwei Schnappschüsse dieses springenden Gases – einen aus einem früheren Zeitpunkt und einen aus einem späteren – und rate, welcher zuerst kam. Die einzige Regel, die der Computer erhielt, lautete: „Der spätere Schnappschuss sollte eine höhere Punktzahl erhalten als der frühere.“ Um dies zu erreichen, bauten die Forscher eine spezielle Art von neuronalem Netzwerk (einer Art KI) namens „DeepSets“-Modell. Dieses Netzwerk ist darauf ausgelegt, „permutationsinvariant“ zu sein, was eine schicke Art zu sagen ist, dass es dem Computer egal ist, welches Teilchen welches ist. Wenn man die Namen zweier Teilchen vertauscht, bleibt die Antwort des Computers dieselbe, genau wie in der Realität, wo sich die Physik nicht ändert, wenn man die Atome umbenennt.

Das Modell wurde mittels eines „Ranking Loss“ trainiert, einem Bewertungssystem, das den Computer bestrafte, wenn er die falsche Reihenfolge erriet. Um sicherzustellen, dass der Computer nicht schummelte, indem er einfach jedem Ergebnis eine winzige Zahl gab, zwangen die Forscher die Scores innerhalb jedes Datensatz-Batches zu standardisieren. Sie trainierten das Modell über 120 „Epochen“ (Durchläufe durch die Daten). Zuerlich war der Computer nur am Raten. Doch um die 60. Epoche herum geschah etwas Interessantes: Der Computer wurde plötzlich viel besser in seinem Job. Der Fehler in seinem Ranking sank drastisch, und er begann, klar zwischen den „früheren“ und „späteren“ Zuständen zu unterscheiden.

Die große Enthüllung: Hat es das H-Funktional gefunden?

Der aufregendste Teil der Arbeit ist das, was der Computer tatsächlich gelernt hat. Die Forscher verglichen den „Score“, den der Computer den Schnappschüssen gab, mit dem tatsächlichen H-Funktional – der berühmten mathematischen Formel, die Boltzmann 1872 erfand, um zu messen, wie weit ein System vom Gleichgewicht entfernt ist. Sie fanden heraus, dass der vom Computer gelernte Score fast perfekt mit dem H-Funktional übereinstimmte, sobald sie eine einfache Verschiebung in Skalierung und Position anpassten.

Mit anderen Worten: Die KI, der lediglich gesagt wurde „später ist größer als früher“, entdeckte unabhängig davon eine mathematische Funktion, die sich exakt wie das H-Theorem verhält. Sie fand heraus, dass, während das Gas relaxiert und die Teilchen ihre Geschwindigkeiten in ein glattes, vorhersehbares Muster (die Maxwell-Boltzmann-Verteilung) verteilen, der Wert dieser Funktion auf eine ganz bestimmte, monotone Weise verändert wird. Die Arbeit zeigt, dass die Dynamik des Systems allein ausreicht, um das Modell zu dieser Struktur zu führen.

Die Autoren merken jedoch vorsichtig an, dass dieses Ergebnis aus einer spezifischen Simulation von 1.000 harten Scheiben mit elastischen Kollisionen stammt. Sie behaupten nicht, dass dies den Beweis für das H-Theorem für jedes mögliche System im Universum liefert. Sie legen nahe, dass dieser Ansatz für diesen speziellen Aufbau gut funktioniert, bei dem das Modell lernte, die Relaxation zum Gleichgewicht zu verfolgen, ohne jemals die Formel gesehen zu haben. Sie fanden auch heraus, dass der „Temperatur“-Parameter in ihrem Trainingsverlust eine große Rolle spielte: Eine niedrigere Temperatur (0,1) machte den Output des Modells glatt und zuverlässig, während eine höhere Temperatur (1,0) ihn in der Nähe des Endes unruhig und oszillierend machte.

Die Arbeit löst also nicht das tiefe philosophische Rätsel, warum die Zeit in eine Richtung fließt, aber sie zeigt, dass eine Maschine, die nur mit Rohdaten und einer einfachen Ordnungsregel gefüttert wurde, denselben mathematischen Zeitpfeil „lernen“ kann, den menschliche Physiker Jahrzehnte lang hergeleitet haben. Es deutet darauf hin, dass der Weg zum Gleichgewicht so stark und strukturiert ist, dass selbst ein neuronales Netzwerk ihn finden kann, indem es einfach nur den Teilchen beim Springen zusieht.