🤖 machine learning

Aligning AI-driven discovery with human intuition

Dieses Papier schlägt ein neues allgemeines Prinzip vor, um KI-generierte Zustandsvariablen zu destillieren, die mit der menschlichen Intuition und physikalischen Bedeutung übereinstimmen, ohne auf Vorwissen zurückzugreifen, und dadurch die Mensch-KI-Kollaboration bei der Modellierung dynamischer Systeme zu verbessern.

Ursprüngliche Autoren: Kevin Zhang, Judah Goldfeder, Hod Lipson

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Kevin Zhang, Judah Goldfeder, Hod Lipson

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beobachten das Video eines komplexen Tanzes, wie etwa das Blubbern einer Lava lampe oder ein wild schwingendes Doppelpendel. Sie möchten die „Regeln“ dieses Tanzes verstehen. Um das zu tun, müssen Sie die entscheidenden Bewegungen identifizieren – die Zustandsvariablen. In der Physik sind dies Dinge wie „Winkel“, „Geschwindigkeit“ oder „Energie“.

Lange Zeit waren Computer sehr gut darin, diese Videos zu beobachten und vorherzusagen, was als Nächstes passiert. Aber es gibt ein Problem: Computer erfinden oft ihre eigene geheime Sprache, um den Tanz zu beschreiben. Sie finden vielleicht eine Variable, die mathematisch funktioniert, aber für einen menschlichen Wissenschaften wie Kauderwelsch aussieht. Es ist, als würde ein Computer einen kreiselnden Kreisel nicht durch seine „Drehgeschwindigkeit“ beschreiben, sondern durch eine seltsame, gezackte Zahl, die zufällig hin und her springt. Es funktioniert zwar, aber man kann es niemand anderem erklären.

Dieses Paper stellt ein neues KI-Tool namens TIDE (Temporally-Informed Dynamics Encoder) vor, das genau dieses Problem lösen soll. So funktioniert es, erklärt anhand einfacher Analogien:

Das Problem: Der „Black Box“-Übersetzer

Stellen Sie sich die KI als einen Übersetzer vor, der versucht, eine fremde Sprache (die rohen Videopixel) in eine Geschichte (die physikalischen Gleichungen) zu übersetzen.

Alte KI: Sie übersetzt die Geschichte perfekt, verwendet aber ein erfundenes Wörterbuch. Die Wörter ergeben für die Maschine Sinn, sind aber für einen Menschen völliger Unsinn. Wenn man sie fragt: „Was ist diese Variable?“, antwortet die KI: „Es ist $Z_{42}$ “, was einem über die reale Welt keinerlei Auskunft gibt.
Die Herausforderung: Es gibt unendlich viele Möglichkeiten, ein schwingendes Pendel zu beschreiben. Man könnte „Winkel“ verwenden, oder „Energie“, oder eine seltsame Mischung aus beidem. Der Computer wählt eine Methode, aber er wählt oft diejenweise, die mathematisch einfach ist, aber physikalisch verwirrend.

Die Lösung: Der KI beibringen, Zeit zu „fühlen“

Die Autoren erkannten, dass die menschliche Intuition ein spezifisches „Gefühl“ hat, wenn es um Physik geht. Reale Variablen (wie der Winkel eines Pendels) springen nicht wahllos umher. Sie fließen glatt. Wenn man ein Pendel filmt, ändert sich der Winkel von einem Frame zum nächsten nur ein winziges Stück; er teleportiert sich nicht.

TIDE lehrt die KI, dieses menschliche Gefühl nachzuahmen, indem drei spezifische Regeln in ihr Training eingebaut werden:

Die Glattheits-Regel (Zeit-Ableitungs-Regularisierung):
Stellen Sie sich vor, Sie zeichnen eine Linie auf ein Blatt Papier. Wenn Sie ein zackiges, krakeliges Durcheinander zeichnen, ist es schwer zu verstehen. Wenn Sie eine glatte, fließende Kurve zeichnen, ist sie leicht zu lesen. TIDE zwingt die KI dazu, „glatte Kurven“ für ihre Variablen zu zeichnen. Es bestraft die KI, wenn ihre Variablen zwischen den Videoframes abrupt springen. Dies ermutigt die KI, Variablen zu finden, die sich wie echte physikalische Dinge (wie Geschwindigkeit oder Winkel) verhalten, anstatt wie chaotisches Rauschen.
Die Regel der einfachen Geschichte (Einfache Gleichungen):
Menschen bevorzugen einfache Geschichten. TIDE versucht, Variablen zu finden, die durch einfache mathematische Formeln beschrieben werden können. Wenn die KI eine Variable findet, die eine massive, unmögliche Gleichung erfordert, um sie zu erklären, ist sie weniger wahrscheinlich die „richtige“. TIDE drängt die KI zu Variablen, die in einer ordentlichen, kurzen Gleichung niedergeschrieben werden können.
Die „Keine Spickzettel“-Regel:
Die meisten bisherigen Methoden benötigten einen Spickzettel. Sie verlangten von den Menschen: „Hey, das ist ein Pendel, also achte auf Winkel.“ TIDE braucht das nicht. Es betrachtet das rohe Video ohne Vorwissen und findet die Regeln selbst heraus, indem es einfach beobachtet, wie sich die Dinge im Laufe der Zeit bewegen.

Die Ergebnisse: Dieselbe Sprache sprechen

Das Team testete TIDE an neun verschiedenen Systemen, von simulierten Pendeln bis hin zu echten Videos von Flammen oder Air-Dancer-Figuren.

Der „Glattheits“-Test: Als sie sich die von TIDE erstellten Variablen ansah, waren diese glatt und kontinuierlich, genau wie menschliche Variablen. Die alten KI-Modelle erzeugten Variablen, die erratisch hin und her sprangen.
Der „Übersetzungs“-Test: Sie nahmen die seltsamen Variablen, die TIDE gefunden hatte, und versuchten, sie mithilfe einer Technik namens „symbolische Regression“ (was so ähnlich ist, als würde man den Computer bitten, einen mathematischen Satz für die Variable zu schreiben, in die menschliche Sprache) zurück zu übersetzen.
- Ergebnis: Die von TIDE gefundenen Variablen konnten in klare, verständliche mathematische Formeln übersetzt werden, die Winkel und Geschwindigkeiten beinhalten. Die Variablen der alten KI-Modelle waren so chaotisch, dass keine menschenlesbare Formel sie beschreiben konnte.

Das Fazente

Dieses Paper behauptet nicht, Krankheiten zu heilen oder selbstfahrende Autos zu bauen. Es behauptet, eine spezifische Kommunikationslücke zwischen KI und Menschen zu schließen.

Betrachten Sie es als das Unterrichten einer KI, „menschliche Physik“ statt „Roboter-Mathematik“ zu sprechen. Indem es die KI dazu zwingt, dem glatten Fluss der Zeit und der Einfachheit der Natur zu folgen, entdeckt TIDE Variablen, die genau so aussehen, sich so anfühlen und sich so verhalten wie jene, die menschliche Wissenschaftler von Hand ausgewählt hätten. Dies macht es viel einfacher, dass Menschen und KI zusammenarbeiten können, da sie endlich dasselbe Wörterbuch benutzen.

Technisches Resümee: Ausrichtung von KI-gestützter Entdeckung auf menschliche Intuition

Problemstellung

Während die datengesteuerte Modellierung physikalischer dynamischer Systeme voranschreitet, bleibt ein kritischer Engpass bestehen: die Identifizierung geeigneter Zustandsvariablen. Während die automatisierte wissenschaftliche Entdeckung im Allgemeinen die Identifizierung von Zustandsvariablen und die Ableitung von Steuerungsgleichungen umfasst, ist der erste Schritt der Variablenentdeckung mathematisch unterbestimmt und anspruchsvoll. Bestehende Methoden produzieren oft Variablen, denen die physikalische Bedeutung fehlt oder die für menschliche Wissenschaftler schwer interpretierbar sind.

Aktuelle Ansätze stehen vor zwei primären Einschränkungen:

Nicht-Eindeutigkeit: Zustandsvariablen sind nicht eindeutig; ein System kann durch unendliche Kombinationen von Variablen beschrieben werden (z. B. kann ein Pendel durch Winkel/Geschwindigkeit oder Energie beschrieben werden). Ohne Einschränkungen neigen Modelle zu übermäßig komplexen Repräsentationen.
Abhängigkeit von Vorwissen (Priors): Viele Methoden (z. B. spärliche Regression, physik-informierte neuronale Netze) erfordern Vorwissen über das System, spezifische Basisfunktionen oder Annahmen über physikalische Gesetze. Dies schränkt ihre Anwendbarkeit auf neuartige oder unbekannte Umgebungen ein, in denen solche Vorinformationen fehlen.

Frühere Versuche, Variablen ohne Vorwissen zu lernen, wie der zweistufige Autoencoder-Ansatz von Chen et al. (2022), haben Schwierigkeiten, Variablen mit physikalischer Bedeutung oder expliziten analytischen Ausdrücken zu erzeugen, da es an Interpretierbarkeitskriterien mangelt, die den Entdeckungsprozess leiten.

Methodik: Der Temporally-Informed Dynamics Encoder (TIDE)

Die Autoren schlagen ein allgemeines Prinzip vor, um Repräsentationen zu destillieren, die mit der menschlichen Intuition übereinstimmen, ohne sich auf expliztes physikalisches Vorwissen zu verlassen. Der Kern dieses Ansatzes ist der Temporally-Informed Dynamics Encoder (TIDE), ein datengesteuerter Rahmen, der zentrale mathematische Eigenschaften, die typisch für physikalische Variablen sind, in sein Trainingsziel integriert.

Modellarchitektur

TIDE verwendet einen zweistufigen Prozess unter Verwendung eines Variational Autoencoder (VAE)-Backbones, eines Dynamikmoduls und eines Regularisierungsterms:

VAE-Backbone: Das Modell komprimiert hochdimensionale Eingangsdaten (z. B. Videobilder) in eine niedrigdimensionale latente Repräsentation $z$ . Der Encoder $h_\phi$ approximiert die Posterior-Verteilung $q_\phi(z|x)$ , und der Decoder $p_\theta$ rekonstruiert den Input. Das Trainingsziel beinhaltet die Evidence Lower Bound (ELBO).
Dynamikmodul: Ein Feed-Forward-Neuronales Netz ( $h_{dyn}$ ) wird integriert, um den Zeitentwicklungsoperator $g$ zu modellieren. Es prognostiziert den nächsten latenten Zustand $\hat{z}_{t+1}$ basierend auf dem aktuellen Zustand. Das Modul wird trainiert, um die Wahrscheinlichkeit der nächsten Beobachtung zu maximieren, wobei die Dynamik gemeinsam mit dem Repräsentationslernen optimiert wird.
Zeitableitungs-Regularisierung: Um die Nicht-Eindeutigkeit von Repräsentationen zu adressieren und Variablen zu fördern, die mit der menschlichen Intuition (speziell Glattheit und Kontinuität) übereinstimmen, wendet das Modell einen Strafterm basierend auf den Magnituden diskreter Zeitableitungen an.
- Die latenten Vektoren werden normalisiert, um eine globale Kontraktion zu verhindern.
- Der Regularisierungsverlust $L_{reg}$ aggregiert die ersten $n$ diskreten Ableitungen (in Experimenten auf $n=4$ gesetzt).
- Das endgültige Zielfunktion ist eine gewichtete Kombination: $L_{TIDE} = -L_{ELBO} - L_{dyn} + \lambda_2 L_{reg}$ .

Schätzung der intrinsischen Dimension (ID)

Um die korrekte Anzahl der Zustandsvariablen zu bestimmen, verwenden die Autoren einen Manifold-Learning-Algorithmus (DANCo) auf einem hochdimensionalen latenten Raum, der von einem vorläufigen TIDE-Netzwerk generiert wurde. Die geschätzte ID definiert dann die latente Dimension für ein zweites TIDE-Netzwerk, das die endgültigen Zustandsvariablen lernt.

Symbolische Regression

Für Systeme, bei denen Standard-Zustandsvariablen bekannt sind, verwenden die Autoren PySR (eine Bibliothek für symbolische Regression), um explizite analytische Ausdrücke für die gelernten latenten Variablen abzuleiten. Dieser Schritt validiert, ob die gelernten Variablen auf einfache mathematische Funktionen physikalischer Größen abgebildet werden können.

Zentrale Beiträge

Ein neues Prinzip der Ausrichtung: Das Paper schlägt ein allgemeines Prinzip vor, um Repräsentationen zu destillieren, die durch das Erzwingen von Glattheit und Differenzierbarkeit natürlich mit der menschlichen Intuition übereinstimmen, ohne explizites physikalisches Vorwissen zu benötigen.
TIDE-Architektur: Die Einführung des TIDE-Netzwerks, das Dynamik und Zustandsvariablen gemeinsam lernt und dabei Zeitableitungs-Regularisierung nutzt, um das Problem der Entdeckung von Zustandsvariablen anzugehen.
Interpretierbare und analytische Ergebnisse: Die Methode lernt Variablen, die nicht nur enger mit menschlich definierten Größen korrelieren, sondern auch explizite analytische Ausdrücke liefern – ein bedeutender Schritt über "Black-Box"-latente Repräsentationen hinaus.

Ergebnisse

Das Modell wurde auf neun Benchmark-Datensätzen evaluiert, darunter fünf simulierte Systeme (z. B. Reaktions-Diffusions-Systeme, Einzel-/Doppelpendel) und vier reale Systeme (z. B. Lava-Lampe, Feuerflamme).

Schätzung der intrinsischen Dimension: TIDE lieferte präzisere Schätzungen der intrinsischen Dimension im Vergleich zum Baseline-Ansatz der Neural State Variables (NSV), insbesondere bei Systemen mit bekannten Ground-Truth-IDs. Die Autoren führen dies auf die Zeitableitungs-Regularisierung zurück, die einen glatten latenten Raum begünstigt.
Glätte und Kontinuität der Variablen: Visualisierungen des latenten Raums (z. B. für Pendelsysteme) zeigten, dass die TIDE-Variablen glatt über die Zeit evolvieren und menschlich interpretierbare Größen wie Winkel und Winkelgeschwindigkeit eng nachahmen. Im Gegensatz dazu wies die Baseline diskontinuierliche Sprünge auf.
Interpretierbarkeitsmetriken:
- Mutual Information (MI): TIDE demonstrierte eine höhere MI zwischen Modellvariablen und menschlichen Variablen, was auf eine stärkere Korrelation hindeutet.
- Analytischer mittlerer quadratischer Fehler (AMSE): TIDE erreichte einen signifikant niedrigeren AMSE beim Anpassen symbolischer Ausdrücke an die gelernten Variablen, was die analytische Rückgewinnbarkeit bestätigt.
Analytische Ausdrücke: Die Autoren konnten erfolgreich explizite Formeln für die latenten Variablen des Einzel- und Doppelpendels ableiten (z. B. $z_0$ ausgedrückt als Kombination von Sinusfunktionen des Winkels $\theta$ ). Für die Baseline-Variablen konnte keine solche symbolische Kombination gefunden werden.

Bedeutung und Behauptungen

Das Paper behauptet, dass TIDE einen bedeutenden Schritt darstellt, um die Mensch-KI-Kollaboration in der wissenschaftlichen Entdeckung fruchtbarer zu gestalten. Durch die Ausrichtung von KI-generierten Repräsentationen auf die menschliche Intuition mittels mathematischer Eigenschaften (Glattheit, Differenzierbarkeit) statt expliziter physikalischer Priors, schlägt die Methode die Brücke zwischen datengesteuerter Modellierung und menschlichem Verständnis.

Die Autoren betonen, dass dies nach ihrem Wissen das erste Ergebnis ist, das explizite Formeln für Zustandsvariablen ableitet, die ohne Vorwissen über das System gelernt wurden. Sie legen nahe, dass dieses Prinzip Forschern helfen kann, Erkenntnisse über unbekannte Phänomene zu gewinnen, insbesondere wenn theoretische Vorhersagen von empirischen Beobachtungen abweichen.

Einschränkungen: Die Autoren merken bescheiden an, dass die Methode auf der Annahme einer stabilen Zustandsvariablen-Repräsentation beruht, die in Szenarien mit ineffizienter Datenerfassung möglicherweise nicht hält. Sie räumen zudem ein, dass die Repräsentation zwar mit menschlichen Größen übereinstimmt, diese aber aufgrund der inhärenten Nicht-Eindeutigkeit von Zustandsvariablen-Konfigurationen nicht perfekt abbilden muss. Zukünftige Arbeiten sollen semi-überwachtes Lernen und theoretische Bedingungen für Identifizierbarkeit untersuchen.