A Pedagogical Framework for Physics-Informed Machine Learning: From Classical Pendulum to Quantum Anharmonic Oscillator Using PyTorch on Modern GPU Hardware

Diese Arbeit stellt ein fünfmodulares pädagogisches Framework vor, das den Unterricht von physik-informiertem maschinellem Lernen anhand eines getriebenen Pendels und eines quantenmechanischen Oszillators mittels PyTorch auf moderner GPU-Hardware vermittelt und dabei verschiedene Modellarchitekturen sowie CPU-GPU-Leistungsvorteile systematisch vergleicht.

Das Wesentliche

Stellen Sie sich vor, Sie wollen einem Schüler beibringen, wie man das Wetter vorhersagt oder wie ein Auto fährt. Früher hat man ihm einfach nur tausende Fotos von Regen und Sonnenschein gezeigt (Daten-getrieben). Heute aber gibt es eine neue Methode: Man gibt dem Schüler nicht nur Fotos, sondern auch die Gesetze der Physik (z. B. „Wasser kondensiert bei Kälte") an die Hand. Das ist im Grunde die Idee hinter diesem Papier.

Hier ist die einfache Erklärung dieser wissenschaftlichen Arbeit, übersetzt in eine Geschichte mit Analogien:

Das große Ziel: Physik trifft auf Künstliche Intelligenz

Die Autoren (Enis Yazici und Kollegen) haben einen fünfteiligen Lehrplan entwickelt, um Studenten beizubringen, wie man Künstliche Intelligenz (KI) nutzt, um physikalische Probleme zu lösen. Statt nur trockene Formeln zu pauken, bauen sie zwei verschiedene „Lernspiele" nach, die immer schwieriger werden:

1. Das klassische Pendel: Ein schweres Ding, das an einer Schnur schwingt, aber durch Wind und Reibung gestört wird.
2. Der Quanten-Oszillator: Ein winziges Teilchen in einer unsichtbaren Falle, das sich nach den seltsamen Gesetzen der Quantenmechanik verhält.

Die fünf Lern-Methoden (Die Modelle)

Um diese Probleme zu lösen, haben die Forscher fünf verschiedene „KI-Studenten" getestet. Man kann sie sich wie fünf verschiedene Lernstile vorstellen:

1. Der reine Auswendigler (ANN): Dieser Schüler hat nur eine Tabelle mit Daten gesehen. Er lernt auswendig: „Wenn das Pendel hier ist, dann ist es dort." Er braucht aber viele Daten und ein Sensor, der die Geschwindigkeit misst.
2. Der Muster-Erkennungs-Profi (CNN): Ein Spezialist für Bilder und Muster. Er schaut sich die Form der Energie-Falle an und sagt sofort, wie viel Energie das Teilchen hat.
3. Der Sequenz-Experte (LSTM): Ein Schüler, der besonders gut darin ist, Reihenfolgen zu verstehen (wie ein Satz, Wort für Wort). Er verarbeitet die Daten Schritt für Schritt.
4. Der Physik-Genie (PINN 1 & 2): Das sind die Helden der Geschichte. Diese Schüler bekommen keine fertigen Lösungen gezeigt. Stattdessen bekommen sie nur die Regelbücher (die physikalischen Gleichungen) und ein paar Startpunkte. Sie müssen die Lösung selbst herleiten, indem sie die Regeln befolgen. Sie sind wie ein Detektiv, der den Fall löst, ohne die Antwort im Rückspiegel zu sehen.

Die zwei großen Entdeckungen

1. Wann braucht man einen Supercomputer? (CPU vs. GPU)

Die Forscher haben getestet, wie schnell diese Schüler auf einem normalen Laptop (CPU) im Vergleich zu einem modernen Gaming-PC mit riesiger Grafikkarte (GPU) lernen.

• Die Analogie: Stellen Sie sich vor, Sie müssen 500 Briefe sortieren.
  • Der Laptop ist wie ein einzelner sehr schneller Briefträger. Er macht die Arbeit nacheinander.
  • Die Grafikkarte (GPU) ist wie ein Team von 500 Briefträgern, die alle gleichzeitig arbeiten.
• Das Ergebnis: Bei kleinen Aufgaben (wie dem einfachen Pendel) bringt das Team nichts, weil der Briefträger allein schneller ist als die Koordination des Teams. Aber bei der großen Aufgabe (dem Quanten-Teilchen mit 500 Schritten) ist das Team 24-mal schneller. Das zeigt den Studenten: Man muss wissen, wann man das große Werkzeug einsetzt und wann es nur Geld verschwendet.

2. Wenige Daten vs. Viele Daten

Ein wichtiges Ergebnis ist die Frage: „Wie viele Beispiele braucht man?"

• Wenn man viele Daten hat (z. B. 2.400 Messungen), ist der reine Auswendigler (ANN) am besten und schnellsten.
• Wenn man wenige Daten hat (z. B. nur 48 Messungen), versagt der Auswendigler. Aber der Physik-Genie (PINN) funktioniert trotzdem perfekt, weil er die physikalischen Gesetze kennt.
• Die Lehre: Wenn Daten teuer oder schwer zu bekommen sind (wie bei teuren Experimenten), ist die Methode mit den physikalischen Gesetzen besser. Wenn Daten billig sind, reicht das reine Auswendiglernen.

Ein besonderer Trick: Der „Lehrplan" (Curriculum Training)

Bei den Physik-Genies (PINNs) gab es ein Problem: Wenn man sie sofort das ganze Pendel über 30 Sekunden lang berechnen ließ, wurden sie verwirrt und gaben auf.

• Die Lösung: Die Forscher haben ihnen einen Lehrplan gegeben. Zuerst lernten sie nur die ersten 3 Sekunden. Als sie das beherrschten, kamen 7 Sekunden dazu, dann 12, und so weiter.
• Die Analogie: Wie beim Sport. Man trainiert nicht sofort einen Marathon. Man fängt mit 100 Metern an, dann 1 km, dann 5 km. So lernt das KI-Modell, komplexe Probleme über lange Zeiträume zu lösen, ohne den Überblick zu verlieren.

Warum ist das wichtig?

Dieses Papier ist wie ein Lehrbuch für die Zukunft. Es zeigt Studenten nicht nur, wie man KI benutzt, sondern auch:

• Wie man KI mit echten physikalischen Gesetzen verbindet.
• Wie man entscheidet, welche Methode man wann benutzt.
• Dass die Wahl der Software (PyTorch statt TensorFlow) manchmal davon abhängt, ob sie auf der neuesten Hardware funktioniert (ein technisches Detail, das im Papier als wichtige Lektion für die Praxis erwähnt wird).

Zusammenfassend: Die Autoren haben ein Werkzeugkasten-Set gebaut, das zeigt, wie man KI von einem bloßen „Daten-Auswerter" zu einem „physikalischen Denker" macht – und zwar so, dass Studenten es in einem normalen Labor mit modernen Computern selbst ausprobieren können.

Technische Zusammenfassung

Titel: Ein pädagogisches Framework für physik-informiertes maschinelles Lernen: Vom klassischen Pendel zum quantenmechanischen anharmonischen Oszillator

Autor: Enis Yazici (SRH University of Applied Sciences Heidelberg)
Technologie-Stack: PyTorch 2.9, CUDA 12.8, NVIDIA RTX 5090 GPU

---

1. Problemstellung und Motivation

Moderne Ingenieursstudiengänge fordern zunehmend praktische Kompetenzen im Einsatz von maschinellem Lernen (ML) für wissenschaftliche Probleme. Herkömmliche ML-Lehrpläne konzentrieren sich jedoch oft auf Bilderkennung oder NLP und lassen eine Lücke bei der Modellierung von Differentialgleichungen (ODEs/PDEs) und physikalischen Erhaltungssätzen.
Der direkte Sprung von rein datengetriebenen Ansätzen zu Physik-Informierten Neuronalen Netzen (PINNs) ist für Studierende oft zu groß. Zudem gibt es praktische Herausforderungen bei der Hardware-Kompatibilität: Ältere TensorFlow-Versionen (≤2.22) stürzen auf moderner NVIDIA-Hardware (Blackwell-Architektur, sm 120) aufgrund von PTX-Inkompatibilitäten ab, während PyTorch 2.9 hier stabil läuft.

Das Ziel des Papers ist es, ein strukturiertes, fünfmoduliges Lehrkonzept vorzustellen, das den Übergang von datengetriebenen zu physik-gesteuerten Modellen anhand zweier physikalischer Systeme mit steigender Komplexität demonstriert.

2. Methodik und Framework

Das Framework besteht aus fünf Modulen, die zwei physikalische Systeme behandeln:

A. Physikalische Systeme & Datengenerierung

1. Klassisches Pendel (Modul 1–2):

   • Ein nichtlineares, gedämpftes und getriebenes Pendel, beschrieben durch eine zweite Ordnung ODE.
   • Daten werden mittels eines benutzerdefinierten Runge-Kutta-4-Lösers (RK4) generiert.
   • Modul 1: Training eines rein datengetriebenen Artificial Neural Network (ANN).
   • Modul 2: Training eines PINN, das nur Kollokationspunkte (ohne gelabelte Trajektorien-Daten) nutzt und die physikalische Gleichung direkt in die Verlustfunktion integriert.

2. Quanten-Anharmonischer Oszillator (Modul 3–4):

   • Ein Teilchen in einem quartisch gestörten harmonischen Potential, beschrieben durch die zeitunabhängige Schrödinger-Gleichung.
   • Referenzdaten werden mittels Finite-Differenzen-Methode (FDM) und Eigenwertzerlegung berechnet.
   • Modul 3: Anwendung von 1D-CNNs und LSTMs als Regressoren auf diskretisierte Potentialdaten.
   • Modul 4: Training eines Schrödinger-geschränkten PINN, der die Wellenfunktion und den Eigenwert (Energie) gleichzeitig lernt.

B. Modellarchitekturen

Fünf Modelle wurden in PyTorch implementiert und verglichen:

• Datengetrieben:
  • ANN (Pendel): Vollvernetztes Netz (5-128-128-64-1) mit ReLU, Eingabe: Zeit und abgeleitete Features.
  • CNN (Quanten): 1D-Faltung für Potentialvektoren.
  • LSTM (Quanten): Sequenzverarbeitung der Potentialdaten.
• Physik-Informiert (PINNs):
  • Pendel-PINN: Nutzt tanh-Aktivierungen und einen Curriculum-Training-Ansatz. Das Netz wird schrittweise von kurzen Zeitintervallen ($t \in [0,3]$) auf das volle Intervall ($t \in [0,30]$) trainiert, um Konvergenzprobleme bei nichtlinearen Systemen zu vermeiden.
  • Quanten-PINN: Lernt die Wellenfunktion $\psi(x)$ und die Energie $E$ als lernbaren Parameter unter Einhaltung der Schrödinger-Gleichung und einer Normalisierungsbedingung.

C. Benchmarking

Ein systematischer Vergleich zwischen CPU (AMD) und GPU (NVIDIA RTX 5090) wurde durchgeführt, um den Geschwindigkeitsvorteil und die Hardware-Effizienz zu quantifizieren.

3. Wichtige Beiträge

1. Strukturierte Progression: Ein didaktischer Pfad von rein datengetriebenen Modellen hin zu physik-geschränkten Formulierungen über zwei kanonische physikalische Systeme.
2. Curriculum-Training-Strategie: Nachgewiesen, dass schrittweises Training (von kurz- zu langfristig) für PINNs essenziell ist, um bei nichtlinearen, getriebenen Systemen über lange Zeiträume akkurate Ergebnisse zu erzielen (einzelstufiges Training scheitert hier).
3. Hardware-Benchmarks: Quantitative Analyse, wann GPU-Beschleunigung sinnvoll ist und wann der Overhead (z. B. PCIe-Datentransfer) den Nutzen zunichtemacht.
4. Open-Source-Implementierung: Vollständig ausführbare Jupyter-Notebooks für den Einsatz in Graduiertenkursen, die Hardware-Kompatibilitätsprobleme (TensorFlow vs. PyTorch auf Blackwell-GPUs) thematisieren.

4. Ergebnisse

Genauigkeit und Leistung

• Pendel:
  • Das datengetriebene ANN erreicht einen mittleren absoluten Fehler (MAE) von $1,3 \times 10^{-2}$ rad (benötigt jedoch Winkelgeschwindigkeit $\omega(t)$ als Eingabe).
  • Der PINN erreicht einen MAE von $3,1 \times 10^{-2}$ rad ohne gelabelte Trajektorien, nutzt nur Kollokationspunkte und Systemparameter.
  • Daten-Effizienz: Das ANN übertrifft den PINN nur, wenn mehr als ca. 600 gelabelte Stichproben verfügbar sind. Unterhalb dieser Schwelle ist der PINN überlegen.
• Quanten-Oszillator:
  • Die CNN erzielt die höchste Genauigkeit (MAE = $4,4 \times 10^{-5}$ a.u.) und ist mit 0,8 s Trainingszeit am schnellsten.
  • Der Quanten-PINN liefert qualitativ andere Ergebnisse: Er rekonstruiert die vollständige Wellenfunktion $\psi(x)$ und entdeckt den Eigenwert $E$ selbstständig (Fehler $|\Delta E| = 5,5 \times 10^{-4}$ a.u.), was reinen Regressionsmodellen nicht möglich ist.

CPU vs. GPU Benchmark

Die Ergebnisse zeigen drastische Unterschiede in der Beschleunigung:

• LSTM (Quanten): 24,6-fache Beschleunigung auf der GPU. Der sequentielle 500-Schritt-Prozess wird massiv parallelisiert.
• CNN (Quanten): 3,6-fache Beschleunigung durch parallele Faltungen.
• Kleine ANN (Pendel): Nur 1,2-fache Beschleunigung. Da das Modell klein ist (25.601 Parameter), wird die GPU in Mikrosekunden ausgelastet; der Flaschenhals ist der PCIe-Datentransfer, nicht die Rechenleistung.
• PINNs: Zeigen moderate Beschleunigungen (1,6x – 1,7x), da die Berechnung der physikalischen Residuen (Autograd) sequentiell ist.

5. Bedeutung und Fazit

Das Paper liefert einen konkreten Leitfaden für die Modellwahl in physikalischen ML-Anwendungen:

• Datenverfügbarkeit: Bei vielen gelabelten Daten sind datengetriebene Modelle (ANN, CNN) genauer und schneller. Bei knappen Daten oder wenn physikalische Konsistenz (Extrapolation, Erhaltungssätze) Priorität hat, sind PINNs überlegen.
• Hardware-Awareness: Die Wahl der Architektur muss zur Hardware passen. Sequenzielle Modelle (LSTM) profitieren enorm von GPUs, während kleine Netze oft keine GPU benötigen.
• Didaktischer Wert: Das Framework demonstriert erfolgreich, wie Studierende von rein datengetriebenen Denkweisen zu physik-konstrained Formulierungen geführt werden können. Es unterstreicht zudem, dass die Wahl des Frameworks (PyTorch vs. TensorFlow) bei moderner Hardware eine harte technische Einschränkung sein kann, die im Unterricht thematisiert werden muss.

Zukünftige Arbeiten planen die Erweiterung auf mehrdimensionale PDEs und adaptive Kollokationsstrategien.