🤖 AI

Systematic LLM Translation of Legacy Scientific Code to Differentiable Frameworks: Application to a Land Surface Model

Dieses Paper präsentiert eine fünfphasige, auf LLMs basierende agentische Pipeline, die erfolgreich ein 19.000 Zeilen umfassendes Legacy-Fortran-Landoberflächenmodell in ein differenzierbares JAX-Framework übersetzt und dabei signifikante Leistungssteigerungen bei der Parameterrekonstruktion sowie der Rechengeschwindigkeit erzielt, während die numerische Parität durch automatisierte Fehlerkorrektur und Verifizierung sichergestellt wird.

Ursprüngliche Autoren: Aya Lahlou, Linnia Hawkins, Pierre Gentine

Veröffentlicht 2026-06-09

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Aya Lahlou, Linnia Hawkins, Pierre Gentine

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie besitzen eine riesige, unglaublich komplexe und leicht verstaubte alte Bibliothek von Anweisungen, die in einer vergessenen Sprache (Fortran) geschrieben sind. Diese Bibliothek sagt einem Computer genau, wie er die Erdoberfläche simulieren soll – wie Pflanzen atmen, wie der Boden sich erwärmt und wie Wasser sich bewegt. Sie läuft seit Jahrzehnten und funktioniert perfekt, aber es ist „Legacy“-Code: Er ist schwer zu lesen, schwer zu ändern und kann nicht ohne Weiteres aus neuen Daten lernen.

Die Autoren dieser Arbeit wollten diese alte Bibliothek in eine moderne, superintelligente Sprache (JAX) übersetzen, die es dem Computer ermöglicht, die Simulation nicht nur auszuführen, sondern auch aus ihr zu lernen. Sie entwickelten ein Team von KI-Agenten (digitalen Arbeitern), um diese Übersetzung automatisch durchzuführen.

So sind sie dabei vorgegangen, erklärt durch einfache Analogien:

1. Das Problem: Die „Black Box“-Bibliothek

Der alte Code ist wie ein riesiger, verhedderter Wollknäuel. Wenn man einen einzelnen Faden (einen Parameter) ändern möchte, muss man das gesamte Ding auseinanderziehen, um zu sehen, was passiert. Außerdem kann der alte Code einem nicht sagen, warum ein Ergebnis zustande gekommen ist oder wie man ihn anpassen müsste, um ein besseres Ergebnis zu erzielen. Er liefert einfach nur eine Antwort.

2. Die Lösung: Die „Fünf-Phasen-KI-Baustelle“

Anstatt einen Menschen zu engagieren, um alles neu zu schreiben (was Jahre dauern würde), haben die Autoren eine automatisierte Fünf-Schritte-Pipeline unter Verwendung von Large Language Models (LLMs) entwickelt. Betrachten Sie dies als eine Baustelle mit spezifischen Rollen:

Phase 1: Der Architekt (Abhängigkeitsanalyse)
Bevor etwas gebaut wird, liest die KI den gesamten Bauplan, um zu verstehen, wie die Räume miteinander verbunden sind. Sie findet heraus, welche Teile des Codes von welchen anderen Teilen abhängen. Dies stellt sicher, dass sie den Code in der richtigen Reihenfolge übersetzen (wie das Bauen des Fundaments vor dem Dach), damit nichts verloren geht.
Phase 2: Der Projektmanager (Zustandsdokumentation)
Die KI erstellt ein digitales „Logbuch“ (Dateien wie plan.md und CHANGELOG.md). Wenn die KI stecken bleibt oder einen Fehler macht, schreibt sie es auf. Dies dient als Gedächtnis der Baustelle, sodass die KI genau weiß, wo sie aufgehört hat und was beim letzten Mal schiefgelaufen ist, falls sie eine Pause macht oder neu startet.
Phase 3: Der Qualitätskontrolleur (Fortran-Orakel)
Dies ist der kritischste Schritt. Die KI übersetzt ein kleines Stück des alten Codes in die neue Sprache. Dann lässt sie sowohl die alte Version als auch die neue Version mit exakt denselben Eingaben nebeneinander laufen. Sie prüft: „Passen die Zahlen perfekt zusammen?“ Wenn der neue Code „5,0“ sagt und der alte Code „5,0001“, weiß die KI, dass sie einen Fehler gemacht hat und diesen korrigieren muss.
Phase 4: Die Reparaturschleife (Iterative Übersetzung)
Wenn der Qualitätskontrolleur eine Abweichung findet, gibt die KI nicht auf. Sie tritt in eine „Reparaturschleife“ ein. Sie liest den Fehler, vermutet, was schiefgelaufen ist, behebt den Fehler und testet den Code erneut. Dies macht sie immer und immer wieder, bis die Zahlen perfekt übereinstimmen. Die Studie ergab, dass diese KI-Crew etwa 81 % ihrer eigenen Fehler ohne menschliche Hilfe beheben konnte.
Phase 5: Die Endmontage & der Stresstest (Integration & Differenzierbarkeit)
Soblich alle kleinen Teile übersetzt und getestet wurden, fügt die KI sie zu einem großen Modell zusammen. Dann führt sie einen speziellen „Stresstest“ durch, um sicherzustellen, dass das Modell Gradienten (Steigungen) berechnen kann.
- Analogie: Stellen Sie sich vor, Sie fahren ein Auto. Der alte Code konnte Ihnen sagen, wo Sie sich befinden. Der neue Code kann Ihnen genau sagen, in welche Richtung Sie das Lenkrad drehen und wie stark Sie das Gaspedal drücken müssen, um Ihr Ziel schneller zu erreichen. Das ist das, was „differenzierbar“ bedeutet.

3. Die Ergebnisse: Was haben sie erreicht?

Sie wandten diesen Prozess auf ein 19.000 Zeilen umfassendes Landoberflächenmodell (CLM-ml-v2) an. Hier ist das Ergebnis:

Perfekte Übersetzung: Das neue, von der KI übersetzte Modell lieferte Ergebnisse, die mathematisch identisch mit dem alten Fortran-Modell waren. Es war keine Annäherung; es war ein perfekter Klon.
Super Geschwindigkeit: Als sie das Modell auf einem für KI konzipierten Computerchip (einer GPU) mit tausenden verschiedenen Szenarien gleichzeitig ausführten, war es 24 Mal schneller als der alte Code auf einem Standardprozessor.
Lerngeschwindigkeit: Als sie versuchten, das Modell abzustimmen, um die besten Einstellungen zu finden (Parameter-Schätzung), fand das neue Modell die Antwort in 8 Mal weniger Schritten als die alten Methoden. Es ist, als würde man eine Nadel im Heuhaufen mit einem Magneten finden, anstatt jeden einzelnen Halm einzeln zu untersuchen.

4. Warum das wichtig ist

Die Arbeit zeigt, dass wir unsere jahrzehntelange wissenschaftliche Arbeit nicht wegwerfen müssen, um moderne KI zu nutzen. Wir können KI verwenden, um unseren alten, vertrauenswürdigen wissenschaftlichen Code in ein neues Format zu übersetzen, das genauso genau, aber viel schneller und lernfähiger ist.

Die Autoren stellen ihre „Baustelle“ (die Pipeline) und das übersetzte Modell als offene Werkzeuge zur Verfügung, in der Hoffnung, dass andere Wissenschaftler dieselbe Methode nutzen können, um ihre eigene alte wissenschaftliche Software aufzuwerten.

Kurz gesagt: Sie haben ein Roboter-Team gebaut, das ein altes, verstaubtes Handbuch gelesen, es in eine moderne Sprache umgeschrieben, jedes einzelne Wort doppelt geprüft, um Perfektion zu garantieren, und bewiesen, dass die neue Version 24 Mal schneller arbeitet und viel besser aus Daten lernen kann als das alte Modell.

Technisches Resümee: Systematische LLM-gestützte Übersetzung von Legacy-Wissenschaftscode in differenzierbare Frameworks

Problemstellung
Legacy-Erdsystemmodelle (ESMs), insbesondere Landoberflächenmodelle (LSMs), sind entscheidend für die Klimapolitik und -prognose, bleiben jedoch weitgehend unzugänglich für moderne differenzierbare Programmiertechniken. Diese Modelle, die oft aus Hunderttausenden Zeilen Fortran-Code bestehen, leiden unter mangelnder Modularität, veralteten Komponenten und einer schrumpfenden Entwicklerbasis. Während differenzierbare Programmierung eine effiziente gradientenbasierte Parameterschätzung, Sensitivitätsanalyse und Datenassimilation ermöglicht, bleibt die Migration von Legacy-Codebasen in differenzierbare Frameworks (wie JAX) eine ungelöste Herausforderung. Bestehende Versuche zur Modernisierung von Code beinhalten entweder komplette Neuentwicklungen, die die ursprüngliche Physik verwerfen, oder scheitern an der Skalierbarkeit über isolierte Funktionen hinaus aufgrund von Abhängigkeiten zwischen Dateien und der mangelnden numerischen Treue bei LLM-Übersetzungen. Zudem messen aktuelle LLM-Benchmarks die wissenschaftliche Validität oder die für physikalische Modelle erforderliche numerische Parität nicht ausreichend.

Methodik: Eine fünfphasige agentische Pipeline
Die Autoren schlagen eine systematische, fünfphasige agentische Pipeline vor, um das 19.000 Zeilen umfassende, 102 Module umfassende Fortran-Landoberflächenmodell CLM-ml-v2 in eine voll differenzierbare JAX-Implementierung namens clm-ml-jax zu übersetzen. Die Pipeline stützt sich auf drei Kernprinzipenschaften: statische Abhängigkeitsanalyse, modulare numerische Paritätstests und umfassende Gradientenverifizierung.

Phase 1: Scoping und Abhängigkeitsanalyse: Um Halluzinationen des LLMs bezüglich Datentypen in gekoppelten Codebasen zu verhindern, führen die Autoren eine statische Analyse des vollständigen Modulabhängigkeitsgraphen durch. Eine topologische Sortierung bestimmt eine abhängigkeitsrespektierende Übersetzungsreihenfolge, wodurch sichergestellt wird, dass alle importierten Module vor den Modulen übersetzt werden, die von ihnen abhängen.
Phase 2: Setup der Zustandsdokumentation: Die Pipeline nutzt persistente Zustandsdokumente (CLAUDE.md, plan.md, CHANGELOG.md), die als externer Agenten-Speicher dienen. Diese Dokumente kodieren Projektkonventionen, verfolgen Abschlussflags und protokollieren fehlgeschlagene Versuche, was eine kohärente Sitzungswiederaufnahme über Kontextfenster-Grenzen hinweg ermöglicht und verhindert, dass Agenten Sackgassen erneut anlaufen.
Phase 3: Konstruktion eines Fortran-Orakels: Vor der Übersetzung konstruiert ein Team von Agenten eine Funktionstestsuite. Subroutinen werden basierend auf ihrer Testbarkeit in drei Stufen klassifiziert. Das System führt den ursprünglichen Fortran-Code unter festen Eingaben aus, um „Gold“-Input-Output-Paare zu generieren, und etabliert so ein Referenzorakel zur numerischen Validierung.
Phase 4: Iterative Übersetzung, Testung und Reparatur: Module werden in der in Phase 1 festgelegten topologischen Reihenfolge verarbeitet. Ein Übersetzungs-Agent generiert JAX-Code, der dann durch einen Test-Agenten gegen das Fortran-Orakel validiert wird (erforderlich ist eine relative Toleranz innerhalb von $10^{-4}$ ). Falls ein Test fehlschlägt, tritt eine „Ralph-Loop“ (ein Orchestrierungsmuster) in Kraft, die einen Reparatur-Agenten aktiviert, um Diskrepanzen zu diagnostizieren, den Code zu editieren und ihn autonom erneut zu testen, bis das Modul besteht oder für eine menschliche Überprüfung markiert wird.
Phase 5: Integration und Validierung der Differenzierbarkeit: Sob nachdem die Module übersetzt wurden, setzt ein Integrations-Agent die vollständige Säulen-Pipeline zusammen und validiert das End-to-End-Verhalten. Ein Differenzierbarkeits-Agent löst anschließend iterativ JAX-spezifische Probleme, wie zum Beispiel:
- Statische Schleifenentrollung (Loop Unrolling): Ersetzen von Python-Level for-Schleifen durch jax.lax.scan, um Schleifenkörper zur Kompilierzeit einmalig zu tracen und unhandliche Berechnungsdiagramme für Runge-Kutta-Solver zu vermeiden.
- Statische vs. dynamische Typisierung: Konvertierung von Konstanten in JAX-Skalare, um eine vollständige Rekompilierung durch wechselnde Cache-Keys zu verhindern.
- Ast-sichere Guards (Branch-Safe Guards): Anwendung von Untergrenzen (z. B. jnp.maximum(x, 1e-30)), um NaN-Gradienten bei Operationen wie $0 \times \infty$ in jnp.where-Ausdrücken zu verhindern.
- Implizite Funktionstheorem (IFT) Adjoin-Verfahren: Differenzierung iterativer Solver (z. B. Stomata-Leitfähigkeit-Bisection, Monin-Obukhov-Länge) unter Verwendung von IFT-Adjointen anstelle des Entrollens der Schleife, was zu falschen Gradienten führen würde.

Wichtigste Ergebnisse
Das resultierende clm-ml-jax Modell wurde am CHATS7 Walnut Orchard AmeriFlux-Standort mit meteorologischen Daten vom Mai 2007 evaluiert.

Numerische Äquivalenz: Das übersetzte Modell erreichte eine nahezu perfekte numerische Parität mit dem Fortran-Referenzmodell über 1488 Zeitschritte hinweg, mit Korrelationskoeffizienten von 1,000 und vernachlässigbarem Bias für alle Variablen (z. B. fühlbare Wärme, latente Wärme, GPP).
Gradientenkorrektheit: Die Rückwärts-Differenzierung wurde gegen zentrale Finite-Differenzen validiert. Alle aktiven Parameter erreichten relative Fehler von weniger als $1 \times 10^{-4}$ . Die Pipeline konnte komplexe Strukturen, einschließlich iterativer Solver und Runge-Kutta-Teilschritte, erfolgreich handhaben.
Effizienz der Parameterkalibrierung: In einer Proof-of-Concept-Kalibrierung von drei Parametern stellte ein gradientenbasierter L-BFGS-B-Optimizer die Grundwahrheitswerte mit Maschinengenauigkeit ( $\sim 10^{-19}$ ) in weniger als 50 Auswertungen wieder her. Dies war 8-mal schneller (bezogen auf die Auswertungen) als der gradientenfreie Nelder-Mead-Optimizer.
Leistungssteigerung: Durch die Verwendung von jax.vmap auf einer GPU (Quadro RTX 8000) erreichte das Modell eine 24-fache Wandzeit-Beschleunigung gegenüber der sequentiellen Fortran-Ausführung bei einer Ensemblegröße von $N=2.048$ . Die amortisierten Kosten pro Probe sanken von 24,9 ms auf 11,4 ms, während die Ensemblegröße anstieg, wohingegen Fortran flach bei $\approx 54$ ms/Probe blieb.
Agentische Effizienz: Über 73 Modul-Übersetzungsaufgaben und 46 agentische Sitzungen hinweg wurden 81,2 % der Bugs autonom beim ersten Versuch behoben. Die gesamte menschliche Aufsicht wurde auf lediglich 10–15 Stunden geschätzt.

Bedeutung und Ansprüche
Das Paper behauptet, zu demonstrieren, dass Legacy-Wissenschafts-Codebasen systematisch in voll differenzierbare Frameworks übersetzt werden können, ohne die wissenschaftliche Grundwahrheit zu verletzen.

Wissenschaftlicher Ertrag: Die Arbeit ermöglicht gradientenbasierte Parameteroptimierung und Sensitivitätsanalysen, die für CLM-ml-v2 zuvor nicht handhabbar waren. Die Jacobian-Analyse zeigt, dass Lufttemperatur und kurzwellige Strahlung die Sensitivitäten der Brutto-Primärproduktion (GPP) und der Energieflüsse dominieren, während $V_{c,max}$ eine distinkte Kontrolle ausübt.
Methodischer Beitrag: Das Paper präsentiert einen reproduzierbaren, fünfstufigen Workflow mit autonomen Reparaturzyklen und domänenspezifischer Oracle-Validierung. Es quantifiziert die Machbarkeit der „Co-Autorenschaft“ zwischen Menschen und KI-Agenten bei der Modernisierung wissenschaftlicher Software und zeigt, dass eine hochgradig menschliche Aufsicht für komplexe, mehrtägige Übersetzungsaufgaben ausreicht.
Wiederverwendbarkeit: Sowohl das übersetzte Modell als auch die Pipeline-Infrastruktur werden als wiederverwendbares Framework veröffentlicht, das die Community dabei unterstützen soll, andere Komponenten von Erdsystemmodellen zu differenzieren.

Die Autoren positionieren diese Arbeit nicht als finale Lösung für alle ESMs, sondern als validierten Proof-of-Concept, der die Lücke zwischen Legacy-Fortran-Physik und moderner differenzierbarer Programmierung schließt und den Weg für hybride Physik-ML-Architekturen sowie eine effizientere Unsicherheitsquantifizierung in der Klimamodellierung ebnet.

1. Das Problem: Die „Black Box“-Bibliothek

2. Die Lösung: Die „Fünf-Phasen-KI-Baustelle“

3. Die Ergebnisse: Was haben sie erreicht?

4. Warum das wichtig ist

Technisches Resümee: Systematische LLM-gestützte Übersetzung von Legacy-Wissenschaftscode in differenzierbare Frameworks

Mehr davon