Systematic LLM Translation of Legacy Scientific Code to Differentiable Frameworks: Application to a Land Surface Model

技術要約：レガシー科学コードから微分可能なフレームワークへの体系的なLLM翻訳

問題提起
レガシーな地球システムモデル（ESM）、特に陸面モデル（LSM）は、気候政策や予測において極めて重要であるが、現代の微分可能プログラミング手法にはほとんど対応できていない。これらのモデルは、数十万行に及ぶFortranコードで構成されていることが多く、モジュール性が低く、コンポーネントが廃止されており、開発者の減少という課題を抱えている。微分可能プログラミングは、効率的な勾配ベースのパラメータ推定、感度分析、およびデータ同化を可能にするが、レガシーなコードベースを微分可能なフレームワーク（JAXなど）へ移行することは未解決の課題である。既存のコード近代化の試みは、レガシーな物理学を破棄するクリーンな書き換えを行うか、あるいはクロスファイル依存関係のために孤立した関数を超えてスケールさせることに失敗している。また、大規模言語モデル（LLM）による翻訳における数値的な忠実度の欠如も問題となっている。現在のLLMベンチマークは、物理モデルに求められる科学的妥当性や数値的一致を十分に測定できていない。

手法：5フェーズのエージェント・パイプライン
著者らは、19,000行、102モジュールからなるFortranによる陸面モデル CLM-ml-v2 を、完全に微分可能な JAX 実装である clm-ml-jax へと翻訳するための、体系的な5フェーズのエージェント・パイプラインを提案している。このパイプラインは、静的依存関係分析、モジュール単位の数値的一致テスト、および包括的な勾配検証という3つのコア設計原則に基づいている。

1. フェーズ1：スコープ設定と依存関係分析： 結合されたコードベースにおけるデータ型のLLMによるハルシネーションを防ぐため、著者らは全モジュールの依存関係グラフに対して静的解析を行う。トポロジカルソートによって依存関係を尊重した翻訳順序を決定し、インポートされているすべてのモジュールが、それらに依存するモジュールよりも先に翻訳されることを保証する。
2. フェーズ2：状態ドキュメントの設定： パイプラインは、プロジェクトの慣習をエンコードし、完了フラグを追跡し、失敗した試行をログに記録する永続的な状態ドキュメント（CLAUDE.md、plan.md、CHANGELOG.md）を、外部エージェントメモリとして活用する。これにより、コンテキストウィンドウの境界を越えた一貫性のあるセッション再開が可能となり、エージェントがデッドエンドを再訪することを防ぐ。
3. フェーズ3：Fortranオラクルの構築： 翻訳の前に、エージェントチームが機能テストスイートを構築する。サブルーチンはテスト可能性に基づいて3つのティアに分類される。システムは、固定入力の下で元のFortranコードを実行して「ゴールデン」な入出力ペアを生成し、数値検証のための参照オラクルを確立する。
4. フェーズ4：反復的な翻訳、テスト、および修復： モジュールは、フェーズ1で確立されたトポロジカル順序に従って処理される。翻訳エージェントがJAXコードを生成し、その後、テストエージェントがFortranオラクルに対して検証を行う（相対許容誤差 $10^{-4}$ 以内を要求）。テストが失敗した場合、「Ralph Loop」（オーケストレーション・パターン）が作動し、修復エージェントが不一致を診断、コードを編集、および自律的に再テストを行い、モジュールが合格するか人間によるレビューが必要になるまで繰り返す。
5. フェーズ5：統合と微分可能性の検証： モジュールの翻訳が完了した後、統合エージェントがフルカラム・パイプラインを組み立て、エンドツーエンドの挙動を検証する。その後、微分可能性エージェントが、以下のようなJAX特有の問題を反復的に解決する：
   • 静的ループ展開（Static Loop Unrolling）： ループ本体をコンパイル時に一度だけトレースするために、Pythonレベルの for ループを jax.lax.scan に置き換える。これにより、Runge-Kuttaソルバーにおける計算グラフの肥大化を回避する。
   • 静的型と動的型（Static vs. Dynamic Typing）： キャッシュキーの変化によるフル再コンパイルを防ぐため、定数をJAXスカラーに変換する。
   • 分岐セーフなガード（Branch-Safe Guards）： jnp.where 式における $0 \times \infty$ のような演算による NaN 勾配を防ぐため、下限（例：j jnp.maximum(x, 1e-30)）を適用する。
   • 暗黙関数定理（IFT）アジョイント： 反復ソルバー（例：気孔コンダクタンスの二分法、Monin–Obukhov長）を、ループを展開するのではなく、IFTアジョイントを用いて微分する。これにより、誤った勾配の算出を防ぐ。

主な結果
作成された clm-ml-jax モデルは、2007年5月の気象データを用いたCHATS7 walnut orchard AmeriFluxサイト上で評価された。

• 数値的一致： 翻訳されたモデルは、1488タイムステップにわたってFortranのリファレンスとほぼ完璧な数値的一致を示し、すべての変数（顕熱、潜熱、GPPなど）において相関係数1.000および無視できるほどのバイアスを達成した。
• 勾配の正確性： 逆モード微分が中央差分法に対して検証された。すべての有効なパラメータは $1 \times 10^{-4}$ 未満の相対誤差を達成した。パイプラインは、反復ソルバーやRunge-Kuttaのサブステップを含む複雑な構造を正常に処理した。
• パラメータ較正の効率： 3つのパラメータの概念実証としての較正において、勾配ベースのL-BFGS-B最適化アルゴリズムは、真の値をマシン精度（$\sim 10^{-19}$）で、50回未満の評価で回収した。これは、勾配フリーのNelder-Mead最適化と比較して、評価回数の面で8倍高速であった。
• パフォーマンスの加速： GPU（Quadro RTX 8000）上で jax.vmap を使用することで、アンサンブルサイズ $N=2,048$ において、逐次的なFortran実行に対して24倍のウォークロックタイムの高速化を達成した。サンプルあたりの償却コストは、アンサンブルサイズが増加するにつれて24.9 msから11.4 msに減少したが、Fortranは約54 ms/サンプルで横ばいであった。
• エージェントの効率： 73のモジュール翻訳タスクと46のエージェントセッション全体を通じて、81.2% のバグが初回試行で自律的に解決された。人間のオーバーサイト（監視）は、わずか10〜15時間であったと推定される。

意義と主張
本論文は、レガシーな科学コードベースが、科学的な真実性を保持したまま、手動の再実装なしに、完全に微分可能なフレームワークへと体系的に翻訳できることを示していると主張している。

• 科学的恩恵： 本研究は、従来の CLM-ml-v2 では困難であった勾配ベースのパラメータ最適化や感度分析を可能にする。ヤコビアン解析により、気温と短波放射が総一次生産（GPP）およびエネルギーフラックスの感度を支配しており、$V_{c,max}$ が明確な制御を行っていることが明らかになった。
• 方法論的貢献： 論文は、自律的な修復ループとドメイン固有のオラクル検証を備えた、再現可能な5ステップのワークフローを提示している。これは、複雑で数日間にわたる翻訳タスクにおいて、高度な人間の監視だけで十分であることを示し、科学的コードの近代化における人間とAIエージェントの「共著関係」の実現可能性を定量化している。
• 再利用性： 翻訳されたモデルとパイプライン・インフラストラクチャの両方が、再利用可能なフレームワークとして公開されており、他の地球システムモデルのコンポーネントの微分化を支援することを目的としている。

著者らは、本研究をすべてのESMに対する最終的な解決策ではなく、レガシーなFortran物理学と現代の微分可能プログラミングの間の溝を埋める、検証済みの概念実証として位置づけており、ハイブリッド物理-MLアーキテクチャや、より効率的な気候モデリングにおける不確実性定量化への道を開くものであるとしている。