NORi: An ML-Augmented Ocean Boundary Layer Parameterization

NORi est une nouvelle paramétrisation d'apprentissage automatique fondée sur la physique qui combine des équations différentielles ordinaires neuronales avec une fermeture dépendante du nombre de Richardson pour simuler avec précision et stabilité la turbulence de la couche limite océanique et la dynamique d'entraînement dans les modèles climatiques, surpassant les méthodes traditionnelles tout en nécessitant des données d'entraînement minimales et en garantissant une stabilité numérique à long terme.

L'essentiel

Le Grand Problème : L'Océan est Trop Petit pour être Vu

Imaginez que vous essayez de prédire la météo pour toute la planète. Vous avez une carte géante, mais elle est constituée de gigantesques tuiles, chacune large de 10 kilomètres. Sur cette carte, vous pouvez voir les grandes tempêtes et les courants océaniques. Cependant, l'océan est rempli de tourbillons et de processus de mélange chaotiques et minuscules qui se produisent dans les premiers centaines de mètres — comme l'écume sur une vague ou la façon dont l'air froid refroidit la surface de l'eau. Ces minuscules tourbillons sont trop petits pour tenir sur les tuiles de votre carte géante.

En science du climat, nous appelons ces processus minuscules des processus « sous-maille ». Pour faire fonctionner nos grandes cartes, les scientifiques doivent deviner ce que font ces minuscules tourbillons. Ils utilisent des « paramétrisations » — qui sont essentiellement des manuels simplifiés ou des formules qui disent : « Quand le vent souffle avec cette force, l'eau se mélange à ce point. »

Les Anciens Manuels vs. Le Nouvel Hybride

Pendant des décennies, les scientifiques ont utilisé des manuels basés sur la physique. Imaginez-les comme un manuel écrit par un ingénieur strict. Ils sont basés sur des lois connues (comme la façon dont la chaleur se déplace du chaud vers le froid).

• Le Bon : Ils sont rapides et stables.
• Le Mauvais : Ils manquent certaines physiques délicates. Plus précisément, ils peinent à expliquer l'entraînement.

Qu'est-ce que l'Entraînement ? Imaginez une marmite de soupe sur le feu. Si vous refroidissez le dessus, la soupe froide coule, mais elle ne s'arrête pas juste à la surface. Elle plonge comme un piston, traînant la soupe chaude d'en dessous vers la couche froide. Cette action de « plongée » est non locale ; elle se produit au fond de la couche mélangée mais est causée par ce qui se passe au sommet. Les anciens manuels sont comme une recette qui ne sait que remuer doucement la marmite ; ils ne savent pas simuler cette plongée profonde.

Entrée de NORi : L'« Assistant Intelligent »

Les auteurs ont créé un nouvel outil appelé NORi (Neural Ordinary differential equations Richardson number). Ne voyez pas NORi comme un remplacement de l'ancien manuel, mais comme un assistant intelligent qui y est attaché.

1. La Base (L'Ingénieur) : NORi commence par une formule simple basée sur la physique (la « Fermeture de Base »). Cette partie gère les choses faciles : le remuement doux causé par le vent et les différences de température locales. C'est comme le moteur d'une voiture — il fait le gros du travail.
2. Le Réseau de Neurones (Le Copilote IA) : Les auteurs ont ajouté un petit cerveau d'Intelligence Artificielle (IA) hautement expressif. Cette IA ne tente pas d'apprendre tout l'océan à partir de zéro. Au lieu de cela, elle apprend uniquement la pièce manquante : la plongée profonde (l'entraînement) que la formule de l'ingénieur rate.

L'Analogie : Imaginez que vous conduisez une voiture (le modèle océanique). Le moteur (la physique) vous fait avancer. Mais parfois, vous devez naviguer sur une route de montagne sinueuse et difficile (l'entraînement). L'IA est un copilote qui ne prend le volant que lorsque la route devient tortueuse, guidant la voiture dans les virages que le moteur seul manquerait.

Comment Ils l'Ont Entraîné : Apprendre du « Futur »

Habituellement, lorsque vous entraînez une IA, vous lui montrez une photo instantanée et demandez : « Quelle est la réponse maintenant ? » (par exemple : « Voici la vitesse du vent ; quel est le flux de mélange ? »). Les auteurs ont constaté que cela rendait l'IA instable. C'était comme enseigner à un élève à passer un examen en mémorisant les réponses à des questions isolées, mais lorsqu'il passait l'examen final (faire tourner le modèle pendant des années), il échouait car il ne comprenait pas le flux de l'histoire.

Au lieu de cela, ils ont utilisé un Entraînement A Posteriori (apprendre à partir du résultat).

• La Méthode : Ils ont exécuté une simulation ultra-détaillée et à haute résolution (la « Vérité Terrain ») qui capturait chaque minuscule tourbillon. Ensuite, ils ont laissé leur modèle NORi simple tourner à côté.
• La Leçon : Ils n'ont pas demandé à l'IA de correspondre au flux à une seconde spécifique. Ils ont demandé : « Après avoir tourné pendant 2 jours, votre température et votre salinité correspondent-elles à la simulation à haute résolution ? »
• Le Résultat : L'IA a appris à ajuster son comportement au fil du temps pour s'assurer que tout le voyage était correct, et non pas juste une seule étape. C'est comme enseigner à un élève en disant : « Ne vous contentez pas d'avoir la bonne réponse pour la question 1 ; assurez-vous de pouvoir résoudre correctement tout le problème de l'histoire. »

Pourquoi C'est un Changement de Jeu

L'article affirme que NORi résout trois grands problèmes à la fois :

1. Précision : Dans les tests, NORi correspondait beaucoup mieux aux simulations à haute résolution de « vérité terrain » que les anciens manuels, en particulier lorsque l'océan se refroidissait et plongeait (convection). Il fonctionnait aussi bien que les modèles les plus complexes et coûteux (comme le modèle $k-\epsilon$) mais était beaucoup plus simple.
2. Stabilité : C'est la plus grande victoire. De nombreux modèles d'IA plantent ou explosent lorsqu'ils sont exécutés pendant longtemps (comme un personnage de jeu vidéo qui bug après 10 heures). Parce que NORi a été entraîné à maintenir la stabilité de toute la chronologie, il a fonctionné pendant 100 ans dans une simulation sans planter, même s'il n'avait été entraîné que sur des instantanés de 2 jours.
3. Vitesse : NORi est un modèle « sans équation », ce qui signifie qu'il n'a pas besoin de résoudre des équations mathématiques complexes supplémentaires comme le font les modèles lourds. Il peut fonctionner avec des pas de temps beaucoup plus grands (jusqu'à 1 heure), ce qui le rend beaucoup plus rapide pour les simulations climatiques mondiales.

Le Test du Monde Réel

Les auteurs ont testé NORi contre des données réelles de la Station Météorologique Océanique Papa dans l'océan Pacifique. Ils ont fait tourner le modèle pendant 120 jours (de l'automne à l'hiver) en utilisant de vraies données météorologiques.

• Le Résultat : NORi a prédit la température et la salinité de l'océan presque parfaitement, correspondant aux observations aussi bien que les modèles de pointe.
• La Surprise : Même si NORi avait été entraîné sur une météo idéale et constante, il a géré parfaitement la météo réelle, désordonnée et changeante. Il savait quand « activer » son cerveau d'IA (lors d'un refroidissement intense) et quand laisser le moteur physique simple prendre le relais (lors de vents calmes).

Résumé

NORi est une nouvelle façon de modéliser le mélange de surface de l'océan. Au lieu d'essayer de construire une IA géante et complexe pour remplacer la physique, les auteurs ont construit un moteur physique simple et lui ont donné un petit assistant IA intelligent pour corriger ses angles morts. En entraînant cet assistant à se soucier du voyage à long terme plutôt que du moment immédiat, ils ont créé un modèle qui est rapide, stable pendant un siècle et extrêmement précis. C'est une approche « le meilleur des deux mondes » qui comble le fossé entre la physique simple et l'apprentissage automatique puissant.

Résumé technique

Résumé technique : NORi, une paramétrisation de la couche limite océanique augmentée par l'apprentissage automatique

Énoncé du problème
Les modèles climatiques océaniques globaux fonctionnent généralement à des résolutions de 10 km ou plus grossières, ce qui les empêche de résoudre explicitement les processus de mélange turbulent sous-maille dans la couche limite (BL) supérieure de l'océan, lesquels se produisent à des échelles allant du mètre au centimètre. Ces processus de mélange, pilotés par le vent, le refroidissement et l'évaporation, régulent les échanges de chaleur, de carbone et de traceurs entre l'atmosphère et l'intérieur de l'océan. Les paramétrisations traditionnelles font face à un compromis : les fermetures diffuses d'ordre simple (par exemple, Pacanowski-Philander) sont efficaces sur le plan computationnel mais échouent à capturer l'entraînement non local à la base de la BL, tandis que des modèles plus complexes à deux équations (par exemple, $k$-$\epsilon$) ou des schémas de masse (par exemple, KPP) offrent une meilleure précision mais entraînent souvent des coûts computationnels élevés ou peinent à assurer la stabilité numérique sur de longues périodes d'intégration. De plus, les approches d'apprentissage automatique (ML) purement basées sur les données souffrent souvent d'instabilité numérique et d'incohérence physique lorsqu'elles sont déployées dans des simulations climatiques à long terme, en particulier lorsqu'elles sont entraînées a priori sur des flux instantanés plutôt que sur des trajectoires temporelles.

Méthodologie
Les auteurs présentent NORi (Neural Ordinary Differential equations Richardson number), une paramétrisation hybride qui augmente une fermeture physique simple avec des réseaux de neurones entraînés selon une stratégie a posteriori.

1. Architecture hybride :

   • Fermeture de base (« Ri ») : Une fermeture diffuse d'ordre simple basée sur le nombre de Richardson local ($Ri$). Ce composant capture le mélange local piloté par le cisaillement et la convection, garantissant que le modèle adhère aux lois d'échelle physiques connues et maintient une stabilité statique ($N^2 \geq 0$).
   • Composant réseau de neurones (« NO ») : Des équations différentielles ordinaires neuronales (NODE) sont utilisées pour prédire les flux d'entraînement non locaux de température et de salinité à la base de la couche mixte. Ces réseaux sont « convolués » verticalement, partageant les poids entre les points de grille, et sont actifs uniquement au sein d'une « zone d'entraînement » spécifique (diagnostiquée via le critère $Ri$). Les entrées comprennent les gradients locaux de traceurs, le nombre de Richardson et le flux de flottabilité de surface non local. Les réseaux prédisent les flux résiduels manqués par la fermeture de base, spécifiquement l'approfondissement de la BL dû aux panaches convectifs.

2. Stratégie d'entraînement (calibration a posteriori) :

   • Contrairement à l'entraînement a priori traditionnel qui correspond aux flux sous-maille instantanés, NORi est entraîné a posteriori. La fonction de perte dépend des trajectoires intégrées dans le temps des variables grossières (température, salinité, vitesse) plutôt que des flux instantanés.
   • L'entraînement utilise un modèle de colonne 1D intégré vers l'avant dans le temps à l'aide de solveurs d'équations différentielles ordinaires entièrement différentiables (implémentés en Julia avec Lux.jl et Enzyme.jl). Les gradients sont rétropropagés à travers le solveur d'ODE pour mettre à jour les poids du réseau.
   • Apprentissage par curriculum : L'entraînement se déroule par étapes avec des fenêtres d'intégration progressivement plus longues (15, 23,3 et 43,3 heures) pour assurer la stabilité numérique et la généralisation.
   • Source de données : Des simulations de grandes tourbillons (LES) haute fidélité générées avec Oceananigans.jl servent de vérité terrain. L'ensemble de données couvre divers régimes, y compris ceux pilotés par le cisaillement, la convection et la turbulence mixte, avec des conditions variables de rotation, de stratification et de thermodynamique (utilisant l'équation d'état TEOS-10).

3. Contraintes physiques :

   • L'architecture impose la conservation des traceurs en fixant les flux de surface et de fond du composant réseau de neurones à zéro.
   • La fermeture de base garantit que le modèle respecte l'approximation hydrostatique et empêche les inversions de densité spuriaires qui affectent souvent les modèles purement ML dans les cadres hydrostatiques.

Résultats clés

• Précision par rapport aux LES : Dans des configurations de colonne unique, NORi correspond aux solutions LES avec une haute fidélité, surpassant nettement la fermeture de base seule dans les régimes convectifs où l'entraînement est dominant. Il se comporte de manière comparable à la fermeture $k$-$\epsilon$ de l'état de l'art et à la paramétrisation CATKE (Convective Adjustment TKE) récemment développée.
• Généralisation : NORi démontre une forte généralisation à des cas de validation non vus, y compris des scénarios avec une thermodynamique non linéaire (régimes de l'océan Austral) et des flux de surface variables dans le temps, malgré un entraînement sur des scénarios de flux constants.
• Validation observationnelle : Lorsqu'il est testé contre 70 ans de données de la station météo océanique Papa (OWS Papa), NORi reproduit l'évolution saisonnière de la couche limite avec une compétence comparable à celle de $k$-$\epsilon$ et CATKE.
• Stabilité numérique : Une découverte cruciale est la stabilité de NORi lors d'intégrations à long terme. Bien qu'entraîné sur des horizons de 2 jours, NORi reste numériquement stable pendant au moins 100 ans dans une simulation idéalisée de gyre double. En revanche, les approches purement ML entraînées a priori souffrent souvent d'explosion en temps fini.
• Indépendance du pas de temps : NORi maintient sa précision avec des pas de temps allant jusqu'à 1 heure, alors que le modèle $k$-$\epsilon$ nécessite des pas de temps inférieurs à 30 minutes pour la convergence. Cela suggère que NORi peut offrir des avantages computationnels dans les modèles à grande échelle qui reposent sur des pas de temps plus longs.
• Coût computationnel : Dans une implémentation naïve, NORi est environ 15 % plus lent par pas de temps que $k$-$\epsilon$. Cependant, étant donné sa capacité à supporter des pas de temps deux fois plus longs que $k$-$\epsilon$, les auteurs soutiennent qu'il offre un avantage computationnel net pour les simulations à grande échelle.

Portée et affirmations
L'article affirme que NORi représente un nouveau paradigme pour la conception de paramétrisations pour les modèles climatiques en reliant avec succès la modélisation basée sur la physique et l'apprentissage automatique. Les auteurs soutiennent que :

1. Augmentation plutôt que remplacement : Commencer par une fermeture de base simple et physiquement rigoureuse et l'augmenter avec du ML pour capturer la physique manquante (résidus) est plus efficace que d'entraîner un réseau de neurones à apprendre toute la paramétrisation à partir de zéro. Cette approche réduit considérablement les besoins en données et la taille du modèle tout en améliorant la généralisation.
2. Stabilité via l'entraînement a posteriori : L'utilisation d'une calibration a posteriori, où la perte est définie par l'évolution des variables d'état plutôt que par les flux instantanés, est essentielle pour atteindre la stabilité numérique dans les intégrations climatiques à long terme. Cela aligne la distribution d'entraînement avec les conditions d'inférence et promeut implicitement la stabilité.
3. Praticité : NORi est conçu pour être compatible avec les modèles océaniques existants (démontré par son intégration dans Oceananigans.jl) et prend en charge une thermodynamique non linéaire réaliste (TEOS-10), ce qui en fait un candidat viable pour améliorer les biais de profondeur de la couche mixte dans les modèles climatiques globaux sans le coût prohibitif des fermetures à deux équations.

Les auteurs reconnaissent les limites, telles que la résolution de grille fixe actuelle (8 m) et l'exclusion de la physique de la convection profonde et des processus de restratification, notant que les travaux futurs se concentreront sur le support de grilles variables et la calibration conjointe au sein de simulations océaniques globales.