Gradient-free online learning of subgrid-scale dynamics with neural emulators

Imagina intentar predecir el clima o las corrientes oceánicas utilizando una simulación informática gigante. Estas simulaciones son como mapas digitales masivos de la Tierra, pero tienen un problema: son demasiado gruesas para ver los detalles diminutos y arremolinados, como una sola gota de lluvia o un pequeño torbellino. Para solucionar esto, los científicos utilizan "atajos" llamados parametrizaciones. Piensa en esto como la receta secreta de un chef para una salsa; el chef sabe que la salsa debe tener un sabor determinado, así que añade una pizca de esto y una pizca de aquello sin cocinar cada uno de los ingredientes desde cero. En los modelos climáticos, estos atajos representan la física diminuta y de movimiento rápido que la computadora no puede ver directamente.

Durante mucho tiempo, los científicos intentaron enseñar a las computadoras a mejorar estos atajos mostrándoles la "clave de respuestas" (cómo debería verse la física diminuta) y pidiéndole a la computadora que adivinara. Esto se llama aprendizaje "offline" o fuera de línea. Pero es como enseñarle a un conductor mostrándole solo fotos de una carretera; cuando realmente se pone al volante, choca porque no aprendió cómo se siente el coche mientras se mueve. La mejor manera es el aprendizaje "online" o en línea, donde la computadora aprende mientras conduce, ajustando sus atajos en tiempo real basándose en cómo se comporta la simulación. Sin embargo, hay un inconveniente: el código informático real utilizado para el clima está construido como una caja negra hecha de metal viejo y rígido. No puedes mirar fácilmente dentro para ver cómo un pequeño cambio afecta a todo el sistema, lo que hace que el aprendizaje "online" sea imposible con las herramientas estándar.

Este artículo presenta un ingenioso método alternativo: un "conductor fantasma" o emulador neuronal. Los autores construyeron una IA separada, suave y flexible, que imita el comportamiento del viejo y rígido código informático. Este conductor fantasma es fácil de inspeccionar y comprender. Utilizan este fantasma para enseñar a la receta del atajo (la parametrización) cómo conducir en tiempo real. Una vez que la receta se aprende usando al fantasma, la devuelven al coche real, rígido y original. El resultado es un atajo que funciona casi tan bien como si hubiera sido entrenado en el coche real, pero sin necesidad de abrir el coche para hacerlo.

---

El Problema: La Caja Negra y el Eslabón Perdido

Los científicos climáticos están tratando de construir mejores modelos para predecir nuestro planeta cambiante. Estos modelos son esencialmente ecuaciones matemáticas gigantes que simulan cómo se mueven el aire y el agua. Pero las computadoras no pueden calcular cada molécula de aire; tienen que agruparlas en grandes bloques. Esto significa que pierden de vista los pequeños torbellinos caóticos que ocurren entre los bloques. Para llenar estos vacíos, utilizan modelos de escala subrejilla (SGS): básicamente, conjetras educadas sobre lo que están haciendo los torbellinos diminutos.

Tradicionalmente, los científicos entrenaban estas conjetras utilizando un enfoque "offline". Tomaban una simulación súper detallada (la "verdad"), la fragmentaban en grandes bloques y luego entrenaban a un modelo de aprendizaje automático para que adivinara los torbellinos faltantes basándose en los bloques. Es como intentar aprender a jugar al fútbol viendo un video de los mejores momentos de los goles, pero sin haber corrido nunca en el campo. Aunque esto funciona aceptablemente para la estadística, a menudo conduce a simulaciones inestables que fallan o producen un clima salvaje e irreal cuando se ejecutan durante períodos prolongados.

El enfoque "online" es el estándar de oro. Aquí, el modelo de aprendizaje automático aprende mientras se ejecuta la simulación. Ve cómo sus propias conjetas afectan el futuro del clima y se ajusta a sí mismo para mantener la estabilidad de la simulación. El problema es que el código informático utilizado para los modelos climáticos reales suele estar escrito en lenguajes antiguos (como Fortran) y es tan complejo que es una caja negra "no diferenciable". En palabras sencillas, no puedes calcular fácilmente cómo un pequeño cambio en los ajustes del modelo se propaga a través de todo el sistema para afectar el resultado final. Sin esta capacidad de rastrear las ondas (gradientes), el aprendizaje online estándar es imposible.

La Solución: El "Conductor Fantasma"

Los autores, liderados por Hugo Frezat, propusieron una solución creativa: la emulación neuronal. En lugar de intentar forzar al código viejo y rígido a ser flexible, construyeron un nuevo emulador de IA, flexible, que imita el comportamiento del código viejo.

Imagina que el resolvedor climático real es una pesada y antigua máquina de vapor. Funciona de maravilla, pero no puedes ver fácilmente los engranajes girando en su interior para entender cómo ajustarlo. Los autores construyeron un "motor fantasma": una red neuronal que actúa exactamente como la máquina de vapor, pero está hecha de plástico suave y flexible. Debido a que este motor fantasma está construido con herramientas de IA modernas, sí puedes ver los engranajes y calcular exactamente cómo ajustarlo.

Utilizaron un proceso de entrenamiento de dos pasos para que esto funcionara:

1. Paso 1: Entrenar al Fantasma. Primero, enseñaron al motor fantasma a imitar al motor de vapor real. Le suministraron datos del motor real y ajustaron el fantasma hasta que pudo reproducir los movimientos del motor perfectamente.
2. Paso 2: Entrenar el Atajo. A continuación, utilizaron el fantasma para entrenar el "atajo" (el modelo SGS). Debido a que el fantasmas es flexible, pudieron usar técnicas de aprendizaje online para enseñar al atajo cómo comportarse mientras interactúa con el motor fantasma.

Crucialmente, se dieron cuenta de que si intentaban entrenar al fantasma y al atajo al mismo tiempo, el atajo simplemente aprendería a compensar los errores del fantasma. Para evitar esto, los entrenaron por separado. También introdujeron un truco especial: en lugar de solo decirle al atajo "haz que el clima se vea bien", le dijeron "haz que los pequeños torbellinos se vean bien". Esto evitó que el atajo arreglara accidentalmente errores en el motor fantasma que no debería arreglar.

Los Resultados: Un Viaje Estable

El equipo probó este método en dos sistemas diferentes. Primero, utilizaron un sistema caótico simplificado llamado Lorenz-96, que es como un modelo de juguete de la atmósfera con partes de movimiento rápido y lento. Descubrieron que su método producía un atajo que era casi tan bueno como el entrenamiento online "perfecto", pero sin necesidad de modificar el código original.

Luego, pasaron a una prueba más compleja: un sistema cuasi-geoestrófico, que simula los vientos y corrientes arremolinados del océano y la atmósfera. Este es un problema notablemente difícil porque los pequeños torbellinos pueden calmar las cosas o hacer que exploten en el caos.

En estas simulaciones, compararon su nuevo método con técnicas más antiguas:

• El Modelo "Offline": Este modelo aprendió de un conjunto de datos estáticos. Falló rápidamente, provocando que la simulación colapsara a medida que la energía se acumulaba de forma incontrolada.
• El Modelo de Pérdida de "Estado" (State Loss): Este modelo intentó aprender mirando el panorama general (el estado climático global). Fue inestable y produjo oscilaciones salvajes.
• El Modelo de Pérdida de "Subrejilla" (Subgrid Loss - El Ganador): Este modelo, entrenado con el método de dos pasos de los autores y centrado en los pequeños torbellinos, se mantuvo estable durante 250 veces más tiempo que el período de entrenamiento. Reprodujo con éxito los patrones de energía y la estabilidad del modelo online "perfecto", a pesar de que nunca vio los engranajes internos del código rígido original.

Qué Significa Esto

El artículo sugiere que no necesitamos reescribir los masivos códigos climáticos de décadas de antigüedad para usar la IA moderna. En su lugar, podemos construir una versión "fantasma" del código para realizar el trabajo pesado del entrenamiento. Esto abre la puerta para entrenar modelos climáticos mucho más estables y precisos que puedan funcionar durante años sin colapsar.

Sin embargo, los autores advierten que esto aún no es una varita mágica. El motor "fantasma" no es perfecto; tiene pequeños errores. En sus pruebas, estos pequeños errores a veces provocaron ligeras imprecisiones en los patrones climáticos a gran escala, aunque los detalles diminutos eran exactos. Sugieren que el trabajo futuro debe hacer que los motores fantasma sean aún mejores, quizás enseñándoles a enfocarse en características específicas de gran escala, como la velocidad del viento, no solo en la vorticidad arremolinada.

En última instancia, esta investigación ofrece un camino prometedor: una forma de cerrar la brecha entre la física rígida y probada del pasado y el aprendizaje flexible y poderoso del futuro, todo sin tener que desarmar el motor.