Optimal scenario design for climate emulation

Resumen Técnico: Diseño de Escenarios Óptimos para la Emulación Climática

Planteamiento del Problema
Los emuladores de aprendizaje automático (ML) para sistemas climáticos enfrentan un desafío fundamental: generalizar a escenarios no vistos, fuera de la distribución (out-of-distribution), mientras se adhieren a las leyes físicas. Mientras gran parte de la investigación se centra en integrar restricciones físicas en las arquitecturas de los modelos (por ejemplo, Redes Neuronales Informadas por la Física), este artículo sostiene que el diseño de los propios datos de entrenamiento es un cuello de botella crítico y a menudo ignorado. Los conjuntos de datos de entrenamiento existentes, derivados principalmente de trayectorias socioeconómicas estándar como ScenarioMIP (Proyecto de Comparación de Modelos Acoplados), sufren de una baja diversidad estructural. Estas trayectorias de emisiones agregadas correlacionan los agentes de forzamiento (por ejemplo, los gases de efecto invernadero y los aerosoles suben y bajan simultáneamente), lo que impide que los emuladores aprendan los comportamientos físicos distintos de los agentes de forzamiento individuales. En consecuencia, los emuladores entrenados con estos conjuntos de datos estándar tienen dificultades para extrapolarse a escenarios estructuralmente diferentes, como experimentos de forzamiento aislado o trayectorias de intervención climática, lo que limita su utilidad para proyecciones climáticas robustas.

Metodología
Los autores proponen un método para generar escenarios de emisiones óptimos, planteando la generación de datos de entrenamiento como un problema de diseño experimental óptimo. En lugar de seleccionar entre escenarios existentes, el método actualiza iterativamente las trayectorias de emisiones de entrenamiento para maximizar la capacidad predictiva del emulador resultante.

El núcleo del enfoque utiliza un Modelo Climático Simple (SCM) diferenciable basado en el modelo de Respuesta de Impulso de Amplitud Finita (FaIR). El proceso de optimización sigue una estructura bi-nivel:

1. Nivel Interno (Entrenamiento del Emulador): Se entrena un emulador (un perceptrón multicapa) para mapear las trayectorias de emisiones de entrada a anomalías de la Temperatura Media Global de la Superficie (GMST) utilizando un conjunto actual de datos de entrenamiento.
2. Nivel Externo (Optimización de Datos): La capacidad predictiva del emulador entrenado se evalúa sobre un conjunto de datos de prueba objetivo fijo (por ejemplo, trayectorias específicas de ScenarioMIP, experimentos idealizados DECK o escenarios de forzamiento único de DAMIP). Utilizando diferenciación automática, el sistema retropropaga la pérdida de la prueba a través del entrenamiento y los procesos de generación de datos para calcular la sensibilidad del error del emulador con respecto a las emisiones de entrenamiento.
3. Actualización Iterativa: Se utiliza el descenso de gradiente estocástico para actualizar la trayectoria de emisiones de entrenamiento para minimizar la pérdida de prueba. Este proceso se repite hasta la convergencia, "destilando" efectivamente un conjunto de datos de entrenamiento que obliga al emulador a aprender las características físicas más relevantes necesarias para la generalización.

Para validar la escalabilidad y prevenir la fuga de información, los autores aplican los escenarios optimizados generados por el SCM a un modelo climático de complejidad intermedia (el Modelo del Sistema Tierra MIT, MESM). Luego, entrenan un nuevo emulador con los resultados del MESM para probar si los escenarios optimizados por el SCM se transfieren a predicciones de temperatura con promedio zonal.

Contribuciones Claves y Resultados

• Superioridad de los Escenarios Optimizados: Entrenar un emulador en un único escenario optimizado (derivado del SCM) supera a un emulador base entrenado en seis trayectorias estándar de ScenarioMIP-CMIP7. Esto se mantiene incluso cuando el conjunto de datos optimizado es más pequeño.
• Aislamiento de Comportamientos Físicos: Los emuladores optimizados logran aislar las respuestas físicas distintas de diferentes agentes de forzamiento (por ejemplo, CO2 frente a aerosoles de azufre) sin requerir ejecuciones de forzamiento único en los datos de entrenamiento. Esto se logra porque el proceso de optimización genera trayectorias con variaciones estructurales que desacoplan los efectos de los agentes.
• Generalización a Escenarios Fuera de la Distribución: Los emuladores entrenados con datos optimizados demuestran una capacidad significativamente mayor al extrapolar a escenarios estructuralmente distintos, incluyendo:
  • Experimentos idealizados DECK: Como el de 4xCO2 abrupto.
  • Detección y Atribución (DAMIP): Forzamientos históricos aislados.
  • Geoingeniería (GeoMIP): Escenarios de inyección de azufre (G6sulfur).
  • Específicamente, un emulador optimizado sobre un conjunto combinado de todos los tipos de escenarios logró un $R^2$ de 0.97 en los escenarios fuera de la distribución de DAMIP y GeoMIP, mientras que los emuladores base no lograron capturar con precisión los efectos de enfriamiento de la inyección de azufre.
• Transferibilidad: Los escenarios optimizados utilizando el bajo costo del SCM mejoraron con éxito el desempeño de los emuladores entrenados para el modelo más complejo MESM. Esto sugiere que un sustituto (surrogate) diferenciable y simple es suficiente para identificar las estructuras de entrenamiento óptimas para modelos de mayor fidelidad.
• Sensibilidad a la Inicialización: La elección de la condición inicial para la optimización (por ejemplo, emisiones constantes frente a sinusoidales) influye en la trayectoria resultante. Combinar escenarios de diferentes condiciones iniciales (por ejemplo, constantes y sinusoidales) suele producir la mayor capacidad de extrapolación, capturando un espectro más amplio de escalas temporales físicas, como las asociadas con la absorción de calor del océano profundo.

Significancia y Reivindicaciones
El artículo afirma que en entornos con restricciones de cómputo, donde ejecutar modelos de Sistemas Terrestres (ESM) a escala completa es costoso, generar un número pequeño de escenarios dinámicamente ricos y optimizados proporciona un mayor valor marginal que expandir la suite de las trayectorias de emisiones tradicionales. Los autores argumentan que las proyecciones de políticas estándar son subóptimas para el entrenamiento de emuladores porque restringen la capacidad de probar y entrenar modelos sobre agentes de forzamiento individuales.

Al desacoplar el costo computacional de la optimización de los tiempos de ejecución de los ESM a escala completa, este método ofrece una vía para crear conjuntos de datos de entrenamiento "máximamente informativos". Los autores sugieren que los centros de modelado deberían considerar dedicar recursos a generar datos de simulación diseñados explícitamente para el aprendizaje automático, en lugar de depender únicamente de los protocolos de comparación estándar. Además, la capacidad de someter a los modelos a pruebas de estrés con estos escenarios optimizados y estructuralmente diversos podría ayudar a cuantificar las incertidumbres de los modelos e identificar dónde fallan las asunciones estructurales, beneficiando tanto a la comunidad de modelado climático como a la de impactos. El trabajo posiciona al modelado diferenciable no solo como una herramienta de calibración, sino como un mecanismo fundamental para el diseño experimental en las ciencias climáticas.