Resumen Técnico: Cuantificación de la Incertidumbre Escalable para el Pronóstico de Clima Extremo mediante Núcleos Tangentes Neuronales Empíricos

1. Declaración del Problema

Los modelos de aprendizaje profundo para el clima (por ejemplo, FourCastNetV2, Pangu-Weather, Aurora, AIFS) han alcanzado una precisión comparable a los sistemas tradicionales de predicción numérica del tiempo (NWP), operando con órdenes de magnitud de rapidez superior. Sin embargo, estos modelos producen predominantemente pronósticos deterministas de punto que carecen de estimaciones de incertidumbre calibradas. Esta brecha es crítica para la toma de decisiones de alto riesgo durante eventos climáticos extremos (por ejemplo, ciclones tropicales, inundaciones), donde comprender la fiabilidad de un pronóstico es tan importante como el pronóstico mismo.

Los métodos de cuantificación de la incertidumbre (UQ) existentes enfrentan barreras significativas al aplicarse a modelos fundacionales de miles de millones de parámetros:

• Ensembles Profundos (Deep Ensembles): Computacionalmente prohibitivos debido a la necesidad de entrenar múltiples copias de modelos masivos.
• Métodos Bayesianos: Requieren modificaciones arquitectónicas e incurren en una sobrecarga sustancial de memoria y cómputo.
• Predicción Conforme (Conformal Prediction): Proporciona garantías de cobertura libres de distribución, pero produce anchuras de intervalo uniformes que no se correlacionan con los errores de pronóstico reales o la severidad del evento, fallando al distinguir eventos extremos de condiciones rutinarias.

El artículo aborda la necesidad de un método de UQ post-hoc escalable que no requiera reentrenamiento, funcione con puntos de control (checkpoints) preentrenados y produzca intervalos de incertidumbre adaptativos que escalen con la severidad del evento.

2. Metodología: Marco NTK-UQ

El marco propuesto, Cuantificación de la Incertidumbre basada en el Núcleo Tangente Neuronal (NTK-UQ), trata las características de la última capa de un modelo meteorológico preentrenado y congelado como un Núcleo Tangente Neuronal (NTK) empírico. Bajo la correspondencia entre el último nivel de NTK y los Procesos Gaussianos (GP), el modelo se visualiza como un GP donde el núcleo está definido por las representaciones de características aprendidas.

La metodología consta de tres fases:

2.1 Extracción de Características de la Última Capa

Para un modelo preentrenado $f_\theta = g_\psi \circ \phi_\omega$, el método extrae las características de la última capa $\phi(x)$ aprendidas de décadas de datos de reanálisis ERA5. Estas características codifican la estructura atmosférica físicamente significativa. Para mapas de características espaciales, se utiliza la agregación de estadísticas múltiples (media, desviación estándar, mínimo, máximo, percentiles) para crear vectores de características de dimensión fija independientemente de la resolución espacial.

2.2 Descomposición del Núcleo y Construcción del Posterior del GP

Se construye el núcleo empírico $K(x, x') = \phi(x)^\top \phi(x')$. Para hacer que la varianza del posterior del GP sea computacionalmente tratable para grandes conjuntos de calibración, se descompone la matriz de características centrada. El artículo compara dos estrategias de descomposición:

• Descomposición en Valores Singulares (SVD): Captura direcciones ortogonales de máxima varianza (estadísticas de segundo orden).
• Análisis de Componentes Independientes (ICA): Explota estadísticas de orden superior (curtosis, negentropía) para aislar fuentes estadísticamente independientes.

La varianza predictiva $\sigma^2(x^*)$ se calcula utilizando la fórmula del posterior del GP:
$$\sigma^2(x^*) = K(x^*, x^*) + \sigma_n^2 - k_*^\top (K + \sigma_n^2 I)^{-1} k_*$$
donde el término de corrección depende de la similitud del input de prueba con la distribución de calibración en el espacio de características.

2.3 Regla de Selección de Descomposición

El artículo propone una regla basada en datos (Algoritmo 1) para seleccionar entre SVD e ICA basándose en la razón de concentración del espectro propio ($\rho = \lambda_1 / \sum \lambda_j$):

• Espectro Concentrado ($\rho > 0.8$): Típico de operadores espectrales (por ejemplo, SFNO). Se prefiere SVD con una truncación de rango agresiva ($k \le 10$) para evitar el colapso de la varianza.
• Espectro Distribuido ($\rho < 0.5$): Típico de modelos basados en atención o grafos. Se prefiere ICA para explotar las estructuras no gaussianas y de cola pesada inherentes al clima extremo.
• Intermedio: Ambos métodos se evalúan en una partición de validación.

2.4 Calibración Post-Hoc

Las incertidumbres de NTK bruto se escalan mediante un factor por variable y por tiempo de adelanto (lead-time) $\alpha$ (aprendido mediante búsqueda binaria) para lograr un nivel de cobertura objetivo (por ejemplo, 90%). Esto asegura que los intervalos de predicción estén calibrados con la verdad de campo.

3. Percepciones Teóricas

El artículo proporciona un análisis teórico que explica por qué la calidad de la UQ depende de la arquitectura:

• Colapso de la Varianza (Proposición 1): Si el rango de truncación $k$ se acerca al rango efectivo del espacio de características, el término de corrección del GP consume casi toda la varianza previa. Esto destruye la capacidad de discriminación entre eventos extremos y condiciones rutinarias. El artículo establece un criterio de diagnóstico $R_k = C_k/P < 0.9$ para prevenir este colapso, señalando que las arquitecturas con espectros concentrados requieren una truncación agresiva.
• Discriminación No Gaussiana (Proposición 2): Los eventos climáticos extremos exhiben distribuciones de cola pesada y no gaussianas. Mientras que SVD captura únicamente la varianza de segundo orden, ICA explota las estadísticas de orden superior (curtosis) para aislar firmas de eventos extremos poco comunes. Esto permite que ICA produzca estimaciones de incertidumbre adaptativas que escalan con la severidad del evento, una capacidad que SVD carece para características de cola pesada.

4. Resultados Experimentales

El marco fue evaluado en cuatro modelos climáticos diversos (FourCastNetV2, Pangu-Weather, Aurora, AIFS) utilizando 100 eventos climáticos extremos de la base de datos EM-DAT (2021), incluyendo ciclones tropicales, inundaciones y olas de calor.

• Cobertura: Todos los modelos lograron la cobertura objetivo del 90% (89–91%) tras el escalado post-hoc.
• Desempeño de la Descomposición:
  • ICA logró una cobertura adecuada y un CRPS (Puntuación de Probabilidad Clasificada Continua) más bajo para tres modelos (AIFS, Aurora, FourCastNetV2). Produjo intervalos adaptativos con un alto coeficiente de variación (CV = 0.07–1.81), distinguiendo con éxito los ciclones tropicales del clima rutinario.
  • SVD falló en alcanzar la cobertura para Aurora (58.1%) y produjo intervalos más uniformes (CV = 0.01–0.49) que no lograron discriminar la severidad del evento.
  • Pangu-Weather fue una excepción donde SVD satisfizo la cobertura mientras que ICA falló, aunque ambos exhibieron inestabilidades numéricas.
• Comparación con la Predicción Conforme: NTK-UQ (usando la descomposición óptima por modelo) logró intervalos de predicción entre un 31% y 37% más agudos con una cobertura del 90% en comparación con la predicción conforme dividida (split conformal prediction). Crucialmente, a diferencia de la predicción conforme que produce intervalos uniformes por construcción, NTK-UQ produce intervalos adaptativos que escalan con la severidad del evento climático.
• Incertidumbre Espacial: Para modelos con características de resolución espacial (como AIFS), ICA permitió mapas de incertidumbre espacialmente variables que se correlacionaban con las concentraciones de error de pronóstico, permitiendo advertencias dirigidas.

5. Significación y Reivindicaciones

El artículo reivindica la siguiente significación:

1. Escalabilidad: NTK-UQ no requiere reentrenamiento del modelo ni cambios arquitectónicos, lo que lo hace aplicable a cualquier punto de control determinista preentrenado. La inferencia añade un overhead mínimo (un solo producto matriz-vector).
2. Discriminación Adaptativa: A diferencia de la predicción conforme, NTK-UQ produce intervalos de incertidumbre que se adaptan a la severidad del evento climático, proporcionando una discriminación accionable entre condiciones rutinarias y extremas.
3. Diseño Consciente de la Arquitectura: El trabajo establece que la calidad de la UQ no es universal, sino que depende de la interacción entre la arquitectura neuronal (propiedades del espectro propio) y el método de descomposición. Proporciona un diagnóstico predictivo (concentración del espectro propio) para seleccionar la estrategia de UQ apropiada sin experimentación exhaustiva.
4. Utilidad Operativa: El marco permite a las agencias meteorológicas con recursos limitados añadir estimaciones de incertidumbre calibradas a los modelos de alto rendimiento existentes, reduciendo la barrera para una previsión confiable para la preparación ante desastres.

Los autores señalan limitaciones, incluyendo la dependencia de aproximaciones (la correspondencia NTK-GP de la última capa se mantiene rigurosamente solo en el ancho infinito) y que la evaluación está limitada a un único año fuera de la distribución (2021). Sin embargo, los resultados empíricos validan consistentemente las predicciones teóricas a través de diversas arquitecturas.