Resumen Técnico: Modelos Fundacionales con Recuperación Aumentada para la Predicción del Nivel del Agua en los Everglades

1. Planteamiento del Problema

La predicción precisa del nivel del agua en los Everglades es crítica para la mitigación de inundaciones, la gestión de sequías y la conservación de la biodiversidad. Si bien los recientes Modelos Fundacionales de Series Temporales (TSFMs) (p. ej., TimeGPT, TimesFM, Chronos) han demostrado un sólido rendimiento en tareas genéricas mediante el preentrenamiento en conjuntos de datos masivos, su eficacia en aplicaciones hidrológicas específicas del dominio sigue siendo limitada.

El desafío principal identificado es que los TSFMs suelen depender únicamente de una ventana de observación reciente (lookback window) para la inferencia. En los sistemas hidrológicos, esta ventana a menudo contiene señales insuficientes para predecir eventos raros o extremos (p. ej., inundaciones), los cuales ocurren con poca frecuencia y proporcionan poco contexto histórico para que el modelo aprenda. En consecuencia, incluso los modelos avanzados basados en datos tienen dificultades para anticipar eventos de baja frecuencia y alto impacto sin un reentrenamiento específico de la tarea, lo cual suele ser poco práctico cuando los entornos experimentales o los dominios cambian.

2. Metodología

Los autores proponen un marco de Predicción con Recuperación Aumentada (RAF) diseñado para enriquecer el contexto de entrada de los modelos fundacionales preentrenados sin requerir un reentrenamiento específico de la tarea. El marco opera en tres etapas:

2.1 Construcción de la Base de Conocimientos

Se cura un conjunto de datos hidrológicos multivariantes específicos del dominio del Parque Nacional Everglades. Los datos se dividen cronológicamente:

• Base de Conocimientos ($D$): El primer 85% de los datos sirve como un fondo de recuperación que contiene pares de ventanas de observación pasada ($X_{past}$) y ventanas futuras correspondientes ($Y_{future}$).
• Conjunto de Prueba ($T$): El 15% restante se utiliza para la evaluación.

2.2 Recuperación de Conocimiento

Dada una ventana de entrada actual, un recuperador identifica análogos históricos de alta relevancia en la base de conocimientos para servir como información contextual. El artículo evalúa dos estrategias de recuperación distintas:

1. Recuperación basada en Similitud: Utiliza un codificador T5 para embeber las ventanas de observación pasada en un espacio vectorial de longitud fija (512 dimensiones). La similitud se mide mediante la distancia euclidiana entre el embedding de la entrada actual y las ventanas históricas candidatas.
2. Recuperación basada en Información Mutua (MI): Aprovecha la teoría de la información para cuantificar las dependencias estadísticas entre la entrada actual y los candidatos históricos. La MI captura relaciones tanto lineales como no lineales, sirviendo como una señal de relevancia para identificar los contextos más informativos sobre el estado actual del sistema.

Se recuperan las muestras con las puntuaciones más altas ($k$ superiores), formando un conjunto de contexto $C$.

2.3 Estrategias de Aumento de la Recuperación

El contexto recuperado se integra con la entrada original utilizando tres estrategias distintas:

• Estrategia A (Promedio Primero): Los contextos recuperados de los $k$ superiores se promedian punto a punto para crear un único contexto representativo ($\bar{C}$), que luego se concatena con la entrada original.
• Estrategia B (Aumento Primero): Cada uno de los $k$ contextos recuperados se concatena individualmente con la entrada original para formar $k$ entradas aumentadas separadas. El pronosticador genera $k$ predicciones, que luego se promedian para obtener la salida final.
• Estrategia C (Concatenación de Contexto Largo): Todos los $k$ contextos recuperados se concatenan directamente con la entrada original para formar una secuencia extendida única.

2.4 Pronosticador

El marco utiliza Chronos, un modelo fundacional de series temporales preentrenado, como el pronosticador. El enfoque RAF (Sim-RAF y MI-RAF) es agnóstico al modelo, pero se demuestra aquí utilizando Chronos sin realizar un ajuste fino (fine-tuning), dependiendo de la inferencia de cero disparos (zero-shot) mejorada por el contexto recuperado.

3. Configuración Experimental

• Conjunto de Datos: Registros diarios desde el 16 de octubre de 2020 hasta el 31 de diciembre de 2024, que comprenden 38 variables (niveles de agua, lluvia, PET, flujos de compuertas/bombas) a través de cinco estaciones de monitoreo clave en los Everglades.
• Tarea: Predecir los niveles de agua en cinco estaciones sobre horizontes de 7, 14, 21 y 28 días utilizando una ventana de observación de 100 días.
• Líneas Base: Comparado contra modelos de aprendizaje profundo específicos de la tarea (DLin, TimeMixer, KAN, iTransformer) y otros modelos fundacionales (TimeGPT, TimesFM, Timer, Chronos).
• Métricas: Error Absoluto Medio (MAE), Raíz del Error Cuadrático Medio (RMSE) y el Índice de Dependencia Extremal Simétrica (SEDI) para evaluar la predicción de eventos extremos.

4. Resultados Clave

• Superioridad de Rendimiento: Los métodos de recuperación aumentada (Sim-RAF y MI-RAF) superaron consistentemente a todas las líneas base, incluyendo el modelo preentrenado más fuerte (Chronos).
• Ganancias en Horizonte Largo: Los beneficios de la recuperación aumentada fueron más pronunciados para las predicciones a largo plazo.
  • Para un horizonte de 7 días, Sim-RAF mejoró el MAE y el RMSE en un 4.1% y 5.1%, respectivamente, respecto a Chronos.
  • Para horizontes más largos, Sim-RAF logró mejoras del 7.0% (MAE) y 5.8% (RMSE), mientras que MI-RAF mostró ganancias aún mayores de 13.5% (MAE) y 7.4% (RMSE).
• Eventos Extremos: El marco produjo ganancias desproporcionadamente mayores durante eventos extremos, según la métrica SEDI. Esto indica que la recuperación de episodios históricos análogos compensa eficazmente la falta de señales históricas inmediatas durante eventos hidrológicos raros.
• Variabilidad Espacial: El rendimiento varió según las estaciones, siendo la estación NP205 la que mostró el rendimiento más bajo, atribuido a una correlación más débil de los niveles de agua con otras estaciones.

5. Significación y Reivindicaciones

El artículo afirma proporcionar evidencia empírica de que la recuperación basada en análogos puede beneficiar significativamente a los modelos fundacionales de series temporales en las ciencias ambientales. Específicamente:

• Generalización: El flujo de trabajo RAF propuesto es agnóstico a la cuenca y puede aplicarse a otros sistemas hidrológicos proporcionando datos de series temporales y archivos históricos, sin requerir un reentrenamiento específico del dominio.
• Soporte de Decisiones: Al mejorar los pronósticos de largo horizonte y de eventos extremos, el método ofrece información práctica para la toma de decisiones ambientales en sistemas complejos y no estacionarios como los Everglades.
• Perspectiva Metodológica: El estudio destaca las fortalezas y los modos de falla de los modelos fundacionales cuando se aplican a la hidrología, demostrando que enriquecer el contexto de entrada con análogos históricos recuperados es una estrategia viable para superar las limitaciones de las ventanas de observación cortas en regímenes de datos escasos o extremos.

Los autores enfatizan que, aunque la evaluación es específica de los Everglades, el diseño del marco permite la transferibilidad a otros contextos hidrológicos, ofreciendo una nueva dirección para mejorar la predicción del nivel del agua en sistemas ecológicamente sensibles.