⚡ ingeniería eléctrica

Evaluating the Generalizability of Foundation Models for Extreme Environmental Events: Case Study of California Wildfire PM2.5

Este estudio evalúa seis modelos fundacionales de series temporales frente a líneas de base de aprendizaje profundo tradicionales para el pronóstico de PM2.5 extremos por incendios forestales en California, revelando que los modelos recurrentes totalmente entrenados superan consistentemente tanto a los modelos fundacionales de disparo cero como a los ajustados en precisión y detección de eventos extremos, desafiando así la suposición de que los modelos preentrenados más grandes dominan universalmente el pronóstico ambiental.

Autores originales: Yongcan Huang, Li Jiang, Ze Yu Liu

Publicado 2026-09-24

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yongcan Huang, Li Jiang, Ze Yu Liu

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La contaminación del aire es una de las amenazas más persistentes para la salud pública en el mundo moderno, pero pocos eventos son tan repentinos o peligrosos como el humo de un incendio forestal. Cuando se inicia un fuego, no solo libera una corriente constante de humo; lanza picos masivos e impredecibles de partículas diminutas que pueden viajar cientos de millas y asentarse profundamente en los pulmones. Estas partículas, conocidas como PM2.5, son tan pequeñas que pueden entrar en el torrente sanguíneo, y durante eventos de incendios severos, su concentración puede aumentar a niveles cientos de veces superiores a lo que se considera seguro. Predecir estos picos es una cuestión de vida o muerte, lo que permite a las comunidades emitir órdenes de evacuación, cerrar escuelas y preparar hospitales antes de que el aire se vuelva tóxico. Durante décadas, los científicos han intentado pronosticar estos eventos utilizando complejos modelos basados en la física que simulan cómo se mueve el humo a través de la atmósfera, pero estos sistemas suelen ser demasiado lentos o requieren demasiados datos para ser útiles en emergencias en tiempo real. En años recientes, ha surgido un nuevo enfoque: el uso de la inteligencia artificial para aprender patrones a partir de datos pasados. Los más prometedores de estos son los "modelos fundacionales", programas informáticos masivos entrenados en vastas cantidades de datos generales basados en el tiempo, desde mercados bursátiles hasta patrones climáticos, diseñados para predecir el futuro de casi cualquier secuencia de números sin necesidad de un entrenamiento específico para cada nueva tarea.

Un equipo de investigadores se propuso probar si estos poderosos modelos de inteligencia artificial de propósito general podían manejar la realidad extrema y caótica del humo de los incendios forestales. Se centraron en California, un estado que ha sufrido una década de temporadas de incendios cada vez más severas. El equipo recopiló un conjunto de datos masivo que contenía lecturas horarias de la calidad del aire de 79 estaciones de monitoreo en todo el estado, cubriendo el periodo de 2013 a 2025. Esta colección incluyó datos de 1,375 incidentes de incendios forestales distintos, capturando desde la contaminación de fondo leve hasta eventos extremos donde los niveles de partículas se dispararon a casi 1,250 microgramos por metro cúbico. Los investigadores querían ver si los nuevos modelos fundacionales, que nunca habían visto este tipo específico de datos, podían predecir las próximas seis, doce o veinticuatro horas de la calidad del aire mejor que los programas informáticos más antiguos y especializados que fueron entrenados específicamente para incendios forestales. Para asegurar una prueba justa, diseñaron un método de evaluación riguroso donde se les pidió a los modelos computacionales que predijeran la calidad del aire de un incendio que nunca habían visto, utilizando únicamente datos de otros incendios para aprender. Este enfoque evitó que los modelos simplemente memorizaran los detalles de un incendio específico y los obligó a comprender verdaderamente los patrones subyacentes del comportamiento del humo.

Los resultados de este estudio revelaron una verdad sorprendente sobre las capacidades de estos grandes sistemas de inteligencia artificial. A pesar de su reputación para resolver problemas complejos y su capacidad para aprender de cantidades masivas de datos, los modelos fundacionales de propósito general no superaron a los modelos especializados más antiguos cuando se trataba de predecir los momentos más peligrosos de un incendio forestal. Las predicciones más precisas provinieron de un programa informático compacto y totalmente entrenado conocido como una red de memoria a largo plazo bidireccional, o BiLSTM. Este modelo, que fue construido específicamente para esta tarea y entrenado con los datos históricos de incendios forestales, realizó consistentemente los errores más pequeños en sus pronósticos. Fue particularmente hábil al identificar cuándo la calidad del aire cruzaría el umbral hacia niveles "peligrosos", una capacidad crítica para la seguridad pública. En contraste, los modelos fundacionales generales, que fueron probados sin ningún entrenamiento específico en los datos de incendios, funcionaron solo ligeramente mejor que una simple suposición que asumía que la calidad del aire se mantendría igual que en la última hora. Si bien estos grandes modelos podían predecir la calidad del aire promedio de manera razonable, tuvieron dificultades significativas cuando se trató de los picos extremos. Uno de los modelos fundacionales, en particular, produjo algunos errores masivos que sesgaron su rendimiento general, causando que omitiera los picos más severos por completo o los predijera en el momento equivocado.

Los investigadores también probaron si podían mejorar el rendimiento de estos grandes modelos dándoles una pequeña cantidad de entrenamiento específico con los datos de incendios, una técnica conocida como ajuste fino (fine-tuning). Este proceso permitió a los modelos ajustar sus configuraciones internas para adaptarse mejor al comportamiento único del humo de los incendios forestales. Si bien este ajuste fino ayudó, no logró cerrar la brecha. Incluso después de ser ajustados, los modelos fundacionales todavía no pudieron igualar la precisión del modelo especializado que había sido entrenado desde cero con los datos de incendios forestales. El estudio sugiere que el tamaño y la naturaleza general de los modelos fundacionales no son suficientes para superar los desafíos únicos de la predicción de eventos ambientales extremos. Estos modelos, entrenados en vastas cantidades de datos ordinarios, tienden a suavizar los picos salvajes y dentados que caracterizan al humo de los incendios forestales, promediando efectivamente el peligro. El modelo especializado, habiendo aprendido el ritmo y la intensidad específicos del humo de incendios a lo largo de muchos años, conservó la capacidad de anticipar esas oleadas repentinas y potencialmente mortales.

Este hallazgo ofrece un camino claro para los científicos y funcionarios de salud pública que dependen de los pronósticos de la calidad del aire. Sugiere que para las predicciones más críticas y de alto riesgo —como advertir a una comunidad sobre un aire peligroso inminente— los modelos especializados y más pequeños entrenados con datos históricos específicos siguen siendo la herramienta más confiable. Aunque los grandes modelos de inteligencia artificial de propósito general muestran promesa para el pronóstico general y pueden mejorar con cierto entrenamiento específico, no son todavía un reemplazo para los sistemas dedicados que han aprendido el lenguaje específico del humo de los incendios forestales. El estudio subraya que ante eventos raros y extremos, la profundidad del conocimiento específico del dominio suele pesar más que la amplitud del conocimiento general. Para las comunidades que viven en regiones propensas a incendios, esto significa que los sistemas de alerta temprana más efectivos probablemente seguirán siendo aquellos construidos por expertos que han estudiado el comportamiento específico del humo en su entorno local, en lugar de depender únicamente de la inteligencia amplia y general de algoritmos preentrenados masivos.

Resumen Técnico: Evaluación de la Generalizabilidad de los Modelos de Fundación para Eventos Ambientales Extremos

Declaración del Problema

Predecir con precisión los picos extremos en las concentraciones de PM2.5 causados por el humo de los incendios forestales sigue siendo un desafío crítico para la salud pública, particularmente para la emisión de órdenes de evacuación oportunas y la preparación ante la saturación hospitalaria. Aunque los Modelos de Fundación de Series Temporales (TSFMs) han demostrado un sólido rendimiento en benchmarks generales mediante inferencia zero-shot y adaptación eficiente de parámetros, su eficacia bajo condiciones extremas y fuera de la distribución (OOD) —específicamente la dinámica de cola pesada y no estacionaria del humo de incendios forestales— permanece sin probar.

La literatura existente sufre de dos limitaciones primarias:

Protocolos de Evaluación: La mayoría de los estudios dependen de divisiones cronológicas de entrenamiento-prueba o configuraciones de un solo sitio. Estos métodos suelen filtrar información de un mismo evento de incendio entre el entrenamiento y la prueba, fallando al evaluar la capacidad de un modelo para generalizar a un incidente completamente nuevo.
Aplicabilidad del Dominio: No está claro si el preentrenamiento a gran escala en corpus generales transfiere eficazmente a la naturaleza específica, episódica y extrema del PM2.5 por incendios forestales, o si el ajuste fino ligero (por ejemplo, LoRA) puede cerrar la brecha entre los modelos de fundación y el aprendizaje supervisado específico del dominio.

Metodología

Conjunto de Datos y Preprocesamiento

El estudio utiliza un conjunto de datos horario de 12 años (2013–2025) que comprende 1,375 incidentes de incendios forestales en 79 sitios de monitoreo certificados por la EPA en California. El conjunto de datos incluye 1.73 millones de registros alineados con los incidentes, con concentraciones de PM2.5 que oscilan entre 0 y 1,249 µg/m³. Notablemente, los datos están fuertemente sesgados: el 93.8% de las lecturas caen en el rango de "Bueno a Moderado", mientras que solo el 0.28% alcanza niveles "Peligrosos" (>225.5 µg/m³).

El preprocesamiento involucró:

Alineación de Eventos: Emparejamiento de cada incidente de incendio con su estación de monitoreo más cercana (dentro de 100 km).
Gestión de Huecos: Evitar la interpolación para prevenir dinámicas artificiales; los datos se segmentaron en bloques continuos.
Normalización: Normalización z-score por sitio para las líneas base entrenadas; unidades nativas para los modelos de fundación (con manejo específico para Time-MoE).
Ventaneo: Se utilizó un contexto de entrada de 48 horas para pronosticar horizontes de 6, 12 y 24 horas.

Protocolo de Evaluación: Leave-One-Incident-Out (LOIO)

Para prevenir la fuga temporal y simular el escenario operativo de predecir un nuevo incendio sin historial previo específico del incidente, los autores emplearon un protocolo de validación cruzada de Leave-One-Incident-Out (LOIO).

Agrupación: Todas las ventanas temporales asociadas con un solo incidente de incendio se asignan al mismo grupo (fold).
Estratificación: Los grupos se estratifican por la concentración máxima de los incidentes para asegurar una distribución equilibrada de la severidad entre los conjuntos de entrenamiento y prueba.
Validación: En cada grupo, el modelo se entrena en todos los demás incidentes y se prueba exclusivamente en el incidente excluido.

Modelos Evaluados

El estudio compara diez configuraciones a través de tres categorías:

Líneas Base de Aprendizaje Profundo Entrenadas: LSTM, BiLSTM y Transformer (entrenados completamente desde cero con los datos de incendios forestales).
Modelos de Fundación Zero-Shot: TimesFM, Chronos-2, Moirai-2 y Time-MoE (pesos preentrenados congelados, sin actualizaciones de gradiente).
Modelos de Fundación con Ajuste Fino LoRA: Chronos-2 y Time-MoE adaptados mediante Low-Rank Adaptation (LoRA) utilizando únicamente los grupos de entrenamiento.

Métricas

El rendimiento se evaluó mediante:

Métricas de Regresión: Error Absoluto Medio (MAE), Raíz del Error Cuadrático Medio (RMSE) y Coeficiente de Determinación ( $R^2$ ).
Detección de Excedencias: Puntuaciones F1 en umbrales de la AQI de la EPA (35.5, 55.5, 125.5 y 225.5 µg/m³) para evaluar la capacidad de predecir eventos peligrosos.

Resultados Clave

1. Superioridad de las Líneas Base Recurrentes Entrenadas

Contrario a la suposición de que los modelos preentrenados más grandes dominan universalmente, el BiLSTM totalmente entrenado logró el mejor rendimiento en todas las métricas:

Menor MAE: 5.16 µg/m³ (comparado con 5.56–5.92 µg/m³ para los modelos de fundación zero-shot).
Mayor F1 de Excedencia: En el umbral Peligroso (>225.5 µg/m³), el BiLSTM logró un F1 de 0.63, superando significativamente al mejor modelo de fundación zero-shot (0.54) y a las variantes ajustadas con LoRA.
Estabilidad: El BiLSTM mantuvo un rendimiento consistente a través de todos los horizontes de pronóstico (6, 12, 24 horas).

2. Limitaciones de los Modelos de Fundación Zero-Shot

Ganancias Modestas: Los TSFMs zero-shot mejoraron ligeramente respecto a una línea base de persistencia en el MAE agregado, pero no lograron acercarse al rendimiento de los modelos recurrentes entrenados.
Inestabilidad de la Cola: Chronos-2 zero-shot exhibió una inestabilidad severa. Aunque su MAE fue competitivo (5.61 µg/m³), su RMSE fue excepcionalmente alto (23.45 µg/m³) con un $R^2$ negativo (-0.075). Esto indica errores esporádicos de gran magnitud que son penalizados fuertemente por las métricas de error cuadrático pero invisibles para las métricas de error absoluto.
Degradación del Horizonte: La brecha de rendimiento entre las líneas base entrenadas y los modelos de fundación se amplió a medida que el horizonte de pronóstico aumentó de 6 a 24 horas.

3. Impacto del Ajuste Fino LoRA

Remediación Parcial: El ajuste fino LoRA mejoró sustancialmente el rendimiento tanto de Chronos-2 como de Time-MoE. Para Chronos-2, reparó la inestabilidad de la cola (el RMSE cayó de 23.45 a 15.67 µg/m³; el $R^2$ mejoró de -0.08 a 0.60).
Brecha Persistente: A pesar de las mejoras, ninguna de las variantes ajustadas con LoRA superó al BiLSTM o al LSTM totalmente entrenados en ninguna métrica. Los autores sugieren que la adaptación ligera recalibra las escalas de magnitud, pero falla en instaurar la dinámica temporal fina requerida para la excedencia de eventos extremos.

Principales Contribuciones

Benchmark y Protocolo: El lanzamiento de un benchmark de 12 años y 79 sitios de PM2.5 de incendios forestales en California y la introducción del protocolo de evaluación LOIO, que evita la fuga a nivel de incidente y simula directamente la predicción de un nuevo incendio sin historial previo.
Primer Benchmark de TSFM para PM2.5 Extremo por Incendios Forestales: La primera evaluación sistemática de modelos de fundación de series temporales (cuatro zero-shot, dos ajustados con LoRA) frente a líneas base de aprendizaje profundo totalmente entrenadas, específicamente para el humo de incendios forestales extremo y episódico, en lugar de la contaminación urbana rutinaria.
Hallazgo Empírico Contraintuitivo: La demostración de que un BiLSTM compacto y totalmente entrenado supera consistentemente a todas las configuraciones de TSFM (zero-shot y ajustadas) tanto en error agregado como en la detección de excedencia de eventos extremos.
Guía de Despliegue: Recomendaciones prácticas que aclaran que, si bien los modelos zero-shot ofrecen una línea base, el entrenamiento supervisado específico del dominio sigue siendo esencial para el pronóstico de niveles peligrosos, y que el ajuste fino LoRA sirve como una vía de despliegue rápido viable solo cuando no se dispone de datos históricos específicos del sitio.

Significado y Reivindicaciones

El artículo desafía la suposición prevaleciente de que la escala arquitectónica y el preentrenamiento a gran escala sustituyen automáticamente al entrenamiento de datos específicos del dominio cuando el objetivo implica eventos raros y extremos. Los autores afirman que:

Límites de Generalización: El preentrenamiento a gran escala en corpora generales transfiere solo débilmente a las dinámicas de cola pesada y no estacionarias del humo de incendios forestales.
Necesidad de Evaluación: Las divisiones cronológicas estándar son insuficientes para el pronóstico de eventos extremos; la exclusión a nivel de incidente es necesaria para revelar fallos del modelo (como la inestabilidad de la cola de Chronos-2) que de otro modo quedarían enmascarados.
Realidad Operativa: Para sitios con historial acumulado de incendios, un modelo recurrente pequeño y totalmente entrenado sigue siendo la opción más efectiva y eficiente para el pronóstico crítico de excedencias. Los modelos de fundación, incluso con ajuste fino, aún no igualan este rendimiento en el régimen extremo.

El estudio concluye que, si bien los modelos de fundación ofrecen promesa para un despliegue rápido en escenarios de escasez de datos, actualmente no reemplazan la necesidad de un entrenamiento supervisado específico del dominio cuando el objetivo es la predicción fiable de eventos de calidad del aire peligrosos.