Generative diffusion models for spatiotemporal influenza forecasting

Aquí se presenta un resumen técnico detallado del artículo "Modelos de difusión generativa para la predicción espacio-temporal de la influenza" de Lemaitre y Lessler.

1. Planteamiento del Problema

Predecir la incidencia de enfermedades infecciosas es fundamental para la planificación de la salud pública, pero sigue siendo un desafío debido a la naturaleza compleja y no estacionaria de la dinámica epidémica. Los enfoques existentes enfrentan limitaciones específicas:

• Modelos mecanicistas dependen en gran medida de supuestos de referencia y a menudo fallan al capturar dinámicas emergentes realistas o incertidumbre multimodal.
• Modelos estadísticos de series temporales sobresalen en el reconocimiento de patrones históricos, pero son frágiles cuando los procesos subyacentes cambian (por ejemplo, patógenos novedosos) y luchan por representar el espectro completo de trayectorias futuras plausibles.
• Brechas actuales: Existe una falta de métodos que puedan capturar simultáneamente la estructura espacio-temporal de alta dimensión, patrones epidémicos diversos (por ejemplo, picos bimodales) y una cuantificación robusta de la incertidumbre en tiempo real.

2. Metodología: Influpaint

Los autores introducen Influpaint, un marco generativo que aplica Modelos Probabilísticos de Difusión Denoising (DDPMs) a la predicción de la influenza.

A. Representación de Datos

• Analogía de Imagen: Las temporadas de influenza se codifican como "imágenes" 2D de forma $52 \times L$ (52 semanas $\times$ 51 ubicaciones: 50 estados de EE. UU. + DC).
• Intensidad del Pixel: Representa la incidencia de hospitalizaciones por influenza.
• Beneficio: Esta representación permite la aplicación directa de arquitecturas de generación de imágenes de última generación (U-Nets) a datos epidemiológicos.

B. Estrategia de Datos de Entrenamiento

Para superar la escasez y la heterogeneidad de datos, el modelo se entrena en un conjunto de datos híbrido:

• Datos de Vigilancia: FluView de los CDC (porcentajes de ILI) y FluSurv-NET (hospitalizaciones).
• Datos Sintéticos: Trayectorias del Flu Scenario Modeling Hub (SMH) y del modelo flepiMoP.
• Composición Óptima: Los estudios de ablación revelaron que una mezcla de 30% de vigilancia y 70% de trayectorias simuladas produjo el mejor rendimiento, superando tanto a los conjuntos de datos de vigilancia pura como a los de simulación pura.

C. Arquitectura del Modelo y Entrenamiento

• Arquitectura: Una U-Net convolucional con bloques ResNet, normalización de grupos y mecanismos de autoatención.
• Proceso de Difusión:
  • Hacia adelante: Añade ruido gaussiano a la imagen en $T$ pasos (se probaron $T=200$ y $T=500$; 500 funcionó mejor).
  • Hacia atrás: Una red neuronal predice y elimina el ruido para reconstruir la imagen.
  • Objetivo: Minimizar el error cuadrático medio entre el ruido real y el ruido predicho ($L = \mathbb{E}[\|\epsilon - \epsilon_\theta(x_t, t)\|^2]$).
• Preprocesamiento: Se encontró que la escalación de raíz cuadrada de los valores de incidencia mejoró el rendimiento en comparación con la escalación lineal.

D. Predicción mediante Inpainting Condicional

La predicción se formula como una tarea de inpainting:

• Mecanismo: El modelo se condiciona en observaciones parciales (datos históricos) y genera los datos futuros faltantes.
• Algoritmo: Los autores utilizan CoPaint (un muestreador DDIM optimizado). A diferencia de métodos anteriores (RePaint) que causaban desalineación de límites, CoPaint utiliza una formulación bayesiana para actualizar conjuntamente los píxeles revelados y no revelados en cada paso de eliminación de ruido.
• Características:
  • Máscaras Arbitrarias: Soporta cualquier patrón de observación espacio-temporal (por ejemplo, estados faltantes, semanas faltantes, patrones de tablero de ajedrez).
  • Generación de Ensemble: Produce 512 trayectorias condicionales para representar la distribución probabilística completa de los resultados futuros.

3. Contribuciones Clave

1. Primera Aplicación de DDPMs a la Epidemiología: Este es el primer estudio que aplica modelos de difusión a la predicción de enfermedades infecciosas, demostrando su capacidad para aprender distribuciones espacio-temporales ricas y de alta dimensión.
2. Marco de Datos Híbrido: Demostró que combinar la vigilancia del mundo real limitada con abundantes resultados de modelos mecanicistas sintéticos mejora significativamente la habilidad de predicción del aprendizaje profundo.
3. Inpainting Flexible: Mostró que un único modelo entrenado puede manejar diversos escenarios de datos faltantes (brechas espaciales, brechas temporales) sin reentrenamiento, aprovechando las propiedades de generalización del inpainting por difusión.
4. Rendimiento Competitivo en Tiempo Real: Validó el enfoque en el desafío FluSight de los CDC, logrando clasificaciones de primer nivel en la temporada 2024–2025.

4. Resultados

A. Generación Incondicional

• El modelo genera trayectorias estacionales realistas y diversas, incluyendo picos únicos, picos bimodales y tiempos de pico variables.
• Captura la sincronía espacial (correlación media entre estados de 0.455), aunque ligeramente inferior a las temporadas históricas observadas (0.816).

B. Rendimiento de Predicción (Desafío FluSight)

• Evaluación Retrospectiva (2023–2024 y 2024–2025): Influpaint logró Puntajes de Intervalo Ponderados (WIS) competitivos con el ensemble de múltiples modelos de FluSight de los CDC.
  • 2023–2024: Clasificado 5º/32 (WIS 185,441) vs. Ensemble 8º.
  • 2024–2025: Clasificado 8º/42 (WIS 450,797) vs. Ensemble 20º.
• Progresión en Tiempo Real:
  • 2022–2023: Implementación temprana (RePaint) clasificó 9º/17; sufrió desalineación de límites.
  • 2023–2024: Clasificado cerca del fondo (24/27) debido a problemas de calibración.
  • 2024–2025: Tras refinar el algoritmo de condicionamiento (CoPaint) y el conjunto de datos, el modelo clasificó 1º en WIS Absoluto y MAE entre 36 modelos.
• Calibración: Aunque la precisión mejoró, el modelo se volvió "demasiado seguro" en 2024–2025 (la cobertura empírica del 50% cayó al 14.8% frente a un objetivo del 50%), lo que indica la necesidad de una mejor cuantificación de la incertidumbre.

C. Estudios de Ablación

• Pasos de Difusión: 500 pasos superaron a 200.
• Escalado: La escalación de raíz cuadrada de la incidencia fue superior a la escalación lineal.
• Aumento de Datos: Las técnicas de aumento de datos (remuestreo Poisson, relleno temporal) generalmente degradaron el rendimiento, lo que sugiere que el modelo depende del sesgo inductivo específico de la distribución de los datos de entrenamiento.

5. Significado y Direcciones Futuras

• Prueba de Concepto: Influpaint demuestra que los modelos generativos de aprendizaje profundo pueden rivalizar con los ensembles mecanicistas y estadísticos tradicionales en la predicción de enfermedades infecciosas sin ecuaciones epidemiológicas explícitas.
• Flexibilidad: El marco ofrece un flujo de trabajo unificado para la predicción nacional y subnacional y puede interpolar datos faltantes en tiempo real.
• Limitaciones:
  • Interpretabilidad: Como modelo de aprendizaje profundo de "caja negra", carece de explicaciones mecanicistas para las predicciones.
  • Sesgo de Datos: El rendimiento está limitado por la calidad y diversidad de los datos de entrenamiento (vigilancia + simulación).
  • Costo Computacional: El entrenamiento y la generación de ensembles requieren recursos y tiempo significativos de GPU en comparación con modelos más simples.
• Trabajo Futuro: Las mejoras potenciales incluyen entrenar directamente en la tarea de predicción (difusión supervisada), integrar covariables auxiliares (clima, movilidad) y combinar modelos de difusión con modelos mecanicistas para aprender procesos residuales.

Conclusión: El artículo establece los modelos de difusión generativa como una herramienta poderosa y flexible para la predicción epidémica espacio-temporal, capaz de capturar incertidumbre compleja y dinámicas diversas que los métodos tradicionales a menudo pasan por alto.