Generative diffusion models for spatiotemporal influenza forecasting

1. Formulação do Problema

A previsão da incidência de doenças infecciosas é crítica para o planejamento de saúde pública, mas permanece desafiadora devido à natureza complexa e não estacionária da dinâmica epidêmica. As abordagens existentes enfrentam limitações específicas:

• Modelos mecanicistas dependem fortemente de suposições de linha de base e frequentemente falham em capturar dinâmicas emergentes realistas ou incerteza multimodal.
• Modelos estatísticos de séries temporais destacam-se no reconhecimento de padrões históricos, mas são frágeis quando os processos subjacentes mudam (por exemplo, novos patógenos) e lutam para representar o espectro completo de trajetórias futuras plausíveis.
• Lacunas atuais: Há uma falta de métodos que possam simultaneamente capturar estrutura espaço-temporal de alta dimensão, padrões epidêmicos diversos (por exemplo, picos bimodais) e quantificação robusta de incerteza em tempo real.

2. Metodologia: Influpaint

Os autores introduzem o Influpaint, um framework generativo que aplica Modelos Probabilísticos de Difusão com Remoção de Ruído (DDPMs) à previsão da influenza.

A. Representação de Dados

• Analogia com Imagem: As estações de influenza são codificadas como "imagens" 2D de formato $52 \times L$ (52 semanas $\times$ 51 locais: 50 estados dos EUA + DC).
• Intensidade do Pixel: Representa a incidência de hospitalizações por influenza.
• Benefício: Esta representação permite a aplicação direta de arquiteturas de geração de imagem de última geração (U-Nets) a dados epidemiológicos.

B. Estratégia de Dados de Treinamento

Para superar a escassez e a heterogeneidade de dados, o modelo é treinado em um conjunto de dados híbrido:

• Dados de Vigilância: CDC FluView (porcentagens de ILI) e FluSurv-NET (hospitalizações).
• Dados Sintéticos: Trajetórias do Flu Scenario Modeling Hub (SMH) e do modelo flepiMoP.
• Composição Ótima: Estudos de ablação revelaram que uma mistura de 30% de vigilância e 70% de trajetórias simuladas produziu o melhor desempenho, superando tanto conjuntos de dados puros de vigilância quanto puros de simulação.

C. Arquitetura do Modelo e Treinamento

• Arquitetura: Uma U-Net convolucional com blocos ResNet, normalização em grupo e mecanismos de autoatenção.
• Processo de Difusão:
  • Frente: Adiciona ruído gaussiano à imagem ao longo de $T$ passos (testados $T=200$ e $T=500$; 500 performou melhor).
  • Reverso: Uma rede neural prevê e remove o ruído para reconstruir a imagem.
  • Objetivo: Minimizar o erro quadrático médio entre o ruído real e o ruído previsto ($L = \mathbb{E}[\|\epsilon - \epsilon_\theta(x_t, t)\|^2]$).
• Pré-processamento: A escala de raiz quadrada dos valores de incidência foi encontrada como superior à escala linear para melhorar o desempenho.

D. Previsão via Inpainting Condicional

A previsão é formulada como uma tarefa de inpainting:

• Mecanismo: O modelo é condicionado a observações parciais (dados históricos) e gera os dados futuros faltantes.
• Algoritmo: Os autores utilizam CoPaint (um amostrador DDIM otimizado). Diferentemente de métodos anteriores (RePaint) que causavam desalinhamento de limites, o CoPaint usa uma formulação bayesiana para atualizar conjuntamente pixels revelados e não revelados em cada passo de remoção de ruído.
• Recursos:
  • Máscaras Arbitrárias: Suporta qualquer padrão de observação espaço-temporal (por exemplo, estados faltantes, semanas faltantes, padrões de tabuleiro de xadrez).
  • Geração de Ensemble: Produz 512 trajetórias condicionais para representar a distribuição probabilística completa dos resultados futuros.

3. Contribuições Principais

1. Primeira Aplicação de DDPMs em Epidemiologia: Este é o primeiro estudo a aplicar modelos de difusão à previsão de doenças infecciosas, demonstrando sua capacidade de aprender distribuições espaço-temporais ricas e de alta dimensão.
2. Framework de Dados Híbrido: Demonstrou que combinar vigilância real limitada com abundantes saídas de modelos mecanicistas sintéticos melhora significativamente a habilidade de previsão de aprendizado profundo.
3. Inpainting Flexível: Mostrou que um único modelo treinado pode lidar com diversos cenários de dados faltantes (lacunas espaciais, lacunas temporais) sem retreinamento, aproveitando as propriedades de generalização do inpainting por difusão.
4. Desempenho Competitivo em Tempo Real: Validou a abordagem no desafio CDC FluSight, alcançando classificações de topo na temporada 2024–2025.

4. Resultados

A. Geração Incondicional

• O modelo gera trajetórias sazonais realistas e diversas, incluindo picos únicos, picos bimodais e tempos de pico variados.
• Captura a sincronia espacial (correlação média entre estados de 0,455), embora ligeiramente inferior às estações históricas observadas (0,816).

B. Desempenho de Previsão (Desafio FluSight)

• Avaliação Retrospectiva (2023–2024 e 2024–2025): O Influpaint alcançou Pontuações de Intervalo Ponderado (WIS) competitivas com o ensemble multi-modelo do CDC FluSight.
  • 2023–2024: Classificado 5º/32 (WIS 185.441) vs. Ensemble 8º.
  • 2024–2025: Classificado 8º/42 (WIS 450.797) vs. Ensemble 20º.
• Progressão em Tempo Real:
  • 2022–2023: Implementação inicial (RePaint) classificada 9º/17; sofreu com desalinhamento de limites.
  • 2023–2024: Classificado perto do fundo (24/27) devido a problemas de calibração.
  • 2024–2025: Após refinar o algoritmo de condicionamento (CoPaint) e o conjunto de dados, o modelo classificou-se 1º em WIS Absoluto e MAE entre 36 modelos.
• Calibração: Embora a precisão tenha melhorado, o modelo tornou-se "excessivamente confiante" em 2024–2025 (cobertura empírica de 50% caiu para 14,8% vs. alvo de 50%), indicando a necessidade de melhor quantificação de incerteza.

C. Estudos de Ablação

• Passos de Difusão: 500 passos superaram 200.
• Escala: A escala de raiz quadrada da incidência foi superior à escala linear.
• Aumento de Dados: Técnicas de aumento de dados (reamostragem de Poisson, preenchimento temporal) geralmente degradaram o desempenho, sugerindo que o modelo depende do viés indutivo específico da distribuição dos dados de treinamento.

5. Significado e Direções Futuras

• Prova de Conceito: O Influpaint prova que modelos generativos de aprendizado profundo podem rivalizar com ensembles mecanicistas e estatísticos tradicionais na previsão de doenças infecciosas sem equações epidemiológicas explícitas.
• Flexibilidade: O framework oferece um fluxo de trabalho unificado para previsão nacional e subnacional e pode interpolar dados faltantes em tempo real.
• Limitações:
  • Interpretabilidade: Como um modelo de aprendizado profundo "caixa preta", carece de explicações mecanicistas para as previsões.
  • Viés de Dados: O desempenho é limitado pela qualidade e diversidade dos dados de treinamento (vigilância + simulação).
  • Custo Computacional: O treinamento e a geração de ensembles exigem recursos significativos de GPU e tempo em comparação com modelos mais simples.
• Trabalho Futuro: Melhorias potenciais incluem treinamento diretamente na tarefa de previsão (difusão supervisionada), integração de covariáveis auxiliares (clima, mobilidade) e combinação de modelos de difusão com modelos mecanicistas para aprender processos residuais.

Conclusão: O artigo estabelece modelos de difusão generativa como uma ferramenta poderosa e flexível para previsão epidêmica espaço-temporal, capaz de capturar incerteza complexa e dinâmicas diversas que métodos tradicionais frequentemente perdem.