Resumo Técnico: Compreendendo as Características Principais de Modelos de Fundação de Séries Temporais para Previsão de Epidemias

Declaração do Problema

A previsão precisa de curto prazo da gripe sazonal é uma necessidade crítica de saúde pública nos Estados-Estados, informando o tempo de vacinação, o dimensionamento de pessoal hospitalar e a alocação de recursos. Embora as iniciativas CDC FluSight e COVID-19 Forecast Hub tenham estabelecido marcos concretos para a previsão de epidemias, o desempenho dos modernos modelos de fundação de séries temporais (FMs) e das abordagens baseadas em modelos de linguagem de grande escala (LLMs) em dados operacionais de doenças infecciosas permanece insuficientemente caracterizado.

As avaliações existentes de FMs de séries temporais em epidemiologia sofrem de quatro limitações primárias:

1. Escopo de Dados: Elas frequentemente dependem de séries temporais únicas, de nível nacional, com histórico limitado, falhando em capturar padrões regionais multissazonais essenciais para o planejamento do mundo real.
2. Generalização: A generalização espacial (transferência entre regiões com diferentes demografias e práticas de notificação) raramente é testada.
3. Design Experimental: Muitos estudos utilizam horizontes ad-hoc (ex: 24–60 semanas) que divergem dos alvos operacionais de 1 a 4 semanas do CDC e ignoram revisões de dados (backfill).
4. Inconsistência: Pipelines de dados e basais heterogêneos tornam difícil distinguir avanços genuínos de modelagem de artefatos de pré-processamento.

Este artigo aborda essas lacunas realizando uma avaliação sistemática da previsão regional de influenza sob restrições realistas de saúde pública, comparando redes neurais clássicas, modelos numéricos baseados em transformer e abordagens baseadas em LLM.

Metodologia

Dados e Regimes de Generalização

O estudo utiliza dados de séries temporais semanais ao nível da região dos EUA (10 regiões) abrangendo aproximadamente 20 anos para Doenças Semelhantes à Influenza (ILI) e três temporadas para hospitalizações associadas à influenza.

• Generalização Temporal: Os modelos são treinados em segmentos anteriores de uma região específica e avaliados em intervalos de tempo posteriores e distintos dentro da mesma região.
• Generalização Espacial: Os modelos são treinados em um subconjunto de regiões e avaliados em regiões inteiramente não vistas para testar a transferência geográfica.
• Fontes de Pré-treinamento: Para avaliar a transferência entre domínios, os modelos foram pré-treinados em diversos corpora, incluindo:
  • Dados Semanais de Epidemia: Contagens de mortes por COVID-19.
  • TrafficL: Ocupação de faixas de tráfego de alta frequência.
  • M4: Um benchmark grande e heterogêneo de aproximadamente 100.000 séries univariadas.
  • Dados de Hospitalização: Utilizados como um sinal mecanisticamente relacionado.

Configuração Experimental

• Horizontes: 1 a 4 semanas à frente, alinhados com os alvos operacionais do CDC.
• Métricas: Erro Quadrático Médio (MSE) e Eficiência de Nash–Sutcliffe Normalizada (NNSE).
• Modelos Avaliados: 17 modelos de previsão profunda, incluindo:
  • Modelos de Padrão: PatchTST, iTransformer, TFT, TiDE, TCN, LSTM (iterativo e direto).
  • Modelos de Fundação: Variantes do Chronos, TimesNet, TimeLLM.
  • Arquitetura Proposta: MultiFoundationCore (MFC), um modelo de Mistura de Especialistas (MoE) que funde múltiplos previsores pré-treinados.
• Ablações: O estudo investiga o impacto das fontes de pré-treinamento, o uso de sinais auxiliares (hospitalização como entrada vs. pré-treinamento), a frequência de retreinamento e o comprimento do histórico de dados.

Principais Contribuições

1. Benchmarking Sistemático: Os autores fornecem a primeira avaliação sistemática de modelos de fundação de séries temporais para previsão tanto de ILI quanto de hospitalização sob regimes explícitos de generalização temporal e espacial usando alvos de múltiplos horizontes de 1 a 4 semanas.
2. Comparação de Arquitetura: Uma comparação controlada entre famílias de modelos revela que estratégias de Mistura de Especialistas (MoE), especificamente o modelo MultiFoundationCore (MFC), alcançam o desempenho geral mais forte. O MFC funde múltiplos previsores pré-treinados, aproveitando representações heterogêneas para fornecer informações preditivas complementares.
3. Insights de Pré-treinamento: O estudo demonstra que o pré-treinamento proporciona os maiores ganhos em horizontes mais longos (semanas 3–4), particularmente quando o domínio de pré-treinamento está mecanisticamente alinhado com a dinâmica da influenza (ex: dados de hospitalização). Corpora genéricos grandes (M4) também oferecem benefícios significativos para estabilidade de longo alcance.
4. Limitações de LLM: O artigo constata que métodos de séries temporais baseados em LLM (ex: TimeLLM, Chronos) apresentam desempenho inferior em relação aos previsores numéricos neste cenário. Os autores atribuem isso a incompatibilidades arquitetônicas onde a tokenização estilo linguagem falha em preservar a estrutura numérica contínua (amplitude, inclinação, fase) crítica para a previsão epidêmica de curto horizonte.
5. Análise de Sinais Auxiliares: A pesquisa esclarece a utilidade dos dados de hospitalização, mostrando que eles melhoram as previsões tanto como fonte de pré-treinamento quanto como covariável auxiliar, sendo que o pré-treinamento produz os ganhos mais consistentes entre os horizontes.

Resultados

Avaliação Temporal (Dentro da Região)

• Desempenho Superior: O MultiFoundationCore alcançou o melhor desempenho médio geral (MSE = 0,382, NNSE = 0,864), superando todos os basais individuais.
• Modelos Numéricos vs. LLM: Modelos baseados em transformers numéricos (PatchTST, iTransformer) superaram significativamente as abordagens baseadas em LLM. Por exemplo, a melhor configuração do Chronos teve um MSE médio de 0,683, enquanto o PatchTST (sem pré-treinamento) alcançou 0,439.
• Impacto do Pré-treinamento: O pré-treinamento melhorou consistentemente os modelos numéricos. O PatchTST pré-treinado em dados de Hospitalização alcançou um MSE de 0,412, e em dados M4, 0,415, comparado a 0,439 para o baseline. Os benefícios do pré-treinamento foram mais pronunciados no horizonte de 4 semanas.
• Estratégia: Modelos de previsão direta de múltiplas saídas geralmente superaram os modelos iterativos em horizontes mais longos, pois os modelos iterativos sofrem com o acúmulo de erro.

Avaliação Espacial (Entre Regiões)

• Generalização: Os modelos geralmente performaram melhor sob divisões temporais do que sob divisões espaciais, provavelmente devido à diversidade limitada das 10 regiões da HHS.
• Melhor Desempenho: No cenário espacial, o PatchTST foi o modelo individual de melhor desempenho (MSE Médio = 0,449, NNSE = 0,848), seguido pelo TFT e LSTM.
• Desempenho de LLM: Os modelos baseados em LLM (TimeLLM) continuaram a ter desempenho inferior na generalização espacial, reforçando a dificuldade de transferir vieses de linguagem para contextos geográficos não vistos.

Sinais Auxiliares e Retreinamento

• Dados de Hospitalização: Usar dados de hospitalização como fonte de pré-treinamento para a previsão de ILI reduziu o MSE significativamente (ex: o MSE do TFT caiu de 0,428 para 0,346). Usá-los como um fluxo de entrada também ajudou, particularmente para históricos de ILI mais curtos.
• Retreinamento: O retreinamento mais frequente (a cada 10 passos vs. 200) gerou ganhos de precisão consistentes, embora decrescentes, sugerindo que existe um equilíbrio prático entre custo computacional e desempenho preditivo.
• Previsão de Hospitalização: Para o conjunto de dados de hospitalização, mais curto e ruidoso, um baseline compacto TinyLSTM teve um desempenho surpreendentemente bom, superando grandes modelos de fundação quando nenhum dado auxiliar era usado. No entanto, o MultiFoundationCore ainda alcançou o menor erro total (MSE = 0,00224) ao fundir covariáveis de ILI.

Significância e Alegações

O artigo fornece orientações acionáveis para seleção de modelos e estratégia em vigilância de influenza:

• Seleção de Modelo: Para previsões operacionais de 1 a 4 semanas, frameworks de Mistura de Especialistas (Mixture-of-Experts) que fundem especialistas numéricos pré-treinados são superiores às abordagens de modelo único.
• Estratégia de Pré-treinamento: O pré-treinamento é mais benéfico para horizontes mais longos e é mais eficaz quando o domínio de origem é mecanisticamente relacionado ao alvo (ex: hospitalização para ILI).
• Cautela com LLM: As alegações de que LLMs reprogramados superam decisivamente modelos numéricos especializados não são sustentadas em cenários realistas de epidemias de curto horizonte e múltiplas regiões. A natureza numérica contínua dos dados epidêmicos exige vieses indutivos que as arquiteturas de estilo linguagem atualmente carecem.
• Utilidade dos Dados: Registros de vigilância de longo prazo e sinais auxiliares mecanisticamente ligados (como hospitalizações) são críticos para uma previsão robusta de múltiplos horizontes.

Os autores enfatizam que seu trabalho é um estudo sistemático de comportamento de previsão, e não um sistema operacional em tempo real totalmente funcional. Eles disponibilizam código, dados e checkpoints pré-treinados para servir como um testbed reutilizável para pesquisas futuras em previsão de epidemias com modelos de fundação de séries temporais.