Hierarchical Bayes meets hierarchical forecasting: A flexible framework for level-focused forecasts

Resumo Técnico: O encontro entre o Bayes Hierárquico e a Previsão Hierárquica

Definição do Problema
A previsão hierárquica é essencial para a tomada de decisão em sistemas complexos, onde as previsões nos níveis inferiores devem agregar de forma coerente aos níveis superiores (ex: a demanda regional somando-se ao total nacional). Os métodos de estado da arte atuais, como a Reconciliação de Traço Mínimo (MinT), operam tipicamente como uma etapa de pós-processamento. Eles geram previsões base independentes e, em seguida, as reconciliam para garantir a coerência. Esta abordagem apresenta diversas limitações:

1. Separação entre Estimação e Coerência: A exigência de coerência não é incorporada na estimação de parâmetros subjacente, o que significa que o modelo não aprende com a estrutura hierárquica durante o treinamento.
2. Desafios na Estimação de Covariância: A reconciliação probabilística (ex: estendendo o MinT para distribuições) requer a estimação da matriz de covariância dos erros de previsão, o que é computacionalmente difícil e frequentemente instável para horizontes de múltiplos passos.
3. Falta de Foco na Decisão: Os métodos existentes geralmente tratam todos os níveis igualmente ou otimizam para a redução do erro global, falhando em considerar cenários onde níveis específicos são mais críticos para os resultados das decisões ou onde a coerência estrita é menos importante do que a precisão em um nível específico.
4. Problemas de Calibração: A reconciliação post-hoc pode forçar a coerência à custa da calibração da previsão, levando a previsões probabilísticas mal calibradas, mesmo que o modelo base seja bem especificado.

Metodologia
Os autores propõem uma estrutura de previsão hierárquica totalmente Bayesiana que integra o compartilhamento de informações, restrições de coerência e ponderação focada em decisões diretamente no processo de treinamento do modelo. A metodologia consiste em três componentes principais:

1. Prioress Hierárquicos Bayesianos:
   Em vez de estimar parâmetros para cada série de forma independente, os autores empregam uma estrutura de prior hierárquica onde os parâmetros ($\theta_i$) para séries individuais são extraídos de uma distribuição populacional definida por hiperparâmetros ($\phi$). Isso facilita o compartilhamento parcial de informações, permitindo que séries no mesmo nível e através de diferentes níveis (nós pai-filho) compartilhem informações. Isso é particularmente benéfico para séries com dados ruidosos ou incompletos, pois estas são informadas por séries relacionadas.

2. Penalidade de Coerência Suave (Soft Coherence Penalty):
   Em vez de impor restrições rígidas, a estrutura introduz uma penalidade suave sobre a incoerência dentro da função de verossimilhança. A diferença entre a soma das séries de nível inferior e a série correspondente de nível superior ($d_t$) é modelada como uma distribuição Gaussiana $N(0, \sigma^2_{coh})$.

• A verossimilhança é multiplicada por este termo de penalidade: $p(d|\sigma^2_{coh}I_T)$.
• O parâmetro $\sigma_{coh}$ controla o rigor da penalidade. Um $\sigma_{coh}$ menor impõe uma coerência mais estrita.
• Esta abordagem "suave" permite que o modelo equilibre precisão e coerência, evitando previsões irreais quando o modelo está mal especificado. Ela elimina a necessidade de estimar matrizes de covariância complexas de múltiplos passos exigidas pelo MinT.

3. Ponderação de Níveis (Posteriors de Potência):
   Para abordar a importância variável de diferentes níveis para a tomada de decisão, os autores aplicam um fator de ponderação $\lambda_i$ à verossimilhança de séries ou níveis específicos.

• Ao definir $\lambda_i > 1$, o modelo prioriza a precisão em níveis específicos (ex: o nível total nacional ou um propósito de viagem específico).
• Isso é implementado usando uma abordagem de posterior de potência, aumentando efetivamente o peso dos dados do nível focado em relação aos outros.
• Isso permite que o modelo global seja otimizado para resultados de decisão específicos, mantendo restrições de coerência suave.

A distribuição posterior completa combina o prior hierárquico, a verossimilhança ponderada e a penalidade de coerência.

Principais Contribuições

• Estrutura Integrada: O artigo introduz um framework Bayesiano unificado que realiza a estimação de parâmetros, o compartilhamento de informações e a imposição de coerência simultaneamente, em vez de uma correção post-hoc.
• Coerência Suave: Propõe uma restrição distributiva que penaliza suavemente a incoerência, oferecendo um equilíbrio flexível entre o ajuste do modelo e as restrições de agregação sem exigir a estimação de matrizes de covariância para horizontes de múltiplos passos.
• Foco Consciente da Decisão: A metodologia introduz um mecanismo para ponderar diferencialmente os níveis hierárquicos com base em sua relevância para os resultados das decisões, otimizando a hierarquia para a precisão em níveis de interesse.
• Capacidade Diagnóstica: A abordagem serve como uma ferramenta diagnóstica; se o modelo não consegue atingir a coerência mesmo com penalidades rigorosas, isso indica má especificação do modelo, em vez de apenas uma falha de reconciliação.

Resultados
A estrutura foi avaliada tanto em dados simulados (modelos ARMA/ETS bem especificados e mal especificados) quanto em dados reais de turismo doméstico australiano (uma hierarquia de 5 níveis de regiões, zonas, estados e propósitos de viagem).

• Coerência: A abordagem hierárquica Bayesiana reduziu inerentemente a incoerência média e distributiva em comparação com modelos independentes, mesmo antes de aplicar as penalidades. A aplicação da penalidade suave reduziu ainda mais a incoerência significativamente.
• Precisão (Dados Simulados):
  • Em modelos bem especificados, modelos Bayesianos independentes tiveram o melhor desempenho, pois o shrinkage (encolhimento) hierárquico enviesou levemente as estimativas para longe dos parâmetros reais. No entanto, a abordagem Bayesiana com penalidades de coerência superou o MinT em termos de cobertura probabilística.
  • Em modelos mal especificados, a abordagem hierárquica mostrou benefícios, particularmente ao ponderar níveis com melhor qualidade de dados (ex: níveis inferiores). A ponderação do nível superior em um cenário de má especificação piorou o desempenho geral, destacando a importância da qualidade dos dados/modelo no nível focado.
• Precisão (Dados de Turismo Australiano):
  • Os modelos hierárquicos Bayesianos superaram os modelos Bayesianos independentes e a reconciliação MinT na maioria das métricas (RMSSE, ES, CRPS).
  • Ponderação de Nível: Modelos ponderados para níveis específicos (ex: "Total" ou "Propósitos") alcançaram o melhor desempenho nesses níveis específicos e frequentemente melhoraram o desempenho em níveis vizinhos em comparação com modelos não ponderados.
  • Calibração: A reconciliação MinT resultou em subcobertura significativa (má calibração) nos níveis superiores. A abordagem Bayesiana proposta manteve melhor calibração, embora os modelos ponderados por nível tenham mostrado uma leve subcobertura nos níveis focados devido ao aumento da confiança, o que permaneceu dentro de limites aceitáveis (dentro de 5% do alvo de 95%).
  • Detecção de Má Especificação: A incapacidade do modelo de convergir com penalidades de coerência muito rigorosas nos dados de turismo sugeriu má especificação do modelo (provavelmente devido a covariáveis não modeladas no modelo ETS), demonstrando a utilidade do framework para diagnosticar limitações do modelo.

Significância e Alegações
O artigo alega que sua principal significância reside na mudança da previsão hierárquica de uma tarefa de reconciliação de pós-processamento para um processo de modelagem integrado. Ao incorporar a coerência e as prioridades de decisão diretamente na estimação de parâmetros Bayesianos:

1. Melhora o compartilhamento de informações tanto dentro quanto através dos níveis hierárquicos, levando a melhores estimativas de parâmetros, especialmente em cenários de escassez ou ruído de dados.
2. Fornece controle flexível sobre o equilíbrio entre precisão e coerência, permitindo que os previsores priorizem níveis relevantes para a decisão sem forçar rigidamente uma coerência que degrade a qualidade da previsão.
3. Evita os problemas computacionais e estatísticos da estimação de matrizes de covariância para reconciliação probabilística de múltiplos passos.
4. Oferece uma perspectiva diagnóstica: se uma penalidade suave não consegue atingir a coerência, isso sinaliza que o modelo subjacente está mal especificado, promovendo uma reavaliação da escolha do modelo em vez de forçar uma reconciliação suboptimal.

Os autores concluem que, embora sua abordagem se destaque ao equilibrar precisão e coerência, ela é mais eficaz quando o modelo subjacente é razoavelmente bem especificado ou quando o foco recai sobre níveis com alta qualidade de dados. Eles reconhecem que, em amostras pequenas, a abordagem de ponderação pode levar a uma certa má calibração da posterior, mas argumentam que os ganhos em desempenho preditivo focado superam esse custo.