Hierarchical Bayes meets hierarchical forecasting: A flexible framework for level-focused forecasts

Résumé technique : La rencontre entre la statistique bayésienne hiérarchique et la prévision hiérarchique

Énoncé du problème
La prévision hiérarchique est essentielle à la prise de décision dans les systèmes complexes où les prévisions aux niveaux inférieurs doivent s'agréger de manière cohérente aux niveaux supérieurs (par exemple, la demande régionale s'additionnant aux totaux nationaux). Les méthodes de pointe actuelles, telles que la réconciliation par trace minimale (MinT), opèrent généralement comme une étape de post-traitement. Elles génèrent des prévisions de base indépendantes, puis les réconcilient pour assurer la cohérence. Cette approche présente plusieurs limites :

1. Séparation de l'estimation et de la cohérence : L'exigence de cohérence n'est pas incorporée dans l'estimation des paramètres sous-jacents, ce qui signifie que le modèle ne tire pas parti de la structure hiérarchique pendant l'entraînement.
2. Défis de l'estimation de la covariance : La réconciliation probabiliste (par exemple, l'extension de MinT aux distributions) nécessite l'estimation de la matrice de covariance des erreurs de prévision, ce qui est souvent complexe sur le plan computationnel et instable pour des horizons multi-étapes.
3. Absence de focalisation décisionnelle : Les méthodes existantes traitent généralement tous les niveaux de la même manière ou optimisent la réduction globale de l'erreur, sans tenir compte des scénarios où certains niveaux sont plus critiques pour les décisions ou bien que la cohérence stricte est moins importante que la précision à un niveau spécifique.
4. Problèmes de calibration : La réconciliation a posteriori peut imposer la cohérence au détriment de la calibration des prévisions, menant à des prévisions probabilistes mal calibrées même si le modèle de base est bien spécifié.

Méthodologie
Les auteurs proposent un cadre de prévision hiérarchique entièrement bayésien qui intègre le partage d'informations, les contraintes de cohérence et la pondération axée sur la décision directement dans le processus d'entraînement du modèle. La méthodologie se compose de trois composantes centrales :

1. Priors hiérarchiques bayésiens :
   Au lieu d'estimer les paramètres pour chaque série de manière indépendante, les auteurs utilisent une structure de prior hiérarchique où les paramètres ($\theta_i$) des séries individuelles sont tirés d'une distribution de population définie par des hyperparamètres ($\phi$). Cela facilite le partage partiel d'informations, permettant aux séries du même niveau et à travers différents niveaux (nœuds parents-enfants) de partager des informations. Ceci est particulièrement bénéfique pour les séries présentant des données bruitées ou incomplètes, car elles sont informées par des séries apparentées.

2. Pénalité de cohérence douce (Soft Coherence Penalty) :
   Plutôt que d'imposer des contraintes strictes, le cadre introduit une pénalité douce sur l'incohérence au sein de la fonction de vraisemblance. La différence entre la somme des séries de niveau inférieur et la série correspondante de niveau supérieur ($d_t$) est modélisée comme une distribution gaussienne $N(0, \sigma^2_{coh})$.

• La vraisemblance est multipliée par ce terme de pénalité : $p(d|\sigma^2_{coh}I_T)$.
• Le paramètre $\sigma_{coh}$ contrôle la rigueur de la pénalité. Une valeur de $\sigma_{coh}$ plus petite impose une cohérence plus étroite.
• Cette approche « douce » permet au modèle de trouver un équilibre entre précision et cohérence, évitant des prédictions irréalistes lorsque le modèle est mal spécifié. Elle élimine la nécessité d'estimer des matrices de covariance multi-étapes complexes requises par MinT.

3. Pondération par niveau (Power Posteriors) :
   Pour répondre à l'importance variable des niveaux pour la prise de décision, les auteurs appliquent un facteur de pondération $\lambda_i$ à la vraisemblance de séries ou de niveaux spécifiques.

• En fixant $\lambda_i > 1$, le modèle donne la priorité à la précision de niveaux spécifiques (par exemple, le niveau national total ou un objectif de voyage spécifique).
• Ceci est implémenté via une approche de power posterior, augmentant ainsi le poids des données du niveau ciblé par rapport aux autres.
• Cela permet d'optimiser le modèle global pour des résultats décisionnels spécifiques tout en maintenant des contraintes de cohérence douce.

La distribution a posteriori complète combine le prior hiérarchique, la vraisemblance pondérée et la pénalité de cohérence.

Principales contributions

• Cadre intégré : Le papier introduit un cadre bayésien unifié qui réalise simultanément l'estimation des paramètres, le partage d'informations et l'application de la cohérence, plutôt qu'une correction a posteriori.
• Cohérence douce : Il propose une contrainte distributionnelle qui pénalise doucement l'incohérence, offrant un compromis flexible entre l'ajustement du modèle et les contraintes d'agrégation sans nécessiter l'estimation de matrices de covariance pour les horizons multi-étapes.
• Focalisation décisionnelle : La méthodologie introduit un mécanisme pour pondérer différemment les niveaux hiérarchiques en fonction de leur pertinence pour les décisions, optimisant la hiérarchie pour la précision aux niveaux d'intérêt.
• Capacité de diagnostic : L'approche sert d'outil de diagnostic ; si le modèle ne parvient pas à atteindre la cohérence même avec des pénalités strictes, cela indique une mauvaise spécification du modèle plutôt qu'un simple échec de réconciliation.

Résultats
Le cadre a été évalué sur des données simulées (modèles ARMA/ETS bien spécifiés et mal spécifiés) et sur des données réelles du tourisme domestique australien (une hiérarchie à 5 niveaux : régions, zones, États et objectifs de voyage).

• Cohérence : L'approche hiérarchique bayésienne réduit intrinsèquement l'incohérence moyenne et distributionnelle par rapport aux modèles indépendants, même avant l'application des pénalités. L'application de la pénalité douce a réduit davantage l'incohérence de manière significative.
• Précision (Données simulées) :
  • Dans les modèles bien spécifiés, les modèles bayésiens indépendants ont obtenu les meilleurs résultats, car le rétrécissement (shrinkage) hiérarchique biait légèrement les estimations par rapport aux paramètres réels. Cependant, l'approche bayésienne avec pénalités de cohérence a surpassé MinT en termes de couverture probabiliste.
  • Dans les modèles mal spécifiés, l'approche hiérarchique a montré des avantages, particulièrement en pondérant les niveaux ayant une meilleure qualité de données (par exemple, les niveaux inférieurs). Pondérer le niveau supérieur dans un scénario de mauvaise spécification a dégradé la performance globale, soulignant l'importance de la qualité des données/du modèle au niveau ciblé.
• Précision (Données de tourisme australien) :
  • Les modèles bayésiens hiérarchiques ont surpassé les modèles bayésiens indépendants et la réconciliation MinT sur la plupart des métriques (RMSSE, ES, CRPS).
  • Pondération par niveau : Les modèles pondérés vers des niveaux spécifiques (par exemple, « Total » ou « Objectifs ») ont obtenu les meilleures performances à ces niveaux spécifiques et ont souvent amélioré les performances des niveaux voisins par rapport aux modèles non pondérés.
  • Calibration : La réconciliation MinT a entraîné une sous-couverture significative (mauvaise calibration) aux niveaux supérieurs. L'approche bayésienne proposée a maintenu une meilleure calibration, bien que les modèles pondérés par niveau aient montré une légère sous-couverture au niveau ciblé en raison d'une confiance accrue, ce qui restait dans des limites acceptables (à moins de 5 % de la cible de 95 %).
  • Détection de la mauvaise spécification : L'incapacité du modèle à converger avec des pénalités de cohérence très strictes sur les données de tourisme a suggéré une mauvaise spécification du modèle (probablement due à des covariables non modélisées dans le modèle ETS), démontrant l'utilité du cadre pour diagnostiquer les limites du modèle.

Signification et affirmations
Le papier affirme que sa principale importance réside dans le passage de la prévision hiérarchique d'une tâche de réconciliation de post-traitement à un processus de modélisation intégré. En intégrant la cohérence et les priorités décisionnelles directement dans l'estimation des paramètres bayésiens :

1. Il améliore le partage d'informations tant au sein des niveaux qu'entre les différents niveaux hiérarchiques, menant à de meilleures estimations de paramètres, particulièrement dans les scénarios de données rares ou bruitées.
2. Il offre un contrôle flexible sur le compromis entre précision et cohérence, permettant aux prévisionnistes de prioriser des niveaux décisionnels spécifiques sans imposer rigidement une cohérence qui dégraderait la qualité des prévisions.
3. Il évite les pièges computationnels et statistiques de l'estimation de la matrice de covariance pour la réconciliation probabiliste multi-étapes.
4. Il offre une perspective de diagnostic : si une pénalité douce ne parvient pas à atteindre la cohérence, cela signale que le modèle sous-jacent est mal spécifié, incitant à une réévaluation du choix du modèle plutôt qu'à une réconciliation sous-optimale forcée.

Les auteurs concluent que, bien que leur approche excelle dans l'équilibre entre précision et cohérence, elle est plus efficace lorsque le modèle sous-jacent est raisonnablement bien spécifié ou lorsque l'on se concentre sur des niveaux de haute qualité de données. Ils reconnaissent que dans les petits échantillons, l'approche de pondération peut entraîner une certaine méscalibration de la distribution a posteriori, mais soutiennent que les gains de performance prédictive ciblée l'emportent sur ce coût.