Conformal Prediction for Hierarchical Data

Technische Samenvatting: Conformale Voorspelling voor Hiërarchische Data

Probleemstelling
Het artikel adresseert de uitdaging om geldige voorspellingregio's te construeren voor multivariate data die een hiërarchische structuur vertonen, waarbij bepaalde componenten lineaire combinaties zijn van andere (bijvoorbeeld regionale sommen die samenkomen tot nationale totalen). Waar standaard conformale voorspelling (CP) dekkinggaranties voor steekproeven van eindige grootte biedt voor multivariate data, negeert deze vaak de structurele beperkingen die inherent zijn aan hiërarchische data. Omgekeerd exploiteren technieken voor voorspellingsreconciliatie deze lineaire beperkingen om de coherentie van puntvoorspellingen te verbeteren, maar hebben ze historisch gezien moeite gehad om deze voordelen uit te breiden naar probabilistische voorspelling met rigoureuze onzekerheidskwantificering. Het kernprobleem bestaat uit het combineren van deze twee post-hoc procedures om voorspellingregio's te produceren die zowel statistisch geldig zijn (dekking garanderen) als efficiënt (regio-grootte minimaliseren), terwijl de hiërarchische coherentiebeperkingen worden gerespecteerd.

Methodologie
De auteurs stellen een raamwerk voor dat Split Conformal Prediction (SCP) integreert met Voorspellingsreconciliatie via een projectiestap. De methodologie werkt onder een i.i.d.-aanname voor de data en niet-conformiteitscores, met specifieke verdelingsaannames geïntroduceerd voor efficiëntieanalyse.

1. Hiërarchische Setting: De data $y \in \mathbb{R}^m$ voldoet aan $y = H y_{1:n}$, waarbij $H$ een bekende structurele matrix is die de meest gedesaggregeerde niveaus ($n$) afbeeldt op de geaggregeerde niveaus ($m$). Vectoren die voldoen aan $u = H u_{1:n}$ worden "coherent" genoemd.
2. Twee Dekkingsdoelen:
   • Gecombineerde Dekking: Zorgen dat de ware vector $y_{T+1}$ binnen een multivariate voorspellingset $C(x_{T+1})$ valt met waarschijnlijkheid $1-\alpha$.
   • Componentgewijze Dekking: Zorgen dat elke individuele component $y_{T+1,i}$ binnen zijn specifieke interval $C_i(x_{T+1})$ valt met waarschijnlijkheid $1-\alpha$. Dit wordt geïdentificeerd als een natuurlijker doel voor hiërarchische data, waarbij componenten vaak individueel worden geanalyseerd.
3. Voorgestelde Procedure (Gereconcilieerde SCP):
   • Voor Gecombineerde Dekking: De auteurs passen de ellipsoïdale SCP-benadering aan (Johnstone & Cox, 2021; Messoudi et al., 2022). Ze introduceren een projectiematrix $P_A$ (orthogonaal in de $A$-norm) op de coherente deelruimte $\text{Im}(H)$. De regressor wordt gemodificeerd naar $\hat{\mu} = P_A \hat{\mu}_{base}$, en niet-conformiteitscores worden berekend op basis van de afstand tussen observaties en deze geprojecteerde voorspellingen.
   • Voor Componentgewijze Dekking: De auteurs gebruiken getekende niet-conformiteitscores ($s_t = y_t - \hat{\mu}_t$). In tegenstelling tot absolute residuen behouden getekende residuen de lineaire coherentie-eigenschap ($s_t = P s_t$ als $\hat{\mu}_t$ is geprojecteerd). De procedure past SCP componentgewijs toe op deze getekende scores na het projecteren van de basisvoorspellingen op de coherente deelruimte.
4. Efficiëntieanalyse:
   • Theoretische efficiëntie wordt geanalyseerd onder de aanname dat residuen een elliptische verdeling volgen.
   • Voor een vast gewichtvector $w$ bewijzen de auteurs dat het projecteren van de voorspellingen met een specifieke matrix $P_w$ (afgeleid van $H$ en $w$) de verwachte som van de kwadraten van de intervallengtes verkleint in vergelijking met niet-geprojecteerde voorspellingen.
   • Een sterkere "orakel"-resultaat wordt afgeleid onder de aanname dat de covariantiematrix $\Sigma$ van de scores bekend is. Met behulp van de Minimum-Trace (MinT) projectie ($P_{\Sigma^{-1}}$) bereikt de methode uniforme efficiëntiewinsten ten opzichte van elke andere projectiematrix.

Belangrijkste Bijdragen

1. Nieuwe Synthese: Dit werk is het eerste dat conformale voorspelling en voorspellingsreconciliatie formeel combineert om geldige en efficiënte voorspellingregio's te construeren voor hiërarchische data.
2. Componentgewijze Dekkingsgaranties: Het artikel introduceert en analyseert een componentgewijs dekkingscriterium, dat relevanter is voor hiërarchische toepassingen dan gecombineerde dekking. Het bewijst dat de voorgestelde gereconcilieerde SCP (Algoritme 5) deze garanties handhaaft.
3. Efficiëntiebewijzen:
   • Gecombineerde Dekking: De auteurs bewijzen dat de gereconcilieerde ellipsoïdale voorspellingregio's uniform kleiner zijn (in Lebesgue-maat) dan standaard ellipsoïdale regio's, mits de projectiematrix correct wordt gekozen.
   • Componentgewijze Dekking: Onder elliptische verdelingsaannames stelt het artikel vast dat de gereconcilieerde voorspellingsintervallen efficiënter zijn (kleinere verwachte kwadratische lengtes) dan standaard componentgewijze intervallen. Dit wordt bereikt door het minimaliseren van intervallengtes te relateren aan trace-minimalisatieproblemen die centraal staan in de literatuur over voorspellingsreconciliatie (specifiek, de MinT-benadering).
4. Technische Innovatie: De auteurs overbruggen de kloof tussen de twee velden door het gebruik van getekende niet-conformiteitscores om het gebrek aan aannames over onbevooroordeeldheid te hanteren die typisch vereist zijn in voorspellingsreconciliatie, terwijl ze gebruikmaken van trace-ongelijkheden om efficiëntiewinsten in de conformale setting te bewijzen.

Resultaten
Theoretische bevindingen worden gevalideerd door uitgebreide experimenten op synthetische hiërarchische data met variërende complexiteiten (tot 1.801 knopen).

• Dekking: Alle voorgestelde algoritmen bereiken succesvol de doeldekkingsniveaus (90%) voor zowel gecombineerde als componentgewijze doelen over alle configuraties.
• Efficiëntie (Gecombineerd): De gereconcilieerde ellipsoïdale methode (Algoritme 2) produceert consequent kleinere voorspellingsvolumes dan de baseline (Algoritme 1).
• Efficiëntie (Componentgewijs):
  • De Weighted Least Squares (WLS) reconciliatiestrategie (met diagonale covariantieschattingen) presteert consequent beter dan de baseline (Direct) en andere methoden (OLS, Combi), met een vermindering van de totale intervallengtes van 15% tot 65%.
  • De MinT-strategie (met de volledige covariantiematrix) presteert het beste voor kleine hiërarchieën, maar wordt onbetrouwbaar voor grote hiërarchieën (Configuraties 5 en 6) vanwege potentiële singulariteitsproblemen bij de schatting van de covariantiematrix.
  • De Combi- en OLS-methodes vertonen gemengde prestaties, waarbij OLS robuust is maar minder efficiënt dan WLS.

Betekenis en Claims
Het artikel claimt een theoretische basis te bieden voor het verbeteren van onzekerheidskwantificering in hiërarchische settings. Door aan te tonen dat structurele beperkingen post-hoc kunnen worden benut om voorspellingregio's te verkleinen zonder dekking te offeren, biedt het werk een praktisch alternatief voor computationeel dure hiërarchische modellering tijdens de trainingsfase.

De auteurs zijn bescheiden wat betreft de reikwijdte van hun theoretische garanties, en merken op dat de analyse rust op een i.i.d.-raamwerk en elliptische verdelingsaannames. Ze stellen expliciet dat echte hiërarchische tijdreeksen vaak de i.i.d.-aanname voor niet-conformiteitscores schenden. Derhalve positioneert het artikel zijn resultaten als een fundamentele stap, en suggereert dat toekomstig werk deze principes moet uitbreiden naar niet-uitwisselbare data (bijvoorbeeld via adaptieve conformale inferentie) en dynamische hiërarchieën. De primaire betekenis ligt in het vaststellen dat "reconciliatie" niet alleen een hulpmiddel is voor puntvoorspellingen, maar een geldig mechanisme voor het vergroten van de efficiëntie van distributie-vrije voorspellingsets.