Bayesian Effect Selection for Additive Quantile Regression with an Application to Air Pollution Thresholds

Technische Samenvatting: Bayesiaanse Effectselectie voor Additieve Kwantielregressie met een Toepassing op Luchtvervuilingsdrempels

Probleemstelling
Regulatoire limieten voor luchtvervuiling worden gedefinieerd door overschrijdingen van concentratiedrempels, die overeenkomen met de bovenste conditionele kwantielen van de verdelingen van verontreinigende stoffen. Hoewel bestaande statistische methoden niet-lineaire relaties tussen covariaten en luchtvervuiling kunnen modelleren, schieten ze vaak tekort in het gelijktijdig adresseren van drie cruciale behoeften: (1) het selecteren van welke covariaten de respons beïnvloeden, (2) het bepalen van de functionele vorm van deze effecten (lineair, niet-lineair, of beide), en (3) dit specifiek te doen voor conditionele kwantielen in plaats van enkel voor het gemiddelde.

Veelgebruikte benaderingen, zoals de Mixed Model Representation (MMR) van gepenaliseerde splines, maken flexibele niet-lineaire effecten mogelijk maar falen in het bieden van een betekenisvolle scheiding tussen lineaire en niet-lineaire componenten. Dit gebrek aan orthogonale decompositie leidt tot inconsistente schattingen van deze afzonderlijke effectdelen. Bovendien zijn traditionele variabeleselectiemethoden (bijv. LASSO, COSSO) vaak gericht op lineaire of gemiddelde regressiecontexten en laten zij zich niet van nature uitbreiden naar de decompositie van effecten binnen kwantielregressiekaders.

Methodologie
De auteurs stellen QDReSS voor (Quantile Distributional Regression with Effect Selection and Structure), een Bayesiaans kader voor additieve kwantielregressie dat effectselectie integreert met effectdecompositie.

1. Demmler-Reinsch (DR) Basisexpansie:
   Om de inconsistentie van de MMR op te lossen, maken de auteurs gebruik van een DR-basisexpansie. Deze benadering voert een $L^2$-projectie uit van kubische B-splines op de ruimte van lineaire functies. De resulterende basisfuncties zijn empirisch orthogonaal aan de lineaire component en onderling orthogonaal. Dit maakt een zuivere decompositie van elk additief effect $f(x)$ in een lineair deel ($f_{lin}$) en een niet-lineair deel ($f_{nonlin}$), wat garandeert dat deze componenten consistent kunnen worden geschat.

2. Bayesiaanse Inferentie met NBPSS-priorverdelingen:
   Het kader maakt gebruik van een Asymmetrische Laplace Verdeling (ALD) als werkende likelihood om Bayesiaanse kwantielregressie te faciliteren. Om variabele- en effectselectie te bereiken, plaatsen de auteurs Normal Beta Prime Spike and Slab (NBPSS) priors op de belangsparameters geassocieerd met de lineaire en niet-lineaire componenten van elke covariaat.

   • De hiërarchische priorstructuur maakt groep-niveau shrinkage mogelijk.
   • Het onderscheidt vier toestanden voor elke covariaat: geen effect, enkel een lineair effect, enkel een niet-lineair effect, of beide.
   • De inclusiekansen worden geleerd uit de data via hyperparameters, waardoor de noodzaak voor kwantiel-specifieke afstemming (tuning) wordt vermeden.

3. Posterior Schatting:
   Posterior inferentie wordt uitgevoerd met behulp van een efficiënte Gibbs sampler. De conjunctieve structuur van het model (gefaciliteerd door de schaal-mengvorm representatie van de ALD en de Gaussische priors) maakt gesloten vorm volledige conditionele verdelingen mogelijk voor alle parameters, inclusclusief de latente gewichten, variantiecomponenten en inclusie-indicatoren.

Belangrijkste Bijdragen

• Theoretische Consistentie: Het artikel levert een theoretisch bewijs dat de DR-basisexpansie consistente schatters oplevert voor zowel lineaire als niet-lineaire effectcomponenten in additieve kwantielregressie, een eigenschap die niet gegarandeerd wordt door standaard MMR's.
• Geïntegreerde Selectie en Decompositie: In tegen tegenstelling tot bestaande methoden die volledige functies selecteren of enkel in lineaire settings opereren, selecteert QDReSS gelijktijdig covariaten en bepaalt het of hun effecten lineair, niet-lineair of beide zijn, specifiek bij door de gebruiker gedefinieerde kwantielen.
• Computationele Efficiëntie: De orthogonale aard van de DR-basis vereenvoudigt de penalty-structuur (waardoor roughness penalties worden gereduceerd tot identiteitsmatrices), wat resulteert in snellere berekeningen vergeleken met MMR-gebaseerde benaderingen.
• Praktische Implementatie: De auteurs bieden een volledige Bayesiaanse workflow, inclusief een gestroomlijnde strategie voor prior-elicitatie gebaseerd op de schalingseigenschappen van de beta prime distributie, en een open-source implementatie.

Resultaten en Toepassing
De methode werd toegepast op dagelijkse luchtvervuilingsdata uit Madrid, Spanje (2016–2019), waarbij de concentraties van Stikstofdioxide ($NO_2$) werden gemodelleerd voor kwantielen $\tau \in \{0.6, 0.8, 0.9\}$.

• Voorspellende Prestaties: In een 10-voudige cross-validatiestudie behaalde QDReSS consistent lagere kwantielverlieswaarden (betere out-of-sample voorspellende nauwkeurigheid) vergeleken met de concurrerende MMR-benadering over alle geteste kwantielen heen.
• Bevindingen van Effectdecompositie:
  • Ozon ($O_3$): Vertoonde een sterk, consistent niet-lineair negatief effect op $NO_2$ over alle kwantielen, wat de complexe chemische interacties bevestigt.
  • Verkeer: In tegenstelling tot initiële univariate lineaire aannames, bleek verkeersstroom een significant niet-lineair effect op $NO_2$ te hebben, met name bij hogere kwantielen (extreme vervuilingsgebeurtenissen).
  • Climatologische Variabelen: De effecten van temperatuur, windsnelheid en neerslag varieerden per kwantiel. Zo vertoonde neerslag een toenemende niet-lineaire kracht bij hogere kwantielen, terwijl de effecten van windsnelheid verschoven van lineair (bij lagere kwantielen) naar niet-lineair (bij hogere kwantielen).
  • Koolmonoxide (CO): Toonde een sterk lineair effect enkel bij het lagere kwantiel ($\tau=0.6$), en werd verwaarloosbaar bij hogere drempels.

Betekenis en Claims
De auteurs beweren dat QDReSS een noodzakelijke vooruitgang biedt in het modelleren van luchtvervuiling door datagestuurde beslissingen over de functionele vorm van covariaat-effecten bij specifieke vervuilingsdrempels mogelijk te maken. De studie benadrukt dat extreme vervuilingsgebeurtenissen (hoge kwantielen) anders worden gedreven door klimatologische variabelen en verkeersstructuren dan gemiddelde condities.

Het artikel betoogt dat deze bevindingen de noodzaak onderstrepen voor geavanceerde statistische modellen die korte-termijn besluitvorming ondersteunen. Door de niet-lineaire drijvers van drempeloverschrijdingen accuraat te modelleren, kunnen lokale autoriteiten effectiever maatregelen nemen om overtredingen van $NO_2$-concentratielimieten te beperken of te voorkomen. De auteurs merken bescheiden op dat hoewel deze studie zich richt op een enkele locatie om intrinsieke mechanismen te verduidelijken, het framework generaliseerbaar is naar andere steden en kan worden uitgebreid met ruimtelijke effecten of simultane kwantielschatting om kwantiel-crossing te voorkomen.