Bayesian structured additive quantile regression for inflated bounded data

Titel

Bayesiaanse gestructureerde additieve kwantielregressie voor geinflatieerde begrenste data.

1. Probleemstelling

In vele toegepaste vakgebieden (zoals geneeskunde, biologie en sociologie) komen continue data voor op het eenheidsinterval $[0, 1]$. Deze data vertonen vaak een niet-verwaarloosbaar aantal waarnemingen precies op de grenzen (0 en/of 1), een fenomeen dat bekend staat als "zero-inflatie" en/of "one-inflatie".

Bestaande methoden voor dergelijke data hebben beperkingen:

• Twee-onderdeel modellen: Traditionele benaderingen modelleren de discrete component (de kans op 0 of 1) en de continue component (de verdeling tussen 0 en 1) vaak gescheiden, vaak gebaseerd op de gemiddelde respons (bijv. beta-regressie).
• Beperkte flexibiliteit: Veel bestaande kwantielregressie-modellen voor begrenste data zijn beperkt tot lineaire voorspellers en kunnen niet tegelijkertijd omgaan met inflatie aan beide grenzen (0 en 1) terwijl ze complexe effecten zoals ruimtelijke patronen, willekeurige effecten of niet-lineaire relaties modelleren.
• Aannames: Parametrische modellen maken vaak sterke aannames over de onderliggende verdeling, wat de interpretatie van heterogeniteit en asymmetrie beperkt.

Het doel van dit onderzoek is een flexibel raamwerk te ontwikkelen dat de volledige conditionele verdeling van geinflatieerde, begrenste continue data kan modelleren zonder sterke parametrische aannames over de vorm van de verdeling.

2. Methodologie

De auteurs stellen een Bayesiaanse semiparametrische gestructureerde additieve kwantielregressie voor, geïmplementeerd binnen een twee-onderdeel modelkader.

A. Het Twee-onderdeel Kader

Het model splitst de responsvariabele $y_i \in [0, 1]$ in twee componenten:

1. Discrete component: Modelleren van de kansen op inflatie ($p_{0i} = P(y_i=0)$ en $p_{1i} = P(y_i=1)$).
2. Continue component: Modelleren van de conditionele kwantielen van de respons, gegeven dat $y_i \in (0, 1)$.

B. Gestructureerde Additieve Voorspellers

In plaats van eenvoudige lineaire modellen, worden voor beide componenten gestructureerde additieve predictors gebruikt. Dit maakt de opname van diverse effecttypes mogelijk:

• Lineaire effecten.
• Niet-lineaire (gladde) effecten van covariaten (via splines).
• Ruimtelijke effecten (via Gaussian Markov Random Fields).
• Willekeurige effecten (random effects) voor gegroepeerde data.
• Variërende coefficienten.

De voorspellers worden gelinkt via linkfuncties (bijv. logit voor kansen en logit voor de kwantielen van de getransformeerde continue respons).

C. Bayesiaanse Inferentie en ALD

Voor de continue component wordt geen volledige verdeling aangenomen. In plaats daarvan wordt gebruikgemaakt van de Asymmetrische Laplace Verdeling (ALD) als werkmodel.

• De ALD heeft een locatie-parameter die overeenkomt met het gewenste kwantiel $\tau$.
• Voor Bayesiaanse inferentie wordt de locatie-schaal mengrepresentatie van de ALD gebruikt. Hierdoor kan het model worden herschreven als een conditioneel Gaussisch regressiemodel met offset- en gewichtstermen.
• Dit vereenvoudigt de posterior berekening aanzienlijk.

D. Schattingsprocedure

• MCMC: Posterior steekproeven worden getrokken via Markov Chain Monte Carlo (MCMC) algoritmen.
• Software: De implementatie gebeurt in Liesel, een probabilistisch programmeerframework voor semiparametrische regressie.
• Algoritmen: Er worden Metropolis-Hastings-stappen gebruikt voor regressiecoëfficiënten (met automatisch differentiatie via JAX) en Gibbs-updates voor schattingsvarianties en latent variabelen ($w_i$).

3. Belangrijkste Bijdragen

1. Uitbreiding naar beide grenzen: Het is het eerste kwantielregressiemodel dat specifiek is ontworpen voor data met inflatie aan beide grenzen (0 en 1) binnen een gestructureerd additief kader.
2. Flexibiliteit: Het model combineert kwantielregressie met gestructureerde additieve regressie, waardoor complexe niet-lineaire, ruimtelijke en willekeurige effecten kunnen worden opgenomen voor zowel de inflatie-kansen als de kwantielen van de continue deelverdeling.
3. Bayesiaanse Implementatie: Een robuuste Bayesiaanse schattingsprocedure die gebruikmaakt van de ALD-mengrepresentatie, geïmplementeerd in een modern probabilistisch programmeerframework (Liesel).
4. Geen parametrische veronderstellingen: Door te focussen op kwantielen in plaats van de gemiddelde verdeling, worden aannames over de vorm van de onderliggende continue verdeling verminderd.

4. Resultaten

A. Simulatiestudies

De auteurs voerden simulaties uit om de prestaties te evalueren:

• Schatting: Het model levert nauwkeurige schattingen voor zowel de discrete als de continue componenten, zelfs bij matige steekproefgroottes.
• Robuustheid: Zelfs bij misspecificatie van de likelihood (wanneer de data niet uit de ALD komen, maar uit een GJS-t-verdeling), blijven de RMSE's (Root Mean Square Errors) laag en de dekking van betrouwbaarheidsintervallen redelijk goed, hoewel de dekking bij extreme kwantielen iets afneemt bij misspecificatie.
• Schaal: De prestaties verbeteren met toenemende steekproefgrootte en een hogere frequentie van grenswaarnemingen.

B. Toepassing 1: Verkeersdoden in Brazilië

• Data: Het aandeel verkeersdoden per gemeente (5.499 observaties), met ~38% nullen.
• Vindingen:
  • Niet-lineaire effecten: Het effect van bevolkingsgrootte op het sterftecijfer is negatief en niet-lineair; grotere gemeenten hebben een lager sterftecijfer, met name bij de overgang van zeer kleine naar middelgrote gemeenten.
  • Ruimtelijke patronen: Er zijn duidelijke regionale verschillen. Gemeenten in het noorden (bijv. Acre, Roraima) hebben een hoger aandeel verkeersdoden (geconditioneerd op het feit dat er doden zijn), terwijl de zuidoostelijke regio (o.a. São Paulo) lagere waarden toont.
  • Vergelijking: In vergelijking met een zero-inflated beta-regressie (die alleen het gemiddelde modelleert), biedt de kwantielregressie inzicht in hoe covariaten het effect hebben op de verdeling van de sterfte (bijv. het effect van bevolkingsgrootte is sterker bij hoge kwantielen).

C. Toepassing 2: Spraakintelligibiliteit bij Cochleaire Implantaten

• Data: Het percentage correct herkende morfemen (0-100%), met veel waarnemingen op 0 (niet begrepen) en 1 (volledig begrepen).
• Vindingen:
  • Random effects: Het model captureert succesvol subject-specifieke variabiliteit.
  • Algoritmen en SNR: De prestatie van geluidsverwerking-algoritmen varieert afhankelijk van het signaal-ruisverhouding (SNR) en het kwantiel.
  • Nuance: Terwijl het gemiddelde model (beta-regressie) algemene trends toont, onthult de kwantielregressie dat bepaalde algoritmen (bijv. Algoritme B) beter presteren bij moeilijke condities (lage SNR) voor de moeilijkste zinnen (lage kwantielen), terwijl andere (Algoritme A) beter zijn bij gunstige condities voor perfecte herkenning.

5. Betekenis en Conclusie

Dit artikel introduceert een krachtige en flexibele methode voor de analyse van begrenste continue data met inflatie. De belangrijkste waarde ligt in de mogelijkheid om heterogeniteit in de respons te analyseren die door traditionele gemiddelde-modellen wordt gemist.

• Methodologische vooruitgang: Het combineert de voordelen van kwantielregressie (robuustheid, volledige distributie-inzicht) met de flexibiliteit van gestructureerde additieve modellen (ruimtelijk, niet-lineair, random effects).
• Praktische relevantie: De toepassing op real-world data toont aan dat covariaateffecten vaak variëren over het bereik van de respons (bijv. bevolkingsgrootte heeft een ander effect op gemeenten met veel doden dan op die met weinig doden).
• Toekomstperspectief: De auteurs wijzen erop dat de methode natuurlijk kan worden uitgebreid naar positieve continue data met zero-inflatie (interval $[0, \infty)$) door de linkfunctie aan te passen.

Samenvattend biedt deze benadering onderzoekers een geavanceerd instrument om complexe, begrenste data te analyseren waarbij zowel de kans op extreme waarden als de verdeling van de tussenliggende waarden van belang zijn.