Beyond Equidistant Assumptions: An Autoregressive Ordered Stereotype Model for Ordinal Time Series

Technische Samenvatting: Voorbij de aannames van equidistentie: Een autoregressief geordend stereotype model voor ordinale tijdreeksen

Probleemstelling
Ordinale tijdreeksgegevens, gekenmerkt door observaties die waarden aannemen in een eindige verzameling geordende categorieën, komen veelvuldig voor in velden zoals de gezondheidszorg, milieuwetenschappen en sport. Hoewel er diverse modelleringsbenaderingen bestaan—waaronder Markov-modellen, regressiemodellen en discrete ARMA-varianten—rusten deze vaak op restrictieve aannames. Specifiek gaan standaard ordinale regressiemodellen er vaak vanuit dat de afstand tussen aangrenzende categorieën equidistent is of dat de effecten van covariaten proportioneel zijn over alle drempelwaarden heen (zoals in het proportional odds model). De auteurs stellen dat deze aannames vaak onrealistisch zijn, met name in toepassingen waar de interpretatie van de "afstand" tussen toestanden betekenisvol is (bijv. de transitie van "wakker" naar "rustige slaap" kan een andere magnitude van verandering vertegenwoordigen dan transities tussen tussenliggende slaapfasen). Bestaande flexibele alternatieven, zoals het partial proportional odds model, brengen vaak een substantiële straf met zich mee wat betreft het aantal parameters. Het artikel adresseert de behoefte aan een parsimonisch maar flexibel framework dat seriële afhankelijkheid vastlegt zonder de aanname van equidistente categorieruimte op te leggen.

Methodologie
Het artikel stelt het Autoregressief Geordend Stereotype Model (AR-OSM) voor, een uitbreiding van het Ordered Stereotype Model (OSM) dat oorspronkelijk door Anderson (1984) werd geïntroduceerd voor dwarsdoorsneden.

• Modelformulering: Het AR-OSM incorporeert vertraagde waarden van de responsvariabele ($Y_{t-1}, \dots, Y_{t-p}$) als covariaten binnen het systematische component van de regressie. Voor een ordinale tijdreeks $Y_t$ met $q$ categorieën, wordt de log-odds van het behoren tot categorie $k$ versus de baseline categorie (1) gemodelleerd als:
  $$\log \left( \frac{P(Y_t = k | \mathcal{F}_{t-1})}{P(Y_t = 1 | \mathcal{F}_{t-1})} \right) = \alpha_k + \phi_k \sum_{j=1}^p \beta_j Y_{t-j} + \gamma^T X_t$$
  waarbij $\mathcal{F}_{t-1}$ de historie van het proces vertegenwoordigt.
• Kernkenmerk (Scoreparameters): Het model maakt gebruik van een set monotone "score"-parameters $\{\phi_1, \dots, \phi_q\}$ (geconstraineerd zodat $0 = \phi_1 \le \dots \le \phi_q = 1$). In tegen tegenstelling tot standaardmodellen die een vaste, equidistente tussenruimte veronderstellen, laten deze parameters de data de relatieve tussenruimte tussen categorieën bepalen. De regressiecoëfficiënten $\beta_j$ zijn gemeenschappelijk over de categorieën, maar worden geschaald door de categorie-specifieke scores $\phi_k$.
• Schatting: Parameter-schatting wordt uitgevoerd via Maximum Likelihood Estimation (MLE). Om de monotoniciteitsrestricties op de scoreparameters tijdens de optimalisatie te hanteren, maken de auteurs gebruik van een herparameterisatiestrategie (Fernández et al., 2016) bestaande uit logit-transformaties en exponentiële incrementen, waardoor het geconstraineerde probleem wordt omgezet in een ongeconstraineerd probleem.
• Modelselectie en Afhankelijkheid: Het artikel maakt gebruik van Ordinale Cohen's $\kappa$ en de partiële versie daarvan om de seriële afhankelijkheid te meten en de geschikte autoregressieve orde $p$ te selecteren. Deze metriek is aangepast van Weiß (2020) om rekening te houden met het ordinale karakter van de data, en dient als een analoog aan ACF en PACF in continue tijdreeksen.

Belangrijkste Bijdragen

1. Extensie naar Tijdreeksen: De primaire bijdrage is de formalisering van de OSM voor ordinale tijdreeksen, wat het AR-OSM framework creëert.
2. Relaxatie van Equidistentie: Het model vermijdt expliciet de aanname van equidistente categorieën. In plaats daarvan leidt het de latente tussenruimte tussen toestanden af uit de data, wat een realistischerere representatie biedt voor processen waarbij categorie-transities variëren in magnitude.
3. Parsimonie versus Flexibiliteit: Het AR-OSM biedt een compromis tussen het restrictieve proportional odds model en complexere, parameter-zware alternatieven. Het legt categorie-specifieke effecten vast via de scoreparameters zonder dat een aparte coëfficiëntvector vereist is voor elke covariaat-categorie interactie.
4. Integratie van Covariaten: In tegenstelling tot sommige pure Markoviaanse benaderingen voor ordinale reeksen, behoudt het AR-OSM de structuur van een regressiemodel, waardoor externe covariaten (bijv. hartslag, temperatuur) naast autoregressieve termen kunnen worden opgenomen.

Resultaten

• Simulatiestudie:
  • Prestaties van de Schatter: Simulaties over variërende steekproefgroottes ($T=100, 500, 1000$) toonden aan dat de schatters efficiënt zijn, waarbij de variantie afneemt naarmate de steekproefomvang toeneemt. Hoewel een kleine bias werd waargenomen in de scoreparameters ($\phi$) bij kleine steekproeven ($T=100$), nam deze bias af bij grotere steekproeven.
  • Seriële Afhankelijkheid: De studie onderzocht hoe de autoregressieve coëfficiënt ($\beta$) en de scoreparameters ($\phi$) de seriële afhankelijkheid beïnvloeden. De resultaten gaven aan dat het teken van $\beta$ de richting van de afhankelijkheid bepaalt (positief of negatief), terwijl de magnitude de sterkte controleert. De relatie tussen $\beta$ en seriële afhankelijkheid (gemeten met Ordinale Cohen's $\kappa$) bleek niet-lineair te zijn.
• Real-World Applicatie (Infant Slaapdata):
  • Het model werd toegepast op een dataset van slaaptoestanden van pasgeboren baby's (Wakker, Rustige Slaap, Indeterminate Slaap, Actieve Slaap) die elke 30 seconden werden geregistreerd.
  • Modelselectie: Analyse van de partiële Ordinale Cohen's $\kappa$ suggereerde een autoregressieve orde van 1 ($p=1$). Likelihood Ratio Tests (LRT) bevestigden dat de AR-OSM (Model 3) een significant betere fit bood dan een proportional odds adjacent-categories logit model (Model 5) en modellen die hartslag als covariaat bevatten.
  • Interpretatie van de Tussenruimte: De geschatte scoreparameters onthulden dat de latente afstand tussen "Wakker" en "Rustige Slaap" substantieel groter was dan de afstanden tussen de tussenliggende slaapfasen. Deze bevinding spreek de equidistantie-aanname van standaardmodellen tegen en ondersteunt de biologische plausibiliteit dat de transitie van wakkerheid naar slaap een meer uitgesproken verschuiving is dan de beweging tussen slaapfasen.
  • Voorspelling: In een 10-stappen-vooruit voorspellings-oefening presteerde de AR-OSM beter dan het proportional odds model, waarbij de werkelijke toestand met een hogere waarschijnlijkheid werd voorspeld bij elke stap.

Betekenis en Claims
Het artikel claimt dat de AR-OSM een flexibel en parsimonisch framework biedt voor het modelleren van ordinale tijdreeksen waarbij de aanname van equidistente categorieën onrealistisch is. Door de data de relatieve tussenruimte van de toestanden te laten bepalen, biedt het model een accuratere representatie van het onderliggende proces, zoals bewezen door de toepassing op de slaapdata. De auteurs stellen dat het model erin slaagt de seriële afhankelijkheid te vangen terwijl de ordinale structuur van de data wordt gerespecteerd.

Het artikel merkt bescheiden op dat hoewel de huidige formulering één enkele set scoreparameters veronderstelt die gedeeld worden over covariaten, toekomstig werk de mogelijkheid kan verkennen van "Partial Ordered Stereotype Models" waarbij scoreparameters per covariaat variëren. Daarnaast erkennen de auteurs de computationele uitdagingen die gepaard gaan met tijdvariërende parameters in dit framework, maar identificeren zij de extensie naar autoregressieve partiële modellen als een veelbelovende weg voor toekomstig onderzoek. Het werk wordt gepresenteerd als een methodologische vooruitgang die een gat vult tussen restrictieve proportionele modellen en overmatig complexe alternatieven.