Coarse-to-fine spatial GLMM for scalable prediction and multiscale analysis

1. Probleemstelling

Ruimtelijke Generalized Linear Mixed Models (GLMM's) worden veel gebruikt voor het analyseren van niet-Gaussische ruimtelijke data (bijvoorbeeld tellingen, binaire responsen) in gebieden zoals epidemiologie en ecologie. Echter, bestaande methoden staan voor drie kritieke beperkingen:

• Schaalbaarheid en Rekenkosten: Traditionele Gaussian Process (GP) benaderingen hebben een rekencomplexiteit van $O(N^3)$, wat ze onuitvoerbaar maakt voor grote datasets. Hoewel basisfunctie-benaderingen (bijvoorbeeld SPDE, splines) de snelheid verbeteren, vereisen ze dat het aantal basisfuncties ($L$) a priori wordt gespecificeerd.
• Het Degeneratieprobleem: Bij basisfunctiemodellen is het kiezen van $L$ een afweging. Een klein $L$ leidt tot overgladmaking en slechte voorspellende nauwkeurigheid, terwijl een groot $L$ de rekenkosten verhoogt en numerieke instabiliteit (degeneratie) kan veroorzaken, met name bij SPDE-gebaseerde methoden. Aangezien de optimale $L$ afhangt van de onbekende complexiteit van het onderliggende ruimtelijke proces, is het bepalen ervan moeilijk.
• Gebrek aan Multischaal Decompositie: Conventionele ruimtelijke GLMM's modelleren het ruimtelijke proces doorgaans als een enkel entiteit. Ze worstelen met het ontleden van ruimtelijke patronen in onderscheiden schalen (bijvoorbeeld grootschalige trends versus fijnmazige lokale variaties), wat cruciaal is voor het begrijpen van complexe ruimtelijke heterogeniteit.
• Integratie met Machine Learning: Likelihood-gebaseerde inferentie in standaard ruimtelijke GLMM's maakt het moeilijk om deze te integreren in moderne validatie-verlies-gedreven optimalisatiepijplijnen die worden gebruikt in machine learning.

2. Methodologie: CF-GLMM

De auteurs stellen het Coarse-to-Fine Spatial Generalized Linear Mixed Model (CF-GLMM) voor, een uitbreiding van het Coarse-to-Fine Spatial Modeling (CFSM) raamwerk dat oorspronkelijk is ontworpen voor Gaussische data.

Kernarchitectuur

Het model stelt het latente ruimtelijke proces $z(s)$ voor als een aggregatie van schaal-specifieke lokale modellen:
$$z_{1:R}(s) = \sum_{r=1}^{R} z_r(s)$$
waarbij $R$ het aantal schalen is, en elke $z_r(s)$ een proces vertegenwoordigt op een specifieke ruimtelijke bandbreedte $h_r$. De bandbreedten nemen geometrisch af ($h_r = \alpha h_{r-1}$), bewegend van grove naar fijne schalen.

Modelspecificatie

• Responsverdeling: Het model komt tegemoet aan verdelingen van de exponentiële familie, met name gericht op Poisson (tellingdata) en Bernoulli (binaire data).
• Linkfunctie: Gebruikt standaard linkfuncties (bijvoorbeeld log-link voor Poisson, logit-link voor Bernoulli).
• Lokale Modellering: Voor elke schaal $r$ wordt het studiegebied gepartitioneerd in $C_r$ lokale centra (via k-means clustering). Een lokaal model wordt bij elk centrum gefit, waarbij lokale gemiddelden en varianties worden geschat. Deze lokale schattingen worden geaggregeerd met behulp van een gewogen product van kansdichtheidsfuncties om het enkel-schaal proces $z_r(s)$ te vormen.

Optimalisatiealgoritme

In tegenstelling tot Bayesiaanse of likelihood-gebaseerde methoden die expliciete priors vereisen, gebruikt CF-GLMM Holdout Validatie (HV) voor optimalisatie:

1. Sequentiële Schaal Toevoeging: Het algoritme begint met $R=1$ (grofste schaal). Het voegt sequentieel fijnere schalen toe ($R=2, 3, \dots$) door het nieuwe schaalcomponent $z_r(s)$ te schatten op de residuen van de vorige schalen.
2. Minimalisatie van Validatieverlies: Bij elke stap wordt het model getraind op een subset van data en gevalideerd op een holdout-set. Het aantal schalen $R$ wordt alleen verhoogd als het deviatieverlies (Poisson of Logistiek verlies) op de validatieset afneemt.
3. Automatische Afstelling: Het proces stopt wanneer het toevoegen van meer schalen het validatieverlies niet langer verlaagt. Dit bepaalt automatisch het optimale aantal schalen ($R$) en het totale aantal lokale modellen (basisfuncties), waardoor de noodzaak voor handmatige afstelling van $L$ wordt geëlimineerd.
4. Iteratieve Weging: Het algoritme gebruikt een Iteratively Reweighted Least Squares (IRLS) aanpak, waarbij gewichten worden bijgewerkt op basis van de huidige afgeleiden van de linkfunctie om het gewogen kwadratische verlies te minimaliseren.

Rekencomplexiteit

• De methode vermijdt het inverteren van grote covariantiematrices.
• De complexiteit is $O(N)$ (lineair met de steekproefgrootte) omdat het onafhankelijke lokale modellen aggregeert.
• Het algoritme is van nature paralleliseerbaar.

3. Belangrijkste Bijdragen

1. Uitbreiding naar Niet-Gaussische Data: Succesvolle uitbreiding van het CFSM-raamwerk van Gaussische responsen naar Generalized Linear Mixed Models (GLMM's), waardoor de analyse van telling- en binaire ruimtelijke data mogelijk wordt.
2. Oplossen van het Degeneratieprobleem: Door het aantal schalen ($R$) en lokale modellen te optimaliseren via validatieverlies, vermijdt de methode degeneratieproblemen die geassocieerd zijn met vaste, door de gebruiker gespecificeerde aantallen basisfuncties in traditionele SPDE- of spline-modellen.
3. Multischaal Kenmerkextractie: Het model ontbindt ruimtelijke processen inherent in onderscheiden schaal-specifieke componenten ($z_1, \dots, z_R$), waardoor de afzonderlijke identificatie van grootschalige trends en fijnmazige lokale variaties mogelijk is.
4. Machine Learning Compatibiliteit: De afhankelijkheid van validatie-gebaseerde optimalisatie (in plaats van Bayesiaanse priors) maakt de methode eenvoudig integreerbaar met moderne machine learning-pijplijnen.
5. Software Implementatie: De methode is geïmplementeerd in het R-pakket spCF.

4. Resultaten

De auteurs evalueerden de methode via Monte Carlo-experimenten en een toepassing in de echte wereld.

Monte Carlo-experimenten (Ruimtelijke Voorspelling)

• Nauwkeurigheid: In simulaties met Poisson-tellingdata presteerde CF-GLMM consequent beter dan standaard GLM, GAM (op splines gebaseerd) en SPDE-gebaseerde methoden (INLA), met name voor grote steekproefgroottes ($N \ge 6.000$).
• Schaalbaarheid: Terwijl de SPDE-nauwkeurigheid degradeerde naarmate $N$ toenam (door onvoldoende basisfuncties om fijnmazige patronen vast te leggen), behield CF-GLMM de nauwkeurigheid of verbeterde deze naarmate $N$ groeide.
• Berekeningstijd: CF-GLMM toonde lineaire schaling. Voor $N=20.000$ duurde het ongeveer 65 seconden, aanzienlijk sneller dan volledige GP-methoden en concurrerend met schaalbare benaderingen.
• Binaire Data: Vergelijkbare resultaten werden waargenomen voor binaire data, waarbij CF-GLMM de numerieke instabiliteit (singuliere RMSE) die bij SPDE werd gezien voor kleine tot middelgrote steekproeven, vermijdt.

Multischaal Analyse

• Kenmerkherstel: In experimenten ontworpen om drie onderscheiden ruimtelijke schalen te herstellen (groot, gemiddeld, klein), bereikte CF-GLMM hogere correlatiecoëfficiënten met de ware ruimtelijke patronen vergeleken met Moran Eigenvector Maps (MEM), een standaard multischaal methode.
• Aanpasbaarheid: CF-GLMM leerde succesvol het juiste aantal schalen, terwijl MEM een vast aantal eigenvectoren vereiste, wat vaak leidde tot onderfitting van fijnmazige details.

Toepassing in de Echte Wereld: COVID-19 in Tokio

• Data: Geanalyseerde infectietellingen in 500m-roosters over Tokio voor twee periodes (Vroeg 2020 en Laat 2021).
• Voorspellende Prestaties: CF-GLMM toonde superieure modelpassing (lagere deviatie, hogere pseudo-$R^2$) vergeleken met GLM.
• Ruimtelijke Patronen:
  • GLM: Produceerde gladde, gegeneraliseerde hotspots.
  • CF-GLMM: Onthulde gedetailleerde "streeppatronen" langs spoorlijnen en gelokaliseerde hotspots, waardoor de invloed van transportnetwerken op de verspreiding van het virus werd vastgelegd.
• Kwantificering van Onzekerheid: CF-GLMM bood realistischere onzekerheidsschattingen (Variatiecoëfficiënt), terwijl GLM de onzekerheid onderschatte door ruimtelijke afhankelijkheid te negeren.
• Schaalverschuiving: De multischaal decompositie onthulde een verschuiving in transmissiedynamiek: de vroege periode werd gedomineerd door kleinschalige, gelokaliseerde uitbraken in het stadscentrum, terwijl de late periode een toename toonde van grootschalige dispersie naar voorsteden.

5. Betekenis

De CF-GLMM vertegenwoordigt een paradigma-verschuiving in ruimtelijke statistiek door de kloof tussen traditionele geostatistiek en moderne machine learning te overbruggen.

• Praktische Nut: Het biedt een robuust, schaalbaar hulpmiddel voor het analyseren van massale ruimtelijke datasets (bijvoorbeeld ziektebewaking, milieumonitoring) zonder de "afstelmare" van het selecteren van het aantal basisfuncties.
• Interpreteerbaarheid: Het vermogen om ruimtelijke processen te ontleden in interpreteerbare schaal-specifieke componenten biedt nieuwe inzichten in de mechanismen die ruimtelijke heterogeniteit aandrijven.
• Toekomstpotentieel: Het raamwerk is zeer uitbreidbaar en biedt een fundament voor spatiotemporale modellering, ruimtelijk variërende coëfficiënten en integratie met deep learning-architecturen voor verbeterde voorspellende prestaties.

Kortom, het artikel presenteert een rekenkundig efficiënt, flexibel en accuraat raamwerk voor ruimtelijke GLMM's dat de schaalbaarheids- en degeneratiebeperkingen van bestaande methoden overwint, terwijl het unieke capaciteiten biedt voor multischaal analyse.