Warped multifidelity Gaussian processes for data fusion of skewed environmental data

1. Probleemstelling

Milieumonitoringsnetwerken, zoals die beheerd worden door regionale agentschappen (bijvoorbeeld ARPA Lombardia in Italië), lijden vaak aan datahiaten (ontbrekende sequenties) en scheve dataverdelingen.

• De Uitdaging: Standaard methoden voor datafusie en imputatie, met name die gebaseerd op Gaussian Processes (GP), gaan ervan uit dat data en fouten een normale (Gaussische) verdeling volgen. MilieuvARIABLEN zoals windsnelheid, temperatuur en neerslag vertonen echter vaak aanzienlijke scheefheid.
• De Beperking van Bestaande Methoden:
  • Standaard Multifidelity Gaussian Processes (MFGP) gaan uit van lineaire relaties en normaliteit, wat leidt tot slechte voorspellende prestaties wanneer data scheef is.
  • Parametrische transformaties (bijvoorbeeld Box-Cox) worden vaak gebruikt om data te normaliseren, maar vereisen dat data-afhankelijke parameters worden geschat. In een multifidelity-context met meerdere databronnen (High-Fidelity en Low-Fidelity) kan het toepassen van verschillende transformaties op elke bron de relatie tussen hen verstoren, waardoor het principe van kwantielinvariantie wordt geschonden.
  • Bestaande methoden hebben moeite om lange ontbrekende sequenties (structurele missingness) effectief te herstellen, vooral wanneer de lengte van het gat de correlatielengteschaal van standaard GPs overschrijdt.

2. Methodologie: Warped Multifidelity Gaussian Process (WMFGP)

De auteurs stellen de Warped Multifidelity Gaussian Process (WMFGP) voor, een uitbreiding van het autoregressieve MFGP-raamwerk dat een niet-parametrische warping-functie integreert om scheefheid te behandelen.

Kernconcept

De methode werkt in een latente ruimte waar niet-normale data wordt getransformeerd naar een normale verdeling, het multifidelity-model wordt getraind, en de resultaten worden teruggetransformeerd naar de oorspronkelijke ruimte.

Belangrijkste Stappen:

1. Niet-Parametrische Warping (Transformatie):

   • In plaats van parametrische transformaties gebruikt de methode een datagedreven, niet-parametrische warping-functie ($g(\cdot)$).
   • Het schat de cumulatieve verdelingsfunctie (CDF) van de waargenomen data (zowel High-Fidelity $y_H$ als Low-Fidelity $y_L$) met behulp van kernel-dichtheidschatting.
   • De data wordt afgebeeld op een latente ruimte met behulp van de inverse van de standaard normale CDF ($\Phi^{-1}$):
     $$N_y = \Phi^{-1}(F_y(y))$$
   • Dit zorgt voor kwantielinvariantie: de relatieve volgoring van datapunten blijft behouden en de relatie tussen HF- en LF-data blijft consistent in de latente ruimte.

2. Multifidelity Modellering in Latente Ruimte:

   • Het autoregressieve MFGP-model wordt toegepast op de genormaliseerde latente data ($N_{y_H}, N_{y_L}$).
   • Het model gaat uit van een recursieve relatie: $u_H = \rho u_L + \delta + \epsilon$, waarbij $\rho$ de schaalparameter is en $\delta$ een discrepantieproces.
   • Omdat de data in de latente ruimte genormaliseerd is, worden de standaard GP-aannames (normaliteit van fouten) voldaan.

3. Terugtransformatie:

   • Voorspellingen (gemiddelde en variantie) die in de latente ruimte zijn gedaan, worden teruggetransformeerd naar de oorspronkelijke fysische ruimte met behulp van een inverse lookup-tabel afgeleid van de geschatte CDF's.
   • Deze stap reconstrueert de scheve verdelingskenmerken van de oorspronkelijke data.

4. Toepassingstrategie (Clustering):

   • Om ruimtelijke heterogeniteit aan te pakken, maken de auteurs gebruik van geconstrueerde k-means clustering op basis van breedtegraad, lengtegraad en hoogte.
   • Monitoringstations worden gegroepeerd in clusters. Binnen een cluster wordt een station met ontbrekende data (HF) gekoppeld aan een nabijgelegen, sterk gecorreleerd station (LF) om datafusie uit te voeren.

3. Belangrijkste Bijdragen

• Nieuw Algorithm: Introductie van WMFGP, dat succesvol niet-parametrische warping integreert met autoregressieve multifidelity Gaussian processes.
• Behandeling van Scheefheid: De methode adresseert expliciet de niet-normaliteit van milieudata zonder de correlatiestructuur tussen verschillende fideliteitsniveaus te schenden.
• Kwantielinvariantie: Door het gebruik van CDF-gebaseerde warping zorgt de methode ervoor dat de statistische relatie tussen High-Fidelity en Low-Fidelity data behouden blijft tijdens transformatie.
• Automatisering: In tegenstelling tot parametrische benaderingen die ad-hoc afstemming vereisen voor elke tijdreeks, kan WMFGP worden geautomatiseerd voor grote netwerken van diverse tijdreeksen.

4. Experimentele Resultaten

De studie valideert de methode via twee simulatie-experimenten en een real-world casestudy.

Experiment 1: Gerandomiseerde Missingness

• Opzet: Gesimuleerde windsnelheidsdata met variërende mate van scheefheid (met behulp van Closed Skew-Normal en Weibull-verdelingen) en willekeurige ontbrekende datapatronen.
• Vergelijking: WMFGP versus Standaard GP, Warped GP (WGP), Standaard MFGP en Box-Cox MFGP (BCMF).
• Vondsten:
  • WMFGP presteerde consistent beter dan alle andere modellen in termen van Mean Absolute Error (MAE), ongeacht het niveau van scheefheid.
  • Standaard MFGP en BCMF hadden moeite met hoge scheefheid. BCMF faalde vooral wanneer fouten werden gegenereerd uit Weibull-verdelingen, wat de gevoeligheid van parametrische transformaties voor dataverdeling benadrukt.
  • WMFGP toonde stabiliteit zelfs wanneer de verhouding van HF tot LF-data laag was (tot 30-35% HF-data).

Experiment 2: Structurele Missingness (Lange Gaten)

• Opzet: Gesimuleerde lange ontbrekende sequenties (24 tot 192 uur) in echte ARPA Lombardia windsnelheidsdata.
• Vergelijking: WMFGP versus GP, MFGP, Surrogaat (alleen LF) en Eenvoudige Imputatie (SI).
• Vondsten:
  • WMFGP behaalde de laagste MAE over alle gatlengtes heen.
  • Het verminderde de discrepantie tussen de voorspelling en de ware High-Fidelity data met ongeveer 50% in vergelijking met het ruwe verschil tussen LF- en HF-data.
  • In tegenstelling tot standaard interpolatie degradeerde de WMFGP-prestatie niet significant naarmate de gatlengte toenam, wat wijst op robuustheid voor langetermijn ontbrekende data.
  • Onzekerheid: De 95% voorspellingsintervallen hadden een dekkingkans van ~90-91%, wat wijst op betrouwbare onzekerheidskwantificatie.

Casestudy: ARPA Lombardia

• Toepassing: Invullen van windsnelheidshiaten in het regionale netwerk van Lombardije (120+ stations).
• Resultaat: De methode slaagde erin ontbrekende windsnelheidsdata te herstellen en seizoensgebonden en cyclische patronen vast te leggen die door eenvoudige interpolatie werden gemist. Dit is cruciaal voor luchtkwaliteitsbeheer, aangezien windsnelheid de verspreiding van verontreinigende stoffen drijft.

5. Betekenis en Impact

• Milieubeheer: Biedt een robuust hulpmiddel voor milieuagentschappen om datahiaten in monitoringsnetwerken op te vullen, wat leidt tot nauwkeurigere luchtkwaliteitsbeoordelingen en beter onderbouwde beleidsbeslissingen.
• Schaalbaarheid: De methode is computatie-efficiënt en automatiseerbaar, waardoor deze geschikt is voor grootschalige milieudatasets met duizenden tijdreeksen.
• Theoretische Vooruitgang: Overbrugt de kloof tussen multifidelity-modellering en het behandelen van niet-normale data, en biedt een oplossing waar traditionele GP-aannames falen.
• Toekomstige Richtingen: De auteurs merken op dat hoewel het huidige raamwerk zich richt op temporele correlatie, toekomstig werk ruimtelijke dimensies zou kunnen integreren (bijvoorbeeld Lidar-integratie voor windparken), hoewel dit de computationele complexiteit zou verhogen.

Samenvattend presenteert het artikel een aanzienlijke vooruitgang in milieudatafusie door aan te tonen dat niet-parametrische warping multifidelity Gaussian processes in staat stelt om effectief om te gaan met scheve data, en dat deze methode bestaande methoden overtreft in zowel nauwkeurigheid als robuustheid bij het vullen van kritieke datahiaten.