Rolled Gaussian process models for curves on manifolds

1. Probleemstelling

Moderne toepassingen genereren steeds vaker data waarbij de statistische eenheid een kromme is die op een niet-lineaire variëteit (manifold) $M$ ligt, zoals trajecten op een bol, ruimtes van covariantiematrices, of oriëntaties in de robotica. Hoewel Gaussische processen (GP) de standaard zijn voor het modelleren van krommen in Euclidische ruimtes ($\mathbb{R}^d$), zijn deze niet direct toepasbaar op niet-lineaire variëteiten.

De kern van het probleem is dat de definitie van een Gaussisch proces afhankelijk is van een lineaire vectorruimtestructuur (voor het definiëren van covariantie en middelen), die ontbreekt op een niet-lineaire variëteit. Bestaande methoden, zoals het projecteren op raakruimtes (tangent spaces) of het gebruik van stochastische differentiaalvergelijkingen (zoals intrinsieke Brownse beweging), hebben beperkingen:

• Projecties veroorzaken vervormingen (distorsies) van afstanden en hoeken.
• Stochastische modellen hebben vaak beperkte covariantiestructuren (Markov-eigenschap) en zijn computatief zwaar om te simuleren of te evalueren (likelihood-berekening).
• Er is een gebrek aan generatieve modellen die geschikt zijn voor statistische inferentie op discretely geobserveerde data.

2. Methodologie: Geroalde (Rolled) Gaussische Processen

De auteurs introduceren een generatief model voor krommen op een variëteit $M$ door gebruik te maken van het geometrische concept van "rollen" (rolling) en "wikkelen" (wrapping). Dit creëert een analogie van een Euclidisch Gaussisch proces op een gekromde ruimte.

De vier fundamentele afbeeldingen:
Het model maakt gebruik van een paar inverse afbeeldingen die krommen tussen de variëteit $M$ en een raakruimte $T_bM$ (in een vast punt $b \in M$) omzetten:

1. Ontrollen (Unrolling): Een kromme $\gamma$ op $M$ wordt afgebeeld op een kromme $\gamma^\downarrow$ in de raakruimte $T_bM$. Dit gebeurt via parallel transport langs de kromme, zodat de snelheidsvectoren continu worden "uitgerold" zonder slippen of draaien.
2. Rollen (Rolling): De inverse operatie; een kromme in de raakruimte wordt teruggeplaatst op de variëteit.
3. Ontwikkelen (Unwrapping): Een afwijking van een kromme $x$ ten opzichte van een referentiekromme $\gamma$ wordt afgebeeld als een vectorveld in de raakruimte. Dit wordt gedaan door het logaritme (inverse exponentiële afbeelding) te nemen en dit parallel te transporteren naar $T_bM$.
4. Wikkelen (Wrapping): De inverse van ontwikkelen; een vectorveld in de raakruimte wordt teruggeplaatst op de variëteit ten opzichte van een referentiekromme.

Het Model:

• Start met een Euclidisch Gaussisch proces $z(t) \sim GP(m, K)$ in $\mathbb{R}^d$ met gemiddelde $m$ en covariantie $K$.
• Transformeer dit naar een proces $y_b(t)$ in de raakruimte $T_bM$ via een orthonormale basis $U$.
• Definieer de "gerolde gemiddelde kromme" $\gamma$ als het rollen van het gemiddelde $m_b$ op $M$.
• Het uiteindelijke proces $x(t)$ op $M$ wordt verkregen door het "wikkelen" van $y_b(t)$ ten opzichte van $\gamma$.
• Het resultaat is een Rolled Gaussian Process (RGP), genoteerd als $x \sim RGP(m, K; b, U)$.

Een cruciaal kenmerk is dat het vectorveld langs de kromme $\gamma$ "covariant Gaussisch" is: de waarden op verschillende tijdstippen zijn gerelateerd via parallel transport, wat de intrinsieke geometrie van $M$ respecteert.

3. Belangrijkste Bijdragen

1. Definitie van het RGP: De auteurs definiëren een wiskundig rigoureus generatief model voor krommen op variëteiten dat compatibel is met de intrinsieke meetkunde. Het model is equivariant ten opzichte van de keuze van het raakpunt $b$ en de basis $U$.
2. Voorwaarde voor het Frechet-gemiddelde: Ze identificeren voorwaarden waaronder het gerolde gemiddelde $\gamma$ exact overeenkomt met het populatie Frechet-gemiddelde van het proces $x$. Dit geldt voor:
   • Hadamard-variëteiten (volledige, enkelvoudig samenhangende variëteiten met niet-positieve kromming).
   • Symmetrische ruimtes, mits de verdeling van $x(t)$ geodesische symmetrie bezit rond $\gamma(t)$.
3. Schatting en Convergentie:
   • Ze stellen eenvoudige schatters voor voor de parameters $m$ en $K$ door de data eerst "te ontwikkelen" (unwrapping) naar de raakruimte ten opzichte van de geschatte Frechet-gemiddelde kromme.
   • Ze bewijzen dat de steekproef-Frechet-gemiddelde kromme convergeert naar de populatie-kromme met de optimale snelheid $O_P(n^{-1/2})$ in de $C^1$-topologie. Dit is een verbetering ten opzichte van eerdere werken die alleen uniforme convergentie ($C^0$) bewezen.
   • De schatters voor het gemiddelde en de covariantie behouden deze optimale convergentiesnelheden, zelfs op niet-lineaire variëteiten.
4. Nieuwe wiskundige resultaten:
   • Een bewijs van $C^1$-convergentie voor steekproef-Frechet-gemiddelden.
   • Een nieuwe bovengrens voor de holonomie (holonomy bound) voor driehoeken op variëteiten, afhankelijk van de kromming, die essentieel is voor de bewijzen van de convergentiesnelheden.

4. Resultaten en Numerieke Voorbeelden

De auteurs valideren hun theorie en methoden via diverse voorbeelden:

• Unit Sphere ($S^2$): Demonstratie van het genereren en schatten van krommen op een bol.
• Symmetrische Positief Definite Matrices (SPD): Toepassing op de ruimte van covariantiematrices, een veelvoorkomend probleem in statistiek.
• Robotica (SO(3)): Een praktijkvoorbeeld met data van de oriëntatie van de end-effector van een robotarm.
  • De data bestond uit 60 trajecten, verdeeld over twee sessies.
  • Met het voorgestelde model werd een tweestalen test uitgevoerd om te controleren of de twee sessies uit dezelfde populatie kwamen.
  • De test (een variant op Hotelling's $T^2$ in de ontwikkelde coördinaten) leverde een p-waarde die sterk afweek van de nulhypothese, wat statistisch significant bewijs leverde dat de robotbewegingen in de twee sessies verschillend waren.

De numerieke simulaties tonen aan dat de schatters voor de parameters ($M_w, U_w, V_w$) consistent zijn en convergeren naar de ware waarden naarmate de steekproefgrootte $n$ toeneemt.

5. Betekenis en Conclusie

Dit artikel biedt een doorbraak in de statistische analyse van manifold-gebaseerde krommende data.

• Generativiteit: Het biedt een volledig generatief model, wat betekent dat het niet alleen beschrijvend is, maar ook nieuwe data kan simuleren en waarschijnlijkheidsmodellen kan opzetten.
• Rekenbaarheid: In tegenstelling tot methoden gebaseerd op stochastische differentiaalvergelijkingen, maakt de "rollen/wikkelen"-benadering het mogelijk om complexe inferentieproblemen (zoals maximum likelihood schatting en hypothesetoetsing) terug te brengen naar lineaire problemen in een raakruimte, wat rekenkundig veel efficiënter is.
• Theoretische Robuustheid: De afgeleide convergentiesnelheden en de bewijzen voor de eigenschappen van het Frechet-gemiddelde leggen een stevige theoretische basis voor toekomstig onderzoek in dit domein.

Kortom, de auteurs hebben een brug geslagen tussen de goed begrepen theorie van Euclidische Gaussische processen en de complexe wereld van niet-lineaire variëteiten, waardoor statistische inferentie op complexe krommende data nu systematisch en wiskundig onderbouwd mogelijk is.