Infinite-dimensional spherical-radial decomposition for probabilistic functions, with application to constrained optimal control and Gaussian process regression

Titel en Context

Het paper introduceert een nieuwe numerieke methode, genaamd hybrid infinite-dimensional SRD (hiSRD), om waarschijnlijkheidsfuncties te schatten die gedefinieerd zijn over oneindig-dimensionale elliptische verdelingen. De methode richt zich op het oplossen van optimalisatieproblemen onder onzekerheid, specifiek met kansbeperkingen (chance constraints), zoals die voorkomen in stochastische partiële differentiaalvergelijkingen (PDE's) en Gaussian Process (GP) regressie.

Het Probleem

Veel optimalisatieproblemen in economie, operaties research en engineering vereisen het minimaliseren van een objectief onder een probabilistische beperking:
$$\min_{u \in U_{ad}} J(u) \quad \text{zodat} \quad \phi(u) := P(g(u, \xi) \le 0) \ge p$$
Hierbij is $\xi$ een stochastische variabele in een Hilbertruimte (oneindige dimensie), vaak voorgesteld als een Gaussisch willekeurig veld via een Karhunen-Loève (KL) expansie:
$$\xi(x) = \bar{\xi}(x) + \sum_{k=1}^{\infty} \xi_k \phi_k(x)$$

Uitdagingen:

1. Oneindige dimensie: De stochastische variabele heeft oneindig veel vrijheidsgraden.
2. Bias door truncatie: Bestaande methoden zoals de Sferisch-Radiale Decompositie (SRD) vereisen het trunceren van de KL-expansie tot een eindige dimensie $K$. Dit introduceert een truncatie-bias: hoe kleiner $K$, hoe groter de bias.
3. Variance degradatie: Hoewel SRD de variantie verlaagt ten opzichte van standaard Monte Carlo (MC) in lage dimensies, blijkt uit analyse dat dit voordeel afneemt naarmate de dimensie $K$ toeneemt. Bij zeer hoge $K$ convergeert de variantie van SRD naar die van standaard MC, terwijl de bias nog steeds aanwezig is als $K$ niet oneindig groot is.
4. Differentieerbaarheid: Voor optimalisatie is het cruciaal dat de geschatte waarschijnlijkheidsfunctie differentieerbaar is om gradiënten te kunnen berekenen.

Methodologie: HiSRD

De auteurs ontwikkelen een hybride aanpak die de voordelen van SRD combineert met standaard Monte Carlo-sampling om zowel bias als hoge variantie te elimineren.

1. Subruimte Decompositie:
   De stochastische ruimte wordt opgesplitst in een eindig-dimensionale subruimte $H_K$ (de eerste $K$ KL-termen) en een restruimte $H_R$ (de oneindige rest).
   $$\xi = \bar{\xi} + \xi_K + \xi_R$$
   Waar $\xi_K$ wordt behandeld met SRD en $\xi_R$ met standaard Monte Carlo.

2. De Hybrid Schatter:
   In plaats van alleen langs stralen te integreren vanuit het gemiddelde (wat bias introduceert als het gemiddelde niet binnen de toelaatbare set ligt na truncatie), integreert hiSRD over de restruimte:
   $$\phi(u) \approx \frac{1}{N} \sum_{i=1}^N \max \left\{ 0, F_{\chi_K}(\rho_{out}(u, v_i, z_i)) - F_{\chi_K}(\rho_{in}(u, v_i, z_i)) \right\}$$
   Hierbij zijn:

   • $v_i$: Steekproeven op de eenheidsbol in de $K$-dimensionale subruimte (via SRD).
   • $z_i$: Steekproeven uit de restruimte $\xi_R$ (via Monte Carlo).
   • $\rho_{in}$ en $\rho_{out}$: De binnen- en uitgangsafstanden van de straal door de toelaatbare set, rekening houdend met de verschuiving door $z_i$.
   • $F_{\chi_K}$: De cumulatieve verdelingsfunctie van de Chi-verdeling.

3. Theoretische Analyse:

   • Bias: De methode is onbevooroordeeld (unbiased) ongeacht de keuze van $K$, omdat de restruimte expliciet wordt gemonteerd.
   • Variantie: De totale variantie wordt ontbonden in een component door de SRD ($V_{SRD}$) en een component door de restruimte ($V_{rem}$). De auteurs tonen aan dat $V_{rem}$ snel afneemt naarmate $K$ toeneemt, terwijl $V_{SRD}$ de variantieverlaging behoudt die kenmerkend is voor SRD.
   • Differentieerbaarheid: Er wordt bewezen dat de schatter differentieerbaar is onder specifieke kwalificaties (Rank-2 Constraint Qualification), wat gradiëntgebaseerde optimalisatie mogelijk maakt. De gradiëntformule houdt rekening met zowel het binnentreden als het verlaten van de toelaatbare set.

Belangrijkste Bijdragen

1. Generalisatie van SRD: De eerste generalisatie van SRD naar oneindig-dimensionale stochastische ruimten, wat een onbevooroordeelde schatter oplevert.
2. Theoretische Variantie-analyse: Een wiskundige analyse die aantoont hoe de variantieverlaging van SRD degradeert met toenemende dimensie ($O(1/\sqrt{K})$) en hoe de hybride methode dit oplost.
3. Differentieerbaarheid: Uitbreiding van differentieerbaarheidsresultaten naar de hybride setting, essentieel voor optimalisatie.
4. Numerieke Validatie: Toepassing op twee complexe scenario's:
   • Stochastische PDE-optimalisatie met gezamenlijke kansbeperkingen op de toestand.
   • Optimalisatie van kernelparameters in Gaussian Process regressie onder gezamenlijke kansbeperkingen.

Numerieke Resultaten

De methode is getest op twee voorbeelden:

1. PDE Optimalisatie (Elliptische PDE met onzekerheid):

   • Een stochastisch optimalisatieprobleem waarbij de randvoorwaarden onzeker zijn (Gaussisch veld).
   • Resultaat: HiSRD levert een onbevooroordeelde schatting van de waarschijnlijkheid, terwijl traditionele SRD met truncatie een significante bias vertoont bij grote aantallen samples (waar de bias de variantie domineert). HiSRD behoudt een lagere variantie dan standaard MC.

2. Gaussian Process Regression:

   • Optimalisatie van kernelhyperparameters (lengteschaal, variantie) zodat het posterior proces met een hoge waarschijnlijkheid binnen bepaalde grenzen blijft.
   • Resultaat: HiSRD toont een superieure Root Mean Squared Error (RMSE) vergeleken met zowel standaard MC als gefinancierde SRD. De combinatie met Quasi-Monte Carlo (QMC) op de eenheidsbol vermindert de variantie verder.
   • Optimalisatie: De methode slaagt erin om de kernelparameters te vinden die voldoen aan de kansbeperkingen, waarbij de algoritmen de variantie van het posterior proces verkleinen om aan de strengere beperkingen te voldoen.

Betekenis en Conclusie

Dit paper is significant omdat het een brug slaat tussen de efficiëntie van SRD (die gradiënten en lage variantie biedt) en de noodzaak om oneindig-dimensionale onzekerheid in PDE's en machine learning-modellen te modelleren.

• Oplossing voor het "Truncatie-Dilemma": Voorheen moest men kiezen tussen een lage dimensie (lage variantie, hoge bias) of een hoge dimensie (lage bias, hoge variantie/inefficiëntie). HiSRD elimineert de bias volledig en behoudt de variantieverlaging.
• Toepasbaarheid: De methode maakt het mogelijk om complexe, risicobewuste optimalisatieproblemen op te lossen die eerder onoplosbaar waren vanwege de dimensionale complexiteit of het gebrek aan differentieerbare schatters.
• Toekomst: De auteurs wijzen op potentie voor toepassing in hogere ruimtelijke dimensies en niet-lineaire mappingen.

Kortom, hiSRD biedt een robuust, wiskundig onderbouwd en numeriek efficiënt raamwerk voor probabilistische optimalisatie in oneindig-dimensionale ruimten.