💻 computer science

Empirical risk minimization for risk-neutral composite optimal control with applications to bang-bang control

Dit artikel introduceert een Monte Carlo-benadering voor risiconeutrale samengestelde optimale besturingsproblemen met niet-gladde doelfuncties, waarbij de asymptotische consistentie en benodigde steekproefgrootte worden onderzocht en de methode succesvol wordt toegepast op bang-bang-type besturingsproblemen met behulp van een conditionele gradiëntmethode.

Oorspronkelijke auteurs: Johannes Milz, Daniel Walter

Gepubliceerd 2026-03-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Johannes Milz, Daniel Walter

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een groot, complex puzzelspel speelt, maar er is een probleem: je hebt geen idee hoe de stukjes precies passen omdat de regels van het spel voortdurend veranderen door een onvoorspelbare, willekeurige factor. Misschien is het weer dat verandert, of de vraag naar energie, of de kwaliteit van het materiaal. Je wilt de beste oplossing vinden, maar die "beste" oplossing hangt af van al die onzekerheden.

Dit is precies het probleem waar dit wetenschappelijke artikel over gaat. Het gaat over het vinden van de perfecte regeling voor systemen (zoals het sturen van windmolens of het zuiveren van grondwater) als er veel onzekerheid in het spel zit.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Grote Probleem: De "Onzekere Chef"

Stel je voor dat je de chef bent van een restaurant dat 24/7 open is. Je moet elke dag beslissen hoeveel ingrediënten je koopt en hoe je de koks inzet. Maar je hebt een "onzekere chef" (de wiskundige term is stochastiek of onzekerheid). Soms is er een storm, soms is er een feestje, en de vraag verandert daardoor.

Je wilt de kosten minimaliseren en de kwaliteit maximaliseren, maar je kunt niet vooruitkijken. Je moet een beslissing nemen die gemiddeld gezien het beste werkt, ongeacht wat er morgen gebeurt. Dit noemen de auteurs een risiconeutraal optimalisatieprobleem.

2. De Oplossing: Het "Gokken met Steekproeven"

Hoe los je dit op? Je kunt niet alle mogelijke scenario's in de wereld uitrekenen (dat zijn er oneindig veel). In plaats daarvan doen de auteurs iets slim: Sample Average Approximation (SAA).

Stel je voor dat je in plaats van te proberen elke mogelijke storm te voorspellen, je gewoon 1000 keer een willekeurige "toekomst" bedenkt (bijvoorbeeld: "Stel, morgen is het storm", "Stel, morgen is het zonnig", etc.). Je speelt je restaurantplan 1000 keer door met deze willekeurige scenario's en kijkt wat het gemiddelde resultaat is.

De theorie: Als je maar genoeg van deze willekeurige scenario's (steekproeven) neemt, komt je gemiddelde resultaat steeds dichter bij de "ware" oplossing.
De vraag: Hoeveel scenario's heb je precies nodig? Moet je 10 doen? 10.000? 1 miljoen?

3. De Nieuwe Wiskunde: De "Dikke Boek" en de "Strakke Knoop"

Het artikel doet twee belangrijke dingen:

Het bewijst dat het werkt: Ze laten wiskundig zien dat als je genoeg steekproeven neemt, je oplossing echt naar de perfecte oplossing toegaat. Het is alsof ze bewijzen dat als je vaak genoeg gooit met een dobbelsteen, je gemiddelde uitkomst steeds dichter bij de echte kansverdeling komt.
Ze geven een recept voor de hoeveelheid: Ze geven een formule die zegt: "Als je systeem X is, heb je Y aantal steekproeven nodig om fouten kleiner dan Z te houden."

De creatieve twist:
Vaak zijn deze problemen heel moeilijk omdat ze "ruw" zijn (wiskundig: niet-glad). Stel je voor dat je een bal probeert te laten rollen naar het laagste punt in een landschap.

Bij een normaal landschap (een gladde kom) rolt de bal makkelijk naar beneden.
Bij dit probleem is het landschap vol met scherpe randen en hoeken (zoals een bang-bang systeem). De regelaar moet ofwel "vol gas" geven ofwel "vol remmen", met niets daartussenin. Denk aan een lichtschakelaar: aan of uit, nooit half aan.

De auteurs laten zien hoe je deze "ruwe" landschappen toch kunt navigeren met je steekproeven. Ze gebruiken een slimme techniek (de conditional gradient method) die de bal voorzichtig over de scherpe randen leidt zonder dat hij vastloopt.

4. De Toepassing: Van Windmolens tot Grondwater

Ze testen hun theorie op twee echte situaties:

Lineair: Een situatie waar de invloed rechtlijnig is (als je meer doet, gebeurt er meer).
Bilineair: Een situatie waar dingen elkaar beïnvloeden op een complexere manier (zoals wind die op een turbine slaat, waarbij de wind zelf ook door de turbine wordt beïnvloed).

In beide gevallen bleek dat hun methode werkt. Ze lieten zien dat als je de juiste hoeveelheid "toekomstscenario's" berekent, je een regeling kunt vinden die:

De kosten laag houdt.
De onzekerheid goed opvangt.
Vaak leidt tot een "bang-bang" oplossing: simpel, krachtig en duidelijk (ofwel aan, ofwel uit), wat in de praktijk vaak het meest efficiënt is.

Samenvattend: Wat betekent dit voor jou?

Dit artikel is als een reisinstructie voor een reis door een wolkendek.

Vroeger wisten we niet hoe we door de onzekerheid moesten navigeren zonder vast te lopen.
Nu hebben deze onderzoekers een GPS ontwikkeld die precies zegt: "Als je 500 keer een route probeert, kom je binnen 1% van de perfecte bestemming."
Ze laten ook zien hoe je een auto kunt besturen die schokkerig rijdt (de ruwe, niet-gladde problemen) zonder dat je de weg kwijtraakt.

Het is een stap voorwaarts in het maken van slimme, veilige en efficiënte systemen voor de wereld van morgen, of het nu gaat om energie, water of medische apparatuur, zelfs als de toekomst onzeker is.

Titel en Context

Titel: Empirisch Risicominimalisatie voor Risiconeutrale Compositie Optimalisatie met Toepassingen op Bang-Bang Controle
Auteurs: Johannes Milz en Daniel Walter
Datum: 2 maart 2026 (gepubliceerd op arXiv: 26 feb 2026)

Dit artikel onderzoekt numerieke methoden voor het oplossen van risiconeutrale compositie optimalisatieproblemen onder onzekerheid, met een specifieke focus op problemen geconstrueerd door partiële differentiaalvergelijkingen (PDE's). De kern van het werk ligt in het analyseren van de Standaard Steekproefgemiddelde Benadering (SAA - Sample Average Approximation) voor niet-gladde, potentieel niet-convexe doelfuncties.

1. Het Probleem

De auteurs beschouwen een klasse van optimalisatieproblemen van de vorm:
$\min_{u \in U} G(u) := F(Bu) + \psi(u)$
waarbij:

$U$ een Hilbertruimte is (de controle-ruimte).
$B: U \to W$ een lineaire, compacte operator is tussen Hilbertruimte $U$ en Banachruimte $W$ .
$F(w) = \mathbb{E}[f(w, \xi)]$ een verwachtingswaarde is van een integrand $f$ die afhankelijk is van een stochastische variabele $\xi$ .
$\psi: U \to [0, \infty]$ een convexe, maar mogelijk niet-gladde regularisatiefunctie is (bijvoorbeeld de $L^1$ -norm).

Specifieke Toepassing:
Het artikel richt zich op PDE-geconstrueerde optimalisatieproblemen met onzekerheid, zoals:
$\min_{u \in L^2(D)} \mathbb{E}[J(S(Bu, \xi))] + \psi(u)$
waarbij $S(Bu, \xi)$ de oplossing is van een PDE met willekeurige invoer $\xi$ . De keuze van $\psi(u) = \beta \|u\|_{L^1} + I_{U_{ad}}(u)$ (waarbij $I$ de indicatorfunctie is) bevordert bang-bang-oplossingen, waarbij de optimale controle $u^*(x)$ bijna overal waarden aanneemt uit de set $\{-1, 0, 1\}$ . Dit is cruciaal voor mixed-integer optimalisatieproblemen die zijn gerelaxeerd.

2. Methodologie

Om de verwachtingswaarde $\mathbb{E}[\cdot]$ numeriek te benaderen, gebruiken de auteurs de Sample Average Approximation (SAA) methode (ook wel Empirical Risk Minimization genoemd).

Benadering: De verwachtingswaarde wordt vervangen door het gemiddelde over $N$ onafhankelijke steekproeven $\xi_1, \dots, \xi_N$ :
$\hat{F}_N(w) = \frac{1}{N} \sum_{i=1}^N f(w, \xi_i)$
Het SAA-probleem ( $P_N$ ):
$\min_{u \in U} \hat{G}_N(u) := \hat{F}_N(Bu) + \psi(u)$

De analyse combineert technieken uit:

Stochastische optimalisatie: Wet van de grote getallen en concentratie-ongelijkheden.
Functionaalanalyse: Gebruik van compacte inbeddingen en eigenschappen van de operator $B$ .
Combinatorische meetkunde: Gebruik van dekkingstallen (covering numbers) van de beeldruimte van het domein van $\psi$ onder $B$ om de complexiteit van het probleem te kwantificeren.

3. Belangrijkste Bijdragen

De auteurs leveren drie hoofdbijdragen:

A. Asymptotische Consistentie

Voor voldoende gladde functies $F$ wordt bewezen dat:

De optimale waarden, oplossingen en kritieke punten van het SAA-probleem ( $P_N$ ) asymptotisch consistent zijn met die van het ware probleem ( $P$ ).
Dit betekent dat naarmate de steekproefgrootte $N \to \infty$ , de SAA-oplossingen met waarschijnlijkheid 1 (w.p. 1) convergeren naar de ware oplossing.

B. Niet-asymptotische Steekproefgrootte Schattingen (Niet-Convex)

Voor het algemene (niet-convexe) geval worden verwachtingsgrenzen afgeleid voor het "gap functional" $\Psi(u)$ (een maat voor hoe ver een punt verwijderd is van een kritiek punt).

Er wordt een relatie gelegd tussen de steekproefgrootte $N$ , het gewenste nauwkeurigheidsniveau $\varepsilon$ , en het dekkingstal $N(\nu; B(D(\psi)))$ van de compacte verzameling.
De schatting toont aan dat $N$ moet groeien met $O(\varepsilon^{-2} \ln(\text{dekkingstal}))$ om een bepaalde nauwkeurigheid te garanderen.

C. Superconvergentie voor Convexe Problemen

Voor het geval dat de integrand convex is (en dus het totale probleem convex is), worden sterkere resultaten bewezen zonder de noodzaak van compactheid van $B$ :

Als een groei-voorwaarde (growth condition) geldt voor de partiële linearisatie van de doelfunctie rond de optimale oplossing $u^*$ , dan convergeren de SAA-oplossingen in verwachting met de standaard Monte Carlo-snelheid ( $O(1/\sqrt{N})$ ) voor de afstand tot de oplossing.
Superconvergentie: De waarde van het gap functional en de suboptimaliteit in de doelfunctie $G$ convergeren sneller, namelijk met een snelheid van $O(1/N)$ .

4. Toepassing op PDE-geconstrueerde Problemen

De theorie wordt toegepast op twee specifieke klassen van PDE-problemen:

Affine-lineaire PDE's: Waar de controle lineair in de vergelijking voorkomt.
Bilineaire PDE's: Waar de controle bilineair voorkomt (bijv. $u \cdot y$ ).

Voor beide gevallen wordt aangetoond dat ze voldoen aan de abstracte aannames van het artikel (reguliere eigenschappen van de operator-to-state mapping, Lipschitz-continuïteit, en sub-Gaussische eigenschappen van de gradienten). Dit valideert de toepasbaarheid van de afgeleide steekproefgrootte-schattingen op complexe, oneindig-dimensionale problemen.

5. Numerieke Resultaten

De auteurs presenteren numerieke experimenten voor zowel affine-lineaire als bilineaire problemen met bang-bang regularisatie ( $L^1$ -norm).

Methode: De problemen worden opgelost met een conditiele gradient-methode (conditional gradient method).
Resultaten:
- De numerieke convergentiepercentages van de empirische schattingen van de optimaliteitsgap en de fout in de oplossing komen nauwkeurig overeen met de theoretische voorspellingen.
- Voor het bilineaire geval werd zelfs een snellere convergentie waargenomen dan theoretisch voorspeld, wat suggereert dat de dekkingstallen-methode mogelijk conservatief is voor problemen met hoge regelmaat of lokale kromming.
- De visualisaties tonen duidelijk de "bang-bang" structuur van de oplossingen (waarbij de controle waarden aanneemt op de randen of nul is).

6. Significatie en Conclusie

Dit werk is significant omdat het de theoretische basis legt voor het gebruik van Monte Carlo-methoden in niet-gladde, oneindig-dimensionale optimalisatieproblemen met onzekerheid.

Overbrugging van theorie en praktijk: Het biedt rigoureuze garanties voor de sample size die nodig is om een bepaalde nauwkeurigheid te bereiken, zelfs zonder sterke convexiteit.
Generaliteit: De resultaten zijn van toepassing op een breed scala aan PDE-geconstrueerde problemen, inclusief die met $L^1$ -regularisatie die vaak worden gebruikt om sparsiteit of bang-bang-controles te forceren.
Reproduceerbaarheid: De auteurs hebben hun code en simulatie-uitvoer openbaar gemaakt, wat de reproduceerbaarheid van de resultaten waarborgt.

Samenvattend biedt dit artikel een robuust wiskundig raamwerk voor het oplossen van complexe stochastische controleproblemen, met specifieke inzichten in hoe de steekproefgrootte de nauwkeurigheid beïnvloedt bij het gebruik van niet-gladde regularisatie.