Profile Bayesian Optimization for Expensive Computer Experiments

Technische Samenvatting: Profiel Bayesiaanse Optimalisatie voor Kostbare Computerexperimenten

Probleemstelling
Het artikel behandelt de uitdaging van het optimaliseren van kostbare, deterministische black-box computersimulaties waarbij het doel is om "profieloptima" te identificeren in plaats van één enkel globaal optimum. In deze scenario's worden inputs verdeeld in een enkele controlemeter ($x^\star$) en meerdere nuisance-parameters ($x_{-\star}$). Het doel is om de functie $T(x^\star) = \min_{x_{-\star}} f(x^\star, x_{-\star})$ over het gehele plausibele bereik van $x^\star$ te schatten.

Standaard Bayesiaanse Optimalisatie (BO) is slecht geschikt voor deze taak omdat het doorgaans streeft naar één enkel globaal minimum, waarbij het vaak de exploratie van de volledige controlemeter-ruimte verwaarloost. Bestaande methoden voor profieloptimalisatie, zoals Profile Expected Improvement (PEI) voorgesteld door Ginsbourger et al. (2014), lijden onder twee belangrijke beperkingen:

1. Computationele onhandelbaarheid: Ze vertrouwen op dichte roosters voor kandidaatselectie, wat onhaalbaar wordt in dimensies hoger dan twee.
2. Exploratie-exploitatie-balans: Net als traditionele Expected Improvement (EI) neigt PEI naar overmatige exploitatie van regio's nabij het globale minimum, waardoor de exploratie van het volledige bereik van de controlemeter ontoereikend blijft.

De auteurs worden gemotiveerd door een specifieke technische toepassing: het ontwerpen van een diffuser voor een Rotating Detonation Combustor (RDC). De simulatie is computationeel duur (10 minuten tot enkele uren per run) en niet-stationair vanwege verbrandingsdynamica. Het doel is om het minimale energieverlies (drukverlies) als functie van de diffuserlengte ($x^\star$) in kaart te brengen, waarbij geoptimaliseerd wordt over vijf nuisance-parameters (krommingpunten en bypass-locatie) om ontwerpafwegingen tussen efficiëntie en fysieke beperkingen te informeren.

Methodologie
De auteurs stellen een nieuwe Profile Bayesian Optimization (PBO) procedure voor die surrogaatmodellering integreert met een tweefasige acquisitiestrategie.

1. Surrogaatmodellering:

   • De methode maakt gebruik van ofwel Gaussian Process (GP) of Deep Gaussian Process (DGP) surrogaatmodellen. DGPs worden benadrukt vanwege hun vermogen om niet-stationaire respons-oppervlakken te verwerken die gebruikelijk zijn in fysieke simulaties.
   • Om $T(x^\star)$ te schatten, genereren de auteurs gezamenlijke posterieure monsters uit de surrogaat. Voor elk monster identificeren ze de minimale respons-waarde voor elke unieke $x^\star$. De empirische distributie van deze minima levert een schatting $\hat{T}(x^\star)$ op, samen met onzekerheidskwantificering (UQ) via betrouwbaarheidsintervallen.
   • Om de computationele kosten in hoge dimensies te beheersen, wordt de Vecchia-benadering toegepast voor efficiënte gezamenlijke posterieure bemonstering.

2. Gemodificeerde Tricands (Kandidaatgeneratie):

   • Om de computationele flessenhals van dichte roosters te vermijden, passen de auteurs de "tricands" (triangulatie-kandidaten) benadering aan van Gramacy et al. (2022).
   • In plaats van een volledig rooster worden kandidaten gegenereerd met behulp van een Delaunay-triangulatie van de geobserveerde nuisance-parameters ($X_{-\star}$). "Interne kandidaten" worden geplaatst op de geometrische centra van de triangulatiecomponenten, en "fringe kandidaten" worden nabij de grenzen geplaatst.
   • Een semi-dens 1D-rooster wordt gecreëerd voor de controlemeter $x^\star$. De uiteindelijke kandidaatset ($X_{tri+}$) is het Cartesiaans product van de $x^\star$-grid en de nuisance-parameter tricands. Dit maakt efficiënte minimum-schatting mogelijk zonder miljarden punten te hoeven evalueren.

3. Tweefasige Acquisitieschema:
   De selectie van het volgende evaluatiepunt $x_{n+1} = \{x^\star_{n+1}, x_{-\star, n+1}\}$ vindt plaats in twee afzonderlijke stappen:

   • Fase 1 (Exploratie van $x^\star$): Het algoritme selecteert de controlemeter-waarde $x^\star_{n+1}$ die de grootste onzekerheid (breedste betrouwbaarheidsinterval) vertoont in de huidige schatting van $\hat{T}(x^\star)$. Dit is geïnspireerd door het Active Learning MacKay-criterium en zorgt ervoor dat het volledige bereik van de controlemeter wordt verkend.
   • Fase 2 (Exploitatie van $x_{-\star}$): Zodra $x^\star_{n+1}$ is vastgesteld, selecteert het algoritme de nuisance-parameters $x_{-\star, n+1}$ door de Profile Expected Improvement (PEI) langs die specifieke sectie te maximaliseren. Dit richt de zoektocht op het vinden van de optimale nuisance-configuratie voor de gekozen controlemeter.

Belangrijkste Resultaten
De auteurs valideren de PBO-procedure via synthetische benchmarks en de motiverende RDC-toepassing:

• Synthetische Benchmarks:

  • Stationaire Functies (2D Branin, 3D Kyger): PBO presteerde beter dan standaard BO, willekeurige Latin Hypercube Sampling (LHS) en de oorspronkelijke PEI-methode. PBO bereikte een lagere Root Mean Squared Error (RMSE) en smallere betrouwbaarheidsintervallen, terwijl de dekking nabij 95% werd gehandhaafd. Cruciaal is dat PBO het volledige bereik van $x^\star$ succesvol verkende, terwijl PEI en standaard BO de acquisities rond de globale minima clusterden, waardoor delen van het profiel onverkend bleven.
  • Niet-stationaire Functie (4D Squiggle): Gebruikmakend van DGP-surrogaatmodellen, demonstreerde PBO superieure nauwkeurigheid vergeleken met GP-surrogaatmodellen. Hoewel DGP-voorspellingen een iets lagere dekking lieten zien (wat duidt op overmoedigheid), leverden ze aanzienlijk lagere RMSE en Maximum Absolute Deviation (MaxAD) op dan GP-gebaseerde methoden.

• Motiverende Toepassing (RDC Diffuser):

  • Toegepast op een 6D-simulatie (1 controle, 5 nuisance parameters), werd PBO met DGP-surrogaten uitgevoerd voor 150 evaluaties.
  • De resulterende profielschatting bood onzekerheidskwantificering over het gehele bereik van diffuserlengtes.
  • Bij vergelijking met een state-of-the-art multi-objective evolutionaire optimizer (CADO) die op hetzelfde budget werd gedraaid (113 evaluaties), identificeerde PBO ontwerpen met lagere drukverliezen dan de Pareto-front gevonden door CADO. Bovendien bood PBO een continu profiel van optima, terwijl CADO slechts een discrete set van afwegingspunten leverde.

Betekenis en Claims
Het artikel claimt dat Profile Bayesian Optimization een robuust kader biedt voor het schatten van profieloptima in kostbare computerexperimenten waarbij het bereik van de controlemeter van primair belang is.

• Nieuwigheid: De primaire bijdrage is het tweefasige acquisitieschema dat de exploratie van de controlemeter expliciet scheidt van de exploitatie van de nuisance-parameters. Dit voorkomt de "over-exploitatie" die gebruikelijk is bij traditionele BO en PEI.
• Schaalbaarheid: Door het combineren van gemodificeerde tricands met de Vecchia-benadering, breidt de methode profieloptimalisatie uit naar hogere dimensies (gedemonstreerd tot 6D), waar voorheen grid-gebaseerde methoden faalden.
• Flexibiliteit: De procedure is compatibel met zowel stationaire (GP) als niet-stationaire (DGP) surrogaatmodellen, waardoor deze toepasbaar is op complexe fysieke simulaties met regimeverschuivingen.
• Praktische Impact: In de RDC-toepassing maakte de methode geïnformeerde besluitvorming mogelijk door de afweging tussen diffuserlengte en energieverlies te kwantificeren, waarbij ontwerpen werden geïdentificeerd die bestaande multi-objective optimalisatie-benaderingen overtroffen.

De auteurs merken bescheiden beperkingen op, waaronder de aanname van unieke profieloptima voor elke $x^\star$-sectie en de computationele kosten van het genereren van voldoende posterieure monsters voor DGP-dekking in hoge dimensies. Zij suggereren dat toekomstig werk zich kan richten op gradiënt-versterkte surrogaatmodellen en Bayesiaanse kalibratie met fysieke data.