Bayesian Optimization for Mixed-Variable Problems in the Natural Sciences

Dit paper introduceert een generalisatie van de probabilistische herparameterisatiemethode die Bayesiaanse optimalisatie mogelijk maakt voor complexe, gemengde variabelruimtes in de natuurwetenschappen, waardoor efficiënte optimalisatie in autonome laboratoria met beperkte data en discretisatieproblemen wordt vergemakkelijkt.

De kern

Stel je voor dat je een kok bent die de perfecte soep probeert te maken. Je moet de juiste hoeveelheid zout, peper, kruiden en de kooktijd bepalen. Maar er is een probleem: je mag niet zomaar elke hoeveelheid proberen. Soms moet je kiezen uit een vaste lijst van kruiden (bijv. alleen oregano of basilicum), soms moet je een heel getal gebruiken (bijv. precies 3 of 5 blaadjes), en soms mag je een vrij getal kiezen (bijv. 4,2 gram zout).

Dit is wat wetenschappers dagelijks doen: ze zoeken naar de beste instellingen voor materialen, chemicaliën of machines. Maar elke proef is duur en tijdrovend. Je kunt niet zomaar duizenden potten soep koken om de beste te vinden. Je hebt een slimme strategie nodig.

Hier komt Bayseiaanse Optimalisatie (BO) om de hoek kijken. Het is als een slimme kok die een "gevoel" ontwikkelt voor de soep. Na elke proef maakt hij een kaartje (een model) waarop hij schat waar de lekkerste soep zou kunnen zitten, en kiest dan slim de volgende proef uit.

Het Probleem: De "Gemengde" Soep

Het grote probleem in de echte wereld is dat de ingrediënten vaak gemengd zijn: sommige zijn continu (vrij te kiezen), andere zijn discreet (alleen hele getallen) en weer andere zijn categorisch (keuzes uit een lijst).

De slimme koks (de algoritmen) die we tot nu toe hadden, hadden hier moeite mee. Ze konden de "kaart" niet goed tekenen als de ingrediënten niet allemaal op dezelfde manier werkten. Ze raakten vast in een lokaal dieptepunt (een slechte soep die ze dachten dat perfect was) of ze bleven steeds dezelfde proef herhalen omdat ze dachten dat het de enige optie was.

De Oplossing: De "Probabilistische Reparameterisatie" (PR)

De auteurs van dit paper hebben een nieuwe, nog slimmere methode bedacht, gebaseerd op een bestaande techniek die ze hebben uitgebreid.

Stel je voor dat de oude methode probeerde de kaart te tekenen door de kruiden in een rechte lijn te zetten. Dat werkte niet goed als je plotseling een sprong moest maken naar een andere kruidenpot.

De nieuwe methode (Generalized PR) doet iets anders:

1. De Vertaler: Ze gebruiken een "vertaler" die alle soorten ingrediënten (hele getallen, keuzes, vrij getallen) omzet naar één enkel, glad, continu taal.
2. De Kansrekening: In plaats van te zeggen "ik kies nu precies 3 blaadjes", zegt het algoritme: "ik kies een punt op mijn gladde lijn, en dat punt vertaalt zich met een bepaalde kans naar 3 blaadjes."
3. Het Voordelen: Hierdoor kan de slimme kok nu gradienten gebruiken. Dat is een wiskundig trucje om de kaart heel snel en soepel te verbeteren, alsof je een bal laat rollen naar de laagste punt in een landschap, zelfs als dat landschap vol met sprongen en hobbels zit.

De Uitdagingen en Oplossingen

Tijdens het testen kwamen ze twee grote struikelblokken tegen:

1. De "Gekke Herhaling" (Resampling)
Soms, als de proeven wat ruis hebben (bijvoorbeeld: de oven was net iets warmer dan gepland), dacht het algoritme: "Oh, deze plek is misschien wel de beste, ik probeer het nog eens!" En toen nog eens. En nog eens. Het bleef steken op dezelfde plek en waste tijd en geld.

• De oplossing: Ze hebben een straf (penalty) toegevoegd. Als het algoritme een plek kiest die al eerder geprobeerd is, krijgt die plek een enorme "boete" in de berekening. Hierdoor wordt het algoritme gedwongen om een nieuwe, andere plek te kiezen. Het is alsof de kok zegt: "Oké, die pot heb ik al geproefd, ik ga nu een andere pot proberen!"

2. De "Lokale Val" (Local Minima)
Soms ziet het landschap eruit als een reeks trappen. Het algoritme kan vastlopen op een trapje en denken dat het de bodem is, terwijl er nog een dieper dal verderop ligt.

• De oplossing: Ze hebben een modificatie bedacht. Als het algoritme te lang op dezelfde plek blijft hangen, schakelt het automatisch over naar een "verkenner-modus". In deze modus kiest het niet de plek die er het beste uitziet, maar de plek waar het het minst van weet. Dit dwingt het algoritme om het landschap opnieuw te verkennen en uit de val te komen.

Wat hebben ze bewezen?

Ze hebben hun methode getest op:

• Synthetische puzzels: Wiskundige problemen die ze zelf hebben bedacht om de methode op de proef te stellen.
• Echte wetenschap: Problemen uit de scheikunde (zoals het vinden van de beste chemische reactie) en materiaalwetenschap (zoals het verbeteren van een kunststof die beweegt op warmte).
• Zeer moeilijke landschappen: Problemen met enorme sprongen en vlakke gebieden, die normaal gesproken de doodsteek zijn voor slimme algoritmen.

Het resultaat?
Hun nieuwe methode werkt beter dan de oude methoden. Het vindt sneller de beste oplossing, wast minder tijd en geld door herhalingen, en kan zelfs over die moeilijke, "sprongachtige" landschappen springen waar andere methoden vastlopen.

Conclusie voor de Leek

Dit paper is als het ontwikkelen van een super-kookboek voor wetenschappers. Het geeft hen een manier om met minder proeven de perfecte "recept" te vinden, zelfs als de ingrediënten heel verschillend zijn (soms een keuze, soms een getal, soms een vrij getal). Het zorgt ervoor dat ze niet vastlopen in oude patronen en dat ze slim kunnen omgaan met onzekerheid en ruis. Dit is een enorme stap voorwaarts voor het bouwen van autonome laboratoria, waar robots zelfstandig nieuwe materialen en medicijnen kunnen ontdekken.

Technische samenvatting

Titel: Bayesiaanse Optimalisatie voor Gemengde-Variabelenproblemen in de Natuurwetenschappen

Auteurs: Yuhao Zhang, Ti John, Matthias Stosiek, Patrick Rinke
Publicatie: Preprint (Applied Soft Computing), 2026

---

1. Het Probleem

In de natuurwetenschappen (zoals materiaalkunde en chemie) is het optimaliseren van dure "black-box" doelfuncties een veelvoorkomende uitdaging. Deze taken omvatten vaak complexe zoekruimtes die bestaan uit een mix van variabele types:

• Continue variabelen (bijv. temperatuur, concentratie).
• Integers (bijv. aantal lagen).
• Discrete variabelen (bijv. een vooraf gedefinieerde set van waarden voor dikte).
• Categorieën (bijv. materiaaltype of oplosmiddel).

Bestaande methoden voor Bayesiaanse Optimalisatie (BO) met Gaussische Processen (GP) als surrogate-model hebben moeite met deze gemengde ruimtes. Traditionele benaderingen missen vaak gradiënten in discrete ruimtes, waardoor het optimaliseren van de acquisitie-functie (de strategie om de volgende meting te kiezen) computatieel zwaar wordt. Bovendien presteren bestaande benchmarks vaak op synthetische, ruisvrije functies met scherpe lokale minima, wat niet representatief is voor de ruige, ruisbevatte en vaak discontinuïteit bevattende landschappen die in echte experimenten voorkomen.

2. Methodologie

De auteurs stellen een Generalized Probabilistic Reparameterization (Generalized PR) methode voor, gebaseerd op het werk van Daulton et al., maar uitgebreid om ook niet-equidistante discrete variabelen te behandelen.

Kerncomponenten van de methode:

• Probabilistische Reparameterisatie: In plaats van een latente continue ruimte te gebruiken, wordt een discrete kansverdeling $p(Q|\theta)$ gedefinieerd over de niet-continue variabelen, geparametriseerd door continue parameters $\theta$. Dit maakt het mogelijk om de acquisitie-functie volledig in de continue domein te optimaliseren met gradiënt-based methoden (zoals Adam).
• Generalisatie voor Discrete Variabelen: De oorspronkelijke PR methode ondersteunde binair, integer en categorisch. Deze studie introduceert een formulering voor discrete variabelen met niet-gelijke afstanden tussen waarden (bijv. $\{2, 4, 7, 8\}$), waarbij de temperatuur-parameter ($\tau$) cruciaal is voor de differentieerbaarheid tijdens backpropagation.
• Kernel en Prior Optimalisatie: De auteurs voeren een systematische "greedy search" uit om de beste kernel-constructie en prior-verdelingen te vinden. Ze vergelijken product- versus som-kernels, en verschillende priors (Gamma vs. LogNormal).
• Mitigatie van Resampling: Een belangrijk probleem bij GP's in discrete ruimtes met ruis is dat het model dezelfde punten herhaaldelijk kan selecteren ("resampling") omdat de voorspelde variantie onder de ruisdrempel blijft. De auteurs introduceren een penalty-mechanisme dat een grote waarde toevoegt aan de posterior-mean van reeds gesamplede punten om dit te voorkomen.
• Gewijzigde BO-werkstroom (mAF): Voor zeer discontinuïteit bevattende landschappen (zoals fase-overgangen) wordt een "modified Acquisition Function" gebruikt. Als de voorgestelde punt te dicht bij een eerder punt ligt, schakelt het systeem over naar een puur explorerende strategie om lokale minima te ontvluchten.

3. Belangrijkste Bijdragen

1. Generalized PR: Uitbreiding van de PR-methode naar volledig gemengde ruimtes, inclusief niet-equidistante discrete variabelen, wat gradiënt-based optimalisatie mogelijk maakt zonder latente ruimtes.
2. Systematische Benchmarking: Evaluatie op zowel synthetische functies (aangepaste Styblinski-Tang, genaamd "Butternut Squash") als realistische wetenschappelijke problemen (chemische synthese en thermisch geactiveerde polymeren).
3. Kernel-Optimalisatie: Identificatie dat een product-kernel (Matérn-5/2) met Gamma-priors robuuster presteert dan de standaard "meta"-kernel of som-kernels, vooral in realistische scenario's.
4. Oplossing voor Resampling: Een effectieve penalty-strategie om herhaaldelijk meten van dezelfde discrete punten te voorkomen in ruisige omgevingen.
5. Robuustheid in Discontinue Ruimtes: Demonstratie dat BO, wanneer gecombineerd met de mAF-strategie, effectief kan zijn in landschappen waar traditionele GP-modellen zouden falen door lokale minima.

4. Resultaten

• Synthetische Benchmarks (Butternut Squash): De geoptimaliseerde model (ei_BOSS_on_gam_Mat52 met product-kernel en Gamma-prior) presteerde consistent beter dan de originele PR-implementatie en andere methoden zoals Kernel Rounding (KR) en Random Forests (RF) op de meeste configuraties. De som-kernel presteerde goed op de synthetische functie (vanwege de additieve structuur), maar faalde in generalisatie naar real-world problemen.
• Real-world Benchmarks:
  • Chemistry: Het geoptimaliseerde model bereikte vergelijkbare prestaties als de originele PR-methode, maar met betere generalisatie.
  • Actuator: Alle modellen convergeerden snel, wat bevestigt dat de methode werkt op gladde, integer-gebaseerde landschappen.
• Discontinue Landschappen (DUST1 & DUST2):
  • Zonder de mAF-strategie bleven modellen vaak steken in lokale minima door herhaaldelijk dezelfde discrete punten te sample.
  • Met de mAF-strategie (penalty + explorerende switch) overtrof de Generalized PR methode zowel Sobol-sampling als Random Forests aanzienlijk in convergentiesnelheid en kwaliteit van de oplossing.
• Vergelijking EI vs. LCB: In de meeste gevallen presteerde Expected Improvement (EI) beter dan Lower Confidence Bound (LCB) in termen van convergentie-efficiëntie voor deze specifieke problemen.

5. Betekenis en Conclusie

Dit werk vestigt een praktisch en robuust raamwerk voor Bayesiaanse Optimalisatie in de natuurwetenschappen, specifiek gericht op autonome laboratoria.

• Praktische Toepasbaarheid: De methode lost het kritieke probleem op van "onzichtbare" resampling in discrete ruimtes, wat in experimentele settings leidt tot verspilling van kostbare tijd en materialen.
• Generalisatie: In tegenstelling tot eerdere studies die zich richtten op theoretische functies, toont deze studie aan dat de gekozen kernel-constructies en workflow-aanpassingen essentieel zijn voor succes in real-world, ruisbevatte scenario's.
• Toekomstperspectief: De auteurs pleiten voor gestructureerde benchmarking die rekening houdt met de complexiteit van het landschap (discretisatie, dimensie, ruis) in plaats van te zoeken naar één universeel beste model. De voorgestelde methode is compatibel met geavanceerde BO-uitbreidingen (batch, multi-objective) en vormt een sterke basis voor data-efficiënte ontdekking in de materialenwetenschap.

Kortom, de studie levert een bewezen, geoptimaliseerde en praktische oplossing voor het optimaliseren van complexe, gemengde experimentele parameters in een realistische, ruisige omgeving.