Information Theoretic Bayesian Optimization over the Probability Simplex

Dit artikel introduceert $\alpha$-GaBO, een nieuwe familie van Bayesiaanse optimalisatie-algoritmen voor het waarschijnlijkheidssimplex die gebaseerd is op informatiegeometrie en superieure prestaties laat zien ten opzichte van traditionele benaderingen in diverse toepassingen.

De kern

Stel je voor dat je een kok bent die de perfecte soep moet maken. Je hebt een lijst met ingrediënten: wortels, aardappelen, uien, kruiden. Maar er is één belangrijke regel: de som van al je ingrediënten moet precies 100% zijn. Als je meer wortels toevoegt, moet je minder aardappelen doen. Je kunt niet 110% soep maken.

In de wiskunde en robotica noemen we dit een simplex. Het is een ruimte waar alles wat je kiest, samen altijd één geheel moet vormen.

Deze paper introduceert een slimme nieuwe manier om de beste "recepten" (of instellingen) te vinden in zo'n ruimte, met een methode die $\alpha$-GaBO heet. Hier is hoe het werkt, vertaald naar alledaags taal:

1. Het Probleem: De Valscheur in de Kaart

Stel je voor dat je een schatzoeker bent die een kaart gebruikt om de beste plek te vinden. Meestal gebruiken we kaarten die lijken op een vlak vel papier (een Euclidische ruimte). Maar onze "soep-ruimte" (de simplex) is geen vlak vel papier. Het is meer zoals een bol of een driehoekige koek die in de lucht hangt.

Als je een gewone schatzoeker (een standaard algoritme) op deze bol laat lopen, denkt die dat de ruimte plat is. Hij loopt tegen de randen op, maakt rare bochten en vindt de schat (de perfecte soep) niet snel of goed. Hij negeert de echte vorm van de wereld waarin hij zoekt.

2. De Oplossing: De "Sfeer-Map" (De Magische Lens)

De auteurs van dit paper zeggen: "Laten we die bol niet als een bol behandelen, maar als een andere bol die we al kennen!"

Ze gebruiken een wiskundige truc (een isometrie) om de driehoekige soep-ruimte om te toveren in een stukje van een perfecte bol.

• De Analogie: Stel je voor dat je een platte kaart van de aarde hebt die vervormd is. In plaats van te proberen de vervorming op de kaart te corrigeren, projecteren we de kaart gewoon op een echte, ronde wereldbol. Op die bol zijn de afstanden en vormen precies goed.
• Door deze "lens" te gebruiken, kunnen ze de wiskundige regels van de bol toepassen op hun soep-probleem. Dit zorgt ervoor dat de zoektocht veel natuurlijker verloopt.

3. De Motor: De $\alpha$-Schakelaar

Nu ze op de juiste bol zitten, moeten ze weten hoe ze daar het beste kunnen lopen. De paper introduceert een schakelaar genaamd $\alpha$.

• $\alpha = -1$ (De Expeditie): Deze instelling is alsof je een expeditie doet waar je nooit de rand van de kaart mag raken. Je blijft veilig in het midden. Dit is geweldig als je zeker weet dat het beste antwoord ergens in het midden ligt. Maar als het beste antwoord juist op de rand ligt (bijvoorbeeld: "alleen maar wortels, geen aardappelen"), dan kan deze methode daar niet komen.
• $\alpha = 0$ (De Balans): Deze instelling is de perfecte balans. Het behandelt de ruimte zoals een echte bol. Hiermee kun je zowel het midden als de randen bereiken. Het is alsof je een wandelaar bent die zowel over het gras als over de stenen randen van de tuin kan lopen zonder te struikelen.

4. Waarom is dit zo handig? (De Toepassingen)

De auteurs hebben getest of hun methode werkt in de echte wereld:

• Chemische Mengsels: Het vinden van de perfecte mix van chemicaliën voor zonnepanelen.
• Robots: Stel je een robot voor die met twee handen een taak moet doen. Soms moet hij meer kracht op zijn linkerhand zetten, soms op zijn rechter. De som van de kracht moet 100% zijn. De robot moet leren hoe hij die krachtverdeling in de loop van de tijd moet aanpassen om niet tegen een muur te lopen. Met $\alpha$-GaBO leert de robot dit veel sneller en veiliger dan met oude methoden.
• Mix van Experts: Stel je een team voor van verschillende specialisten. Soms heb je meer hulp nodig van de expert voor "rekenen", soms van de expert voor "tekenen". De methode helpt om de perfecte mix van deze experts te vinden voor een specifiek probleem.

Samenvattend

Deze paper zegt eigenlijk: "Stop met proberen om een bol plat te drukken op papier. Gebruik in plaats daarvan een bril die de bol laat zien zoals hij echt is."

Door de wiskundige vorm van het probleem (de simplex) te respecteren in plaats van te negeren, vinden robots en computers de beste oplossingen sneller, met minder proefjes en met minder fouten. Het is een stukje wiskundige magie dat ervoor zorgt dat onze technologie slimmer omgaat met beperkte middelen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Information Theoretic Bayesian Optimization over the Probability Simplex" in het Nederlands.

Titel: Informatie-theoretische Bayesiaanse Optimalisatie over het Kanssimplex

Auteurs: Federico Pavesi, Antonio Candelieri, Noémie Jaquier
Affiliaties: Universiteit van Milaan-Bicocca (Italië) en KTH Royal Institute of Technology (Zweden).

---

1. Het Probleem

Bayesiaanse optimalisatie (BO) is een krachtige techniek voor het optimaliseren van dure, zwarte-doos functies. Veel praktische toepassingen, zoals het optimaliseren van mengsels van componenten, portfoliobeheer, robotbesturing en mixtures of experts, vereisen echter dat de zoekruimte bestaat uit waarschijnlijkheidsvectoren. Deze vectoren hebben niet-negatieve elementen die optellen tot één, wat hen plaatst in het kanssimplex ($\Delta_d$).

Het simplex is een niet-Euclidisch domein met een complexe geometrie. Bestaande methoden behandelen het simplex vaak als een beperkt Euclidisch domein (bijvoorbeeld door projectie of het negeren van de intrinsieke geometrie). Dit leidt tot suboptimale prestaties omdat de natuurlijke geometrie van het domein wordt genegeerd. Een eerdere poging, genaamd BORIS, gebruikte de Wasserstein-afstand, maar vereenvoudigde deze in de praktijk tot een Euclidische afstand, waardoor de geometrische voordelen verloren gingen. Er ontbreekt tot nu toe een rigoureuze, geometrie-bewuste BO-framework specifiek voor het kanssimplex.

2. Methodologie: $\alpha$-GaBO

De auteurs introduceren $\alpha$-GaBO (Alpha-Geometry-aware Bayesian Optimization), een familie van algoritmen die de informatie-geometrie van het simplex benutten. De kern van de methode rust op twee pijlers:

A. Riemanniaanse Meetkunde en Isometrie

In plaats van het simplex direct te benaderen, gebruiken de auteurs een isometrie (afstandbehoudende afbeelding) tussen het kanssimplex en een deel van de eenheidssfeer.

• Sphere Map ($\phi$): Er wordt een diffeomorfisme gedefinieerd dat het simplex $\Delta_d$ afbeeldt op het positieve orthant van een sfeer $S^d_{\geq 0}$. De afbeelding wordt gegeven door $\phi(x) = 2\sqrt{x}$ (waarbij de wortel elementsgewijs wordt genomen).
• Fisher-Rao Metric: Het simplex wordt uitgerust met de Fisher-Rao-metriek, die via deze afbeelding overeenkomt met de standaard metriek op de sfeer. Dit maakt het mogelijk om bestaande Riemanniaanse kernen op de sfeer toe te passen op het simplex.

B. Kernen op het Simplex

Om de onbekende functie te modelleren, gebruiken de auteurs Matérn-kernen die zijn afgeleid van de spectrale decompositie van de Laplace-Beltrami-operator op de sfeer.

• De kern op het simplex wordt gedefinieerd als de "pullback" van de sfeer-kern via de sphere map: $k_{\Delta}(x, x') = k_{S}(\phi(x), \phi(x'))$.
• Dit garandeert dat de kernen positief-definiet zijn en de geometrische structuur van het simplex respecteren, zelfs bij de randen (hoewel de implementatie voor $\alpha=-1$ de randen moeilijk bereikbaar maakt, zie hieronder).

C. Optimalisatie van de Acquisitiefunctie

Om de volgende query-punt te selecteren, moet de acquisitiefunctie (bijv. Expected Improvement) worden gemaximaliseerd op het simplex. De auteurs gebruiken Riemanniaanse optimalisatie gebaseerd op een familie van $\alpha$-connecties.

• De $\alpha$-connectie is een één-parameter familie ($\alpha \in [-1, 1]$) die interpolatie mogelijk maakt tussen de exponentiële connectie ($\alpha = -1$) en de mengsel-connectie ($\alpha = 1$).
• De Levi-Civita connectie ($\alpha = 0$) is de unieke metrisch-compatibele connectie.
• Twee specifieke varianten worden geïmplementeerd:
  1. $\alpha_{-1}$-GaBO: Gebruikt de exponentiële connectie. Hier is het domein van de exponentiële kaart de volledige raakruimte, maar de rand van het simplex wordt alleen benaderd als de stapgrootte naar oneindig gaat. Dit is numeriek instabiel voor optima die op de rand liggen.
  2. $\alpha_{0}$-GaBO: Gebruikt de Levi-Civita connectie. Dit is equivalent aan optimalisatie op de sfeer. De exponentiële kaart kan de rand van het simplex bereiken, maar vereist een beperkt domein voor de raakvectoren. Dit algoritme mapt het probleem terug naar de sfeer, optimaliseert daar en projecteert het resultaat terug.

3. Belangrijkste Bijdragen

1. Nieuw Framework: Introductie van $\alpha$-GaBO, het eerste rigoureuze, geometrie-bewuste BO-framework specifiek ontworpen voor het kanssimplex.
2. Informatie-geometrische Kernen: Constructie van geldige Matérn-kernen voor het simplex door gebruik te maken van de isometrie met de sfeer en de Fisher-Rao-metriek.
3. Geometrische Optimalisatoren: Ontwikkeling van een familie van optimalisatie-algoritmen voor de acquisitiefunctie gebaseerd op $\alpha$-connecties, waarbij $\alpha=0$ (Levi-Civita) en $\alpha=-1$ (Exponentieel) expliciet worden behandeld.
4. Empirische Validatie: Uitgebreide tests op synthetische benchmarks en drie real-world toepassingen.

4. Resultaten

De auteurs testen $\alpha$-GaBO op benchmarkfuncties (Ackley, Rosenbrock, Griewank) en drie real-world scenario's:

• Synthetische Benchmarks: $\alpha$-GaBO convergeert over het algemeen sneller en met lagere variantie dan beperkte Euclidische BO-methoden en BORIS, vooral in lagere dimensies ($d=2, 5$).
• Optimale Mengsels (Concrete & Chemie):
  • Bij het voorspellen van de sterkte van beton (waar het optimum vaak op de rand van het simplex ligt) presteerde $\alpha_0$-GaBO goed, terwijl $\alpha_{-1}$-GaBO faalde omdat het de rand niet kan bereiken.
  • Bij chemische mengsels (Olympus datasets) toonde $\alpha$-GaBO consistent betere prestaties en lagere variantie dan concurrenten.
• Mixtures of Classifiers: Bij het optimaliseren van een ensemble van classifiers voor robotnavigatie presteerden de geometrische methoden vergelijkbaar of iets beter dan Euclidische methoden.
• Robotische Multi-task Control: Bij het optimaliseren van tijdsafhankelijke prioriteiten voor een humanoid robot (RB-Y1) om een complex gedrag te vertonen, overtroffen beide $\alpha$-GaBO varianten de Euclidische tegenhangers. $\alpha_0$-GaBO presteerde het beste, met snellere convergentie naar lagere kosten en een robuustere, botsingsvrije traject.

5. Betekenis en Conclusie

Dit artikel toont aan dat het expliciet modelleren van de informatie-geometrische structuur van het kanssimplex essentieel is voor effectieve Bayesiaanse optimalisatie in dit domein. Door de isometrie met de sfeer te benutten, kunnen bestaande wiskundige hulpmiddelen (kernen en optimalisatoren) worden toegepast zonder de intrinsieke beperkingen van het simplex te negeren.

De resultaten bevestigen dat het negeren van de geometrie (zoals bij BORIS of beperkte Euclidische BO) leidt tot suboptimale prestaties, vooral wanneer het optimum op de rand van het domein ligt. De methode biedt een robuust fundament voor toekomstig onderzoek naar geometrie-bewuste optimalisatie op andere informatie-manifolden, zoals symmetrische positief-definiete matrices of categorische ruimtes.