Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

Stel je voor dat je een detective bent die een mysterie probeert op te lossen, maar je kunt de plaats delict niet zien. In plaats daarvan heb je een magische, supercomplexe videogame-simulator die de misdaad keer op keer kan recreëren. Je kent de regels van het spel (de natuurkunde van het universum), maar je weet niet welke specifieke instellingen de "crimineel" heeft gebruikt om de chaos te creëren. Je doel is om die verborgen instellingen te achterhalen door de simulator te draaien, de resultaten te bekijken en je gissingen aan te passen. Dit is de wereld van Simulation-Based Inference (SBI). Dit is hoe wetenschappers de verborgen regels van alles ontdekken, van hoe medicijnen interageren met cellen tot hoe sterren exploderen, door computermodellen te gebruiken omdat de echte experimenten te duur of te gevaarlijk zijn om uit te voeren.

Maar hier zit de adder onder het gras: het draaien van deze simulators is ontzettend traag en duur. Stel je voor dat elke keer dat je op de "play"-knop van je spelcomputer drukt, het je een dollar kost en het tien minuten duurt om te laden. Je hebt een beperkt budget aan "speelbeurten" voordat je door je geld heen bent. Je moet dus slim zijn over welke scenario's je simuleert. Hier komt Bayesian Optimal Experimental Design (BOED) om de hoek kijken. Het is als een superintelligente strateeg die vraagt: "Als ik het spel met deze specifieke instelling draai, zal het me dan het meeste leren over de verborgen instellingen van de crimineel?" De paper behandelt een lastig probleem: meestal worden de beste strategie om het antwoord te vinden (BOED) en de beste manier om de regels van het spel te leren (SBI) als aparte taken behandeld, wat vaak vereist dat de simulator "transparant" is (mathematisch eenvoudig aan te passen), wat echte wetenschappelijke simulators vaak niet zijn.

De auteurs, Vincent D. Zaballa en Elliot E. Hui, hebben een nieuwe methode ontwikkeld genaamd SBI-BOED die deze twee werelden overbrugt. Denk eraan als het aanleren van een enkele AI-agent om twee dingen tegelijk te doen: de regels van het spel leren terwijl hij ook uitzoekt wat de beste zetten zijn om te maken. Ze ontdekten dat een wiskundig hulpmiddel dat wordt gebruikt om te meten hoeveel informatie het ene ding je geeft over het andere (genaamd Mutual Information), ook als trainingsgids kan dienen. Door een specifieke "knop" in hun wiskunde aan te passen (een parameter die ze $\lambda$ noemen), ontdekten ze een manier om de AI de regels nauwkeuriger te laten leren zonder de interne code van de simulator te hoeven zien.

In hun tests behandelden ze de simulator als een "black box" — een machine waarbij je inputs erin stopt en outputs eruit krijgt, maar waar je niet in kunt kijken om de draaiende tandwielen te zien. Ze lieten zien dat hun methode de beste experimenten kan vinden om uit te voeren en de verborgen parameters kan leren, net zo goed als, of zelfs beter dan, bestaande methoden die wel toegang hadden tot de interne werking van de simulator. Ze ontdekten dat door de balans te vinden tussen de wens voor "verrassende" experimenten en de noodzaak voor "nauwkeurig" leren, ze betere resultaten konden behalen met minder simulator-runs. Bijvoorbeeld, op een complex biologisch model gebruikte hun methode ongeveer 50 keer minder simulator-oproepen dan sommige eerdere topmethoden om een vergelijkbare nauwkeurigheid te bereiken. Ze lieten ook zien dat als je alleen maar achter het "meest informatieve" experiment aanjaagt zonder voorzichtig te zijn, je een model kunt krijgen dat slim lijkt maar eigenlijk fout zit over de details. Hun aanpak suggereert dat de beste manier om te leren, een nieuwsgierige, gebalanceerde detective zijn die zowel de spanning van een nieuwe aanwijzing als de precisie van het bewijs waardeert.