Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen, aber Sie können den Tatort nicht sehen. Stattdessen haben Sie einen magischen, hochkomplexen Videospiel-Simulator, der das Verbrechen immer und immer wieder rekonstruieren kann. Sie kennen die Regeln des Spiels (die Physik des Universums), aber Sie kennen nicht die spezifischen Einstellungen, die der „Verbrecher“ verwendet hat, um das Chaos anzurichten, das Sie sehen. Ihr Ziel ist es, diese verborgenen Einstellungen durch das Ausführen des Simulators, das Beobachten der Ergebnisse und das Anpassen Ihrer Vermutungen herauszufinden. Dies ist die Welt der Simulationsbasierten Inferenz (SBI). So finden Wissenschaftler die verborgenen Regeln von allem – von der Interaktion von Medikamenten mit Zellen bis hin zur Explosion von Sternen – mithilfe von Computermodellen, weil die echten Experimente zu teuer oder zu gefährlich wären, um sie durchzuführen.

Aber hier ist der Haken: Das Ausführen dieser Simulatoren ist unglaublich langsam und teuer. Stellen Sie sich vor, jedes Mal, wenn Sie die „Play“-Taste an Ihrer Spielekonsole drücken würden, würde es Sie einen Dollar kosten und zehn Minuten Ladezeit beanspruchen. Sie verfügen nur über ein begrenztes Budget an „Durchläufen“, bevor Ihnen das Geld ausgeht. Daher müssen Sie klug entscheiden, welche Szenarien Sie simulieren. Hier kommt das Bayesianische Optimale Experimentdesign (BOED) ins Spiel. Es ist wie ein superintelligenter Stratege, der fragt: „Wenn ich das Spiel mit dieser spezifischen Einstellung ausführe, wird es mich am meisten über die verborgenen Einstellungen des Verbrechers lehren?“ Das Paper befasst sich mit einem kniffligen Problem: Normalerweise werden die beste Strategie, um die Antwort zu finden (BOED), und der beste Weg, die Regeln des Spiels zu lernen (SBI), als getrennte Aufgaben behandelt, was voraussetzt, dass der Simulator „transparent“ (mathematisch leicht manipulierbar) ist – was auf reale wissenschaftliche Simulatoren jedoch oft nicht zutrifft.

Die Autoren, Vincent D. Zaballa und Elliot E. Hui, haben eine neue Methode namens SBI-BOED entwickelt, die diese beiden Welten überbrückt. Stellen Sie sich das so vor, als würde man einem einzelnen KI-Agenten beibringen, zwei Dinge gleichzeitig zu tun: die Regeln des Spiels zu lernen, während er gleichzeitig die besten Züge plant. Sie haben entdeckt, dass ein mathematisches Werkzeug, das misst, wie viel Information eine Sache über eine andere liefert (genannt Mutual Information oder Transinformation), tatsächlich als Trainingsleitfaden dienen kann. Durch das Drehen an einem spezifischen „Regler“ in ihrer Mathematik (einem Parameter, den sie $\lambda$ nennen) fanden sie einen Weg, die KI dazu zu bringen, die Regeln genauer zu lernen, ohne den internen Code des Simulators sehen zu müssen.

In ihren Tests behandelten sie den Simulator wie eine „Black Box“ – eine Maschine, in die man Eingaben hineingibt und Ausgaben herausbekommt, aber in die man nicht hineinsehen kann, um die Zahnräder drehen zu zu sehen. Sie zeigten, dass ihre Methode die besten Experimente finden und die verborgenen Parameter genauso gut oder sogar besser bestimmen kann als bestehende Methoden, selbst wenn diese Methoden Zugriff auf die inneren Abläufe des Simulators hatten. Sie fanden heraus, dass sie durch das Abwägen zwischen dem Wunsch nach „überraschenden“ Experimenten und der Notwendigkeit „präzisen“ Lernens bessere Ergebnisse mit weniger Simulator-Durchläufen erzielen konnten. Beispielsweise benötigte ihre Methode bei einem komplexen biologischen Modell etwa 50 Mal weniger Simulator-Aufrufe als einige bisherige Spitzenmethoden, um eine ähnliche Genauigkeit zu erreichen. Sie zeigten auch, dass man, wenn man nur nach dem „informativsten“ Experiment jagt, ohne vorsichtig zu sein, am Ende ein Modell haben könnte, das zwar intelligent aussieht, aber bei den Details tatsächlich falsch liegt. Ihr Ansatz legt nahe, dass der beste Weg zu lernen darin besteht, ein neugieriger, ausgewogener Detektiv zu sein, der sowohl den Nervenkitzel eines neuen Hinweises als auch die Präzision der Beweise schätzt.