Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

Imaginez que vous soyez un détective tentant de résoudre un mystère, mais que vous ne puissiez pas voir la scène du crime. À la place, vous disposez d'un simulateur de jeu vidéo magique et ultra-complexe capable de recréer le crime encore et encore. Vous connaissez les règles du jeu (la physique de l'univers), mais vous ne connaissez pas les paramètres spécifiques que le « criminel » a utilisés pour créer ce désordre. Votre objectif est de découvrir ces paramètres cachés en lançant le simulateur, en observant les résultats et en ajustant vos suppositions. C'est le monde de l'Inférence Basée sur la Simulation (SBI - Simulation-Based Inference). C'est ainsi que les scientifiques parviennent à comprendre les règles cachées de tout, de l'interaction des médicaments avec les cellules à l'explosion des étoiles, en utilisant des modèles informatiques parce que les expériences réelles sont trop coûteuses ou trop dangereuses à réaliser.

Mais il y a un piège : faire tourner ces simulateurs est incroyablement lent et coûteux. Imaginez que chaque fois que vous appuyez sur "play" sur votre console de jeux, cela vous coûte un dollar et prend dix minutes de chargement. Vous disposez d'un budget limité de « lancements » avant d'être à court d'argent. Vous devez donc être intelligent quant au choix des scénarios que vous simulez. C'est là qu'intervient le Design Expérimental Bayésien Optimal (BOED - Bayesian Optimal Experimental Design). C'est comme un stratège super intelligent qui demande : « Si je lance le jeu avec ce paramètre spécifique, cela m'apprendra-t-il le plus de choses sur les paramètres cachés du criminel ? » L'article aborde un problème délicat : généralement, la meilleure stratégie pour trouver la réponse (BOED) et la meilleure façon d'apprendre les règles du jeu (SBI) sont traitées comme deux tâches distinctes, nécessitant souvent que le simulateur soit « transparent » (mathématiquement facile à modifier), ce qui n'est pas le cas des simulateurs scientifiques du monde réel.

Les auteurs, Vincent D. Zaballa et Elliot E. Hui, ont construit une nouvelle méthode appelée SBI-BOED qui jette un pont entre ces deux mondes. Considérez cela comme l'apprentissage d'un agent IA unique capable de faire deux choses à la fois : apprendre les règles du jeu tout en déterminant les meilleurs coups à jouer. Ils ont découvert qu'un outil mathématique utilisé pour mesurer la quantité d'information qu'une chose donne sur une autre (appelé Information Mutuelle) peut en fait servir de guide d'apprentissage. En ajustant un « bouton » spécifique dans leur calcul (un paramètre qu'ils appellent $\lambda$), ils ont trouvé un moyen de permettre à l'IA d'apprendre les règles plus précisément sans avoir besoin de voir le code interne du simulateur.

Dans leurs tests, ils ont traité le simulateur comme une « boîte noire » — une machine où vous introduisez des entrées et obtenez des sorties, mais où vous ne pouvez pas regarder à l'intérieur pour voir les rouages en mouvement. Ils ont démontré que leur méthode pouvait trouver les meilleures expériences à mener et apprendre les paramètres cachés aussi bien, voire mieux, que les méthodes existantes, même lorsque ces dernières avaient accès aux rouages internes du simulateur. Ils ont constaté qu'en équilibrant le désir d'expériences « surprenantes » et le besoin d'un apprentissage « précis », ils pouvaient obtenir de meilleurs résultats avec moins de lancements de simulateur. Par exemple, sur un modèle biologique complexe, leur méthode a utilisé environ 50 fois moins d'appels au simulateur que certaines des méthodes de haut niveau précédentes pour atteindre une précision similaire. Ils ont également montré que si vous vous contentez de rechercher l'expérience la « plus informative » sans être prudent, vous pourriez finir avec un modèle qui semble intelligent mais qui est en réalité erroné sur les détails. Leur approche suggère que la meilleure façon d'apprendre est d'être un détective curieux et équilibré, qui valorise à la fois le frisson d'un nouvel indice et la précision des preuves.