Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

あなたは、犯罪現場を見ることができないミステリーを解こうとしている探偵だと想像してください。その代わりに、あなたは犯罪の様子を何度も何度も再現できる、魔法のような超複雑なビデオゲーム・シミュレーターを持っています。あなたはゲームのルール（宇宙の物理法則）は知っていますが、「犯人」がその混乱を作り出すために使用した具体的な設定については知りません。あなたの目標は、シミュレーターを実行し、その結果を観察し、推測を調整することで、それらの隠された設定を突き止めることです。これが**シミュレーションに基づく推論（Simulation-Based Inference: SBI）**の世界です。これは、実際の実験を行うにはコストがかかりすぎたり危険であったりする場合に、科学者がコンピュータモデルを用いて、薬物が細胞とどのように相互作用するかから星がどのように爆発するかまで、あらゆるものの隠れたルールを解明する方法です。

しかし、ここに落とし穴があります。シミュレーターを実行することは、非常に時間がかかり、コストがかかるのです。ゲームコンソールの「再生」ボタンを押すたびに、1ドルかかり、ロードに10分かかると想像してみてください。あなたは、お金を使い果たす前に、実行できる「回数」の制限を持っています。そこで、どのシナリオをシミュレートすべきかを賢く判断する必要があります。ここで**ベイズ最適実験計画法（Bayesian Optimal Experimental Design: BOED）**が登場します。それは、「もし私がこの特定の設定でゲームを実行したら、犯人の隠された設定について最も多くのことを教えてくれるだろうか？」と問いかける、非常に賢い戦略家のようなものです。この論文は、非常にトリッキーな問題に取り組んでいます。通常、答えを見つけるための最良の戦略（BOED）と、ゲームのルールを学ぶための最良の方法（SBI）は別々のタスクとして扱われ、既存の手法ではシミュレーターが「透明である（数学的に調整が容易である）」ことが求められますが、現実世界の科学的なシミュレーターはそうではないことが多いのです。

著者であるヴィンセント・D・ザバラとエリオット・E・フイは、これら二つの世界を橋渡しするSBI-BOEDと呼ばれる新しい手法を構築しました。これは、一つのAIエージェントに、ゲームのルールを学ぶことと、最善の手を考えることの両方を同時に教えるようなものです。彼らは、ある事象が別の事象についてどれほどの情報を持っているかを測定するために使われる数学的ツール（相互情報量と呼ばれます）が、実際にトレーニングのガイドとして使用できることを見出しました。彼らは、数学における特定の「つまみ」（$\lambda$ と呼ばれるパラメータ）を調整することで、シミュレーターの内部コードを見る必要なく、より正確にルールを学習させる方法を見つけたのです。

彼らのテストにおいて、彼らはシミュレーターを「ブラックボックス」として扱いました。つまり、入力を入れると出力が出てくるものの、中の歯車がどのように動いているかを覗き見ることができない機械として扱ったのです。彼らは、自分たちの手法が、シミュレーターの内部構造にアクセスできる既存の手法と同等、あるいはそれ以上に、最適な実験を見つけ出し、隠れたパラメータを学習できることを示しました。彼らは、「驚きのある」実験を求める気持ちと、「正確な」学習を求める必要性のバランスを取ることで、より少ないシミュレーターの実行回数でより良い結果が得られることを発見しました。例えば、複雑な生物学的モデルにおいて、彼らの手法は、同等の精度に達するために、従来のトップクラスの手法よりも約50倍少ないシミュレーターの呼び出し数で済みました。また、注意深く行わずに単に「最も情報量の多い」実験を追い求めると、一見スマートに見えても、細部については実は間違っているモデルになってしまう可能性があることも示しました。彼らのアプローチは、最善の学習方法とは、新しい手がかりへの高揚感と証拠の精密さの両方を大切にする、好奇心旺盛でバランスの取れた探偵であることだと示唆しています。