Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं, लेकिन आप अपराध स्थल को देख नहीं सकते। इसके बजाय, आपके पास एक जादुई, अत्यंत जटिल वीडियो गेम सिम्युलेटर है जो बार-बार अपराध को फिर से बना सकता है। आप खेल के नियमों (ब्रह्मांड के भौतिकी) को जानते हैं, लेकिन आप उन विशिष्ट सेटिंग्स को नहीं जानते जिनका उपयोग "अपराधी" ने उस गड़बड़ी को पैदा करने के लिए किया है। आपका लक्ष्य इन छिपे हुए सेटिंग्स का पता लगाना है—सिम्युलेटर को चलाकर, परिणामों को देखकर और अपने अनुमानों को समायोजित करके। यह सिमुलेशन-आधारित अनुमान (Simulation-Based Inference - SBI) की दुनिया है। वैज्ञानिक इसका उपयोग यह पता लगाने के लिए करते हैं कि दवाएं कोशिकाओं के साथ कैसे परस्पर क्रिया करती हैं या तारे कैसे फटते हैं, क्योंकि वास्तविक प्रयोग बहुत महंगे या खतरनाक हो सकते हैं।

लेकिन इसमें एक पेंच है: सिम्युलेटर चलाना अविश्वसनीय रूप से धीमा और महंगा है। कल्पना कीजिए कि हर बार जब आप अपने गेम कंसोल पर "प्ले" दबाते हैं, तो इसमें एक डॉलर खर्च होता है और लोड होने में दस मिनट लगते हैं। आपके पास "प्ले" करने का एक सीमित बजट है इससे पहले कि आपके पैसे खत्म हो जाएं। इसलिए, आपको यह सोचना होगा कि किन परिदृश्यों को सिम्युलेट किया जाए। यहीं पर बेयसियन ऑप्टिमल एक्सपेरिमेंटल डिजाइन (Bayesian Optimal Optimal Experimental Design - BOED) काम आता है। यह एक सुपर-स्मार्ट रणनीतिकार की तरह है जो पूछता है, "यदि मैं इस विशिष्ट सेटिंग के साथ खेल चलाता हूँ, तो क्या यह मुझे अपराधी की छिपी हुई सेटिंग्स के बारे में सबसे अधिक सिखाएगा?" यह शोध पत्र एक पेचीदा समस्या को संबोधित करता है: आमतौर पर, सही उत्तर खोजने की सबसे अच्छी रणनीति (BOED) और खेल के नियमों को सीखने का सबसे अच्छा तरीका (SBI) को अलग-अलग कार्यों के रूप में माना जाता है, जिसके लिए अक्सर सिम्युलेटर का "पारदर्शी" (गणितीय रूप से बदलने में आसान) होना आवश्यक होता है, जबकि वास्तविक दुनिया के वैज्ञानिक सिम्युलेटर ऐसे नहीं होते।

लेखक, विंसेंट डी. ज़ाबाला और इलियट ई. हुई ने एक नई विधि बनाई है जिसे SBI-BOED कहा जाता है जो इन दोनों दुनियाओं को जोड़ती है। इसे एक एकल AI एजेंट को दो काम एक साथ करने के लिए सिखाने के रूप में समझें: खेल के नियमों को सीखना और साथ ही यह पता लगाना कि सबसे अच्छे कदम कैसे उठाए जाएं। उन्होंने पाया कि एक गणितीय उपकरण, जिसका उपयोग यह मापने के लिए किया जाता है कि एक चीज़ दूसरी चीज़ के बारे में कितनी जानकारी देती है (जिसे म्युचुअल इंफॉर्मेशन/Mutual Information कहा जाता है), वास्तव में एक प्रशिक्षण मार्गदर्शक के रूप में उपयोग किया जा सकता है। अपने गणित में एक विशिष्ट "नॉब" (एक पैरामीटर जिसे वे $\lambda$ कहते हैं) को बदलकर, उन्होंने एक तरीका खोजा जिससे AI बिना सिम्युलेटर के आंतरिक कोड को देखे, नियमों को अधिक सटीक रूप से सीख सकता है।

अपने परीक्षणों में, उन्होंने सिम्युलेटर के साथ एक "ब्लैक बॉक्स" की तरह व्यवहार किया—एक ऐसी मशीन जहाँ आप इनपुट डालते हैं और आउटपुट प्राप्त करते हैं, लेकिन आप गियर को देखने के लिए अंदर नहीं झाँक सकते। उन्होंने दिखाया कि उनकी विधि सबसे अच्छे प्रयोगों को खोजने और छिपे हुए मापदंडों को सीखने में अन्य मौजूदा विधियों के समान या उनसे बेहतर प्रदर्शन कर सकती है, भले ही उन विधियों के पास सिम्युलेटर की आंतरिक कार्यप्रणाली तक पहुँच हो। उन्होंने पाया कि "सबसे अधिक सूचनात्मक" प्रयोगों के पीछे भागने और "सटीक" सीखने की आवश्यकता के बीच संतुलन बनाकर, वे कम सिम्युलेटर रन के साथ बेहतर परिणाम प्राप्त कर सकते हैं। उदाहरण के लिए, एक जटिल जैविक मॉडल पर, उनके तरीके ने समान सटीकता तक पहुँचने के लिए कुछ पिछले शीर्ष-स्तरीय तरीकों की तुलना में लगभग 50 गुना कम सिम्युलेटर कॉल्स का उपयोग किया। उन्होंने यह भी दिखाया कि यदि आप केवल "सबसे सूचनात्मक" प्रयोग के पीछे भागते हैं और सावधान नहीं रहते हैं, तो आप एक ऐसा मॉडल बना सकते हैं जो स्मार्ट दिखता है लेकिन वास्तव में विवरणों के बारे में गलत है। उनका दृष्टिकोण बताता है कि सीखने का सबसे अच्छा तरीका एक जिज्ञासु, संतुलित जासूस बनना है जो नए सुराग के रोमांच और साक्ष्य की सटीकता, दोनों को महत्व देता है।