तकनीकी सारांश: LLM-आधारित मॉडल खोज के लिए एक संभाव्य ढांचा (A Probabilistic Framework for LLM-Based Model Discovery)

समस्या विवरण (Problem Statement)

वैज्ञानिक खोज तेजी से यांत्रिक सिम्युलेटर मॉडलों (mechanistic simulator models) पर निर्भर होती है जो व्याख्या और भविष्यवाणी को सक्षम करने के लिए सिद्धांत को डेटा के साथ एकीकृत करते हैं। हालांकि, इन मॉडलों का निर्माण श्रमसाध्य है, जिसके लिए पर्याप्त डोमेन विशेषज्ञता और पुनरावृत्त मैन्युअल परिशोधन की आवश्यकता होती है। जबकि लार्ज लैंग्वेज मॉडल्स (LLMs) पाठ्य सूत्रीकरणों (textual formulations) से सीधे निष्पादन योग्य कोड (executable code) उत्पन्न करके और संशोधित करके इस प्रक्रिया को स्वचालित करने का एक मार्ग प्रदान करते हैं, मौजूदा LLM-आधारित खोज प्रणालियाँ आमतौर पर हस्तनिर्मित ह्यूरिस्टिक्स (heuristics), एजेंट भूमिकाओं और इंटरेक्शन प्रोटोकॉल के माध्यम से परिचालन रूप से परिभाषित की जाती हैं।

ये परिचालन दृष्टिकोण एक स्पष्ट संभाव्य सूत्रीकरण (probabilistic formulation) का अभाव रखते हैं, जिससे तीन प्राथमिक सीमाएं उत्पन्न होती हैं:

1. व्याख्यात्मकता का अभाव (Lack of Interpretability): अंतर्निहित अनुमान समस्या (inference problem) को स्पष्ट रूप से नहीं बताया गया है, जिससे विफलता के मोड छिप जाते हैं और सिद्धांतों के विस्तार में बाधा आती है।
2. सैद्धांतिक अंतराल (Theoretical Gap): ये प्रणालियाँ स्वाभाविक रूप से सैद्धांतिक विश्लेषण या अभिसरण गारंटी (convergence guarantees) को स्वीकार नहीं करती हैं।
3. औपचारिक तर्क (Formal Reasoning): जब भूमिकाएँ ढीली रूप से निर्दिष्ट होती हैं, तो विशिष्ट सिस्टम घटकों की आवश्यकता या पर्याप्तता के बारे में औपचारिक रूप से तर्क करना कठिन होता है।

यह शोध पत्र प्रस्तावित करता है कि स्वचालित मॉडल खोज को केवल एक ह्यूरिस्टिक वर्कफ़्लो के रूप में नहीं, बल्कि एक संभाव्य अनुमान समस्या (probabilistic inference problem) के रूप में देखा जाना चाहिए: अवलोकन संबंधी डेटा $x_o$ की व्याख्या करने में सक्षम यांत्रिक मॉडलों $m$ (जो कोड के रूप में कार्यान्वित हैं) पर एक अज्ञात वितरण $p(m|x_o)$ से नमूना लेना (sampling)।

कार्यप्रणाली: ModelSMC

लेखक ModelSMC पेश करते हैं, जो सीक्वेंशियल मोंटे कार्लो (SMC) सैंपलिंग पर आधारित एक एल्गोरिदम है जो इस संभाव्य ढांचे को स्थापित करता है। ModelSMC प्रस्तावित मॉडलों को एक जनसंख्या में "पार्टिकल्स" (particles) के रूप में मानता है, जिन्हें एक LLM द्वारा पुनरावृत्त रूप से प्रस्तावित, परिष्कृत और भारित (weighted) किया जाता है।

मुख्य एल्गोरिदम

ModelSMC $K$ पुनरावृत्तियों (iterations) में $N$ कणों की जनसंख्या का उपयोग करके पोस्टीरियर वितरण $p(m|x_o)$ का सन्निकटन (approximation) करता है। प्रत्येक पुनरावृत्ति $k$ में एक कण $i$ एक टुपल $(m^i_k, w^i_k, c^i_k)$ होता है, जो मॉडल कोड, उसका भार (weight), और प्रासंगिक फीडबैक (contextual feedback) को दर्शाता है। यह प्रक्रिया प्रति पुनरावृत्ति तीन चरणों में शामिल है:

1. पुनः नमूनाकरण (Resampling): एल्गोरिदम प्रभावी नमूना आकार (Effective Sample Size - ESS) की गणना करता है। यदि ESS एक थ्रेशोल्ड $\tau_{ESS}$ से नीचे गिर जाता है, तो कम-भार वाले कणों को हटाने और उच्च-भार वाले कणों को पुन: उत्पन्न करने के लिए 'सिस्टमैटिक रीसैंपलिंग' लागू की जाती है, जिससे जनसंख्या का पुनर्जीवन होता है।
2. प्रसार (Propagation): प्रत्येक कण को एक मिश्रण कर्नेल (mixture kernel) के माध्यम से प्रसारित किया जाता है। प्रायिकता $\alpha$ के साथ, एक कण बिना किसी परिवर्तन के क्लोन किया जाता है (कंप्यूटेशनल संसाधनों को सुरक्षित रखने के लिए)। प्रायिकता $1-\alpha$ के साथ, एक नया मॉडल कार्यान्वयन एक LLM से लिया जाता है। LLM को निम्नलिखित पर कंडिशन किया जाता है:
   • पुन: नमूना लिए गए कण के पूर्वज मॉडल (ancestral models)।
   • पिछले पुनरावृत्तियों से प्रासंगिक फीडबैक (प्रदर्शन मूल्यांकन और निदान)।
   • एक निश्चित कार्य-विशिष्ट प्रॉम्प्ट ($c_{task}$) जो डोमेन ज्ञान और बाधाओं को एनकोड करता है।
3. भारण (Weighting): प्रत्येक उत्पन्न मॉडल को प्रेक्षित डेटा के मार्जिनल लाइकलीहुड (marginal likelihood) के समानुपाती भार दिया जाता है, $p(x_o|m)$। चूंकि वास्तविक लाइकलीहुड अक्सर अग्रहनीय (intractable) होता है, ModelSMC एक सरोगेट डेंसिटी एस्टिमेटर (विशेष रूप से NLE-PFN, जो TabPFN फाउंडेशन मॉडल का लाभ उठाता है) का उपयोग करके न्यूरल लाइकलीहुड एस्टीमेशन (NLE) के माध्यम से लाइकलीहुड को अनुमानित करता है, जिससे बिना किसी स्पष्ट पैरामीटर अनुकूलन या डिफरेंशिएबल मॉडल की आवश्यकता के काम चलता है।

सैद्धांतिक आधार

यह ढांचा ModelSMC को शास्त्रीय SMC सिद्धांत से जोड़ता है। आदर्श मान्यताओं (सटीक लाइकलीहुड मूल्यांकन और प्रपोजल डिस्ट्रीब्यूशन का प्रायर से मेल खाना) के तहत, लेखक सिद्ध करते हैं कि ModelSMC मॉडल पोस्टीरियर का एक एसिम्प्टोटिकली अनबायस्ड पार्टिकल एप्रोक्सिमेशन (asymptotically unbiased particle approximation) प्रदान करता है। जबकि व्यावहारिक एल्गोरिदम सरोगेट लाइकलीहुड और कॉन्टेक्स्ट-कंडीशन्ड LLM प्रपोजल का उपयोग करता है, यह सैद्धांतिक आधार उन स्थिरता और अभिसरण गुणों के औपचारिक विश्लेषण की अनुमति देता जो ह्यूरिस्टिक एजेंटिक वर्कफ़्लो में अनुपस्थित होते हैं।

मुख्य योगदान

1. संभाव्य सूत्रीकरण (Probabilistic Formulation): यह शोध पत्र स्वचालित LLM-आधारित मॉडल खोज को निष्पादन योग्य प्रोग्रामों पर संभाव्य अनुमान के रूप में प्रस्तुत करता है, जो प्रपोजल, परिशोधन और चयन को एक एकल उद्देश्य के तहत एकीकृत करता है।
2. ModelSMC एल्गोरिदम: यह एक जनसंख्या-आधारित SMC विधि प्रस्तावित करता है जहाँ LLMs 'प्रपोजल डिस्ट्रीब्यूशन' के रूप में कार्य करते हैं, जिससे हाथ से बनाए गए प्रतिबंधों के बिना जटिल, ओपन-एंडेड मॉडल स्पेस (सैकड़ों लाइनों का कोड) का अन्वेषण संभव होता है।
3. अनुभवजन्य सत्यापन (Empirical Validation): इस पद्धति को सिंथेटिक कार्यों और न्यूरोसाइंस (Hodgkin-Huxley न्यूरॉन डायनेमिक्स) और फार्माकोलॉजी (किडनी एल्डोस्टेरोन रेगुलेशन) में वास्तविक दुनिया के डेटासेट पर मान्य किया गया है, जो FunSearch+ के मुकाबले प्रतिस्पर्धी प्रदर्शन प्रदर्शित करता है।
4. सैद्धांतिक विश्लेषण: यह दर्शाता है कि कैसे मौजूदा SMC सिद्धांत का उपयोग स्वचालित मॉडल खोज का विश्लेषण करने के लिए किया जा सकता है, जो अभिसरण और सिस्टम घटकों की भूमिका को समझने के लिए एक लेंस प्रदान करता है।

प्रयोगात्मक परिणाम

लेखकों ने ModelSMC का दो बेसलाइन के विरुद्ध मूल्यांकन किया: FunSearch+ (एक विकासवादी खोज विधि जिसे मॉडल खोज के लिए अनुकूलित किया गया है) और ModelSMC N=1 (एक अनुक्रमिक, गैर-संभाव्य वेरिएंट जिसमें एक ही कण होता है)।

• मात्रात्मक प्रदर्शन (Quantitative Performance): सिंथेटिक (SIR एपिडेमियोलॉजिकल मॉडल) और वास्तविक दुनिया के कार्यों (किडनी फार्माकोलॉजी, Hodgkin-Huxley) में, ModelSMC ने FunSearch+ और ModelSMC N=1 के तुलनीय प्रतिस्पर्धी मार्जिनल और कंडीशनल लाइकलीहुड प्राप्त किया।
• यांत्रिक खोज (Mechanistic Discovery):
  • किडनी मॉडल: ModelSMC ने एल्डोस्टेरोन के लिए लुप्त नियामक गतिशीलता (regulatory dynamics) को सफलतापूर्वक इन्फर किया, जिससे फीडबैक तंत्रों के एक संकीर्ण परिवार की खोज हुई जो सीमित डेटा के बावजूद ग्राउंड ट्रुथ के करीब था।
  • Hodgkin-Huxley मॉडल: एल्गोरिदम ने बेसलाइन मॉडल में संरचनात्मक कमियों की पहचान की, और लगातार उन विस्तारों को उच्च पोस्टीरियर भार दिया जिनमें M-type स्लो पोटेशियम करंट्स ($I_M$) को माध्यमिक चैनलों (जैसे $I_{NaP}$ या $I_h$ के साथ) के साथ जोड़ा गया था।
• पोस्टीरियर विश्लेषण (Posterior Analysis): एकल पॉइंट एस्टीमेट देने वाले तरीकों के विपरीत, ModelSMC मॉडलों पर एक पोस्टीरियर वितरण प्रदान करता है। इसने लेखकों को संरचनात्मक अपर्याप्तता बनाम पैरामीटर अनिश्चितता का निदान करने और मजबूत निष्कर्षों (जैसे $I_M$ की आवश्यकता) को पहचानने में मदद की, जबकि मॉडल स्पेस में समरूपताओं (symmetries) और अस्पष्टताओं को भी उजागर किया।
• एब्लेशन अध्ययन (Ablation Studies): ढांचा वेटिंग स्कीम्स (MSE बनाम लाइकलीहुड), सिमुलेशन बजट, प्रॉम्प्ट जटिलता और LLM बैकबोन (Claude Sonnet 4.6 बनाम GPT-5 mini) में विविधताओं के प्रति मजबूत साबित हुआ।

महत्व और दावे

शोध पत्र का दावा है कि LLM-संचालित मॉडल खोज को संभाव्य अनुमान के रूप में पुनर्गठित करना एक एकीकृत ढांचा (unified framework) प्रदान करता है जो:

• मान्यताओं को स्पष्ट करता है: यह अनुमान समस्या को स्पष्ट रूप से बताता है, जिससे विफलता के मोड और धारणाएं पारदर्शी हो जाती हैं।
• कठोरता सक्षम करता है: यह SMC सिद्धांत से प्राप्त स्थिरता और अभिसरण पर सिद्धांतों वाली गारंटी की अनुमति देता है।
• विश्लेषण की सुविधा देता है: यह सिस्टम घटकों के बारे में औपचारिक तर्क करने में सक्षम बनाता है, जो व्यवस्थित एब्लेशन और विस्तार का समर्थन करता है।
• व्याख्यात्मकता में सुधार करता है: मापदंडों पर मार्जिनलाइज करके और भारित मॉडलों की एक जनसंख्या बनाए रखकर, यह प्रकट करता है कि कौन सी यांत्रिक परिकल्पनाएं दृढ़ता से समर्थित हैं, किन्हें खारिज कर दिया गया है, और कौन सी अनिश्चित बनी हुई हैं, न कि केवल एक "सर्वश्रेष्ठ" मॉडल का चयन करता है।

लेखक इस बात पर जोर देते हैं कि उनका प्राथमिक योगदान मेथोडोलॉजिकल (methodological) है: एक सामान्य अनुमान ढांचा प्रदान करना जहाँ वैज्ञानिक नवीनता और वैधता के बारे में प्रश्न अर्थपूर्ण ढंग से पूछे जा सकते हैं। वे यह दावा नहीं करते हैं कि ModelSMC अनिवार्य रूप से सभी मामलों में नवीन वैज्ञानिक अंतर्दृष्टि उत्पन्न करता है, यह नोट करते हुए कि ऐसे परिणाम विशिष्ट अनुप्रयोग, डेटा और मॉडलिंग धारणाओं पर निर्भर करते हैं। यह ढांचा उन सेटिंग्स के लिए लागू है जहाँ उम्मीदवार मॉडलों को निष्पादित किया जा सकता है और विश्वसनीय लाइकलीहुड अनुमान प्राप्त किए जा सकते हैं।