💻 computer science

BayesEvolve: Explicit Belief States for Autonomous Scientific Discovery

यह शोध पत्र BayesEvolve को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो परिकल्पना सृजन (hypothesis generation) को निर्देशित करने के लिए स्मृति-आधारित ह्यूरिस्टिक्स के स्थान पर स्पष्ट, अनिश्चितता-सचेत विश्वास अवस्थाओं (uncertainty-aware belief states) को प्रतिस्थापित करके स्वायत्त वैज्ञानिक खोज को उन्नत करता है, जो ब्लैक-बॉक्स अनुकूलन कार्यों पर बेहतर नमूना दक्षता और केंद्रित अन्वेषण का प्रदर्शन करता है।

मूल लेखक: Xuening Wu, Shan Yu, Qianya Xu, Shenqin Yin

प्रकाशित 2026-06-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xuening Wu, Shan Yu, Qianya Xu, Shenqin Yin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, धुंधली घाटी में सबसे गहरे बिंदु को खोजने की कोशिश कर रहे हैं, लेकिन आप केवल कुछ सीमित कदम ही चल सकते हैं। आपके पास एक बहुत ही बुद्धिमान सहायक (एक AI) है जो आपको सुझाव दे सकता है कि आगे कहाँ चलना है।

अधिकांश वर्तमान प्रणालियाँ एक स्मारिका (scrapbook) रखने वाले पर्यटक की तरह काम करती हैं। हर बार जब सहायक किसी स्थान की जांच करता है, तो वे परिणाम को एक स्मारिका में लिख लेते हैं। जब अगला स्थान चुनने का समय आता है, तो वे बस स्मारिका के पन्ने पलटते हैं, अब तक मिले "सबसे अच्छे" स्थानों को देखते हैं, और अनुमान लगाते हैं, "चलो इसके जैसा ही कुछ और प्रयास करते हैं।"

समस्या यह है कि स्मारिका केवल यह बताती है कि क्या हुआ था, यह नहीं कि सहायक आगे क्या होने की संभावना मानता है। यह नहीं जानता कि अपने अनुमानों के बारे में वह कितना आश्वस्त है, और यह एक ही जगह के आसपास घूमता रह सकता है या बिना किसी योजना के भटक सकता है।

BayesEvolve इसे करने का एक नया तरीका है। केवल एक स्मारिका रखने के बजाय, यह AI को एक "जीवंत विश्वास अवस्था" (living, breathing map of beliefs) बनाए रखने के लिए मजबूर करता है।

यह इस प्रकार काम करता है, सरल उपमाओं का उपयोग करते हुए:

1. "जीवंत मानचित्र" (स्पष्ट विश्वास अवस्था - Explicit Belief States)

पिछले परिणामों को देखने के बजाय, BayesEvolve AI को एक "विश्वास अवस्था" बनाए रखने के लिए मजबूर करता है। इसे घाटी के मौसम पूर्वानुमान की तरह समझें।

पूर्वानुमान: "मुझे लगता है कि यहाँ ज़मीन नीची है।"
अनिश्चितता: "लेकिन मैं अभी पूरी तरह निश्चित नहीं हूँ क्योंकि मैं वहाँ गया नहीं हूँ।"
अपडेट: हर बार जब एक नया कदम उठाया जाता है, तो AI इस मानचित्र को अपडेट करता है। यह केवल डेटा को याद नहीं रखता; यह प्रत्येक अनछुए क्षेत्र में अपने विश्वास (confidence) की पुनर्गणना करता है।

2. "स्मार्ट दिशा-सूचक यंत्र" (विश्वास-निर्देशित चयन - Belief-Guided Selection)

जब AI को अगला स्थान चुनना होता है, तो वह केवल स्मारिका में उच्चतम स्कोर को नहीं देखता। यह एक विशेष दिशा-सूचक नियम का उपयोग करता है जो दो चीजों के बीच संतुलन बनाता है:

दोहन (Exploitation): "चलो वहाँ चलते हैं जहाँ मानचित्र कहता है कि ज़मीन सबसे नीची है।"
अन्वेषण (Exploration): "चलो वहाँ चलते हैं जहाँ मानचित्र धुंधला (अनिश्चित) है, क्योंकि हमें वहाँ कुछ और भी बेहतर मिल सकता है।"

महत्वपूर्ण रूप से, यह दिशा-सूचक यंत्र समय के साथ बदलता है। शुरुआत में, दिशा-सूचक यंत्र बहुत सक्रिय होता है और AI को ज़मीन का हाल जानने के लिए धुंध में भटकने के लिए प्रोत्साहित करता है। जैसे-जैसे AI अधिक डेटा एकत्र करता है, "धुंध" छंटती जाती है, और दिशा-सूचक यंत्र धीरे-धीरे सबसे आशाजनक निचले बिंदुओं पर केंद्रित हो जाता है। इसे "एनील्ड अनसर्टेन्टी बोनस" (annealed uncertainty bonus) कहा जाता है—मूल रूप से, AI को शुरुआत में साहसी होने की अनुमति दी जाती है लेकिन जैसे-जैसे वह सीखता है, वह अधिक केंद्रित और गंभीर होता जाता है।

3. परिणाम: तेज़ी से तल तक पहुँचना

शोधकर्ताओं ने इसका परीक्षण जटिल, अदृश्य गणितीय पहेलियों (जिन्हें "शिफ्टेड BBOB टास्क" कहा जाता है) पर किया। उन्होंने "स्मारिका" विधियों के मुकाबले BayesEvolve की तुलना की।

स्मारिका विधियाँ ठीक थीं, लेकिन वे अक्सर अटक जाती थीं या कदम बर्बाद करती थीं।
BayesEvolve बहुत अधिक कुशल था। इसने कम चरणों का उपयोग करके सबसे निचले बिंदुओं को खोज लिया।

अध्ययन ने दिखाया कि:

"जीवंत मानचित्र" वास्तव में सटीक था; यह उन नए स्थानों की गुणवत्ता का अनुमान लगा सकता था जिन्हें उसने अभी तक नहीं देखा था।
उच्च अनिश्चितता से शुरू होकर धीरे-धीरे केंद्रित होने की रणनीति, हर बार "सबसे अच्छे" दिखने वाले स्थान को चुनने की तुलना में बेहतर थी।
अंतिम चरणों में, BayesEवolve ने बिना किसी उद्देश्य के भटकना बंद कर दिया और अपने प्रयासों को सबसे आशाजनक क्षेत्र पर केंद्रित किया, जबकि अन्य विधियाँ बेकार में फैलती रहीं।

यह क्या नहीं है (अभी तक)

शोध पत्र बहुत सावधानी से कहता है कि यह क्या नहीं है।

यह वर्तमान में नई दवाओं की खोज करने या वास्तविक लैब में नया कंप्यूटर कोड लिखने वाली प्रणाली नहीं है।
परीक्षण वास्तविक वैज्ञानिक प्रयोगों पर नहीं, बल्कि अमूर्त गणितीय पहेलियों पर किए गए थे।
जिस "विश्वास अवस्था" का उपयोग किया गया है, वह एक विशिष्ट प्रकार के गणित (Gaussian Processes) का उपयोग करती है जो इन पहेलियों के लिए अच्छा काम करता है, लेकिन अधिक जटिल, वास्तविक दुनिया के कार्यों के लिए इसे बदलने की आवश्यकता हो सकती है।

संक्षेप में: BayesEvolve AI को केवल अतीत को याद रखने के बजाय सक्रिय रूप से भविष्य का विश्वास करने और पूर्वानुबंध करने के लिए सिखाता है। यह ट्रैक रखकर कि वह क्या जानता है और वह किस बारे में अनिश्चित है, यह पिछले सफलताओं की सूची पर निर्भर रहने वाले सिस्टम की तुलना में बेहतर समाधान तेजी से खोज लेता है।

तकनीकी सारांश: BayesEvolve

समस्या विवरण

स्वायत्त वैज्ञानिक खोज प्रणालियाँ (Autonomous scientific discovery systems) परिकल्पनाओं (hypotheses) को उत्पन्न करने और चुनने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) का तेजी से उपयोग कर रही हैं। हालाँकि, वर्तमान प्रतिमान (paradigms), जैसे कि Funंच (FunSearch) और अल्फाइवॉल्व (AlphaEvolve) में देखे गए, मुख्य रूप से LLM प्रस्तावों को प्रायोगिक स्मृति (experimental memory) पर आधारित करते हैं। यह स्मृति आमतौर पर उच्च-स्कोर वाले उम्मीदवारों के अभिलेखागार (archives) या हालिया परीक्षणों के ह्यूरिस्टिक सारांश से बनी होती है।

लेखक तर्क देते हैं कि यह आर्काइव-निर्देशित दृष्टिकोण साक्ष्य को एक अंतर्निहित (implicit) रूप में छोड़ देता है। जबकि पिछले प्रयोगों की एक सूची यह बताती है कि "क्या हुआ," यह स्पष्ट रूप से निम्नलिखित को एनकोड करने में विफल रहती है:

एजेंट वर्तमान में अनमूल्यांकित परिकल्पनाओं के बारे में क्या विश्वास रखता है।
उन विश्वासों से जुड़ी अनिश्चितता (uncertainty) क्या है।
अगला सबसे अधिक सूचनात्मक प्रयोग कौन सा होगा।

यह सीमा दो प्राथमिक लागतें पैदा करती है: एजेंट देखे गए आर्काइव से परे अनुमानित गुणवत्ता के बारे में तर्क नहीं कर सकता है, और इसमें या तो शुरुआती उत्कृष्ट उम्मीदवारों पर अत्यधिक ध्यान केंद्रित करने का जोखिम रहता है या साक्ष्य को एक निर्देशित खोज रणनीति में परिवर्तित किए बिना अनियंत्रित अन्वेषण (unfocused exploration) जारी रखने का जोखिम रहता है।

कार्यप्रणाली: BayesEvolve

यह शोध पत्र BayesEvolve पेश करता है, जो एक ढांचा (framework) है जो स्वायत्त खोज को विश्वास-अवस्था विकास (belief-state evolution) के रूप में पुनर्गठित करता है। अनस्ट्रक्चर्ड मेमोरी के रूप में पिछले मूल्यांकनों के रूप में मानने के बजाय, BayesEvolve उम्मीदवार की गुणवत्ता पर एक स्पष्ट, अनिश्चितता-जागरूक भविष्य कहनेवाला विश्वास अवस्था (predictive belief state) बनाए रखता है।

मुख्य घटक

स्पष्ट विश्वास अवस्था (Explicit Belief State):
प्रत्येक चरण $t$ पर, सिस्टम मूल्यांकन इतिहास $D_t$ के दिए गए, एक परिकल्पना $h$ के लिए ऑब्जेक्टिव मान $y$ पर एक पोस्टीरियर विश्वास $P(y | h, D_t)$ बनाए रखता है। प्रयोगों में, इसे एक गॉसियन प्रोसेस (GP) पोस्टीरियर के रूप में लागू किया गया है:
$P(y | h, D_t) = \mathcal{N}(\mu_t(h), \sigma^2_t(h))$
जहाँ $\mu_t(h)$ अनुमानित ऑब्जेक्टिव है और $\sigma_t(h)$ पोस्टीरियर अनिश्चितता है। यह ढांचा विशिष्ट सरोगेट मॉडल या उम्मीदवार प्रतिनिधित्व के प्रति तटस्थ (agnostic) है।
विश्वास-निर्देशित चयन (Belief-Guided Selection):
उम्मीदवारों के एक पूल $C_t$ से अगला उम्मीदवार चुनने के लिए, BayesEvolve एक अनिश्चितता-जागरूक स्कोर का उपयोग करता है। चूंकि लक्ष्य न्यूनीकरण (minimization) है, इसलिए चयन नियम अनुमानित माध्य (mean) और अनिश्चितता को जोड़ता है:
$a_t(h) = -\mu_t(h) + \beta_t \sigma_t(h)$
महत्वपूर्ण रूप से, अनिश्चितता गुणांक $\beta_t$ समय के साथ एनील (annealed/घटता) होता है:
$\beta_t = \beta_0 \frac{n_0}{t}$
जहाँ $n_0$ साझा प्रारंभिक मूल्यांकनों की संख्या है। यह डिज़ाइन प्रक्रिया के शुरुआती चरणों में व्यापक अन्वेषण (exploration) को प्रोत्साहित करता है और जैसे-जैसे साक्ष्य संचित होते हैं, विश्वास माध्य (belief mean) के दोहन (exploitation) की ओर बढ़ता है।
कार्यप्रवाह (Workflow):
सिस्टम $n_0$ रैंडम मूल्यांकनों के साथ शुरू होता है। प्रत्येक आगामी चरण में, यह विश्वास अवस्था को फिट/अपडेट करता है, एक उम्मीदवार पूल (LLM प्रस्तावों और/या आर्काइव उत्परिवर्तन से) बनाता है, सभी उम्मीदवारों के लिए अधिग्रहण स्कोर (acquisition score) की गणना करता है, सर्वश्रेष्ठ को चुनता है, उसका मूल्यांकन करता है, और इतिहास को अपडेट करता है।

मुख्य योगदान

शोध पत्र चार प्राथमिक योगदानों को रेखांकित करता है:

रूपण (Formulation): यह LLM-निर्देशित खोज को केवल आर्काइव मेमोरी के बजाय स्पष्ट विश्वास-अवस्था रखरखाव के रूप में पुनर्गठित करता है।
एल्गोरिदम (Algorithm): यह एक विश्वास-निर्देशित चयन नियम पेश करता है जिसमें एक एनेल्ड अनिश्चितता बोनस शामिल है जो अन्वेषण से दोहन की ओर संतुलन को गतिशील रूप से बदलता है।
मूल्यांकन (Evaluation): यह शिफ्टेड BBOB-शैली के ब्लैक-बॉक्स ऑप्टिमाइज़ेशन कार्यों पर BayesEвolve का मूल्यांकन करता है, जो आर्काइव-और-मेमोरी-निर्देशित LLM बेसलाइन्स की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।
विश्लेषण (Analysis): यह प्रमाण प्रदान करता है कि विश्वास अवस्था होल्ड-आउट उम्मीदवारों पर भविष्य कहनेवाला (predictive) है और सिस्टम अनफोकस्ड एक्सप्लोरेशन के बजाय उत्पादक देर-चरण एकाग्रता (late-stage concentration) प्रदर्शित करता है।

प्रयोगात्मक परिणाम

मूल्यांकन पांच शिफ्टेड BBOB-शैली के न्यूनीकरण कार्यों (Sphere, Ellipsoid, Rastrigin, Rosenbrock, Ackley) में आयाम $d=5$ में किया गया था। सेटअप ने $T=100$ मूल्यांकनों के निश्चित बजट का उपयोग किया और BayesEvolve की तुलना Random-LLM, Archive-LLM, Memory-LLM और एक गैर-LLM GP-BO बेसलाइन से की।

प्रदर्शन (Performance): BayesEvolve ने पूरे बजट के दौरान सर्वश्रेष्ठ माध्य सामान्यीकृत ऑब्जेक्टिव प्राप्त किया और 100 मूल्यांकनों पर सर्वश्रेष्ठ अंतिम प्रदर्शन (0.195 बनाम GP-BO के लिए 0.229 और Archive-LLM के लिए 0.473) प्राप्त किया। लाभ सबसे महत्वपूर्ण रूप से मेमोरी-निर्देशित LLM बेसलाइन्स के सापेक्ष थे।
विश्वास की गुणवत्ता (Belief Quality): पोस्टीरियर मीन, वास्तविक ऑब्जेक्टिव मानों के साथ मजबूती से रैंक-कोरिलेटेड था (Spearman $\rho = 0.774$ )। हालांकि, विश्वास अवस्था पूरी तरह से कैलिब्रेटेड नहीं थी, जिसमें एक-सिग्मा अंतराल के लिए 0.433 का एम्पिरिकल कवरेज देखा गया।
एब्लेशन अध्ययन (Ablation Studies):
- केवल-माध्य चयन (Mean-only selection) ने पहले ही आर्काइव खोज की तुलना में पर्याप्त सुधार किया, जो दर्शाता है कि भविष्य कहनेवाला माध्य प्रदर्शन का प्राथमिक चालक है।
- एनील्ड अनिश्चितता (Annealed Uncertainty): घटते अनिश्चितता बोनस को जोड़ने से सर्वश्रेष्ठ अंतिम स्कोर मिला, जो पुष्टि करता है कि अनिश्चितता तब सबसे उपयोगी होती है जब अन्वेषण को धीरे-धीरे कम किया जाता है।
- विविधता (Diversity): Random-LLM या GP-BO के विपरीत, जो पूरे समय उच्च विविधता बनाए रखते हैं, BayesEvolve ने निम्नतम ऑब्जेक्टिव प्राप्त करते हुए देर के चरण में विविधता को कम कर दिया। यह "उत्पादक एकाग्रता" (productive concentration) का सुझाव देता है, न कि अनियंत्रित आर्काइव पतन (archive collapse) का।

महत्व और दावे

शोध पत्र का दावा है कि स्पष्ट विश्वास-अवस्था विकास स्वायत्त वैज्ञानिक खोज के लिए एक उपयोगी सिद्धांत है। परिणाम तीन विशिष्ट दावों का समर्थन करते हैं:

स्पष्ट विश्वास अवस्थाएँ आर्काइव और ह्यूरिस्टिक-मेमोरी बेसलाइन्स की तुलना में नमूना दक्षता (sample efficiency) में सुधार करती हैं।
सीखा गया विश्वास अवस्था, केवल एक प्रॉम्प्ट आर्टिफैक्ट के बजाय, होल्ड-आउट उम्मीदवारों के लिए एक भविष्य कहनेवाला उपकरण के रूप में कार्य करता है।
निर्णय नियम मायने रखते हैं: जबकि पोस्टीरियर मीन अधिकांश लाभ संचालित करता है, एक एनील्ड अनिश्चितता बोनस अन्वेषण से दोहन की ओर संक्रमण को अनुकूलित करता है।

सीमाएं और दायरा (Limitations and Scope):
लेखक स्पष्ट रूप से नोट करते हैं कि वर्तमान कार्य एक नियंत्रित टेस्टबेड है जो शिफ्टेड BBOB-शैली के संख्यात्मक अनुकूलन का उपयोग करता है। यह अभी तक पूर्ण प्रोग्राम जनरेशन या प्रयोगशाला खोज डोमेन को कवर नहीं करता है। इसके अतिरिक्त, GP विश्वास अवस्था, हालांकि भविष्य कहनेवाला है, अपूर्ण रूप से कैलिब्रेटेड है, और इसकी स्केलिंग सीमाएं बड़े मूल्यांकन बजट के साथ स्पार्स (sparse) या न्यूरल सरोगेट्स की आवश्यकता का सुझाव देती हैं। विविधता विश्लेषण "उत्पादक एकाग्रता" पर ध्यान केंद्रित करता है, जो सुझाव देता है कि भविष्य के कार्यों को जटिल परिकल्पना स्थानों के लिए समृद्ध अर्थ संबंधी (semantic) और संरचनात्मक विविधता की खोज करनी चाहिए।