तकनीकी सारांश: निरंतर वैज्ञानिक खोज के लिए साक्ष्य-सूचित LLM विश्वास (Evidence-Informed LLM Beliefs)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करके ओपन-एंडेड वैज्ञानिक खोज अक्सर परिकल्पना खोज (hypothesis search) और सत्यापन (verification) के एक लंबे क्षितिज वाले लूप के रूप में संचालित होती है, जो एक रिवॉर्ड सिग्नल द्वारा निर्देशित होती है। एक प्रमुख उदाहरण AutoDiscovery है, जो "बेयसियन सरप्राइज" (Bayesian surprise)—अर्थात एक परिकल्पना के लिए साक्ष्य देखने के बाद LLM के विश्वास में आया बदलाव—को खोज के लिए एक मीट्रिक और खोज के लिए एक रिवॉर्ड के रूप में उपयोग करता है।

लेखक इस दृष्टिकोण में एक महत्वपूर्ण विफलता मोड की पहचान करते हैं: स्थिर विस्मय (static surprisal)। AutoDiscovery LLM के पूर्व विश्वासों (prior beliefs) को स्थिर और बिना शर्त मानता है, और प्रत्येक नई परिकल्पना का मूल्यांकन उसके पैरामीट्रिक ज्ञान के विरुद्ध अलग से करता है। यह मानव वैज्ञानिक तर्क के साथ एक बेमेल स्थिति पैदा करता है, जहाँ विश्वास स्थिर नहीं होते और अनुभव के साथ विकसित होते हैं। फलस्वरूप, स्थिर विस्मय (static surprisal):

1. प्रगति को बढ़ा-चढ़ाकर दिखाता है: यह व्युत्पन्न परिकल्पनाओं (वे परिकल्पनाएं जो पिछली खोजों द्वारा निहित हैं) को नवीन और आश्चर्यजनक के रूप में गिनता है।
2. खोज बजट को बर्बाद करता है: यह एजेंट को बार-बार परिकल्पना स्थान के संतृप्त क्षेत्रों (saturated regions) की ओर मोड़ देता है, जिससे दोहराव वाली "पुनः खोज" (rediscoveries) होती है।

न्यूरोसाइंस और सोशल साइंस के मानव विशेषज्ञ अध्ययनों ने इस मिसअलाइनमेंट की पुष्टि की, जिससे पता चला कि AutoDiscovery द्वारा आश्चर्यजनक मानी गई परिकल्पनाओं में से लगभग 29.54% और 25% क्रमशः संबंधित डोमेन में पिछली खोजों द्वारा पर्याप्त रूप से निहित थीं।

कार्यप्रणाली (Methodology)

यह शोध पत्र गैर-स्थिर विस्मय (non-stationary surprisal) को सक्षम करने के लिए साक्ष्य-सूचित LLM विश्वास (Evidence-Informed LLM Beliefs) हेतु एक फ्रेमवर्क प्रस्तावित करता है। कार्यप्रणाली के दो मुख्य घटक हैं: विश्वास पूर्वों (belief priors) को अपडेट करना और खोज प्रक्रिया को संशोधित करना।

1. इन-कॉन्टेक्स्ट विश्वास अपडेटिंग के माध्यम से गैर-स्थिर विस्मय

एक स्थिर पूर्व $P(\theta_H)$ के बजाय, सिस्टम पिछले परिकल्पनाओं और उनके सत्यापन परिणामों के इतिहास पर आधारित एक गैर-स्थिर पूर्व (non-stationary prior) की गणना करता है: $P(\theta_H | \{(H^{(i)}, V^{(i)}_D)\}_{i=1}^{t-1})$।

इसे लागू करने के लिए, लेखकों ने पिछले साक्ष्य को प्राप्त करने और एकीकृत करने के लिए विभिन्न इन-कॉन्टेक्स्ट लर्निंग (ICL) तंत्रों का मूल्यांकन किया:

• पूर्ण संदर्भ ($C_{full}$): सभी पिछले खोजों को इंजेक्ट करना।
• Top-k रिट्रीवल ($C_{top-k}$): एम्बेडिंग्स का उपयोग करके $k$ सबसे समान पिछले परिकल्पनाओं को प्राप्त करना।
• स्ट्रक्चर्ड मेमोरी ($C_{mem0}$): एक ग्राफ-आधारित मेमोरी सिस्टम (Mem0) का उपयोग करना।

निष्कर्ष: एम्बेडिंग-आधारित Top-k रिट्रीवल (RAG), जिसमें $k=25$ है, सबसे प्रभावी सिद्ध हुआ। यह भविष्य के पोस्टीरियर विश्वासों का सबसे अच्छा पूर्वानुमान लगाता है, जो स्थिर बेसलाइन की तुलना में कुल स्थिर विस्मयों (static surprisals) की संख्या को औसतन 37.43% कम कर देता है। यह विधि पूर्ण संदर्भ या जटिल मेमोरी संरचनाओं की तुलना में प्रदर्शन और कंप्यूटेशनल लागत (टोकन उपयोग) के बीच बेहतर संतुलन बनाती है।

2. साक्ष्य-सूचित खोज (Evidence-Informed Search)

केवल स्थिर रिवॉर्ड को गैर-स्थिर विस्मय से बदलना खोज पथ (trajectory) को बदलने के लिए अपर्याप्त पाया गया; एजेंट अभी भी समान परिकल्पनाओं की खोज कर रहा था। इसे संबोधित करने के लिए, लेखकों ने खोज एल्गोरिदम (MCTS के साथ प्रोग्रेसिव वाइडनिंग) में परिकल्पना चयन चरण के लिए दो पूरक तंत्र पेश किए:

• विश्वास-अपडेट फ़िल्टरिंग (Belief-Update Filtering): सत्यापन के लिए एक परिकल्पना चुनने से पहले, सिस्टम यह जांचता है कि क्या वह परिकल्पना पहले के साक्ष्यों द्वारा पहले से ही अच्छी तरह से समझाई जा सकती है। यह एक साक्ष्य-सूचित संदर्भ बनाता है और एक अपडेटेड पूर्व (prior) प्राप्त करता है। यदि स्थिर पूर्व और साक्ष्य-सूचित पूर्व के बीच का अंतर थ्रेशोल्ड ($\kappa = 0.2$) से अधिक है, तो उस परिकल्पना को फ़िल्टर कर दिया जाता है। यह एजेंट को उन परिकल्पनाओं पर बजट बर्बाद करने से रोकता है जो अपडेटेड विश्वास अवस्था के तहत अब आश्चर्यजनक नहीं रह गई हैं।
• विविधता अधिकतमकरण (Diversity Maximization): सिस्टम स्पष्ट रूप से अन्वेषण (exploration) को प्राथमिकता देता है और उन उम्मीदवारों का चयन करता है जिनकी सिमेंटिक समानता (semantic similarity) पिछले सत्यापित परिकल्पनाओं से सबसे कम है। इसकी गणना शीर्ष-$k$ निकटतम पिछले परिकल्पनाओं के औसत कोसाइन डिस्टेंस (cosine distance) का उपयोग करके की जाती है। यह तंत्र सुनिश्चित करता है कि खोज नए सिमेंटिक क्षेत्रों की खोज करे, न कि केवल तत्काल डुप्लिकेट्स से बचे।
• ऑनलाइन डी-डुप्लिकेशन (Online De-duplication): पदानुक्रमित एगोमरेटिव क्लस्टरिंग (HAC) का उपयोग करने वाला एक अतिरिक्त स्तर, जो पहले से सत्यापित परिकल्पनाओं या वर्तमान नोड के अन्य उम्मीदवारों के साथ सिमेंटिक रूप से रेडंडेंट (redundant) उम्मीदवारों को हटा देता है, जिससे निकट-डुप्लिकेट अन्वेषण रुकता है।

मुख्य परिणाम (Key Results)

प्रस्तावित विधि का मूल्यांकन पाँच खोज डोमेन (NLS-SES, पुरातत्व, विकास ताजे पानी की मछली, प्रजनन क्षमता, बंधक/Mortgage) में प्रति रन 500 प्रयोगों के खोज बजट के साथ किया गया।

• संचित गैर-स्थिर विस्मय (Accumulated Non-Stationary Surprisal): पूर्ण "साक्ष्य-सूचित खोज" (विश्वास-अपडेट फ़िल्टरिंग, विविधता अधिकतमकरण और ऑनलाइन डी-डुप्लिकेशन को मिलाकर) ने मूल स्थिर खोज प्रक्रिया की तुलना में संचित गैर-स्थिर विस्मय को औसतन 30.62% बढ़ा दिया।
• बेसलाइन्स के साथ तुलना:
  • विधि ने मानक AutoDiscovery खोज की तुलना में 41 अतिरिक्त विस्मयों (30.63% लाभ) से बेहतर प्रदर्शन किया।
  • इसने केवल ऑनलाइन डी-डुप्लिकेशन वाले मानक खोज की तुलना में 21 अतिरिक्त विस्मयों (13.37% लाभ) से बेहतर प्रदर्शन किया, जो दर्शाता है कि विश्वास फ़िल्टरिंग और विविधता अधिकतमकरण, सरल डी-डुप्लिकेशन से परे मूल्य प्रदान करते हैं।
  • केवल चयन तंत्र को बदले बिना रिवॉर्ड को गैर-स्थिर विस्मय से बदलने से कोई महत्वपूर्ण सुधार नहीं हुआ, जो चयन प्रक्रिया में स्पष्ट संशोधनों की आवश्यकता को उजागर करता है।
• सिमेंटिक विविधता: प्रस्तावित विधि ने मानक खोज (0.523–0.527) की तुलना में काफी कम औसत पेयरवाइज कोसाइन समानता (0.448–0.452) वाली परिकल्पनाएँ उत्पन्न कीं, जो व्यापक सिमेंटिक कवरेज का संकेत देती हैं।
• एब्लेशन अध्ययन (Ablation Studies): किसी भी घटक (विविधता अधिकतमकरण, विश्वास-अपडेट फ़िल्टरिंग, या ऑनलाइन डी-डुप्लिकेशन) को हटाने से प्रदर्शन गिर गया, जो पुष्टि करता है कि प्रत्येक तंत्र रेडंडेंसी के एक अलग स्रोत को संबोधित करता है।

महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि LLMs के साथ निरंतर वैज्ञानिक खोज के लिए न केवल बेहतर विश्वास मापन की आवश्यकता है, बल्कि ऐसी खोज प्रक्रियाओं की भी आवश्यकता है जो सक्रिय रूप से रेडंडेंसी को प्रबंधित करें और विविधता को प्रोत्साहित करें।

प्रमुख योगदानों में शामिल हैं:

1. एक विफलता मोड की पहचान: यह प्रदर्शित करना कि निरंतर खोज में स्थिर विस्मय (static surprisal) व्युत्पन्न परिकल्पनाओं के स्पूरियस रिवार्डिंग (spurious rewarding) की ओर ले जाता है, जिसे मानव विशेषज्ञों द्वारा सत्यापित किया गया है।
2. गैर-स्थिर विस्मय (Non-Stationary Surprisal): पिछले परिकल्पनाओं से साक्ष्य के साथ LLM पूर्वों (priors) को अपडेट करने की एक विधि पेश करना, यह दिखाते हुए कि एम्बेडिंग-आधारित RAG, परिणामी पोस्टीरियर विश्वासों का सबसे अच्छा अनुमान लगाता है।
3. साक्ष्य-सूचित खोज (Evidence-Informed Search): एक खोज रणनीति का प्रस्ताव करना जो विश्वास-अपडेट फ़िल्टरिंग और विविधता अधिकतमकरण को जोड़ती है, जो सफलतापूर्वक खोज बजट को संतृप्त क्षेत्रों से हटाकर वास्तव में नवीन परिकल्पनाओं की ओर पुनर्वितरित करती है।

लेखक निष्कर्ष निकालते हैं कि लंबे समय तक चलने वाले LLM डिस्कवरी सिस्टमों के प्रभावी होने के लिए, उन्हें दुनिया के एक स्थिर मॉडल पर भरोसा करने के बजाय, एजेंट की संचयी एपिस्टेमिक स्थिति (epistemic state) के आधार पर यह संशोधित करना चाहिए कि "आश्चर्यजनक" क्या है।

सीमाएँ (Limitations)

लेखक कई सीमाओं को स्वीकार करते हैं:

• एलीसिटेशन गुणवत्ता (Elicitation Quality): विश्वास अनुमान प्रॉम्प्टिंग विकल्पों, सैंपलिंग वेरिएंस और अनिश्चितता व्यक्त करने की LLM की क्षमता पर निर्भर करते हैं।
• वैध पुनरावृत्ति का दमन (Suppression of Valid Revisits): गैर-स्थिर उद्देश्य उन परिकल्पनाओं को दबा सकता है जो मजबूत या परस्पर विरोधी साक्ष्यों के तहत वैध रूप से पुनः देखे जाने योग्य हैं।
• स्केलेबिलिटी (Scalability): वर्तमान प्रयोग नियंत्रित सेटिंग्स और सीमित बजट पर केंद्रित हैं; खुले-अंत वाले वर्कफ़्लो के लिए वर्तमान कॉन्टेक्स्ट विंडो से परे बेहतर सत्यापन तंत्र और दीर्घकालिक मेमोरी समाधानों की आवश्यकता होगी।