Verifier-Grounded Interference Search: Exact State Merging, Learned Inhibition, and Parallel Execution for Language-Model Reasoning
यह शोध पत्र एक वेरीफायर-ग्राउंडेड इंटरफेरेंस सर्च फ्रेमवर्क का प्रस्ताव और मूल्यांकन करता है जो सटीक स्टेट मर्जिंग, लर्नड इनहिबिशन और पैरेलल एक्जीक्यूशन का लाभ उठाकर लैंग्वेज मॉडल रीजनिंग की दक्षता और सॉल्व रेट में महत्वपूर्ण सुधार करता है, जैसा कि काउंटडाउन और MBPP बेंचमार्क पर अनुभवजन्य परिणामों द्वारा प्रदर्शित किया गया है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जब एक कंप्यूटर किसी जटिल समस्या को हल करने की कोशिश करता है, तो वह अक्सर कई अलग-अलग रास्तों की खोज करता है, ठीक वैसे ही जैसे एक यात्री एक विशाल, शाखाओं वाले जंगल के माध्यम से रास्ता खोजने की कोशिश करता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये "रास्ते" उन चरणों के अनुक्रम हैं जिन्हें कंप्यूटर एक उत्तर तक पहुँचने के लिए लेता है। एक सामान्य चुनौती तब उत्पन्न होती है जब दो अलग-अलग रास्ते जंगल में बिल्कुल एक ही स्थान पर पहुँच जाते हैं। यदि कंप्यूटर यह महसूस नहीं कर पाता कि वह एक परिचित स्थान पर पहुँच गया है, तो वह एक ही क्षेत्र की दोबारा खोज करने, एक ही मृत अंत (dead ends) की जाँच करने और एक ही गणनाओं को बार-बार करने में अपना समय बर्बाद कर सकता है। यह पुनरावृत्ति (redundancy) उन प्रणालियों के लिए एक बड़ा अवरोध है जिन्हें कठिन कार्यों, जैसे गणितीय पहेलियों को हल करने या कंप्यूटर कोड लिखने के लिए तर्क करने की आवश्यकता होती है। शोधकर्ताओं का लक्ष्य ऐसे सिस्टम बनाना है जो यह पहचान सकें कि वे कब एक ज्ञात स्थिति (known state) पर वापस आ गए हैं, उन डुप्लिकेट रास्तों को आपस में मिला सकें, और अंतिम समाधान को पुनर्गठित करने की क्षमता खोए बिना कुशलतापूर्वक आगे बढ़ सकें।
शोधकर्ताओं ने इस समस्या को संबोधित करने के लिए "इंटरफेरेंस सर्च" (Interference Search) नामक एक नया ढांचा विकसित किया है। उनका दृष्टिकोण तर्क को केवल एक विचार की सीधी रेखा के रूप में नहीं, बल्कि एक गतिशील मानचित्र के रूप में देखता है जहाँ विभिन्न मार्गों को तब जोड़ा जा सकता है जब वे एक ही गंतव्य पर पहुँचते हैं। यह प्रणाली इस प्रक्रिया को प्रबंधित करने के लिए चार अलग-अलग उपकरणों पर निर्भर करती है। पहला, यह "सटीक अवस्था विलय" (exact state merging) का उपयोग करता है, जो एक सटीक मानचित्रकार की तरह कार्य करता है: यदि दो अलग-अलग यात्राएँ एक ऐसे स्थान पर पहुँचती हैं जहाँ भविष्य की संभावनाएँ समान हैं, तो सिस्टम उन्हें एक एकल प्रविष्टि में मिला देता है, जिससे कंप्यूटर को दोबारा वही काम करने से बचाया जा सके। दूसरा, यह "प्रमाणित अपवर्जन" (certified exclusion) का उपयोग करता है, जो एक सत्यापनकर्ता (verifier) का उपयोग करके यह सिद्ध करता है कि मानचित्र के कुछ क्षेत्र मृत अंत हैं, जिससे सिस्टम उन क्षेत्रों को स्थायी रूप से अनदेखा कर सकता है। तीसरा, यह "सीखा हुआ निषेध" (learned inhibition) का उपयोग करता है, जो एक कोमल उपकरण है जो पिछली गलतियों से सीखता है ताकि समान दिखने वाले रास्तों की प्राथमिकता को कम किया जा सके, बिना यह गारंटी दिए कि वे बेकार हैं। अंत में, यह "निष्पादन शेड्यूलिंग" (execution scheduling) का प्रबंधन करता है, जो यह तय करता है कि अनावश्यक प्रतीक्षा के बिना कंप्यूटर को सुचारू रूप से काम करने के लिए कार्यों का क्रम क्या होना चाहिए।
शोधकर्ताओं ने इन विचारों का परीक्षण "काउंटडाउन" (Countdown) नामक एक क्लासिक अंकगणितीय पहेली पर किया, जहाँ लक्ष्य बुनियादी गणितीय संक्रियाओं का उपयोग करके संख्याओं के एक समूह से एक लक्ष्य संख्या तक पहुँचना होता है। 200 पाँच-संख्या वाली पहेलियों वाले एक प्रयोग में, उन्होंने पाया कि "सटीक अवस्था विलय" का उपयोग करने से सिस्टम की सफलता दर में उल्लेखनीय सुधार हुआ। विलय के बिना, सिस्टम केवल 16.5% समस्याओं को हल कर सका। विलय के साथ, सफलता दर बढ़कर 27.0% हो गई। डेटा ने दिखाया कि 23 में से 22 मामलों में जहाँ दोनों संस्करणों के बीच असहमति थी, विलय वाले संस्करण ने समाधान ढूँढ लिया जबकि दूसरे ने नहीं। यह सुझाव देता है कि यह पहचानना कि दो अलग-अलग तर्क रेखाएँ एक ही गणितीय अवस्था पर मिल रही हैं, सिस्टम को दोहरा काम करने से बचाकर अधिक समस्याओं को हल करने में सक्षम बनाता है। हालाँकि, शोधकर्ताओं ने यह भी पाया कि यह लाभ सार्वभौमिक नहीं है और उपलब्ध कंप्यूटिंग संसाधनों पर बहुत अधिक निर्भर करता है। जब उन्होंने बहुत सख्त सीमाओं के साथ 1,000 पहेलियों के बड़े सेट पर सिस्टम का परीक्षण किया, तो एक पारंपरिक खोज पद्धति ने नए सिस्टम से बेहतर प्रदर्शन किया। इन कड़े प्रतिबंधों के तहत, नया सिस्टम 0% समस्याओं को हल कर सका, जबकि पारंपरिक 'बेस्ट-फर्स्ट सर्च' ने 72.3% को हल किया। ऐसा इसलिए हुआ क्योंकि नया सिस्टम अपने मानचित्र को व्यवस्थित करने और रास्तों के बीच संबंध बनाए रखने में बहुत अधिक समय खर्च कर रहा था, जिससे उसके पास गहरे समाधानों की खोज के लिए कम ऊर्जा बची। अध्ययन निष्कर्ष निकालता है कि जबकि अवस्थाओं को मिलाना शक्तिशाली है, यह तभी फायदेमंद होता है जब डुप्लिकेट काम से बचने से होने वाली बचत, मानचित्र को प्रबंधित करने की लागत से अधिक हो।
टीम ने यह भी पता लगाया कि उनका सिस्टम कोड जनरेशन (code generation) को कैसे संभालता है, जो एक ऐसा कार्य है जहाँ कंप्यूटर को एक ऐसा प्रोग्राम लिखना होता है जो परीक्षणों की एक श्रृंखला को पास करे। यहाँ, ध्यान इस बात पर केंद्रित हुआ कि सिस्टम अपने कार्य को कैसे शेड्यूल करता है। विभिन्न खोजों को एक साथ चलने की अनुमति देकर और एक बार समाधान मिलने के बाद अनावश्यक कार्यों को रद्द करके, सिस्टम ने कार्यों को पूरा करने में लगने वाले समय को कम कर दिया। 64 प्रोग्रामिंग चुनौतियों के एक परीक्षण में, नई शेड्यूलिंग पद्धति ने मानक पद्धति के समान ही समस्याओं को हल किया, लेकिन उन्हें तेजी से पूरा किया, जिससे औसत पूर्णता समय 2.265 सेकंड से घटकर 2.064 सेकंड रह गया। यह सुधार समस्याओं को बेहतर ढंग से हल करने से नहीं, बल्कि कंप्यूटर को उन कार्यों के लिए प्रतीक्षा करने से रोकने से आया जो पहले ही अनावश्यक सिद्ध हो चुके थे।
शोध के एक अन्य भाग में यह जांचा गया कि क्या सिस्टम अपनी मेमोरी में एक साथ कई अलग-अलग विचारों को रखने के बारे में सीख सकता है, जैसा कि कोई व्यक्ति किसी रहस्य की जांच करते समय कई परिकल्पनाओं को मन में रख सकता है। शोधकर्ताओं ने सिस्टम को अपनी मेमोरी में "स्लॉट्स" (slots) का एक सेट बनाए रखने के लिए प्रशिक्षित किया, इस उम्मीद में कि प्रत्येक स्लॉट समस्या को हल करने के बारे में एक अलग सिद्धांत का प्रतिनिधित्व करेगा। हालाँकि सिस्टम ने अधिक विविध आंतरिक पैटर्न बनाने में सफलता प्राप्त की, लेकिन वह इन पैटर्न को विशिष्ट, उपयोगी विचारों में फिर से डिकोड करने में विफल रहा। सिस्टम विविध आंतरिक अवस्थाएँ उत्पन्न कर सकता था, लेकिन वह उन अवस्थाओं को विशिष्ट, सही समाधानों से लगातार जोड़ने में सक्षम नहीं था। यह सुझाव देता है कि केवल अधिक आंतरिक विविधता पैदा करना यह गारंटी देने के लिए पर्याप्त नहीं है कि कंप्यूटर वास्तव में अलग-अलग तर्क रेखाओं को ट्रैक कर रहा है।
अध्ययन ने यह भी जांचा कि सिस्टम विफलताओं को कैसे संभालता है। जब प्रस्तावित समाधान गलत साबित होता है, तो सिस्टम कभी-कभी उस विफलता का उपयोग संभावनाओं के एक पूरे क्षेत्र को खारिज करने के लिए कर सकता है, न कि केवल एक गलत उत्तर के लिए। बाइनरी निर्णयों से जुड़े एक परीक्षण में, सिस्टम ने इन "प्रमाणित" विफलताओं का उपयोग करके गलत विकल्पों के बड़े समूहों को सफलतापूर्वक समाप्त किया, और दिए गए सभी 90 कार्यों को हल किया। हालाँकि, यह केवल इसलिए काम कर सका क्योंकि कार्य की प्रकृति ऐसी थी कि एक तार्किक प्रमाण संभव था कि उत्तरों का एक पूरा समूह अमान्य है। अधिक खुले कार्यों में, जैसे कोड लिखना, एक एकल विफलता आमतौर पर केवल यह सिद्ध करती है कि एक विशिष्ट प्रयास गलत था, न कि यह कि विचारों की एक पूरी श्रेणी खराब है।
अंततः, यह शोध एक स्पष्ट तस्वीर प्रदान करता है कि ये उन्नत तर्क तकनीकें कब और कैसे काम करती हैं। सटीक अवस्था विलय (Exact state merging) स्पष्ट, दोहराव योग्य अवस्थाओं वाले कार्यों, जैसे अंकगणित, में प्रदर्शन सुधारने के लिए एक मजबूत उपकरण है, लेकिन इसे धीमा होने से बचाने के लिए सावधानीपूर्वक प्रबंधन की आवश्यकता होती है। सीखा हुआ प्राथमिकता निर्धारण (Learned prioritization) और मेमोरी ट्रैकिंग आशाजनक दिखे लेकिन वे पारंपरिक तरीकों को बदलने के लिए आवश्यक विश्वसनीयता के स्तर तक नहीं पहुँच पाए। सबसे महत्वपूर्ण निष्कर्ष यह है कि तर्क करने का कोई एक "सर्वश्रेष्ठ" तरीका नहीं है। किसी सिस्टम की प्रभावशीलता कार्य के विशिष्ट प्रकार, उपलब्ध कंप्यूटिंग संसाधनों और एक प्रमाणित मृत अंत और केवल एक कम संभावित पथ के बीच अंतर करने की क्षमता पर बहुत अधिक निर्भर करती है। इन विभिन्न तंत्रों को अलग करके और व्यक्तिगत रूप से परीक्षण करके, शोधकर्ताओं ने दिखाया है कि स्मार्ट तर्क प्रणालियों का निर्माण करने के लिए एक मॉड्यूलर दृष्टिकोण की आवश्यकता होती है, जहाँ प्रत्येक उपकरण को केवल तभी लागू किया जाता है जब उसकी सफलता की विशिष्ट स्थितियाँ पूरी होती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।