Deterministic multi-hash routing supports long-horizon training in a compact language model
यह शोध पत्र प्रदर्शित करता है कि विशेषज्ञ चयन के लिए नियत (deterministic), टोकन-पहचान-आधारित मल्टी-हैश रूटिंग का उपयोग करने वाला एक संक्षिप्त 201-मिलियन-पैरामीटर वाला भाषा मॉडल, लंबी अवधि (long-horizon) के प्रशिक्षण कार्यों पर प्रतिस्पर्धी प्रदर्शन प्राप्त कर सकता है, हालांकि मेल खाते हुए डेंस कंट्रोल्स (dense controls) के अभाव के कारण रूटिंग तंत्र का विशिष्ट योगदान अलग से सिद्ध नहीं किया जा सका है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, शोधकर्ता लगातार ऐसी मशीनें बनाने की कोशिश कर रहे हैं जो भाषा को समझ सकें और दुनिया के बारे में तर्क कर सकें। ऐसा करने के लिए, वे डिजिटल मस्तिष्क बनाते हैं जिन्हें लैंग्वेज मॉडल कहा जाता है, जो अनिवार्य रूप से संख्याओं के विशाल नेटवर्क हैं जो टेक्स्ट की भारी मात्रा से पैटर्न सीखते हैं। इन मॉडलों को और अधिक स्मार्ट बनाने के लिए, बिना उन्हें असंभव रूप से बड़ा बनाए, एक रणनीति यह है कि "मिक्सचर ऑफ एक्सपर्ट्स" (विशेषज्ञों का मिश्रण) नामक डिज़ाइन का उपयोग किया जाए। कल्पना कीजिए कि एक पुस्तकालय है जहाँ, हर किताब को एक ही लाइब्रेरियन द्वारा पढ़ने के बजाय, पुस्तकालय के विभिन्न हिस्सों को अलग-अलग विशेषज्ञों द्वारा संभाला जाता है। कंप्यूटर मॉडल में, इसका अर्थ है कि किसी भी दिए गए शब्द के लिए, सिस्टम आंतरिक प्रोसेसर के एक छोटे, विशिष्ट समूह, या "विशेषज्ञों" को सक्रिय करता है, जबकि बाकी को निष्क्रिय छोड़ देता है। आमतौर पर, कंप्यूटर यह तय करता है कि किन विशेषज्ञों का उपयोग करना है, यह देखते हुए कि वाक्य का संदर्भ क्या है, और खुद से पूछता है, "यह किस प्रकार का शब्द है, और इसे अभी किस चीज़ की आवश्यकता है?" यह निर्णय लेने की प्रक्रिया मॉडल द्वारा प्रशिक्षण के दौरान स्वयं सीखी जाती है, जो इसे लचीला लेकिन साथ ही जटिल और अनुमान लगाने में कठिन बनाती है।
बोरिस पेय्रिगुएरे नामक एक शोधकर्ता ने एक अलग रास्ता अपनाया है, जिसमें उन्होंने एक सरल लेकिन साहसी प्रश्न पूछा: क्या होगा यदि कंप्यूटर को यह तय करने की आवश्यकता ही न पड़े कि किन विशेषज्ञों का उपयोग करना है? एक हर वाक्य के लिए गतिशील नियम सीखने के बजाय, क्या होगा यदि विशेषज्ञ का चुनाव केवल शब्द के आधार पर स्थायी रूप से तय हो? इस नए दृष्टिकोण में, शब्द की पहचान एक स्थायी कुंजी की तरह कार्य करती है जो हमेशा एक ही दो दरवाजों को खोलती है, चाहे आसपास की बातचीत कुछ भी हो। शोधकर्ता ने लगभग 201 मिलियन पैरामीटर्स वाला एक संक्षिप्त भाषा मॉडल बनाया—जो इसके आकार और जटिलता का एक पैमाना है—और इसे इस कठोर, पूर्व-निर्धारित प्रणाली का उपयोग करके प्रशिक्षित किया। मॉडल को इसके प्रारंभिक शिक्षण चरण के दौरान लगभग 130 बिलियन शब्दों के संपर्क में लाया गया, फिर इसे अन्य 32 बिलियन शब्दों के साथ और अधिक परिष्कृत किया गया, और अंत में इसे निर्देश पालन करना सिखाया गया। परिणामों ने दिखाया कि यह स्थिर प्रणाली लंबे समय तक प्रभावी ढंग से सीख सकती है, जिससे एक ऐसा मॉडल तैयार हुआ जो भौतिक तर्क और सामान्य समझ के परीक्षणों पर आश्चर्यजनक रूप से अच्छा प्रदर्शन करता है, यहाँ तक कि कुछ बड़े, अधिक पारंपरिक मॉडलों से भी बेहतर प्रदर्शन करता है जिन्हें अलग तरीकों से प्रशिक्षित किया गया था।
इस प्रयोग का मूल तत्व यह है कि मॉडल सूचना को कैसे संभालता है। एक मानक सेटअप में, कंप्यूटर सर्वोत्तम उपकरणों को चुनने के लिए वर्तमान स्थिति का विश्लेषण करता है। पेय्रिगुरे के मॉडल में, उपकरण तब चुने जाते हैं जब शब्द देखा जाता है, जो एक पूर्व-गणना किए गए मानचित्र पर आधारित होता है जो कभी नहीं बदलता। मॉडल की शब्दावली के प्रत्येक शब्द के लिए, विशेषज्ञों का एक विशिष्ट जोड़ा असाइन किया गया है। यह मानचित्र प्रशिक्षण शुरू होने से पहले बनाया गया था और पूरी प्रक्रिया के दौरान स्थिर रहा। मॉडल अभी भी एक साझा पथ का उपयोग करता है जो प्रत्येक शब्द को संसाधित करता है, यह सुनिश्चित करते हुए कि वह संदर्भ को समझ सके, लेकिन अतिरिक्त "रेसिडुअल" प्रसंस्करण शक्ति उन दो पूर्व-निर्धारित विशेषज्ञों से आती है। यह डिज़ाइन जटिलता की एक परत को हटा देता है: मॉडल को अब जानकारी को रूट करने का तरीका सीखने की आवश्यकता नहीं है, जो कम्प्यूटेशनल प्रयास को बचाता है और सिस्टम को निरीक्षण करने में आसान बनाता है। क्योंकि रूटिंग टेबल पूर्णांकों की एक निश्चित सूची है, कोई भी मॉडल को देख सकता है और देख सकता है कि किसी दिए गए शब्द के लिए किन विशेषज्ञों का उपयोग किया जाएगा, बिना कंप्यूटर को एक वाक्य के माध्यम से चलाए।
प्रशिक्षण प्रक्रिया कठोर और पारदर्शी थी। मॉडल एक आधार चरण के साथ शुरू हुआ जहाँ इसने वेब पेजों, शैक्षिक सामग्री, कोड और गणित सहित टेक्स्ट के एक विशाल संग्रह को पढ़ा। इस प्रारंभिक एक्सपोजर के बाद, शोधकर्ताओं ने प्रशिक्षण रोका और एक नए आंतरिक सेट के साथ प्रशिक्षण को फिर से शुरू किया, जिससे मॉडल की समझ को परिष्कृत करने के लिए उन्हीं अद्वितीय शब्दों को फिर से देखा गया, बिना बिल्कुल उसी क्रम की घटनाओं को दोहराए। अंत में, मॉडल को 'इंस्ट्रक्शन ट्यूनिंग' के दौर से गुजरना पड़ा, जहाँ इसे प्रश्न और उत्तर के 300,000 उदाहरण दिखाए गए ताकि यह कमांड का पालन करना सीख सके। इस पूरी यात्रा के दौरान, स्थिर रूटिंग प्रणाली बनी रही। मॉडल विफल नहीं हुआ या सीखने में असफल नहीं हुआ; इसके बजाय, इसमें समस्याओं को हल करने की क्षमता में निरंतर सुधार हुआ। प्रशिक्षण के अंत तक, मॉडल कुल 162 बिलियन से अधिक शब्दों के संपर्क में आ चुका था, जो इसके आकार के लिए डेटा की एक महत्वपूर्ण मात्रा है।
तर्क करने की अपनी क्षमता पर परीक्षण किए जाने पर, मॉडल ने ठोस परिणाम दिए। PIQA नामक एक परीक्षण पर, जो भौतिक अंतःक्रियाओं की समझ को मापता है, मॉडल ने 68.01 प्रतिशत की सटीकता प्राप्त की। ARC-Challenge नामक विज्ञान के प्रश्नों के एक सेट पर, इसने 27.13 प्रतिशत का स्कोर किया। शायद सबसे उल्लेखनीय रूप से, विज्ञान के दो अलग-अलग सेटों पर अपने स्कोर को संयोजित करने पर, मॉडल ने 47.29 प्रतिशत की संयुक्त सटीकता प्राप्त की। यह प्रदर्शन कई सार्वजनिक मॉडलों से अधिक था जो काफी बड़े थे, जिनमें 350 मिलियन से 774 मिलियन पैरामीटर्स के बीच शामिल थे। इन बड़े मॉडलों का मूल्यांकन उन्हीं सख्त नियमों और परीक्षण विधियों का उपयोग करके किया गया था, फिर भी वे इस छोटे, स्थिर-रूटिंग वाले मॉडल के प्रदर्शन से मेल नहीं खा सके। यह सुझाव देता है कि स्थिर रूटिंग प्रणाली की दक्षता ने मॉडल को अपने सीमित आकार का बेहतर उपयोग करने की अनुमति दी।
हालाँकि, शोधकर्ता इस बात का दावा करने में सावधानी बरतते हैं कि यह विधि अंतिम समाधान है या यह निश्चित रूप से अन्य सभी दृष्टिकोणों से बेहतर है। अध्ययन स्पष्ट रूप से कहता है कि इसमें एक मैचड फुल-स्केल डेंस कंट्रोल और मल्टी-सीड रेप्लिकेशन शामिल नहीं है। ऐसे नियंत्रित प्रयोग के बिना, यह निश्चित रूप से कहना असंभव है कि क्या उच्च प्रदर्शन का कारण स्थिर रूटिंग था या अन्य कारक, जैसे कि उपयोग किया गया विशिष्ट डेटा या प्रशिक्षण अनुसूची, बड़ी भूमिका निभा रहे थे। पेपर स्पष्ट रूप से कहता है कि यह साबित नहीं करता है कि फिक्स्ड रूटिंग अधिकांश आधुनिक प्रणालियों में उपयोग किए जाने वाले लचीले, सीखे गए रूटिंग से बेहतर है। इसके बजाय, यह कार्य एक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में कार्य करता है: यह प्रदर्शित करता है कि एक निश्चित, अपरिवर्तनीय मार्गों वाले मॉडल को लंबे समय तक प्रशिक्षित किया जा सकता है, जटिल कार्यों को सीखा जा सकता है, और एक उच्च-गुणवत्ता वाला परिणाम प्राप्त किया जा सकता है।
इस कार्य का महत्व केवल आंकड़ों से परे है। रूटिंग टेबल को मॉडल का एक स्थिर, ऑडिट योग्य हिस्सा बनाकर, शोधकर्ता ने एक ऐसा सिस्टम बनाया है जिसे निरीक्षण और सत्यापित करना आसान है। कई उन्नत एआई सिस्टम में, निर्णय लेने की प्रक्रिया एक "ब्लैक बॉक्स" होती है जो मॉडल के सीखने के साथ बदलती रहती है, जिससे यह जानना मुश्किल हो जाता है कि कोई विशिष्ट निर्णय कैसे लिया गया। इस मॉडल में, पथ स्पष्ट और अपरिवर्तनीय है। यदि आप जानना चाहते हैं कि कौन सा शब्द किन विशेषज्ञों को सक्रिय करेगा, तो आप बस तालिका में उस शब्द को देख सकते हैं। यह पारदर्शिता उन शोधकर्ताओं के लिए मूल्यवान हो सकती है जिन्हें यह समझने की आवश्यकता है कि मॉडल वास्तव में कैसे काम करता है, या उन डेवलपर्स के लिए जो यह सुनिश्चित करना चाहते हैं कि सिस्टम अनुमानित व्यवहार करे। मॉडल ने यह भी दिखाया कि यह लंबे प्रशिक्षण सत्रों को बिना रूटिंग सिस्टम को अस्थिर किए संभाल सकता है, जो एक ऐसी चिंता थी जिसने पहले बड़े पैमाने पर अनुप्रयोगों के लिए फिक्स्ड रूटिंग को जोखिम भरा बना दिया था।
अंततः, यह पेपर यह समझने के लिए एक नया दृष्टिकोण प्रदान करता है कि कुशल भाषा मॉडल कैसे बनाए जाते हैं। यह इस धारणा को चुनौती देता है कि कंप्यूटर को लगातार अपने स्वयं के उपकरण चुनने के लिए सीखना चाहिए, यह दिखाने के बजाय कि एक पूर्व-निर्धारित, स्थिर विकल्प उतना ही अच्छा काम कर सकता है, और एक कॉम्पैक्ट मॉडल के लिए दक्षता के मामले में शायद बेहतर भी हो सकता है। शोधकर्ता द्वारा जारी किया गया मॉडल, इसके प्रशिक्षण कोड और मूल्यांकन उपकरणों के साथ, अध्ययन और पुनरुत्पादन के लिए उपलब्ध है। यह खुलापन वैज्ञानिक समुदाय को अपने निष्कर्षों का आगे परीक्षण करने की अनुमति देता है, शायद अलग डेटा के साथ एक ही प्रयोग चलाकर या सीधे एक मानक मॉडल के विरुद्ध तुलना करके। फिलहाल, यह अध्ययन एक प्रमाण के रूप में खड़ा है कि एक सरल, अधिक कठोर रूटिंग दृष्टिकोण एक लंबे और उत्पादक प्रशिक्षण सफर को बनाए रख सकता है, जिससे एक सक्षम और पारदर्शी भाषा मॉडल तैयार होता है जो अपनी क्षमता से कहीं अधिक प्रभावशाली प्रदर्शन करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।