Investigating reservoir computing for branch predictionin pipelined processors using emerging CMOS memristor devices
यह शोध पत्र RISC-V पाइपलाइन वाले प्रोसेसर में ब्रांच प्रेडिक्शन के लिए एक नवीन मेमरिस्टर-आधारित रिज़र्वोयर कंप्यूटिंग फ्रेमवर्क प्रस्तुत करता है, जो सिमुलेशन के माध्यम से उच्च भविष्यवाणी सटीकता प्रदर्शित करता है लेकिन अत्याधुनिक TAGE प्रेडिक्टर्स की तुलना में अनुकूलन गति में 15 गुना महत्वपूर्ण गिरावट को प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि कंप्यूटर का मस्तिष्क, सेंट्रल प्रोसेसिंग यूनिट (CPU), एक विशाल कारखाने में एक सुपर-फास्ट असेंबली लाइन की तरह है। कार्यकर्ता (निर्देश) लाइन के नीचे चलते हैं, और एक के बाद एक बनते और पूरे होते जाते हैं। लेकिन कभी-कभी, एक कार्यकर्ता को एक चुनाव करने की आवश्यकता होती है: "यदि डिब्बा लाल है, तो बाईं ओर जाएँ; यदि नीला है, तो दाईं ओर जाएँ।" इसे "ब्रांच" (branch) कहा जाता है। एक पारंपरिक कारखाने में, जब तक चुनाव किया नहीं जाता, लाइन को रुकना पड़ता है और इंतज़ार करना पड़ता है इससे पहले कि कोई आगे बढ़ सके। यह एक ट्रैफिक जाम पैदा करता है, या एक "पाइपलाइन बबल" (pipeline bubble), जहाँ सभी लोग बिना कुछ किए खड़े रहते हैं। कारखाने को बिजली की गति से चलाने के लिए, इंजीनियर एक "ब्रांच प्रेडिक्टर" (Branch Predictor) का उपयोग करते हैं—एक चतुर अनुमान लगाने वाला जो पिछले पैटर्न को देखता है और चुनाव होने से पहले ही चिल्लाता है, "बाईं ओर जाओ!" यदि अनुमान सही है, तो लाइन चलती रहती है। यदि यह गलत है, तो कारखाने को पूरी लाइन को साफ करना पड़ता है और फिर से शुरू करना पड़ता है, जिससे कीमती समय और ऊर्जा बर्बाद होती है।
द दशकों से, ये अनुमान लगाने वाले और भी स्मार्ट होते जा रहे हैं, लेकिन वे बड़े, जटिल और ऊर्जा-खपत करने वाले भी होते जा रहे हैं, जैसे कि किताबों से भरी लाइब्रेरी के साथ एक पहेली को सुलझाने की कोशिश करना। इस बीच, वैज्ञानिक एक अजीब नए पदार्थ "मेमरिस्टर" (memristor) के साथ प्रयोग कर रहे हैं। एक मेमरिस्टर को एक छोटे, स्मार्ट रेजिस्टर के रूप में समझें जो याद रखता है कि इसके माध्यम से कितनी बिजली प्रवाहित हुई है। यह एक स्पंज की तरह है जो अपने बनावट को बदल लेता है कि कितना पानी इसके माध्यम से निकाला गया है, और वह बनावट तब तक बदली रहती है जब तक आप उसे दूसरी दिशा में नहीं दबाते। इन "स्मार्ट स्पंजों" को हजारों की संख्या में एक साथ जोड़कर, शोधकर्ता एक "रिजवॉयर कंप्यूटर" (Reservoir Computer) बना सकते हैं। सख्त नियमों का पालन करने के बजाय, यह रिजवॉयर एक अराजक, उबलते हुए पानी के बर्तन की तरह कार्य करता है। जब आप इसमें एक कंकड़ (इनपुट) डालते हैं, तो लहरें जटिल, गैर-रेखीय (non-linear) तरीकों से फैलती हैं। आपको बर्तन को लहरें बनाना सिखाने की आवश्यकता नहीं है; आपको बस लहरों को पढ़ना सीखना है ताकि पता चल सके कि क्या हुआ था। यह शोध पत्र एक बड़ा सवाल पूछता है: क्या हम इन इलेक्ट्रॉनिक स्पंजों के एक बर्तन का उपयोग अपने कंप्यूटर कारखानों के लिए एक सुपर-फास्ट, ऊर्जा-कुशल अनुमान लगाने वाले के रूप में कर सकते हैं?
प्रयोग: इलेक्ट्रॉनिक स्पंजों का एक बर्तन
इस प्रोजेक्ट में, लेखक, हार्वे ने यह देखने के लिए इस "मेमरिस्टर पॉट" का एक वर्चुअल संस्करण बनाने का निर्णय लिया कि क्या यह कंप्यूटर की असेंबली लाइन में ब्रांचिंग विकल्पों की भविष्यवाणी कर सकता है। उन्होंने इसे वास्तविक भौतिक स्पंजों के साथ नहीं बनाया; इसके बजाय, उन्होंने यह मॉडल करने के लिए कंप्यूटर सिमुलेशन का उपयोग किया कि ये उपकरण कैसे व्यवहार करेंगे। उन्होंने एक डिजिटल ढांचा बनाया जहाँ "स्पंजों" (मेमरिस्टर) को एक नेटवर्क में व्यवस्थित किया गया था, और उन्होंने उन्हें कंप्यूटर के चुनावों के इतिहास का प्रतिनिधित्व करने वाला डेटा दिया।
यह प्रणाली तीन चरणों में काम करती है। पहले, इनपुट डेटा (ब्रांच का इतिहास) को विद्युत वोल्टेज में बदला जाता है और रिजवॉयर में डाला जाता है। दूसरा, रिजवॉमर, जो मेमरिस्टर्स का एक अव्यवस्थित, परस्पर जुड़ा हुआ जाल है, इन वोल्टेजों को लहरों की तरह फैलने देता है। चूंकि मेमरिस्टर गैर-रेखीय (non-linear) होते हैं और उनमें स्मृति (memory) होती है, इसलिए लहरें एक जटिल, उच्च-आयामी पैटर्न बनाती हैं जो ब्रांचिंग इतिहास के "आकार" को पकड़ लेती है। तीसरा, एक सरल डिजिटल मस्तिष्क (परसेप्ट्रॉन) लहरों के अंतिम पैटर्न को देखता है और एक अनुमान लगाता है: "Taken" (बाईं ओर जाएँ) या "Not Taken" (दाईं ओर जाएँ)। यदि अनुमान गलत है, तो सिस्टम तुरंत परसेप्ट्रॉन के वेट्स (weights) को समायोजित करता है ताकि गलती से सीखा जा सके, जिसे "इन-सिटू ट्रेनिंग" (in-situ training) कहा जाता है।
सिमुलेशन ने क्या पाया
सिमुलेशन के परिणाम रोमांचक क्षमता और गंभीर वास्तविकता का मिश्रण थे। अच्छी बात यह है कि मेमरिस्टर रिजवॉयर ने काम किया। इसने Dhrystone नामक एक मानक कंप्यूटर बेंचमार्क में ब्रांचिंग पैटर्न की भविष्यवाणी करना सफलतापूर्वक सीखा। सबसे अच्छी कॉन्फ़िगरेशन में, सिस्टम ने लगभग 96.50% की सटीकता प्राप्त की। यह 70% की बेसलाइन आवश्यकता से एक बहुत बड़ा सुधार है, जो यह साबित करता है कि ब्रांच प्रेडिक्शन के लिए मेमरिस्टर्स के "उबलते बर्तन" का उपयोग करने की अवधारणा शारीरिक रूप से संभव है और यह उच्च गति (प्रति सेकंड 1 बिलियन भविष्यवाणियों तक, यानी 1 GHz) और उचित वोल्टेज (लगभग 2.8V) पर काम कर सकती है।
हालाँकि, यह पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि यह नई प्रणाली वर्तमान चैंपियनों को बदलने के लिए तैयार है। जब हार्वे ने अपने मेमरिस्टर सिस्टम की तुलना अत्याधुनिक "TAGE" प्रेडिक्टर (एक अत्यधिक जटिल, पारंपरिक विधि जिसका उपयोग आधुनिक CPUs में किया जाता है) से की, तो मेमरिस्टर सिस्टम एक महत्वपूर्ण क्षेत्र में पीछे रह गया: सीखने की गति। जबकि TAGE प्रेडिक्टर ने केवल 10 इटरेशन में ब्रांचिंग पैटर्न सीख लिया और 100% सटीकता तक पहुँच गया, मे-मरिस्टर सिस्टम को अपने शिखर प्रदर्शन के करीब पहुँचने में लगभग 166 इटरेशन लगे। इसका मतलब है कि मेमरिस्टर सिस्टम नए पैटर्न के अनुकूल होने में लगभग 15 गुना धीमा है।
पेपर सुझाव देता है कि बाधा "उबलता हुआ बर्तन" खुद नहीं है, बल्कि वह "डिजिटल मस्तिष्क" (परसेप्ट्रॉन) है जो लहरों को पढ़ता है। सिमुलेशन में उपयोग किया गया सरल, कम-सटीक डिजिटल मस्तिष्क तेजी से सीखने में संघर्ष कर रहा था। लेखक नोट करते हैं कि हालांकि सिस्टम स्थिर और मजबूत है, इसे मौजूदा तकनीक के बराबर आने के लिए एक बेहतर लर्निंग मैकेनिज्म की आवश्यकता है।
निर्णय
तो, क्या मेमरिस्टर ब्रांच प्रेडिक्टर भविष्य है? पेपर सुझाव देता है कि यह एक बहुत ही आशाजनक दिशा है, लेकिन एक तैयार उत्पाद नहीं है। सिमुलेशन दिखाते हैं कि मेमरिस्टर वास्तव में समय-आधारित डेटा को प्रोसेस करने के लिए एक तेज़, कम ऊर्जा वाला रिजवॉयर के रूप में कार्य कर सकते हैं, और सिस्टम आधुनिक प्रोसेसर के साथ संगत गति पर काम कर सकता है। हालाँकि, वर्तमान डिज़ाइन नए पैटर्न को सीखने में इतना धीमा है कि आज के वास्तविक कंप्यूटरों में इसका उपयोग नहीं किया जा सकता। लेखक का निष्कर्ष है कि बेहतर डिवाइस इंजीनियरिंग और रीडआउट लेयर के लिए अधिक उन्नत लर्निंग एल्गोरिदम के साथ, यह "इलेक्ट्रॉनिक स्पंज" दृष्टिकोण एक दिन हमारे वर्तमान में उपयोग किए जाने वाले विशाल, जटिल प्रेडिक्टर्स के लिए एक व्यवहार्य, ऊर्जा-कुशल विकल्प बन सकता है। फिलहाल, यह एक दिलचस्प प्रूफ-ऑफ-कांसेप्ट है जो दिखाता है कि हम कंप्यूटिंग की कुछ कठिन समस्याओं को हल करने के लिए जटिल तर्क के बजाय सरल, अराजक भौतिकी का उपयोग कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।