FeNN-DMA: A RISC-V SoC for SNN acceleration
यह शोध पत्र FeNN-DMA प्रस्तुत करता है, जो UltraScale+ FPGAs के लिए डिज़ाइन किया गया एक पूर्णतः-प्रोग्रामेबल RISC-V SoC है, जो जटिल न्यूरॉन मॉडलों और मौजूदा फिक्स्ड-फंक्शन एक्सेलेरेटर्स की तुलना में काफी अधिक न्यूरॉन/सिनैप्स संख्या का समर्थन करते हुए स्पाइकिंग न्यूरल नेटवर्क्स के लिए अत्याधुनिक ऊर्जा दक्षता और वर्गीकरण सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट के लिए एक सुपर-फास्ट, ऊर्जा-कुशल मस्तिष्क बनाने की कोशिश कर रहे हैं। वर्षों से, इंजीनियर हमारे मानव मस्तिष्क के काम करने के तरीके की नकल करने की कोशिश कर रहे हैं, लेकिन वे गलत उपकरणों का उपयोग कर रहे हैं।
समस्या: काम के लिए गलत उपकरण
मानक आर्टिफिशियल इंटेलिजेंस (जैसे कि वह जो आपके चेहरे को पहचानता है या निबंध लिखता है) को एक विशाल फैक्ट्री असेंबली लाइन के रूप में सोचें। यह डेटा के विशाल ढेर (बक्सों) को लगातार इधर-उधर ले जाने और हर एक पर भारी गणित करने के माध्यम से काम करता है, भले ही उनमें से अधिकांश बक्से खाली हों। यह बड़े, स्थिर कार्यों के लिए बहुत अच्छा है, लेकिन यह बहुत अधिक बिजली का उपयोग करता है और जब काम अप्रत्याशित होता है तो धीमा हो जाता है।
हालाँकि, मानव मस्तिष्क एक फुसफुसाते नेटवर्क (whispering network) की तरह है। न्यूरॉन्स (मस्तिष्क कोशिकाएं) ज्यादातर शांत बैठी रहती हैं। वे केवल तभी "बोलते" हैं (एक संकेत भेजते हैं जिसे "स्पाइक" कहा जाता है) जब कुछ महत्वपूर्ण होता है। स्पाइकिंग न्यूरल नेटवर्क (SNNs) इसी तरह काम करते हैं। वे अविश्वत रूप से कुशल हैं क्योंकि वे केवल तभी काम करते हैं जब कहने के लिए कुछ हो।
समस्या यह है कि हम जो सुपर-कंप्यूटर आमतौर पर उपयोग करते हैं (जैसे गेमिंग पीसी में GPU), वे "असेंबली लाइन" शैली के लिए बने हैं। वे "फुसफुसाने" वाली शैली को संभालने में बहुत खराब हैं क्योंकि वे उस डेटा का इंतजार करते रहते हैं जो कभी आता ही नहीं, जिससे ऊर्जा बर्बाद होती है।
समाधान: FeNN-DMA
लेखकों ने एक नया, कस्टम ब्रेन-चिप बनाया है जिसे FeNN-DMA कहा जाता है। इसे एक विशेषज्ञ, प्रोग्राम करने योग्य रोबोट फोरमैन (फोरमैन) के रूप में समझें जिसे विशेष रूप से एक फुसफुसाते नेटवर्क को प्रबंधित करने के लिए डिज़ाइन किया गया है।
यह इस प्रकार काम करता है, सरल उपमाओं का उपयोग करते हुए:
- RISC-V फोरमैन: एक सामान्य कंप्यूटर चिप के बजाय, उन्होंने अपने सिस्टम को एक लचीले, ओपन-सोर्स "फोरमैन" (एक RISC-V प्रोसेसर) के इर्द-गिर्द बनाया है। यह फोरमैन जटिल निर्देशों को समझ सकता है और विभिन्न प्रकार के मस्तिष्क नेटवर्क के अनुकूल हो सकता है, उन पुराने चिप्स के विपरीत जो केवल एक विशिष्ट चीज़ करने के लिए बनाए गए थे।
- "लेन" प्रणाली: एक राजमार्ग की कल्पना करें जिसमें 32 लेन हैं। अधिकांश चिप्स एक बार में एक कार चलाने की कोशिश करते हैं। FeNN-DMA एक साथ 32 कारों (डेटा पॉइंट्स) को चलाता है। इसे "वेक्टर" प्रोसेसर कहा जाता है। यह एक के बजाय 32 श्रमिकों के होने जैसा है, जो एक साथ एक दीवार पेंट कर रहे हैं।
- स्मार्ट मेलरूम (DMA): चिप में एक विशेष "मेलरूम" (डायरेक्ट मेमोरी एक्सेस कंट्रोलर) है। अतीत में, यदि मस्तिष्क को चिप के बाहर से किसी स्मृति (मेमोरी) को देखने की आवश्यकता होती थी, तो पूरे सिस्टम को रुकना पड़ता था और मेल आने का इंतजार करना पड़ता था। FeNN-DMA का मेलरूम इतना कुशल है कि यह तब भी नया मेल मंगवाना जारी रखता है जब कार्यकर्ता वर्तमान बैच के साथ व्यस्त होते हैं। इसका मतलब है कि श्रमिकों को कभी भी रुककर इंतजार नहीं करना पड़ता।
- "लेन-लोकल" लॉकर: यह संभालने के लिए कि मस्तिष्क के कनेक्शन अव्यवस्थित और विरल (कई कनेक्शन मौजूद नहीं हैं) होते हैं, चिप में प्रत्येक 32 श्रमिकों के लिए छोटे, व्यक्तिगत लॉकर हैं। यह उन्हें मुख्य राजमार्ग को जाम किए बिना तुरंत विशिष्ट जानकारी प्राप्त करने में सक्षम बनाता है।
उन्होंने क्या सिद्ध किया?
टीम ने वास्तविक दुनिया के संवेदी डेटा की नकल करने वाले तीन कठिन कार्यों पर इस नए "फोरमैन" का परीक्षण किया:
- हस्तलिखित अंकों को पहचानना (लेकिन इस तरह से जो आंखों के मूवमेंट को देखने की नकल करता है)।
- बोले गए शब्दों की पहचान करना (ध्वनि पैटर्न से जैसे "हाँ" या "नहीं")।
- स्पर्श के माध्यम से ब्रेल पढ़ना।
उन्होंने पाया कि FeNN-DMA एक सिंगल चिप पर 16,000 न्यूरॉन्स और 256 मिलियन कनेक्शन को संभाल सकता है। यह एक विशाल पैमाना है।
परिणाम
- सटीकता (Accuracy): इसने शक्तिशाली कंप्यूटरों पर चलने वाले सर्वश्रेष्ठ सॉफ़्टवेयर के समान प्रदर्शन किया, और उन्हीं कार्यों पर परीक्षण किए गए अन्य विशेष हार्डवेयर चिप्स से बेहतर प्रदर्शन किया।
- दक्षता (Efficiency): यह उन विशेष चिप्स के समान ही बिजली और स्थान का उपयोग करता है, लेकिन क्योंकि यह प्रोग्राम करने योग्य है, यह बहुत अधिक जटिल मस्तिष्क मॉडल (जैसे कि जिनमें "विलंब" या लूप होते हैं) को संभाल सकता है जिन्हें पुराने चिप्स नहीं कर सकते थे।
- गति (Speed): हालांकि यह उस चिप की तुलना में बहुत तेज़ नहीं है जो केवल एक विशिष्ट गणितीय समस्या करने के लिए बनाया गया है ("फिक्स्ड-फंक्शन" चिप), लेकिन यह एक मानक कंप्यूटर पर इन मस्तिष्क मॉडलों को चलाने की तुलना में बहुत तेज़ है।
निष्कर्ष
यह पेपर एक नया, लचीला हार्डवेयर डिज़ाइन प्रस्तुत करता है जो अंततः हमें भारी बिजली संयंत्र की आवश्यकता के बिना वास्तविक दुनिया के हार्डवेयर पर जटिल, कुशल, मस्तिष्क जैसे नेटवर्क चलाने की अनुमति देता है। यह मानव मस्तिष्क की सैद्धांतिक दक्षता और सिलिकॉन में इसे बनाने की व्यावहारिक वास्तविकता के बीच के अंतर को पाटता है।
लेखक नोट करते हैं कि हालांकि उन्होंने एक एकल "फोरमैन" (और यहाँ तक कि एक डुअल-फोरमैन संस्करण) बनाया है, अगला कदम और भी बड़े मस्तिष्कों को संभालने के लिए कई फोरमेन को एक साथ जोड़ना और इन प्रणालियों को केवल "पहचानने" के बजाय "सीखने" (ट्रेनिंग) के लिए सिखाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।