CORVET: A CORDIC-Powered, Resource-Frugal Mixed-Precision Vector Processing Engine for High-Throughput AIoT applications
यह शोध पत्र CORVET प्रस्तुत करता है, जो एक संसाधन-मितव्ययी (resource-frugal), रनटाइम-अनुकूली वेक्टर प्रोसेसिंग इंजन है जो एज एआई अनुप्रयोगों के लिए उच्च थ्रूपुट और ऊर्जा दक्षता प्राप्त करने हेतु CORDIC-आधारित मिश्रित-परिशुद्धता MAC इकाइयों और टाइम-मल्टीप्लेक्स निष्पादन का लाभ उठाता है, जो अत्याधुनिक समाधानों की तुलना में कंप्यूट घनत्व और बिजली बचत में महत्वपूर्ण सुधार प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक व्यस्त, हाई-टेक बेकरी (एक AI सिस्टम) चला रहे हैं जिसे हर मिनट हजारों ब्रेड के लोफ (डेटा प्रोसेस करना) बेक करने की आवश्यकता है। एक पारंपरिक बेकरी में, आपके पास एक विशाल, महंगा ओवन होता है जो एक सेकंड में एक आदर्श लोफ बेक कर सकता है, लेकिन इसे चलाने में एक बड़ी रकम खर्च होती है और यह रसोई का आधा हिस्सा घेर लेता है।
अब, एक नए, स्मार्ट बेकरी मैनेजर (CORVET इंजन) की कल्पना करें जो नियमों को बदल देता है। एक विशाल ओवन के बजाय, वे कुशल श्रमिकों की एक टीम का उपयोग करते हैं जो इस आधार पर ब्रेड बेक कर सकते हैं कि वह कितनी महत्वपूर्ण है।
यहाँ इस नए इंजन की कहानी है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. समस्या: "सब-या-कुछ-नहीं" वाली रसोई (The "All-or-Nothing" Kitchen)
वर्तमान AI चिप्स (ओवन) में, हर गणना (calculation) के साथ एक जैसा व्यवहार किया जाता है। चाहे आप एक शानदार वेडिंग केक बना रहे हों (एक सेल्फ-ड्राइविंग कार के विजन का एक महत्वपूर्ण हिस्सा) या टोस्ट का एक साधारण टुकड़ा (एक बैकग्राउंड टास्क), मशीन उसी भारी, ऊर्जा-खपत करने वाली प्रक्रिया का उपयोग करती है।
- बर्बादी: यह एक अखरोट तोड़ने के लिए हथौड़े का उपयोग करने जैसा है। मशीन उन कार्यों पर ऊर्जा और स्थान बर्बाद करती है जिन्हें इतनी सटीकता की आवश्यकता नहीं होती।
- अवरोध (Bottleneck): रसोई का बहुत सा स्थान ब्रेड को "सजाने" (Activation Functions) के लिए समर्पित है, लेकिन ये सजावट करने वाले अक्सर बेकर्स के काम करने के दौरान खाली बैठे रहते हैं। इससे बहुत सारा "डार्क सिलिकॉन" (खाली, अप्रयुक्त स्थान) बच जाता है।
2. समाधान: एक "स्मार्ट, अनुकूलन योग्य" टीम (CORVET)
लेखकों ने एक नया इंजन बनाया जिसे CORVET कहा जाता है। इसे वर्सेटाइल (बहुमुखी) श्रमिकों की एक टीम के रूप में समझें जो तुरंत अपनी भूमिका बदल सकते हैं।
A. "CORDIC" गणित का जादू (एक स्विस आर्मी नाइफ)
हर गणितीय समस्या के लिए एक भारी, विशिष्ट कैलकुलेटर का उपयोग करने के बजाय, CORVET एक चतुर, हल्के उपकरण का उपयोग करता है जिसे CORDIC कहा जाता है।
- उपमा: कल्पना कीजिए कि एक बढ़ई जो आमतौर पर एक भारी पावर सॉ (आरी) का उपयोग करता है। लेकिन छोटे, त्वरित कट के लिए, वह एक साधारण, फोल्ड होने वाले पॉकेट नाइफ (जेब वाले चाकू) पर स्विच कर देता है। पॉकेट नाइफ से कट लगाने में कुछ सेकंड अधिक लग सकते हैं, लेकिन यह छोटा, सस्ता है और इसमें लगभग कोई बिजली खर्च नहीं होती।
- यह कैसे काम करता है: CORVET इस "पॉकेट नाइफ" विधि (इटरेटिव CORDIC) का उपयोग गणित करने के लिए करता है। यह सरल कार्यों के लिए तेज और रफ (approximate mode) या महत्वपूर्ण कार्यों के लिए धीमा और सटीक (accurate mode) होने का विकल्प चुन सकता है। यह मशीन चलते समय ही इन मोड के बीच तुरंत स्विच कर सकता है।
B. "टाइम-शेयरिंग" डेकोरेटर्स (Multi-Activation Block)
पुरानी रसोई में, प्रत्येक कार्यकर्ता का अपना समर्पित सजावट स्टेशन होता था। यदि वे सजावट नहीं कर रहे थे, तो वह स्टेशन खाली रहता था।
- नया तरीका: CORVET के पास एक ही सुपर-कुशल सजावट स्टेशन है जिसे सभी साझा करते हैं।
- उपमा: एक अकेले शेफ के बारे में सोचें जो सलाद बनाने, ग्रिल करने या पाई बेक करने के बीच स्विच कर सकता है, इस आधार पर कि अभी किसे भूख लगी है। इस स्टेशन को साझा करके, रसोई बहुत सारा स्थान और ऊर्जा बचाती है। शेफ हमेशा व्यस्त रहता है, इसलिए वहां कोई "डार्क सिलिकॉन" (बर्बाद स्थान) नहीं होता है।
C. "टीमवर्क" रणनीति (Vector Processing)
चूंकि "पॉकेट नाइफ" गणित में प्रति गणना थोड़ा अधिक समय लगता है, तो मशीन तेज कैसे रहती है?
- उपमा: यदि एक कार्यकर्ता को एक लोफ काटने में 3 सेकंड लगते हैं, लेकिन आपके पास एक ही समय में करने के लिए 256 कार्यकर्ता हैं, तो आपको 3 सेकंड में 256 लोफ मिलते हैं।
- परिणाम: इंजन पैरेलल लेन (Parallel Lanes) का उपयोग करता है। भले ही व्यक्तिगत गणित के चरण थोड़े धीमे हों, लेकिन काम करने वाले श्रमिकों की भारी संख्या पूरे सिस्टम को अविश्वसनीय रूप से तेज और कुशल बनाती है।
3. परिणाम: एक स्मार्ट, लीन बेकरी
जब शोधकर्ताओं ने इस नए इंजन का परीक्षण किया:
- ऊर्जा बचत: यह काफी कम बिजली का उपयोग करता है (जैसे गैस से चलने वाले ट्रक से इलेक्ट्रिक स्कूटर पर स्विच करना)।
- गति: यह समान हार्डवेयर का उपयोग करके पिछले डिजाइनों की तुलना में 4 गुना तेजी से डेटा प्रोसेस कर सकता है।
- घनत्व (Density): यह कम जगह में अधिक कंप्यूटिंग शक्ति पैक करता है (जैसे एक सुपरकंप्यूटर को जूते के डिब्बे में फिट करना)।
- वास्तविक दुनिया का परीक्षण: उन्होंने इसे एक छोटे बोर्ड (Pynq-Z2) पर लगाया और इसका उपयोग ड्रोन को वस्तुओं को पहचानने के लिए किया। इसने NVIDIA Jetson Nano जैसे महंगे कमर्शियल चिप्स की तुलना में तेजी से काम किया और कम बैटरी का उपयोग किया।
सारांश
CORVET कंप्यूटर चिप्स के लिए एक गिरगिट (Chameleon) की तरह है। यह हर कार्य को पूर्ण और महंगा बनाने के लिए मजबूर नहीं करता है। इसके बजाय, यह पूछता है, "इसे कितना परफेक्ट होने की जरूरत है?"
- यदि यह एक रफ अनुमान है? तो यह तेज, सस्ता और कम बिजली वाला मोड उपयोग करता है।
- यदि यह जीवन-मरण का सवाल है (जैसे पैदल यात्री से बचना)? तो यह धीमे और सटीक मोड पर स्विच हो जाता है।
लचीला होने, संसाधनों को साझा करने और एक टीम के रूप में काम करने के माध्यम से, यह एज एआई (Edge AI) की सबसे बड़ी समस्या को हल करता है: कैसे स्मार्ट कंप्यूटर बनाए जाएं जो आपकी जेब में समा सकें बिना आपकी बैटरी खत्म किए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।