← नवीनतम पेपर
⚡ electrical engineering

Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs

यह शोध पत्र एक हार्डवेयर-कुशल सिस्टोलिक एरे डिज़ाइन प्रस्तावित करता है जो FP32, TF32 और BF16 प्रारूपों में तुलनीय CNN सटीकता बनाए रखते हुए क्षेत्र, शक्ति और विलंब (क्रमशः 92%, 93% और 54% तक) में पर्याप्त कमी प्राप्त करने के लिए कॉलम ट्रंकेशन और कंप्रेसर एकीकरण के साथ NSGA-II-अनुकूलित, अनुमानित फ्लोटिंग-पॉइंट मल्टीप्लायरों का उपयोग करता है।

मूल लेखक: Dantu Nandini Devi, Madhav Rao

प्रकाशित 2026-08-25
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Dantu Nandini Devi, Madhav Rao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आधुनिक दुनिया में, हमारे डिजिटल उपकरण फोटो में चेहरों को पहचानने, भाषाओं का अनुवाद करने या ट्रैफ़िक के नेविगेशन के लिए गणनाओं की एक विशाल संख्या को लगातार निष्पादित कर रहे हैं। इन कार्यों के केंद्र में एक विशिष्ट प्रकार का गणितीय ऑपरेशन है जिसे गुणा (multiplication) कहा जाता है, जो छवियों और डेटा में पाए जाने वाले जटिल पैटर्न को संसाधित करने के लिए आवश्यक है। दशकों से, इंजीनियरों ने इन गुणाओं को अत्यधिक सटीकता के साथ करने के लिए कंप्यूटर चिप्स बनाए हैं, यह सुनिश्चित करते हुए कि संख्या का प्रत्येक एकल अंक ठीक वैसे ही कैलकुलेट किया जाए जैसा कि कागज पर किया जाता है। यह दृष्टिकोण सटीकता की गारंटी देता है, लेकिन इसकी एक कीमत है: इस पूर्ण सटीकता को बनाए रखने के लिए आवश्यक सर्किट बड़े होते हैं, वे काफी मात्रा में बिजली की खपत करते हैं, और गर्मी पैदा करते हैं। जैसे-जैसे तेज़ और अधिक शक्तिशाली कंप्यूटिंग की हमारी आवश्यकता बढ़ रही है, इन सर्किट्स को छोटा बनाने की भौतिक सीमाएं पहुंच रही हैं, जिससे भविष्य की तकनीक के लिए एक बाधा उत्पन्न हो रही है।

इस समस्या को हल करने के लिए एक अलग दर्शन उभरा है, जो गति और दक्षता में भारी लाभ के बदले त्रुटि की एक छोटी, नियंत्रित मात्रा को स्वीकार करता है। यह अवधारणा, जिसे 'अनुमानित कंप्यूटिंग' (approximate computing) के रूप में जाना जाता है, इस विचार पर काम करती है कि कई वास्तविक दुनिया के कार्यों के लिए, जैसे कि किसी तस्वीर में बिल्ली की पहचान करना या वीडियो फ़ाइल को कंप्रेस करना, मानव आँख और मस्तिष्क द्वारा गणना में मामूली अंतर को नहीं पहचाना जा सकता है। यदि एक कंप्यूटर गणना के सबसे कठिन हिस्सों को छोड़ सकता है, तो वह काम को बहुत तेज़ी से पूरा कर सकता है और बहुत कम बिजली का उपयोग कर सकता है। चुनौती शोधकर्ताओं के लिए यह figuring out करने में रही है कि अंतिम परिणाम को खराब किए बिना कितनी सटीकता का त्याग किया जा सकता है, जो कि एक ऐसा संतुलन है जिसके लिए डिज़ाइन विकल्पों के एक विशाल परिदृश्य में नेविगेट करने की आवश्यकता होती है।

शोधकर्ताओं की एक टीम ने इन त्रुटि-सहनशील कार्यों के लिए विशेष रूप से डिज़ाइन किए गए एक नए प्रकार के हार्डवेयर एक्सेलेरेटर (accelerator) को डिजाइन करके इस चुनौती का सामना किया है। उन्होंने एक संरचना पर ध्यान केंद्रित किया जिसे 'सिस्टोलिक एरे' (systolic array) कहा जाता है, जो अनिवार्य रूप से सूक्ष्म प्रसंस्करण इकाइयों का एक ग्रिड है जो डेटा को एक लहर की तरह एक-दूसरे को पास करते हैं, और मैट्रिक्स गुणन को कुशलतापूर्वक करते हैं। शोधकर्ताओं ने महसूस किया कि इस ग्रिड का सबसे अधिक ऊर्जा खपत करने वाला हिस्सा प्रत्येक इकाई के भीतर स्थित मल्टीप्लायर (multiplier) है। हर मल्टीप्लायर को पूर्ण बनाने के बजाय, उन्होंने ऐसे "अपूर्ण" मल्टीप्लायर्स बनाने का तरीका विकसित किया जो रणनीतिक रूप से दोषपूर्ण हैं। गणना के दौरान जानबूझकर संख्या के कम महत्वपूर्ण बिट्स को छोड़कर और विशेष सर्किट का उपयोग करके जो छोटे, विपरीत त्रुटियों को पेश करते हैं, उन्होंने एक ऐसी प्रणाली बनाई जहां गलतियां एक-दूसरे को रद्द कर देती हैं। यह हार्डवेयर को अविश्वसनीय रूप से कुशल बनाए रखता है जबकि व्यावहारिक उपयोग के लिए पर्याप्त सटीक परिणाम भी देता है।

गति और सटीकता के बीच सही संतुलन खोजने के लिए, शोधकर्ता केवल अनुमान पर निर्भर नहीं रहे। उन्होंने प्राकृतिक विकास की प्रक्रिया की नकल करने वाले एक शक्तिशाली खोज एल्गोरिदम का उपयोग किया ताकि लाखों संभावित डिज़ाइन कॉन्फ़िगरेशन का पता लगाया जा सके। कल्पना कीजिए कि एक विशाल पुस्तकालय है जिसमें इन अपूर्ण मल्टीप्लायर्स को बनाने के हर conceivable तरीके शामिल हैं; एल्गोरिदम ने व्यवस्थित रूप से संयोजनों का परीक्षण किया, उन डिज़ाइनों को रखा जो सर्वोत्तम तालमेल प्रदान करते थे और उन्हें हटा दिया जो बहुत अधिक त्रुटिपूर्ण या पर्याप्त कुशल नहीं थे। उन्होंने संख्याओं को संभालने के तीन अलग-अलग मानक प्रारूपों में इन डिज़ाइनों का परीक्षण किया, जो वैज्ञानिक कंप्यूटिंग में उपयोग किए जाने वाले उच्च-सटीक प्रारूप से लेकर विशेष रूप से आर्टिफिशियल इंटेलिजेंस के लिए डिज़ाइन किए गए अधिक संक्षिप्त प्रारूपों तक विस्तृत हैं। लक्ष्य यह देखना था कि क्या वे कार्य की विशिष्ट आवश्यकताओं के अनुसार अपूर्णता के स्तर को अनुकूलित कर सकते हैं।

इन अन्वेषणों के परिणाम आश्चर्यजनक थे। जब शोधकर्ताओं ने अपने अनुकूलित, अपूर्ण डिज़ाइनों को इमेज प्रोसेसिंग कार्यों पर लागू किया, जैसे कि किसी तस्वीर में शोर (noise) को कम करना या स्टोरेज के लिए छवि को कंप्रेस करना, तो हार्डवेयर काफी छोटा और तेज़ हो गया। कुछ मामलों में, नए डिज़ाइनों ने पारंपरिक, पूर्णतः सटीक संस्करणों की तुलना में चिप के भौतिक आकार को 92 प्रतिशत तक कम कर दिया और बिजली की खपत को 93 प्रतिशत तक कम कर दिया। उल्लेखनीय रूप से, ये भारी बचत दृश्य गुणवत्ता की कीमत पर नहीं आई; अपूर्ण हार्डवेयर द्वारा बनाई गई छवियां सटीक हार्डवेयर द्वारा बनाई गई छवियों से लगभग अविभेद्य थीं, जिससे उच्च स्तर की दृश्य निष्ठा (visual fidelity) बनी रही।

जब इन डिज़ाइनों को पैटर्न पहचानने के लिए उपयोग किए जाने वाले आर्टिफिशियल इंटेलिजेंस मॉडल पर लागू किया गया, तो निष्कर्ष और भी अधिक प्रभावशाली थे। शोधकर्ताओं ने हस्तलिखित अंकों, कपड़ों की वस्तुओं और रोजमर्रा की वस्तुओं वाली हजारों छवियों वाले मानक डेटासेट पर अपने डिज़ाइनों का परीक्षण किया। कई उदाहरणों में, अपूर्ण मल्टीप्लायर्स के उपयोग ने वास्तव में आर्टिफिशियल इंटेलिजेंस के प्रदर्शन में सुधार किया। उदाहरण के लिए, कपड़ों को पहचानने के लिए प्रशिक्षित एक मॉडल ने अपूर्ण हार्डवेयर का उपयोग करने पर पूर्ण हार्डवेयर की तुलना में उच्च सटीकता दर प्राप्त की। यह प्रति-सहज (counter-intuitive) परिणाम बताता है कि अनुमान से उत्पन्न होने वाला थोड़ा सा शोर कंप्यूटर को बेहतर ढंग से सामान्यीकरण (generalize) करने में मदद कर सकता है, ठीक वैसे ही जैसे मानव मस्तिष्क चेहरे को तेज़ी से पहचानने के लिए मामूली विवरणों को अनदेखा कर सकता है। परीक्षण किए गए सबसे जटिल डेटासेट के लिए, शीर्ष प्रदर्शन करने वाले अपूर्ण डिज़ाइनों ने आकार में 92 प्रतिशत और बिजली में 93 प्रतिशत तक की हार्डवेयर बचत प्रदान की, जबकि सटीक तरीकों के बराबर या उससे बेहतर वर्गीकरण सटीकता भी प्रदान की।

यह कार्य प्रदर्शित करता है कि अधिक कुशल कंप्यूटिंग का मार्ग हमेशा बेहतर, अधिक सटीक उपकरण बनाने की आवश्यकता नहीं होती है। इसके बजाय, यह इस बात को समझने में निहित है कि सटीकता कहाँ वास्तव में आवश्यक है और कहाँ इसे सुरक्षित रूप से शिथिल किया जा सकता है। "परफेक्ट" के बजाय "पर्याप्त अच्छे" (good enough) हार्डवेयर को डिजाइन करने के लिए एक बुद्धिमान खोज प्रक्रिया का उपयोग करके, शोधकर्ताओं ने दिखाया है कि ऐसे कंप्यूटर चिप्स बनाना संभव है जो नाटकीय रूप से छोटे, तेज़ और अधिक ऊर्जा-कुशल हैं। ये डिज़ाइन अब अन्य इंजीनियरों के उपयोग के लिए उपलब्ध हैं, जो उन उपकरणों को बनाने का एक नया तरीका प्रदान करते हैं जो आर्टिफिशियल इंटेलिजेंस की बढ़ती मांगों को हमारे ऊर्जा संसाधनों को जलाए बिना पूरा कर सकें। यह अध्ययन पुष्टि करता है कि कंप्यूटिंग की दुनिया में, कभी-कभी थोड़ा सा एरर ही सिस्टम को बेहतर ढंग से चलाने के लिए आवश्यक होता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →