Flex-PE: Flexible and SIMD Multi-Precision Processing Element for AI Workloads
यह शोध पत्र Flex-PE का प्रस्ताव करता है, जो एक लचीला SIMD मल्टी-प्रिसिजन प्रोसेसिंग एलिमेंट है जो रनटाइम-कॉन्फ़िगर करने योग्य नॉन-लीनियर एक्टिवेशन फंक्शन्स और स्केलेबल प्रिसिजन (4-बिट से 32-बिट तक) को एक साथ सपोर्ट करता है, जिससे विविध AI और HPC वर्कलोड के लिए महत्वपूर्ण थ्रूपुट सुधार और ऊर्जा दक्षता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हाई-टेक किचन चला रहे हैं जो दो बहुत अलग प्रकार के ग्राहकों की सेवा करता है: फास्ट-फूड प्रेमी (जो तुरंत मिलने वाले साधारण स्नैक्स चाहते हैं) और फाइन-डाइनिंग फूडीज (जो अत्यधिक सटीकता के साथ तैयार किए गए जटिल, मल्टी-कोर्स गोर्मे भोजन चाहते हैं)।
वर्तमान में, अधिकांश "AI किचन" (हार्डवेयर एक्सेलेरेटर) में एक समस्या है: या तो वे फास्ट-फूड जॉइंट की तरह बनाए गए हैं—जो बहुत तेज़ हैं लेकिन कुछ भी शानदार नहीं बना सकते—या वे गोर्मे किचन की तरह बनाए गए हैं—जो अद्भुत चीजें करने में सक्षम हैं लेकिन एक त्वरित स्नैक के लिए बहुत धीमे और महंगे हैं।
यह पेपर Flex-PE को पेश करता है, जो एक "जादुई किचन अप्लायंस" है जो दोनों की सेवा करने के लिए खुद को तुरंत बदल सकता है।
समस्या: "वन-ट्रिक पोनी" किचन
आर्टिफिशियल इंटेलिजेंस की दुनिया में, विभिन्न कार्यों के लिए अलग-अलग "कुकिंग स्टाइल" की आवश्यकता होती है:
- एज AI (फास्ट-फूड स्नैक): एक स्मार्ट डोरबेल या फिटनेस ट्रैकर के बारे में सोचें। इन उपकरणों को बहुत कम बैटरी का उपयोग करके त्वरित, सरल निर्णय (जैसे "क्या यह एक व्यक्ति है?") लेने की आवश्यकता होती है। वे "लो प्रिसिजन" (कम सटीकता) का उपयोग करते हैं—इसे हर एक दाने को मापने के बजाय नमक के एक मोटे अनुमान का उपयोग करने जैसा समझें।
- क्लाउड AI (गोर्मे फीस्ट): ChatGPT या विशाल मेडिकल AI के बारे में सोचें। इनके लिए "हाई प्रिसिजन" (उच्च सटीकता) की आवश्यकता होती है—यह सुनिश्चित करने के लिए कि परिणाम एकदम सही हो, हर एक सामग्री को माइक्रोग्राम तक मापना।
अधिकांश वर्तमान हार्डवेयर फँसे हुए हैं। यदि आप इसे गोर्मे फीस्ट के लिए बनाते हैं, तो यह स्नैक के लिए ऊर्जा की बर्बादी है। यदि आप इसे स्नैक के लिए बनाते हैं, तो यह फीस्ट के लिए बहुत "बेवकूफ" है।
समाधान: Flex-PE (द शेप-शिफ्टिंग शेफ)
शोधकर्ताओं ने Flex-PE बनाया है। हर कार्य के लिए एक विशेष उपकरण रखने के बजाय, उन्होंने एक एकल, अत्यधिक लचीला "प्रोसेसिंग एलिमेंट" बनाया है जो चलते-फिरते अपना व्यवहार बदल सकता है।
यह तीन मुख्य "सुपरपावर्स" का उपयोग करके कैसे काम करता है, यहाँ दिया गया है:
1. शेप-शिफ्टिंग रेसिपी (मल्टी-प्रिसिजन)
एक मापने वाले कप की कल्पना करें। आमतौर पर, एक कप या तो एक छोटा चम्मच होता है या एक बड़ा गैलन जग। Flex-PE एक जादुई मापने वाले कप की तरह है जो तुरंत छोटा या बड़ा हो सकता है।
- यदि इसे तेज़ और कुशल होने की आवश्यकता है (स्नैक के लिए), तो यह एक साथ काम करने वाले 16 छोटे चम्मचों की तरह कार्य करता है (16x स्पीडअप!)।
- यदि इसे सटीक होने की आवश्यकता है (फीस्ट के लिए), तो यह उन सभी छोटे मापों को एक विशाल, अत्यधिक सटीक गैलन जग में मिला देता है।
2. गणित का स्विस-आर्मी नाइफ (द CORDIC मेथड)
AI में, कुछ "गणितीय रेसिपी" होती हैं जिन्हें एक्टिवेशन फंक्शन्स (जैसे Sigmoid या ReLU) कहा जाता है जो AI की दुनिया में 'सीजनिंग' (मसाले) की तरह काम करते हैं—वे तय करते हैं कि कितना "फ्लेवर" या सिग्नल पास किया जाए।
आमतौर पर, हार्डवेयर को इन विभिन्न सीजनिंग को पकाने के लिए अलग-अलग विशेष मशीनों की आवश्यकता होती है। Flex-PE एक चतुर गणितीय ट्रिक का उपयोग करता है जिसे CORDIC कहा जाता है। CORDIC को एक यूनिवर्सल शेफ नाइफ के रूप में समझें। एक ब्रेड नाइफ, एक स्टेक नाइफ और एक वेजिटेबल पीलर की आवश्यकता होने के बजाय, Flex-PE एक मास्टर चाकू का उपयोग करता है जो केवल कलाई के कोण को बदलकर सभी अलग-अलग कट कर सकता है।
3. सुपर-एफिशिएंट डिलीवरी सिस्टम (SIMD सिस्टोलिक एरे)
एक सामान्य किचन में, शेफ को सामग्री लेने के लिए बार-बार पेंट्री तक दौड़ना पड़ता है, जिससे समय बर्बाद होता है (इसे "मेमोरी वॉल" कहा जाता है)।
Flex-PE एक सिस्टोलिक एरे का उपयोग करता है, जो एक अत्यधिक संगठित असेंबली लाइन की तरह काम करता है। शेफ के पेंट्री तक दौड़ने के बजाय, सामग्री एक पूर्ण लय में एक कार्यकर्ता से दूसरे कार्यकर्ता को पास की जाती है। यह कुछ कार्यों के लिए डेटा मूवमेंट (डेटा की आवाजाही) को भारी मात्रा में कम करता है—371 गुना कम मूवमेंट!
यह क्यों मायने रखता है?
क्योंकि Flex-PE इतना कुशल है, यह AI को सक्षम बनाता है:
- आपके फोन पर स्मार्ट बनाने के लिए: यह आपकी बैटरी खत्म किए बिना जटिल AI कार्य चला सकता है।
- क्लाउड में तेज़ बनाने के लिए: यह ट्रांसफॉर्मर्स (ChatGPT के पीछे की तकनीक) जैसी चीजों के लिए आवश्यक विशाल "ब्रेन पावर" को संभाल सकता है, बिना इसके कि इसे चलाने के लिए किसी पावर प्लांट की आवश्यकता हो।
संक्षेप में: Flex-PE एक परम "ऑल-इन-वन" इंजन है जो AI को सरल कार्यों के लिए बिजली की तरह तेज़ और जटिल कार्यों के लिए अविश्वसनीय रूप से सटीक होने की अनुमति देता है, और वह भी बहुत कम ऊर्जा का उपयोग करते हुए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।