A Generalized Optimization Engine (GOE) for Edge AI Inference Acceleration
यह शोध पत्र एक हार्डवेयर- और मॉडल-अज्ञेय (agnostic) जनरलाइज्ड ऑप्टिमाइजेशन इंजन (GOE) प्रस्तावित करता है जो संसाधन-सीमित एज उपकरणों पर संकुचित मॉडलों की कुशल और सटीक तैनाती को सक्षम करने के लिए विभिन्न एआई अनुकूलन तकनीकों को एकीकृत करता है, यह प्रदर्शित करते हुए कि कार्य सटीकता बनाए रखने के लिए विशिष्ट संपीड़न विधि नाममात्र बिट-चौड़ाई (nominal bit-width) की तुलना में अधिक महत्वपूर्ण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस विज्ञान कथाओं के क्षेत्र से निकलकर दैनिक जीवन के ताने-बाने में समा गया है, जो मेडिकल डायग्नोस्टिक्स से लेकर स्वायत्त वाहनों (ऑटोनॉमस व्हीकल्स) तक सब कुछ संचालित कर रहा है। इस क्रांति के केंद्र में जटिल गणितीय संरचनाएं हैं जिन्हें 'मॉडल्स' कहा जाता है, जो विशाल मात्रा में डेटा को प्रोसेस करके पैटर्न पहचानने और निर्णय लेने के लिए सीखते हैं। हालांकि ये मॉडल्स डेटा सेंटरों में शक्तिशाली कंप्यूटरों पर शानदार प्रदर्शन करते हैं, लेकिन एक बड़ी बाधा बनी हुई है: वे अक्सर बहुत बड़े और ऊर्जा के भूखे होते हैं, जिससे उन्हें क्षेत्र (फील्ड) में पाए जाने वाले छोटे, बैटरी से चलने वाले उपकरणों पर चलाना कठिन होता है। यह सीमा विशेष रूप से सामरिक वातावरण (टैक्टिकल एनवायरनमेंट) में गंभीर है, जहाँ सैनिकों या स्वायत्त प्रणालियों को स्थिर बिजली ग्रिड या हाई-स्पीड इंटरनेट के बिना पलक झपकते ही निर्णय लेने होते हैं। वैज्ञानिकों के लिए चुनौती केवल इन मॉडल्स को छोटा बनाना नहीं है, बल्कि उन्हें उस बुद्धिमत्ता को छीने बिना छोटा करना है जो उन्हें उपयोगी बनाती है।
डेवकॉम आर्मी रिसर्च लैबोरेटरी (DEVCOM Army Research Laboratory) और यूनिवर्सिटी ऑफ वेस्ट फ्लोरिडा के शोधकर्ताओं ने एक 'जनरलाइज्ड ऑप्टिमाइजेशन इंजन' (GOE) विकसित करके इस चुनौती का समाधान किया है। यह प्रणाली एक स्वचालित मार्गदर्शक के रूप में कार्य करती है जो एक बड़े, जटिल आर्टिफिशियल इंटेलिजेंस मॉडल को लेती है और उसे विशिष्ट हार्डवेयर, जैसे कि लैपटॉप या बिना ग्राफिक्स प्रोसेसर वाले सेंसर की सख्त सीमाओं के अनुकूल ढालने के लिए नया आकार देती है। टीम ने मॉडल्स को छोटा करने के लिए किसी एक नई तकनीक का आविष्कार नहीं किया; इसके बजाय, उन्होंने एक ऐसा ढांचा तैयार किया जो 'प्रूनिंग' (जिसमें मॉडल के अनावश्यक हिस्सों को हटाया जाता है) और 'क्वांटाइजेशन' (जो मॉडल द्वारा उपयोग किए जाने वाले नंबरों को सरल बनाता है) जैसी मौजूदा तकनीकों को बुद्धिमानी से जोड़ता है। लक्ष्य एक सार्वभौमिक दृष्टिकोण बनाना था जो हर एकल परिदृश्य के लिए कस्टम समाधान की आवश्यकता के बिना विभिन्न प्रकार के मॉडल्स और विभिन्न प्रकार के हार्डवेयर को संभाल सके।
शोधकर्ताओं ने पाया कि केवल मॉडल को छोटा करना पर्याप्त नहीं है; मॉडल को छोटा करने के लिए उपयोग की जाने वाली विधि यह निर्धारित करती है कि मॉडल स्मार्ट बना रहेगा या बेकार हो जाएगा। अपने प्रयोगों में, उन्होंने इमेज रिकग्निशन के लिए उपयोग किए जाने वाले मानक विजन मॉडल्स पर विभिन्न संपीड़न (कंप्रेशन) रणनीतियों का परीक्षण किया। उन्होंने पाया कि मॉडल के भीतर विशिष्ट कनेक्शनों को सावधानीपूर्वक हटाकर और फिर उसे प्रशिक्षण के एक संक्षिप्त दौर से गुजारकर, वे मॉडल के आकार को ७५ प्रतिशत तक कम कर सकते थे और साथ ही वास्तव में इसकी सटीकता में सुधार भी कर सकते थे। इसी तरह, जब उन्होंने उन नंबरों को सरल बनाया जिनका उपयोग मॉडल अपने उत्तरों की गणना के लिए करता है, तो उन्होंने मानक प्रोसेसरों पर भारी गति वृद्धि हासिल की, जिससे मॉडल कभी-कभी बिना प्रदर्शन खोए, २५ गुना अधिक तेज़ हो गया। इन परिणामों ने दिखाया कि एक एकल, एकीकृत प्रणाली सफलतापूर्वक विविध मॉडल्स को अनुकूलित कर सकती है, जिससे यह सिद्ध होता है कि यदि सही तकनीकों का संयोजन लागू किया जाए तो 'वन-साइज़-फिट्स-ऑल' दृष्टिकोण संभव है।
सबसे महत्वपूर्ण परीक्षण तब आया जब टीम ने इस इंजन को 'लार्ज लैंग्वेज मॉडल्स' पर लागू किया, जो उस तकनीक का प्रकार है जो मानव भाषा को समझ और उत्पन्न कर सकती है। उन्होंने इन संपीड़ित मॉडल्स को बिना ग्राफिक्स प्रोसेसर वाले डिवाइस पर चलाने का प्रयास किया, जो सामरिक सेटिंग में क्या संभव है उसकी चरम सीमाओं का प्रतिनिधित्व करता है। परिणाम चौंकाने वाले थे। जब शोधकर्ताओं ने मॉडल द्वारा उपयोग किए जाने वाले नंबरों की सटीकता को कम करने के लिए एक सावधानीपूर्वक, स्थापित पद्धति का उपयोग किया, तो भाषा मॉडल सुचारू रूप से चला, जिसने प्रश्नों के सही उत्तर देने की अपनी क्षमता बनाए रखी और साथ ही बहुत छोटा और तेज़ भी हो गया। हालाँकि, जब उन्होंने एक अधिक आक्रामक, सीधा दृष्टिकोण अपनाया जिसने केवल नंबरों को बिना किसी सावधानीपूर्वक हैंडलिंग के काट दिया, तो मॉडल की बुद्धिमत्ता ढह गई और वह बेतरतीब ढंग से अनुमान लगाने लगा। इसने प्रदर्शित किया कि संपीड़न विधि का चुनाव मॉडल के अंतिम आकार से कहीं अधिक महत्वपूर्ण है; एक छोटा मॉडल तभी मूल्यवान है जब वह अभी भी काम करे।
अध्ययन यह निष्कर्ष निकालता है कि 'जनरलाइज्ड ऑप्टिमाइजेशन इंजन' शक्तिशाली, प्री-ट्रेन्ड आर्टिफिशियल इंटेलिजेंस और एज डिवाइसेस (edge devices) की संसाधन-सीमित वास्तविकता के बीच के अंतर को सफलतापूर्वक पाटता है। इन मॉडल्स की तैनाती को गति, मेमोरी, ऊर्जा और सटीकता के बीच एक संतुलन के रूप में मानकर, यह प्रणाली स्वचालित रूप से मॉडल के लिए सबसे अच्छा रास्ता खोज सकती है। शोधकर्ता सुझाव देते हैं कि यह दृष्टिकोण भविष्य के ऑपरेशनों के लिए महत्वपूर्ण है जहाँ कंप्यूटिंग पावर कम और अनिश्चित होती है। जबकि वर्तमान प्रणाली विजन और भाषा पर केंद्रित है, यह ढांचा भविष्य में अधिक जटिल डेटा प्रकारों को संभालने के लिए विस्तारित होने हेतु डिज़ाइन किया गया है। यह कार्य पुष्टि करता है कि सही अनुकूलन रणनीति के साथ, परिष्कृत आर्टिफिशियल इंटेलिजेंस वास्तव में सबसे छोटे, सबसे सीमित उपकरणों पर प्रभावी ढंग से संचालित हो सकता है, बशर्ते इंजीनियरों को पता हो कि इसे बिना तोड़े इसे ठीक से कैसे छोटा करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।