Energy-Efficient GPU Resource Management for Generative AI on HPC Systems: A Roadmap Towards Cross-Layer Co-Design Approaches
यह शोध पत्र HPC सिस्टम में जनरेटिव AI के लिए ऊर्जा-कुशल GPU प्रबंधन पर 46 अध्ययनों की समीक्षा करता है, क्रॉस-लेयर समन्वय और गतिशील वर्कलोड समर्थन में महत्वपूर्ण अंतरालों की पहचान करता है, और टिकाऊ, ऊर्जा-आनुपातिक निष्पादन के लिए टेलीमेट्री, भविष्यवाणी और नियंत्रण को एकीकृत करने हेतु GenAI-XEnergy फ्रेमवर्क का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आज के सबसे उन्नत आर्टिफिशियल इंटेलिजेंस को चलाने वाली मशीनें केवल स्मार्ट ही नहीं हैं; वे अत्यंत भूखी भी हैं। ये प्रणालियाँ, जिन्हें जेनरेटिव एआई (generative AI) के रूप में जाना जाता है, भारी मात्रा में डेटा से सीखकर नया टेक्स्ट, इमेज और कोड बनाती हैं। ऐसा करने के लिए, वे जीपीयू (GPU) नामक विशेष कंप्यूटर चिप्स पर निर्भर करती हैं, जो इन गणनाओं के लिए इंजन रूम के रूप में कार्य करते हैं। हालाँकि, इन इंजनों को चलाने के लिए भारी मात्रा में बिजली की आवश्यकता होती है। एक एकल बड़े मॉडल का प्रशिक्षण करने में उतनी ऊर्जा खर्च हो सकती है जितनी एक छोटा शहर एक वर्ष में उपयोग करता है, और इन प्रणालियों का दैनिक संचालन निरंतर चौंका देने वाली दर से बिजली खींचता रहता है। जैसे-जैसे ये मॉडल बड़े और अधिक जटिल होते जा रहे हैं, चुनौती केवल उन्हें तेज़ बनाने से बदलकर उन्हें इतना कुशल बनाने की हो गई है कि वे ग्रह के संसाधनों को खत्म किए बिना चल सकें। इंजीनियरों के सामने सवाल अब केवल प्रदर्शन के बारे में नहीं है, बल्कि इस बारे में है कि इन विशाल कंप्यूटर प्रणालियों के माध्यम से ऊर्जा के प्रवाह को कैसे प्रबंधित किया जाए ताकि बिजली का हर वाट उपयोगी कार्य कर सके।
शोधकर्ताओं की एक टीम ने इस बात पर बारीकी से नज़र डाली है कि हम वर्तमान में इन ऊर्जा-पिपासु प्रणालियों को कैसे प्रबंधित करते हैं और पाया है कि हमारा दृष्टिकोण बहुत सारे अलग-अलग हिस्सों में टूटा हुआ है। चालीस-छह हालिया अध्ययनों की एक व्यापक समीक्षा में, उन्होंने पाया कि विशेषज्ञ ऊर्जा की समस्या को अलग-थलग रहकर हल करने की कोशिश कर रहे हैं। कुछ शोधकर्ता स्वयं हार्डवेयर पर ध्यान केंद्रित करते हैं, यह कोशिश करते हुए कि जब चिप्स खाली हों तो उन्हें धीमा किया जा सके। अन्य उस सॉफ़्टवेयर को देखते हैं जो प्रोग्राम चलाते हैं, ताकि कार्यों को बेहतर ढंग से व्यवस्थित किया जा सके। फिर अन्य उन शेड्यूलिंग सिस्टम का अध्ययन करते हैं जो यह तय करते हैं कि किस कंप्यूटर को कौन सा काम मिलेगा। जबकि इनमें से प्रत्येक प्रयास ने अपने आप में कुछ सफलता दिखाई है, शोधकर्ताओं का तर्क है कि वे आपस में तालमेल बिठाने में विफल रहे हैं। क्योंकि सिस्टम की विभिन्न परतें एक-दूसरे से बात नहीं करती हैं, इसलिए समग्र परिणाम अक्सर बर्बाद ऊर्जा होता है। एक चिप को बिजली बचाने के लिए धीमा किया जा सकता है, लेकिन सॉफ़्टवेयर को इसके बारे में पता नहीं होगा और वह काम भेजना जारी रखेगा, या एक शेड्यूलर किसी ऐसे कंप्यूटर को काम सौंप सकता है जो वास्तविक समय के डेटा के अभाव में पहले से ही अत्यधिक गर्म हो रहा है।
शोधकर्ताओं ने पहचान की है कि जेनरेटिव एआई वर्कलोड की प्रकृति इस विखंडन को विशेष रूप से खतरनाक बनाती है। पारंपरिक कंप्यूटर कार्यों के विपरीत जो एक स्थिर गति से चलते हैं, ये एआई कार्य अत्यधिक अप्रत्याशित होते हैं। वे कुछ सेकंड के लिए तीव्र गतिविधि के साथ उछल सकते हैं और फिर शांत हो सकते हैं, या वे इतनी बड़ी मात्रा में मेमोरी की मांग कर सकते हैं जिसके लिए पारंपरिक सिस्टम डिज़ाइन नहीं किए गए थे। समीक्षा ने दिखाया कि वर्तमान विधियाँ अक्सर इन कार्यों के साथ ऐसे व्यवहार करती हैं जैसे वे स्थिर और अनुमानित हों, जिससे संसाधनों का अक्षम उपयोग होता है। उदाहरण के लिए, कई सिस्टम एक काम के लिए कंप्यूटिंग शक्ति की एक निश्चित मात्रा आवंटित करते हैं, चाहे वास्तव में उस समय उसकी आवश्यकता हो या न हो, जिससे महंगी हार्डवेयर बिजली खींचते हुए भी खाली बैठी रहती है। अध्ययन में पाया गया कि हालांकि हार्डवेयर या सॉफ़्टवेयर स्तर पर ऊर्जा बचाने के लिए कई चतुर तरीके मौजूद हैं, लेकिन दोनों को जोड़ने वाली रणनीतियों का स्पष्ट अभाव है।
इसे संबोधित करने के लिए, लेखक 'क्रॉस-लेयर को-डिज़ाइन' (cross-layer co-design) नामक सोचने का एक नया तरीका प्रस्तावित करते हैं। हार्डवेयर, सॉफ़्टवेयर या शेड्यूलर को अलग-अलग ठीक करने के बजाय, वे एक ऐसा सिस्टम बनाने का सुझाव देते हैं जहाँ ये सभी भाग एक एकल, समन्वित इकाई के रूप में कार्य करें। वे एक वैचारिक ढांचा पेश करते हैं जिसे वे 'GenAI-XEnergy' कहते हैं। यह विचार एक ऐसी प्रणाली की कल्पना करता है जो कंप्यूटर के ऊर्जा उपयोग की लगातार निगरानी करती है, काम शुरू होने से पहले ही अनुमान लगाती है कि उसे कितनी शक्ति की आवश्यकता होगी, और फिर हार्डवेयर और सॉफ़्टवेयर को उसके अनुरूप तुरंत समायोजित करती है। एक ऐसे ऑर्केस्ट्रा के कंडक्टर की कल्पना करें जो एक संगीत दल का नेतृत्व कर रहा है जहाँ प्रत्येक संगीतकार दूसरे को सुन सकता है और पूर्ण सामंजस्य बनाने के लिए वास्तविक समय में अपनी आवाज़ को समायोजित कर सकता है; इस मामले में, "संगीत" बिजली का प्रवाह है, और "संगीतकार" कंप्यूटर चिप्स, ऑपरेटिंग सिस्टम और जॉब शेड्यूलर हैं। इन परतों को जोड़कर, सिस्टम चिप के उन हिस्सों को तुरंत बंद कर सकता है जिनकी आवश्यकता नहीं है, या किसी भारी कार्य को दूसरे ऐसे कंप्यूटर पर स्थानांतरित कर सकता है जिसके पास सस्ता, स्वच्छ ऊर्जा उपलब्ध हो।
समीक्षा इस बात पर प्रकाश डालती है कि हमारे पास इन समायोजनों को करने के लिए व्यक्तिगत उपकरण तो हैं, लेकिन हमारे पास उन्हें समन्वयित करने के लिए केंद्रीय मस्तिष्क की कमी है। शोधकर्ता बताते हैं कि वर्तमान प्रणालियाँ अक्सर पुराने नियमों पर निर्भर करती हैं जो कंप्यूटर के विभिन्न प्रकार के कार्यों के लिए लिखे गए थे। उनका तर्क है कि आर्टिफिशियल इंटेलिजेंस में ऊर्जा संकट को वास्तव में हल करने के लिए, हमें इन स्थिर नियमों से हटकर एक गतिशील प्रणाली की ओर बढ़ने की आवश्यकता है जो सीख सके और अनुकूलित हो सके। प्रस्तावित ढांचा निर्णय लेने के लिए वास्तविक समय के डेटा का उपयोग करने का सुझाव देता है, यह सुनिश्चित करता है कि ऊर्जा का उपयोग केवल तभी किया जाए जब यह बिल्कुल आवश्यक हो। इस दृष्टिकोण के लिए पूरी तरह से नए प्रकार के कंप्यूटर आविष्कार करने की आवश्यकता नहीं है, बल्कि हमारे पास पहले से मौजूद क्षमताओं का अधिक स्मार्ट और अधिक जुड़े हुए तरीके से उपयोग करने की आवश्यकता है। निष्कर्ष बताते हैं कि इन अलग-अलग परतों को एक साथ लाकर, हम इसकी गति या सीखने की क्षमता से समझौता किए बिना आर्टिफिशियल इंटेलिजेंस के ऊर्जा पदचिह्न (energy footprint) को काफी कम कर सकते हैं।
पेपर के अनुसार, आगे का रास्ता हार्डवेयर और सॉफ़्टवेयर के बीच इन कनेक्शनों को बनाने में निहित है। शोधकर्ता सुझाव देते हैं कि भविष्य के सिस्टम को अपनी ऊर्जा खपत को महसूस करने में सक्षम होना चाहिए और उसके अनुसार अपने व्यवहार को समायोजित करना चाहिए, जिसे 'टेलीमेट्री-ड्रिवन मैनेजमेंट' (telemetry-driven management) कहा जाता है। इसका अर्थ है कि कंप्यूटर को पता होगा कि वह किसी भी सेकंड में कितनी बिजली का उपयोग कर रहा है और वह ऊर्जा बचाने के लिए तत्काल बदलाव कर सकेगा। वे बिजली के स्रोत पर विचार करने की आवश्यकता पर भी जोर देते हैं, यह सुझाव देते हुए कि सिस्टम को भारी कार्यों को तब चलाने का प्रयास करना चाहिए जब पावर ग्रिड स्वच्छ ऊर्जा स्रोतों का उपयोग कर रहा हो। हालांकि पेपर इस बात को स्वीकार करता है कि एक एकीकृत प्रणाली बनाना एक जटिल चुनौती है जिसे अभी तक पूरी तरह से साकार नहीं किया गया है, लेकिन यह वहां तक पहुँचने के लिए एक स्पष्ट रोडमैप प्रदान करता है। अंतिम लक्ष्य एक ऐसा आर्टिफिशियल इंटेलिजेंस इंफ्रास्ट्रक्चर बनाना है जो न केवल शक्तिशाली हो बल्कि टिकाऊ भी हो, यह सुनिश्चित करते हुए कि तकनीक उन ऊर्जा प्रणालियों को अभिभूत किए बिना विकसित हो सकती है जो इसका समर्थन करती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।