Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning
यह शोध पत्र एक कार्यप्रणाली और सार्वजनिक रूप से उपलब्ध डेटासेट प्रस्तुत करता है जो NVIDIA H100 GPU पर जनरेटिव AI वर्कलोड के उच्च-रिज़ॉल्यूशन पावर मापन को पूरे-सुविधा (whole-facility) की ऊर्जा मांग से जोड़ता है, जिससे डेटा केंद्रों के लिए यथार्थवादी बुनियादी ढांचा नियोजन सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल शहर की योजना बना रहे हैं। आप जानते हैं कि लोग इसमें बसने वाले हैं, और आपको उन्हें सहारा देने के लिए बिजली संयंत्र, सड़कें और जल प्रणालियाँ बनानी होंगी। लेकिन समस्या यह है: आप यह नहीं जानते कि नए निवासी वास्तव में कैसे व्यवहार करेंगे। क्या वे सभी सुबह 6 बजे नाश्ता बनाने के लिए जागेंगे? क्या वे जुलाई के महीने में ठीक एक ही समय पर अपने एयर कंडीशनर चालू करेंगे? या वे अजीब घंटों में काम करेंगे, जैसे कि कोई 'वैम्पायर शिफ्ट' (रात का काम)?
यदि आपका अनुमान गलत निकलता है, तो आप एक ऐसा बिजली संयंत्र बना सकते हैं जो बहुत छोटा हो (जिससे ब्लैकआउट हो सकते हैं) या बहुत बड़ा (जिससे अरबों रुपये बर्बाद हो सकते हैं)।
यह शोध पत्र डेटा सेंटरों (Data Centers) के लिए इस अनुमान लगाने वाले खेल को हल करने के बारे में है—वे विशाल गोदाम जिनमें कंप्यूटर भरे होते हैं जो आर्टिफिशियल इंटेलिजेंस (AI) चलाते हैं। विशेष रूप से, यह नई, अत्यंत शक्तिशाली "जेनरेटिव एआई" (Generative AI) (जैसे कि वे चैटबॉट्स जो कहानियाँ लिखते हैं या चित्र बनाते हैं) के बारे में है।
यहाँ शोधकर्ताओं द्वारा किए गए कार्यों का विवरण दिया गया है, कुछ रोजमर्रा के उदाहरणों का उपयोग करते हुए:
1. समस्या: "ब्लैक बॉक्स" का रहस्य
डेटा सेंटर एक 'ब्लैक बॉक्स' की तरह हैं। बड़ी टेक कंपनियाँ (हाइपरस्केलर्स) अपने ऊर्जा उपयोग के रहस्यों को राज्य के गुप्त दस्तावेज़ों की तरह सुरक्षित रखती हैं। हम जानते हैं कि AI बिजली का भूखा है, लेकिन हम यह नहीं जानते कि वह इसे कैसे खाता है।
- समस्या: हमारे पास डेटा सेंटरों के बिजली उपयोग के पुराने नक्शे हैं, लेकिन वे 1990 के दशक के नक्शों की तरह हैं। वे नए "AI ट्रैफिक" को नहीं दिखाते हैं।
- जोखिम: यदि हम पुराने नक्शों के आधार पर नया डेटा सेंटर बनाते हैं, तो हमें ऐसे "पावर सर्ज" (बिजली के उछाल) का सामना करना पड़ सकता जिसे ग्रिड संभाल न सके, या हम उन कूलिंग सिस्टम के लिए भुगतान कर सकते हैं जिनकी हमें वास्तव में आवश्यकता नहीं है।
2. प्रयोग: मांसपेशियों पर "पावर मीटर"
शोधकर्ता अपनी खुद की हाई-टेक लैब (रॉकीज़ की नेशनल लेबोरेटरी) में गए और अपने AI कंप्यूटरों (विशेष रूप से NVIDIA H100 GPUs, जो AI की "मांसपेशी" हैं) से बेहद सूक्ष्म पावर मीटर जोड़े।
उन्होंने केवल महीने के अंत में आने वाले कुल बिल को नहीं देखा। उन्होंने हर सेकंड 10 बार बिजली के उतार-चढ़ाव को मापा।
- उदाहरण: एक वेटलिफ्टर (भार उठाने वाले) को देखने की कल्पना करें। एक सामान्य माप बताता है कि "उसने 200 पाउंड उठाया।" इस अध्ययन ने वेटलिफ्टर की धड़कन को मापा। इसने देखा कि वह कैसे ज़ोर से सांस लेता है, रुकता है, तेज़ी से वजन उठाता है और फिर आराम करता है।
- उन्होंने क्या पाया:
- ट्रेनिंग (AI को सिखाना): जब AI सीख रहा होता है, तो यह एक मैराथन धावक की तरह होता है। वह ज़ोर से दौड़ता है, लेकिन उसे सांस लेने के लिए रुकना पड़ता है (अन्य कंप्यूटरों के साथ तालमेल बिठाने के लिए)। बिजली एक लयबद्ध पैटर्न में ऊपर-नीचे होती है।
- इन्फरेंस (AI का उपयोग करना): जब आप AI से कोई सवाल पूछते हैं, तो यह एक स्प्रिंटर (तेज़ धावक) की तरह होता है। वह अचानक सक्रिय होता है, जल्दी से उत्तर देता है, और फिर निष्क्रिय हो जाता है। लेकिन यदि आप एक साथ 1,000 सवाल पूछते हैं, तो स्प्रिंटर थक जाते हैं और बिजली का उपयोग अपना आकार बदल लेता है।
3. टूल: "डिजिटल ट्विन" सिम्युलेटर
एक बार जब उनके पास ये विस्तृत "धड़कन" वाले माप आ गए, तो उन्होंने DIPLOEE नामक एक कंप्यूटर सिमुलेशन बनाया। इसे डेटा सेंटरों के लिए एक "फ्लाइट सिम्युलेटर" समझें।
- यह कैसे काम करता है: उन्होंने अपने वास्तविक दुनिया के बिजली डेटा को एक मॉडल में डाला जो कंप्यूटरों के एक पूरे शहर का अनुकरण (सिमुलेट) करता है।
- परिदृश्य (Scenarios): उन्होंने दो अलग-अलग "शहर" चलाए:
- कोलोकेशन सिटी (10 MW): एक बड़ा गोदाम जहाँ कई अलग-अलग कंपनियाँ अपने AI मॉडल को प्रशिक्षित करने के लिए जगह किराए पर लेती हैं। यह एक व्यस्त ऑफिस पार्क की तरह है जहाँ हर कोई अलग-अलग समय पर आता और जाता है।
- इन्फरेंस सिटी (1 MW): उपयोगकर्ताओं के बिल्कुल पास स्थित एक छोटा, तेज़ सुविधा केंद्र (जैसे कि शहर में), जो वास्तविक समय में सवालों के जवाब देता है। यह एक 24 घंटे चलने वाले इमरजेंसी रूम की तरह है।
4. आश्चर्यजनक परिणाम
सिमुलेशन ने कुछ विपरीत सहज सत्यों को उजागर किया:
"फुल हाउस" का मिथक: भले ही डेटा सेंटर "भरा हुआ" था (100% कंप्यूटर काम कर रहे थे), कुल बिजली का उपयोग उस अधिकतम शक्ति के केवल 73% से 80% तक ही पहुँचा, जिसके लिए इमारत को डिज़ाइन किया गया था।
- उदाहरण: एक स्टेडियम की कल्पना करें जिसे 50,000 लोगों के लिए डिज़ाइन किया गया है। भले ही हर सीट भरी हो, फिर भी भीड़ एक ही सेकंड में पूरी ताकत से चिल्लाती नहीं है। वे अलग-अलग समय पर फुसफुसाते हैं, शोर मचाते हैं और तालियाँ बजाते हैं। "शोर" (बिजली) कभी भी सैद्धांतिक अधिकतम स्तर तक नहीं पहुँचता।
- यह क्यों मायने रखता है: हम अपने से कहीं अधिक छोटे और सस्ते बिजली बुनियादी ढांचे का निर्माण कर सकते क्योंकि कंप्यूटर शायद ही कभी अपने पूर्ण अधिकतम बिजली सीमा तक एक साथ पहुँचते हैं।
"रश ऑवर" (भीड़-भाड़ का समय) का प्रभाव:
- बड़े गोदाम (कोलोकेशन) में, बिजली का उपयोग "बिजनेस डे" पैटर्न का पालन करता था (दिन के दौरान उच्च, रात में कम)।
- वास्तविक समय वाले शहर (इन्फरेंस) में, बिजली का उपयोग अधिक स्थिर था, लेकिन यदि बहुत अधिक लोग एक साथ सवाल पूछते हैं, तो सिस्टम को "लेटेंसी" (प्रतीक्षा समय) को कम रखने के लिए धीमा होना पड़ता है। इसने एक सुरक्षा वाल्व (safety valve) के रूप में कार्य किया जिसने बिजली ग्रिड को क्रैश होने से बचाया।
5. यह आपके लिए क्यों महत्वपूर्ण है
यह शोध पत्र भविष्य के लिए एक ब्लूप्रिंट है।
- बिजली ग्रिड के लिए: यह उपयोगिता कंपनियों (utility companies) को यह जानने में मदद करता है कि उन्हें कितनी बिजली उत्पन्न करनी है ताकि जब शाम 5 बजे हर कोई अपनी AI से मदद मांगे, तो ब्लैकआउट न हो।
- निर्माताओं के लिए: यह उन्हें उन विशाल कूलिंग सिस्टम और ट्रांसफार्मर पर अत्यधिक खर्च करने से रोकता है जो 20% समय खाली बैठे रहेंगे।
- ग्रह के लिए: AI वास्तव में कितनी ऊर्जा का उपयोग करता है, इसे सटीक रूप से समझकर, हम अधिक कुशल सिस्टम बना सकते हैं और बर्बादी को कम कर सकते हैं।
संक्षेप में: शोधकर्ताओं ने AI ऊर्जा उपयोग के रहस्य को सुलझा लिया है। उन्होंने AI कंप्यूटरों की "धड़कन" को मापा और एक सिम्युलेटर बनाया जो हमें दिखाता है कि हालांकि AI एक बिजली की भूखी चीज़ है, लेकिन यह उतना अप्रत्याशित नहीं है जितना कि हमें डर था। अब हम अपने बिजली शहरों की योजना एक बहुत स्पष्ट मानचित्र के साथ बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।