🤖 machine learning

A Physics-Aware Framework for Short-Term GPU Power Forecasting of AI Data Centers

यह शोध पत्र PI-DLinear को प्रस्तुत करता है, जो एक नवीन भौतिकी-सूचित (physics-informed) समय-श्रृंखला मॉडल है जो लोड ट्रांजिएंट्स के दौरान भौतिक निरंतरता सुनिश्चित करते हुए AI डेटा केंद्रों के लिए अत्याधुनिक अल्पकालिक शक्ति पूर्वानुमान सटीकता प्राप्त करने हेतु GPU उपयोग डेटा के साथ एक मल्टी-नोड थर्मल RC नेटवर्क को एकीकृत करता है।

मूल लेखक: Mohammad AlShaikh Saleh, Sanjay Chawla, Sertac Bayhan, Haitham Abu-Rub, Ali Ghrayeb

प्रकाशित 2026-05-07

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mohammad AlShaikh Saleh, Sanjay Chawla, Sertac Bayhan, Haitham Abu-Rub, Ali Ghrayeb

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: AI की "बिजली की भूख" का पूर्वानुमान लगाना

कल्पना कीजिए कि एक विशाल डेटा सेंटर एक बड़े किचन की तरह है जहाँ हज़ारों शेफ (AI कंप्यूटर) अलग-अलग व्यंजन बना रहे हैं। कभी वे एक साधारण सलाद (एक छोटा कार्य) बना रहे होते हैं, और कभी वे एक पूरा टर्की भून रहे होते (एक विशाल AI मॉडल को प्रशिक्षित करना)।

समस्या यह है कि ये शेफ एक स्थिर गति से खाना नहीं बनाते। वे अचानक एक साथ पाँच टर्की बनाने का निर्णय ले सकते हैं, जिससे किचन की बिजली की खपत में भारी उछाल आ सकता है। यदि पावर ग्रिड (मुख्य बिजली आपूर्ति) को इस बारे में पता नहीं है कि यह होने वाला है, तो यह अत्यधिक बोझ के कारण ब्लैकआउट या अस्थिरता का कारण बन सकता है।

इस पेपर के लेखकों ने एक नया "क्रिस्टल बॉल" (पूर्वानुमान मॉडल) बनाया है जो बिल्कुल सटीक भविष्यवाणी करता है कि अगले 5 से 80 मिनट में इन AI किचनों को कितनी बिजली की आवश्यकता होगी। उनका रहस्य? उन्होंने केवल पिछले पैटर्न के आधार पर कंप्यूटर को अनुमान लगाने के लिए नहीं छोड़ा; उन्होंने इसे भौतिकी के नियमों (laws of physics) को सिखाया।

पुराने "क्रिस्टल बॉल्स" के साथ समस्या

अधिकांश आधुनिक पूर्वानुमान उपकरण उन छात्रों की तरह हैं जो केवल फ्लैशकार्ड रटते हैं। यदि डेटा फ्लैशकार्ड जैसा दिखता है, तो वे अच्छे अंक प्राप्त कर लेते हैं। लेकिन यदि कुछ अजीब होता है—जैसे कि एक शेफ अचानक ओवन बंद कर देता है क्योंकि वह बहुत गर्म हो गया है (एक "थ्रोटल" घटना)—तो छात्र भ्रमित हो जाता है और गलत अनुमान लगाता है।

यह पेपर तर्क देता है कि मानक AI मॉडल अक्सर तब विफल हो जाते हैं जब:

पावर थ्रॉटलिंग (Power Throttling): कंप्यूटर खुद को अधिक गर्म होने से बचाने के लिए अपनी गति धीमी कर लेता है।
अचानक उछाल (Sudden Spikes): वर्कलोड तुरंत बदल जाता है।
रिकवरी (Recovery): सिस्टम एक उछाल के बाद खुद को स्थिर करने की कोशिश करता है।

समाधान: "फिजिक्स-अवेयर" DLinear

लेखकों ने PI-DLinear नामक एक मॉडल बनाया है। इसे एक ऐसे छात्र के रूप में सोचें जो न केवल फ्लैशकार्ड रटता है बल्कि यह भी समझता है कि एक किचन कैसे काम करता है।

1. थर्मल RC नेटवर्क (द "हॉट पॉट" सादृश्य)

उनकी नवीनता का मूल उन गणितीय समीकरणों (ODEs) का एक सेट है जो यह वर्णन करते हैं कि गर्मी कैसे चलती है।

सादृश्य: कल्पना कीजिए कि GPU (AI का मस्तिष्क) और मेमोरी (उसकी अल्पकालिक स्मृति) एक चूल्हे पर रखे पानी के दो बर्तन हैं।
भौतिकी: जब आप गर्मी (पावर) बढ़ाते हैं, तो पानी गर्म हो जाता है। लेकिन पानी तुरंत गर्म नहीं होता; इसमें समय लगता है। साथ ही, दोनों बर्तन एक-दूसरे के पास रखे हैं, इसलिए गर्मी गर्म बर्तन से ठंडे बर्तन की ओर बहती है।
नवाचार: लेखकों ने न्यूटन के कूलिंग लॉ (Newton's Law of Cooling) के आधार पर यह वर्णन करने के लिए नए गणितीय समीकरण निकाले कि ये "बर्तन" कैसे गर्म और ठंडे होते हैं। उन्होंने अपने AI मॉडल को इन नियमों का पालन करने के लिए मजबूर किया। यदि मॉडल भविष्यवाणी करता है कि बिजली बढ़ेगी, लेकिन तापमान पहले से ही इतना अधिक है कि वह उस बिजली को संभाल नहीं सकता, तो मॉडल "जानता" है कि यह असंभव है और खुद को सुधारता है।

2. "थ्रोटल" नियम

मॉडल ने एक विशिष्ट नियम भी सीखा: "यदि शेफ 90% क्षमता पर काम कर रहा है और बर्तन उबल रहा है, तो बिजली जरूर कम होनी चाहिए।"
मानक मॉडल उच्च बिजली की भविष्यवाणी करना जारी रख सकते हैं क्योंकि शेफ एक मिनट पहले कड़ी मेहनत कर रहा था। नया मॉडल जानता है कि वास्तविक दुनिया में, सुरक्षा तंत्र सक्रिय हो जाते हैं, और यह बिजली की गिरावट का सटीक अनुमान लगाता है।

यह कितना सफल रहा?

टीम ने MIT Supercloud से वास्तविक डेटा पर अपने मॉडल का परीक्षण किया, जो एक विशाल AI अनुसंधान सुविधा है। उन्होंने अपने "फिजिक्स-अवेयर" मॉडल की तुलना 16 अन्य शीर्ष-स्तरीय मॉडलों (ट्रांसफॉर्मर जैसे जटिल मॉडलों सहित) से की।

सटीकता: नया मॉडल लगातार अधिक सटीक रहा। इसने कम गलतियाँ कीं, विशेष रूप से बिजली के "उछाल" (spikes) और "गिरावट" (drops) की भविष्यवाणी करते समय।
स्थिरता: जब AI वर्कलोड अचानक बदल गया, तो नए मॉडल ने अन्य मॉडलों की तुलना में बहुत तेज़ी से अपनी सटीकता वापस पा ली।
दक्षता: स्मार्ट होने के बावजूद, मॉडल वास्तव में बहुत हल्का (lightweight) है। यह एक कॉम्पैक्ट, उच्च-दक्षता वाली कार की तरह है जो एक विशाल लग्जरी SUV की तुलना में बेहतर माइलेज देती है। इसे चलाने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है; यह डेटा सेंटर में मानक निगरानी उपकरणों पर फिट हो सकता है।

मुख्य निष्कर्ष

केवल अनुमान न लगाएं; समझें: AI को गर्मी और बिजली की बुनियादी भौतिकी सिखाकर, यह अराजक स्थितियों में बहुत अधिक विश्वसनीय हो जाता है।
सुरक्षा सर्वोपरि: मॉडल यह भविष्यवाणी करने में उत्कृष्ट है कि कंप्यूटर कब खुद को बचाने के लिए (थ्रॉटल करने के लिए) "ब्रेक लगाएगा"।
वास्तविक दुनिया के लिए तैयार: यह एक सुपरकंप्यूटर के वास्तविक डेटा पर काम करता है, जिसमें भाषा मॉडल से लेकर इमेज रिकग्निशन तक सब कुछ शामिल है।

संक्षेप में, यह पेपर दिखाता है कि यदि आप एक अराजक AI डेटा सेंटर की बिजली संबंधी जरूरतों का पूर्वानुमान लगाना चाहते हैं, तो आपको केवल नंबरों को नहीं देखना चाहिए; आपको उनके पीछे की गर्मी और भौतिकी को समझने की आवश्यकता है।

तकनीकी सारांश: AI डेटा केंद्रों के अल्पकालिक GPU पावर पूर्वानुमान के लिए एक भौतिकी-जागरूक ढांचा (A Physics-Aware Framework for Short-Term GPU Power Forecasting of AI Data Centers)

1. समस्या विवरण (Problem Statement)

AI डेटा केंद्र कंप्यूटेशनल कार्यों की विषमता और तीव्र उतार-चढ़ाव, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (LLMs), विजन नेटवर्क और ग्राफ न्यूरल नेटवर्क (GNNs) के कारण अभूतपूर्व चुनौतियों का सामना कर रहे हैं। आधुनिक AI वर्कलोड उच्च पावर घनत्व (प्रति GPU 300–1,200 W) और क्षणिक पावर उतार-चढ़ाव प्रदर्शित करते हैं जो रैक स्तर पर 132 kW/s से अधिक हो सकते हैं। ये तीव्र परिवर्तन ग्रिड स्थिरता के लिए खतरा पैदा करते हैं, जिसके लिए ऑटोमैटिक जनरेशन कंट्रोल (AGC) और डिमांड रिस्पांस जैसी नियंत्रण रणनीतियों को सूचित करने हेतु सटीक अल्पकालिक पावर पूर्वानुमान (5–80 मिनट आगे) की आवश्यकता होती है।

जबकि डीप लर्निंग मॉडल, विशेष रूप से ट्रांसफॉर्मर ने टाइम-सीरीज फोरकास्टिंग में प्रगति की है, वे अक्सर भौतिक रूप से असंगत भविष्यवाणियां उत्पन्न करते हैं। वे आउट-ऑफ-डिस्ट्रीब्यूशन परिदृश्यों, जैसे कि पावर थ्रॉटलिंग इवेंट्स, अचानक लोड उतार-चढ़ाव और पोस्ट-थ्रोटल स्थिरता के साथ संघर्ष करते हैं, क्योंकि वे केवल सांख्यिकीय पैटर्न पर निर्भर करते हैं न कि अंतर्निहित भौतिक तंत्रों पर। इसके अलावा, मौजूदा साहित्य में समय-निर्भर साधारण अवकल समीकरणों (ODEs) का अभाव है जो स्पष्ट रूप से GPU पावर खपत को GPU/मेमोरी तापमान और उपयोग (utilization) के साथ जोड़ते हैं, जो कि एक वास्तविक भौतिकी-जागरूक ढांचे के लिए एक पूर्व शर्त है।

2. कार्यप्रणाली: PI-DLinear (Methodology: PI-DLinear)

लेखक PI-DLinear प्रस्तावित करते हैं, जो DLinear टाइम-सीरीज मॉडल का एक भौतिकी-सूचित (physics-informed) संस्करण है। यह ढांचा एक डेटा-संचालित पूर्वानुमान बैकबोन को एक भौतिकी-आधारित रेगुलराइजेशन टर्म के साथ एकीकृत करता है, जो एक मल्टी-नोड लम्पड थर्मल रेजिस्टेंस-कैपेसिटेंस (RC) नेटवर्क से प्राप्त होता है।

2.1 मूल आर्किटेक्चर (Base Architecture - DLinear)

इसका आधार DLinear है, जो मूविंग एवरेज कर्नेल का उपयोग करके टाइम-सीरीज डेटा को ट्रेंड और सीजनल/रेमिंडर घटकों में विभाजित करता है। इन घटकों को अलग-अलग लीनियर लेयर्स द्वारा प्रोसेस किया जाता है और अंतिम पूर्वानुमान उत्पन्न करने के लिए उन्हें जोड़ा जाता है। यह आर्किटेक्चर स्पष्ट ट्रेंड्स को संभालने की इसकी क्षमता और इसकी कम्प्यूटेशनल दक्षता के कारण चुना गया था।

2.2 भौतिकी-सूचित बाधाएं (Physics-Informed Constraints)

भौतिक निरंतरता को लागू करने के लिए, लेखकों ने न्यूटन के कूलिंग लॉ के अनुरूप एक युग्मित दो-नोड RC थर्मल नेटवर्क के आधार पर नए ODEs व्युत्पन्न किए हैं। मॉडल GPU तापमान ( $T_g$ ) और मेमोरी तापमान ( $T_m$ ) को युग्मित थर्मल स्टेट्स के रूप में मानता है।

थर्मल RC मॉडल: सिस्टम को ऊर्जा संतुलन समीकरणों का उपयोग करके मॉडल किया गया है जहाँ पावर खपत ( $P$ ) तापमान परिवर्तन को संचालित करती है, और हीट डिसिपेशन न्यूटोनियन कूलिंग का पालन करता है। शासी समीकरण हैं:
$C_g \frac{dT_g}{dt} = \alpha P - \frac{T_g - T_a}{R_{ga}} - \frac{T_g - T_m}{R_{gm}}$
$C_m \frac{dT_m}{dt} = (1-\alpha) P - \frac{T_m - T_a}{R_{ma}} + \frac{T_g - T_m}{R_{gm}}$
जहाँ $C$ थर्मल कैपेसिटेंस को दर्शाता है, $R$ थर्मल रेजिस्टेंस को दर्शाता है, $T_a$ एम्बिएंट तापमान है, और $\alpha$ GPU और मेमोरी के बीच एक लेटेंट पावर स्प्लिट पैरामीटर है।
पावर रेट कंस्ट्रेंट (Power Rate Constraint): ODEs को हल करके, पावर परिवर्तन की दर ($dP/dt$) पर एक बाधा व्युत्पन्न की गई है, जो प्रेडिक्टेड पावर ट्राजेक्टरीज को देखे गए तापमान डेरिवेटिव से जोड़ती है।
थ्रॉटलिंग कंस्ट्रेंट (Throttling Constraint): पावर थ्रॉटलिंग को संभालने के लिए एक विशिष्ट लॉस घटक ( $L_{throttle}$ ) पेश किया गया है। MIT सुपरक्लाउड डेटासेट के अवलोकनों के आधार पर, थ्रॉटलिंग केवल अत्यधिक तापमान के बजाय निरंतर उच्च उपयोग (utilization >90%) के साथ मजबूती से सह-संबंधित है। यह लॉस उन स्थितियों में पावर वृद्धि को दंडित करता है जब उपयोग और तापमान विशिष्ट थ्रेसहोल्ड से ऊपर होते हैं, जिससे यह भौतिक वास्तविकता सुनिश्चित होती है कि उच्च तनाव के तहत पावर को गिरना या स्थिर होना चाहिए।

2.3 लॉस फंक्शन (Loss Function)

कुल लॉस फंक्शन तीन घटकों का एक भारित योग (weighted sum) है:
$L = \lambda_u L_{Data} + \lambda_r L_{r} + \lambda_\theta L_{throttle}$

$L_{Data}$ : प्रेडिक्टेड और वास्तविक पावर के बीच स्टैंडर्ड मीन स्क्वेर्ड एरर (MSE)।
$L_{r}$ : RC थर्मल नेटवर्क ODEs को लागू करने वाला रेसिडुअल लॉस।
$L_{throttle}$ : हाई-यूटिलाइजेशन/थ्रॉटलिंग रिजीम के दौरान पावर वृद्धि को रोकने वाला कंस्ट्रेंट लॉस।
डेटा फिडेलिटी और फिजिकल कंस्ट्रेंट्स को संतुलित करने के लिए वेटिंग पैरामीटर्स ( $\lambda$ ) को लॉग-स्पेस में एक सेल्फ-एडेप्टिव ग्रेडिएंट एसेंट विधि का उपयोग करके अनुकूलित किया जाता है।

3. प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट: मॉडल को MIT सुपरक्लाउड डेटासेट पर प्रशिक्षित और मूल्यांकित किया गया था, जो फरवरी से अक्टूबर 2021 तक का एक सार्वजनिक रूप से उपलब्ध, उच्च-रिज़ॉल्यूशन ट्रेस (1-मिनट ग्रेनुलैरिटी) है। इसमें 448 NVIDIA Volta V100 GPUs को कवर करने वाले 1-मिनट अंतराल पर एकत्रित 100-मिलीसेकंड लॉग शामिल हैं।
वर्कलोड: डेटासेट में विविध AI वर्कलोड शामिल हैं, जिनमें विजन नेटवर्क (जैसे U-Net, ResNet), LLMs (जैसे BERT), और GNNs शामिल हैं।
बेसलाइन्स: प्रस्तावित मॉडल की तुलना 16 स्टेट-ऑफ-द-आर्ट (SOTA) मॉडल्स के साथ की गई थी, जिनमें ट्रांसफॉर्मर-आधारित आर्किटेक्चर (iTransformer, PatchTST, FEDformer) और नॉन-ट्रांसफॉर्मर लीनियर मॉडल्स (DLinear, NLinear, Linear) शामिल हैं।
मेट्रिक्स: प्रदर्शन का मूल्यांकन विभिन्न लुक-बैक विंडोज़ (240–600 मिनट) और प्रेडिक्शन हॉरिज़न्स (5–80 मिनट) में MAE, MSE, RMSE और MAPE के माध्यम से किया गया।

4. मुख्य परिणाम (Key Results)

फोरकास्टिंग सटीकता: PI-DLinear ने लगातार सभी SOTA बेसलाइन्स को पछाड़ दिया। विभिन्न लुक-बैक और प्रेडिक्शन विंडोज़ में, इसने MSE के लिए 0.782%–39.08%, MAE के लिए 0.993%–51.82%, और RMSE के लिए 0.370%–22.28% का सुधार हासिल किया। विशेष रूप से, इसने प्रत्येक टेस्ट किए गए सीक्वेंस लेंथ पर सबसे कम MSE और RMSE प्राप्त किया।
थ्रॉटलिंग और ट्रांजिएंट रिकवरी: भौतिकी-जागरूक बाधाओं ने महत्वपूर्ण घटनाओं के दौरान प्रदर्शन में काफी सुधार किया।
- थ्रॉटल डिटेक्शन: PI-DLinear ने थ्रोटल इवेंट डिटेक्शन रेट में औसतन 6.88% का सुधार किया, जिसमें 360-मिनट लुक-बैक और 10-मिनट हॉरिजन पर 19.75% का पीक सुधार देखा गया।
- ट्रांजिएंट स्टेबिलिटी: अचानक लोड उतार-चढ़ाव के तहत, PI-DLinear ने DLinear (उदाहरण के लिए, DLinear के लिए RMSE 2.8610 बनाम PI-DLinear के लिए 2.3061) की तुलना में अधिक मजबूती से फोरकास्टिंग सटीकता को रिकवर किया।
- पोस्ट-थ्रोटल: थ्रॉटलिंग कम होने के बाद, PI-DLinear ने कम त्रुटि (MAE: 0.1112 बनाम 0.1795) के साथ स्थिर भविष्यवाणियां बनाए रखीं।
दक्षता: PI-DLinear बेस DLinear मॉडल के हल्के फुटप्रिंट (96k पैरामीटर्स, 0.376 MB मेमोरी) को बनाए रखता है। हालांकि भौतिकी गणनाओं के कारण ट्रेनिंग समय लगभग 1.9x बढ़ गया, लेकिन इन्फरेंस अभी भी कुशल है। यह भारी मॉडल्स जैसे FiLM (12.9M पैरामीटर्स) या TiDE के विपरीत है, जिन्होंने उच्च कम्प्यूटेशनल लागत के बावजूद कोई सटीकता लाभ नहीं दिया।
स्थिरता: कुछ ट्रांसफॉर्मर मॉडल्स के विपरीत जो अलग-अलग सीक्वेंस लेंथ के साथ अस्थिरता दिखाते हैं (जैसे Crossformer @ 360 min), PI-DLinear ने बढ़ते हुए हिस्ट्री विंडो के साथ उल्लेखनीय स्थिरता प्रदर्शित की, जो इसे डेटा सेंटर कंट्रोल यूनिट्स में लचीले परिनियोजन के लिए उपयुक्त बनाता है।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि यह AI डेटा सेंटर पावर फोरकास्टिंग के लिए पहला भौतिकी-सूचित DLinear मॉडल प्रस्तुत करता है जो सफलतापूर्वक एक मल्टी-नोड लम्पड थर्मल RC नेटवर्क को एकीकृत करता है। इसका प्राथमिक महत्व निम्नलिखित है:

नवीन व्युत्पत्ति: यह पहला कार्य है जिसने विशिष्ट समय-निर्भर ODEs को व्युत्पन्न किया है जो GPU/मेमोरी पावर को तापमान और उपयोग के साथ जोड़ते हैं, ताकि भौतिकी-सूचित बाधाओं के रूप में काम किया जा सके, जो मौजूदा साहित्य के उस अंतर को भरता है जहाँ ऐसे युग्मित समीकरण उपलब्ध नहीं थे।
भौतिक निरंतरता: अपनी लर्निंग को वास्तविक भौतिक तंत्रों (न्यूटन के कूलिंग लॉ और ऊर्जा संरक्षण) से जोड़कर, मॉडल यह सुनिश्चित करता है कि भविष्यवाणियां भौतिक नियमों का सम्मान करें, विशेष रूप से गैर-स्थिर घटनाओं जैसे पावर थ्रॉटलिंग के दौरान जहाँ केवल डेटा-संचालित मॉडल विफल हो जाते हैं।
व्यावहारिक परिनियोजन: ढांचा सटीकता और कम्प्यूटेशनल दक्षता के बीच एक बेहतर ट्रेड-ऑफ प्रदान करता है। यह जटिल ट्रांसफॉर्मर आर्किटेक्चर की भारी कम्प्यूटेशनल लागत के बिना SOTA प्रदर्शन प्राप्त करता है, जिससे यह रियल-टाइम डेटा सेंटर मॉनिटरिंग और कंट्रोल सिस्टम में तैनाती के लिए व्यवहार्य बनता है।
ग्रिड लचीलापन: AI लोड का सटीक अल्पकालिक पूर्वानुमान ग्रिड ऑपरेटरों को बैलेंसिंग एक्शन, रिजर्व रिक्वायरमेंट्स और फ्रीक्वेंसी रेगुलेशन को प्रबंधित करने में सक्षम बनाने के लिए एक महत्वपूर्ण एनबलर के रूप में स्थित है, जिससे आधुनिक AI वर्कलोड की अस्थिरता के विरुद्ध बिजली ग्रिड की लचीलापन बढ़ता है।