Running orbital AI data centers hot: chip leakage matters as much as temperature tolerance
यह अध्ययन प्रदर्शित करता है कि कक्षीय एआई डेटा केंद्रों के लिए, चिप लीकेज को कम करना द्रव्यमान में कमी के लिए तापमान रेटिंग बढ़ाने जितना ही महत्वपूर्ण है, क्योंकि वर्तमान लीकेज स्तर उच्च तापमान पर संचालन से अपेक्षित द्रव्यमान बचत को काफी हद तक निष्प्रभावी कर देते हैं, हालांकि बेहतर थर्मल प्रबंधन अभी भी महत्वपूर्ण लाभ प्रदान कर सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अंतरिक्ष में एक सुपरकंप्यूटर बनाने की कोशिश कर रहे हैं। लक्ष्य पृथ्वी की कक्षा में घूमते हुए विशाल आर्टिफिशियल इंटेलिजेंस मॉडल को प्रशिक्षित करना है, लेकिन एक मौलिक भौतिक समस्या है: कंप्यूटर गर्मी पैदा करते हैं, और अंतरिक्ष के निर्वात में, गर्मी को दूर ले जाने के लिए कोई हवा नहीं होती है। कक्षा में किसी मशीन को ठंडा करने का एकमात्र तरीका रेडिएटर्स नामक बड़े, सपाट पैनलों का उपयोग करके उसे गहरे अंतरिक्ष की ठंडी अंधेरी दुनिया में विकीर्ण (radiate) करना है। ये पैनल जितने गर्म हो सकते हैं, वे उतने ही छोटे हो सकते हैं, क्योंकि तापमान बढ़ने के साथ ऊष्मा विकिरण अविश्वसनीय रूप से तेजी से बढ़ता है। इस सरल भौतिक नियम ने इंजीनियरों को अत्यधिक गर्म तापमान पर कक्षीय डेटा केंद्रों को चलाने का प्रस्ताव देने के लिए प्रेरित किया है, ताकि भारी रेडिएटर्स के आकार को प्रबंधनीय स्तर तक छोटा किया जा सके।
हालाँकि, एक नया अध्ययन बताता है कि यह योजना एक छिपी हुई दीवार से टकराती है। जबकि रेडिएटर्स छोटे हो सकते हैं, मशीन के भीतर के कंप्यूटर चिप्स अलग तरह से व्यवहार करते हैं जब वे गर्म होते हैं। जैसे-जैसे सिलिकॉन चिप्स गर्म होते हैं, वे बिजली "लीक" करने लगते हैं, जिससे कोई भी काम करने से पहले ही बिजली बर्बाद होने लगती है। यह बर्बाद हुई शक्ति अधिक गर्मी में बदल जाती है, जो चिप्स को और भी गर्म कर देती है, जिससे और भी अधिक लीकेज होता है। यह एक दुष्चक्र है। शोध से पता चलता है कि कंप्यूटर चिप्स की वर्तमान पीढ़ी के लिए, यह लीकेज इतना शक्तिशाली है कि यह उच्च तापमान पर सिस्टम चलाने के लगभग सभी लाभों को समाप्त कर देता है। यह विचार कि केवल उच्च तापमान सहने वाले चिप्स बनाकर द्रव्यमान (mass) की समस्या को हल किया जा सकता है, इस विश्लेषण के अनुसार, काफी हद तक एक भ्रम है।
शोधकर्ता, जापान के माकुहारी डेवलपमेंट कॉर्पोरेशन के जियावेई जिंग ने एक तरल-शीतलित (liquid-cooled) उपग्रह का विस्तृत कंप्यूटर मॉडल बनाया जिसे एक कक्षीय AI डेटा सेंटर के रूप में डिज़ाइन किया गया था। उन्होंने पूरे सिस्टम को एक एकल, जुड़े हुए मशीन के रूप में माना। उनके मॉडल में, चिप्स को एक तरल पदार्थ द्वारा ठंडा किया जाता है जो पाइपों के माध्यम से बहता है, जो रेडिएटर पैनलों तक गर्मी ले जाता है। टीम ने हजारों सिमुलेशन चलाए, जिसमें उन्होंने चिप्स और उनकी मेमोरी द्वारा संभालने योग्य अधिकतम तापमान को बदला, और यह देखा कि उपग्रह का कुल वजन कैसे बदलता है। उन्होंने प्रत्येक प्रमुख घटक को शामिल किया: बिजली उत्पन्न करने के लिए आवश्यक सौर पैनल, इसे स्टोर करने के लिए बैटरी, कूलेंट को चलाने के लिए पंप, और गर्मी को बाहर निकालने के लिए रेडिएटर। महत्वपूर्ण रूप से, उन्होंने चिप्स को स्थिर वस्तुओं के रूप में नहीं माना; उन्होंने मॉडल को इस तथ्य को ध्यान में रखते हुए प्रोग्राम किया कि जैसे-जैसे चिप्स गर्म होते हैं, वे अधिक बिजली लीक करते हैं और अधिक बिजली की खपत करते हैं।
परिणाम स्पष्ट थे। कक्षीय डेटा केंद्रों पर मौजूद साहित्य अक्सर रेडिएटर्स को आकार कम करने के लिए 350 और 385 केल्विन (लगभग 80 से 110 डिग्री सेल्सियस) के तापमान पर चलाने का सुझाव देता है। इसे प्राप्त करने के लिए, चिप्स को स्वयं 117 और 174 डिग्री सेल्सियस के बीच के तापमान पर संचालित होना होगा। अध्ययन में पाया गया कि यदि आप जादुई रूप से ऐसे चिप्स बना सकें जो कभी बिजली लीक न करें, तो तापमान सीमा को वर्तमान 85 डिग्री से बढ़ाकर 150 डिग्री करने से वास्तव में उपग्रह के कुल द्रव्यमान में लगभग 23.5 प्रतिशत की बचत होगी। लेकिन वास्तविक चिप्स लीक करते हैं। जब शोधकर्ताओं ने आज के सबसे शक्तिशाली ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs) की वास्तविक लीकेज दरों को डाला, तो बचत गायब हो गई। लीकेज से उत्पन्न अतिरिक्त गर्मी ने सिस्टम को कचरे (waste) को संभालने के लिए बड़े सौर पैनल और बड़े रेडिएटर ले जाने के लिए मजबूर कर दिया, जिससे लाभ प्रभावी रूप से शून्य हो गया। अंत में, द्रव्यमान की बचत 23.5 प्रतिशत से घटकर मात्र 2.6 प्रतिशत रह गई।
अध्ययन ने यह भी पता लगाया कि क्या सिस्टम उच्च तापमान पर स्थिर भी रह सकता है। चूंकि लीकेज गर्मी के साथ तेजी से बढ़ता है, इसलिए एक ऐसा बिंदु आता है जहाँ चिप इतनी अधिक गर्मी पैदा करता है जिसे कूलिंग सिस्टम निकाल नहीं पाता, जिससे एक अनियंत्रित प्रभाव (runaway effect) पैदा होता है जहाँ चिप खुद को नष्ट कर लेता है। सिमुलेशन ने दिखाया कि प्रस्तावित उच्च-तापमान डिजाइनों के लिए, वर्तमान चिप व्यवहार इस अस्थिरता की ओर ले जाएगा, जब तक कि चिप और कूलिंग लिक्विड के बीच का तापमान अंतर नाटकीय रूप से कम न किया जाए। दूसरे शब्दों में, केवल उच्च तापमान सहने वाले चिप्स बनाना पर्याप्त नहीं है; लीकेज का भौतिक विज्ञान वांछित दक्षता तक पहुँचने से पहले ही सिस्टम को अस्थिर बना देता है।
तो, यदि चिप्स को गर्म चलाना एक बंद रास्ता है, तो समाधान क्या है? शोधकर्ताओं ने एक अलग लीवर खोजा। चिप्स को गर्म करने के बजाय, उन्होंने कूलिंग सिस्टम को चिप्स से गर्मी निकालने में अधिक कुशल बनाने का प्रस्ताव दिया। वर्तमान में, गर्म चिप और उसके पास बहने वाले ठंडे तरल के बीच एक बड़ा तापमान अंतराल होता है, जो बिल्कुल शरीर की गर्मी को रोकने वाले एक मोटे विंटर कोट की तरह है। अध्ययन ने दिखाया कि थर्मल कनेक्शन (thermal connection) में सुधार करके—बेहतर सामग्री या डिजाइन का उपयोग करके इस अंतर को कम करके—लिक्विड कूलेंट को चिप्स को गर्म किए बिना बहुत अधिक गर्म होने की अनुमति दी जा सकती है। यह रेडिएटर्स को उच्च तापमान पर संचालित करने और छोटे रहने की अनुमति देता है, जबकि चिप्स इतने ठंडे रहते हैं कि वे सबसे खराब लीकेज से बच सकें।
लीकेज की समस्या को "बायपास" करने के इस दृष्टिकोण ने उच्च तापमान को सहन करने की कोशिश करने की तुलना में कहीं अधिक प्रभावी परिणाम दिए। चिप और कूलेंट के बीच तापमान के अंतर को 40 डिग्री से घटाकर 25 डिग्री करने से, मॉडल ने लगभग 8 प्रतिशत की द्रव्यमान बचत दिखाई। यह चिप्स की तापमान सीमा बढ़ाने से प्राप्त बचत से तीन गुना से भी अधिक है। मुख्य अंतर्दृष्टि यह है कि बाधा चिप की गर्मी सहने की क्षमता नहीं है, बल्कि सिस्टम की वह क्षमता है जिससे चिप को ठंडा रखा जा सके जबकि रेडिएटर गर्म रहता है। अध्ययन निष्कर्ष निकालता है कि कक्षीय AI डेटा सेंटरों के व्यवहार्य होने के लिए, चिप डिजाइनरों को तापमान सहनशीलता बढ़ाने के साथ-साथ इलेक्ट्रिकल लीकेज को कम करने पर भी उतना ही ध्यान देना चाहिए। हल्के, अधिक कुशल अंतरिक्ष कंप्यूटर का मार्ग गर्म मशीनें बनाने में नहीं, बल्कि बेहतर कूलिंग सिस्टम बनाने में निहित है जो चिप्स को ठंडा रखते हैं जबकि बाकी उपग्रह गर्म रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।