GPU Forecasters: Language Models as Selective Surrogates for Kernel Runtime Optimization
यह शोध पत्र GPU कर्नेल प्रदर्शन का पूर्वानुमान लगाने के लिए चयनात्मक, सुदृढीकरण-सीखने (reinforcement-learning) द्वारा संवर्धित सरोगेट्स के रूप में भाषा मॉडलों का उपयोग करने का प्रस्ताव देता है, जिससे महंगी ऑन-डिवाइस मूल्यांकनों को कम किया जा सके और सीमित माप बजट के भीतर तेज़ कर्नेल्स की खोज को सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, जटिल भूलभुलैया में सबसे तेज़ रास्ता खोजने की कोशिश कर रहे हैं। कंप्यूटर चिप्स (GPUs) की दुनिया में, यह "भूलभुलैया" कोड का एक टुकड़ा है जिसे कर्नेल (kernel) कहा जाता है, जो चिप को यह बताता है कि गणित कैसे करना है। इस कोड के सबसे तेज़ संस्करण को खोजना AI को तेज़ी से चलाने के लिए अत्यंत महत्वपूर्ण है, लेकिन यह अविश्वसनीय रूप से महंगा है।
समस्या: "वास्तविक-दुनिया" का परीक्षण बहुत धीमा है
अभी, यह देखने के लिए कि क्या कोई नया कोड तेज़ है, आपको यह करना पड़ता है:
- कोड लिखना।
- इसे कंपाइल करना (इसे मशीन भाषा में अनुवाद करना)।
- एक वास्तविक, महंगे ग्राफिक्स कार्ड (GPU) पर इसे चलाना।
- यह मापना कि इसमें कितना समय लगा।
यह प्रक्रिया एक नई कार के डिज़ाइन का परीक्षण करने के समान है जैसे कि वास्तव में कार बनाना, उसे ट्रैक पर चलाना और समय मापना। इसमें बहुत समय लगता है और बहुत पैसा खर्च होता है। यदि आप 1,000 अलग-अलग डिज़ाइनों का परीक्षण करना चाहते हैं, तो आपको 1,000 कारें बनानी और चलानी होंगी। यह सबसे अच्छे डिज़ाइन की खोज को धीमा कर देता है।
समाधान: "आभासी" टेस्ट ड्राइवर
इस शोध पत्र के लेखक एक स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल या LLM) का उपयोग करने का प्रस्ताव देते हैं जो एक प्रेडिक्टर (predictor) या सरोगेट (surrogate) के रूप में कार्य करता है। हर एक कार को बनाने और चलाने के बजाय, आप AI से पूछते हैं: "इस नए कार डिज़ाइन के ब्लूप्रिंट के आधार पर, आपको क्या लगता है कि यह पुराने वाले की तुलना में कितनी तेज़ चलेगी?"
AI कोड को देखता है और गति का अनुमान लगाने की कोशिश करता है।
- चुनौती: AI एकदम सटीक नहीं है। कभी-कभी यह गलत अनुमान लगाता है।
- समाधान: शोध पत्र में AI को अपनी अनिश्चितता के बारे में ईमानदार होना सिखाया गया है। यह एक मौसम विज्ञानी की तरह है जो कहता है, "मुझे 90% यकीन है कि बारिश होगी," बनाम एक जो कहता है, "मुझे पता नहीं, लेकिन मैं अनुमान लगा रहा हूँ।"
यह कैसे काम करता है: "चयनात्मक" रणनीति
शोधकर्ताओं ने एक प्रणाली बनाई है जहाँ AI एक फ़िल्टर के रूप में कार्य करता है:
- आत्मविश्वासी अनुमान: यदि AI अपने अनुमान में बहुत आश्वस्त है (जैसे, "यह नया कोड निश्चित रूप से 2 गुना तेज़ होगा"), तो सिस्टम उस अनुमान को स्वीकार कर लेता है और महंगे वास्तविक-दुनिया के परीक्षण को छोड़ देता है।
- अनिश्चित अनुमान: यदि AI अनिश्चित है (जैसे, "यह तेज़ हो सकता है, या यह धीमा भी हो सकता है"), तो सिस्टम कहता है, "ठीक है, हम अभी तक उस अनुमान पर भरोसा नहीं करते," और उस कोड को वास्तविक परीक्षण के लिए GPU को भेज देता है।
इसे सिलेक्टिव सरोगेट (Selective Surrogate) कहा जाता है। यह एक हायरिंग मैनेजर की तरह है जो 100 उम्मीदवारों का साक्षात्कार लेता है। स्पष्ट रूप से शीर्ष-स्तरीय और निचले-स्तर के उम्मीदवारों के लिए, मैनेजर रेज़्यूमे के आधार पर त्वरित निर्णय लेता है। लेकिन "शायद" वाले उम्मीदवारों के लिए, वे एक पूर्ण, महंगा इन-पर्सन इंटरव्यू शेड्यूल करते हैं।
प्रशिक्षण: AI को एक बेहतर कोच बनाना सिखाना
शोध पत्र दिखाता है कि हम इस AI प्रेडिक्टर को रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) (प्रशिक्षण का एक प्रकार जहाँ AI को सही होने पर अंक मिलते हैं और गलत होने पर अति-आत्मविश्वासी होने के लिए अंक कटते हैं) का उपयोग करके और भी बेहतर बना सकते हैं।
- उन्होंने AI को न केवल गति का अनुमान लगाना सिखाया, बल्कि अपनी "अनिश्चितता" को सही ढंग से फैलाना भी सिखाया।
- परिणाम: AI ने सीखा कि जब वह वास्तव में अनिश्चित था तब "मुझे इस बारे में यकीन नहीं है" कहना, और जब वह सही था तब आत्मविश्वासी होना। इसने सिस्टम को बहुत अधिक विश्वसनीय बना दिया।
परिणाम: तेज़ कर्नेल को तेज़ी से खोजना
जब उन्होंने इस प्रणाली को काम पर लगाया:
- दक्षता: वे समान समय और पैसे के साथ चार गुना अधिक कोड उम्मीदवारों को देख सके। 100 डिज़ाइनों को वास्तविक GPU पर टेस्ट करने के बजाय, वे 100 को AI पर टेस्ट कर सकते थे और केवल शीर्ष 25 को ही वास्तविक GPU पर भेजते थे।
- प्रदर्शन: क्योंकि वे अधिक विकल्पों को देख सके, इसलिए उन्होंने तेज़ कोड खोजा जो केवल वास्तविक GPU का उपयोग करने वाले सिस्टम की तुलना में बेहतर था।
- खोज: AI आश्चर्यजनक रूप से "ब्रेकथ्रू" क्षणों को पहचानने में सक्षम था—ऐसे समय जब कोड में एक छोटे से बदलाव ने गति में बड़ा अंतर पैदा किया।
सारांश में
यह शोध पत्र कंप्यूटर चिप्स के लिए एक "आभासी टेस्ट ड्राइवर" पेश करता है। AI का उपयोग करके यह अनुमान लगाने के माध्यम से कि कौन से कोड डिज़ाइन तेज़ होने की संभावना है, और केवल उन्हीं को भौतिक रूप से टेस्ट करके जिनके बारे में AI अनिश्चित है, हम बहुत तेज़ी से और सस्ते में बेहतर सॉफ़्टवेयर खोज सकते हैं। AI वास्तविक परीक्षण को बदल नहीं रहा है; यह एक स्मार्ट गेटकीपर के रूप में कार्य करता है, जो सबसे महत्वपूर्ण क्षणों के लिए महंगे वास्तविक-दुनिया के परीक्षणों को बचा लेता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।