KernelEvolve: Scaling Agentic Kernel Coding for Heterogeneous AI Accelerators at Meta
KernelEvolve एक एजेंटिक फ्रेमवर्क है जो विविध डीप लर्निंग रिकमेंडेशन मॉडल्स के लिए विभिन्न हेट्रोजेनियस AI एक्सीलरेटरों पर उच्च-प्रदर्शन वाले कर्नेल के जनरेशन और ऑप्टिमाइज़ेशन को स्वचालित करता है, जो मौजूदा बेसलाइन्स की तुलना में पर्याप्त प्रदर्शन लाभ प्रदान करते हुए और शुद्धता सुनिश्चित करते हुए विकास के समय को काफी कम कर देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ KernelEvolve पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ अनुवाद दिया गया है।
बड़ी समस्या: "अनुवाद" का दुस्वप्न (Nightmare)
कल्पना कीजिए कि Meta एक विशाल वैश्विक विज्ञापन प्रणाली चलाता है। आपको सही विज्ञापन दिखाने के लिए, इस प्रणाली को हर दिन अरबों बार जटिल गणित करना पड़ता है। यह गणित विशेष कंप्यूटर चिप्स द्वारा किया जाता है जिन्हें AI एक्सीलरेटर कहा जाता है (जैसे NVIDIA GPUs, AMD GPUs, और Meta के अपने कस्टम चिप्स जिन्हें MTIA कहा जाता है)।
हालाँकि, एक बहुत बड़ी समस्या है: ये चिप्स अलग-अलग भाषाएँ बोलते हैं।
- एक NVIDIA चिप "CUDA" बोलती है।
- एक AMD चिप "ROCm" बोलती है।
- Meta का कस्टम चिप "Triton" का एक अनूठा रूप बोलता है।
इसके अलावा, विज्ञापनों के लिए आवश्यक "शब्द" (गणितीय कार्य/math operations) अविश्वसनीय रूप से विविध हैं। कुछ मानक गणित (जैसे गुणा) हैं, लेकिन कई अजीब, विज्ञापनों के लिए विशिष्ट कस्टम कार्य हैं, जैसे यूजर हिस्ट्री को सॉर्ट करना या डेटा को हैश करना।
पुराना तरीका:
विज्ञापनों को तेज़ चलाने के लिए, मानव इंजीनियरों को हर एक गणितीय कार्य के लिए और हर एक प्रकार के चिप के लिए एक विशिष्ट "अनुवाद" (एक कर्नल/kernel) मैन्युअल रूप से लिखना पड़ता था।
- उपमा (Analogy): कल्पना कीजिए कि आप एक शेफ हैं जो 1,000 मेहमानों को भोजन परोसने की कोशिश कर रहे हैं, लेकिन प्रत्येक मेहमान एक अलग भाषा बोलता है और उसका आहार भी अलग है। आपको हर एक मेहमान के लिए एक अनूठी रेसिपी लिखनी होगी और उसे एक अलग भाषा में अनुवाद करना होगा। यदि आप एक भी अनुवाद करना भूल जाते हैं, तो उस मेहमान को भोजन नहीं मिल पाएगा। यदि आप मेनू बदलना चाहते हैं (AI मॉडल को अपडेट करना), तो आपको सभी 1,000 रेसिपी फिर से शुरू से लिखनी होंगी। इसमें हफ्तों लग जाते हैं, गलतियाँ होने की संभावना रहती है, और यह अविश्वसनीय रूप से महंगा है।
समाधान: KernelEvolve (एक "सुपर-ट्रांसलेटर" रोबोट)
यह पेपर KernelEvolve पेश करता है, जो एक AI एजेंट सिस्टम है जो इस पूरी प्रक्रिया को स्वचालित (automate) करता है। कोड लिखने के लिए इंसानों के बजाय, KernelEvolve एक अथक, सुपर-स्मार्ट रोबोट शेफ की तरह काम करता है जो किसी भी भाषा को तुरंत सीख सकता है और किसी भी मेहमान के लिए एकदम सही रेसिपी लिख सकता है।
यह कैसे काम करता है, चरण-दर-चरण यहाँ दिया गया है:
1. "ट्री सर्च" (कई रास्तों को आज़माना)
जब KernelEvolve को किसी गणितीय समस्या को हल करने की आवश्यकता होती है, तो यह केवल एक बार अनुमान नहीं लगाता। यह एक ट्री सर्च (Tree Search) का उपयोग करता है।
- उपमा: कल्पना कीजिए कि आप एक विशाल भूलभुलैया (maze) के माध्यम से सबसे तेज़ रास्ता खोजने की कोशिश कर रहे हैं। एक इंसान एक रास्ता आज़मा सकता है, फंस सकता है और हार मान सकता है। KernelEvolve चींटियों के एक झुंड की तरह है। यह एक साथ हजारों "एक्सप्लोरर्स" (खोजकर्ताओं) को भेजता है। कुछ बाईं ओर जाते हैं, कुछ दाईं ओर। यदि कोई एक्सप्लोरर दीवार से टकरा जाता है (कोड एरर), तो वह रुक जाता है। यदि कोई एक्सप्लोरर एक शॉर्टकट ढूंढ लेता है (गणित करने का तेज़ तरीका), तो वह उस रास्ते को "अच्छा" के रूप में चिह्नित करता है और अधिक चींटियों को उस रास्ते पर भेजता है।
- यह तब तक यह प्रक्रिया जारी रखता है, हर डेड एंड (बंद रास्ते) और हर सफलता से सीखता रहता है, जब तक कि इसे सबसे अच्छा रास्ता न मिल जाए।
2. "मेमोरी लाइब्रेरी" (अतीत से सीखना)
KernelEvolve के पास नोट्स की एक विशाल, व्यवस्थित लाइब्रेरी है जिसे परसिस्टेंट नॉलेज बेस (Persistent Knowledge Base) कहा जाता है।
- उपमा: यदि आप एक टपकते हुए नल को ठीक करने की कोशिश कर रहे हैं, तो आप केवल अनुमान नहीं लगाते; आप एक मैनुअल देखते हैं। KernelEvolve भी ऐसा ही करता है, लेकिन इसका मैनुअल बहुत बड़ा है। इसमें हर प्रकार की चिप (NVIDIA, AMD, MTIA) के लिए विशिष्ट निर्देश शामिल हैं।
- जादू: Meta के कस्टम चिप (MTIA) के लिए भी, जो इतना नया है कि किसी भी AI ने इसे पहले कभी नहीं देखा है, KernelEvolve के पास इसकी लाइब्रेरी में इंजेक्ट किया गया एक विशेष "निर्देश मैनुअल" है। यह नोट्स पढ़ता है, चिप की अनूठी विशेषताओं को सीखता है, और विशेष रूप से इसके लिए कोड लिखता है। यह इसे उस हार्डवेयर पर काम करने की अनुमति देता है जो सार्वजनिक इंटरनेट के ट्रेनिंग डेटा में मौजूद नहीं है।
3. "सेल्फ-करेक्टिंग लूप" (खुद को सुधारना)
एक बार जब रोबोट कोड का एक टुकड़ा लिख देता है, तो वह केवल उस पर भरोसा नहीं करता है। यह एक सेल्फ-करेक्शन लूप (Self-Correction Loop) चलाता है।
- उपमा: रोबोट एक रेसिपी लिखता है, व्यंजन बनाता है, और फिर उसे चखता है।
- टेस्ट (सटीकता/Correctness): क्या इसका स्वाद मूल जैसा है? (क्या गणित अपेक्षित परिणाम से मेल खाता है?)
- स्पीड टेस्ट (प्रदर्शन/Performance): क्या यह पुराने तरीके से तेज़ बना?
- सुधार (The Fix): यदि व्यंजन बहुत नमकीन है (बहुत धीमा है) या स्वाद गलत है (गणित की त्रुटि), तो रोबोट विश्लेषण करता है कि क्यों। वह "किचन लॉग्स" (प्रोफाइलिंग डेटा) को देखता है ताकि देख सके कि चूल्हा बहुत गर्म था या सामग्री गलत तरीके से मिली थी। फिर वह रेसिपी को फिर से लिखता है और फिर से प्रयास करता है।
- यह एक एकल कार्य के लिए सैकड़ों बार इस चक्र को दोहराता है, कोड को तब तक परिष्कृत (refine) करता है जब तक कि वह एकदम सही न हो जाए।
4. "रिमोट किचन" (FaaS)
इन रेसिपीज़ का परीक्षण करने के लिए, रोबोट को वास्तव में उन महंगे चिप्स का उपयोग करने की आवश्यकता होती है।
- उपमा: रोबोट (मस्तिष्क) एक मानक ऑफिस कंप्यूटर में रहता है। चिप्स (ओवन) एक अलग, हाई-टेक किचन में हैं। रोबोट के किचन तक जाने, ओवन का इंतज़ार करने और वापस आने के बजाय, यह रेसिपी को एक रिमोट किचन सर्विस (FaaS) को भेज देता है। रिमोट किचन व्यंजन बनाता है और परिणाम तुरंत वापस भेज देता है। यह रोबोट को ओवन का इंतज़ार किए बिना एक ही समय में हजारों रेसिपी का परीक्षण करने की अनुमति देता है।
परिणाम: यह क्यों मायने रखता है
पेपर का दावा है कि KernelEvolve तीन कारणों से गेम-चेंजर है:
- गति (Speed): इसने इन विशिष्ट कोड्स को बनाने के समय को हफ्तों से घंटों में कम कर दिया।
- प्रदर्शन (Performance): इसके द्वारा लिखा गया कोड अविश्वसनीय रूप से तेज़ है। परीक्षणों में, इसने AI को मानक, मानव-लिखित कोड की तुलना में 1.2 से 17 गुना तेज़ बनाया।
- उदाहरण: एक विशिष्ट डेटा सॉर्टिंग कार्य के लिए, यह 9.8 गुना तेज़ था। Meta के कस्टम चिप पर एक विशिष्ट गणितीय ऑपरेशन के लिए, यह 17 गुना तेज़ था।
- विश्वसनीयता (Reliability): इसने 100% शुद्धता परीक्षणों को पास किया। इसने न केवल चीज़ों को तेज़ बनाया; इसने यह भी सुनिश्चित किया कि गणित हर बार बिल्कुल सही हो।
सारांश
KernelEvolve एक AI सिस्टम है जो विभिन्न प्रकार के AI चिप्स के लिए कंप्यूटर कोड को अनुवाद करने के उबाऊ, कठिन और महंगे काम को स्वचालित करता है। "कोशिश-और-सीखें" रणनीति (Tree Search), हार्डवेयर नियमों की एक विशाल लाइब्रेरी (Knowledge Base), और एक सेल्फ-करेक्टिंग लूप का उपयोग करके, यह हफ्तों के बजाय घंटों में Meta के विज्ञापन सिस्टम के लिए हाई-स्पीड कोड तैयार कर सकता है, जिससे पूरा सिस्टम चलाना तेज़ और सस्ता हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।