AccelOpt: A Self-Improving LLM Agentic System for AI Accelerator Kernel Optimization
AccelOpt एक स्व-सुधार करने वाला (self-improving) LLM एजेंटिक सिस्टम है जो अनुभव-आधारित मेमोरी का लाभ उठाकर AI एक्सेलेरेटर कर्नेल को स्वायत्त रूप से अनुकूलित करता है, जिससे AWS Trainium हार्डवेयर पर महत्वपूर्ण थ्रूपुट लाभ प्राप्त होता है और साथ ही महंगे प्रोप्रायटरी मॉडल्स के प्रदर्शन की बराबरी बहुत कम लागत पर की जा सकती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बिल्कुल नया, अविश्वसनीय रूप से शक्तिशाली सुपरकंप्यूटर है (जैसे Amazon का Trainium)। इसे बड़े पैमाने पर AI समस्याओं को हल करने के लिए बनाया गया है, जैसे कि अगली पीढ़ी के चैटबॉट्स को प्रशिक्षित करना। लेकिन इसमें एक पेंच है: यह कंप्यूटर एक बहुत ही विशिष्ट, कठिन भाषा बोलता है जिसे "न्यूरॉन कर्नल इंटरफेस" (NKI) कहा जाता है।
इस कंप्यूटर को तेज़ी से चलाने के लिए, आपको छोटे, लो-लेवल निर्देश लिखने होंगे जिन्हें कर्नल्स (kernels) कहा जाता है। इन कर्नल्स को आप ऐसे "रेसिपी" (विधि) के रूप में समझ सकते हैं कि कंप्यूटर डेटा को कैसे "पकाता" है। यदि रेसिपी खराब है, तो कंप्यूटर खाना जला देगा (समय और पैसा बर्बाद करेगा)। यदि रेसिपी एकदम सही है, तो वह कुछ ही सेकंडों में एक शानदार दावत तैयार कर देगा।
समस्या:
इन एकदम सही रेसिपी लिखना अविश्वसनीय रूप से कठिन है। इसके लिए आमतौर पर विशेषज्ञों की एक ऐसी टीम की आवश्यकता होती है जिन्होंने वर्षों तक कंप्यूटर के ब्लूप्रिंट (खाकों) का अध्ययन किया हो। लेकिन इन नए सुपरकंप्यूटर्स के लिए, ब्लूप्रिंट नए हैं, विशेषज्ञ दुर्लभ हैं, और अभी हमारे पास जो "रेसिपी" उपलब्ध हैं, वे अक्सर धीमी और अक्षम हैं। यह एक साइकिल के लिए लिखे गए मैनुअल के साथ फॉर्मूला 1 कार चलाने जैसा है।
समाधान: AccelOpt
इस शोध पत्र के लेखकों ने AccelOpt नामक एक सिस्टम बनाया है। हर रेसिपी लिखने के लिए एक मानव विशेषज्ञ को काम पर रखने के बजाय, उन्होंने एक स्व-सुधारने वाला AI एजेंट (self-improving AI agent) बनाया है जो खुद इन रेसिपीज़ को लिखना सीखता है।
AccelOpt कैसे काम करता है, इसे एक सरल उदाहरण से समझते हैं:
1. AI एजेंटों की टीम
AccelOpt केवल एक रोबोट नहीं है; यह तीन AI विशेषज्ञों की एक छोटी टीम है जो मिलकर काम करती है:
- द प्लानर (The Planner): यह एजेंट एक धीमी रेसिपी को देखता है और कहता है, "हे, मैं देख रहा हूँ कि हम फ्रिज के पास बार-बार आ-जा रहे हैं। चलिए फ्रिज को थोड़ा पास ले आते हैं।" यह कोड को ठीक करने के लिए एक रणनीति बनाता है।
- द एक्सेक्यूटर (The Executor): यह एजेंट वास्तव में प्लानर की रणनीति के आधार पर कोड को फिर से लिखने का प्रयास करता है। यह काम करने वाला हाथ है।
- द समराइज़र (The Summarizer): यह एजेंट शिक्षक है। एक्सेक्यूटर द्वारा एक नया संस्करण आज़माने के बाद, समराइज़र "पहले" और "बाद" की तुलना करता है। यदि नया संस्करण तेज़ है, तो समराइज़र एक नोट लिखता है: "फ्रिज को पास लाने से 5 मिनट बचे। इस ट्रिक को याद रखें!"
2. "ऑप्टिमाइज़ेशन मेमोरी" (दिमाग)
यही असली जादू है। अधिकांश AI सिस्टम हर बार समस्या को शून्य से हल करने की कोशिश करते हैं। AccelOpt अलग है। यह एक नोटबुक (Optimization Memory) रखता है।
- हर बार जब टीम किसी तरीके से कर्नल को तेज़ बनाती है, तो वे उसे नोटबुक में लिखते हैं।
- हर बार जब वे कुछ ऐसा आज़माते हैं जिससे गति कम हो जाती है, तो वे उसे भी लिख देते हैं (ताकि वे वही गलती दोबारा न दोहराएं)।
- काम के अगले दौर में, टीम पहले नोटबुक पढ़ती है। वे शून्य से शुरुआत नहीं करते; वे उन सभी पाठों के साथ शुरुआत करते हैं जो उन्होंने कल सीखे थे।
3. "बीम सर्च" (कई रास्तों की खोज)
कल्पना कीजिए कि आप एक भूलभुलैया (maze) में सबसे तेज़ रास्ता खोजने की कोशिश कर रहे हैं।
- पुराना तरीका: आप एक रास्ता चुनते हैं, उस पर चलते हैं, और यदि वह बंद रास्ता निकलता है, तो आप वापस आते हैं और दूसरा रास्ता आज़माते हैं।
- AccelOpt का तरीका (बीम सर्च): आप एक साथ 6 अलग-अलग खोजकर्ताओं को भेजते हैं। प्रत्येक एक थोड़ा अलग मोड़ आज़माता है। आप 6 सबसे अच्छे रास्तों को रखते हैं और उन्हें अगले दौर के लिए फिर से भेजते हैं, और बेकार रास्तों को छोड़ देते हैं। इस तरह, आप भूलभुलैया को बहुत तेज़ी से खोजते हैं और बिना फंसे सबसे तेज़ रास्ता (सबसे तेज़ कोड) ढूंढ लेते हैं।
परिणाम: यह क्यों मायने रखता है
शोधकर्ताओं ने Amazon के Trainium चिप्स का उपयोग करके वास्तविक दुनिया के AI कार्यों पर AccelOpt का परीक्षण किया।
- AccelOpt से पहले: AI कंप्यूटर की क्षमता का केवल 45-49% ही उपयोग कर पा रहा था। यह एक फेरारी को स्कूल ज़ोन में चलाने जैसा था।
- AccelOpt के बाद: AI ने प्रदर्शन को कंप्यूटर की पीक स्पीड के 59-61% तक बढ़ा दिया।
- लागत: आमतौर पर, इस तरह के सुधार के लिए आपको एक मानव विशेषज्ञ को नियुक्त करने या बहुत महंगे, प्रोप्रायटरी AI मॉडल (जैसे कि पेपर में उल्लेखित "Claude Sonnet 4") का उपयोग करने की आवश्यकता होती है। AccelOpt ने उन्हीं परिणामों को ओपन-सोर्स मॉडल्स (मुफ्त या सस्ते AI) का उपयोग करके प्राप्त किया और महंगे विकल्पों की तुलना में 26 गुना कम लागत में किया।
बड़ी तस्वीर
AccelOpt को एक स्व-शिक्षण मैकेनिक (self-teaching mechanic) के रूप में सोचें।
अतीत में, यदि आपने एक नया, अजीब आकार का इंजन खरीदा होता, तो आपको उसे ट्यून करने के लिए एक मानव मास्टर मैकेनिक का इंतज़ार करना पड़ता। AccelOpt के साथ, आप बस इंजन को रोबोट को सौंप सकते हैं। रोबोट लाखों अलग-अलग बदलाव आज़माता है, याद रखता है कि क्या काम आया, भूल जाता है कि क्या काम नहीं आया, और अंततः इंजन को उसके शिखर प्रदर्शन पर चलाने के लिए ट्यून करता है—और वह भी बिना किसी इंसान के हाथ में रिंच (wrench) छुए।
यह एक बड़ा कदम है क्योंकि जैसे-जैसे AI बड़ा होता जा रहा है और हम अधिक कस्टम चिप्स बना रहे हैं, हमारे पास हर एक को ट्यून करने के लिए मानव विशेषज्ञों की कमी होगी। हमें AccelOpt जैसे सिस्टम की आवश्यकता है जो खुद सीख सकें और बेहतर हो सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।