Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
यह शोध पत्र KOPE को पेश करता है, जो एक अनुभव-संचालित ढांचा है जो एक्सपीरियंस ग्राफ मेमोरी और एक्टिव कॉन्टेक्स्ट मैनेजमेंट का उपयोग करता है ताकि एलएलएम (LLM) एजेंटों को पिछले हार्डवेयर कर्नेल ऑप्टिमाइज़ेशन प्रक्षेपवक्रों से सीखने में सक्षम बनाया जा सके, जिससे अंतर्निहित फाउंडेशन मॉडल को अपडेट किए बिना मौजूदा बेसलाइन की तुलना में महत्वपूर्ण प्रदर्शन सुधार और टोकन दक्षता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कंप्यूटर चिप को तेज़ चलाना अक्सर एक रेस कार के इंजन को तब ट्यून करने जैसा महसूस होता है जब वह अभी चल रही हो। इस प्रक्रिया में कोड का एक छोटा सा हिस्सा लिखना शामिल है, जिसे 'कर्नेल' (kernel) कहा जाता है, जो हार्डवेयर को यह बताता है कि डेटा को ठीक से कैसे संभालना है। इस कोड को कंपाइल किया जाना चाहिए, यह सुनिश्चित करने के लिए परीक्षण किया जाना चाहिए कि यह सही है, और फिर यह मापने के लिए कि यह कितनी तेज़ी से चलता है। यदि परिणाम उत्तम नहीं है, तो कोड को फिर से लिखना होगा और यह चक्र फिर से शुरू होगा। दशकों से, यह अत्यधिक कुशल मानव विशेषज्ञों का काम रहा है जो हर नई चिप डिज़ाइन की विशिष्ट बारीकियों को समझते हैं। हाल ही में, आर्टिफिशियल इंटेलिजेंस सिस्टम ने इस काम में मदद करना शुरू कर दिया है, जो कोड परिवर्तन सुझाने के लिए शक्तिशाली भाषा मॉडल (language models) का उपयोग करते हैं। हालाँकि, ये सिस्टम आमतौर पर प्रत्येक प्रयास को एक नई शुरुआत की तरह देखते हैं। वे याद नहीं रखते कि पिछले प्रयासों में क्या सफल रहा और क्या विफल रहा, और वे उस विशिष्ट हार्डवेयर से आसानी से नहीं सीख सकते जिसे वे अनुकूलित करने की कोशिश कर रहे हैं, खासकर जब वह हार्डवेयर नया हो और उसमें मौजूदा उदाहरणों की बड़ी लाइब्रेरी का अभाव हो।
शोधकर्ताओं की एक टीम ने एक नया दृष्टिकोण विकसित किया है जो एक आर्टिफिशियल इंटेलिजेंस एजेंट को अपने स्वयं के अन्वेषण से सीखने की अनुमति देता है, जिससे हर परीक्षण और त्रुटि को एक स्थायी सबक में बदल दिया जाता है। उन्होंने KOPE नामक एक प्रणाली बनाई है, जो एक ऐसा ढांचा है जिसे इन हार्डवेयर कर्नेल्स को अनुकूलित करने के लिए डिज़ाइन किया गया है, जो अपने अनुभवों की स्मृति (memory) बनाने का कार्य करता है। केवल AI मॉडल के भीतर पहले से संग्रहीत ज्ञान पर निर्भर रहने के बजाय, KOPE उसके द्वारा लिए गए प्रत्येक निर्णय, उस निर्णय के परिणाम और उस रास्ते को रिकॉर्ड करता है जिसे उसने अपनाया था। यह इस जानकारी को एक संरचित मानचित्र (map) में संग्रहीत करता है जो एक विशिष्ट विकल्प को उसके परिणाम से जोड़ता है, बिल्कुल वैसे ही जैसे एक यात्री यात्रा का विस्तृत जर्नल रखता है, जिसमें यह नोट करता है कि किन रास्तों ने उसे बंद रास्तों की ओर धकेला और किन रातों ने नए दरवाजे खोले। जब सिस्टम के सामने कोई नई समस्या आती है, तो वह शून्य से शुरुआत नहीं करता है। इसके बजाय, वह इस मानचित्र का परामर्श लेता है ताकि वर्तमान स्थिति से मेल खाने वाले प्रासंगिक पिछले अनुभवों को खोजा जा सके, और नया सुझाव देने से पहले उस विशिष्ट ज्ञान को अपनी सोच प्रक्रिया में शामिल कर सके।
शोधकर्ताओं ने इस प्रणाली का परीक्षण आधुनिक कंप्यूटिंग में उपयोग किए जाने वाले पचास-तीन विभिन्न गणितीय ऑपरेशनों पर किया, जिन्हें Huawei के एक विशिष्ट प्रकार के हार्डवेयर चिप पर चलाया गया। उन्होंने इस नई पद्धति की तुलना दो अन्य दृष्टिकोणों से की: एक जो इस विशेष मेमोरी सिस्टम के बिना एक मानक AI एजेंट का उपयोग करता है, और दूसरा जो कंप्यूटर चिप के एक अलग प्रकार के लिए डिज़ाइन किया गया एक शक्तिशाली AI है। परिणामों ने दिखाया कि अनुभव स्मृति (experience memory) वाले सिस्टम अधिक सफल रहा। यह लगभग सभी ऑपरेशनों के लिए काम करने वाला कोड बनाने में सफल रहा, जबकि मानक एजेंट कई को हल करने में विफल रहा। इससे भी महत्वपूर्ण बात यह है कि अपने इतिहास से सीखने वाले सिस्टम ने औसकी तुलना में 1.54 गुना तेज़ कोड बनाया, जो सबसे अच्छे प्रतिस्पर्धी तरीके द्वारा बनाया गया था। यह सुधार तब हुआ जब अंतर्निहित AI मॉडल स्वयं नहीं बदला; सिस्टम केवल अपने द्वारा सीखी गई बातों को याद रखकर बेहतर हो गया।
इस सफलता का एक प्रमुख हिस्सा यह था कि सिस्टम ने अपनी स्मृति को कैसे प्रबंधित किया। शोधकर्ताओं ने पाया कि सभी पिछले अनुभवों को एक साथ AI के मस्तिष्क में डाल देना प्रतिकूल था, क्योंकि यह सिस्टम को बहुत अधिक जानकारी से अभिभूत कर देता था। इसके बजाय, उन्होंने एक ऐसी प्रणाली बनाई जो सक्रिय रूप से केवल वर्तमान कार्य के लिए सबसे प्रासंगिक पिछले पाठों का चयन करती है। इस चयनात्मक दृष्टिकोण ने सिस्टम को समस्याओं को अधिक बार हल करने में सक्षम बनाया, जिससे इसकी सफलता दर साठ प्रतिशत से बढ़कर लगभग पचासी प्रतिशत हो गई, और ऐसा करते समय इसने बहुत कम कंप्यूटिंग संसाधनों का उपयोग किया। अध्ययन ने यह भी पता लगाया कि क्या एक प्रकार के हार्डवेयर पर प्राप्त ज्ञान को पूरी तरह से अलग प्रकार के हार्डवेयर को अनुकूलित करने में मदद मिल सकती है। उन्होंने पाया कि हालांकि मूल हार्डवेयर का अनुभव सिस्टम को नए हार्डवेयर पर अधिक काम करने वाले समाधान खोजने में मदद करता था, लेकिन इसने कोड को स्वचालित रूप से तेज़ नहीं बनाया। सर्वोत्तम प्रदर्शन प्राप्त करने के लिए सिस्टम को अपने स्वयं के परीक्षणों के माध्यम से नए हार्डवेयर के विशिष्ट विवरणों को सीखने की आवश्यकता थी।
निष्कर्ष बताते हैं कि उस हार्डवेयर के लिए जो नया है या जिसमें मौजूदा उदाहरणों का बड़ा संग्रह नहीं है, विशिष्ट अनुभवों को बनाए रखना और पुन: उपयोग करना केवल एक बड़े या स्मार्ट AI मॉडल होने से अधिक मूल्यवान है। एक निश्चित रिकॉर्ड रखने से कि क्या सफल रहा और क्या नहीं, और यह सावधानीपूर्वक चुनने से कि किन पाठों को नए समस्याओं पर लागू किया जाए, सिस्टम अपने अनुकूलन कौशल में निरंतर सुधार कर सकता है। इसके लिए AI को पुन: प्रशिक्षित करने या उसके आंतरिक मस्तिष्क को बदलने की आवश्यकता नहीं है; इसे बस अपने द्वारा सीखी गई बातों को याद रखने और लागू करने का एक बेहतर तरीका चाहिए। शोधकर्ताओं ने प्रदर्शित किया कि इस पद्धति को विभिन्न प्रकार के कंप्यूटर चिप्स और प्रोग्रामिंग भाषाओं में लागू किया जा सकता है, जो दर्शाता है कि वर्कफ़्लो अनुकूलनीय है। हालांकि सिस्टम ने हर एक समस्या को पूरी तरह से हल नहीं किया, लेकिन इसने साबित कर दिया कि एक AI एजेंट क्रिया, अवलोकन और स्मृति के चक्र के माध्यम से अपनी विशेषज्ञता विकसित कर सकता है, जिससे परीक्षण और त्रुटि की अव्यवस्थित प्रक्रिया को तेज़ और अधिक कुशल कंप्यूटिंग के विश्वसनीय मार्ग में बदला जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।