LatentSkill: From In-Context Textual Skills to In-Weight Latent Skills for LLM Agents
LatentSkill एक ऐसा फ्रेमवर्क है जो टेक्स्टुअल स्किल्स को एक प्रीट्रेंड हाइपरनेटवर्क के माध्यम से प्लग-एंड-प्ले LoRA एडेप्टर्स में परिवर्तित करता है, जिससे LLM एजेंट्स को टास्क प्रोसीजर्स को कॉन्टेक्स्ट स्पेस के बजाय वेट स्पेस में स्टोर करने में सक्षम बनाया जाता है, जो टोकन ओवरहेड को काफी कम करते हुए प्रदर्शन में सुधार करता है और मॉड्यूलर स्किल कंपोजिशन को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) जटिल समस्याओं को हल करने में उल्लेखनीय रूप से सक्षम हो गए हैं, जो अक्सर डिजिटल एजेंटों के रूप में कार्य करते हैं जो कार्यों को पूरा करने के लिए योजना बना सकते हैं, खोज कर सकते हैं और सॉफ़्टवेयर के साथ बातचीत कर सकते हैं। विशिष्ट कार्यों को संभालने के लिए, ये एजेंट अक्सर "कौशल" (skills) पर निर्भर करते हैं—जो मूल रूप से लिखित निर्देश या प्रक्रियाएं हैं जो मॉडल को बताते हैं कि किसी विशिष्ट प्रकार की समस्या को कैसे हल करना है, जैसे कि एक आभासी कमरे को व्यवस्थित करना या बहु-चरणीय प्रश्न का उत्तर देना। पारंपरिक रूप से, इन कौशलों को हर बार जब मॉडल को उनका उपयोग करने की आवश्यकता होती है, तो सीधे मॉडल के इनपुट में फीड किया जाता है, ठीक वैसे ही जैसे किसी कार्य को करने से पहले एक मैनुअल के पन्नों को एक-एक करके पढ़ना। हालांकि यह काम करता है, लेकिन यह एक महत्वपूर्ण बाधा उत्पन्न करता है: कार्य जितना जटिल होगा और कौशलों का पुस्तकालय जितना बड़ा होगा, मॉडल को उतना ही अधिक टेक्स्ट प्रोसेस करना होगा, जिससे इसकी गति धीमी हो जाती है और भारी मात्रा में कंप्यूटिंग शक्ति खर्च होती है। इसके अलावा, इन निर्देशों को इनपुट में सादे टेक्स्ट के रूप में रखने से वे असुरक्षित हो जाते हैं और सिस्टम के अन्य हिस्सों द्वारा गलत पढ़े जाने या हाईजैक किए जाने के प्रति संवेदनशील हो जाते हैं।
शंघाई जियाओ टोंग यूनिवर्सिटी और ओप्पो (OPPO) रिसर्च इंस्टीट्यूट के शोधकर्ताओं ने 'लेटेंटस्किल' (LatentSkill) नामक एक अलग दृष्टिकोण प्रस्तावित किया है, जो इन निर्देशों को टेक्स्ट इनपुट से हटाकर मॉडल की आंतरिक मेमोरी संरचना में ले जाता है। हर बार कौशल के विवरण को पढ़ने के बजाय, सिस्टम एक विशेष जनरेटर का उपयोग करता है जो कौशल के टेक्स्ट को संकुचित आंतरिक समायोजनों (internal adjustments) के एक सेट में बदल देता है, जिन्हें 'एडेप्टर्स' (adapters) कहा जाता है, जो मॉडल के मस्तिष्क से स्थायी रूप से जुड़े होते हैं। यह एजेंट को निर्देशों को दोबारा पढ़े बिना कौशल को "जानने" की अनुमति देता है। टीम ने पाया कि यह विधि न केवल प्रक्रिया को तेज करती है और मॉडल द्वारा डेटा को संभालने की मात्रा को कम करती है, बल्कि एक छिपा हुआ, व्यवस्थित स्थान भी बनाती है जहाँ विभिन्न कौशलों को गणितीय सटीकता के साथ मिलाया और जोड़ा जा सकता है।
इस कार्य के पीछे का मुख्य विचार यह है कि एक कौशल को पढ़ने वाले दस्तावेज़ के रूप में नहीं, बल्कि लोड किए जाने वाले 'वेट्स' (weights) के एक सेट के रूप में देखा जाए। उनके ढांचे में, एक "स्किल कंपाइलर" किसी कार्य के लिखित विवरण को लेता है और तुरंत भाषा मॉडल के लिए आंतरिक संशोधनों का एक अनूठा सेट तैयार करता है। ये संशोधन छोटे, कुशल और मॉड्यूलर हैं, जिसका अर्थ है कि उन्हें पूरे सिस्टम को फिर से प्रशिक्षित किए बिना मुख्य मॉडल से जोड़ा या हटाया जा सकता है। एक बार जब कौशल इस आंतरिक प्रारूप में परिवर्तित हो जाता है, तो मूल टेक्स्ट को इनपुट स्ट्रीम से हटा दिया जाता है। मॉडल फिर इन छिपे हुए समायोजनों का उपयोग करके कार्य करता है, जो इसके व्यवहार को उतनी ही प्रभावी ढंग से निर्देशित करते हैं जितना कि टेक्स्ट करता, लेकिन हर चरण के लिए हजारों अतिरिक्त शब्दों को प्रोसेस करने की भारी लागत के बिना।
इसका परीक्षण करने के लिए, शोधकर्ताओं ने अपने सिस्टम को दो अलग-अलग चुनौतियों पर लागू किया: एक घर में काम करने के लिए रोबोट के नेविगेशन का टेक्स्ट-आधारित सिमुलेशन, और जटिल प्रश्न-उत्तर कार्य जिनमें सूचना के कई स्रोतों में खोज करने की आवश्यकता होती है। घर के नेविगेशन कार्य में, सिस्टम को वस्तुओं को उठाने, उन्हें साफ करने और उन्हें विशिष्ट स्थानों पर रखने का तरीका पता लगाना था। प्रश्न-उत्तर कार्य में, इसे ऐसे उत्तर खोजने थे जिनमें सूचना के कई टुकड़ों को जोड़ना आवश्यक था। मानक पद्धति (प्रॉम्प्ट में कौशल निर्देशों को पेस्ट करने) की तुलना में, नया दृष्टिकोण काफी अधिक कुशल साबित हुआ। घर के नेविगेशन कार्यों पर, सिस्टम ने परिचित कार्यों पर सफलता दर में बीस प्रतिशत से अधिक और नए, अनदेखे कार्यों पर तेरह अंकों से अधिक का सुधार किया, जबकि इनपुट टोकन का उपयोग लगभग दो-तिहाई कम किया। प्रश्न-उत्तर बेंचमार्क पर, इसने प्रति चरण प्रोसेस किए गए टोकन की संख्या को सत्तर प्रतिशत से अधिक कम करते हुए उच्च सटीकता दर प्राप्त की।
केवल समय और संसाधनों को बचाने के अलावा, शोधकर्ताओं ने पाया कि इन आंतरिक कौशल समायोजनों में एक आश्चर्यजनक संरचना होती है। जब उन्होंने उस गणितीय स्थान का मानचित्रण किया जहाँ ये कौशल रहते हैं, तो उन्होंने पाया कि एक ही श्रेणी के कौशल, जैसे कि सफाई कार्य या खोज कार्य, स्वाभाविक रूप से एक साथ समूह बनाते हैं, जिससे विशिष्ट क्लस्टर बनते हैं। यह सुझाव देता है कि सिस्टम केवल टेक्स्ट को याद नहीं कर रहा है, बल्कि प्रक्रियाओं के अंतर्निहित तर्क को सीख रहा है। यह संरचना उच्च स्तर का नियंत्रण प्रदान करती है; शोधकर्ताओं ने पाया कि वे एक स्केलिंग नंबर द्वारा प्रतिनिधित्व किए जाने वाले 'डायल' को घुमाकर एक कौशल की शक्ति को समायोजित कर सकते हैं। यदि संख्या बहुत कम थी, तो कौशल का कोई प्रभाव नहीं पड़ा; यदि यह बहुत अधिक थी, तो मॉडल भ्रमित हो गया। हालांकि, सही सेटिंग पर, मॉडल इष्टतम प्रदर्शन करता था, और यह 'स्वीट स्पॉट' विभिन्न प्रकार के कार्यों में सुसंगत रहा।
सबसे दिलचस्प खोज यह थी कि इन आंतरिक कौशलों को जोड़ा जा सकता था। जिस तरह कोई नए व्यंजन बनाने के लिए सामग्री को मिला सकता है, शोधकर्ताओं ने दिखाया कि वे दो अलग-अलग कौशलों के आंतरिक समायोजनों को लेकर एक नया, मिश्रित कौशल बनाने के लिए उन्हें आपस में जोड़ सकते हैं। हालांकि, यह तभी विश्वसनीय रूप से काम करता था जब कौशलों को मिश्रण करने से पहले उनके सबसे छोटे, सबसे संरेखित (aligned) घटकों में विभाजित किया जाता था। यदि वे केवल पूरे कौशल ब्लॉक्स को जोड़ देते, तो परिणाम अक्सर कम प्रभावी होता। भागों को सावधानीपूर्वक संरेखित करके, वे एक ऐसा कौशल बनाने में सक्षम रहे जो व्यक्तिगत चरणों को खोए बिना एक जटिल अनुक्रम को निष्पादित करता है। यह सुझाव देता है कि सिस्टम ज्ञान के मॉड्यूलर टुकड़ों को जोड़ने के तरीके से जटिल व्यवहार बना सकता है जो लचीला और सटीक दोनों है।
अध्ययन ने एक महत्वपूर्ण सुरक्षा लाभ पर भी प्रकाश डाला। क्योंकि कौशल दृश्यमान टेक्स्ट के बजाय आंतरिक समायोजनों के रूप में संग्रहीत हैं, इसलिए उन्हें छेड़छाड़ करना बहुत कठिन है। जब शोधकर्ताओं ने निर्देशों को हाईजैक करने या छिपे हुए ज्ञान को निकालने के प्रयासों के खिलाफ सिस्टम का परीक्षण किया, तो नया तरीका उल्लेखनीय रूप से सफल रहा। जबकि पारंपरिक टेक्स्ट-आधारित दृष्टिकोण अक्सर हमलों के दौरान ढह जाता या अपने रहस्य उजागर कर देता, आंतरिक कौशल संस्करण ने अपना प्रदर्शन बनाए रखा और अपने निर्देशों को छिपा कर रखा। यह इंग दर्शाता है कि कौशलों को दृश्य प्रॉम्प्ट से हटाकर मॉडल के आंतरिक वेट्स में ले जाना, कृत्रिम एजेंटों को विशिष्ट ज्ञान से लैस करने का एक अधिक मजबूत और सुरक्षित तरीका है।
शोधकर्ता निष्कर्ष निकालते हैं कि यह दृष्टिकोण अधिक सक्षम और कुशल AI एजेंट बनाने के लिए एक व्यावहारिक मार्ग प्रदान करता है। प्रक्रियात्मक ज्ञान के भंडारण को इनपुट स्ट्रीम से मॉडल के आंतरिक मापदंडों (parameters) में स्थानांतरित करके, उन्होंने यह प्रदर्शित किया है कि एजेंटों को तेज़, अधिक सुरक्षित और विभिन्न क्षमताओं को मिलाने में बेहतर बनाया जा सकता है। परिणाम बताते हैं कि AI एजेंटों का भविष्य उन्हें अधिक टेक्स्ट खिलाने में नहीं, बल्कि उन्हें अपने कौशल को आंतरिक रूप से धारण करने के लिए सिखाने में है, जो एक सरल, अदृश्य स्विच के साथ तैनात होने के लिए तैयार हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।