Skill Neologisms: Towards Skill-based Continual Learning
यह लेख "स्किल नियोलॉजिज़्म" (skill neologisms) का प्रस्ताव करता है, जो एक एलएलएम (LLM) की शब्दावली में एकीकृत अनुकूलित सॉफ्ट-टोकेन्स (soft-tokens) हैं, जो निरंतर सीखने के लिए एक स्केलेबल समाधान के रूप में कार्य करते हैं जो मॉडल को वेट अपडेट (weight updates) या कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) के बिना नए कौशल प्राप्त करने और उन्हें संयोजित करने में सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक प्रतिभाशाली, सुविज्ञ लाइब्रेरियन (लार्ज लैंग्वेज मॉडल) है जो कई कार्यों में महारत रखती है: किताबें छाँटना, संख्याएँ निकालना, कविताएँ लिखना और भाषाओं का अनुवाद करना। लेकिन क्या होगा यदि आप इस लाइब्रेरियन को एक बिल्कुल नया हुनर सिखाना चाहते हैं, जैसे कि "रंग के आधार पर किताबें छाँटना", बिना उसके पुराने हुनर जैसे कि लेखक के आधार पर छाँटना या संख्याएँ निकालना भूल जाने के?
यह वह समस्या है जिसे यह कार्य संबोधित करता है। सामान्यतः, एक नया हुनर सिखाने के लिए लाइब्रेरियन के पूरे मस्तिष्क को फिर से प्रशिक्षित (retraining) करना पड़ता है, जिससे पुराने कौशल भूल जाने का जोखिम (जिसे "कैटास्ट्रोफिक फॉरगेटिंग" कहा जाता है) रहता है, या वह भ्रमित भी हो सकती है।
लेखक एक चतुर समाधान प्रस्तावित करते हैं जिसे "स्किल नियोलॉजिज़्म" (Skill Neologisms) कहा जाता है।
यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ समझाया गया है:
1. समस्या: "सब कुछ या कुछ भी नहीं" का जाल (The "All-or-Nothing" Trap)
- पुराना तरीका (Fine-tuning): कल्पना कीजिए कि आप लाइब्रेरियन को एक नया हुनर सिखाने के लिए उसका पूरा विश्वकोश (encyclopedia) फिर से लिख रहे हैं। यह काम तो करता है, लेकिन आप गलती से "लेखक के आधार पर छाँटने" वाला पन्ना मिटा सकते हैं।
- "प्रॉम्प्ट" (Prompt) का तरीका: कल्पना कीजिए कि काम शुरू करने से पहले आप लाइब्रेरियन के कान में निर्देश फुसफुसाते हैं ("कृपया रंग के आधार पर छाँटें")। यह एक विशिष्ट कार्य के लिए तो काम करता है, लेकिन ये निर्देश उस विशिष्ट काम से बंधे होते हैं। आप दो अलग-अलग चीजों को एक साथ फुसफुसाकर "रंग के आधार पर छाँटने" को "संख्याएँ निकालने" के साथ नहीं जोड़ सकते।
2. समाधान: "स्किल नियोलॉजिज़्म" (नए जादुई शब्द)
लेखक लाइब्रेरियन को एक नया शब्दावली शब्द (एक "नियोलॉजिम") देने का प्रस्ताव करते हैं जो एक जादुई स्विच की तरह कार्य करता है।
- अवधारणा: लाइब्रेरियन के मस्तिष्क को फिर से लिखने के बजाय, आप उसके शब्दकोश में एक नया, अदृश्य "सॉफ्ट टोकन" (एक विशेष डिजिटल शब्द) जोड़ते हैं।
- यह कैसे सीखा जाता है: आप लाइब्रेरियन को हजारों उदाहरण दिखाते हैं जहाँ यह नया शब्द उस कार्य के साथ आता है जिसे वह सीख रही है (जैसे, "ColorSort")। आप केवल इस नए शब्द को उस कार्य को समझने के लिए प्रशिक्षित करते हैं, जिससे लाइब्रेरियन का मूल मस्तिष्क पूरी तरह से स्थिर और अछूता रहता है।
- परिणाम: जब आप प्रॉम्प्ट में "ColorSort" शब्द का उपयोग करते हैं, तो लाइब्रेरियन तुरंत जान जाती है कि उसे यह विशिष्ट कार्य कैसे करना है, बिना कुछ भी दोबारा सीखने की आवश्यकता के।
3. सुपरपावर: संयोजन और संयोजन करना (Composition)
असली जादू तब होता है जब आप इन नए शब्दों को मिलाते हैं।
- उपमा: कल्पना कीजिए कि लाइब्रेरियन के पास लेगो (Lego) ब्रिक्स का एक सेट है। कुछ ब्रिक्स पुराने हैं (हुनर जो वह पहले से जानती है)। लेखक नए, कस्टम लेगो ब्रिक्स (नियोलॉजिज़्म) बनाते हैं जो नए हुनर के लिए हैं।
- दावा: यह कार्य दिखाता है कि यदि आप लाइब्रेरियन को दो नए हुनर अलग-अलग सिखाते हैं (जैसे, "ColorSort" और "SizeSort"), तो आप बाद में उसे दोनों शब्दों वाला एक प्रॉम्प्ट ("ColorSort" + "SizeSort") दे सकते हैं, और लाइब्रेरियन यह समझ लेगी कि दोनों को एक साथ कैसे करना है, भले ही उसे इस विशिष्ट संयोजन पर कभी प्रशिक्षित न किया गया हो।
- यह क्यों महत्वपूर्ण है: इसका अर्थ है कि आप हुनर का एक पुस्तकालय बना सकते हैं। आप आज एक नया हुनर सीख सकते हैं, कल दूसरा, और बाद में उन्हें बिना पूरे सिस्टम को फिर से प्रशिक्षित किए जोड़ सकते हैं।
4. उन्होंने वास्तव में क्या सिद्ध किया
शोधकर्ताओं ने इस विचार का परीक्षण एक नियंत्रित, "गणित जैसे" वातावरण में किया (अभी तक वास्तविक मानवीय बातचीत के साथ नहीं)। उन्होंने एक डिजिटल लाइब्रेरियन बनाई और उसे संख्याओं के साथ हेरफेर करने के नए तरीके सिखाए।
- उन्होंने पाया:
- भूलना नहीं (No Forgetting): नए हुनर सीखते समय लाइब्रेरियन ने पुराने हुनर नहीं भुलाए।
- संयोजन काम करता है (Combination Works): लाइब्रेरियन एक नए सीखे गए हुनर को पुराने हुनर के साथ जोड़ सकती है जिसे उसने पहले कभी इस संयोजन में नहीं देखा था।
- जीरो-शॉट कॉम्बिनेशन (Zero-Shot Combination): वे स्किल A और स्किल B को अलग-अलग सिखा सकते थे और फिर बिना किसी अतिरिक्त प्रशिक्षण के उन्हें तुरंत जोड़ सकते थे।
- "स्वीट स्पॉट" (The "Sweet Spot"): उन्होंने खोजा कि नए "जादुई शब्द" बहुत लंबे या जटिल नहीं होने चाहिए। यदि शब्द बहुत बड़ा है, तो लाइब्रेरियन भ्रमित हो जाती है और अन्य हुनर के साथ उसे जोड़ने में विफल रहती है। एक छोटा, केंद्रित शब्द सबसे अच्छा काम करता है।
5. कमी (सीमाएं)
यह कार्य इस बारे में ईमानदार है कि यह अभी तक क्या हासिल नहीं कर पाता है:
- यह अभी एक प्रोटोटाइप है: उन्होंने इसका परीक्षण एक छोटे, कृत्रिम गणितीय कार्य पर किया है, उपन्यास लिखने या बीमारियों का निदान करने जैसे कार्यों पर नहीं।
- आपको सही डेटा की आवश्यकता है: एक नया हुनर सिखाने के लिए, आपको एक ऐसा डेटासेट चाहिए जहाँ हर एक उदाहरण के लिए उस विशिष्ट हुनर की आवश्यकता हो। यदि डेटा अव्यवस्थित है, तो नया "जादुई शब्द" सही ढंग से नहीं सीख पाएगा।
- यह मुफ्त नहीं है: हालाँकि यह पूरे मस्तिष्क को फिर से लिखने की तुलना में स्टोरेज स्पेस बचाता है, लेकिन इन नए शब्दों को प्रशिक्षित करने के लिए अभी भी महत्वपूर्ण कंप्यूटिंग शक्ति की आवश्यकता होती है।
सारांश
स्किल नियोलॉजिज़्म को एक टेलीविजन में नए, विशिष्ट "रिमोट कंट्रोल बटन" जोड़ने के रूप में सोचें। नया चैनल जोड़ने के लिए टीवी को फिर से बनाने के बजाय, आप बस एक बटन जोड़ते हैं जो दबाने पर टीवी के पहले से मौजूद सर्किट के एक विशिष्ट सेट को सक्रिय करता है। सबसे अच्छी बात? आप एक साथ दो बटन दबा सकते हैं, और टीवी समझ जाएगा कि दोनों चैनलों को एक साथ कैसे संभालना है। यह कार्य दिखाता है कि यह "बटन" दृष्टिकोण AI के लिए काम करता है, जिससे यह पुराने हुनर को भूले बिना लगातार नए हुनर सीखने में सक्षम होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।