Can a Language Model Learn Facts Continually in Its Weights?
यह शोध पत्र यह प्रदर्शित करता है कि जबकि व्यापक प्रशिक्षण डेटा भाषा मॉडलों को नग्न कथनों की तुलना में अपने भार (weights) में नए तथ्यों को अधिक प्रभावी ढंग से संग्रहीत करने में सक्षम बनाता है, निरंतर भार-आधारित सीखना अपरिहार्य रूप से विनाशकारी विस्मृति (catastrophic forgetting) और हस्तक्षेप का कारण बनता है, जिससे संदर्भ (context) क्रमिक अपडेट के माध्यम से ज्ञान को संरक्षित करने और संयोजित करने के लिए एकमात्र विश्वसनीय माध्यम बन जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक सुपर-स्मार्ट रोबोट दोस्त है जो बहुत सारी चीजें जानता है। आप उसे हर दिन नए, काल्पनिक तथ्य सिखाना चाहते हैं—जैसे "ज़ोरवाथिन (Zorvathine) एक ऐसी धातु है जो ठंडी होने पर पिघल जाती है।" मुख्य सवाल यह है: क्या हम इन तथ्यों को सीधे रोबोट के दिमाग (इसके "वेट्स" या weights) में लिख सकते हैं ताकि वह उन्हें हमेशा के लिए याद रखे, भले ही आप उसे सौ और चीजें सिखा दें?
यह शोध पत्र इस सवाल का जवाब देने की कोशिश करता है, जिसमें Qwen3 नामक मॉडल के साथ "लिखने, भूलने और जाँचने" का खेल खेला गया है। यहाँ उन्होंने कुछ मज़ेदार उपमाओं का उपयोग करते हुए क्या पाया, इसका विवरण दिया गया है।
रोबोट को सिखाने के दो तरीके
शोधकर्ताओं ने पाया कि आप रोबोट को कैसे सिखाते हैं, यह इस बात से अधिक महत्वपूर्ण है कि आप कितनी बार पाठ दोहराते हैं।
- "सादा कथन" विधि (बुरा तरीका): कल्पना कीजिए कि आप रोबोट के कान में बस एक बार तथ्य फुसफुसा देते हैं: "ज़ोरवाथिन -10°C से नीचे पिघल जाता है।" आप इसे बार-बार करते हैं। रोबोट उस सटीक वाक्य को रटने में बहुत अच्छा हो जाता है। यह एक तोते की तरह है जो एक वाक्यांश को पूरी तरह से दोहरा सकता है लेकिन वह नहीं समझता कि उसका अर्थ क्या है।
- "अध्ययन" विधि (अच्छा तरीका): कल्पना कीजिए कि आप रोबोट को एक पूरी पाठ्यपुस्तक के माध्यम से पढ़ाते हैं। आप उसे तथ्य दिखाते हैं, फिर उससे प्रश्न पूछते हैं, एक ही बात को कहने के अलग-अलग तरीके बताते हैं, और उसे दिखाते हैं कि कैसे यह तथ्य उसकी सामान्य सोच के विपरीत है। रोबकार तथ्य के पीछे के विचार को सीखता है, न कि केवल शब्दों को।
परिणाम:
जब रोबोट ने "अध्ययन" विधि के माध्यम से सीखा, तो वह वास्तव में नए पहेलियों को हल करने के लिए तथ्य का उपयोग कर सका। जब रोबोट ने "सादा कथन" विधि के माध्यम से सीखा, तो वह केवल वाक्य को दोहरा सकता था। यदि आप उससे एक पेचीदा सवाल पूछते जैसे, "अगर मैं ज़ोरवाथिन को ठंडा कर दूँ तो क्या होगा?", तो "अध्ययन" वाला रोबोट कहता, "यह पिघल जाएगा!" जबकि "सादा कथन" वाला रोबोट बस खाली आँखों से देखता रहता या गलत उत्तर देता, भले ही उसने वाक्य को पूरी तरह से रट लिया था।
"ओवरराइटिंग" की समस्या: खोई हुई किताबों का पुस्तकालय
अब, यहाँ एक पेचीदा हिस्सा है। शोधकर्ताओं ने रोबोट को एक के बाद एक 20, फिर 100 नए तथ्य सिखाए। वे देखना चाहते थे कि क्या पुराने तथ्य जीवित रहते हैं।
- "सादा कथन" वाले तथ्य: वे लगभग तुरंत गायब हो गए। केवल 20 नए पाठों के बाद, रोबोट 99% तथ्य भूल गया। यह एक स्टिकी पैड पर नोट लिखने और फिर तुरंत उसके ऊपर एक नया, बड़ा नोट चिपका देने जैसा था। पुराना नोट भौतिक रूप से वहीं है, लेकिन अब आप उसे देख नहीं सकते।
- "अध्ययन" वाले तथ्य: ये अधिक कठिन थे। 20 नए पाठों के बाद, लगभग 46% तथ्य अभी भी उपयोग करने योग्य थे। 100 पाठों के बाद, वे 25-28% के स्तर पर स्थिर हो गए। वे पूरी तरह से गायब नहीं हुए, लेकिन उन्हें ढूँढना कठिन हो गया।
बड़ी हैरानी:
शोधकर्ताओं ने रोबोट के दिमाग (इसके "वेट्स") की जाँच की, तब भी जब ऐसा लग रहा था कि वह तथ्य भूल गया है। उन्होंने पाया कि तथ्य की "याददाश्त" अभी भी वहीं थी! रोबोट ने डेटा को मिटाया नहीं था; उसने बस उस तथ्य को खोजने का पता (address) खो दिया था।
इसे एक पुस्तकालय की तरह समझें। किताबें (तथ्य) अभी भी अलमारियों पर हैं। लेकिन लाइब्रेरियन (रोबोट) को अब नए किताबों की ओर इशारा करने वाला एक नया नक्शा दिया गया है। जब आप एक पुरानी किताब मांगते हैं, तो लाइब्रेरियन नए नक्शे को देखता है, देखता है कि पुरानी किताब की जगह पर अब "नवीनतम तथ्य" लिखा है, और आपको गलत किताब थमा देता है। पुरानी किताब वहीं है, लेकिन रोबोट अब तक वहाँ पहुँच नहीं पा रहा है।
हम "पता" (Address) को ठीक क्यों नहीं कर सकते?
शोधकर्ताओं ने रोबोट को नए तथ्य सीखते समय पुराने तथ्यों को याद रखने में मदद करने के लिए कई चतुर प्रयोग किए:
- उन्होंने रोबोट को भूलने के लिए "दंडित" (penalize) करने की कोशिश की।
- उन्होंने नए पाठों को पुराने तथ्यों से दूर "प्रोजेक्ट" करने की कोशिश की।
- उन्होंने एक "फ्रीज़्ड टीचर" (सीखना शुरू करने से पहले के रोबोट की एक सटीक प्रति) का उपयोग किया ताकि उसे मार्गदर्शन मिल सके।
क्या काम आया:
फ्रीज़्ड टीचर का उपयोग करने से रोबोट की सामान्य बुद्धिमत्ता (जैसे गणित या तर्क) को खराब होने से बचाने में मदद मिली। इसने रोबोट को पागल होने से रोका। लेकिन इसने पुराने तथ्यों को खोजने की समस्या को ठीक नहीं किया। पुराने तथ्य अभी भी उलझन में खोए हुए थे।
क्या काम नहीं आया:
चाहे उन्होंने नए और पुराने तथ्यों के बीच के "संघर्ष" को कितनी भी सावधानी से मापा हो, वे नए पाठों को पुराने तथ्यों को रोकने से नहीं रोक सके। शोध पत्र सुझाव देता है कि स्थानीय माप (केवल अगले कदम को देखना) यह तो बता सकते हैं कि तुरंत क्या होगा, लेकिन वे लंबे समय तक चलने वाले पाठों के बाद क्या होगा, इसकी भविष्यवाणी करने में विफल रहते हैं। यह सड़क पर होने वाले एक्सीडेंट को देखने के लिए अपने ठीक सामने वाली कार को देखने जैसा है; आप तीन मील आगे हो रहे हादसे को नहीं देख सकते।
अंतिम निर्णय: संदर्भ (Context) ही सर्वोपरि है
तो, क्या हम रोबोट के दिमाग में तथ्य लिख सकते हैं और उन्हें हमेशा के लिए रख सकते हैं?
- यदि आप चाहते हैं कि रोबोट तथ्य का उपयोग करे: तो आपको उसे व्यापक, विविध उदाहरणों ("अध्ययन" विधि) के माध्यम से सिखाना होगा, न कि केवल साधारण दोहराव के माध्यम से।
- यदि आप चाहते हैं कि तथ्य 100 नए पाठों के बाद भी जीवित रहे: तो शोध पत्र सुझाव देता है कि तथ्य को दिमाग में लिखना गलत उपकरण है। सबसे अच्छी विधियाँ भी 20 अपडेट के बाद आधे से अधिक तथ्यों को खो देती हैं।
तथ्य को उपयोगी बनाए रखने का सबसे विश्वसनीय तरीका उसे प्रॉम्प्ट (prompt) में देना है (जिसे "कॉन्टेक्स्ट" कहा जाता है)।
कल्पना कीजिए कि रोबोट के पास एक व्हाइटबोर्ड है। यदि आप हर बार सवाल पूछने पर उस पर तथ्य लिखते हैं, तो रोबोट उसका पूरी तरह से उपयोग कर सकता है, भले ही उसने 100 अन्य चीजें सीखी हों। व्हाइटबोर्ड को ओवरराइट नहीं किया जाता; इसे बस अपडेट किया जाता है।
निचोड़:
रोबोट का दिमाग सामग्री (content) को स्टोर करने में महान है, लेकिन वह उस सामग्री के लिए एक स्थायी "पता" बनाने में बहुत बुरा है जो नए अपडेट के बाद भी जीवित रहे। यदि आपको किसी तथ्य को कंपोज़ करने, अन्य ज्ञान के साथ मिलाने या कई नए पाठों के बाद याद रखने की आवश्यकता है, तो उसे कॉन्टेक्स्ट (प्रॉम्प्ट) में रखें, वेट्स (दिमाग) में नहीं। दिमाग क्या (what) को स्टोर करता है, लेकिन कॉन्टेक्स्ट यह बताता है कि वह कहाँ (where) है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।