LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure
यह शोध पत्र LITTLELEARNER को प्रस्तुत करता है, जो अमेरिकी प्राथमिक-स्तर की सामग्री के क्यूरेटेड 88B-टोकन वाले LITTLECURRICULUM कॉर्पस पर प्रशिक्षित एक 5B-पैरामीटर वाला भाषा मॉडल है, ताकि एक विकासात्मक रूप से प्रतिबंधित सैंडबॉक्स बनाया जा सके जो स्पष्ट रूप से परिभाषित पाठ्यक्रम सीमाओं के भीतर मॉडल ज्ञान कैसे प्राप्त करते हैं और उसका उपयोग करते हैं, इसके नियंत्रित अध्ययन को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को सोचना सिखाने की कोशिश कर रहे हैं। आमतौर पर, हम इन रोबोटों को इंटरनेट पर मौजूद सब कुछ का एक विशाल, अराजक बुफे खिलाते हैं—समाचार लेख, विज्ञान कथा उपन्यास, गणित की पाठ्यपुस्तकें और रैंडम फोरम की बहसें, जो सब आपस में मिली हुई होती हैं। यह वैसा ही है जैसे आप केक बनाना सीखने की कोशिश कर रहे हों जबकि कोई एक ही समय में हेवी मेटल गाने के बोल चिल्ला रहा हो और आवर्त सारणी (periodic table) का पाठ कर रहा हो। क्योंकि रोबोट ने सब कुछ चखा है, इसलिए यह पता लगाना अविश्वसनीय रूप से कठिन हो जाता है कि उसने किस हिस्से से क्या सीखा है। क्या उसने गणित की समस्या हल करना इसलिए सीखा क्योंकि वह वास्तव में गणित समझता है, या सिर्फ इसलिए क्योंकि उसने किसी वेबसाइट से उसका उत्तर रट लिया था?
इस रहस्य को सुलझाने के लिए, वैज्ञानिकों को रोबोट के आहार को नियंत्रित करने का एक तरीका चाहिए। वे जानना चाहते हैं: यदि हम केवल रोबोट को "प्राइमरी स्कूल" का भोजन ही खाने दें, तो क्या वह हमेशा एक बच्चा ही रहेगा? या क्या हम बाद में विशेष प्रशिक्षण तकनीकों का उपयोग करके उसे जीनियस बनाने के लिए चकमा दे सकते हैं? यह पेपर इसी नियंत्रित आहार बनाने और यह देखने के बारे में है कि जब हम रोबोट के दिमाग को उसके मूल मेनू से आगे बढ़ाने की कोशिश करते हैं, तो क्या होता है।
द लिटिल लर्नर प्रोजेक्ट: एक सख्त आहार पर रोबोट
शोधकर्ताओं ने एक विशेष प्रोजेक्ट बनाया जिसे LittleLearner कहा गया। इसे एक "सैंडबॉक्स" या खेल के मैदान की तरह समझें, लेकिन बहुत सख्त नियमों के साथ। AI को पूरा इंटरनेट खिलाने के बजाय, उन्होंने एक कस्टम मेनू बनाया जिसे LittleCurriculum कहा गया। इस मेनू में ठीक 88 बिलियन शब्द हैं, लेकिन एक शर्त के साथ: यह पूरी तरह से अमेरिकी स्कूलों में किंडरगार्टन से लेकर 5वीं कक्षा तक पढ़ाए जाने वाले साहित्य तक सीमित है।
इस मेनू को बनाने के लिए, उन्होंने केवल अनुमान नहीं लगाया। उन्होंने एक बहु-चरणीय फ़िल्टरिंग प्रक्रिया का उपयोग किया, जो एक अत्यंत सख्त लाइब्रेरियन की तरह है। पहले, उन्होंने शब्दों की "आयु" की जाँच की ताकि यह सुनिश्चित हो सके कि वे बहुत उन्नत न हों। फिर, उन्होंने स्मार्ट कंप्यूटर प्रोग्रामों का उपयोग किया जो टेक्स्ट को पढ़कर यह तय कर सके कि क्या यह 10 साल के बच्चे के लिए बहुत कठिन है। अंत में, उन्होंने एक "सिंबॉलिक फ़िल्टर" का उपयोग किया ताकि उन गणितीय प्रतीकों या सूत्रों को खोजकर हटाया जा सके जो हाई स्कूल अलजेब्रा या कैलकुलस जैसे दिखते हों। परिणाम एक साफ, शुद्ध डेटासेट है जो केवल प्राथमिक स्तर के ज्ञान का है।
इस सख्त आहार पर, उन्होंने LittleLearner नामक एक नया AI मॉडल प्रशिक्षित किया। यह एक 5-बिलियन-पैरामीटर वाला मॉडल (एक रोबोट के लिए मध्यम आकार का दिमाग) है जिसने केवल K–5 सामग्री देखी है। वह जानता है कि गुरुत्वाकर्षण क्या है (यह चीजों को नीचे खींचता है), बिल्लियाँ स्तनधारी हैं, और कैसे 8 + 6 को जोड़ा जाता है। लेकिन उसने कभी भी हाई स्कूल भौतिकी का समीकरण या क्वांटम मैकेनिक्स का कोई विचार नहीं देखा है।
बड़ा परीक्षण: क्या हम रोबोट को चकमा दे सकते हैं?
इस प्रोजेक्ट का असली जादू यह है कि क्योंकि शोधकर्ता ठीक से जानते हैं कि रोबोट ने क्या खाया है, इसलिए वे निष्पक्ष प्रयोग कर सकते हैं ताकि देख सकें कि क्या वे बाद में उसे नई चीजें सिखा सकते हैं। उन्होंने तीन बड़े सवाल पूछे:
क्या रोबोट को बड़ा बनाना मदद करता है?
उन्होंने अलग-अलग आकार के दिमागों (0.6 बिलियन, 1.3 बिलियन, और 5 बिलियन पैरामीटर्स) के साथ LittleLearner के संस्करणों को प्रशिक्षित किया।- परिणाम: रोबोट को बड़ा बनाने से उसे प्राइमरी स्कूल की चीजों में बेहतर होने में मदद मिली। एक बड़ा दिमाग वह जो वह पहले से जानता है, उसमें अधिक कुशल होता है। हालाँकि, जब उन्होंने इसे 8वीं कक्षा के गणित पर परखा (जो इसके आहार से पूरी तरह बाहर है), तो बड़े रोबोटों को अधिक स्मार्ट नहीं बनाया जा सका। वे एक दीवार से टकरा गए। एक बड़े दिमाग ने उसे वह ज्ञान जादुई रूप से नहीं दिया जो उसने कभी खाया ही नहीं था।
क्या हम इसे उन्नत चीजें सीखने के लिए "पोस्ट-ट्रेन" कर सकते हैं?
पोस्ट-ट्रेनिंग का अर्थ है रोबोट को उसकी मुख्य स्कूली शिक्षा समाप्त होने के बाद एक क्रैश कोर्स देना। उन्होंने 'रीइन्फोर्समेंट लर्निंग' (जहाँ रोबोट को अच्छे उत्तरों के लिए पुरस्कार मिलते हैं) नामक तकनीक का उपयोग करके LittleLearner को नई, उन्नत गणितीय समस्याओं को सिखाने की कोशिश की।- परिणाम: भले ही उन्होंने रोबोट को उन्नत समस्याएं खिलाईं, वह उन्हें सीख नहीं सका। वह उन चीजों में थोड़ा बेहतर हुआ जो वह पहले से जानता था, लेकिन वह नई, आउट-ऑफ-स्कोप सामग्री में पूरी तरह विफल रहा। यह एक ऐसे बच्चे को कैलकुलस सिखाने जैसा है जो केवल जोड़ना जानता है और उसे बस एक कठिन वर्कशीट दे दी जाए; वह बस भ्रमित हो जाएगा।
क्या हम "इन-कॉन्टेक्स्ट लर्निंग" का उपयोग करने से मदद मिल सकती है?
यह तब होता है जब आप प्रश्न पूछने से पहले चैट में रोबोट को कुछ उदाहरण देते हैं (जैसे यह कहना कि, "यहाँ बताया गया है कि आप एक समस्या को कैसे हल करते हैं... अब आप प्रयास करें")।- परिणाम: उदाहरण देने से रोबोट को प्राइमरी समस्याओं को थोड़ा बेहतर करने में मदद मिली, लेकिन इसने 8वीं कक्षा की समस्याओं को हल करने में बिल्कुल भी मदद नहीं की। रोबोट उन चीजों के उदाहरण देखकर नए तर्क कौशल को "अनलॉक" नहीं कर सका जिन्हें उसने पहले कभी नहीं देखा था।
निष्कर्ष: मेनू सबसे महत्वपूर्ण है
इस पेपर का मुख्य निष्कर्ष AI की दुनिया के लिए एक वास्तविकता की जांच (reality check) है। यह सुझाव देता है कि प्री-ट्रेनिंग आहार सबसे महत्वपूर्ण चीज है। यदि एक रोबोट को केवल प्राथमिक स्कूल का ज्ञान खिलाया जाता है, तो वह उन्हीं सीमाओं के भीतर रहेगा। आप केवल उसे बड़ा करके, उसे एक क्रैश कोर्स देकर, या उसे कुछ उदाहरण दिखाकर उन्नत भौतिकी या उच्च गणित में विशेषज्ञ बनने के लिए आसानी से चकमा नहीं दे सकते।
पेपर दिखाता है कि रोबोट की "क्षमता की सीमा" (capability ceiling) उस चीज़ द्वारा निर्धारित होती है जिस पर उसे मूल रूप से प्रशिक्षित किया गया था। जब शोधकर्ताओं ने LittleLearner से श्रोडिंगर की बिल्ली (क्वांटम भौतिकी का एक प्रसिद्ध प्रयोग) के बारे में पूछा, तो रोबोट ने यह नहीं कहा कि "मुझे नहीं पता।" इसके बजाय, उसने दो चेहरों वाली एक बिल्ली की कहानी बना दी। उसने उस सरल तर्क का उपयोग करने की कोशिश की जो उसके पास था ताकि उस चीज़ की व्याख्या की जा सके जिसे उसने कभी देखा ही नहीं था, जिसके परिणामस्वरूप एक आत्मविश्वासी लेकिन गलत उत्तर मिला।
इसका मतलब यह नहीं है कि AI खराब है; इसका मतलब यह है कि हमारे पास अब एक स्पष्ट तरीका है जिससे हम अध्ययन कर सकते हैं कि AI कैसे सीखता है। LittleLearner और LittleCurriculum का उपयोग करके, वैज्ञानिकों के पास अब एक नियंत्रित खेल का मैदान है। वे अनुमान लगाना बंद कर सकते हैं कि रोबोट क्या जानता है और यह परीक्षण करना शुरू कर सकते हैं कि जब नियम स्पष्ट हों तो वह नए कौशल कैसे सीखता है। यह साबित होता है कि यदि आप चाहते हैं कि एक रोबोट जीनियस बने, तो आपको शायद शुरुआत से ही उसे जीनियस-स्तर का भोजन खिलाना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।