TELLME: Test-Enhanced Learning for Language Model Enrichment
यह शोध पत्र TELLME को प्रस्तुत करता है, जो एक नवीन विधि है जो डोमेन-विशिष्ट ज्ञान को कुशलतापूर्वक प्राप्त करने और बड़े भाषा मॉडलों में दीर्घकालिक स्मृति प्रतिधारण में सुधार करने के लिए निरंतर पूर्व-प्रशिक्षण (continual pre-training) के साथ टेस्ट-एनहांस्ड लर्निंग (Test-Enhanced Learning) को एकीकृत करता है, जबकि पारंपरिक दृष्टिकोणों की डेटा और गणना संबंधी चुनौतियों पर विजय प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को किसी विशिष्ट क्षेत्र, जैसे वित्त (finance) या चिकित्सा (medicine) में विशेषज्ञ बनने के लिए सिखाने की कोशिश कर रहे हैं। आप उसे केवल किताबों का पुस्तकालय नहीं दे सकते और उम्मीद नहीं कर सकते कि वह सब कुछ याद कर लेगा; यह बहुत धीमा और महंगा होगा। यह लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया है, जो कई आधुनिक चैटबॉट्स के पीछे के AI मस्तिष्क हैं। आमतौर पर, इन रोबोटों को किसी नए विषय के बारे में स्मार्ट बनाने के लिए, वैज्ञानिक कंटीन्यूअल प्री-ट्रेनिंग (CPT) नामक एक विधि का उपयोग करते हैं। CPT को इस तरह समझें जैसे आप रोबोट को उस विषय के बारे में लेखों और समाचार कहानियों की एक विशाल, अनंत धारा खिला रहे हैं। रोबोट उन्हें पढ़ता है, पैटर्न सीखता है, और बेहतर होता जाता है।
हालाँकि, इसमें एक पेंच है। केवल एक किताब पढ़ने का मतलब यह नहीं है कि आप वास्तव में उसे समझ गए हैं या अगले सप्ताह तक उसे याद रखेंगे। मानव मनोविज्ञान में, एक प्रसिद्ध विचार है जिसे टेस्ट-एनहांस्ड लर्निंग (TEL) कहा जाता है। यह एक काउंटर-इंट्यूटिव खोज है कि अध्ययन करते समय क्विज़ देना वास्तव में आपके मस्तिष्क को जानकारी को बेहतर तरीके से लॉक करने में मदद करता है, बजाय केवल सामग्री को दोबारा पढ़ने के। यह एक कुकिंग शो को निष्क्रिय रूप से देखने और वास्तव में उस व्यंजन को पकाने की कोशिश करने के बीच का अंतर है, जहाँ शेफ आपसे पूछता है, "क्या होता है अगर आप नमक बहुत जल्दी डाल दें?" हम आज जिस शोध पत्र की खोज कर रहे हैं, वह एक सरल लेकिन शक्तिशाली प्रश्न पूछता है: क्या होगा यदि हम AI को उसी तरह सिखाएं जैसे हम मनुष्यों को सिखाते हैं? क्या होगा यदि हम इसे केवल और अधिक टेक्स्ट खिलाने के बजाय, इसे सीखने के दौरान क्विज़ लेने के लिए मजबूर करें?
शोध पत्र: TELLME – AI को क्विज़ लेना सिखाना
इस अध्ययन के पीछे के शोधकर्ताओं ने, जो कोरिया की एक टीम है, एक नई विधि बनाई है जिसे वे TELLME (Language Model Enrichment के लिए Test-Enhanced Learning) कहते हैं। उनका लक्ष्य पारंपरिक "बस और अधिक पढ़ो" दृष्टिकोण की समस्याओं को ठीक करना था। वे यह देखना चाहते थे कि क्या प्रशिक्षण प्रक्रिया के दौरान "क्विज़" मिलाने से AI तेजी से सीख पाएगा, बेहतर याद रख पाएगा, और वास्तव में शब्दों को रटने के बजाय विषय की गहरी अवधारणाओं को समझ पाएगा।
"सिर्फ पढ़ने" के साथ समस्या
पारंपरिक रूप से, जब वैज्ञानिक किसी AI को वित्त के बारे में सिखाना चाहते हैं, तो वे उसे हजारों समाचार लेख खिलाते हैं। यह कंटीन्यूअल प्री-ट्रेनिंग (CPT) विधि है। कभी-कभी, वे इसके बाद इंस्ट्रक्शन ट्यूनिंग (IT) नामक एक अलग चरण का पालन करते हैं, जहाँ वे AI को प्रश्न और उत्तर दिखाते हैं ताकि उसे चैट करना सिखाया जा सके।
लेखकों का तर्क है कि यह दो-चरणीय प्रक्रिया अव्यवस्थित है। यह इतिहास की परीक्षा के लिए तीन घंटे तक पाठ्यपुस्तक पढ़ने और फिर, समाप्त होने के बाद ही, आपको एक अभ्यास टेस्ट दिए जाने जैसा है। जब तक आप टेस्ट देते हैं, हो सकता है कि आप उन विवरणों को पहले ही भूल चुके हों जिन्हें आपने अभी पढ़ा था। अन्य शोधकर्ताओं ने दोनों चरणों को मिलाने की कोशिश की, AI को एक ही समय में टेक्स्ट और सरल प्रश्न खिलाए। लेकिन लेखकों ने एक कमी देखी: वे प्रश्न अक्सर बहुत आसान होते थे, जैसे "इस पैराग्राफ में उल्लेखित बैंक का नाम क्या है?" AI बिना वास्तव में सोचे सीधे टेक्स्ट से उत्तर की नकल कर सकता था। यह एक "रीडिंग कॉम्प्रिहेनशन" की ट्रिक थी, वास्तविक शिक्षण नहीं।
TELLME समाधान: "डीप डाइव" क्विज़
TELLME, TEL के मनोवैज्ञानिक सिद्धांतों पर आधारित एक विशिष्ट प्रकार का क्विज़ पेश करके खेल बदल देता है। यह कैसे काम करता है, यहाँ दिया गया है:
- सेटअप: AI को टेक्स्ट का एक टुकड़ा (जैसे बैंक के बारे में एक समाचार लेख) दिया जाता है।
- ट्विस्ट: "बैंक ने क्या किया?" पूछने के बजाय, AI से ऐसे प्रश्न उत्पन्न करने या उत्तर देने के लिए कहा जाता है जिनमें बाहरी ज्ञान (outside knowledge) की आवश्यकता हो। उदाहरण के लिए, यदि टेक्स्ट में "हाई-फ्रीक्वेंसी ट्रेडिंग" का उल्लेख है, तो क्विज़ पूछ सकता है, "हाई-फzufक्वेंसी ट्रेडिंग मार्केट वोलैटिलिटी (बाजार की अस्थिरता) को कैसे प्रभावित करती है?" इसका उत्तर लेख में नहीं लिखा है। AI को पहेली को हल करने के लिए दुनिया के बारे में जो वह पहले से जानता है, उसका उपयोग करके कड़ियों को जोड़ना होगा।
- ट्रेनिंग लूप: AI टेक्स्ट पढ़ता है, फिर तुरंत इन गहरे, खुले अंत वाले प्रश्नों के उत्तर देने का प्रयास करता है। महत्वपूर्ण रूप से, सिस्टम केवल पढ़े गए टेक्स्ट और दिए गए उत्तरों पर AI को "ग्रेड" करता है, न कि स्वयं प्रश्नों पर। यह AI को सामग्री को समझने और पहेली को हल करने के लिए अपने आंतरिक ज्ञान को प्राप्त करने पर ध्यान केंद्रित करने के लिए मजबूर करता है।
इसे बनाने के लिए, टीम ने एक शक्तिशाली AI (GPT-4o-mini) का उपयोग करके दो कठिन क्षेत्रों: वित्त (Finance) और चिकित्सा (Medicine) के लिए 100,000 विशेष क्विज़ जोड़े बनाए। उन्होंने सुनिश्चित किया कि प्रश्न विविध हों और उनमें तर्क की आवश्यकता हो, न कि केवल नकल की।
उन्होंने क्या पाया: तेज़ सीखना, बेहतर स्मृति
टीम ने कई अलग-अलग AI मॉडल (Llama और SmolLM सहित) का उपयोग करके पुराने तरीकों के मुकाबले TELLME का परीक्षण किया। परिणाम काफी उत्साहजनक थे:
- कम समय में अधिक स्मार्ट: वित्त के क्षेत्र में, TELLME ने मानक तरीकों की तुलना में AI के प्रदर्शन में 23.6% तक सुधार किया। इसने सामग्री को अधिक कुशलता से सीखा।
- बेहतर दीर्घकालिक स्मृति: यह सबसे रोमांचक हिस्सा था। शोधकर्ताओं ने परीक्षण किया कि क्या AI वित्त के बारे में सीखी गई चीज़ों को "भूल" जाएगा जब वे इसे चिकित्सा के बारे में सिखाना शुरू करेंगे।
- पुराने तरीके (CPT) में चिकित्सा सीखने के बाद वित्त प्रदर्शन में 5.72% की गिरावट देखी गई।
- TELLME विधि में केवल 0.94% की गिरावट आई।
- यह सुझाव देता है कि प्रशिक्षण के दौरान खुद का "परीक्षण" करके, AI ने मजबूत, अधिक टिकाऊ यादें बनाईं जो नई जानकारी आने पर मिट नहीं गईं।
- लागत दक्षता: क्योंकि TELLME तेजी से सीखता है, यह कम चरणों में प्रदर्शन का समान स्तर तक पहुँच जाता है। लेखकों ने नोट किया कि यह मानक विधि की तुलना में लगभग 1.4 गुना तेज़ प्रशिक्षित था, जिससे समय और कंप्यूटिंग शक्ति की बचत हुई।
यह क्यों मायने रखता है
शोध पत्र सुझाव देता है कि AI को प्रशिक्षित करने का हमारा तरीका बहुत निष्क्रिय रहा है। मानव शिक्षा से एक ट्रिक उधार लेकर—सीखते समय खुद का परीक्षण करना—हम ऐसा AI बना सकते हैं जो अवधारणाओं को गहराई से समझता है और उन्हें लंबे समय तक याद रखता है।
शोधकर्ताओं ने यह भी जांचा कि क्या यह अन्य भाषाओं के लिए काम करता है। उन्होंने इसे कोरियाई के साथ आजमाया, और यह वहां भी काम कर गया, जिससे AI की कोरियाई वाक्यों को समझने की क्षमता में सुधार हुआ, भले ही उसे कोरियाई टेक्स्ट पर प्रशिक्षित न किया गया हो। यह संकेत देता है कि "क्विज़" विधि एक सार्वभौमिक कुंजी हो सकती है जो भाषा की परवाह किए बिना AI को स्मार्ट बनाने के लिए है।
हालाँकि, लेखक सावधानीपूर्वक नोट करते हैं कि यह कंटीन्यूअल लर्निंग (AI को पहले से बने हुए होने के बाद नई चीजें सिखाना) के लिए एक विशिष्ट सुधार है। वे यह भी बताते हैं कि उन्होंने 70 बिलियन पैरामीटर्स तक के मॉडल पर परीक्षण किया, लेकिन पैसे बचाने के लिए कुछ शॉर्टकट का उपयोग किया, इसलिए परिणाम विशाल, पूर्ण-पैमाने के मॉडल पर थोड़े अलग दिख सकते हैं।
संक्षेप में, TELLME सुझाव देता है कि यदि आप चाहते हैं कि कोई AI एक सच्चा विशेषज्ञ बने, तो उसे केवल अधिक पढ़ने के लिए न कहें। उसे एक टेस्ट देने के लिए कहें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।