EstLLM: Enhancing Estonian Capabilities in Multilingual LLMs via Continued Pretraining and Post-Training
यह शोध पत्र यह प्रदर्शित करता है कि निरंतर पूर्व-प्रशिक्षण (continued pretraining) को एस्टोनियाई-समृद्ध बहुभाषी रिप्ले (Estonian-enriched multilingual replay) और हल्के पोस्ट-ट्रेनिंग अलाइनमेंट (lightweight post-training alignment) के साथ संयोजित करने से बहुभाषी एलएलएम (LLMs) में एस्टोनियाई भाषा की क्षमताओं में पर्याप्त वृद्धि होती है, जबकि उनके अंग्रेजी प्रदर्शन और सामान्य तर्क कौशल को प्रभावी रूप से संरक्षित किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स आज के कई सबसे उन्नत आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के इंजन हैं, जो कहानियाँ लिखने, समस्याओं को हल करने और सवालों के जवाब देने में सक्षम हैं। इन प्रणालियों को इंटरनेट से टेक्स्ट की विशाल मात्रा पर प्रशिक्षित किया जाता है, जिससे वे अरबों उदाहरणों को पढ़कर मानव भाषा के पैटर्न को सीखती हैं। हालाँकि, उन्हें सिखाने के लिए उपयोग किया जाने वाला डेटा अंग्रेजी की ओर बहुत अधिक झुका हुआ है। क्योंकि डिजिटल दुनिया में अंग्रेजी का दबदबा है, ये मॉडल अंग्रेजी में विशेषज्ञ बन जाते हैं जबकि एस्टोनियाई जैसी छोटी भाषाओं के साथ इन्हें अक्सर संघर्ष करना पड़ता है, जिनका डिजिटल प्रतिनिधित्व बहुत कम है। इस असंतुलन का अर्थ यह है कि जहाँ एक एआई अंग्रेजी में एक आदर्श निबंध लिख सकता है, वहीं एस्टोनियाई में ऐसा करने के लिए पूछे जाने पर यह भ्रमित करने वाला या गलत टेक्स्ट उत्पन्न कर सकता है। शोधकर्ता अब इस अंतर को ठीक करने के लिए काम कर रहे हैं, और यह पूछ रहे हैं कि क्या इन शक्तिशाली, अंग्रेजी-प्रधान मॉडल्स को उनके पास पहले से मौजूद कौशल को तोड़े बिना एक नई भाषा सिखाना संभव है।
एस्टोनिया के शोधकर्ताओं की एक टीम ने एक विशेष संस्करण का निर्माण करके इस प्रश्न का उत्तर देने का प्रयास किया जो एस्टोनियाई भाषा के लिए अनुकूलित है। उन्होंने दो मौजूदा मॉडल्स से शुरुआत की: एक जो अंग्रेजी डेटा पर भारी रूप से प्रशिक्षित था और दूसरा जो पहले से ही कई भाषाओं से कुछ हद तक परिचित था। शोधकर्ताओं ने एक नया मॉडल शून्य से नहीं बनाया। इसके बजाय, उन्होंने इन मौजूदा प्रणालियों को लिया और उन्हें डेटा के एक विशिष्ट मिश्रण का उपयोग करके एक केंद्रित "पुनः शिक्षा" दी। सबसे पहले, उन्होंने मॉडल्स को एस्टोनियाई टेक्स्ट के एक बड़े वॉल्यूम के संपर्क में लाया, जिसमें साहित्य, शैक्षणिक लेखन और वेब सामग्री शामिल थी, ताकि भाषा के ज्ञान की एक नींव बनाई जा सके। यह सुनिश्चित करने के लिए कि मॉडल्स तर्क करने या अन्य विषयों को समझने की क्षमता न भूल जाएं, उन्होंने प्रशिक्षण के इस चरण के दौरान अंग्रेजी टेक्स्ट, कोड और गणितीय समस्याओं को भी इसमें मिला दिया। इस प्रक्रिया को 'कंटीन्यूड प्रीट्रेनिंग' (निरंतर पूर्व-प्रशिक्षण) कहा जाता है, जिसने मॉडल्स को उनकी सामान्य बुद्धिमत्ता को बरकरार रखते हुए एस्टोनियाई सीखने की अनुमति दी।
इस प्रारंभिक प्रशिक्षण के बाद, शोधकर्ताओं ने मॉडल्स को निर्देशों का पालन करने में बेहतर बनाने के लिए उन्हें परिष्कृत किया, जो चैटबॉट्स और सहायकों के लिए एक महत्वपूर्ण कौशल है। उन्होंने मॉडल्स को वास्तविक मानवीय बातचीत और सिंथेटिक उदाहरणों के मिश्रण का उपयोग करके एस्टोनियाई और अंग्रेजी दोनों में उपयोगकर्ता के आदेशों का जवाब देना सिखाया। उनकी प्रक्रिया में एक प्रमुख कदम 'चैट वेक्टर मर्जिंग' (chat vector merging) नामक तकनीक शामिल थी। एक मॉडल की कल्पना एक ऐसे छात्र के रूप में करें जिसने एक नई भाषा सीखी है लेकिन वह विनम्रता से बोलना या जटिल नियमों का पालन करना भूल गया है। शोधकर्ताओं ने मूल अंग्रेजी संस्करण के मॉडल से निर्देशों का पालन करने के "ज्ञान" को लिया और उसे अपने नए एस्टोनियाई-प्रशिक्षित संस्करण में मिला दिया। इसने अंतिम उत्पाद को स्पष्ट रूप से निर्देश पालन करने की क्षमता बनाए रखते हुए धाराप्रवाह एस्टोनियाई बोलने में सक्षम बनाया।
इस प्रयोग के परिणाम आश्चर्यजनक और महत्वपूर्ण थे। प्रशिक्षण शुरू होने से पहले, जो मॉडल पहले से ही बहुभाषी था, वह एस्टोनियाई कार्यों पर अंग्रेजी-केंद्रित मॉडल की तुलना में बेहतर प्रदर्शन कर रहा था। हालाँकि, अनुकूलन प्रक्रिया के बाद, स्थिति उलट गई। वह मॉडल जिसने एक मजबूत अंग्रेजी आधार से शुरुआत की थी, उसने एस्टोनियाई में बहुत अधिक सुधार दिखाया, और अंततः बहुभाषी मॉडल से बेहतर प्रदर्शन किया। यह सुझाव देता है कि किसी विशिष्ट भाषा में एक मॉडल का शुरुआती बिंदु यह भविष्यवाणी नहीं करता है कि वह बाद में उस भाषा को कितनी अच्छी तरह सीखेगा। शोधकर्ताओं ने पाया कि अनुकूलित मॉडल्स एस्टोनियाई में व्याकरण को समझ सकते थे, टेक्स्ट का अनुवाद कर सकते थे और तर्क पहेलियों को पहले की तुलना में कहीं बेहतर तरीके से हल कर सकते थे। उन्होंने इन मॉडल्स का परीक्षण एक सार्वजनिक क्षेत्र में भी किया जहाँ मानव उपयोगकर्ता उनके साथ चैट कर सकते थे और सबसे अच्छे जवाब के लिए वोट कर सकते थे। नए एस्टोनियाई मॉडल्स ने उच्च रैंक प्राप्त की, और बड़े एवं अधिक जटिल सिस्टम के साथ सफलतापूर्वक प्रतिस्पर्धा की।
अध्ययन ने यह भी खुलासा किया कि ये मॉडल्स कैसे सीखते हैं, इसकी महत्वपूर्ण सीमाएं हैं। शोधकर्ताओं ने परीक्षण किया कि क्या एस्टोनियाई प्रशिक्षण डेटा को कई बार दोहराने से मॉडल्स बेहतर सीख पाएंगे, जो कि कुछ अन्य अध्ययनों में उपयोग की जाने वाली एक विधि है। उन्होंने पाया कि इस आकार के मॉडल के लिए, डेटा को दूसरी बार पढ़ना कोई वास्तविक लाभ नहीं देता था और यह केवल कंप्यूटिंग शक्ति की बर्बादी थी। एक प्रशिक्षण चक्र पर्याप्त था। इसके अलावा, शोधकर्ताओं ने पाया कि जबकि मॉडल्स एस्टोनिया में उत्कृष्ट हो गए थे, एक मामूली ट्रेड-ऑफ (समझौता) भी था: अंग्रेजी में निर्देशों का पालन करने की उनकी क्षमता थोड़ी कम हो गई। हालाँकि, चैट वेक्टर मर्जिंग तकनीक ने इस खोई हुई अंग्रेजी क्षमता को सफलतापूर्वक बहाल कर दिया, जिससे यह सिद्ध हुआ कि यह संभव है कि एक मॉडल को उसकी सामान्य क्षमताओं का त्याग किए बिना किसी छोटी भाषा के लिए विशेष बनाया जाए।
यह कार्य उन भाषाओं के लिए आर्टिफिशियल इंटेलिजेंस को बेहतर बनाने के लिए एक स्पष्ट मार्ग प्रदान करता है जिन्हें अक्सर अनदेखा किया जाता है। नए भाषा डेटा को मौजूदा ज्ञान के साथ सावधानीपूर्वक मिलाकर और विभिन्न मॉडल व्यवहारों को मिलाने के लिए स्मार्ट तकनीकों का उपयोग करके, शोधकर्ता विशिष्ट समुदायों के लिए शक्तिशाली उपकरण बना सकते हैं, बिना शून्य से शुरू किए। निष्कर्ष बताते हैं कि एक बड़े भाषा मॉडल को अनुकूलित करने का सबसे प्रभावी तरीका यह नहीं है कि उस मॉडल से शुरुआत की जाए जो पहले से ही उस भाषा को जानता हो, बल्कि एक ऐसे मॉडल को लिया जाए जो सामान्य तर्क में मजबूत हो और उसे डेटा के संतुलित आहार के साथ नई भाषा सिखाई जाए। परिणामी मॉडल्स अब दूसरों के उपयोग के लिए उपलब्ध हैं, जो एस्टोनियाई बोलने वालों के लिए एक उच्च-गुणवत्ता वाला, मूल-स्तर का अनुभव प्रदान करते हैं और साथ ही एक वैश्विक बुद्धिमत्ता की मजबूती को भी बनाए रखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।