Advancing Polish Language Modeling through Tokenizer Optimization in the Bielik v3 7B and 11B Series
यह शोध पत्र Bielik v3 7B और 11B मॉडलों को प्रस्तुत करता है, जो यूनिवर्सल टोकनाइज़र के स्थान पर एक समर्पित, अनुकूलित शब्दावली का उपयोग करके और FOCUS-आधारित इनिशियलाइज़ेशन, बहु-चरणीय प्रीट्रेनिंग और उन्नत अलाइनमेंट तकनीकों सहित एक व्यापक प्रशिक्षण पाइपलाइन को नियोजित करके पोलिश भाषा के लिए महत्वपूर्ण प्रदर्शन सुधार प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बिएलिक (Bielik) नाम का एक शानदार, बहुभाषी लाइब्रेरियन है। यह लाइब्रेरियन अविश्वसनीय रूप से बुद्धिमान है, दुनिया के बारे में बहुत कुछ जानता है, और कई भाषाओं में बात कर सकता है। हालाँकि, एक समस्या है: बिएलिक को मूल रूप से एक "यूनिवर्सल डिक्शनरी" (सार्वभौमिक शब्दकोश) का उपयोग करके प्रशिक्षित किया गया था जो पूरी दुनिया के लिए डिज़ाइन की गई थी।
जब बिएलिक पोलिश (Polish) बोलने की कोशिश करता है, तो यह यूनिवर्सल डिक्शनरी अक्षम होती है। यह ऐसा है जैसे हर एक अक्षर को एक अलग शब्द के रूप में उपयोग करके एक जटिल पोलिश वाक्य लिखने की कोशिश करना। "मैं दुकान जा रहा हूँ" कहने के लिए, बिएलिक को 4 स्पष्ट शब्दों के बजाय 10 छोटे, खंडित सूचना के टुकड़ों का उपयोग करना पड़ सकता है। यह बिएलिक को धीमा, चलाने में महंगा बनाता है, और यह भी सीमित करता है कि वह एक बार में कितना याद रख सकता है (उसका "कॉन्टेक्स्ट विंडो")।
यह पेपर इस कहानी के बारे में है कि कैसे इसके रचनाकारों ने बिएलिक को एक कस्टम-मेड पोलिश डिक्शनरी दी ताकि वह तेज़, स्मार्ट और अधिक कुशल बन सके, बिना यह भुलाए कि वह बाकी सब कुछ क्या जानता है।
यहाँ उनके सफर का विवरण दिया गया है, सरल उपमाओं (analogies) का उपयोग करते हुए:
1. समस्या: "यूनिवर्सल डिक्शनरी" का दोष
मूल टोकेनाइज़र (वह डिक्शनरी जिसका उपयोग बिएलिक करता है) को एक स्विस आर्मी नाइफ की तरह समझें। यह बेहतरीन है क्योंकि इसमें सबके लिए एक पेचकस, एक ब्लेड और एक कॉर्कस्क्रू है। लेकिन यदि आप एक पोलिश शेफ हैं जो प्याज काटने की कोशिश कर रहे हैं, तो आपको कॉर्कस्क्रू की नहीं, बल्कि एक तेज, विशेष चाकू की आवश्यकता है।
- समस्या: स्विस आर्मी नाइफ (यूनिवर्सल टोकेनाइज़र) पोलिश शब्दों को बहुत सारे छोटे, बेकार टुकड़ों में तोड़ देता है। इसे उच्च "फर्टिलिटी रेश्यो" (fertility ratio) कहा जाता है। यह एक पाइप के बजाय चम्मच से स्विमिंग पूल भरने की कोशिश करने जैसा है। आप पानी को स्थानांतरित करने में ही बहुत समय और ऊर्जा बर्बाद कर देते हैं।
2. समाधान: "कस्टम पोलिश नाइफ" (APT4 टोकेनाइज़र)
टीम ने विशेष रूप से पोलिश के लिए एक नया शब्दकोश बनाया, जिसे APT4 कहा गया।
- जादू: पोलिश शब्द को 3 या 4 छोटे टुकड़ों में तोड़ने के बजाय, यह नया डिक्शनरी पूरे शब्द को एक सुचारू इकाई (smooth unit) के रूप में मानता है।
- परिणाम: अब बिएलिक पोलिश में दोगुना तेज़ "सोच" सकता है। वह समान बात कहने के लिए आधे मेमोरी का उपयोग करता है, और वह एक साथ बातचीत का दोगुना हिस्सा याद रख सकता है। यह पोलिश कार्यों के लिए साइकिल से स्पोर्ट्स कार में अपग्रेड करने जैसा है, जबकि वह अभी भी अंग्रेजी सड़कों पर गाड़ी चलाने में सक्षम है।
3. खतरा: "भूलने की बीमारी" (Catastrophic Forgetting)
यहाँ पेचीदा हिस्सा है। यदि आप अचानक किसी लाइब्रेरियन का पूरा डिक्शनरी काम करते समय बदल देते हैं, तो वे भ्रमित हो सकते हैं और वे जो भी भाषाएँ जानते थे, उन्हें भी भूल सकते हैं। इसे कैटास्ट्रफिक फॉरगेटिंग (Catastrophic Forgetting) कहा जाता है।
- समाधान (FOCUS): इसे रोकने के लिए, टीम ने FOCUS नामक एक चतुर तकनीक का उपयोग किया। कल्पना करें कि आप एक छात्र को एक नई वर्णमाला सिखा रहे हैं। उन्हें शून्य से शुरू करने के बजाय, आप उन्हें दिखाते हैं कि नए अक्षर पुराने अक्षरों के साथ कैसे ओवरलैप होते हैं। आप कहते हैं, "यह नया अक्षर 'A' बस पुराने 'A' और 'B' का संयोजन है।"
- प्रक्रिया: उन्होंने गणित का उपयोग करके पुराने शब्दों को नए शब्दों में सावधानीपूर्वक मैप किया, यह सुनिश्चित करते हुए कि बिएलिक अपनी अंग्रेजी या अपने सामान्य तर्क कौशल की याददाश्त न खो दे।
4. प्रशिक्षण: "पुनः शिक्षा शिविर" (दो-चरणीय पाइपलाइन)
आप केवल डिक्शनरी बदलकर यह उम्मीद नहीं कर सकते कि बिएलिक तुरंत पूर्ण हो जाएगा। उन्हें उसे दो चरणों में फिर से प्रशिक्षित करना पड़ा:
- चरण 1 (वार्म-अप): उन्होंने बिएलिक के अधिकांश मस्तिष्क को फ्रीज कर दिया और उसे केवल थोड़े से टेक्स्ट के साथ नए डिक्शनरी का अभ्यास करने दिया। यह उसे यह सिखाने जैसा था कि नया चाकू कैसे पकड़ना है, बिना उसे अभी पूरा भोजन पकाने देने के।
- चरण 2 (पूरा भोजन): एक बार जब वह सहज हो गया, तो उन्होंने उसके पूरे मस्तिष्क को अनफ्रीज कर दिया और उसे भारी मात्रा में पोलिश टेक्स्ट (16 बिलियन शब्द!) पर अभ्यास करने दिया। इसने उसे उसकी "मसल मेमोरी" को नए, कुशल डिक्शनरी के अनुकूल बनाने की अनुमति दी।
5. पोलिश: "फाइन-ट्यूनिंग" (SFT, DPO, GRPO)
नया डिक्शनरी सीखने के बाद, बिएलिक को फिर से एक अच्छा वार्ताकार बनने की आवश्यकता थी।
- SFT (सुपरवाइज्ड फाइन-ट्यूनिंग): उन्होंने उसे निर्देश मानने और विनम्रता से चैट करने के तरीके सिखाए।
- DPO (प्रेफरेंस ऑप्टिमाइज़ेशन): उन्होंने उसे "अच्छे" उत्तर बनाम "बुरे" उत्तर के उदाहरण दिखाए ताकि वह मददगार और ईमानदार होने को प्राथमिकता देना सीख सके।
- GRPO (रीइन्फोर्समेंट लर्निंग): उन्होंने उसे गणित और तर्क की पहेलियाँ हल करने के लिए दीं, और जब उसने सही चरणों का पालन किया तो उसे पुरस्कृत किया, जिससे उसके तर्क कौशल और भी तेज हो गए।
6. परिणाम: क्या यह काम आया?
टीम ने बिएलिक को परीक्षणों की एक श्रृंखला (एक रिपोर्ट कार्ड की तरह) से गुजारा:
- पोलिश टेस्ट: उसने उन्हें आसानी से पार कर लिया! वास्तव में, जटिल पोलिश तर्क और भावनाओं से जुड़े कुछ परीक्षणों में, नया "पोलिश-ऑप्टिमाइज्ड" बिएलिक मूल संस्करण की तुलना में वास्तव में उच्च स्कोर करता है।
- अंग्रेजी टेस्ट: उसने अपने अंग्रेजी कौशल को नहीं खोया। वह अभी भी बहुत अच्छी अंग्रेजी बोलता है, जो साबित करता है कि "भूलने की बीमारी" वाला फिक्स काम कर गया।
- गति और लागत: क्योंकि वह समान बात कहने के लिए कम "टोकेन्स" (शब्दों के टुकड़े) का उपयोग करता है, इसलिए वह तेज़ है और उसे चलाना सस्ता है।
मुख्य निष्कर्ष
Bielik v3 के रचनाकारों ने एक शक्तिशाली, सामान्य उद्देश्य वाले AI को एक विशेषज्ञ पोलिश मस्तिष्क दिया। उन्होंने यह सब उसे अन्य भाषाएँ या अपनी बुद्धिमत्ता भुलाए बिना किया।
इसे इस तरह सोचें: पहले, बिएलिक एक शानदार बहुभाषी था जो गलत डिक्शनरी का उपयोग करने के कारण पोलिश बोलते समय हकलाता था। अब, वह पोलिश धाराप्रवाह, तेज़ी से और पूर्ण व्याकरण के साथ बोलता है, जबकि वह अंग्रेजी में भी पहले की तरह ही अच्छी तरह से चैट कर सकता है। और सबसे अच्छी बात? उन्होंने ब्लूप्रिंट (मॉडल वेट्स) मुफ्त में दे दिए ताकि हर कोई इस सुपर-एफिशिएंट पोलिश AI का उपयोग कर सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।