From a Multilingual Streaming ASR Backbone to Kenyan-Language Systems: Data-Centric Adaptation of Nemotron 3.5 for Kikuyu, Dholuo, and Kalenjin
यह शोध पत्र कॉर्पस ऑडिटिंग और नॉर्मलाइज़ेशन जैसी डेटा-केंद्रित रणनीतियों के माध्यम से किकुयू, धोलुओ और कालेनजिन भाषाओं के लिए NVIDIA के नेमोट्रॉन 3.5 स्ट्रीमिंग ASR मॉडल को अनुकूलित करने पर एक व्यापक इंजीनियरिंग अध्ययन प्रस्तुत करता है, जो विशिष्ट WER और CER मेट्रिक्स प्राप्त करते हुए गैर-मानक मूल्यांकन प्रोटोकॉल के कारण स्टेट-ऑफ-द-आर्ट दावों की अनुपस्थिति के साथ चुनौतियों, नकारात्मक निष्कर्षों और पारदर्शिता के साथ रिपोर्टिंग को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को दुनिया की आवाज़ें सुनना सिखाने की कोशिश कर रहे हैं। यह रोबोट, जिसे हम "नेमोट्रॉन" (Nemotron) कह सकते हैं, पहले से ही कई भाषाओं को समझने में माहिर है, लेकिन वह ज्यादातर बड़ी और लोकप्रिय भाषाओं तक ही सीमित है। अब, कल्पना कीजिए कि आप उसे केन्या में बोली जाने वाली तीन विशिष्ट भाषाएं सिखाना चाहते हैं: किकुयू (Kikuyu), ढोलुओ (Dholuo), और कालेनजिन (Kalenjin)। यह ऑटोमैटिक स्पीच रिकग्निशन (ASR) की दुनिया है। ASR को एक रोबोट के "कान" और "दिमाग" के रूप में समझें जो ध्वनि तरंगों (sound waves) को लिखित शब्दों में बदलने के लिए मिलकर काम करते हैं।
लेकिन यहाँ एक पेचीदा बात है: एक रोबोट को नई भाषा सिखाना सिर्फ उसे कुछ गाने सुनाने जैसा नहीं है। यह एक शेफ को एक नया व्यंजन सिखाने जैसा है जब सामग्री बिखरी हुई हो, निर्देश किसी ऐसे कोड में लिखे हों जिसे आप पूरी तरह से नहीं समझते, और रसोई के कुछ उपकरण गायब हों। AI की दुनिया में, इसे "लो-रिसोर्स" (low-resource) समस्या कहा जाता है। इसका मतलब केवल इतना नहीं है कि ऑडियो पर्याप्त नहीं है; इसका मतलब यह भी है कि ऑडियो में अजीब वर्तनी की गलतियाँ, गायब हिस्से, या शोर भरा बैकग्राउंड हो सकता है जो रोबोट के लिए एक वास्तविक शब्द और एक गड़बड़ी (glitch) के बीच अंतर करना कठिन बना देता है।
यह पेपर एक कहानी है कि कैसे इंजीनियरों की एक टीम ने उस सुपर-स्मार्ट रोबोट को एक संबंधित भाषा का उपयोग करके एक विशेष "ब्रिज" (bridge) सबक दिया, और फिर उसे इन तीन केन्याई भाषाओं को सिखाने की कोशिश की। वे केवल उसे शब्द नहीं समझाना चाहते थे; वे चाहते थे कि वह रियल-टाइम में सुने, जैसे कि कोई इंसान फोन कॉल पर बातचीत करता है, न कि पूरी बातचीत खत्म होने का इंतज़ार करे और फिर लिखे। यह डेटा डिटेक्टिव वर्क, टूटे हुए निर्देशों को ठीक करने, और यह देखने की कहानी है कि सही उपकरणों और धैर्य के साथ एक रोबोट कितनी दूर जा सकता है।
केन्याई भाषा परियोजना की कहानी
यह पेपर, जिसे C-elo Labs के मार्क गेटरे द्वारा लिखा गया है, मूल रूप से एक इंजीनियरिंग डायरी है। यह एक विशाल, प्री-ट्रेन्ड AI मॉडल (नेमोट्रॉन 3.5) को किकुयू, ढोलुओ और कालेनजिन समझने के लिए अनुकूलित करने की यात्रा का दस्तावेजीकरण करता है। टीम ने शून्य से शुरुआत नहीं की; उन्होंने एक "ब्रिज" के साथ शुरुआत की। उन्होंने रोबोट का एक ऐसा संस्करण लिया जिसने पहले से ही केन्याई स्वाहिली सीखी थी और उसे एक शुरुआती बिंदु के रूप में उपयोग किया। इसे इतालवी सीखने जैसा समझें यदि आप पहले से स्पेनिश जानते हैं: व्याकरण और शब्दावली इतनी करीब है कि आपके पास एक बड़ी बढ़त है, भले ही दोनों भाषाएँ जुड़वां न हों।
डिटेक्टिव वर्क: डेटा की सफाई करना
इससे पहले कि रोबलेट सीख पाता, टीम को डेटा डिटेक्टिव के रूप में कार्य करना पड़ा। जो कच्चे ऑडियो फ़ाइलें उन्हें मिलीं, वे अस्त-व्यस्त थीं। कुछ में ऑडियो गायब था, कुछ के ट्रांसक्रिप्ट में अजीब प्रतीक थे (जैसे "लॉन्ग पॉज" को शब्दों के रूप में लिखा गया था न कि सन्नाटे के रूप में), और कुछ की स्पेलिंग वास्तविक ध्वनियों से मेल नहीं खाती थी।
- "डिलीट बनाम फिक्स" की दुविधा: टीम के सामने एक कठिन विकल्प था। यदि किसी ट्रांसक्रिप्ट में कोई अजीब प्रतीक था, तो क्या उन्हें यह अनुमान लगाने की कोशिश करनी चाहिए कि इसका क्या अर्थ है और इसे ठीक करना चाहिए, या बस पूरी रिकॉर्डिंग को फेंक देना चाहिए? उन्होंने निर्णय लिया कि अनुमान लगाना बहुत खतरनाक है। यदि वे 100% सुनिश्चित नहीं थे कि वक्ता ने क्या कहा, तो उन्होंने उस पंक्ति को हटा दिया। यह एक शेफ द्वारा केक को फेंक देने जैसा है यदि उसे यकीन नहीं है कि सामग्री चीनी थी या नमक, बजाय इसके कि वह खराब स्वाद का जोखिम ले। इसका मतलब था कि उन्होंने कुछ डेटा खो दिया, लेकिन जो डेटा उन्होंने रखा वह भरोसेमंद था।
- "मार्कर" की समस्या: कालेनजिन डेटा में, उन्होंने पाया कि रिकॉर्डिंग में टेक्स्ट में छोटे नोट्स थे जैसे
[pause]या[cs](कोड-स्विच)। रोबोट उन शब्दों को ज़ोर से बोलने की कोशिश कर रहा था! टीम को इन नोट्स को पूरी तरह से हटाना पड़ा ताकि रोबोट सन्नाटे और भाषा बदलने को पहचानना सीखे, न कि उन शब्दों को जो उन स्थितियों का वर्णन करते हैं।
ट्रेनिंग: एक स्प्रिंट नहीं, एक मैराथन
एक बार डेटा साफ हो जाने के बाद, उन्होंने ट्रेनिंग शुरू की। उन्होंने रोबोट को केवल एक बार प्रशिक्षित नहीं किया; उन्होंने इसे चरणों में किया, जैसे वीडियो गेम में लेवल अप करना।
- फुल-पैरामीटर ट्यूनिंग: केवल कुछ सेटिंग्स को बदलने के बजाय, उन्होंने रोबोट को इन विशिष्ट भाषाओं के लिए ध्वनि को प्रोसेस करने के बारे में लगभग सब कुछ फिर से सीखने दिया।
- स्ट्रीमिंग मोड: महत्वपूर्ण रूप से, उन्होंने रोबोट को "स्ट्रीमिंग" मोड में रखा। इसका मतलब है कि रोबोट को ध्वनि आने के साथ-साथ, टुकड़ों में, शब्दों का अनुमान लगाना होता है, बिना वाक्य के अंत का इंतज़ार किए। यह एक लाइव रेडियो प्रसारण को ट्रांसक्राइब करने बनाम एक समाप्त पुस्तक को पढ़ने जैसा है। यह बहुत कठिन है लेकिन वास्तविक जीवन के ऐप्स के लिए बहुत उपयोगी है।
परिणाम: उन्होंने कैसा प्रदर्शन किया?
पेपर बहुत ईमानदारी से बताता है कि क्या काम आया और क्या नहीं। यह दावा नहीं करता कि उन्होंने इन भाषाओं को "हल" कर दिया है, लेकिन यह बड़ी प्रगति दिखाता है।
- किकुयू (Kikuyu): रोबोट इसमें बहुत अच्छा रहा। सफाई और ट्रेनिंग के बाद, इसने 42.97% का वर्ड एरर रेट (WER) हासिल किया। सरल अंग्रेजी में, इसका मतलब है कि यदि रोबोट ने 100 शब्द सुने, तो उसने लगभग 57 को सही पहचाना। यह जहाँ से उन्होंने शुरू किया था, वहां से एक बड़ा सुधार है। उन्होंने "नो-स्पेस कैरेक्टर एरर रेट" भी मापा जो 7.79% था, जो एक फैंसी तरीका है यह कहने का कि भले ही उसने शब्द सीमाओं को गलत समझा हो (जैसे "इन या" के बजाय "इन्या" लिखना), वास्तविक अक्षर ज्यादातर सही थे।
- ढोलुओ (Dholuo): इसने और भी बेहतर प्रदर्शन किया, जिसका WER 33.98% था। रोबोट ने यहाँ कम गलतियाँ कीं, लगभग दो-तिहाई शब्दों को सही पहचाना।
- कालेनजिन (Kalenjin): यह अभी भी एक "वर्क इन प्रोग्रेस" है। फिल्टर किए गए टेस्ट सेट पर रोबोट का WER 68.74% रहा। यह एक उच्च त्रुटि दर है, जिसका अर्थ है कि रोबोट अभी भी संघर्ष कर रहा है। लेखक बताते हैं कि यह स्कोर एक "डायग्नोस्टिक" परिणाम है, अंतिम नहीं, क्योंकि उन्हें बहुत सख्त होना पड़ा था (संख्याओं या छोटे वाक्यों वाले किसी भी डेटा को हटाकर)। वे अभी भी इस भाषा को सिखाने का सबसे अच्छा तरीका खोज रहे हैं।
पेपर क्या दावा नहीं करता
लेखक अपने परिणामों को बढ़ा-चढ़ाकर बताने में बहुत सावधान हैं।
- "स्टेट-ऑफ-द-आर्ट" का दावा नहीं: वे स्पष्ट रूप से कहते हैं कि वे अभी दुनिया में सर्वश्रेष्ठ नहीं हैं। उन्होंने अपने रोबोट की तुलना दुनिया के हर अन्य रोबोट से नहीं की है जो बिल्कुल उसी टेस्ट का उपयोग कर रहा हो। उनके नंबर आंतरिक हैं, जिसका अर्थ है कि वे अपनी प्रगति को ट्रैक करने के लिए महान हैं, लेकिन वे पूरी दुनिया के लिए अंतिम स्कोरकार्ड नहीं हैं।
- "रिपीटेड" टेस्ट: उन्होंने अपने निर्णयों को निर्देशित करने के लिए एक ही टेस्ट डेटा का बार-बार उपयोग किया। हालांकि उन्होंने ट्रेनिंग के दौरान रोबोट को उत्तर नहीं दिखाए, लेकिन उन्होंने निर्णयों के लिए परिणामों को देखा। इसका मतलब है कि स्कोर थोड़े आशावादी हो सकते हैं क्योंकि टीम टेस्ट के सवालों को बहुत अच्छी तरह जान गई थी।
वास्तविक दुनिया का परीक्षण
टीम केवल नंबरों पर नहीं रुकी। उन्होंने एक प्रोटोटाइप सिस्टम बनाया जहाँ एक उपयोगकर्ता वेब ब्राउज़र के माध्यम से रोबोट से बात कर सकता था, और रोबोट रियल-टाइम में टाइप कर सकता था। उन्होंने यह सुनिश्चित किया कि रोबोट अलग (isolated) रहे ताकि यदि ढोलुओ वाला हिस्सा टूट जाए, तो वह किकुयू वाले हिस्से को क्रैश न करे। उन्होंने सुरक्षा भी स्थापित की ताकि केवल लॉग-इन किए हुए उपयोगकर्ता ही सेवा का उपयोग कर सकें, जिससे रोबोट के "दिमाग" को चोरी होने से बचाया जा सके।
निष्कर्ष
यह पेपर "डेटा-सेंट्रिक" AI का एक उत्कृष्ट उदाहरण है। यह दिखाता है कि एक शक्तिशाली रोबोट मॉडल होना ही काफी नहीं है; आपको उस डेटा का सूक्ष्म संपादक भी होना पड़ता है जिसे आप उसे खिलाते हैं। ट्रांसक्रिप्ट को साफ करके, भ्रमित करने वाले "नोट्स" को हटाकर, और रोबोट को रियल-टाइम में सुनने के लिए प्रशिक्षित करके, उन्होंने एक सामान्य उद्देश्य वाले AI को केन्याई भाषाओं के लिए एक विशिष्ट उपकरण में बदल दिया।
किकुयू और ढोलुओ के लिए, उनके पास एक कामकाजी, लाइव सिस्टम है जो उपयोगी होने के लिए पर्याप्त है। कालेनजिन के लिए, उनके पास एक रोडमैप है कि क्या टूटा हुआ है और इसे कैसे ठीक किया जाए। सबसे बड़ा सबक केवल इन तीन भाषाओं के बारे में नहीं है; यह है कि लो-रिसोर्स भाषाओं के लिए, असली सफलता केवल बड़े कंप्यूटरों में नहीं है—यह बेहतर डेटा स्वच्छता और एक सावधानीपूर्ण, चरण-दर-चरण इंजीनियरिंग प्रक्रिया में है। रोबोट सीख रहा है, लेकिन वह इसलिए सीख रहा है क्योंकि इंसानों ने पहले गंदगी को साफ करने का कठिन काम किया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।