MEUSLI: a Multilingual Projector for LLM-based ASR and Beyond
यह शोधपत्र MEUSLI को प्रस्तुत करता है, जो पहला ओपन-साइंस बहुभाषी प्रोजेक्टर परिवार है जो 28 यूरोपीय भाषाओं में स्केलेबल, एंड-टू-एंड ऑटोमैटिक स्पीच रिकग्निशन और अन्य स्पीच अंडरस्टैंडिंग कार्यों को सक्षम करने के लिए एक विस्पर (Whisper) स्पीच एनकोडर को ओपन-सोर्स एलएलएम (LLMs) से जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट मस्तिष्क है जो दुनिया का कोई भी टेक्स्ट पढ़ और लिख सकता है, लेकिन वह पूरी तरह से बहरा है। वह एक भी शब्द सुन नहीं सकता। दूसरी ओर, आपके पास एक सुपर-कान है जो ध्वनियों को पूरी तरह से सुन सकता है लेकिन वह नहीं समझता कि उनका अर्थ क्या है। लंबे समय तक, उन्हें आपस में बात कराने के लिए इंजीनियरों को एक भारी-भरकम बिचौलिए का निर्माण करना पड़ा था: ध्वनि पहले एक अनुवादक के पास जाती थी, फिर एक टेक्स्ट कनवर्टर के पास, और अंत में मस्तिष्क के पास। यह धीमा था, और यदि अनुवादक से गलती हो जाती, तो मस्तिष्क भ्रमित हो जाता था।
हाल ही में, वैज्ञानिकों ने यह पता लगाया है कि "सुपर-कान" और "सुपर-ब्रेन" के बीच सीधा पुल कैसे बनाया जाए। इस पुल को प्रोजेक्टर (projector) कहा जाता है। इसे एक यूनिवर्सल अडैप्टर प्लग की तरह समझें। यह ध्वनि से प्राप्त कच्चे विद्युत संकेतों को तुरंत उस भाषा में अनुवादित कर देता है जिसे मस्तिष्क समझता है, जिससे दोनों सीधे बातचीत कर पाते हैं। यह स्पीच लैंग्वेज मॉडल्स (SLMs) की दुनिया है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं, वह यह है: क्या हम एक ऐसा अडैप्टर बना सकते हैं जो सभी के लिए काम करे, न कि केवल अंग्रेजी बोलने वालों के लिए? यदि हम ऐसा कर सके, तो हम हजारों उन भाषाओं को अंततः आवाज दे पाएंगे जिन्हें डिजिटल बातचीत से बाहर रखा गया है, विशेष रूपकर उन भाषाओं को जिनके बोलने वाले बहुत कम हैं या जिनका रिकॉर्ड किया गया डेटा पर्याप्त नहीं है।
यहाँ MEUSLI आता है, एक नया प्रोजेक्ट जो 28 यूरोपीय भाषाओं के लिए एक मास्टर कुंजी (master key) के रूप में कार्य करता है। शोधकर्ताओं ने इन "अडैप्टर प्लग्स" का एक परिवार बनाया है जो एक शक्तिशाली ध्वनि-कान (जिसे 'विस्पर' (Whisper) कहा जाता है) को ओपन-सोर्स, बहुभाषी रोबोट मस्तिष्क से जोड़ता है। उनकी मुख्य खोज यह है कि यह प्रणाली अविश्वसनीय रूप से अच्छी तरह से काम करती है, न केवल स्पेनिश या जर्मन जैसी सामान्य भाषाओं के लिए, बल्कि ब्रेटन (Breton) या माल्टीज़ (Maltese) जैसी दुर्लभ भाषाओं के लिए भी। उन्होंने पाया कि यदि आप उनके पहले से बने, बहुभाषी अडैप्टर से शुरुआत करते हैं, तो आप इसे बहुत कम डेटा के साथ एक नई भाषा सिखा सकते हैं—कभी-कभी केवल 46 मिनट के ऑडियो के साथ।
हालाँकि, इसमें एक पेंच है। यदि आप बिना किसी सावधानी के इस अडैप्टर को एक नई भाषा सिखाने की कोशिश करते हैं, तो यह मूल 28 भाषाओं के बारे में जो कुछ भी जानता था, उसे "भूलने" लगता है, जैसे कि एक छात्र जो एक नए टेस्ट के लिए पढ़ाई करता है और तुरंत अपना पुराना होमवर्क भूल जाता है। पेपर सुझाव देता है कि इसे ठीक करने के लिए, आपको "डेटा रिप्ले" (data replay) नामक तकनीक का उपयोग करने की आवश्यकता है, जहाँ आप नई भाषा सीखते समय कभी-कभी पुरानी भाषाओं का अभ्यास करते हैं, जिससे याददाश्त जीवित रहती है।
केवल लोगों द्वारा कही गई बातों को लिखने (ट्रांसक्रिप्शन) से परे, टीम ने दिखाया है कि इस अडैप्टर को अन्य कार्यों के लिए भी बदला जा सकता है, जैसे बोले गए शब्दों को अंग्रेजी में अनुवाद करना या बातचीत के विषय (जैसे खेल या राजनीति) का अनुमान लगाना। उन्होंने पाया कि प्रत्येक नए कार्य के लिए कुछ घंटों के विशिष्ट प्रशिक्षण के साथ, सिस्टम ये चीजें भी सीख सकता है।
पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि इन प्रणालियों को बनाने के लिए आपको भारी मात्रा में डेटा या मालिकाना (गुप्त) जानकारी की आवश्यकता है। वे इस धारणा का खंडन करते हैं कि कम-संसाधन वाली भाषाओं को समर्थन देना असंभव है, यह दिखाते हुए कि एक अच्छा शुरुआती बिंदु (उनका बहुभाषी प्रोजेक्टर) बहुत कम डेटा से नई भाषाओं को "बूटस्ट्रैप" करना संभव बनाता है। हालाँकि वे यह दावा नहीं करते कि उन्होंने दुनिया की हर समस्या को हल कर दिया है, वे मजबूत प्रमाण प्रदान करते हैं कि यह दृष्टिकोण स्केलेबल, ओपन और प्रभावी है। उन्होंने वास्तविक दुनिया के डेटा पर मानक परीक्षणों का उपयोग करके इन परिणामों को मापा, जिससे पता चला कि उनकी विधि शुरुआत से शुरू करने की तुलना में लगातार बेहतर प्रदर्शन करती है, विशेष रूप रूप से सबसे कठिन, दुर्लभ भाषाओं के लिए।
संक्षेप में, MEUSLI एक टूलकिट है जो यह साबित करता है कि हम समावेशी, ओपन-सोर्स वॉयस टेक्नोलॉजी बना सकते हैं जो केवल कुछ के लिए नहीं, बल्कि बहुतों के लिए काम करती है, जो एक चतुर, हल्के वजन वाले अडैप्टर की मदद से एक बहरे रोबोट मस्तिष्क को एक बहुभाषी श्रोता में बदल देती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।