Omnilingual ASR: Open-Source Multilingual Speech Recognition for 1600+ Languages
यह शोध पत्र ओम्नीलिंग्वल (Omnilingual) एएसआर (ASR) को प्रस्तुत करता है, जो स्पीच रिकग्निशन मॉडल्स का एक स्केलेबल, ओपन-सोर्स परिवार है जो 7B-पैरामीटर वाले सेल्फ-सुपरवाइज्ड आर्किटेक्चर और एक विशाल, विविध प्रशिक्षण कॉर्पस का लाभ उठाता है ताकि 1,660 से अधिक भाषाओं का समर्थन किया जा सके, जिसमें 500 से अधिक पहले से असूुलभ भाषाएं शामिल हैं, साथ ही यह समुदायों को न्यूनतम डेटा के साथ नई भाषाओं के लिए सिस्टम को आसानी से अनुकूलित करने में सक्षम बनाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई अनुवादक है जो तुरंत समझ सकता है और लिख सकता है कि कोई भी क्या कह रहा है, चाहे वह कोई भी भाषा बोलता हो। लंबे समय तक, यह जादू केवल सबसे लोकप्रिय भाषाओं, जैसे अंग्रेजी, स्पेनिश या मंदारिन के लिए ही काम करता था। यदि आप कोई छोटी, कम प्रचलित भाषा बोलते, तो अनुवादक बस खाली आँखों से देखता रहता या गलत अंदाज़ा लगाता। यह ऑटोमैटिक स्पीच रिकग्निशन (ASR) की दुनिया है: वह तकनीक जो बोले गए शब्दों को टेक्स्ट में बदल देती है। इसे एक सुपर-फास्ट लेखक की तरह समझें जो बातचीत को सुनता है और उसे टाइप करता है। सबसे बड़ी चुनौती हमेशा यह रही है कि दुनिया में 7,000 से अधिक भाषाएँ हैं, लेकिन इन लेखकों में से अधिकांश केवल एक बहुत छोटे हिस्से को ही जानते हैं। एक नई भाषा सीखने के लिए आमतौर पर रिकॉर्ड की गई बातचीत के एक विशाल पुस्तकालय और विशेषज्ञों की एक टीम की आवश्यकता होती है जो कंप्यूटर को सिखा सके, जो महंगा और धीमा है। लेकिन क्या होगा यदि हम एक ऐसा लेखक बना सकें जो सभी भाषाओं के काम करने के पैटर्न को सीख सके, ताकि वह केवल कुछ वाक्यों को सुनकर लगभग तुरंत एक नई भाषा सीख सके? यही वह बड़ा सवाल है जिसे यह शोध पत्र हल करता है: हम स्पीच टेक्नोलॉजी को केवल "बड़ी" भाषाओं वाले कुछ लोगों के लिए ही नहीं, बल्कि सभी के लिए निष्पक्ष और सुलभ कैसे बना सकते हैं?
यहाँ ओम्नीलिंगुअल एएसआर (Omnilingual ASR) आता है, मेटा का एक नया ओपन-सोर्स प्रोजेक्ट जो एक सुपर-पावर्ड, बहुभाषी लेखक की तरह है जिसे 1,600 से अधिक भाषाओं में बोलने के लिए डिज़ाइन किया गया है। टीम ने केवल कंप्यूटर को अधिक शब्द सिखाने की कोशिश नहीं की; उन्होंने एक विशाल, विविध "मस्तिष्क" बनाया है जिसने स्पीच डेटा के एक बड़े संग्रह से सीखा है, जिसमें उन समुदायों की रिकॉर्डिंग भी शामिल है जिन्हें पहले कभी AI द्वारा नहीं सुना गया था। उन्होंने एक ऐसा सिस्टम बनाया है जो अलग-अलग आकारों में आता है: एक विशाल, अत्यंत सटीक संस्करण (7 बिलियन पैरामीटर्स) शक्तिशाली कंप्यूटरों के लिए, और एक छोटा, हल्का संस्करण (300 मिलियन पैरामीटर्स) जो एक साधारण फोन पर भी चल सकता है। सबसे रोमांचक बात यह है कि वे उन भाषाओं को कैसे संभालते हैं जिन्हें कंप्यूटर ने पहले कभी नहीं देखा है। किसी नई भाषा को सीखने के लिए डेटा के पूरे पुस्तकालय की आवश्यकता होने के बजाय, यह सिस्टम किसी के बोलने और लिखने के मात्र 10 छोटे उदाहरणों से सीख सकता है। यह एक मास्टर शेफ को एक नए फल की तस्वीर और उससे बनी एक डिश की रेसिपी दिखाने जैसा है; अचानक, वे उस फल को हज़ार बार चखे बिना ही वह डिश बना सकते हैं।
शोधकर्ताओं ने पाया कि यह नया सिस्टम एक गेम-चेंजर है, विशेष रूप से उन भाषाओं के लिए जिनमें डेटा बहुत कम उपलब्ध है। जब उन्होंने इसका परीक्षण किया, तो इस मॉडल ने 1,200 से अधिक भाषाओं के लिए 10% से कम का "कैरेक्टर एरर रेट" (एक स्कोर जो मापता है कि इसने कितने अक्षर गलत किए) हासिल किया। वास्तव में, 500 से अधिक भाषाओं के लिए, यह पहली बार है जब किसी भी स्पीच सिस्टम ने उन्हें ट्रांसक्राइब करने में सफलता पाई है। यह शोध पत्र दिखाता है कि उनका नया मॉडल पिछले चैंपियनों, जैसे व्हिस्पर (Whisper) और यूएसएम (USM) को, विशेष रूप से उन दुर्लभ, लंबी पूंछ वाली (long-tail) भाषाओं पर मात देता है। जहाँ पुराने सिस्टम इन भाषाओं पर भ्रमित होकर विफल हो जाते थे, वहीं ओम्नीलिंगुअल एएसआर ने अपना धैर्य बनाए रखा। उन्होंने यह भी खोजा कि यदि आप सिस्टम को किसी विशिष्ट, छोटी भाषा के लिए और भी बेहतर बनाना चाहते हैं, तो आप बहुत कम कंप्यूटिंग पावर और केवल कुछ घंटों के डेटा के साथ इसके छोटे संस्करणों को फाइन-ट्यून कर सकते हैं, जिससे ऐसे परिणाम मिलते हैं जो विशाल मॉडलों के बराबर होते हैं।
हालाँकि, शोध पत्र सावधानीपूर्वक यह नोट करता है कि यह कोई जादुई छड़ी नहीं है जो सब कुछ पूरी तरह से हल कर देगी। यह सिस्टम अभी भी सीख रहा है, और जबकि यह देखे न गए (unseen) भाषाओं को केवल कुछ उदाहरणों के साथ संभाल सकता है (एक "जीरो-शॉट" क्षमता), यह उस प्रदर्शन को प्राप्त नहीं करता है जो एक ऐसे सिस्टम का होता है जिसे उस भाषा पर बहुत अधिक डेटा के साथ विशेष रूप से प्रशिक्षित किया गया हो। लेखक सुझाव देते हैं कि सबसे महत्वपूर्ण उपयोगों के लिए, जैसे चिकित्सा या कानूनी ट्रांसक्रिप्शन, मनुष्यों को अभी भी काम की दोबारा जाँच करनी चाहिए। वे इस बात पर भी जोर देते हैं कि यह तकनीक समुदायों के लिए अपनी भाषाओं को संरक्षित करने और अपने स्वयं के संग्रह बनाने के लिए एक उपकरण है, न कि मानव वक्ताओं को बदलने या एक 'वन-साइज-फिट्स-ऑल' समाधान थोपने के लिए। अपने सभी कोड और डेटा को मुफ्त में जारी करके, वे उम्मीद करते हैं कि वे दुनिया भर के शोधकर्ताओं और समुदायों को इस उत्सव में शामिल होने के लिए आमंत्रित कर रहे हैं, जिससे एक ऐसा भविष्य बनाना आसान हो सके जहाँ हर भाषा की डिजिटल दुनिया में एक आवाज़ हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।