Improving Large-Scale Weakly Supervised ASR by Filtering and Selection
यह शोध पत्र बड़े पैमाने पर कमजोर रूप से पर्यवेक्षित (weakly supervised) ASR के लिए एक नवीन तीन-चरणीय प्रशिक्षण दृष्टिकोण प्रस्तावित करता है जो प्रारंभिक प्रीट्रेनिंग को कैरेक्टर एरर रेट-आधारित फ़िल्टरिंग और डोमेन-विशिष्ट ध्वनिक चयन के साथ जोड़ता है, जिससे 90,000-घंटे के जापानी डेटासेट पर कैरेक्टर एरर रेट को 6.4% तक सफलतापूर्वक कम किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को मानवीय भाषा समझने के लिए प्रशिक्षित करने की कोशिश कर रहे हैं। इसे करने का सबसे अच्छा तरीका उसे बातचीत के लाखों घंटों का डेटा खिलाना है। लेकिन यहाँ एक पेंच है: आपके पास सटीक ट्रांसक्रिप्ट (ऑडियो से मेल खाता हुआ लिखित टेक्स्ट) नहीं है। इसके बजाय, आपके पास इंटरनेट से इकट्ठा किया गया ऑडियो और टेक्स्ट का एक विशाल, अस्त-व्यस्त ढेर है। कुछ टेक्स्ट एकदम सही है, लेकिन बहुत सा हिस्सा गलतियों, छूटे हुए शब्दों या पूरी तरह से गलत जानकारी से भरा है क्योंकि इसे बनाने वाले कंप्यूटर ने गलतियाँ की हैं। शोधकर्ता इसे एक "वीकली सुपरवाइज्ड" (weakly supervised) डेटासेट कहते हैं।
मात्सुउरा और मिमुरा का यह शोध पत्र उस अस्त-व्यस्त डेटा के ढेर को एक अत्यंत बुद्धिमान स्पीच-रिकग्निशन शिक्षक में बदलने की एक रेसिपी की तरह है, जो फिल्टरिंग (Filtering) और सिलेक्शन (Selection) की तीन-चरणीय प्रक्रिया का उपयोग करता है।
यहाँ उन्होंने इसे सरल तरीके से समझाया है:
समस्या: "शोर वाला क्लासरूम"
कल्पना कीजिए कि एक क्लासरूम में 90,000 घंटों के छात्रों के बोलने का डेटा है। शिक्षक (AI) यह समझने की कोशिश कर रहा है कि वे क्या कह रहे हैं। हालाँकि, शिक्षक की पाठ्यपुस्तक (लेबल्स) गलतियों से भरी हुई है। कभी पाठ्यपुस्तक कहती है "सेब" जबकि छात्र ने "नाशपाती" कहा था। कभी-कभी यह उन शब्दों को भी जोड़ देती है जो बोले ही नहीं गए थे। यदि शिक्षक इस बिखरे हुए टेक्स्ट को रटने की कोशिश करता है, तो वह भ्रमित हो जाएगा और खराब प्रदर्शन करेगा।
समाधान: एक तीन-चरणीय ट्रेनिंग कैंप
लेखक इस सीखने की प्रक्रिया को बिना मूल्यवान डेटा को फेंके, साफ करने का एक चतुर तरीका प्रस्तावित करते हैं।
चरण 1: "रफ ड्राफ्ट" (प्रीट्रेनिंग)
सबसे पहले, वे AI को पूरे अस्त-व्यस्त डेटासेट का अध्ययन करने देते हैं, गलतियों सहित।
- उपमा: इसे एक छात्र की तरह समझें जो किताबों के एक पूरे पुस्तकालय को जल्दी से, यहाँ तक कि उन किताबों को भी जिनमें स्पेलिंग की गलतियाँ हैं, एक सरसरी नज़र से देख रहा है। वे अभी भी पूर्ण होने की कोशिश नहीं कर रहे हैं; वे बस भाषा के काम करने के तरीके का एक सामान्य बोध प्राप्त कर रहे हैं।
- परिणाम: AI भाषण की बुनियादी बातें सीख जाता है, लेकिन वह अभी भी खराब लेबल्स के कारण थोड़ा भ्रमित रहता है।
चरण 2: "क्वालिटी कंट्रोल" (फिल्टरिंग)
अब जादू शुरू होता है। AI उसी अस्त-व्यस्त टेक्स्ट को पढ़ता है जिसका उसने अभी अध्ययन किया था और खुद को वापस ऑडियो "पढ़ने" की कोशिश करता है। वह जो सुना है, उसकी तुलना उस मूल अस्त-व्यस्त लेबल से करता है जो उसके पास था।
- उपमा: कल्पना करें कि छात्र अस्त-व्यस्त पाठ्यपुस्तक से एक वाक्य ज़ोर से पढ़ता है। यदि टेक्स्ट कहता है "बिल्ली चटाई पर बैठी है" लेकिन छात्र सुनता है "बिल्ली हैट पर बैठी है," तो छात्र को पता चल जाता है कि कुछ गलत है।
- कार्रवाई: वे एक "कन्फ्यूजन स्कोर" (जिसे कैरेक्टर एरर रेट या CER कहा जाता है) की गणना करते हैं। यदि यह स्कोर बहुत अधिक है, तो इसका मतलब है कि लेबल शायद बेकार (बहुत अधिक टाइपो या छूटे हुए शब्द) है। वे उन विशिष्ट खराब उदाहरणों को हटा देते हैं।
- आश्चर्य: उन्होंने केवल बुरा डेटा ही नहीं फेंका; उन्होंने "ठीक-ठाक" और "अच्छे" डेटा को भी रखा। फिर, उन्होंने AI को इस साफ किए गए ढेर का फिर से अध्ययन कराया।
- परिणाम: भले ही वे उसी डेटा का पुन: अध्ययन कर रहे थे जिसे AI पहले देख चुका था, लेकिन "शोर" (noise) को हटाने से AI काफी स्मार्ट हो गया। यह एक ऐसी पाठ्यपुस्तक पढ़ने जैसा है जहाँ किसी ने आखिरकार सभी टाइपो को ठीक कर दिया है।
चरण 3: "स्पेशलाइज्ड ट्यूटर" (सिलेक्शन)
अंत में, वे देखना चाहते थे कि क्या AI भाषण के किसी विशिष्ट प्रकार (जैसे शोर वाला कॉफी शॉप या एक औपचारिक लेक्चर हॉल) को समझने में वास्तव में कुशल हो सकता है।
- उपमा: कल्पना करें कि AI एक सामान्य विशेषज्ञ है जो सभी से बात करना जानता है। अब, आप चाहते हैं कि वह एक शोर वाले कैफे में लोगों को समझने में माहिर हो जाए। नया डेटा खोजने के बजाय, वे उसी साफ किए गए ढेर को देखते हैं और पूछते हैं: "इन 90,000 घंटों के ऑडियो में से कौन सा ऑडियो एक शोर वाले कैफे जैसा सुनाई देता है?"
- कार्रवाई: वे लक्षित वातावरण की तरह लगने वाले शीर्ष 5,00,000 नमूनों को चुनने के लिए एक गणितीय "सिमिलैरिटी स्कोर" (समानता स्कोर) का उपयोग करते हैं। फिर, वे AI को केवल इन समान नमूनों का उपयोग करके एक गहन प्रशिक्षण सत्र (फाइन-ट्यूनिंग) देते हैं।
- परिणाम: AI एक विशेषज्ञ बन गया। उसे नए डेटासेट की आवश्यकता नहीं थी; उसे बस अपने पुराने डेटासेट के सही हिस्से पर ध्यान केंद्रित करने की आवश्यकता थी।
मुख्य निष्कर्ष
इस शोध पत्र का परीक्षण एक विशाल जापानी डेटासेट (90,000 घंटे) पर किया गया।
- फिल्टरिंग (चरण 2) ने AI की सटीकता में लगभग 6.4% का सुधार किया।
- सिलेक्शन (चरण 3) ने इसमें 4.0% का और सुधार किया।
- संयुक्त रूप से, उन्होंने केवल उसी डेटासेट का पुन: उपयोग और परिशोधन करके त्रुटियों को लगभग 9% कम कर दिया।
मुख्य सबक: आपको हमेशा अधिक डेटा की आवश्यकता नहीं होती। कभी-कभी, आपको बस इस बात के बारे में अधिक स्मार्ट होना पड़ता है कि आप किस डेटा का उपयोग करते हैं। "कचरा" लेबल्स को फ़िल्टर करके और फिर "सबसे प्रासंगिक" नमूनों को चुनकर, आप एक अस्त-व्यस्त, कमजोर रूप से सुपरवाइज्ड डेटासेट को एक शक्तिशाली प्रशिक्षण उपकरण में बदल सकते हैं। यह एक बिखरी हुई, त्रुटिपूर्ण नोटबुक और उसी जानकारी के क्यूरेटेड, उच्च-गुणवत्ता वाले सारांश के बीच के अंतर जैसा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।