← नवीनतम पेपर
⚡ electrical engineering

RobustSpeechFlow: Learning Robust Text-to-Speech Trajectories via Augmentation-based Contrastive Flow Matching

RobustSpeechFlow एक प्रशिक्षण रणनीति है जो कंट्रास्टिव फ्लो मैचिंग में लेंथ-प्रिजर्विंग रिपीट और स्किप लेटेंट ऑग्मेंटेशन को शामिल करके फ्लो-मैचिंग टेक्स्ट-टू-स्पीच मॉडल्स की अलाइनमेंट मजबूती को बढ़ाती है, जो प्रभावी रूप से बाहरी अलाइनर्स या प्रेफरेंस डेटा की आवश्यकता के बिना स्किप और रिपीट त्रुटियों को कम करती है।

मूल लेखक: Jinhyeok Yang, Hyeongju Kim, Yechan Yu, Joon Byun, Frederik Bous, Juheon Lee

प्रकाशित 2026-05-22
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Jinhyeok Yang, Hyeongju Kim, Yechan Yu, Joon Byun, Frederik Bous, Juheon Lee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली लेकिन थोड़ी अनाड़ी (clumsy) गाने वाला रोबोट है। यह रोबोट किसी विशिष्ट व्यक्ति की आवाज़ निकालने में माहिर है ("zero-shot" सिंगर) और बहुत खूबसूरती से गा सकता है। हालाँकि, इसकी एक परेशान करने वाली आदत है: कभी-कभी यह बोलों (lyrics) को लेकर भ्रमित हो जाता है और एक शब्द को तीन बार दोहराता (repeat) है, या एक पूरा वाक्य छोड़ (skip) देता है और आगे बढ़ जाता है। टेक्स्ट-टू-स्पीच (TTS) की दुनिया में, ये केवल छोटी गड़बड़ियाँ नहीं हैं; ये भाषण को अविश्वसनीय और समझने में कठिन बना देती हैं।

यह पेपर इस अनाड़ीपन को ठीक करने के लिए RobustSpeechFlow नामक एक नई प्रशिक्षण विधि पेश करता है। यह कैसे काम करता है, इसे सरल उपमाओं (analogies) का उपयोग करके यहाँ समझाया गया है:

समस्या: रोबोट का "ब्रेन फॉग" (Brain Fog)

वर्तमान AI स्पीच मॉडल Flow Matching नामक एक प्रक्रिया का उपयोग करते हैं। इसे ऐसे समझें जैसे एक रोबोट किसी विवरण के आधार पर चेहरे का चित्र बनाने की कोशिश कर रहा हो। यह शोर (static/noise) के एक धुंधले बादल से शुरू होता है और धीरे-धीरे इसे एक स्पष्ट चित्र (भाषण) में बदल देता है।

समस्या यह है कि कभी-कभी, रोबोट चित्र बनाने के बीच में ही रास्ता भटक जाता है। वह एक ही आँख को दो बार बना सकता है (repeat) या नाक बनाना ही भूल सकता है (skip)। पारंपरिक रूप से, इसे ठीक करने के लिए, शोधकर्ताओं को महंगे मानव संपादकों (human editors) को नियुक्त करना पड़ता था ताकि वे सटीक रूप से लिख सकें कि रोबोट कहाँ गलत हुआ, या एक दूसरा, जटिल रोबोट बनाना पड़ता था जो काम की जाँच कर सके। यह धीमा, महंगा और जटिल है।

समाधान: "ट्रैप्स" के साथ अभ्यास परीक्षा (Practice Exam)

RobustSpeechFlow एक स्मार्ट कोच की तरह है जो रोबोट को प्रशिक्षण के दौरान नकली गलतियाँ दिखाकर सिखाता है, ताकि वह वास्तविक दुनिया में उनसे बचना सीख सके।

केवल सही बोल और सही आवाज़ दिखाने के बजाय, कोच "ट्रैप्स" (जाल) बनाता है:

  1. द रिपीट ट्रैप (The Repeat Trap): कोच एक रिकॉर्डिंग लेता है और गुप्त रूप से एक रिकॉर्डिंग के एक हिस्से को उसी रिकॉर्डिंग के दूसरे हिस्से के ऊपर चिपका देता है। रोबोट एक ही वाक्यांश को लगातार दो बार सुनता है, लेकिन गाने की कुल लंबाई बिल्कुल समान रहती है।
  2. द स्किप ट्रैप (The Skip Trap): कोच एक रिकॉर्डिंग लेता है और गाने के दूसरे आधे हिस्से को आगे धकेल देता है, बीच के एक हिस्से को काट देता है और उस खाली जगह को सन्नाटे (silce) से भर देता है। फिर भी, कुल लंबाई समान रहती है।

ये यादृच्छिक (random) त्रुटियाँ नहीं हैं; ये यथार्थवादी ट्रैप्स हैं जो बिल्कुल उन्हीं गलतियों की तरह दिखते हैं जो रोबोट वास्तव में करता है।

प्रशिक्षण कैसे काम करता है

रोबोट को "स्पॉट द डिफरेंस" (अंतर पहचानें) के खेल का उपयोग करके प्रशिक्षित किया जाता है:

  • सही मार्ग (The Good Path): रोबोट सही भाषण की ओर बढ़ने के लिए धुंधले शोर से आगे बढ़ना सीखता है।
  • गलत मार्ग (The Bad Paths): रोबोट को उसी भाषण के "रिपीट ट्रैप" और "स्किप ट्रैप" वाले संस्करण भी दिखाए जाते हैं। उसे स्पष्ट रूप से बताया जाता है: "इस रास्ते पर मत जाओ! ये गलत हैं।"

इन विशिष्ट, यथार्थवादी ट्रैप्स पर अभ्यास करके, रोबोट अपने स्वयं के मस्तिष्क के "खतरों वाले क्षेत्रों" (danger zones) को पहचानना सीख जाता है। वह उन क्षेत्रों से दूर रहना सीख जाता है जहाँ वह शब्दों को दोहराता या छोड़ देता है।

परिणाम: तेज़ और स्मार्ट

पेपर में इस विधि का परीक्षण एक छोटे, कुशल मॉडल (केवल 0.06 बिलियन पैरामीटर्स, जो अन्य विशाल AI मॉडलों की तुलना में बहुत छोटा है) पर किया गया।

  • स्कोर: एक मानक परीक्षण पर, रोबोट की त्रुटि दर (वह कितनी बार शब्दों में गलती करता है) 1.44% से घटकर 1.38% हो गई।
  • वास्तविक दुनिया का परीक्षण: एक कठिन, अधिक विविध परीक्षण जिसे ZERO500 कहा जाता है (जिसमें विभिन्न लहजे, भावनाएं और बोलने की शैलियां शामिल हैं), इसमें सुधार और भी स्पष्ट था।
    • अंग्रेजी के लिए, त्रुटि दर 0.48% से गिरकर 0.35% हो गई।
    • कोरियाई के लिए, यह 0.81% से गिरकर 0.57% हो गई।

महत्वपूर्ण बात यह है कि यह तब भी हुआ जब रोबोट को बहुत तेज़ी से काम करने के लिए मजबूर किया गया (भाषण उत्पन्न करने के लिए कम "स्टेप्स" का उपयोग करके)। आमतौर पर, रोबोट को तेज़ बनाने से वह अधिक अनाड़ी हो जाता है, लेकिन RobustSpeechFlow ने इसे स्थिर रखा।

निष्कर्ष (The Bottom Line)

लेखकों को मानव संपादकों को नियुक्त करने या अतिरिक्त जाँचने वाले रोबोट बनाने की आवश्यकता नहीं पड़ी। उन्होंने बस मुख्य रोबोट को प्रशिक्षण के दौरान उसकी अपनी विशिष्ट बुरी आदतों के "नकली" संस्करण दिखाकर उन्हें पहचानने के लिए प्रशिक्षित किया।

परिणामस्वरूप, एक ऐसा स्पीच सिस्टम प्राप्त हुआ जो अधिक विश्वसनीय है, जिसकी शब्दों को दोहराने या छोड़ने की संभावना कम है, और जो बहुत बड़े, अधिक महंगे सिस्टमों के समान या उससे बेहतर काम करता है, जबकि आवाज़ को प्राकृतिक और मानवीय बनाए रखता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →