A survey of AI-generated voices and their detection
यह सर्वेक्षण एआई-जनित वॉयस प्रौद्योगिकियों में तीव्र प्रगति, उनके लाभकारी अनुप्रयोगों और दुर्भावनापूर्ण गतिविधियों दोनों के लिए दोहरे उपयोग वाले निहितार्थों, और सिंथेटिक आवाजों का पता लगाने से जुड़ी अनूठी चुनौतियों, विधियों और भविष्य की दिशाओं का एक व्यापक अवलोकन प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
दशकों से, कंप्यूटर को मनुष्यों की तरह बोलने के योग्य बनाने का लक्ष्य आर्टिफिशियल इंटेलिजेंस में एक केंद्रीय प्रयास रहा है। शुरुआती प्रयास रोबोटिक और सपाट लगते थे, जो ध्वनि के रिकॉर्ड किए गए अंशों को इस तरह जोड़ते थे जिनमें मानवीय बातचीत का स्वाभाविक प्रवाह नहीं होता था। समय के साथ, ये सिस्टम सुधरे, और इन्होंने सांख्यिकीय पैटर्न के आधार पर एक वाक्य में अगले शब्द या ध्वनि की भविष्यवाणी करना सीखा। हालाँकि, तकनीक में एक हालिया उछाल ने परिदृश्य को पूरी तरह से बदल दिया है। आधुनिक प्रणालियाँ अब ऐसी आवाजें उत्पन्न कर सकती हैं जो इतनी वास्तविक हैं कि वे अक्सर वास्तविक लोगों की रिकॉर्डिंग से अलग नहीं की जा सकतीं। यह क्षमता नेविगेशन सिस्टम और वर्चुअल असिस्टेंट जैसे सहायक उपकरणों को शक्ति प्रदान करती है, लेकिन यह गंभीर दुरुपयोग का द्वार भी खोलती है। अपराधी अब धोखाधड़ी वाले लेनदेन को अधिकृत करने के लिए व्यावसायिक नेताओं की आवाज़ों की नकल कर सकते हैं, या चुनावों के दौरान दुष्प्रचार फैलाने के लिए राजनीतिक हस्तियों की नकल कर सकते हैं। क्योंकि मानव कान इन नकली आवाजों को पहचानने में हमेशा विश्वसनीय नहीं होते हैं, और क्योंकि इन्हें बनाने वाली तकनीक उन्हें पकड़ने वाले उपकरणों की तुलना में तेज़ी से आगे बढ़ रही है, वैज्ञानिक यह समझने की दौड़ में हैं कि ये सिंथेटिक आवाजें वास्तव में कैसे बनाई जाती हैं और वे कहाँ विफल हो सकती हैं।
बफ़ेलो विश्वविद्यालय के शोधकर्ताओं की एक टीम ने एक व्यापक सर्वेक्षण तैयार किया है जो इस तेजी से विकसित होते क्षेत्र का मानचित्रण करता है। उनका कार्य केवल नए कंप्यूटर प्रोग्रामों को सूचीबद्ध नहीं करता है; बल्कि, यह मानव बोलने की जैविक वास्तविकता को उन गणितीय तरीकों से जोड़ता है जिनका उपयोग मशीनें उस भाषण की नकल करने के लिए करती हैं। लेखक तर्क देते हैं कि नकली आवाज़ को पकड़ने के लिए, पहले वास्तविक चीज़ की जटिल शरीर रचना (फिजियोलॉजी) को समझना आवश्यक है। मानव भाषण फेफड़ों, स्वर तंत्र (वोकल कॉर्ड्स), और मुँह एवं जीभ के आकार सहित एक जटिल प्रणाली द्वारा उत्पन्न होता है। हम जो भी ध्वनि निकालते हैं वह सख्त भौतिक नियमों का पालन करती है। उदाहरण के लिए, एक व्यक्ति स्वर (vowel) का निर्माण कैसे करता है, यह उनकी जीभ की सटीक स्थिति और होंठों के गोल होने पर निर्भर करता है। शोधकर्ताओं ने पाया कि जबकि आर्टिफिशियल इंटेलिजेंस मॉडल आवाज़ की सामान्य ध्वनि को पकड़ने में अविश्वसनीय रूप से अच्छे हो गए हैं, वे अक्सर इन सूक्ष्म भौतिक विवरणों में संघर्ष करते हैं। मशीनें उन छोटी, प्राकृतिक विविधताओं को सुचारू (smooth out) करने की प्रवृत्ति रखती हैं जो मानव बोलने के दौरान होती हैं, जिससे एक ऐसी आवाज़ बनती है जो सामान्य रूप से मानवीय तो लगती है लेकिन उसमें एक वास्तविक व्यक्ति की विशिष्ट, सूक्ष्म खामियों का अभाव होता है।
यह सर्वेक्षण इन आवाजों को बनाने के तीन मुख्य तरीकों को विभाजित करता है। पहला है टेक्स्ट-टू-स्पीच, जहाँ एक कंप्यूटर लिखे हुए शब्दों को ज़ोर से पढ़ता है। दूसरा है वॉयस कन्वर्जन, जो किसी व्यक्ति की मौजूदा रिकॉर्डिंग लेता है और उसे किसी और की तरह सुनाई देने के लिए बदल देता है। तीसरा है वॉयस क्लोनिंग, जो केवल लक्षित व्यक्ति के ऑडियो के कुछ सेकंड का उपयोग करके शून्य से एक नई आवाज़ बना सकता है। शोधकर्ता इन तकनीकों के इतिहास का पता लगाते हुए बताते हैं कि शुरुआती सिस्टम सरल नियमों या सांख्यिकीय औसत पर निर्भर थे, जिसके परिणामस्वरूप अक्सर सपाट और अस्वाभाविक स्वर मिलते थे। नए मॉडल उन्नत न्यूरल नेटवर्क का उपयोग करते हैं जो भारी मात्रा में डेटा से सीखते हैं। कुछ सबसे शक्तिशाली हालिया सिस्टम 'डिफ्यूजन' नामक एक विधि का उपयोग करते हैं, जो यादृच्छिक शोर (random noise) से शुरू होता है और धीरे-धीरे इसे एक स्पष्ट आवाज़ में परिष्कृत करता है, या वे भाषण को एक भाषा मॉडल की तरह मानते हैं, जो एक अनुक्रम में अगली ध्वनि की भविष्यवाणी करता है। जबकि ये विधियाँ शानदार परिणाम देती हैं, लेखक बताते हैं कि वे अभी भी काफी हद तक उस डेटा पर निर्भर हैं जिस पर उन्हें प्रशिक्षित किया गया है। यदि किसी मॉडल ने किसी विशिष्ट लहजे या बोलने के दुर्लभ तरीके को नहीं सुना है, तो यह एक ऐसी आवाज़ उत्पन्न कर सकता है जो थोड़ी अजीब लगे, या यह एक वाक्य के भावनात्मक भार को पकड़ने में विफल हो सकता है।
सर्वेक्षण का शायद सबसे महत्वपूर्ण निष्कर्ष यह है कि वर्तमान पहचान (detection) विधियाँ तालमेल बिठाने में संघर्ष कर रही हैं। शोधकर्ता बताते हैं कि शुरुआती डिटेक्टर स्पष्ट त्रुटियों (glitches) की तलाश करते थे, जैसे कि रोबोटिक स्वर या अजीब पृष्ठभूमि का शोर। लेकिन जैसे-जैसे जनरेटर बेहतर हुए हैं, ये त्रुटियाँ ढूँढना कठिन होता गया है। लेखक सुझाव देते हैं कि आगे बढ़ने का सबसे आशाजनक मार्ग भाषण को केवल एक ध्वनि तरंग के रूप रूप में नहीं, बल्कि एक भाषाई घटना के रूप में देखना है। वे प्रस्तावित करते हैं कि डिटेक्टरों को भाषण के ध्वन्यात्मक (phonetic) विवरणों का विश्लेषण करना चाहिए: व्यंजनों और स्वरों के बीच की विशिष्ट अंतःक्रिया, वाक्य की लय, और पिच में वे सूक्ष्म बदलाव जो मानव बोलने पर स्वाभाविक रूप से होते हैं। उदाहरण के लिए, अध्ययन इस बात पर प्रकाश डालता है कि वास्तविक मानव भाषण में मुँह के विभिन्न हिस्सों के बीच जटिल अंतःक्रियाएं शामिल होती हैं जिन्हें मशीनों के लिए पूरी तरह से दोहराना कठिन होता है। एक मशीन स्वर की ध्वनि को सही कर सकती है, लेकिन वह व्यंजन से स्वर की ओर बढ़ते समय पिच में होने वाले सूक्ष्म, स्वचालित समायोजन को मिस कर सकती है। निम्न-स्तरीय ध्वनि दोषों के बजाय उच्च-स्तरीय भाषाई पैटर्न पर ध्यान केंद्रित करके, डिटेक्टर उन नकली आवाजों को पकड़ सकते हैं जो कान के लिए तो एकदम सही लगती हैं लेकिन मानव शरीर विज्ञान के परीक्षण में विफल हो जाती हैं।
सर्वेक्षण उन डेटा सेटों और चुनौतियों की भी समीक्षा करता है जिनका उपयोग शोधकर्ता अपने सिस्टम का परीक्षण करने के लिए करते हैं। वर्षों से, समुदाय ने डिटेक्शन टूल्स को प्रशिक्षित करने और मूल्यांकन करने के लिए वास्तविक और नकली ऑडियो के बड़े संग्रह बनाए हैं। हालाँकि, लेखक एक बढ़ती समस्या की ओर इशारा करते हैं: इनमें से कई परीक्षण बहुत अधिक स्वच्छ और नियंत्रित हैं। वे अक्सर शांत स्टूडियो में की गई उच्च-गुणवत्ता वाली रिकॉर्डिंग का उपयोग करते हैं, जो वास्तविक दुनिया की अव्यवस्थित वास्तविकता को प्रतिबिंबित नहीं करते हैं, जहाँ आवाज़ों को सेल फोन पर, शोर वाले कमरों में, या सोशल मीडिया के लिए संकुचित (compress) किए जाने के बाद रिकॉर्ड किया जाता है। शोधकर्ता चेतावनी देते हैं कि एक डिटेक्टर जो एक स्वच्छ टेस्ट फ़ाइल पर पूरी तरह से काम करता है, वह वास्तविक दुनिया की रिकॉर्डिंग का सामना करने पर पूरी तरह विफल हो सकता है। वे इस बात पर जोर देते हैं कि अगली पीढ़ी के डिटेक्शन टूल्स को वास्तविक दुनिया की इन स्थितियों को संभालने के लिए पर्याप्त मजबूत होना चाहिए। इसके अलावा, वे बताते हैं कि केवल स्वचालित डिटेक्टरों पर भरोसा करना पर्याप्त नहीं है। सर्वेक्षण सुझाव देता है कि स्वचालित उपकरणों और मानवीय जागरूकता का संयोजन आवश्यक है, क्योंकि लोग संदर्भ या व्यवहार में विसंगतियों को पकड़ सकते हैं जिसे एक मशीन शायद मिस कर दे।
भविष्य की ओर देखते हुए, लेखक एक ऐसा भविष्य देखते हैं जहाँ निर्माण और पहचान के बीच का युद्ध तीव्र होता रहेगा। जैसे-जैसे वॉयस जनरेशन टूल्स केवल कुछ सेकंड के ऑडियो के साथ किसी भी वक्ता की नकल करने में अधिक कुशल और सक्षम होते जा रहे हैं, विश्वसनीय सुरक्षा उपायों की आवश्यकता अधिक अपरिहार्य होती जा रही है। शोधकर्ता सुझाव देते हैं कि समाधान किसी एक जादुई समाधान (magic bullet) से नहीं, बल्कि एक बहुस्तरीय दृष्टिकोण से आएगा। इसमें भाषण की जीव विज्ञान को समझने वाले बेहतर डिटेक्शन मेथड विकसित करना, रिकॉर्डिंग की उत्पत्ति सिद्ध करने के लिए डिजिटल वॉटरमार्क बनाना और जनता को शिक्षित करना शामिल है कि वे जो सुनते हैं उसके प्रति कितने संदिग्ध रहें। सर्वेक्षण इस निष्कर्ष के साथ समाप्त होता है कि जबकि नकली आवाज़ें बनाने की तकनीक तेजी से आगे बढ़ रही है, प्राकृतिक मानव आवाज़ की गहरी समझ ही हमारा सबसे अच्छा बचाव है। अपनी पहचान रणनीतियों को हम कैसे बोलते हैं इसकी भौतिक और भाषाई वास्तविकताओं में स्थापित करके, हम ऐसे सिस्टम बना सकते हैं जो धोखे के प्रति अधिक लचीले हों और उस विश्वास की रक्षा करने में बेहतर सक्षम हों जो हम सुनी जाने वाली आवाजों पर रखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।