Basic syntax from speech: Spontaneous concatenation in unsupervised deep neural networks
यह शोधपत्र प्रदर्शित करता है कि केवल कच्चे एकल-शब्द भाषण पर प्रशिक्षित पूर्णतः अनसुपरवाइज्ड डीप न्यूरल नेटवर्क स्वतः ही संयोजित बहु-शब्द आउटपुट उत्पन्न कर सकते हैं जिनमें रचनाशीलता (compositionality) के पूर्ववर्ती मौजूद होते हैं, जो ध्वनिक इनपुट से वाक्य रचना (syntax) के विकास के लिए एक संभावित तंत्र का सुझाव देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट बच्चे को बोलना सिखा रहे हैं। आमतौर पर, जब हम रोबोट्स को भाषा सिखाते हैं, तो हम उन्हें टेक्स्ट के पहाड़ खिलाते हैं—किताबें, लेख और वाक्य। लेकिन वास्तविक दुनिया में, बच्चे पढ़ते नहीं हैं; वे शब्दों या व्याकरण को समझने से पहले बोलने की अराजक, कच्ची ध्वनियों को सुनते हैं।
यह शोध पत्र एक बड़ा सवाल पूछता है: क्या एक रोबोट केवल कच्ची ध्वनियों को सुनकर "शब्दों को एक साथ पिरोना" (syntax) सीख सकता है, बिना किसी के उसे यह बताए कि इसे कैसे करना है?
इसका उत्तर, आश्चर्यजनक रूप से, हाँ है।
यहाँ इसकी कहानी दी गई है कि उन्होंने इसे कैसे किया, जिसे कुछ रोजमर्रा के उपमाओं के माध्यम से समझाया गया है।
1. रोबोट का "इमिटेशन गेम" (नकल का खेल)
शोधकर्ताओं ने एक विशेष प्रकार के AI का उपयोग किया जिसे GAN (जेनरेटिव एडवरसैरियल नेटवर्क) कहा जाता है। इसे दो रोबोटों के बीच एक खेल के रूप में सोचें:
- जालसाज़ (जनरेटर): असली शब्दों जैसी लगने वाली नकली ऑडियो बनाने की कोशिश करता है।
- जासूस (डिस्क्रिमिनेटर): नकली चीज़ों को पकड़ने की कोशिश करता है।
जालसाज़ केवल जासूस को मूर्ख बनाने की कोशिश करके सीखता है। वह कभी भी "उत्तर कुंजी" (प्रशिक्षण डेटा) को सीधे नहीं देखता। वह केवल जासूस की प्रतिक्रिया सुनता है: "यह असली लगा" या "यह नकली लगा।"
ट्विस्ट: शोधकर्ताओं ने जालसाज़ को केवल एकल शब्द (जैसे "suit," "year," या "water") दिए। उन्होंने इसे कभी भी दो शब्द एक साथ नहीं दिखाए। वे देखना चाहते थे कि क्या रोबोट कभी खुद से "suit year" कहना सीख जाएगा।
2. जादुई "नेगेटिव बटन"
रोबोट एक गुप्त नियंत्रण पैनल का उपयोग करके बोलता है जिसे लेटेंट कोड (latent code) कहा जाता है। इसे एक नंबर वाले डायल की तरह समझें।
- यदि आप डायल को धनात्मक संख्या (जैसे +5) पर घुमाते हैं, तो रोबमा एक विशिष्ट शब्द कहता है, जैसे "suit"।
- यदि आप डायल को ऋणात्मक संख्या (जैसे -5) पर घुमाते हैं, तो कुछ जादुई होता है।
खोज: जब शोधकर्ताओं ने डायल को ऋणात्मक संख्याओं पर घुमाया, तो रोबोट ने केवल शोर नहीं मचाया। इसने दो या तीन शब्द एक साथ चिपकाकर बोलना शुरू कर दिया, जैसे "suit year" या "box under water"।
ऐसा लग रहा था जैसे रोबोट को लेगो ब्रिक्स (Lego bricks) का एक डिब्बा दिया गया हो और कहा गया हो, "एक टावर बनाओ।" आप उम्मीद करेंगे कि वह एक ईंट का टावर बनाएगा। लेकिन इसके बजाय, जब आपने एक विशिष्ट "नेगेटिव" बटन दबाया, तो इसने स्वतः ही दो ईंटों को आपस में चिपका दिया और कहा, "देखो! मैंने एक डबल बनाया!"
3. यह क्यों हुआ? ("डिसइनहिबिशन" की उपमा)
शोधकर्ताओं ने एक शानदार सिद्धांत दिया कि क्यों ऐसा हुआ, जिसे वे डिसइनहिबिशन (Disinhibition) कहते हैं।
कल्पना करें कि आपके मस्तिष्क में श्रमिकों की एक टीम है:
- उत्तेजक कार्यकर्ता (Excitatory Workers): वे चिल्लाते हैं, "आवाज़ निकालो!"
- निरोधात्मक कार्यकर्ता (Inhibitory Workers): वे चिल्लाते हैं, "रुको! शांत रहो!"
आमतौर पर, "रुक जाओ" कहने वाले कार्यकर्ता "आवाज़ निकालो" कहने वाले कार्यकर्ताओं को नियंत्रण में रखते हैं। लेकिन रोबोट के मस्तिष्क में, "ऋणात्मक संख्या" ने एक शक्तिशाली "रुक जाओ" संकेत के रूप में कार्य किया, जो "रुक जाओ" कहने वाले कार्यकर्ताओं को ही चुप कराने के लिए था।
- चरण 1: "रुक जाओ" वाले कार्यकर्ता आवाज़ को शांत करने की कोशिश करते हैं।
- चरण 2: "ऋणात्मक संख्या" उन "रुक जाओ" वाले कार्यकर्ताओं को चुप रहने के लिए कहती है।
- चरण 3: क्योंकि "रुक जाओ" वाले कार्यकर्ता शांत हो जाते हैं, इसलिए "आवाज़ निकालो" वाले कार्यकर्ता बेकाबू हो जाते हैं और एक के बजाय एक साथ दो अलग-अलग शब्द चिल्लाने लगते हैं।
यह एक ट्रैफिक लाइट की तरह है जहाँ "लाल बत्ती" (रुकने का संकेत) टूट गई है, इसलिए कारें (शब्द) एक साथ चौराहे से गुजर जाती हैं।
4. क्या यह केवल रैंडम शोर है? ("कंपोजिशनैलिटी" परीक्षण)
आप सोच सकते हैं, "ठीक है, शायद यह केवल ग्लिच हो रहा है और रैंडम शोर बना रहा है।" लेकिन शोधकर्ताओं ने पाया कि रोबोट वास्तव में अर्थपूर्ण बातें बना रहा था।
उन्होंने पाया कि रोबोट ने शब्दों को जोड़ने की एक "रेसिपी" सीख ली थी।
- यदि उन्होंने डायल को "greasy" (चिकना) शब्द का प्रतिनिधित्व करने के लिए सेट किया (एक ऋणात्मक संख्या का उपयोग करके) और उसे "water" (पानी) के डायल के साथ जोड़ा, तो रोबोट ने लगातार "greasy water" कहा।
- यदि उन्होंने क्रम बदल दिया, तो इसने "water greasy" कहा।
इसे कंपोजिशनैलिटी (Compositionality) कहा जाता है। इसका मतलब है कि रोबोट ने "greasy water" को एक एकल अजीब ध्वनि के रूप में याद नहीं किया। इसने समझ लिया कि "greasy" + "water" = "greasy water" होता है। इसने जुड़ने के नियम सीख लिए, भले ही इसे नियम सिखाए नहीं गए थे।
5. यह क्यों महत्वपूर्ण है?
यह अध्ययन तीन कारणों से बहुत महत्वपूर्ण है:
- यह मानव शिशुओं की नकल करता है: बच्चे भाषा सुनकर सीखते हैं, न कि व्याकरण की किताबें पढ़कर। इस रोबोट ने भी ऐसा ही किया। यह सुझाव देता है कि हमारे मस्तिष्क को शब्दों को जोड़ने के लिए किसी विशेष "ग्रामर मॉड्यूल" की आवश्यकता नहीं हो सकती है; केवल सुनने और नकल करने से इसकी शुरुआत हो सकती है।
- यह "दो-शब्दों के चरण" की व्याख्या करता है: भाषाविद् जानते हैं कि बच्चे जटिल वाक्य सीखने से पहले दो-शब्दों के वाक्यांशों ("Mommy go," "More milk") के माध्यम से एक चरण से गुजरते हैं। यह रोबोट एकल शब्दों से सीधे उस चरण पर पहुँच गया, जिससे पता चलता है कि यह संक्रमण स्वाभाविक रूप से कैसे हो सकता है।
- यह हमें मस्तिष्क को समझने में मदद करता है: "डिसइनहिबिशन" का सिद्धांत बताता है कि हमारे मस्तिष्क द्वारा शब्दों को जोड़ने का तरीका मस्तिष्क के विभिन्न हिस्सों को "ब्रेक हटाने" (turning off the brakes) की एक जैविक प्रक्रिया है, जिससे उन्हें एक साथ सक्रिय होने की अनुमति मिलती है।
निष्कर्ष
शोधकर्ताओं ने एक ऐसा रोबोट बनाया जिसने एकल शब्दों को सुनकर बोलना सीखा। बिना सिखाए, इसने उन शब्दों को नए वाक्यांशों में जोड़ने का तरीका ढूंढ लिया, और इसने यह भी समझ लिया कि उन्हें मिलाने के पीछे का तर्क क्या है।
यह एक बच्चे को पहेली (puzzle) के टुकड़ों का एक बैग देने और फिर उन्हें बिना किसी को पूरा चित्र दिखाए, स्वतः ही टुकड़ों को जोड़कर चित्र बनाना देखने जैसा है। यह सुझाव देता है कि वाक्यों को बनाने की क्षमता किसी भी ऐसे सिस्टम में एक स्वाभाविक, स्वतःस्फूर्त चिंगारी हो सकती है जो सुनकर सीखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।