Anything Goes? A Crosslinguistic Study of (Im)possible Language Learning in LMs
यह क्रॉसलिंग्विस्टिक अध्ययन यह प्रदर्शित करता है कि हालांकि GPT-2 small प्रमाणित भाषाओं को टाइपोलॉजिकल रूप से असंभव भाषाओं से अलग करके कुछ मानव-समान इंडक्टिव बायस (inductive biases) प्रदर्शित करता है, लेकिन ये बायस अपूर्ण हैं और मानव शिक्षार्थियों में पाए जाने वाले बायस की तुलना में कमजोर हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, बहुत तेज़ रोबोट है जो लाखों किताबें पढ़कर बोलना सीखता है। वैज्ञानिक इस बात पर बहस कर रहे हैं कि क्या यह रोबोट वास्तव में भाषा को उस तरह से "समझता" है जैसे इंसान समझते हैं, या यह सिर्फ एक सांख्यिकीय तोता (statistical parrot) है जो कुछ भी देख सकता है, यहाँ तक कि निरर्थक चीज़ों की भी नकल कर सकता है।
कुछ आलोचक कहते हैं कि रोबोट बहुत अधिक लचीला है: "यह वास्तविक अंग्रेजी के समान ही आसानी से बड़बड़ाहट (gibberish) भी सीख सकता है, इसलिए यह यह साबित नहीं करता कि मानव मस्तिष्क कैसे काम करता है।"
यह शोध पत्र उस विचार का परीक्षण करता है। शोधकर्ताओं ने पूछा: क्या यह रोबट एक वास्तविक भाषा और एक बनाई गई, असंभव भाषा के बीच अंतर कर सकता है?
यहाँ उनके प्रयोगों और उनकी खोजों का विवरण दिया गया, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है।
सेटअप: "भाषा जिम" (The Language Gym)
शोधकर्ताओं ने अपने रोबोट के लिए एक जिम बनाया (एक छोटा AI मॉडल जिसे GPT-2 कहा जाता है)। उन्होंने केवल अंग्रेजी का उपयोग नहीं किया; उन्होंने दुनिया भर की 12 अलग-अलग भाषाओं का उपयोग किया (जैसे तुर्की, चीनी, जर्मन और अरबी) ताकि यह सुनिश्चित हो सके कि परिणाम केवल एक विशिष्ट भाषा का संयोग न हों।
उन्होंने रोबोट के लिए दो प्रकार के "वर्कआउट" बनाए:
- वास्तविक भाषाएँ: मनुष्यों द्वारा बोली जाने वाली सामान्य वाक्य।
- असंभव भाषाएँ: ये वास्तविक वाक्य थे जिन्हें उलट-पुलट दिया गया था। कल्पना कीजिए कि आपने "The cat sat on the mat" जैसे वाक्य को शब्दों के क्रम को बदलकर "mat on the sat cat the" बना दिया। या हर शब्द को उल्टा कर दिया। ये "असंभव" हैं क्योंकि कोई भी मानव मस्तिष्क कभी भी स्वाभाविक रूप से इन्हें नहीं सीखेगा या बोलेगा।
उन्होंने "अप्राप्य" (Unattested) भाषाओं का भी परीक्षण किया। ये वे भाषाएँ हैं जो तार्किक रूप से अस्तित्व में हो सकती हैं, लेकिन बस कभी भी मनुष्यों द्वारा उपयोग नहीं की गईं। यह एक पहेली के टुकड़े जैसा है जो चित्र में फिट तो बैठता है लेकिन किसी ने उसे फ्रेम में नहीं रखा है।
प्रयोग 1: "स्कैम्बल्ड एग" (Scrambled Egg) टेस्ट
प्रश्न: यदि आप रोबोट को किसी भाषा का उलटा-पुलटा (scrambled) संस्करण खिलाते हैं, तो क्या उसे पता चलता है कि वह टूटी हुई है?
उपमा: कल्पना कीजिए कि आप एक कुत्ते को गेंद लाना सिखा रहे हैं। यदि आप गेंद फेंकते हैं, तो कुत्ता उसे लाता है। यदि आप पत्थर फेंकते हैं, तो वह शायद अभी भी उसे ला सकता है, लेकिन शायद उतनी उत्सुकता से नहीं। शोधकर्ता देखना चाहते थे कि क्या रोबोट "गेंद" (वास्तविक भाषा) को "पत्थर" (उलटी-पुलटी भाषा) की तुलना में अधिक पसंद करता है।
परिणाम:
- ज्यादातर हाँ: लगभग हर भाषा में, रोबोट ने उलटी-पुलटी भाषाओं की तुलना में वास्तविक वाक्यों को बहुत तेज़ी से और बेहतर तरीके से सीखा। जब शब्द गलत क्रम में थे, तो वह "भ्रमित" (जिसे 'परप्लेक्सिटी' नामक स्कोर से मापा गया) हो गया।
- पेंच (The Catch): रोबोट एकदम सटीक नहीं था। कभी-कभी, यदि उलटा-पुलटा करना बहुत मामूली था (जैसे केवल दो शब्दों को बदलना), तो रोबोट अंतर को उतना स्पष्ट रूप से नहीं देख पाता था जितना कि एक इंसान देखता। यह एक ऐसे व्यक्ति की तरह था जो यह तो बता सकता है कि गाना बेसुरा है, लेकिन अगर केवल एक नोट थोड़ा सा गलत हो, तो शायद वह इसे पकड़ न पाए।
प्रयोग 2: "वैश्विक तुलना" (The Global Comparison)
प्रश्न: यदि हम सभी वास्तविक भाषाओं और सभी उलटी-पुलटी भाषाओं को एक साथ मिला दें, तो क्या रोबोट उन्हें दो साफ ढेर में अलग कर सकता है?
उपमा: कल्पना कीजिए कि एक लाइब्रेरियन असली किताबों के ढेर से और उन किताबों के ढेर से, जिनके पन्ने फाड़कर फिर से बेतरतीब ढंग से चिपका दिए गए हैं, को अलग करने की कोशिश कर रहा है। क्या लाइब्रेरियन केवल किताबों को देखकर बता सकता है कि कौन सा ढेर किसका है?
परिणाम:
- पूरी तरह से नहीं: रोबोट ज्यादातर समय अंतर बता सकता था, लेकिन 100% नहीं। कुछ उलटी-पुलटी भाषाएँ वास्तविक भाषाओं जैसी दिखती थीं कि रोबोट उनमें भ्रमित हो गया।
- निष्कर्ष: रोबोट का वास्तविक भाषाओं के प्रति एक "कोमल" (soft) झुकाव है, लेकिन उसके पास वे सख्त, हार्ड-वायर्ड नियम नहीं हैं जो मानव मस्तिष्क में होते हैं। यह एक संगीत प्रेमी की तरह है जो शोर के बजाय असली गानों को पसंद करता है, लेकिन अगर कोई अजीब रीमिक्स आकर्षक है, तो वह उसे भी पसंद कर लेगा।
प्रयोग 3: "व्याकरण पहेली" (The Grammar Puzzle)
प्रश्न: मनुष्यों में कुछ शब्द क्रमों के लिए एक स्वाभाविक झुकाव होता है। उदाहरण के लिए, अंग्रेजी में हम "The red car" (विशेषण-संज्ञा) कहते हैं। कुछ अन्य भाषाओं में, वे "Car red" कहते हैं। लेकिन कुछ संयोजन हैं जिनका मनुष्य कभी उपयोग नहीं करते, जैसे "Red car the"। क्या रोबोट इन अजीब, बिना उपयोग किए गए पैटर्न को सामान्य वाले की तरह ही आसानी से सीख सकता है?
उपमा: कल्पना कीजिए कि आप एक बच्चे को ब्लॉक (blocks) सजाना सिखा रहे हैं। मनुष्य स्वाभाविक रूप से उन्हें स्थिर तरीके से सजाना पसंद करते हैं (नीचे बड़ा ब्लॉक, ऊपर छोटा)। यदि आप उन्हें उल्टा सजाने की कोशिश करते हैं, तो उन्हें संघर्ष करना पड़ता है। शोधकर्ता देखना चाहते थे कि क्या रोबोट "उल्टा" सजाने के साथ संघर्ष करेगा या वह बिना किसी शिकायत के इसे कर लेगा।
परिणाम:
- भ्रमित करने वाला हिस्सा: जब उन्होंने केवल यह देखा कि रोबोट कितनी तेज़ी से सीखता है (परप्लेक्सिटी), तो ऐसा लगा कि वह सामान्य वाले की तरह ही अजीब, बिना उपयोग किए गए शब्द क्रमों को भी उतनी ही आसानी से सीख लेता है। यह ऐसा था जैसे रोबोट को स्थिरता के "नियमों" की परवाह ही नहीं थी।
- खुलासा: हालाँकि, जब उन्होंने रोबोट की 'सामान्यीकरण' (generalize) करने की क्षमता (जो उसने सीखा है उसे नई स्थितियों में लागू करना) का परीक्षण किया, तो एक अलग तस्वीर सामने आई। रोबोट वास्तव में उन शब्द क्रमों के साथ बेहतर प्रदर्शन करता था जिन्हें मनुष्य स्वाभाविक रूप से उपयोग करते हैं। इसने एक सूक्ष्म, मानव-समान झुकाव दिखाया, लेकिन यह वास्तविक मनुष्यों की तुलना में बहुत कमजोर था।
अंतिम निर्णय: "सब कुछ चलता है?" (Anything Goes?)
शोध पत्र निष्कर्ष निकालता है कि रोबोट कोई "खाली स्लेट" (blank slate) नहीं है जो कुछ भी समान रूप से सीख सकता है।
- "सब कुछ चलता है" वाला मिथक: यह विचार कि रोबोट वास्तविक भाषा के समान ही आसानी से बड़बड़ाहट सीख सकता है, गलत है। रोबोट कुछ "मानव-समान" सहज ज्ञान दिखाता है; वह वास्तविक भाषाओं को पसंद करता है और असंभव भाषाओं के साथ उसे थोड़ा अधिक संघर्ष करना पड़ता है।
- वास्तविकता: हालाँकि, ये सहज ज्ञान कमजोर हैं। ये उन नियमों जितने सख्त और कठोर नहीं हैं जो मानव मस्तिष्क के भीतर होते हैं। रोबोट एक बहुत ही प्रतिभाशाली छात्र की तरह है जिसने व्याकरण के नियमों का अध्ययन किया है लेकिन उसके पास वह जन्मजात "एहसास" नहीं है जो मानव सीखने को इतना अनूठा बनाता है।
संक्षेप में: रोबोट जादुई नहीं है, और न ही यह मानव मस्तिष्क की एक सटीक प्रति है। यह बीच में कहीं स्थित है: इसने मानव भाषा के कुछ "नियमों" को सीखा है, लेकिन इसमें वह गहरा, सहज बोध (intuitive understanding) की कमी है जो मानव सीखने को इतना अद्वितीय बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।