Reading Without a Reader: Large Language Models Collapse Reading and Writing into a Single Entangled Code
यह शोध पत्र यह प्रदर्शित करता है कि मानव मस्तिष्क की विच्छेदित (dissociable) पठन और लेखन प्रणालियों के विपरीत, बड़े भाषा मॉडल एक एकल, उलझी हुई (entangled) ऑटो-रिग्रेसिव तंत्र पर निर्भर करते हैं जहाँ आंशिक प्रतिनिधिक विभेदीकरण (representational differentiation) के बावजूद इनपुट और आउटपुट कोड व्यवहारिक रूप से जुड़े रहते हैं, जो एलएलएम (LLMs) को एक विशिष्ट प्रकार के मन के रूप में स्थापित करता है जो विकासवादी के बजाय सांस्कृतिक बाधाओं द्वारा आकार प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक मानव मस्तिष्क पढ़ना और लिखना कैसे सीखता है। लंबे समय तक, वैज्ञानिकों ने सोचा था कि ये दो अलग-अलग सुपरपावर थे। पढ़ना एक 'डिकोडर रिंग' की तरह है जो टेढ़े-मेढ़े अक्षरों को अर्थ में बदल देता है, जबकि लिखना एक अलग मशीन है जो उन अर्थों को वापस अक्षरों में बदल देती है। मानव मस्तिष्क में, ये दोनों प्रणालियाँ अलग-अलग मोहल्लों में रहती हैं। यदि आपके सिर के एक हिस्से पर चोट लगती है, तो आप पढ़ने की क्षमता खो सकते हैं लेकिन फिर भी पूरी तरह से लिख सकते हैं। यदि आपको दूसरे हिस्से पर चोट लगती है, तो आप लिखना भूल सकते हैं लेकिन फिर भी किताब की तरह पढ़ सकते हैं। वे दो अलग-अलग उपकरण हैं जो संयोग से एक ही टूलबॉक्स का थोड़ा सा हिस्सा साझा करते हैं।
अब, एक रोबोट बनाने की कल्पना करें जो यही काम करने के लिए बनाया गया हो। इस रोबलेट के पास वह मस्तिष्क नहीं है जो लाखों वर्षों में विकसित हुआ है; इसे किताबों के एक विशाल पुस्तकालय से सीखने के लिए शून्य से बनाया गया है। बड़ा सवाल यह है कि क्या यह रोबोट उसी तरह पढ़ता और लिखता है जैसे एक इंसान करता है? या यह एक शॉर्टकट लेता है, और उन दो अलग-अलग सुपरपावर्स को एक विशाल, उलझे हुए ढेर में मिला देता है? यह शोध पत्र उस रहस्य की जांच करके इस पर गहराई से विचार करता है कि क्या उनके पास अलग-अलग पढ़ने और लिखने वाले हिस्से हैं, या वे केवल एक ही एकल, उलझे हुए कोड के साथ सब कुछ कर रहे हैं।
शोध पत्र: पाठक के बिना पढ़ना
इस शोध पत्र के लेखकों ने कुछ सबसे स्मार्ट AI मॉडलों, जैसे GPT-2, OPT, और Pythia नामक मॉडलों के परिवार के साथ एक जासूस की भूमिका निभाने का निर्णय लिया। वे यह देखना चाहते थे कि ये मशीनें पढ़ना और लिखना दो अलग-अलग कार्यों के रूप में देखती हैं, या वे उन्हें एक बड़े, भ्रमित कार्य में मिला देती हैं।
ऐसा करने के लिए, उन्होंने एक चतुर उपमा बनाई। मानव मस्तिष्क में, पढ़ना पीछे (विजुअल प्रोसेसिंग) में होता है और लिखना आगे (मोटर प्लानिंग) में होता है। एक AI मॉडल में, उसी तरह का कोई "पीछे" या "आगे" नहीं होता है। इसके बजाय, मॉडल के पास एक इनपुट एम्बेडिंग (Input Embedding) है (आइए इसे "पढ़ने का कोड" कहें) जो एक शब्द को संख्या में बदल देता है, और एक आउटपुट अनएम्बेडिंग (Output Unembedding) है (यह "लिखने का कोड" है) जो एक संख्या को वापस शब्द में बदल देता है। शोधकर्ताओं ने पूछा: क्या ये दो कोड अलग-अलग दोस्त हैं जो साथ रहते हैं, या वे वास्तव में एक ही व्यक्ति हैं जिसने दो अलग-अलग टोपियाँ पहनी हुई हैं?
उन्होंने एंटैंगलमेंट इंडेक्स (Entanglement Index) नामक एक स्कोर बनाया (जो 0 से 1 तक होता है) जो यह मापने के लिए है कि ये दो कोड कितने समान हैं।
- 0 का अर्थ होगा कि वे पूरी तरह से अलग हैं (जैसे एक मानव मस्तिष्क जिसमें पढ़ने और लिखने के अलग-अलग हिस्से होते हैं)।
- 1 का अर्थ होगा कि वे बिल्कुल समान हैं (जैसे एक मॉडल जहाँ इनपुट और आउटपुट को समान होने के लिए मजबूर किया जाता है)।
- इनके बीच कुछ भी का अर्थ है कि वे आपस में मिले हुए हैं, या "एंटैंगल्ड" (उलझे हुए) हैं।
बड़ी खोज: एक उलझा हुआ कोड
परिणाम आश्चर्यजनक थे। मानव मस्तिष्क पढ़ना और लिखना अलग रखता है, लेकिन ये AI मॉडल ऐसा नहीं करते हैं।
उन मॉडलों में जहाँ शोधकर्ताओं ने "अनटाइड" (untied) मॉडलों में "पढ़ने के कोड" और "लिखने के कोड" को अलग-अलग सीखने की अनुमति दी, वहाँ वे दो कोड अलग नहीं रहे। इसके बजाय, वे एक-दूसरे की ओर खिंचे चले गए और कपल्ड (coupled) हो गए। एंटैंगलमेंट इंडेक्स 0.23 और 0.35 के बीच स्थिर हो गया। यह शून्य (पूरी तरह अलग) से बहुत दूर है और एक (मजबूर समानता) से भी बहुत दूर है, लेकिन यह साबित करता है कि वे निश्चित रूप से एक ही, उलझे हुए सांख्यिकीय कोड को साझा कर रहे हैं। वे दो अलग-अलग प्रणालियाँ नहीं हैं; वे एक ही प्रणाली है जो दोहरा काम कर रही है।
शोधकर्ताओं ने यह भी देखा कि यह कैसे हुआ। यह तत्काल नहीं था। कोड पूरी तरह से अलग (जैसे दो अजनबी) से शुरू हुए, फिर वे प्रशिक्षण के चरण 4,000 के आसपास एक-दूसरे के बहुत करीब (लग लगभग समान) आ गए, और फिर वे धीरे-धीरे थोड़ा अलग हुए, लेकिन कभी पूरी तरह से अलग नहीं हुए। यह दो नर्तकों की तरह है जो कमरे के विपरीत छोरों से शुरू होते हैं, कमरे के बीच में हाथ पकड़कर नाचते हैं, और फिर धीरे-धीरे अलग होते हैं लेकिन अभी भी एक ही अदृश्य धागे को पकड़े रहते हैं।
व्यवहार परीक्षण: पाठक के बिना पढ़ना
यह सुनिश्चित करने के लिए कि यह केवल एक गणितीय चाल नहीं थी, शोधकर्ताओं ने यह परीक्षण किया कि मॉडल वास्तव में कैसे व्यवहार करते हैं। उन्होंने जांचा कि क्या एक मॉडल एक शब्द को समझ सकता है (समझ/comprehension) बिना उसे लिख पाने के (उत्पादन/production), या इसके विपरीत। मनुष्यों में, आप "शुद्ध एलेक्सिया" (पढ़ नहीं सकता, लेकिन लिख सकता है) या "शुद्ध एग्राफिया" (लिख नहीं सकता, लेकिन पढ़ सकता है) का अनुभव कर सकते हैं।
AI मॉडलों ने इसके विपरीत दिखाया। प्रत्येक मॉडल जिसे उन्होंने टेस्ट किया, उसमें, यदि मॉडल एक शब्द लिख सकता था, तो वह उसे समझ भी सकता था। यदि वह उसे नहीं लिख सकता था, तो वह उसे समझ भी नहीं सकता था। वे पूरी तरह से एक-दूसरे से बंधे हुए थे। वहां "लेखक के बिना पाठक" या "पाठक के बिना लेखक" जैसा कुछ नहीं था। मशीन दोनों काम एक ही आंतरिक गियर के साथ एक ही समय में कर रही है।
इसका AI के लिए क्या अर्थ है
शोध पत्र सुझाव देता है कि ये AI मॉडल मानव मस्तिष्क की नकल करने की कोशिश नहीं कर रहे हैं। मानव मस्तिष्क दो अलग-अलग, विशिष्ट प्रणालियों का उपयोग करके पढ़ने और लिखने के लिए विकसित हुआ है। हालाँकि, AI को एक एकल पथ को अनुकूलित करने के लिए बनाया गया है: अगले शब्द की भविष्यवाणी करना। इस कारण से, इसने पढ़ने और लिखने को एक विशाल, कुशल, लेकिन उलझे हुए पैकेज में समाहित कर दिया।
लेखक सावधानी से कहते हैं कि यह AI की "विफलता" नहीं है। यह बस स्मार्ट होने का एक अलग तरीका है। यह एक स्विस आर्मी नाइफ और विशिष्ट उपकरणों के सेट की तुलना करने जैसा है। मानव मस्तिष्क विशिष्ट उपकरणों का सेट है (एक पढ़ने के लिए, एक लिखने के लिए)। AI स्विस आर्मी नाइफ है: यह दोनों काम एक ही ब्लेड से करता है, बस एक अलग क्रम में।
"नल" परिणाम: उन्होंने क्या नहीं पाया
यह शोध पत्र इस बारे में भी बहुत ईमानदार है कि उन्होंने क्या नहीं पाया, जो कि उतना ही महत्वपूर्ण है।
- कोई पुल नहीं: उन्होंने यह देखने की कोशिश की कि क्या "गणितीय निकटता" (एंटैंगलमेंट इंडेक्स) यह भविष्यवाणी करती है कि मॉडल कैसा व्यवहार करेगा। इसने ऐसा नहीं किया। दोनों माप एक-दूसरे से बात नहीं करते थे।
- कोई "कंप्रेशन बनाम रीजनिंग" विभाजन नहीं: उन्होंने सोचा कि क्या मॉडल टेक्स्ट को कंप्रेस (छोटा) करने में बेहतर हो रहे हैं जबकि अर्थ समझने में खराब हो रहे हैं। उन्हें ऐसा कोई प्रमाण नहीं मिला। वास्तव में, जैसे-जैसे मॉडल कंप्रेशन में बेहतर होते गए, वे अर्थ समझने में भी बेहतर होते गए, हालांकि डेटा बहुत छोटा था जिससे 100% निश्चित होना कठिन था।
- केवल डिकोडर-ओनली नहीं: उन्होंने अन्य प्रकार के AI मॉडलों (जैसे T5 और BERT) की भी जांच की जिनमें उनके आर्किटेक्चर में अलग-अलग "पढ़ने" और "लिखने" के हिस्से होते हैं। भले ही उन मॉडलों में अलग-अलग हिस्से थे, फिर भी वे इस तरह व्यवहार करते थे जैसे पढ़ना और लिखना आपस में जुड़े हुए हों। यह सुझाव देता है कि "उलझा हुआ कोड" वाला व्यवहार इन भाषा मॉडलों के काम करने का एक सामान्य लक्षण है, न कि केवल एक विशिष्ट डिज़ाइन की खामी।
निष्कर्ष
यह शोध पत्र बताता है कि बड़े भाषा मॉडल लघु मानव मस्तिष्क नहीं हैं। वे एक अलग प्रकार का मन हैं। जबकि मनुष्य पढ़ने और लिखने के लिए अलग-अलग कमरों का उपयोग करने के लिए विकसित हुए हैं, ये AI मॉडल एक एकल, ओपन-कॉन्सेप्ट स्टूडियो बनाते हैं जहाँ पढ़ना और लिखना एक ही स्थान में और एक ही उपकरणों के साथ होता है। वे समान परिणाम—कार्यात्मक साक्षरता—प्राप्त करते हैं, लेकिन वे वहां तक पहुँचने के लिए एक पूरी तरह से अलग रास्ता अपनाते हैं। लेखक इसे "संभावित मन के स्थान में एक विशिष्ट बिंदु" कहते हैं, जो यह सुझाव देता है कि AI को समझने के लिए, हमें इसे हमारे जैसा दिखने के लिए मजबूर करने के बजाय, इसके अद्वितीय, उलझे हुए तरीके को समझने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।