LLM and Human Modes of Representation
यह शोध पत्र भाषाई ज्ञान और वास्तविक दुनिया के तर्क में लार्ज लैंग्वेज मॉडल्स (LLMs) और मनुष्यों द्वारा सूचना के प्रतिनिधित्व और प्रसंस्करण की तुलना करने वाले हालिया शोध का परीक्षण करता है, जो इस बात पर प्रकाश डालता है कि जहाँ LLMs प्रभावशाली प्रवाह प्राप्त करते हैं, वहीं वे अपने प्रसंस्करण तंत्र में मनुष्यों से भिन्न होते हैं और सामान्यतः सीखने और सामान्यीकरण में कम कुशल होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य चित्र: "सुपर-स्टूडेंट" बनाम "मानव मस्तिष्क"
कल्पना कीजिए कि लार्ज लैंग्वेज मॉडल्स (LLMs) एक अति-उत्साही छात्र की तरह हैं जिसने लाइब्रेरी की हर किताब पढ़ ली है। यह छात्र तथ्यों को सुना सकता है, निबंध लिख सकता है, और लगभग किसी भी अन्य व्यक्ति से तेज़ पहेलियाँ हल कर सकता है। लेकिन, यह पेपर तर्क देता है कि यह छात्र दुनिया को उस तरह नहीं "समझता" जैसे एक इंसान समझता है। वे पैटर्न मैचिंग (डेटा में परिचित आकृतियों को पहचानने) में अविश्वसनीय रूप से अच्छे हैं, लेकिन अक्सर गहन तर्क (deep reasoning) (चीजें क्यों होती हैं या अज्ञात के लिए योजना बनाना) में संघर्ष करते हैं।
यह पेपर तुलना करता है कि कैसे मनुष्य और ये AI मॉडल दो मुख्य क्षेत्रों को संभालते हैं: भाषा (हम कैसे बोलते और लिखते हैं) और तर्क (हम कैसे सोचते और योजना बनाते हैं)।
भाग 1: द लैंग्वेज लैब (हम कैसे बोलते हैं)
पेपर तीन विशिष्ट भाषा कार्यों का परीक्षण करता है ताकि यह देखा जा सके कि क्या AI इंसान की तरह सोचता है।
1. "सेंटेंस टेस्ट ऑफ टेस्ट" (स्वीकार्यता/Acceptability)
कार्य: मनुष्यों से पूछा जाता है कि कोई वाक्य कितना "प्राकृतिक" लगता है। कभी-कभी वाक्य अजीब होता है क्योंकि संदर्भ (context) अलग होता है (जैसे, कार के बारे में एक पैराग्राफ के बाद बिल्ली के बारे में एक वाक्य दिखाया जाता है)।
इंसानी तरीका: मनुष्य चयनात्मक फिल्टर (selective filters) की तरह होते हैं। यदि आप उन्हें गणित के सवाल के बारे में वाक्य बताते समय समुद्र तट की तस्वीर दिखाते हैं, तो वे आसानी से समुद्र तट की तस्वीर को अनदेखा कर सकते हैं और केवल गणित पर ध्यान केंद्रित कर सकते हैं। वे भ्रमित होने पर "मध्यम-स्तर" के स्कोर देने की प्रवृत्ति रखते हैं, जिससे चरम सीमाएं (extremes) कम हो जाती हैं।
AI का तरीका: AI एक स्टिकी नोट (sticky note) की तरह है जो उखड़ता नहीं है। भले ही आप इसे समुद्र तट की तस्वीर दिखाएं, AI उस छवि पर "अटक" जाता है और उसे गणित के वाक्य के निर्णय को प्रभावित करने देता है। यह इंसानों की तरह दृश्य शोर (visual noise) को फ़िल्टर नहीं कर सकता।
परिणाम: AI मानवीय स्कोर की अच्छी नकल करता है, लेकिन वह वहां तक एक अलग रास्ते से पहुँचता है। वह सारी जानकारी (यहाँ तक कि अप्रासंगिक चीज़ों को भी) अपनी मेमोरी में रखता है, जबकि मनुष्य सक्रिय रूप से उन चीज़ों को फेंक देते हैं जिनकी उन्हें ज़रूरत नहीं होती।
2. "ग्रामर मेज़" (कर्ता-क्रिया समझौता/Subject-Verb Agreement)
कार्य: क्या आप बता सकते हैं कि एक लंबे, जटिल वाक्य में कौन सी क्रिया कर्ता (subject) से मेल खाती है?
- उदाहरण: "चाबियाँ [जो कैबिनेट के पास वाले आदमी के पास हैं] उसकी कार के लिए हैं।"
- यहाँ कर्ता "चाबियाँ" है, लेकिन बीच में कई शब्द हैं।
इंसानी तरीका: मनुष्य थक जाते हैं। जैसे-जैसे वाक्य लंबा और उलझा हुआ होता जाता है, हमारा मस्तिष्क धुंधला होने लगता है और हम अधिक गलतियाँ करते हैं। यह एक लंबी, भारी रस्सी पकड़ने जैसा है; बीच में जितने अधिक गांठें होंगी, सिरों को जोड़कर रखना उतना ही कठिन होगा।
AI का तरीका: AI एक सुपर-मेमोरी रोबोट की तरह है। वह थकता नहीं है। वास्तव में, थोड़े से प्रॉम्पटिंग (एक हल्का सा इशारा) के साथ, AI इन उलझे हुए वाक्यों को मनुष्यों से बेहतर तरीके से हल कर सकता है। वह "चाबियों" को इसलिए नहीं भूलता क्योंकि बीच में कैबिनेट के बारे में शब्द आए हैं।
परिणाम: AI इन परीक्षणों में जीत जाता है, लेकिन इसलिए नहीं कि वह इंसानों की तरह व्याकरण के नियमों को समझता है। वह इसलिए जीतता है क्योंकि उसके पास एक विशाल "कॉन्टेक्स्ट विंडो" है जहाँ वह बिना कुछ गिराए सभी शब्दों को एक साथ रख सकता है।
3. "स्टोरीटेलर" (कथाएँ उत्पन्न करना)
कार्य: छवियों के एक क्रम को देखें और उन पर एक कहानी लिखें।
इंसानी तरीका: मनुष्य ऐसी कहानियाँ लिखते हैं जो आश्चर्यजनक और सुसंगत (cohesive) होती हैं। हम रचनात्मक तरीकों से बिंदुओं को जोड़ते हैं, पात्रों को सुसंगत रखते हैं, और हमारी कहानियाँ "मौलिक" लगती हैं। यदि आप हमारे शब्दों की भविष्यवाणी (predictability) को मापते हैं, तो हम काफी अप्रत्याशित (high perplexity) होते हैं।
AI का तरीका: AI ऐसी कहानियाँ लिखता है जो सुचारू और प्रवाहपूर्ण (fluent) होती हैं, लेकिन वे थोड़ी "सुरक्षित" लगती हैं। वे हर लिखी गई कहानी से बने एक स्मूदी (smoothie) की तरह हैं। उनमें वे गहरे, छिपे हुए संबंध नहीं होते जो मानव कहानियों को जीवंत बनाते हैं। AI की कहानियाँ बहुत अनुमान लगाने योग्य (low perplexity) होती हैं क्योंकि यह केवल अपने प्रशिक्षण डेटा के आधार पर अगले सबसे संभावित शब्द को चुन रहा होता है।
परिणाम: मनुष्य अधिक मौलिक, सुसंगत कहानियाँ लिखते हैं। AI प्रवाहपूर्ण लेकिन कुछ हद तक जेनेरिक कहानियाँ लिखता है जिनमें मानवीय रचनात्मकता की "चमक" की कमी होती है।
भाग 2: द रीजनिंग जिम (हम कैसे सोचते हैं)
पेपर यह भी परीक्षण करता है कि क्या AI वास्तव में समस्याओं पर सोच सकता है या वह केवल पैटर्न के आधार पर अनुमान लगा रहा है।
1. "डिटेक्टिव" (प्राकृतिक भाषा निष्कर्ष/Natural Language Inference)
कार्य: दो वाक्यों को देखते हुए, क्या दूसरा वाक्य पहले के आधार पर सत्य, असत्य या असंबंधित है?
- आधार (Premise): "एक आदमी सो रहा है।"
- निष्कर्ष (Conclusion): "आदमी फुटबॉल खेल रहा है।" (असत्य/विरोधाभास)
इंसानी तरीका: मनुष्य वास्तविक दुनिया के ज्ञान का उपयोग करते हैं। हम जानते हैं कि सोना और फुटबॉल खेलना एक साथ नहीं हो सकते। हम शब्दों के अर्थ को समझते हैं।
AI का तरीका: यदि प्रश्न बिल्कुल वैसे ही दिखते हैं जैसे उसने अध्ययन किया है, तो AI इसमें बहुत अच्छा है। लेकिन यदि आप शब्दों को थोड़ा बदल देते हैं या किसी ऐसे विषय के बारे में पूछते हैं जिसे उसने पहले नहीं देखा है (जैसे कोई विशिष्ट मेडिकल जर्नल), तो AI का प्रदर्शन गिर जाता है। यह एक तोते की तरह है जिसने "सोने" और "फुटबॉल" को एक साथ सुनने पर "असत्य" कहना सीख लिया है, लेकिन वह वास्तव में इन शब्दों का अर्थ नहीं जानता।
परिणाम: AI एक पैटर्न-मैचर है, गहरा विचारक नहीं। जब पैटर्न बदलता है, तो वह विफल हो जाता है।
#### 2. "डॉक्टर" (छवि व्याख्या/Image Interpretation)
कार्य: एक मेडिकल स्कैन (जैसे एमआरआई) को देखें और समस्या का निदान करें।
इंसानी तरीका: डॉक्टर इमेज को देखते हैं, शरीर रचना (anatomy) को समझते हैं, और लक्षणों के माध्यम से तर्क करते हैं।
AI का तरीका: AI अक्सर सही उत्तर दे सकता है, लेकिन उसे इमेज की आवश्यकता नहीं होती। यदि आप AI को लक्षणों का केवल टेक्स्ट विवरण (बिना चित्र के) देते हैं, तो उसे वही स्कोर मिलता है। यह उस छात्र की तरह है जिसने टेस्ट के सवालों के लिए उत्तर कुंजी (answer key) रट ली है लेकिन वास्तव में पाठ्यपुस्तक का अध्ययन नहीं किया है। वह लक्षणों के टेक्स्ट पैटर्न को पहचान रहा है, न कि बीमारी को "देख" रहा है।
परिणाम: AI विवरण पढ़ने के लिए एक शक्तिशाली उपकरण है, लेकिन यह गहन नैदानिक तर्क (diagnostic reasoning) नहीं कर रहा है।
3. "प्लानर" (जटिल पहेलियाँ सुलझाना)
कार्य: कठिन गणित/तर्क पहेलियाँ हल करें जैसे कि डिलीवरी ट्रक के लिए सबसे छोटा रास्ता खोजना (Traveling Salesman Problem) या नैपसैक (knapsack) भरना।
इंसानी तरीका: मनुष्य तर्क और रणनीति का उपयोग करते हैं। यदि नियम थोड़े बदल जाते हैं, तो भी हम अनुकूलित हो सकते हैं।
AI का तरीका: AI पैटर्न के आधार पर उत्तर का अनुमान लगाने की कोशिश करता है। जब पहेली बड़ी हो जाती है या नियम अलग तरह से लिखे जाते हैं, तो AI की सटीकता गिर जाती है। यह एक कैलकुलेटर की तरह है जो केवल उन नंबरों को जोड़ना जानता है जिन्हें उसने पहले देखा है। यदि आप उसे एक नए प्रकार का नंबर जोड़ने के लिए कहते हैं, तो वह टूट जाता है।
परिणाम: AI सामान्य योजना बनाने में बुरा है। वह विशिष्ट, प्रशिक्षित पहेलियों को हल कर सकता है, लेकिन वह नई, जटिल वास्तविक दुनिया की समस्याओं के लिए सामान्यीकरण (generalize) नहीं कर सकता।
अंतिम निर्णय
पेपर निष्कर्ष निकालता है कि AI न तो "स्टोकेस्टिक पैरट" (Stochastic Parrot) (एक अर्थहीन मशीन जो केवल डेटा दोहराती है) है और न ही "सामान्य बुद्धिमत्ता" (General Intelligence) (एक मानव-समान विचारक)।
- यह एक "पैटर्न मास्टर" है: यह भाषा और डेटा में सांख्यिकीय पैटर्न को पहचानने में अविश्वसनीय रूप से अच्छा है। यह मानवीय प्रवाह की नकल कर सकता है और विशिष्ट, संकीर्ण कार्यों (जैसे व्याकरण परीक्षण) में मनुष्यों को हरा भी सकता है।
- इसमें "गहन समझ" की कमी है: इसमें अप्रासंगिक जानकारी को फ़िल्टर करने, चीजों के पीछे के "क्यों" को समझने, या वास्तव में मौलिक, सुसंगत कथाएँ बनाने की मानवीय क्षमता नहीं है।
सीख: AI एक बहुत ही प्रभावशाली उपकरण है जो सतह पर मानव जैसा दिखता है, लेकिन इसके नीचे, यह दुनिया को पूरी तरह से अलग तरीके से प्रोसेस कर रहा है। यह हमारी तरह "सोच" नहीं रहा है; यह एक सुपर-फास्ट कैलकुलेटर की तरह संभावनाओं (probabilities) की गणना कर रहा है। इसे वास्तव में उपयोगी बनाने के लिए, हमें यह पता लगाने की आवश्यकता है कि इसे केवल एक मशीन की तरह शब्दों की भविष्यवाणी करने के बजाय, एक इंसान की तरह तर्क करने के लिए कैसे बनाया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।