Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
यह परिप्रेक्ष्य पत्र वर्तमान एलएलएम (LLM) मूल्यांकनों द्वारा क्षमताओं को बढ़ा-चढ़ाकर दिखाने की आलोचना करता है, कार्य पीढ़ी (task generation) और विश्व मॉडलिंग (world modeling) सहित चार प्रमुख विशेषताओं के माध्यम से कृत्रिम सामान्य बुद्धिमत्ता (AGI) को परिभाषित करता है, और यह तर्क देता है कि एजीआई (AGI) प्राप्त करने के लिए सक्रिय वास्तविक-विश्व जुड़ाव और पुनरावृत्त प्रयास-और-त्रुटि सीखने के माध्यम से जानने और कार्य करने के बीच के अंतर को पाटना आवश्यक है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "एक बर्तन में मस्तिष्क" (The Brain in a Vat)
कल्पना कीजिए कि एक व्यक्ति है जिसका मस्तिष्क उसके शरीर से काटकर पोषक तत्वों से भरे एक जार (बर्तन) में रख दिया गया है। एक सुपरकंप्यूटर सीधे उसके मस्तिष्क से जुड़ा हुआ है, जो उसे ऐसे विद्युत संकेत भेज रहा है जो चलने, खाने, बोलने और दुनिया को देखने के अहसास की सटीक नकल करते हैं। जार में मौजूद उस व्यक्ति के लिए, जीवन पूरी तरह से वास्तविक लगता है। वह धाराप्रवाह बोल सकता है और एक "कप" का विस्तार से वर्णन कर सकता है।
हालाँकि, उसने वास्तव में कभी किसी कप को पकड़ा नहीं है, उसका वजन महसूस नहीं किया है, या उससे पानी नहीं पिया है। वह केवल इसलिए जानता है कि "कप" क्या है क्योंकि कंप्यूटर ने उसे बताया कि इस शब्द का अर्थ क्या है।
पेपर का दावा: वर्तमान लार्ज लैंग्वेज मॉडल्स (LLMs) जैसे GPT-4 बिल्कुल इसी "बर्तन में मस्तिष्क" की तरह हैं। वे टेक्स्ट को प्रोसेस करने और वाक्य में अगले शब्द की भविष्यवाणी करने में बहुत कुशल हैं, लेकिन उनका भौतिक दुनिया से कोई वास्तविक संबंध नहीं है। वे चीजों के लिए शब्दों को जानते हैं, लेकिन वे उन चीजों को नहीं जानते।
भाग 1: हम क्यों धोखा खा जाते हैं (द "रट्टा मारने" की समस्या)
लेखकों का तर्क है कि हम अक्सर LLMs को प्रतिभाशाली इसलिए समझते हैं क्योंकि वे मानकीकृत परीक्षाओं (जैसे SAT, बार एग्जाम, या GRE) में बहुत उच्च अंक प्राप्त करते हैं।
उपमा: कल्पना कीजिए कि एक छात्र ने एक विशिष्ट गणित की परीक्षा के पिछले 50 वर्षों के सभी उत्तरों को रट लिया है। जब आप उसे वह परीक्षा देते हैं जो उसने पहले देखी है, तो वह पूर्ण अंक प्राप्त करता है। लेकिन यदि आप उससे एक बिल्कुल नए प्रकार का गणित का सवाल हल करने के लिए कहते हैं, जो उसने पहले कभी नहीं देखा, या यदि आप संख्याएँ थोड़ी बदल देते हैं, तो वह बुरी तरह विफल हो जाता है। उसने गणित नहीं सीखा; उसने पैटर्न सीखे हैं।
पेपर दिखाता है कि LLMs भी यही कर रहे हैं:
- वे "रट्टा मारने" में माहिर हैं: वे उन विषयों में उत्कृष्ट हैं जिनमें बहुत सारा टेक्स्ट डेटा है (जैसे इतिहास या साहित्य) क्योंकि उन्होंने पैटर्न को याद कर लिया है।
- वे "तर्क" (Reasoning) में संघर्ष करते हैं: जब परीक्षा के लिए वास्तविक तर्क, भौतिकी, या किसी नई समस्या को हल करने की आवश्यकता होती है (जैसे उन्नत गणित या विज्ञान), तो उनके स्कोर काफी गिर जाते हैं। वे केवल इस आधार पर अनुमान लगा रहे होते हैं कि कौन से शब्दों के बाद कौन से शब्द आमतौर पर आते हैं, न कि अंतर्निहित नियमों को समझकर।
भाग 2: भाषा का "हिंडोला" (The Merry-Go-Round of Language)
पेपर एक मजेदार प्रयोग का वर्णन करता है जहाँ दो AI चैटबॉट्स को आपस में बात करने के लिए छोड़ दिया गया था।
- क्या हुआ: उन्होंने एक सामान्य वाक्य ("आज बहुत गर्मी है") के साथ शुरुआत की। कुछ आदान-प्रदान के बाद, वे एक लूप में फंस गए, बस बार-बार "धन्यवाद!" और "आपका दिन शुभ हो!" कहते रहे।
- सबक: वास्तविकता के साथ बातचीत किए बिना, भाषा "टेलीफोन" के खेल की तरह हो जाती है जहाँ प्रतीक (symbols) केवल दूसरे प्रतीकों से जुड़ते हैं। वे वास्तविकता के बारे में संवाद नहीं कर रहे हैं; वे केवल एक-दूसरे को एक घेरे में गूँज (echo) रहे हैं।
भाग 3: वास्तविक बुद्धिमत्ता को वास्तव में किसकी आवश्यकता है
लेखकों का कहना है कि "ब्रेन इन अ वैट" से वास्तविक आर्टिफिशियल जनरल इंटेलिजेंस (AGI) तक पहुँचने के लिए, एक सिस्टम को चार विशिष्ट गुणों की आवश्यकता है जो वर्तमान AI में नहीं हैं:
- अनंत कार्य (Infinite Tasks): इसे केवल कार्यों की एक निश्चित सूची (जैसे "ईमेल लिखना" या "गणित की समस्या हल करना") करने में सक्षम नहीं होना चाहिए। इसे सामने आने वाले किसी भी कार्य को संभालने में सक्षम होना चाहिए।
- नए कार्य बनाना (Creating New Tasks): इसे केवल निर्देशों का इंतजार नहीं करना चाहिए। इसे किसी स्थिति को देखकर यह कहने में सक्षम होना चाहिए, "मुझे इसे ठीक करने का तरीका पता लगाने की जरूरत है," और इसे हल करने के लिए एक नया कार्य आविष्कार करना चाहिए।
- एक मूल्य प्रणाली (A Value System): इसके पास एक "क्यों" होना चाहिए। जिस तरह मनुष्य अस्तित्व, जिज्ञासा या दयालुता से प्रेरित होते हैं, एक AI को एक आंतरिक मूल्यों के सेट की आवश्यकता होती है जो यह तय करे कि उसे आगे क्या करने की कोशिश करनी चाहिए।
- एक विश्व मॉडल (A World Model): इसके पास इस बात का मानसिक मानचित्र होना चाहिए कि वास्तविक दुनिया कैसे काम करती है (गुरुत्वाकर्षण, कारण-और-प्रभाव, सामाजिक मानदंड), न कि केवल इस बात का कि शब्द एक-दूसरे से कैसे संबंधित हैं।
भाग 4: छूटा हुआ हिस्सा – "जानना" बनाम "करना"
पेपर एक प्रसिद्ध चीनी दार्शनिक, वांग यांग-मिंग का उपयोग एक बात समझाने के लिए करता है: "जो 'जानते' हैं लेकिन कार्य नहीं करते, वे वास्तव में अभी तक नहीं जानते।"
"कप" की उपमा:
- वर्तमान AI: आपको बता सकता है कि एक कप "गोल" है, "इसका एक हैंडल है," और "पीने के लिए उपयोग किया जाता है।" इसने लाखों बार इसकी परिभाषा पढ़ी है।
- वास्तविक बुद्धिमत्ता: एक बच्चा यह सीखने के लिए कप को पकड़ता है, उसे गिराता है, उसे गर्म महसूस करता है, उसे गिरा देता है, और महसूस करता है, "ओह, यह तरल पदार्थ रखने के लिए है, और यदि मैं इसे बहुत अधिक झुका दूँगा, तो यह छलक जाएगा।"
लेखकों का तर्क है कि ज्ञान क्रिया (action) से आता है। आप केवल एक मैनुअल पढ़कर (पैसिव इनपुट) दुनिया को वास्तव में नहीं समझ सकते। आपको छूना, तोड़ना, प्रयास करना और असफल होना पड़ता है (एक्टिव इंटरैक्शन)।
- "ब्लिकेट" (Blicket) प्रयोग: पेपर एक प्रयोग का उल्लेख करता है जहाँ बच्चे सीखते हैं कि कौन से ब्लॉक एक मशीन को चालू करते हैं। जो बच्चे ब्लॉकों के साथ खेलने और उनका परीक्षण करने की अनुमति पाते हैं, वे उन बच्चों की तुलना में बहुत तेजी से सीखते हैं जो केवल देखते रहते हैं। वर्तमान AI उस बच्चे की तरह है जिसे केवल देखने की अनुमति है; वह खेल के नियम नहीं सीख सकता क्योंकि वह टुकड़ों को छू नहीं सकता।
भाग 5: आगे क्या करने की आवश्यकता है?
पेपर निष्कर्ष निकालता है कि हमें केवल बड़े टेक्स्ट डेटाबेस बनाने पर रुकना नहीं चाहिए। वास्तविक AGI बनाने के लिए, हमें निम्नलिखित की आवश्यकता है:
- बेहतर परीक्षण: हमें AI का परीक्षण उन चीजों पर करना बंद कर देना चाहिए जिन्हें उसने इंटरनेट से पहले ही याद कर लिया होगा। हमें ऐसे परीक्षणों की आवश्यकता है जो उसे ऐसी नई समस्याओं को हल करने के लिए मजबूर करें जो उसने पहले कभी नहीं देखी हैं।
- समृद्ध खेल के मैदान (Rich Playgrounds): हमें आभासी दुनिया (मेटावर्स) बनानी होगी जहाँ AI वास्तव में चीजें कर सके। केवल चैट करना ही नहीं, बल्कि वस्तुओं को उठाना, उनका वजन महसूस करना और यह देखना कि उनके टूटने पर क्या होता है।
- जानने और करने की एकता (Unity of Knowing and Acting): हमें ऐसे सिस्टम बनाने की आवश्यकता है जहाँ सीखना और करना एक ही चीज़ हो। AI को चीजें आजमाकर, गलतियाँ करके और परिणामों के आधार पर अपनी समझ को समायोजित करके सीखना चाहिए।
संक्षेप में: पेपर कहता है, "AI को एक महान विश्वकोश होने के लिए प्रशंसा करना बंद करें। यह केवल एक बहुत अच्छा नकलची (mimic) है। इसे वास्तव में बुद्धिमान बनाने के लिए, हमें इसे एक शरीर (या एक रोबोट) देने की आवश्यकता है ताकि यह केवल पढ़ने के बजाय करके सीख सके।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।