Where Cognition Lives: Dissecting Emergent from Computed Function in a Minimal Complete Cognitive Architecture
यह शोधपत्र यह प्रदर्शित करता है कि जबकि एक न्यूनतम आर्किटेक्चर में ग्रेडिएंट डिसेंट से मूल संज्ञानात्मक क्षमता उभर सकती है, महत्वपूर्ण मेटा-संज्ञानात्मक कार्य जैसे कि अनुकूलन योग्य ठहराव (adaptive halting) और मूल्य-आधारित संसाधन आवंटन स्वतःस्फूर्त रूप से उभरते नहीं हैं और महत्वपूर्ण प्रदर्शन लाभ प्राप्त करने के लिए उन्हें स्पष्ट रूप से कंप्यूट किया जाना चाहिए, जिसमें प्रयोगात्मक परिणाम दर्शाते हैं कि उच्च-जोखिम वाले परिदृश्यों में स्पष्ट मूल्य आवंटन सुचारू अनुमानों की तुलना में सात गुना तक अधिक लाभ प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सोचने वाली मशीनें बनाने की खोज में, वैज्ञानिक लंबे समय से इस बात पर बहस कर रहे हैं कि वास्तव में बुद्धिमत्ता की चमक कहाँ से आती है। विचारों का एक समूह मानता है कि यदि आप एक पर्याप्त बड़ा सिस्टम बनाते हैं और इसे विशाल मात्रा में डेटा से सीखने देते हैं, तो तर्क करने और निर्णय लेने जैसी जटिल क्षमताएं अपने आप प्रकट हो जाएंगी, ठीक वैसे ही जैसे एक बच्चा बिना संतुलन के यांत्रिकी सीखे चलना सीख जाता है। विपरीत विचार यह सुझाव देता है कि सोचना एक सावधानीपूर्वक इंजीनियर की गई प्रक्रिया है, जिसके लिए धारणा (perception), स्मृति और निर्णय के लिए अलग-अलग, समर्पित भागों की आवश्यकता होती है, ठीक वैसे ही जैसे विशेष असेंबली लाइनों वाला एक कारखाना। वर्षों तक, यह एक दार्शनिक खींचतान रही है, लेकिन एक नया अध्ययन इस बातचीत को सिद्धांत से प्रयोगशाला के फर्श तक ले आया है। शोधकर्ताओं ने एक छोटी, पूर्ण सोचने वाली मशीन बनाने और फिर उसके हर एक हिस्से का कड़ाई से परीक्षण करने का लक्ष्य रखा ताकि यह देखा जा सके कि क्या उसने अपना काम अनुभव के माध्यम से सीखा या उसे इसे करने के लिए स्पष्ट रूप से प्रोग्राम किया जाना था। उनका लक्ष्य केवल यह देखना नहीं था कि क्या मशीन समस्याओं को हल कर सकती है, बल्कि यह समझना भी था कि उसने यह निर्णय कैसे लिया कि कब सोचना बंद करना है, उसने कार्य के महत्व का आकलन कैसे किया, और क्या वह अपनी मानसिक ऊर्जा को प्रबंधित करना सीख सकती है।
टीम ने एक न्यूनतम लेकिन पूर्ण संज्ञानात्मक प्रणाली (cognitive system) का निर्माण किया, जो कुछ प्रमुख घटकों से मिलकर बना एक डिजिटल मस्तिष्क था। इसके केंद्र में एक 'रीज़नर' (reasoner) था, एक मॉड्यूल जो किसी समस्या पर चरण-दर-चरण काम कर सकता था। इसके चारों ओर इसे यह तय करने में मदद करने वाले उपकरण थे कि कितनी देर सोचना है, ऊर्जा को प्रबंधित करने के लिए एक नियंत्रण प्रणाली, और एक 'वैल्यू मॉड्यूल' जो यह तय करता था कि कार्य कितना महत्वपूर्ण है। उन्होंने इस प्रणाली को तार्किक पहेलियों की एक श्रृंखला पर प्रशिक्षित किया, विशेष रूप से प्रतीकों के पुनर्गठन (rearrangement of symbols) से जुड़े कार्य, जिन्हें मानक कंप्यूटर मॉडल बिना अटके हल करने में कठिनाई महसूस करते हैं। इसके बाद शोधकर्ताओं ने इस मशीन के प्रत्येक भाग को परीक्षणों की एक श्रृंखला के अधीन किया, प्रत्येक के लिए एक सरल प्रश्न पूछा: क्या यह क्षमता प्रशिक्षण प्रक्रिया से स्वाभाविक रूप से उभरी, या इसे एक विशिष्ट, पूर्व-डिज़ाइन किए गए तंत्र द्वारा गणना किया जाना था? उन्हें जो उत्तर मिले वे तीखे और अक्सर आश्चर्यजनक थे, जिससे पता चला कि जबकि समस्याओं को हल करने की क्षमता उभर सकती है, लेकिन यह तय करने की क्षमता कि कब रुकना है और प्रयास कैसे आवंटित करना है, उभर नहीं सकती।
सबसे महत्वपूर्ण खोज इस बात से संबंधित थी कि मशीन ने कब सोचना बंद करने का निर्णय लिया। कई आधुनिक कृत्रिम बुद्धिमत्ता प्रणालियों में, मॉडल को तब तक चलने की अनुमति दी जाती है जब तक कि वह चाहे, और वह केवल तभी रुकता है जब वह आश्वस्त महसूस करता है। शोधकर्ताओं ने पाया कि उनकी प्रणाली ने रुकना तो सीखा, लेकिन यह क्षमता एक वास्तविक कौशल के बजाय माप का एक भ्रम (illusion of measurement) थी। जब उन्होंने मशीन को ठीक उसी बिंदु पर रुकने के लिए मजबूर किया जो "स्मार्ट" संस्करण द्वारा चुना गया था, तो प्रदर्शन समान था। स्व-रुकने वाली मशीन का स्पष्ट लाभ पूरी तरह से इस बात के एक दोष (quirk) से आया कि उसके अंतिम उत्तर को कैसे पढ़ा गया, न कि कार्य की गहरी समझ से। एक बार जब शोधकर्ताओं ने इस पठन पद्धति को ठीक किया, तो मशीन के स्वयं को सोचते हुए देखने का मूल्य लगभग शून्य हो गया। यह जानना कि किस विशिष्ट पहेली को दूसरे की तुलना में अधिक समय की आवश्यकता है, प्रदर्शन में केवल एक प्रतिशत के बहुत छोटे हिस्से के बराबर था। मशीन का आंतरिक मॉनिटर वास्तव में बेहतर निर्णय नहीं ले रहा था; यह केवल उस तरीके का एक उपोत्पाद (byproduct) था जिससे सिस्टम बनाया गया था।
इससे वास्तविक निर्णय लेने की प्रक्रिया का एक स्पष्ट चित्र मिला। शोधकर्ताओं ने परीक्षण किया कि क्या मशीन कम महत्वपूर्ण कार्यों की तुलना में महत्वपूर्ण कार्यों को प्राथमिकता देना सीख सकती है, केवल इसे परिणाम की परवाह करने के लिए प्रशिक्षित करके। उन्होंने पाया कि प्रशिक्षण प्रक्रिया ने वास्तव में मशीन को इस मामले में बदतर बना दिया। जब प्रणाली को अपने उत्तरों के परिणामों को तौलना सिखाया गया, तो वह भ्रमित हो गई और कम सटीक हो गई। कार्य पर कितना प्रयास खर्च किया जाए, यह तय करने की क्षमता बिल्कुल भी सीखने की प्रक्रिया से नहीं उभरी। इसके बजाय, इसे एक अलग, स्पष्ट कैलकुलेटर द्वारा गणना किया जाना था जो समस्या को देखता था और मशीन के काम शुरू करने से पहले ही प्रयास स्तर का निर्णय लेता था। यह "परिकलित निर्णय" (computed decision) मशीन द्वारा स्वयं कार्य के मूल्य को सीखने के किसी भी प्रयास की तुलना में कहीं अधिक प्रभावी था। मशीन की आंतरिक स्थिति, जो प्रशिक्षण द्वारा आकार लेती है, स्वाभाविक रूप से उस जानकारी को त्याग देती है जो इन मूल्य-आधारित निर्णयों को लेने के लिए आवश्यक होती है, जिससे केवल स्पष्ट कैलकुलेटर ही काम पूरा करने का एकमात्र तरीका बचता है।
अध्ययन ने यह भी जांचा कि ये निष्कर्ष आज के लोकप्रिय विशाल भाषा मॉडलों (large language models) पर लागू होने पर कैसे टिकते हैं। शोधकर्ताओं ने एक बड़े, 'फ्रोजन' भाषा मॉडल का परीक्षण किया—एक ऐसा मॉडल जिसे फिर से प्रशिक्षित नहीं किया जा सकता है—समान तरीकों का उपयोग करके यह देखने के लिए कि क्या वह अपने सोचने के समय को नियंत्रित कर सकता है। उन्होंने पाया कि कई अलग-अलग उत्तर उत्पन्न करने और सबसे अच्छे पर मतदान करने की सामान्य रणनीति में सुधार की बहुत कम गुंजाइश थी। मॉडल गलत होने पर भी खुद से सहमत होने लगता था, जिसका अर्थ था कि उसे अधिक समय तक सोचने या अधिक बार मतदान करने के लिए कहने से शायद ही कोई मदद मिलती। ठीक छोटे मशीन की तरह, स्वयं को सोचते हुए देखने और रुकने का निर्णय लेने की क्षमता लगभग निरर्थक थी। शोधकर्ताओं ने निष्कर्ष निकाला कि इन बड़े मॉडलों के सोचने के तरीके को नियंत्रित करने का प्रयास करने से पहले, हमें पहले यह मापना होगा कि हमारे पास उन्हें नियंत्रित करने के लिए जो उपकरण हैं वे वास्तव में काम करते हैं या नहीं। कई मामलों में, जिस लीवर को हम खींचने की कोशिश करते हैं, वह मशीन को सार्थक रूप से हिला भी नहीं पाता है।
शोध का अंतिम अध्याय एक विशिष्ट प्रकार की कठिन समस्या की खोज करता है जहाँ सोचने की लागत अंत तक छिपी रहती है, जैसे कि एक ऐसे रास्ते पर चलना जहाँ आपको दूरी का पता केवल पहुँचने पर चलता है। इन "क्लिफ" (cliff) परिदृश्यों में, शोधकर्ताओं ने भविष्यवाणी की कि पहले से निर्णय लेने का मूल्य आसमान छू जाएगा। उनकी भविष्यवाणी सच साबित हुई: इन स्थितियों में, शुरू करने से पहले कार्य के मूल्य को जानना अविश्वसनीय रूप से महत्वपूर्ण हो गया, जो केवल कठिनाई जानने की तुलना में प्रदर्शन में भारी उछाल प्रदान करता है। हालाँकि, यह उछाल इसलिए नहीं आया क्योंकि मशीन अचानक समस्या को बेहतर समझने लगी थी; यह इसलिए आया क्योंकि सही होने का संभावित पुरस्कार बहुत बड़ा था। अध्ययन ने दिखाया कि समस्या का आकार और सूचना की संरचना अलग-अलग चीजें हैं। मशीन को सोचने के नए तरीके को सीखने की आवश्यकता नहीं थी; उसे बस उच्च दांव (high stakes) को संभालने के लिए एक स्पष्ट, पूर्व-निर्लिखित योजना की आवश्यकता थी।
अंततः, इस शोध का मानचित्र यह बताता है कि संज्ञान (cognition) कहाँ नहीं रहता है। यह मशीन की स्वयं को सोचते हुए देखने की क्षमता में नहीं रहता, और न ही यह प्रशिक्षण प्रक्रिया में रहता है जो इसे किसी कार्य को महत्व देना सिखाती है। इसके बजाय, प्रयास का प्रबंधन करने और इस बारे में दूसरे क्रम के निर्णय लेने की क्षमता कि क्या महत्वपूर्ण है, एक अलग, स्पष्ट गणना के रूप में निर्मित की जानी चाहिए। मशीन पहेली को हल करना सीखती है, लेकिन उसे एक अलग तंत्र द्वारा बताया जाना चाहिए कि उसे कितनी मेहनत करनी है। शोधकर्ताओं ने पाया कि उनके काम का सबसे पुन: प्रयोज्य (reusable) हिस्सा कोई नया प्रकार का बुद्धिमत्ता नहीं था, बल्कि यह मापने का एक कठोर तरीका था कि क्या वास्तविक है और क्या एक भ्रम है। यह सिद्ध करके कि कई मानी जाने वाली क्षमताएं वास्तव में उन्हें मापने के तरीकों के प्रभाव (artifacts) हैं, उन्होंने मशीनों के निर्माण के लिए एक स्पष्ट, अधिक ईमानदार आधार प्रदान किया है जो वास्तव में सोच सकती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।