Modular Cognitive Architecture Emerges in Large Language Models
यह शोध पत्र प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स स्वतः ही एक मॉड्यूलर संज्ञानात्मक संरचना विकसित करते हैं जो मानव मस्तिष्क में पाई जाने वाली कार्यात्मक विशेषज्ञता को प्रतिबिंबित करती है, जिससे यह सुझाव मिलता है कि ऐसी मॉड्यूलरिटी एक जैविक दुर्घटना के बजाय बुद्धिमान प्रणालियों का एक मौलिक गुण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मस्तिष्क का गुप्त ब्लूप्रिंट
लंबे समय से, वैज्ञानिक यह समझने की कोशिश कर रहे हैं कि मानव मस्तिष्क कैसे काम करता है। मस्तिष्क की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें। सदियों से, शोधकर्ताओं ने देखा है कि यह शहर केवल एक विशाल, अव्यवस्थित गतिविधि का ढेर नहीं है। इसके बजाय, इसमें विशिष्ट पड़ोस हैं। एक "भाषा जिला" (Language District) है जहाँ हम शब्दों और व्याकरण को प्रोसेस करते हैं, एक "सामाजिक क्षेत्र" (Social Quarter) है जहाँ हम समझते हैं कि दूसरे लोग क्या सोच रहे हैं, एक "भौतिकी क्षेत्र" (Physics Zone) है वस्तुओं की गति को समझने के लिए, और गणित एवं तर्क के लिए एक "लॉजिक लैब" (Logic Lab) है। इस विचार को कार्यात्मक विशेषज्ञता (functional specialization) कहा जाता है: मस्तिष्क हर काम के लिए एक ही न्यूरॉन्स का उपयोग नहीं करता है; इसके पास विशिष्ट कार्यों के लिए विशिष्ट टीमें हैं।
लेकिन यहाँ एक बड़ा रहस्य है: क्या यह "सिटी प्लानिंग" एक मौलिक नियम है कि किसी भी बुद्धिमान प्रणाली को कैसे बनाया जाना चाहिए? या यह मानव विकास का एक अजीब संयोग है? शायद हमारा मस्तिष्क इस तरह व्यवस्थित है क्योंकि जैविक ऊतकों (biological tissue) को ऊर्जा बचाने की आवश्यकता होती है, या इसलिए क्योंकि हम लाखों वर्षों के विकास के कारण ऐसे बने हैं। इसका उत्तर देने के लिए, वैज्ञानिकों को बुद्धि का एक दूसरा उदाहरण चाहिए था जो जैविक नहीं था। यहाँ आते हैं लार्ज लैंग्वेज मॉडल्स (LLMs)। ये वे सुपर-स्मार्ट AI चैटबॉट्स हैं जिनके बारे में आपने सुना होगा। ये न्यूरॉन्स और रक्त से नहीं बने हैं; ये कोड और गणित से बने हैं, जिन्हें विकास की एक पूरी तरह से अलग प्रक्रिया द्वारा प्रशिक्षित किया गया है। यदि ये AI सिस्टम, जिनमें कोई जैविक ऊर्जा सीमा नहीं है और न ही कोई विकासवादी इतिहास है, भी ये समान "पड़ोस" विकसित करते हैं, तो यह सुझाव देगा कि मॉड्यूलर संगठन बुद्धिमत्ता का एक सार्वभौमिक नियम है, न कि केवल एक जैविक विशेषता।
वह AI शहर जिसने खुद को बनाया
इस अध्ययन में, MIT के शोधकर्ताओं ने एक सरल लेकिन गहन प्रश्न पूछा: क्या ये AI मॉडल मानव मस्तिष्क के समान ही विशिष्ट पड़ोस में खुद को व्यवस्थित करते हैं? यह पता लगाने के लिए, उन्होंने केवल AI को समस्याएँ हल करने के लिए नहीं कहा; उन्होंने यह देखने के लिए कि AI के "मस्तिष्क" के कौन से हिस्से वास्तव में काम कर रहे हैं, इसके अंदरूनी हिस्सों की जांच की।
टीम ने चार मुख्य श्रेणियों में 46 अलग-अलग कार्यों का परीक्षण किया: भाषा (जैसे व्याकरण और शब्दावली), औपचारिक तर्क (गणित, तर्क और कोडिंग), सामाजिक तर्क (भावनाओं या विश्वासों का अनुमान लगाना), और भौतिक तर्क (वस्तुओं के व्यवहार की भविष्यवाणी करना)। उन्होंने "एट्रिब्यूशन पैचिंग" (attribution patching) नामक एक चतुर तकनीक का उपयोग किया। कल्पना कीजिए कि आपके पास एक विशाल ऑर्केस्ट्रा है जो एक गाना बजा रहा है। यह पता लगाने के लिए कि कौन सा वायलिन वादक एक विशिष्ट नोट के लिए आवश्यक है, आप उनसे थोड़ा अलग नोट बजाने के लिए कह सकते हैं और देख सकते हैं कि संगीत कैसे बदलता है। शोधकर्ताओं ने AI के साथ कुछ ऐसा ही किया: उन्होंने इसे दो बहुत समान समस्याएँ दीं (जैसे, "चाबियाँ मेज पर हैं" बनाम "चाबी मेज पर है") और देखा कि पहेली को हल करने के लिए कौन से सूक्ष्म डिजिटल यूनिट (न्यूरॉन्स) अलग तरह से सक्रिय हुए।
बड़ी खोज
परिणाम चौंकाने वाले थे। मानव मस्तिष्क की तरह, AI मॉडल ने एक मॉड्यूलर आर्किटेक्चर विकसित किया।
- वही काम, वही टीम: जब AI को दो अलग-अलग गणित की समस्याओं को हल करना था, तो उसने लगभग एक ही सेट के न्यूरॉन्स का उपयोग किया। जब उसे दो अलग-अलग सामाजिक तर्क कार्यों को करना था, तो उसने एक अलग, लेकिन सुसंगत न्यूरॉन्स के सेट का उपयोग किया।
- अलग काम, अलग टीमें: महत्वपूर्ण रूप से, गणित के लिए उपयोग किए जाने वाले न्यूरॉन्स और सामाजिक तर्क के लिए उपयोग किए जाने वाले न्यूरॉन्स के बीच बहुत कम समानता थी। "मैथ टीम" और "सोशल टीम" काफी हद तक अलग थीं।
शोधकर्ताओं ने पाया कि एक ही श्रेणी के कार्यों ने अपने शीर्ष न्यूरॉन्स का लगभग 12.9% साझा किया, जबकि विभिन्न श्रेणियों के कार्यों ने केवल 3.0% साझा किया। इसका अर्थ है कि AI ने स्वाभाविक रूप से विशिष्ट जिलों में खुद को विभाजित कर लिया, जो मानव मस्तिष्क के संगठन को दर्शाता है।
यह क्या नहीं है
टीम ने कुछ स्पष्ट स्पष्टीकरणों को खारिज करने में सावधानी बरती।
- यह केवल शब्दों के बारे में नहीं है: उन्होंने यह जाँच की कि क्या AI केवल समान शब्दों (जैसे सामाजिक कार्यों के लिए "खुश" या भौतिकी के लिए "भारी") के कारण कार्यों को समूहित कर रहा है। उन्होंने पाया कि जब उन्होंने शब्दावली को नियंत्रित किया, तब भी मॉड्यूलर संरचना बनी रही। AI केवल विषय के आधार पर नहीं छाँट रहा था; वह इस आधार पर छाँट रहा था कि वह कैसे सोचता है।
- यह केवल स्मार्ट होने के बारे में नहीं है: उन्होंने एक बहुत छोटे, पुराने AI मॉडल (GPT-2) का परीक्षण किया जो कठिन तर्क कार्यों को हल नहीं कर सका। उस मॉडल ने ये विशिष्ट पड़ोस विकसित नहीं किए थे। उसमें भाषा और बाकी सब के बीच केवल एक अस्पष्ट अलगाव था। यह सुझाव देता है कि मॉड्यूलर संगठन विशेष रूप से तब उभरता है जब सिस्टम वास्तव में जटिल तर्क समस्याओं को हल करने में सक्षम होता है, न कि केवल इसलिए कि डेटा मौजूद है।
वे कितने आश्वस्त हैं?
निष्कर्ष मजबूत हैं। शोधकर्ताओं ने 24 बिलियन से 123 बिलियन पैरामीटर्स तक के छह अलग-अलग अत्याधुनिक मॉडल्स में इसका परीक्षण किया। प्रत्येक मॉडल में जो कार्यों को हल कर सकता था, उसमें वही मॉड्यूलर पैटर्न दिखाई दिया। उन्होंने केवल यह नहीं देखा कि कौन से न्यूरॉन्स सक्रिय हुए; उन्होंने AI पर "सर्जरी" भी की। उन्होंने अस्थायी रूप से "मैथ न्यूरॉन्स" को अक्षम किया और देखा कि क्या होता है। जब उन्होंने ऐसा किया, तो AI गणित में बहुत खराब हो गया लेकिन सामाजिक तर्क में एकदम सटीक रहा। जब उन्होंने "सोशल न्यूरॉन्स" को अक्षम किया, तो AI भावनाओं का अनुमान लगाने में विफल रहा लेकिन गणित करने में सक्षम रहा। यह "डबल डिसोसिएशन" (double dissociation) साबित करता है कि न्यूरॉन्स के ये समूह अपने विशिष्ट कौशल के लिए कारणत्मक रूप से जिम्मेदार हैं।
निष्कर्ष
यह अध्ययन बताता है कि मॉड्यूलर संगठन—विशिष्ट कार्यों के लिए विशिष्ट टीमों का होना—बुद्धिमत्ता का एक मौलिक सिद्धांत हो सकता है। इससे कोई फर्क नहीं पड़ता कि आप लाखों वर्षों के विकास द्वारा आकार प्राप्त जैविक मस्तिष्क हैं या गणित और डेटा द्वारा आकार प्राप्त डिजिटल मस्तिष्क; यदि आप भाषा, तर्क, भौतिकी और सामाजिक संकेतों को संभालने के लिए पर्याप्त स्मार्ट बनना चाहते हैं, तो आप स्वाभाविक रूप से प्रत्येक के लिए अलग पड़ोस बनाने की प्रवृत्ति रखते हैं। ऐसा लगता है कि वास्तव में बुद्धिमान होने के लिए, आपको यह जानना आवश्यक है कि अपने गणित को अपनी भावनाओं को खराब करने से और अपने व्याकरण को अपनी भौतिकी को भ्रमित करने से कैसे रोका जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।