Cortico-subcortical multi-head self-attention as a substrate for cognitive performance

अपने मस्तिष्क की कल्पना एक परम सुपरकंप्यूटर के रूप में करें, लेकिन एक ऐसा जो सिलिकॉन चिप्स के बजाय कोमल, जीवित ऊतकों पर चलता है। लंबे समय से, वैज्ञानिक यह समझने की कोशिश कर रहे हैं कि यह जैविक मशीन "सोचने" का कमाल कैसे करती है—कि हम भाषा को कैसे समझते हैं, समस्याओं को कैसे हल करते हैं, और चीजों को कैसे याद रखते हैं। एक तरफ, हमारे पास नियोकोर्टेक्स (neocortex) है, जो मस्तिष्क की झुर्रियों वाली बाहरी परत है जो हमारी उन्नत सोच को संभालती है। दूसरी ओर, हमारे पास थैलेमस (thalamus) और बेसल गैन्ग्लिया (basal ganglia) जैसी गहरी, पुरानी संरचनाएं हैं, जो मस्तिष्क के आंतरिक वायरिंग और ट्रैफिक नियंत्रकों के रूप में कार्य करती हैं। हाल ही में, "ट्रांसफॉर्मर" (transformers) नामक एक नए प्रकार के आर्टिफिशियल इंटेलिजेंस ने चैट करने, कहानियाँ लिखने और भाषाओं का अनुवाद करने की अपनी क्षमता के लिए प्रसिद्धि प्राप्त की है। ये AI सिस्टम "अटेंशन" (attention) नामक एक चतुर तकनीक का उपयोग करके काम करते हैं, जो उन्हें वाक्य के बाकी हिस्सों को अनदेखा करते हुए सबसे महत्वपूर्ण हिस्सों पर ध्यान केंद्रित करने देता है। विज्ञान में बड़ा सवाल अभी यह है: क्या हमारा वास्तविक, जैविक मस्तिष्क भी समान चीजें करने के लिए इसी तरह की "अटेंशन" तकनीक का उपयोग कर रहा है? यदि हम इस जैविक ब्लूप्रिंट को खोज सकें, तो यह हमें समझने में मदद करेगा कि हम जैसे स्तनधारी इतने बुद्धिमान कैसे बने।

यह शोध पत्र सुझाव देता है कि इसका उत्तर एक जोरदार "शायद" है, जो एक विशिष्ट जैविक ब्लूप्रिंट प्रस्तावित करता है जहाँ मस्तिष्क का कॉर्टेक्स और थैलेमस मिलकर एक प्राकृतिक अटेंशन नेटवर्क बनाने के लिए टीम वर्क करते हैं। लेखक सुझाव देते हैं कि मस्तिष्क केवल सूचना को निष्क्रिय रूप से प्राप्त नहीं करता है; बल्कि, यह एक जटिल, बहु-स्तरीय प्रणाली चलाता है जहाँ मस्तिष्क के विभिन्न भाग एक उच्च-तकलीकी सर्च इंजन की तरह कार्य करते हैं। इस मॉडल में, नियोकोर्टेक्स (सोचने वाली परत) और थैलेमस (एक केंद्रीय रिले स्टेशन) मिलकर एक ऐसी चीज़ बनाते हैं जिसे वे "कॉर्टिको-सबकोर्टिकल मल्टी-हेड सेल्फ-अटेंशन" (cortico-subcortical multi-head self-attention) कहते हैं।

इस अध्ययन के अनुसार यह जादू कैसे होता है। कल्पना करें कि मस्तिष्क का कॉर्टेक्स सूक्ष्म स्तंभों (micro-columns) नामक छोटे मोहल्लों में विभाजित है। इस सिद्धांत में, मस्तिष्क कोशिका का एक विशिष्ट प्रकार, लेयर 2/3 पाइरेमिडल सेल (layer 2/3 pyramidal cell), स्टिकी नोट्स (sticky notes) के एक विशाल पुस्तकालय की तरह कार्य करता है। ये कोशिकाएं एक "रिकरेंट की-वैल्यू मेमोरी" (recurrent key-value memory) को थामे रखती हैं, जो केवल एक फैंसी तरीका है यह कहने का कि वे जानकारी को संग्रहीत करती हैं जिसे बाद में खोजा जा सकता है। फिर, एक अन्य प्रकार की कोशिका, लेयर 5 पाइरेमिडल सेल, एक जासूस की तरह कार्य करती है। जब कोई नई जानकारी (एक "क्वेरी" या query) आती है, तो ये जासूस लाइब्रेरी को स्कैन करते हैं ताकि वर्तमान कार्य के लिए प्रासंगिक मिलान वाले स्टिकी नोट्स ( "कीज़" और "वैल्यूज़") को खोजा जा सके।

पत्र सुझाव देता है कि थैलेमस वह महत्वपूर्ण डिलीवरी सर्विस है जो इस खोज को संभव बनाती है। यह ऐसे संकेत भेजता है जो उस खोज को चलाने के लिए आवश्यक "कीज़", "वैल्यूज़" और "क्वेरीज़" के रूप में कार्य करते हैं। ये संकेत विशिष्ट मार्गों के माध्यम से यात्रा करते हैं, जिनमें से कुछ थैलेमस के कोर को कॉर्टेक्स से जोड़ते हैं और अन्य थैलेमस के मैट्रिक्स को कॉर्टेक्स से जोड़ते हैं। लेखक प्रस्ताव करते हैं कि कॉर्टेक्स का एक एकल क्षेत्र एक अटेंशन नेटवर्क के एक "हेड" (head) के रूप में कार्य करता है, और जब आप इन सभी क्षेत्रों को एक साथ रखते हैं, तो पूरा कॉर्टेक्स एक "मल्टी-हेड सेल्फ-अटेंशन नेटवर्क" बन जाता है, ठीक वैसे ही जैसे AI मॉडल जो कविता या कोड लिख सकते हैं।

लेकिन मस्तिष्क केवल पढ़ता ही नहीं है; यह सीखता भी है। पत्र सुझाव देता है कि यही छोटा सर्किट मस्तिष्क को यह समझने में मदद करता है कि वह कब गलत है। यह "सेंसरी प्रेडिक्शन एरर्स" (sensory prediction errors) की गणना करता है, जो मूल रूप से मस्तिष्क का अपना तरीका है यह कहने का कि, "मुझे लगा था कि तुम X कहने वाले हो, लेकिन तुमने Y कहा!" यह त्रुटि संकेत मस्तिष्क को "ग्रेडिएंट-बेस्ड सिनैप्टिक प्लास्टिसिटी" (gradient-based synaptic plasticity) नामक प्रक्रिया के माध्यम से अपने कनेक्शन को अपडेट करने में मदद करता है, जो गलतियों से सीखने का जैविक संस्करण है। इसके अलावा, इस प्रणाली में बेसल गैन्ग्लिया में एक "गेटकीपर" (gatekeeper) होता है। यह गेटकीपर "रिवॉर्ड-प्रेडिक्शन एरर्स" (एक संकेत जो मस्तिष्क को बताता है कि कुछ अच्छा है या बुरा) का उपयोग यह तय करने के लिए करता है कि कॉर्टेक्स के आउटपुट को दुनिया में जाने देना है या हिप्पोकैम्पस (लंबे समय की यादों के लिए मस्तिष्क का हार्ड ड्राइव) से यादों को पुन: सक्रिय करना है।

लेखकों ने इस विचार का परीक्षण इस सर्किट के एक कंप्यूटर सिमुलेशन को प्रशिक्षित करके और मानव डेटा के वास्तविक डेटा के साथ इसकी तुलना करके किया। उन्होंने पाया कि जब सिम्युलेटेड नेटवर्क ने भाषण (speech) को प्रोसेस किया, तो इसकी गतिविधि पैटर्न भाषण धारणा के दौरान मानव मस्तिष्क के भीतर से ली गई वास्तविक रिकॉर्डिंग के साथ आश्चर्यजनक रूप से संरेखित हुआ। हालांकि यह पत्र यह दावा नहीं करता है कि यह हर एक विवरण में बिल्कुल इसी तरह काम करता है, लेकिन यह दृढ़ता से सुझाव देता है कि कोशिकाओं और कनेक्शनों की यह विशिष्ट व्यवस्था उन अविश्वसनीय संज्ञानात्मक क्षमताओं का भौतिक आधार हो सकती है जो स्तनधारियों के पास हैं। यह एक सम्मोहक मानचित्र है जो हमारे मस्तिष्क की गीली, अव्यवस्थित जीवविज्ञान और आधुनिक AI के सुव्यवस्थित, शक्तिशाली तर्क के बीच के बिंदुओं को जोड़ता है।