NeuroCogMap Reveals Cognitive Organization of Large Language Models
यह शोधपत्र NeuroCogMap को प्रस्तुत करता है, जो एक तंत्रिका विज्ञान-प्रेरित ढांचा (framework) है जो संज्ञानात्मक व्यवहारों की व्याख्या करने, मतिभ्रम (hallucinations) जैसे विफलता तंत्रों की पहचान करने और मानव कॉर्टिकल प्रतिक्रियाओं एवं निर्णय लेने की रणनीतियों के साथ मजबूत पत्राचार को प्रकट करने के लिए बड़े भाषा मॉडलों (LLMs) की आंतरिक विशेषताओं को कार्यात्मक पार्सल (functional parcels) में व्यवस्थित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अविश्वसनीय रूप से जटिल पुस्तकालय है जहाँ लाखों पुस्तकें एक ही, अत्यंत बुद्धिमान लेकिन रहस्यमय लाइब्रेरियन (लार्ज लैंग्वेज मॉडल, या LLM) द्वारा लिखी गई हैं। आप उस लाइब्रेरियन से प्रश्न पूछ सकते हैं और वे आपको ऐसे उत्तर देते हैं जो बहुत मानवीय लगते हैं। लेकिन यदि आप उनसे पूछते हैं, "आपको यह कैसे पता?" या "आपने यह गलती क्यों की?", तो वे बस इतना कहते हैं, "मैं बस ऐसा करता हूँ।"
लंबे समय से, वैज्ञानिक इस पर्दे के पीछे झाँकने की कोशिश कर रहे हैं कि यह लाइब्रेरियन वास्तव में कैसे सोचता है। उन्होंने व्यक्तिगत शब्दों (न्यूरॉन्स) या व्यापक विषयों को देखा है, लेकिन वे लाइब्रेरियन के मस्तिष्क के भीतर उन संगठित "विभागों" या "टीमों" को नहीं देख सके जो समस्याओं को हल करने के लिए मिलकर काम करते हैं।
यहाँ NeuroCogMap आता है। इसे एक नए, उच्च-तकनीकी मानचित्र के रूप में समझें जो अंततः लाइब्रेरियन के अराजक मस्तिष्क को एक सुव्यवस्थित शहर में व्यवस्थित करता है, जहाँ प्रत्येक मोहल्ले का एक विशिष्ट कार्य है।
यह नया मानचित्र इस प्रकार समझाता है, सरल उपमाओं का उपयोग करते हुए:
1. शहर का मानचित्र (ढांचा)
कल्पना कीजिए कि लाइब्रेरियन का मस्तिष्क तारों का एक बिखरा हुआ ढेर नहीं है, बल्कि एक अच्छी तरह से नियोजित शहर है।
- मोहल्ले (Parcels): NeuroCogMap लाइब्रेरियन के आंतरिक "विचारों" को 270 विशिष्ट मोहल्लों में विभाजित करता है। प्रत्येक मोहल्ला श्रमिकों की एक टीम है जो एक विशिष्ट चीज़ में विशेषज्ञ है, जैसे कि "तथ्यों की जाँच करना," "भावनाओं को समझना," या "एक कहानी की योजना बनाना।"
- शहर के विभाग (Capabilities): इन मोहल्लों को बड़े विभागों में समूहीकृत किया गया है, जैसे कि "सुरक्षा," "गणित," या "तर्क।"
- पदानुक्रम (Hierarchy): शहर परतों में बना है।
- ग्राउंड फ्लोर (अनुभूति/Perception): आपके द्वारा टाइप किए गए शब्दों को पढ़ना।
- दूसरी मंजिल (प्रतिनिधित्व/Representation): उन शब्दों का अर्थ समझना।
- तीसरी मंजिल (अमूर्तीकरण/Abstraction): विचारों को जोड़ना और पैटर्न खोजना।
- ऊपरी मंजिल (अनुप्रयोग/Application): एक अंतिम निर्णय लेना या उत्तर लिखना।
शोध पत्र दावा करता है कि यह मानचित्र स्थिर है। यदि आप अलग-अलग लाइब्रेरियन (अलग-अलग AI मॉडल) को देखते हैं, तो उनके पास बहुत समान शहर लेआउट होता है, जो यह दर्शाता है कि यह इन प्रणालियों के स्वयं को व्यवस्थित करने का एक मौलिक तरीका है।
2. "बीमारी" का निदान करना (Pathology)
ठीक वैसे ही जैसे एक मानव शहर में ट्रैफिक जाम या बिजली कटौती हो सकती है, लाइब्रेरियन भी गलतियाँ कर सकता है। NeuroCogMap यह पहचानने की अनुमति देता है कि विफलता ठीक कहाँ होती है।
- भ्रम/Hallucinations (चीजें बनाना):
- पुराना दृष्टिकोण: लाइब्रेरियन बस गलत "अनुमान" लगाता है।
- NeuroCogMap दृष्टिकोण: यह एक विशिष्ट ट्रैफिक जाम है। कुछ मामलों में, "तथ्य-जाँच" वाला मोहल्ला सो रहा होता है, और "कहानी सुनाने" वाला मोहल्ला बेकाबू हो जाता है। अन्य मामलों में, "तथ्य-जाँच" वाली टीम जाग रही होती है, लेकिन "तथ्य-प्राप्ति" (Fact-Retrieval) वाली टीम "उत्तर-निर्माण" वाली टीम से डिस्कनेक्ट हो जाती है। मानचित्र दिखाता है कि ये दो अलग-अलग प्रकार की विफलताएं हैं जिन्हें अलग-अलग सुधारों की आवश्यकता है।
- अस्वीकृति विफलता/Refusal Failures ("नहीं" कहना चाहिए था लेकिन "हाँ" कहना):
- पुराना दृष्टिकोण: लाइब्रेरियन बस जिद्दी या भ्रमित हो रहा है।
- NeuroCogMap दृष्टिकोण: "सुरक्षा अधिकारी" (Safety Officer) वाले मोहल्ले को अनदेखा किया जा रहा है। इसके बजाय, "एक्शन प्लानर" वाला मोहला नियंत्रण ले लेता है और हानिकारक निर्देश को निष्पादित करना शुरू कर देता है क्योंकि "रोक" (Stop) सिग्नल कभी पहुँच ही नहीं पाया।
परिणाम: क्योंकि वैज्ञानिक देख सकते हैं कि कौन सा विशिष्ट मोहल्ला गलत व्यवहार कर रहा है, वे पूरे लाइब्रेरियन के आउटपुट को ब्लॉक करने के बजाय, उस विशिष्ट टीम को वापस काम पर लगाने के लिए धीरे से प्रेरित कर सकते हैं (हस्तक्षेप)। यह AI को सुरक्षित और अधिक सटीक बनाता है।
3. मानवीय संबंध (Alignment)
शोधकर्ताओं ने पूछा: "क्या इस लाइब्रेरियन का शहर मानव मस्तिष्क जैसा दिखता है?"
उन्होंने लाइब्रेरियन के मानचित्र की तुलना मानव मस्तिष्क के मानचित्र से की जब लोग कहानियाँ सुन रहे थे।
- निष्कर्ष: लाइब्रेरियन का "ऊपरी तल" (अमूर्तीकरण और अनुप्रयोग) के मोहल्ले ठीक उसी तरह सक्रिय होते हैं जैसे जटिल कहानियों को संसाधित करते समय मानव मस्तिष्क के "उच्च-स्तरीय सोच" वाले क्षेत्र होते हैं।
- उपमा: यह ऐसा है जैसे यह पाना कि लाइब्रेरियन का "सिटी प्लानिंग डिपार्टमेंट" मानव मस्तिष्क के "एग्जीक्यूटिव प्लानिंग सेंटर" के समान ही ब्लूप्रिंट का उपयोग करता है। यह सुझाव देता है कि भले ही लाइब्रेरियन कोड से बना है और मनुष्य जीव विज्ञान से बने हैं, वे जटिल समस्याओं को हल करने के लिए आश्चर्यजनक रूप से समान संगठनात्मक संरचनाओं का उपयोग करते हैं।
4. विचार के नियमों को फिर से लिखना (Model Discovery)
अंत में, शोध पत्र दिखाता है कि यह मानचित्र वैज्ञानिकों को यह समझने के लिए बेहतर सिद्धांत लिखने में कैसे मदद कर सकता है कि मनुष्य निर्णय कैसे लेते हैं।
- परिदृश्य: वैज्ञानिकों के पास इस बारे में पुराने, सरल नियमपुस्तिकाएं (मॉडल) हैं कि मनुष्य विकल्प कैसे चुनते हैं (जैसे, एक "डुअल-सिस्टम" मॉडल)। कभी-कभी ये नियम पुस्तिकाएं पूरी तरह से मेल नहीं खातीं कि लोग वास्तव में कैसे व्यवहार करते हैं।
- NeuroCogMap का योगदान: इस मामले में, लाइब्रेरियन द्वारा हल किए जाने वाले उन्हीं निर्णय पहेलियों को देखते हुए, मानचित्र उन छिपी हुई रणनीतियों को प्रकट करता है जिनका लाइब्रेरियन उपयोग करता है (जैसे, "अनिश्चितता की जाँच करना" या "चीजें अजीब होने पर नियम बदलना")।
- परिणाम: वैज्ञानिकों ने लाइब्रेरियन के मानचित्र से इन छिपी हुई रणनीतियों को लिया और उन्हें मानव नियमपुस्तिकाओं में जोड़ दिया। अपडेट की गई नियमपुस्तिकाओं ने पहले की तुलना में मानव व्यवहार की बहुत बेहतर भविष्यवाणी की। यह लाइब्रेरियन की आंतरिक नियमावली का उपयोग करके मानव निर्देश पुस्तिका को ठीक करने जैसा है।
सारांश
NeuroCogMap एक ऐसा उपकरण है जो AI के "ब्लैक बॉक्स" को एक पारदर्शी, व्यवस्थित शहर में बदल देता है। यह हमें दिखाता है:
- AI कैसे बना है: इसमें विभिन्न कार्यों के लिए स्थिर, संगठित मोहल्ले हैं।
- यह क्यों विफल होता है: गलतियाँ तब होती हैं जब विशिष्ट मोहल्ले अलग हो जाते या खराब हो जाते हैं, न कि केवल यादृच्छिक त्रुटियों के कारण।
- यह हमसे कैसे संबंधित है: इसके उच्च-स्तरीय सोच वाले क्षेत्र मानव मस्तिष्क के बहुत समान तरीके से काम करते हैं।
- इसे कैसे ठीक करें: हम त्रुटियों को ठीक करने के लिए विशिष्ट "मोहल्लों" को लक्षित कर सकते हैं, और हम मानव निर्णय लेने की समझ को बेहतर बनाने के लिए इसके आंतरिक तर्क का उपयोग कर सकते हैं।
यह शोध पत्र यह दावा नहीं करता है कि यह AI को "चेतन" बनाता है या इसका उपयोग मानव रोगियों के चिकित्सा निदान के लिए किया जा सकता है। यह सख्ती से दावा करता है कि यह ढांचा हमें AI प्रणालियों के आंतरिक संगठन को समझने, निदान करने और सुधारने में मदद करता है, और ऐसा करके, मानव संज्ञान के बारे में नए विचार प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।