Revealing Algorithmic Deductive Circuits for Logical Reasoning
यह शोधपत्र यह जांच करता है कि लार्ज लैंग्वेज मॉडल्स (Large Language Models) तार्किक तर्क (logical reasoning) कैसे करते हैं, जिसमें तथ्यात्मक नियमों को पुनः प्राप्त करने वाले विशिष्ट अटेंशन हेड्स (attention heads) और ग्राफ ट्रैवर्सल (graph traversal) जैसे वैश्विक एल्गोरिद्मिक रणनीतियों को निष्पादित करने के लिए सूचना को एकीकृत करने वाले उच्च-स्तरीय हेड्स की पहचान करने के लिए कॉज़ल मीडिएशन एनालिसिस (causal mediation analysis) का उपयोग किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक शानदार, सुपर-फास्ट जासूस के रूप में करें जिसे तर्क पहेलियाँ (logic puzzles) सुलझाने के लिए प्रशिक्षित किया गया है। आप उस जासूस को पहेली सुलझाने के कुछ उदाहरण देते हैं, और फिर उनसे एक नई पहेली सुलझाने के लिए कहते हैं। वे आमतौर पर बहुत अच्छा काम करते हैं, अपनी सोच की प्रक्रिया को चरण-दर-चरण लिखकर समझाते हैं (जिसे "चेन-ऑफ-थॉट" कहा जाता है)।
लेकिन रहस्य यह है: जासूस वास्तव में "सोचता" कैसे है? क्या वे वास्तव में तर्क को समझते हैं, या वे केवल उन पैटर्न के आधार पर अनुमान लगा रहे हैं जिन्हें उन्होंने पहले देखा है?
यह शोध पत्र, "रिवीलिंग एल्गोरिद्मिक डक्टिव सर्किट्स फॉर लॉजिकल रीजनिंग," एक मैकेनिक की तरह जासूस के मस्तिष्क को खोलकर यह देखता है कि जब वह तर्क की समस्या को हल करता है, तो वास्तव में कौन से गियर घूम रहे होते हैं।
जासूस का टूलकिट: "अनिश्चित" क्षण
शोधकर्ताओं ने देखा कि जब जासूस एक पहेली सुलझा रहा होता है, तो उसके द्वारा लिखे गए अधिकांश शब्द आसान होते हैं। वे उन्हें 100% विश्वास के साथ जानते हैं। उदाहरण के लिए, "इसलिए..." या "उत्तर है..." लिखना आसान है।
हालाँकि, कुछ विशिष्ट क्षण होते हैं जहाँ जासूस हिचकिचाता है। ये महत्वपूर्ण निर्णय बिंदु (critical decision points) हैं:
- तथ्य चुनना: "ठीक है, मुझे सबसे पहले किस सबूत को देखना चाहिए?"
- खोज रोकना: "क्या मैंने पर्याप्त सबूत देख लिए हैं, या मुझे और तलाशना चाहिए?"
- नियम चुनना: "इस विशिष्ट स्थिति के लिए कौन सा नियम लागू होता है?"
शोधकर्ताओं ने पाया कि ये वे क्षण हैं जहाँ मॉडल सबसे कम आत्मविश्वासी होता है। यह एक इंसान जासूस की तरह सोचने जैसा है, "हम्म, क्या यह सुराग इस पर फिट बैठता है?" शोधकर्ताओं ने महसूस किया कि यदि वे समझ सकें कि मॉडल इन विशिष्ट, कठिन विकल्पों को कैसे बनाता है, तो वे पूरी तर्क प्रक्रिया को समझ सकते हैं।
"ब्रेन स्कैन": विशिष्ट गियर्स की खोज
मॉडल के अंदर क्या हो रहा है, यह जानने के लिए, शोधकर्ताओं ने कॉज़ल मेडिएशन एनालिसिस (Causal Mediation Analysis) नामक तकनीक का उपयोग किया। इसे AI के लिए एक "ब्रेन स्कैन" की तरह समझें।
उन्होंने एक परिदृश्य बनाया जहाँ उन्होंने एक "साफ" पहेली और एक "भ्रष्ट" (corrupted) पहेली (जहाँ उन्होंने गुप्त रूप से एक तथ्य या नियम बदल दिया था) ली। फिर उन्होंने मॉडल के आंतरिक हिस्सों (जिन्हें अटेंशन हेड्स कहा जाता है) के साथ "स्विचिरो (switcheroo)" का खेल खेला।
- वे मॉडल के "सोचने वाले" हिस्से को साफ पहेली से लेते थे और उसे भ्रष्ट पहेली में पेस्ट कर देते थे।
- यदि मॉडल अचानक भ्रष्ट पहेली को सही ढंग से हल करने लगता, तो उन्हें पता चल जाता कि वह विशिष्ट हिस्सा तर्क के लिए जिम्मेदार था।
उन्होंने क्या पाया: एक विशेष असेंबली लाइन
अध्ययन से पता चला कि मॉडल हर कार्य के लिए अपने पूरे मस्तिष्क का उपयोग नहीं करता है। इसके बजाय, यह तर्क को संभालने के लिए एक बहुत ही विशिष्ट, छोटे विशेषज्ञ दल (कुल आंतरिक हिस्सों का लगभग 3%) का उपयोग करता है।
उन्होंने एक स्पष्ट पदानुक्रम (hierarchy) पाया, जैसे कि एक कारखाने में असेंबली लाइन:
- प्रारंभिक परतें (लाइब्रेरियन): मॉडल के निचले हिस्से लाइब्रेरियन की तरह कार्य करते हैं। उनका एकमात्र काम टेक्स्ट से सही तथ्यों और नियमों को खोजना और उन्हें शेल्फ से निकालना है। वे निर्णय नहीं लेते; वे केवल जानकारी एकत्र करते हैं।
- मध्यम परतें (मैचमेकर्स): ये गियर्स तथ्यों और नियमों को लेते हैं और जाँचते हैं कि क्या वे एक साथ फिट बैठते हैं। "क्या तथ्य A, नियम B से मेल खाता है?"
- उच्च परतें (मैनेजर्स): ऊपरी परतें प्रोजेक्ट मैनेजरों की तरह कार्य करती हैं। वे व्यक्तिगत तथ्यों को नहीं देखतीं; वे व्यापक तस्वीर को देखती हैं। वे समग्र रणनीति तय करती हैं, जैसे कि "आइए एक 'ब्रेड्थ-फर्स्ट सर्च' (सभी विकल्पों को एक साथ देखना) का उपयोग करें" या "आइए पहले एक पथ पर गहराई से जाएँ।" वे पूरे पहेली को हल करने के लिए सभी निचले गियर्स का समन्वय करती हैं।
"नॉकआउट" टेस्ट
इन गियर्स को वास्तव में आवश्यक सिद्ध करने के लिए, शोधकर्ताओं ने एक "नॉकआउट" प्रयोग किया। उन्होंने अस्थायी रूप से तर्क के लिए जिम्मेदार विशिष्ट 3% गियर्स को अक्षम कर दिया और मॉडल को फिर से पहेलियाँ हल करने के लिए कहा।
- परिणाम: मॉडल की तर्क पहेलियाँ सुलझाने की क्षमता ढह गई। वह एक बुद्धिमान जासूस से बदलकर एक ऐसे व्यक्ति में बदल गया जो पहेली भी नहीं सुलझा सकता था, और अक्सर केवल रैंडम अनुमान लगा रहा था।
- ट्विस्ट: जब उन्होंने मॉडल से सामान्य ज्ञान के प्रश्न पूछे (जैसे "प्रथम राष्ट्रपति कौन थे?"), तो उसने गायब गियर्स को लगभग अनदेखा कर दिया। वह अभी भी उन प्रश्नों के उत्तर ठीक से दे सका।
यह साबित करता है कि ये विशिष्ट गियर्स केवल तार्किक तर्क (logical reasoning) के लिए समर्पित हैं। वे केवल सामान्य "स्मार्ट" भाग नहीं हैं; वे निष्कर्ष निकालने के लिए विशेष उपकरण हैं।
बड़ी तस्वीर
यह शोध पत्र निष्कर्ष निकालता है कि जब एक LLM केवल कुछ उदाहरणों से तर्क करना सीखता है, तो वह केवल उत्तरों को याद नहीं कर रहा होता है। वह वास्तव में एक विशिष्ट, स्पार्स नेटवर्क (sparse network) को सक्रिय करना "सीख" रहा होता है जो एक एल्गोरिदम (एक चरण-दर-चरण कंप्यूटर प्रोग्राम) की नकल करता है।
- निचले स्तर डेटा एकत्र करते हैं।
- मध्यम स्तर नियमों की जाँच करते हैं।
- उच्च स्तर रणनीति चलाते हैं।
यह ऐसा है जैसे मॉडल के भीतर तर्क विशेषज्ञों की एक छिपी हुई, छोटी टीम है जो केवल तभी जागती है जब आप उससे पहेली सुलझाने के लिए कहते हैं, और वे सत्य खोजने के लिए एक सुव्यवस्थित मशीन की तरह मिलकर काम करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।