Probing Neural Topology of Large Language Models
यह शोध पत्र "ग्राफ प्रोबिंग" (graph probing) को प्रस्तुत करता है, जो एक नवीन विधि है जो LLM न्यूरॉन्स की कार्यात्मक कनेक्टिविटी (functional connectivity) को प्रकट करती है, यह प्रदर्शित करते हुए कि न्यूरल टोपोलॉजी में सक्रियता पैटर्न (activation patterns) की तुलना में मॉडल प्रदर्शन के बारे में काफी समृद्ध जानकारी होती है और इसे मॉडल प्रूनिंग (model pruning) और मतिभ्रम का पता लगाने (hallucination detection) जैसे अनुप्रयोगों के माध्यम से दक्षता और विश्वसनीयता में सुधार करने के लिए उपयोग किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े भाषा मॉडल (LLM) की कल्पना करें जो एक विशाल, हलचल भरे शहर की तरह है। वर्षों से, शोधकर्ता यह समझने की कोशिश कर रहे हैं कि यह शहर कैसे काम करता है, इसके लिए वे इसके अंदर के लोगों (न्यूरॉन्स) को देखते हैं और पूछते हैं, "यह विशिष्ट व्यक्ति अभी क्या सोच रहा है या क्या कह रहा है?" इसे "एक्टिवेशन प्रोबिंग" (activation probing) कहा जाता है। वे व्यक्तिगत लाइटों के जलने और बुझने को देखते हैं।
हालाँकि, यह नया शोध पत्र सुझाव देता है कि हम गलत चीज़ देख रहे थे। केवल लोगों को देखने के बजाय, लेखक कहते हैं कि हमें उन्हें जोड़ने वाले सड़कों और यातायात के पैटर्न को देखना चाहिए। वे इसे "ग्राफ प्रोबिंग" (Graph Probing) कहते हैं।
इस उनकी खोज का सरल विवरण यहाँ दिया गया है:
1. ट्रैफिक मैप बनाम कार की हेडलाइट्स
एक न्यूरॉन के "एक्टिवेशन" को एक कार की हेडलाइट के जलने के रूप में सोचें। यह आपको बताता है कि वहाँ एक कार है। लेकिन "टोपोलॉजी" (ग्राफ) वह ट्रैफिक मैप है जो दिखाता है कि सभी कारें एक-दूसरे से कैसे जुड़ी हुई हैं।
लेखकों ने पाया कि यदि आप जानना चाहते हैं कि शहर (AI) अपना काम (अच्छे वाक्य लिखना) कितनी अच्छी तरह कर रहा है, तो केवल यह गिनने से कि कितनी हेडलाइट्स जल रही हैं, उसके बजाय ट्रैफिक मैप को देखना कहीं अधिक बेहतर है।
- परिणाम: उनके "ट्रैफिक मैप" पद्धति ने पुराने "हेडलाइट" तरीके की तुलना में AI के प्रदर्शन की 130% बेहतर भविष्यवाणी की।
- उपमा: यह एक सिम्फनी (symphony) के बजने के तरीके का अनुमान लगाने जैसा है। पुराना तरीका यह सुनता है कि एक वायलिन कितना तेज़ बज रहा है। नया तरीका यह सुनता है कि वह वायलिन सेलो (cello) और ड्रम के साथ तालमेल में कैसे बज रहा है। वह तालमेल (कनेक्शन) ही संगीत की गुणवत्ता के बारे में सब कुछ बताता है।
2. "सुपर-हब्स" (प्रमुख चौराहे)
शोधकर्ताओं ने पाया कि इस शहर में सभी सड़कें समान नहीं हैं। कुछ विशाल, अत्यधिक जुड़े हुए चौराहे (जिन्हें हब न्यूरॉन्स कहा जाता है) हैं जिनसे लगभग हर प्रकार का ट्रैफिक गुजरता है।
- प्रयोग: उन्होंने यादृच्छिक (random) सड़कों (न्यूरॉन्स) को बंद करने की कोशिश की और पाया कि शहर सुचारू रूप से चलता रहा। लेकिन जब उन्होंने केवल इन विशिष्ट "हब न्यूरॉन्स" के 1% को बंद कर दिया, तो शहर ढह गया। AI का प्रदर्शन लगभग 70% गिर गया।
- निष्कर्ष: AI अपने कार्य को करने के लिए इन विशिष्ट, अत्यधिक जुड़े हुए हब्स पर बहुत अधिक निर्भर करता है। यह केवल कई न्यूरॉन्स के होने के बारे में नहीं है; यह इस बारे में है कि वे आपस में कैसे जुड़े हुए हैं।
3. "डिफ़ॉल्ट नेटवर्क" (शहर का ढांचा)
भले ही AI पूरी तरह से अलग-अलग चीजों (जैसे खाना बनाना बनाम गणित) के बारे में बात कर रहा हो, ये हब न्यूरॉन्स और उनके कनेक्शन उल्लेखनीय रूप से स्थिर रहते हैं।
- उपमा: एक ऐसे शहर की कल्पना करें जहाँ मुख्य राजमार्ग बिल्कुल वैसे ही रहते हैं चाहे वह रश ऑवर हो, कोई छुट्टी हो, या बारिश वाला मंगलवार हो। लेखकों ने पाया कि LLMs में कनेक्शनों का एक "कंकाल" (skeleton) होता है जो स्थिर रहता है, जो AI द्वारा किए जाने वाले सभी विभिन्न कार्यों के लिए एक स्थिर आधार के रूप में कार्य करता है।
4. यह वास्तव में क्या कर सकता है (प्रूफ-ऑफ-कॉन्सेप्ट)
यह शोध पत्र केवल सिद्धांत तक ही सीमित नहीं है; उन्होंने इस नए "ट्रैफिक मैप" दृष्टिकोण के दो व्यावहारिक उपयोगों का परीक्षण किया:
- प्रूनिंग (अनावश्यक हिस्सा काटना): यदि आप AI को छोटा और तेज़ बनाना चाहते हैं, तो आप इसके यादृच्छिक हिस्सों को काटने के बारे में सोच सकते हैं। लेकिन लेखकों ने पाया कि यदि आप "कम-ट्रैफिक" वाली सड़कों (कम कनेक्शन वाले न्यूरॉन्स) को काट देते हैं और "उच्च-ट्रैफिक" वाले हब्स को बनाए रखते हैं, तो एक बड़ा हिस्सा काटने के बाद भी AI स्मार्ट बना रहता है। यह एक शहर से साइड स्ट्रीट हटाने जैसा है लेकिन मुख्य राजमार्गों को बनाए रखना; ट्रैफिक फिर भी पूरी तरह से बहता रहता है।
- "हलुसिनेशन" (झूठ बोलना) का पता लगाना: जब AI चीजें बनाता है (हलुसिनेट करता है), तो ट्रैफिक पैटर्न बदल जाता है। लेखकों ने पाया कि जब AI सच बोल रहा होता है बनाम जब वह झूठ बोल रहा होता है, तो "रोड मैप" अलग दिखता है। उन्होंने एक सरल डिटेक्टर बनाया जो मैप को देखकर इन झूठों को पकड़ लेता है, और यह व्यक्तिगत न्यूरॉन्स को देखने वाले डिटेक्टरों की तुलना में बेहतर काम करता है।
सारांश
यह शोध पत्र तर्क देता है कि AI कैसे सोचता है इसे वास्तव में समझने के लिए, हमें केवल यह नहीं देखना चाहिए कि व्यक्तिगत न्यूरॉन्स क्या "कह" रहे हैं। हमें यह देखना चाहिए कि वे कैसे जुड़े हुए हैं। कनेक्शन (टोपोलॉजी) AI की बुद्धिमत्ता का रहस्य रखते हैं, वे हमारी सोच से कहीं अधिक स्थिर हैं, और वे हमें बेहतर, सुरक्षित और अधिक कुशल मॉडल बनाने में मदद कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।