From Observation to Intervention: A Causal Audit of Expert Importance in Mixture-of-Experts Models
यह शोध पत्र तीन मिक्स्चर-ऑफ़-एक्सपर्ट्स (Mixture-of-Experts) मॉडलों के टोकन-स्तरीय हस्तक्षेपकारी ऑडिट (token-level interventional audit) के माध्यम से यह प्रदर्शित करता है कि सामान्य अवलोकनात्मक रूटिंग मेट्रिक्स (observational routing metrics), कारण संबंधी विशेषज्ञ महत्व (causal expert importance) की भविष्यवाणी करने में विफल रहते हैं, जो यह प्रकट करता है कि मौजूदा प्रूनिंग विधियाँ अनावश्यक विशेषज्ञों की सटीक पहचान के बजाय प्रारंभिक-परत अतिरेक (early-layer redundancy) के कारण सफल होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, हाई-टेक किचन है जिसमें 64 अलग-अलग शेफ (विशेषज्ञ या "एक्सपर्ट्स") एक ही भोजन (मॉडल का आउटपुट) बनाने के लिए मिलकर काम कर रहे हैं। हालाँकि, किसी भी दिए गए क्षण में, केवल कुछ ही शेफ वास्तव में खाना बना रहे होते हैं, जबकि बाकी तैयार खड़े रहते हैं। यह इस तरह से काम करता है जैसे Mixture-of-Experts (MoE) AI मॉडल काम करते हैं।
इन मॉडल्स को तेज़ और सस्ता बनाने के लिए, इंजीनियर अक्सर "बेकार" शेफ को निकालने (फायर करने) की कोशिश करते हैं। उन्हें यह तय करने का एक तरीका चाहिए कि किसे रखना है और किसे जाने देना है।
पुराना तरीका: देखकर अंदाज़ा लगाना
वर्तमान में, इंजीनियर एक ऐसे तरीके का उपयोग करते हैं जो स्टेडियम की स्टैंड्स से खेल देखने जैसा है। वे आंकड़ों (स्टैटिस्टिक्स) को देखते हैं:
- "शेफ A को आज 50 बार बुलाया गया।" (उपयोग दर/Utilization rate)
- "शेफ B ने बहुत ऊर्जा के साथ काम किया।" (एक्टिवेशन नॉर्म/Activation norm)
- "मुख्य शेफ आमतौर पर शेफ C को चुनता है।" (रूटिंग वेट/Routing weight)
इन अवलोकनों (observations) के आधार पर, वे मान लेते हैं: "यदि शेफ A को शायद ही कभी बुलाया जाता है या वह बहुत कमज़ोर काम करता है, तो इसका मतलब है कि उनका काम महत्वपूर्ण नहीं है। चलिए उन्हें निकाल देते हैं।"
यह एक खतरनाक छलांग है। यह ऐसा ही है जैसे यह मान लेना कि क्योंकि एक खिलाड़ी ने खेल में गेंद को बहुत कम छुआ, इसलिए वह महत्वपूर्ण नहीं था। हो सकता है कि वह बस एक निर्णायक खेल खेलने के लिए सही क्षण का इंतज़ार कर रहा हो। पेपर यह सवाल पूछता है: क्या आंकड़ों को देखना हमें वास्तव में यह बताता है कि उन्हें हटाने पर वे कितने महत्वपूर्ण होंगे?
प्रयोग: "निकालो और देखो" परीक्षण
शोधकर्ताओं ने अंदाज़ा लगाना बंद करने और परीक्षण करना शुरू करने का निर्णय लिया। उन्होंने तीन अलग-अलग AI मॉडल्स का उपयोग करके एक "कॉज़ल ऑडिट" (एक वैज्ञानिक प्रयोग) सेटअप किया।
केवल शेफ को देखने के बजाय, उन्होंने एक नियंत्रित हस्तक्षेप (controlled intervention) किया:
- उन्होंने खाना पकाने की प्रक्रिया के एक विशिष्ट क्षण (एक विशिष्ट "टोकन" या शब्द) को चुना।
- उन्होंने वर्तमान में काम कर रहे शेफों की पहचान की।
- उन्होंने उस शेफ को शांत (silence/ablate) कर दिया जो पुराने आंकड़ों के अनुसार "सबसे कम महत्वपूर्ण" लग रहा था।
- उन्होंने जांचा: क्या भोजन का स्वाद खराब हुआ? (क्या मॉडल की भविष्यवाणी बदल गई?)
उन्होंने ऐसा हजारों बार किया, जिसमें उन्होंने "कम-महत्वपूर्ण" शेफ की तुलना आंकड़ों के अनुसार "सबसे अधिक महत्वपूर्ण" शेफ से की।
निष्कर्ष: आंकड़े गलत थे
परिणाम आश्चर्यजनक और स्पष्ट थे: सांख्यिकी (Statistics) विफल रही।
- कोई संबंध नहीं: लगभग हर मामले में, "कम-सांख्यिकी" वाले शेफ को निकालने का भोजन पर कोई प्रभाव नहीं पड़ा। मॉडल को कोई फर्क नहीं पड़ा।
- "शून्य" परिणाम: "कम-सांख्यिकी" वाले शेफ को निकालने और "उच्च-सांख्यिकी" वाले शेफ को निकालने के बीच का अंतर इतना कम था कि वह लगभग शून्य था। पुराने तरीके "बेकार" शेफ को नहीं ढूंढ रहे थे; वे बस बिना सोचे-समझे किसी भी रैंडम शेफ को चुनने का काम कर रहे थे।
- यह फिर भी क्यों काम करता है (अतिरेक का रहस्य): पेपर समझाता है कि ये मॉडल भारी अतिरेक (massive redundancy) के साथ बनाए गए हैं। मॉडल के शुरुआती स्तरों में, इतने सारे शेफ समान काम कर रहे होते हैं कि आप लगभग किसी को भी निकाल दें, फिर भी किचन सुचारू रूप से चलता रहेगा। प्रूनिंग (छंटनी) के तरीके इसलिए काम करते हैं क्योंकि वे सही लोगों को पहचानने में स्मार्ट नहीं हैं, बल्कि इसलिए काम करते हैं क्योंकि किचन में कर्मचारियों की संख्या इतनी अधिक है कि छंटनी की कोई भी रणनीति संयोग से काम कर जाती है।
एक अपवाद: "लाइव" सिग्नल
एक विशिष्ट मॉडल (OLMoE) में और केवल किचन के बिल्कुल अंतिम स्तर (layer) में, शोधकर्ताओं को एक संकेत मिला।
- शर्त: यह सिग्नल तभी काम करता था जब वे उस सटीक, लाइव क्षण को देखते थे जब एक शेफ काम कर रहा था।
- समस्या: यह सिग्नल वास्तविक दुनिया के लिए बेकार है क्योंकि आप मॉडल को पहले से हटाने (prune करने) से पहले यह नहीं जान सकते कि किसे निकालना है। आपको पहले विशिष्ट सामग्री (टोकन) को देखना होगा ताकि पता चल सके कि कौन सा शेफ महत्वपूर्ण है। चूंकि आप भविष्य नहीं देख सकते, इसलिए यह "परफेक्ट" मीट्रिक मॉडल को पहले से छाँटने के लिए इस्तेमाल नहीं किया जा सकता।
बड़ी तस्वीर: अवलोकन बनाम हस्तक्षेप
पेपर एक प्रसिद्ध दार्शनिक जूडिया पर्ल (Judea Pearl) की अवधारणा का उपयोग इस गलती को समझाने के लिए करता है:
- रंग 1 (अवलोकन/Observation): "मैं देखता हूँ कि शेफ A शायद ही कभी खाना बनाता है।"
- रंग 2 (हस्तक्षेप/Intervention): "यदि मैं शेफ A को निकाल दूँ, तो भोजन ठीक रहेगा।"
पेपर दिखाता है कि इस संदर्भ में रंग 1 से रंग 2 पर कूदना अमान्य है। सिर्फ इसलिए कि आप एक पैटर्न देखते हैं, इसका मतलब यह नहीं है कि आप उस पर कार्य कर सकते हैं।
सारांश
- दावा: "उपयोग के आंकड़ों" का उपयोग करके यह तय करने का सामान्य तरीका कि किन AI विशेषज्ञों को हटाना है, वैज्ञानिक रूप से अप्रमाणित और संभवतः गलत है।
- वास्तविकता: ये मॉडल छंटनी के बाद इसलिए काम करते हैं क्योंकि वे इतने रेडंडेंट (अतिरेक वाले) हैं कि आप रैंडम लोगों को निकालकर उन्हें वास्तव में तोड़ नहीं सकते।
- सबक: हम यह मान नहीं सकते कि मॉडल में जो हम देखते हैं (सांख्यिकी), वह हमें यह नहीं बताता कि क्या होगा यदि हम मॉडल को बदलते हैं (हस्तक्षेप)। हमें बदलावों का सीधे परीक्षण करने की आवश्यकता है, न कि केवल नंबरों के आधार पर अनुमान लगाने की।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।