RoSHAP: A Distributional Framework and Robust Metric for Stable Feature Attribution

तकनीकी सारांश: RoSHAP – एक वितरण ढांचा (Distributional Framework) और स्थिर फीचर एट्रिब्यूशन के लिए एक सुदृढ़ मीट्रिक

1. समस्या विवरण (Problem Statement)

फीचर एट्रिब्यूशन (Feature attribution), मशीन लर्निंग मॉडल की व्याख्या करने और डेटा-संचालित निर्णयों में सहायता करने के लिए आवश्यक है। हालांकि, मानक एट्रिब्यूशन माप (जैसे, SHAP, LIME) अक्सर महत्वपूर्ण स्टोकेस्टिक भिन्नता (stochastic variation) प्रदर्शित करते हैं। रैंडम ट्रेन-टेस्ट स्प्लिट्स, रैंडम सीड्स और स्टोकेस्टिक ऑप्टिमाइज़ेशन प्रक्रियाओं जैसे कारक एट्रिब्यूशन मानों और फीचर रैंकिंग में काफी भिन्नता पैदा कर सकते हैं। यह अस्थिरता उच्च-आयामी (high-dimensional), शोर वाले या सह-संबंधित सेटिंग्स (जैसे, जीनोमिक्स) में विशेष रूप से समस्याग्रस्त है, जहाँ अविश्वसनीय रैंकिंग वैज्ञानिक निष्कर्षों और महंगी डाउनस्ट्रीम प्रयोगों को गलत दिशा में ले जा सकती है। मौजूदा तरीके आमतौर पर औसत एट्रिब्यूशन परिमाण या रैंकिंग पर ध्यान केंद्रित करते हैं, लेकिन वे पुन: नमूनाकरण (resampling) रन के माध्यम से एट्रिब्यूशन स्कोर के पूर्ण अनुभवजन्य वितरण (empirical distribution) को समझने में विफल रहते हैं।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र RoSHAP (Robust SHAP) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो फीचर एट्रिब्यूशन को केवल एक पॉइंट एस्टीमेट के बजाय एक वितरण समस्या (distributional problem) के रूप में मानता है। इसकी कार्यप्रणाली के तीन मुख्य घटक हैं:

• बूटस्ट्रैप-आधारित वितरण अनुमान (Bootstrap-Based Distribution Estimation):
  यह ढांचा बार-बार प्रशिक्षण डेटा का पुन: नमूनाकरण (bootstrap) करता है, मॉडल को फिर से फिट करता है, और प्रत्येक फीचर के लिए एट्रिब्यूशन स्कोर (विशेष रूप से SHAP मान) की पुन: गणना करता है। यह प्रत्येक फीचर के लिए एट्रिब्यूशन स्कोर का एक अनुभवजन्य वितरण उत्पन्न करता है, जो योगदान के परिमाण और उसकी परिवर्तनशीलता दोनों को कैप्चर करता है।

  • एल्गोरिदम: $B$ बूटस्ट्रैप पुनरावृत्तियों (iterations) के लिए, एक पुन: नमूनाकृत डेटासेट पर मॉडल को फिट किया जाता है, और आउट-ऑफ-बैग (OOB) SHAP मानों की गणना की जाती है। इन मानों को फीचर-स्तरीय एट्रिब्यूशन के वितरण को बनाने के लिए एकत्रित किया जाता है।

• जीरो-इन्फ्लेटेड मॉडलिंग और गॉसियन सन्निकटन (Zero-Inflated Modeling and Gaussian Approximation):
  चूंकि SHAP मान (विशेष रूप से ट्री-आधारित मॉडलों में) अक्सर सटीक शून्य होते हैं, इसलिए लेखक सैंपल-फीचर SHAP मान $T_{ij}$ को एक जीरो-इन्फ्लेटेड मिश्रण के रूप में मॉडल करते हैं:
  $$T_{ij} \sim w_{ij} \delta_0 + (1 - w_{ij}) G_{ij}$$
  जहाँ $\delta_0$ शून्य पर एक पॉइंट मास है, $w_{ij}$ शून्य एट्रिब्यूशन की संभावना है, और $G_{ij}$ गैर-शून्य घटक है।
  फीचर-स्तरीय संकलित परिमाण को $U_j = \sum |T_{ij}|$ के रूप में परिभाषित किया गया है। सौम्य नियमितता शर्तों (विशेष रूप से, एक लियापुनोव (Lyapunov) स्थिति जो यह सुनिश्चित करती है कि कुल योग कुछ प्रमुख पदों के बजाय कई छोटे पदों द्वारा संचालित है) के तहत, यह दिखाया गया है कि $U_j$ का वितरण एसिम्प्टोटिक रूप से गॉसियन (asymptotically Gaussian) है। यह वितरण को इसके माध्य (mean) और मानक विचलन (standard deviation) द्वारा संक्षेपित करने की अनुमति देता है, जिससे बड़े $B$ के लिए नॉन-पैरामीट्रिक कर्नेल डेंसिटी एस्टीमेशन (KDE) की तुलना में कम्प्यूटेशनल लागत काफी कम हो जाती है।

• RoSHAP मीट्रिक:
  RoSHAP अनुमानित वितरण को एक एकल सुदृढ़ रैंकिंग मानदंड में संश्लेषित करता है जो तीन गुणों के आधार पर फीचर्स को पुरस्कृत करता है:

  1. सक्रियता (Activity): गैर-शून्य एट्रिब्यूशन का अनुपात ($1 - P_{0j}$, जहाँ $P_{0j} = \text{Pr}(U_j = 0)$)।
  2. शक्ति (Strength): गैर-शून्य एट्रिब्यूशन का माध्यिका परिमाण ($m_j$)।
  3. स्थिरता (Stability): मानक विचलन का व्युत्क्रम ($1/s_j$), जो सिग्नल-टू-नॉइज़ अनुपात का प्रतिनिधित्व करता है।

  मीट्रिक को इस प्रकार परिभाषित किया गया है:
  $$\text{RoSHB}_j := (1 - P_{0j}) \frac{m_j^2}{s_j}$$
  यह फॉर्मूलेशन उन फीचर्स को प्राथमिकता देता है जो लगातार सक्रिय रहते हैं, जिनका योगदान मजबूत होता है, और जिनमें पुन: नमूनाकरण रन के दौरान कम परिवर्तनशीलता होती है।

3. मुख्य योगदान (Key Contributions)

• वितरण ढांचा (Distributional Framework): यह एट्रिब्यूशन को पॉइंट-एस्टीमेट से बदलकर बूटस्ट्रैपिंग और KDE के माध्यम से एट्रिब्यूशन स्कोर के पूर्ण वितरण को मॉडल करने की ओर ले जाता है।
• सैद्धांतिक औचित्य (Theoretical Justification): यह सिद्ध करता है कि नियमितता शर्तों के तहत, संकलित फीचर एट्रिब्यूशन स्कोर एसिम्प्टोटिकली गॉसियन है, जो कम्प्यूटेशनल बोझ को कम करने के लिए मीन-वेरिएंस सारांश के उपयोग को न्यायसंगत बनाता है।
• सुदृढ़ मीट्रिक (Robust Metric - RoSHAP): यह एक मिश्रित मीट्रिक पेश करता है जो स्पष्ट रूप से अस्थिरता और निष्क्रियता को दंडित करता है, जो मानक परिमाण-आधारित रैंकिंग की सीमाओं को संबोधित करता है।
• अनुभवजन्य सत्यापन (Empirical Validation): यह विविध डेटा मोडैलिटीज (टेबुलर, मॉलिक्यूलर, स्पेशियल और इमेज डेटा) और मॉडल प्रकारों (XGBoost, LightGuard, CatBoost, न्यूरल नेटवर्क, ViT) में ढांचे की प्रभावशीलता को प्रदर्शित करता है।

4. परिणाम (Results)

• सिमुलेशन अध्ययन (Simulation Studies):
  1,000 फीचर्स (10 वास्तविक सिग्नल) वाले एक बाइनरी क्लासिफिकेशन सिमुलेशन में, RoSHAP ने 1,000 बूटस्ट्रैप रन का उपयोग करके शीर्ष 12 रैंकिंग के भीतर 10 में से 8 वास्तविक सिग्नल फीचर्स को सफलतापूर्वक पहचाना। केवल 10 बूटस्ट्रैप रन के साथ भी, इसने शीर्ष 12 में 8 सिग्नल प्राप्त किए। इसके विपरीत, मानक सिंगल-रन SHAP ने शीर्ष 12 में केवल 4 सिग्नल की पहचान की और सबसे मजबूत सिग्नल फीचर ($x_1$) को लगभग शून्य महत्व दिया। इन्फॉर्मेशन गेन (Information Gain) और LIME जैसे अन्य मीट्रिक्स भी अस्थिर रैंकिंग दिखाते रहे।

  • गॉसियन सन्निकटन (Gaussian Approximation): रोबस्ट इम्पॉर्टेंस अनुमानों के अनुभवजन्य वितरण गॉसियन के करीब पाए गए, जो बूटस्ट्रैप पुनरावृत्तियों की आवश्यकता में सैद्धांतिक कमी को प्रमाणित करते हैं।

• वास्तविक दुनिया के प्रयोग (Real-World Experiments):

  • गोलब (जीनोमिक्स): एक उच्च-आयामी, छोटे-नमूने वाले सेटिंग (7,129 जीन) में, RoSHAP ने सीड-विशिष्ट SHAP की तुलना में लगातार महत्वपूर्ण जीन का अधिक स्पष्ट सारांश प्रदान किया। RoSHAP-चयनित फीचर्स पर प्रशिक्षित मॉडल पूर्ण-फीचर मॉडलों के प्रदर्शन के बराबर प्रदर्शन प्राप्त करते हुए कम प्रेडिक्टर्स का उपयोग करते हैं।
  • मस्क (आणविक): RoSHAP ने असंतुलित डेटा और वितरित सिग्नल को प्रभावी ढंग से संभाला, अन्य तरीकों की तुलना में अधिक स्थिर फीचर चयन के साथ समान प्रदर्शन दिखाया।
  • UJIIndoorLoc (रिग्रेशन): एक उच्च-आयामी रिग्रेशन कार्य (WiFi फिंगरप्रिंटिंग) में, RoSHAP ने RMSE, MAE और MAPE मेट्रिक्स में प्रतिस्पर्धी और स्थिर प्रदर्शन हासिल किया।
  • CIFAR-10 (इमेज): विजन ट्रांसफॉर्मर (ViT) पर लागू होने पर, ढांचे ने दिखाया कि सिंगल-रन इमेज एक्सप्लेनेशन ट्रेनिंग रैंडमनेस के प्रति संवेदनशील होते हैं (जैसे, रन के आधार पर एट्रिब्यूशन पानी से जहाज के शरीर की ओर शिफ्ट होना)। संकलित RoSHAP मैप ने सही ऑब्जेक्ट क्षेत्रों पर एक स्थिर, व्याख्या योग्य फोकस प्रदान किया, जिससे उन त्रुटियों का निदान करने में मदद मिली जहाँ मॉडल अप्रासंगिक बैकग्राउंड क्षेत्रों पर ध्यान केंद्रित कर रहा था।

5. महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि RoSHAP फीचर रैंकिंग के लिए एक विश्वसनीय आधार प्रदान करके मशीन लर्निंग मॉडलों की स्थिरता और व्याख्यात्मकता में सुधार करता है।

• विश्वसनीयता: यह विश्लेषण के लिए निरंतर अंतर्दृष्टि सक्षम करता है, जिससे रैंडम डेटा स्प्लिट्स या सीड्स के आर्टिफैक्ट्स से निष्कर्ष निकालने के जोखिम को कम किया जा सकता है।
• दक्षता: गॉसियन सन्निकटन बूटस्ट्रैप रन को 1,000 से घटाकर 10 करके पर्याप्त कम्प्यूटेशनल बचत की अनुमति देता है, जबकि मजबूत प्रदर्शन बनाए रखता है।
• व्यावहारिक प्रभाव: RoSHAP-चयनित फीचर्स का उपयोग करके बनाए गए मॉडल पूर्ण-फीचर मॉडलों के समान भविष्य कहनेवाला प्रदर्शन प्राप्त करते हैं, लेकिन बहुत कम प्रेडिक्टर्स के साथ, जो अधिक कुशल और व्याख्या योग्य डाउनस्ट्रीम अनुप्रयोगों को सुगम बनाता है।

लेखक RoSHAP को मौजूदा एट्रिब्यूशन विधियों के विकल्प के रूप में नहीं, बल्कि एक सुदृढ़ पूरक (robust complement) के रूप में प्रस्तुत करते हैं जो एट्रिब्यूशन अस्थिरता, विशेष रूप से उच्च-जोखिम या उच्च-आयामी डोमेन में, की महत्वपूर्ण कमी को संबोधित करता है।