तकनीकी सारांश: k-एडिटिव गेम्स पर आधारित शापली वैल्यू एप्रोक्सिमेशन (Shapley Value Approximation)

समस्या विवरण (Problem Statement)

शापली वैल्यू (Shapley value) निष्पक्ष विभाजन समस्याओं के लिए मानक समाधान है, जिसे एक्सप्लेनेबल एआई (XAI) में व्यापक रूप से अपनाया जाता है ताकि मॉडल के प्रदर्शन में व्यक्तिगत विशेषताओं या डेटा बिंदुओं के योगदान को मापा जा सके। हालाँकि, इसकी सटीक गणना के लिए $n$ खिलाड़ियों के सभी $2^n$ संभावित गठबंधनों (coalitions) का मूल्यांकन करना आवश्यक है, जिसके परिणामस्वरूप घातांकीय कम्प्यूटेशनल जटिलता (exponential computational complexity) उत्पन्न होती है। यह मध्यम संख्या में विशेषताओं वाले मॉडलों के लिए या जटिल, संसाधन-गहन मॉडलों के मूल्यांकन के लिए सटीक गणना को अव्यावहारिक बनाता है। फलस्वरूप, सन्निकटन विधियों (approximation methods) की आवश्यकता है, लेकिन मौजूदा दृष्टिकोण अक्सर महत्व स्कोर की सटीकता और कम्प्यूटेशनल दक्षता के बीच संतुलन बनाने में संघर्ष करते हैं।

कार्यप्रणाली: SVAkADD

लेखक SVAkADD (Shapley Value Approximation under k-additivity) प्रस्तावित करते हैं, जो एक नवीन विधि है जो नमूना लिए गए गठबंधन मूल्यों के उपसमूह पर एक संरचित k-एडिटिव सरोगेट गेम (k-additive surrogate game) को फिट करके शापली वैल्यू का अनुमान लगाती है।

मुख्य अवधारणा: k-एडitivity (k-Additivity)

सीधे मार्जिनल योगदान के मोंटे कार्लो सैंपलिंग के माध्यम से शापली वैल्यू का अनुमान लगाने के बजाय, SVAkADD यह मान लेता है कि अंतर्निहित गेम को एक k-एडिटिव गेम द्वारा अनुमानित किया जा सकता है। ऐसे गेम में, आकार $k$ से बड़े गठबंधनों के लिए इंटरेक्शन इंडेक्स (Shapley interactions) शून्य माने जाते हैं।

• प्रतिनिधित्व (Representation): सरोगेट गेम के वैल्यू फंक्शन $\nu_k$ को उन सभी गठबंधनों $B$ के लिए शापली इंटरेक्शन इंडेक्स $I(B)$ के रैखिक रूपांतरण के रूप में व्यक्त किया जाता है जहाँ $|B| \leq k$ है।
• पैरामीटर में कमी (Parameter Reduction): यह धारणा गेम को परिभाषित करने के लिए आवश्यक मापदंडों की संख्या को $2^n$ से घटाकर एक बहुपद (polynomial) संख्या (जैसे, $O(n^k)$) में नाटकीय रूप से कम कर देती है, जिससे अनुकूलन (optimization) सुलभ हो जाता है।

अनुकूलन ढांचा (Optimization Framework)

यह विधि सन्निकटन को एक प्रतिबंधित भारित न्यूनतम वर्ग समस्या (constrained weighted least squares problem) के रूप में तैयार करती है:

1. उद्देश्य (Objective): मूल गेम के देखे गए गठबंधन मूल्यों $\nu(A)$ और k-एडिटिव सरोगेट $\nu_k(A)$ द्वारा अनुमानित मूल्यों के बीच भारित वर्ग त्रुटि (weighted squared error) को कम करना।
2. प्रतिबंध (Constraints): अनुकूलन एफिशिएंसी एक्सिओम (efficiency axiom) को लागू करता है, यह सुनिश्चित करते हुए कि सरोगेट के शापली मूल्यों का योग ग्रैंड कोलेसियन (grand coalition) की उपयोगिता और खाली सेट की उपयोगिता के अंतर ($\nu(N) - \nu(\emptyset)$) के बराबर है।
3. वेटिंग (Weighting): लेखक भारित न्यूनतम वर्ग समस्या के लिए विशिष्ट भार $w^*_A = \binom{n-2}{|A|-1}^{-1}$ का विश्लेषणात्मक रूप से व्युत्पन्न करते हैं। वे सिद्ध करते हैं कि यदि सभी गठबंधन देखे गए होते, तो इस विशिष्ट अनुकूलन को हल करने से सटीक शापली वैल्यू प्राप्त होती, चाहे मूल गेम वास्तव में k-एडिटिव हो या न हो।

एल्गोरिदम (Algorithm)

SVAkADD एल्गोरिदम इस प्रकार कार्य करता है:

1. सैंपलिंग (Sampling): यह खाली सेट $\emptyset$ और ग्रैंड कोलेसियन $N$ का नियत रूप से मूल्यांकन करता है। इसके बाद, यह व्युत्पन्न भार $w^*_A$ के अनुपात में एक संभाव्यता वितरण के आधार पर पावर सेट (खाली सेट और $N$ को छोड़कर) से $T-2$ अतिरिक्त गठबंधनों को नमूना (sample) लेता है।
2. फिटिंग (Fitting): यह अनुमानित इंटरेक्शन इंडेक्स $I(B)$ (जहाँ $|B| \leq k$) का अनुमान लगाने के लिए नमूना लिए गए डेटा का उपयोग करके प्रतिबंधित भारित न्यूनतम वर्ग समस्या को हल करता है।
3. एक्सट्रैक्शन (Extraction): सरोगेट गेम के शापली मानों को एकल (singleton) इंटरेक्शन इंडेक्स ($I(\{i\})$) के रूप में तुरंत प्राप्त किया जाता है, जो मूल गेम के लिए अनुमान के रूप में कार्य करते हैं।

प्रमुख योगदान (Key Contributions)

1. नवीन सन्निकटन विधि: SVAkADD का परिचय, जो नमूना लिए गए डेटा पर एक k-एडिटिव सरोगेट गेम को फिट करता है, जो प्रत्यक्ष मार्जिनल योगदान सैंपलिंग के लिए एक संरचित विकल्प प्रदान करता है।
2. सैद्धांतिक सुदृढ़ता (Theoretical Soundness): एक विश्लेषणात्मक प्रमाण कि $k=1, 2, 3$ के लिए, प्रस्तावित भारित न्यूनतम वर्ग अनुकूलन सटीक शापली वैल्यू देता है जब गठबंधनों का पूर्ण सेट देखा जाता है। यह स्थापित करता है कि k-एडिटिविटी गेम की संरचना पर एक प्रतिबंधात्मक धारणा के बजाय एक सन्निकटन उपकरण है।
3. मॉडल और डोमेन अज्ञेयता (Model and Domain Agnosticism): इस विधि को वैल्यू फंक्शन के विशिष्ट संरचनात्मक गुणों की आवश्यकता नहीं है, जिससे यह मशीन लर्निंग में दोनों स्थानीय (local) और वैश्विक (global) फीचर स्पष्टीकरणों सहित किसी भी सहकारी गेम (cooperative game) के लिए लागू होने योग्य है।
4. प्रायोगिक मूल्यांकन (Empirical Evaluation): विभिन्न डेटासेट्स और स्पष्टीकरण प्रकारों (ग्लोबल, लोकल, अनसुपरवाइज्ड) पर KernelSHAP, Stratified SVARM, और Stratified sampling जैसे स्टेट-ऑफ-द-आर्ट बेसलाइन्स के विरुद्ध व्यापक तुलना।

प्रायोगिक परिणाम (Experimental Results)

लेखकों ने ग्लोबल, लोकल और अनसुपरवाइज्ड कार्यों पर 9 से 14 विशेषताओं वाले डेटासेट्स पर SVAkADD का मूल्यांकन किया।

• अभिसरण (Convergence): विधि प्रतिस्पर्धी प्रदर्शन प्रदर्शित करती है। हालांकि बहुत कम सैंपल बजट पर कुछ बेसलाइन्स की तुलना में इसमें उच्च त्रुटि हो सकती है, लेकिन बजट बढ़ने के साथ यह सटीक शापली वैल्यू की ओर तेजी से अभिसरित होती है, विशेष रूप से Adult और ImageNet डेटासेट्स पर लोकल एट्रिब्यूशन कार्यों के लिए।
• k का चयन: प्रयोग लचीलेपन और अभिसरण गति के बीच एक ट्रेड-ऑफ को उजागर करते हैं।
  • कम $k$ (1 या 2) जटिल फीचर इंटरैक्शन को मॉडल करने के लिए अपर्याप्त लचीलेपन के कारण अक्सर धीरे अभिसरित होता है।
  • उच्च $k$ (3 या 4) आम तौर पर कुछ नमूनों के बाद कम-क्रम के मॉडलों की तुलना में काफी तेजी से अभिसरित होता है और बेहतर प्रदर्शन करता है।
  • लेखक $k=3$ को एक बेहतर डिफॉल्ट के रूप में सुझाव देते हैं, जो त्रुटि में कमी और आवश्यक मापदंडों की संख्या के बीच एक अच्छा संतुलन प्रदान करता है।
• तुलना: SVAkADD लगातार KernelSHAP और Stratified SVARM के साथ प्रतिस्पर्धा करता है या उनसे बेहतर प्रदर्शन करता है, विशेष रूप से मध्यम सैंपल बजट के साथ उच्च सटीकता की आवश्यकता वाले परिदृश्यों में।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि SVAkADD एक सैद्धांतिक रूप से ठोस और व्यावहारिक रूप से प्रभावी शापली वैल्यू सन्निकटन दृष्टिकोण प्रदान करता है। k-एडिटिव गेम्स की संरचना का लाभ उठाकर, यह विधि अनुमान समस्या को एक बहुपद-समय अनुकूलन (polynomial-time optimization) में बदल देती है जो विशिष्ट वेटिंग स्थितियों के तहत सटीक रिकवरी की गारंटी देती है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण मॉडल-अज्ञेय (model-agnostic) और डोमेन-स्वतंत्र (domain-independent) है, जो किसी भी सहकारी गेम फॉर्मूलेशन को संभाल सकता है। वे निष्कर्ष निकालते हैं कि हालांकि सभी परिदृश्यों में कोई एक सन्निकटन विधि हावी नहीं होती है (डेटासेट, कार्य और बजट पर निर्भर करता है), SVAkADD एक मजबूत विकल्प प्रदान करता है जो उच्च सटीकता प्राप्त करने के लिए शापली इंटरैक्शन के सैद्धांतिक गुणों का लाभ उठाता है। पेपर यह भी नोट करता है कि विधि स्वाभाविक रूप से $k \geq 2$ होने पर इंटरेक्शन प्रभावों (रिडंडेंसी या कॉम्प्लीमेंटैरिटी) के लिए अनुमान प्रदान करती है, जो व्यक्तिगत फीचर महत्व से परे अतिरिक्त व्याख्यात्मकता (interpretability) प्रदान करती है।