Attribution via Distributional Paths for Information Revelation

तकनीकी सारांश: सूचना प्रकटीकरण के लिए वितरण पथों के माध्यम से एट्रिब्यूशन (Attribution via Distributional Paths for Information Revelation)

समस्या विवरण (Problem Statement)
फीचर एट्रिब्यूशन विधियों का लक्ष्य इनपुट फीचर्स को महत्व स्कोर (importance scores) प्रदान करके मॉडल भविष्यवाणियों की व्याख्या करना है। दो प्रमुख दृष्टिकोण, SHAP (Shapley Additive exPlanations) और Integrated Gradients (IG), दोनों ही 'पूर्णता' (completeness) के गुण को संतुष्ट करते हैं, जो यह सुनिश्चित करता है कि एट्रिब्यूशन एक संदर्भ अवस्था (reference state) और इनपुट के बीच मॉडल आउटपुट में परिवर्तन के योग के बराबर है। हालाँकि, दोनों की विशिष्ट सीमाएँ हैं:

• SHAP असतत (discrete), कॉम्बिनेटोरियल फीचर रिवील ऑपरेशन्स पर निर्भर करता है। यह फीचर्स को या तो पूरी तरह से अज्ञात या पूरी तरह से प्रेक्षित (observed) मानता है, जिससे एक विच्छिन्न (discontinuous) हस्तक्षेप उत्पन्न होता है जिसमें क्रमिक सूचना प्रकटीकरण (gradual information revelation) का अभाव होता है।
• IG इनपुट स्पेस में एक निरंतर पथ (continuous path) को परिभाषित करता है (जैसे, बेसलाइन से इनपुट तक एक सीधी रेखा)। यह दृष्टिकोण इनपुट स्पेस के उन बिंदुओं पर मॉडल का मूल्यांकन करता है जो अर्थहीन (semantically meaningless) क्षेत्रों से होकर गुजर सकते हैं। फलस्वरूप, IG "पाथ आर्टिफ़ेक्ट्स" (path artifacts), जैसे कि "शैडो" (shadows) के प्रति संवेदनशील है, जहाँ पथ के शुरुआती चरणों में (बेसलाइन के पास) मिलने वाले फीचर्स अंतिम इनपुट के एट्रिब्यूशन को असमान रूप से प्रभावित करते हैं, भले ही वे फीचर्स उस विशिष्ट भविष्यवाणी के लिए अप्रासंगिक हों।

मुख्य समस्या यह है कि मानक पथ विधियाँ इनपुट स्पेस में विशिष्ट बिंदुओं पर मॉडल की कच्ची प्रतिक्रिया (raw response) को एकीकृत करती हैं, बिना इस बात पर नियंत्रण रखे कि फीचर्स को किस रिज़ॉल्यूशन या अनिश्चितता पर क्वेरी किया जा रहा है।

कार्यप्रणाली: Reveal-IG (Methodology: Reveal-IG)
लेखक Reveal-IG का प्रस्ताव करते हैं, जो पथ एट्रिब्यूशन फ्रेमवर्क को इनपुट स्पेस से उठाकर संरचित प्रोब वितरणों (structured probe distributions) के स्थान पर ले जाता है। कच्चे इनपुट मानों के प्रक्षेपवक्र (trajectory) के बजाय, Reveal-IG वितरणों के प्रक्षेपवक्र का अनुसरण करता है जो रुचि के इनपुट ($x^\star$) के इर्द-गिर्द धीरे-धीरे केंद्रित होते हैं।

1. वित्रात्मक पथ सूत्रीकरण (Distributional Path Formulation):
   विधि प्रोब वितरणों $q_\theta(z | x^\star)$ के स्थान में एक पथ को परिभाषित करती है, जो $\theta$ द्वारा पैरामीटराइज्ड है। वह मात्रा जिसे डिकंपोज़ किया जा रहा है, अपेक्षित मॉडल प्रतिक्रिया (expected model response) है:
   $$G(\theta; x^\star) = \mathbb{E}_{z \sim q_\theta(\cdot|x^\star)}[f(z)]$$
   एट्रिब्यूशन को वितरणों के पथ के साथ अपेक्षित प्रतिक्रिया के ग्रेडिएंट्स को एकीकृत करके प्राप्त किया जाता है:
   $$\Delta G = \int_S \nabla_\theta \mathbb{E}_{z \sim q_\theta(z|x^\star)}[f(z)] \cdot d\theta$$
   यह पथ इंटीग्रल की पूर्णता संपत्ति को बनाए रखता है लेकिन इसे कच्चे आउटपुट के बजाय अपेक्षित प्रतिक्रिया पर लागू करता है।

2. प्रोब डिज़ाइन (Probe Design):

• इमेज डेटा (Image Data): प्रोब पिक्सेल चैनलों पर एक फैक्टराइज्ड गाऊसी वितरण (factorized Gaussian distribution) है। पथ एक व्यापक संदर्भ (उच्च अनिश्चितता, जैसे, $\mu=0, \sigma=1$) से शुरू होता है और देखे गए चित्र के आसपास केंद्रित एक प्रोब पर समाप्त होता है। एंडपॉइंट वेरिएंस ($\sigma_{final}$) को स्थिर रखा जा सकता है या शोर के उस पैमाने (noise scale) के आधार पर चुना जा सकता है जहाँ मॉडल का लक्षित लॉजिट (logit) स्थिर रहता है।
• टेबुलर डेटा (Tabular Data): चूंकि टेबुलर स्पेस में लीनियर इंटरपोलेशन अक्सर अर्थहीन होता है, इसलिए प्रोब को प्रशिक्षण डेटा से प्राप्त अनुभवजन्य मार्जिनल वितरणों (empirical marginal distributions) पर परिभाषित किया गया है। एक टेम्परेचर-नियंत्रित समानता कर्नेल (similarity kernel) वितरण को अनुभवजन्य मार्जिनल से देखे गए फीचर मान $x^\star_i$ के आसपास एक केंद्रित वितरण में परिवर्तित करता है। पथ को तापमान कम करके परिभाषित किया जाता है, जो प्रभावी रूप से सूचना को धीरे-धीरे प्रकट करता है।

3. ग्रेडिएंट एस्टीमेशन (Gradient Estimation):
   ग्रेडिएंट्स इनपुट मानों के बजाय प्रोब पैरामीटर्स $\theta$ के सापेक्ष लिए जाते हैं।

• डिफरेंशिएबल मॉडल्स और गाऊसी प्रोब्स के लिए, रीपैरामीट्राइजेशन ट्रिक ($z = \mu + \sigma\epsilon$) ऑटोमैटिक डिफरेंशियल के माध्यम से कुशल ग्रेडिएंट एस्टीमेशन की अनुमति देती है।
• नॉन-डिफरेंशिएबल मॉडल्स (जैसे, ट्री एनसेम्बल) या अनुभवजन्य प्रोब्स वाले टेबुलर डेटा के लिए, विधि एक ब्लैक-बॉक्स एस्टीमेटर का उपयोग करती है। यह प्रशिक्षण सेट से फीचर मानों को सैंपल करती है और उन्हें प्रोब वितरण के अनुसार वेट करती है, जिससे मॉडल की डिफरेंशिएबिलिटी की आवश्यकता के बिना ग्रेडिएंट एस्टीमेशन संभव होता है।

प्रमुख योगदान (Key Contributions)

• लिफ्टेड पाथ इंटीग्रेशन (Lifted Path Integration): यह पेपर पथ एट्रिब्यूशन को कच्चे इनपुट बिंदुओं के बजाय संरचित वितरणों के स्थान पर करने के फ्रेमवर्क को पेश करता है। यह फीचर्स को विभिन्न पैमानों पर क्वेरी करने के लिए नियंत्रण प्रदान करता है।
• निरंतर सूचना प्रककीकरण (Continuous Information Revelation): Reveal-IG, SHAP के असतत फीचर प्रकटीकरण का एक निरंतर एनालॉग प्रदान करता है, जो अचानक फीचर समावेश के स्थान पर उच्च-अनिश्चितता वाले प्रोब्स से केंद्रित प्रोब्स तक एक डिफरेंशिएबल पथ का उपयोग करता है।
• डोमेन अनुकूलन क्षमता (Domain Adaptability): इस फ्रेमवर्क को इमेज क्लासिफिकेशन (गाऊसीय प्रोब्स का उपयोग करके) और टेबुलर रिग्रेशन (अनुभवजन्य मार्जिनल प्रोब्स का उपयोग करके) दोनों के लिए स्थापित किया गया है, जो यह प्रदर्शित करता है कि "लिफ्टेड" दृष्टिकोण अलग-अलग ज्यामितीय संरचनाओं वाले डोमेन में एट्रिब्यूशन के लिए एक सामान्य भाषा प्रदान करता है।
• आर्टिफ़ेक्ट शमन (Artifact Mitigation): पथ के शुरुआती चरणों में विस्तृत वितरणों पर मॉडल प्रतिक्रियाओं को औसत करके, यह विधि उन दूरस्थ या बेसलाइन-निकट संरचनाओं के प्रभाव को कम करती है जो मानक IG में "शैडो" आर्टिफ़ेक्ट्स का कारण बनते हैं।

प्रायोगिक परिणाम (Experimental Results)

• सिंथेटिक डायग्नोस्टिक्स (Synthetic Diagnostics): 2D नियंत्रित प्रयोगों में, Reveal-IG, IG में देखे जाने वाले "शैडो" आर्टिफ़ेक्ट्स (जहाँ एट्रिब्यूशन रुचि के बिंदु से दूर के फीचर्स से प्रभावित होता है) और SHAP में देखे जाने वाले एक्सिस-अलाइन्ड स्ट्रक्चरल बायस से बचता है। यह ऐसे एट्रिब्यूशन फील्ड्स बनाता है जो पथ की ग्रैनुलैरिटी बदलने पर SHAP और IG के चरम सीमाओं के बीच इंटरपोलेट करते हैं।
• इमेज क्लासिफिकेशन (ImageNet): ResNet-50 और ViT-B/16 पर मूल्यांकन करते हुए, Reveal-IG स्टेट-ऑफ-द-आर्ट या उसके निकटतम प्रदर्शन प्राप्त करता है।
  • यह उन मेट्रिक्स पर बेसलाइन्स से काफी बेहतर प्रदर्शन करता है जो एट्रिब्यूशन के साइन (sign) का उपयोग करते हैं (जैसे, पॉजिटिव-एविडेंस इंसर्शन/डिलीशन और सेंसिटिविटी-n), जो लक्षित क्लास का समर्थन करने बनाम उसे दबाने वाले फीचर्स के बीच बेहतर अंतर को दर्शाता है।
  • यह मैग्नीट्यूड-आधारित मेट्रिक्स (जैसे, RMA) पर प्रतिस्पर्धी बना रहता है, हालांकि अनसाइंड सैलिएंसी कार्यों के लिए Blur-IG और IDG जैसे तरीके मजबूत प्रतिस्पर्धी हैं।
  • पथ के साथ एट्रिब्यूशन संचय (accumulation) का विश्लेषण दिखाता है कि Reveal-IG पथ के अंत में (जैसे-जैसे प्रोब केंद्रित होता है) अधिकांश एट्रिब्यूशन देता है, जबकि IG अपना अधिकांश एट्रिब्यूशन शुरुआती चरण में, बेसलाइन के पास देता है।
• टेबुलर रिग्रेशन (Tabular Regression): Bike Sharing, California Housing, और Wine Quality डेटासेट्स पर मूल्यांकन।
  • Reveal-IG डायरेक्शनल इंसर्शन (साइंड एट्रिब्यूशन कंसिस्टेंसी) और सेंसिटिविटी-मैक्स (स्टेबिलिटी) मेट्रिक्स पर लगातार मजबूत है।
  • जबकि KernelSHAP और फीचर एब्लेशन सफीशिएंसी/कंप्रीहेनेंसनेस (परटर्बेशन-नेटिव विधियों के लिए मूल मेट्रिक्स) पर प्रतिस्पर्धी हैं, Reveal-IG एक अनुकूल ट्रेड-ऑफ प्रदान करता है, जो परटर्बेशन-नेटिव प्रदर्शन प्रदान करता है और साथ ही काफी अधिक स्थिरता और टेबुलर डेटा के लिए एक अधिक प्राकृतिक पथ प्रदान करता है जो अमान्य लीनियर इंटरपोलेशन से बचता है।

महत्व और दावे (Significance and Claims)
पेपर दावा करता है कि Reveal-IG पथ एट्रिब्यूशन को एक स्मूथिंग समस्या (smoothing problem) के रूप में पुनर्गठित करता है। जबकि Blur-IG इनपुट स्पेस को स्मूथ करता है (कोर्स-टू-फाइन), Reveal-IG घटती अनिश्चितता के साथ वितरणों पर भविष्यवाणी को एकीकृत करके मॉडल प्रतिक्रिया को स्मूथ करता है।

लेखक तर्क देते हैं कि पथ स्पेस का चुनाव यह निर्धारित करता है कि मॉडल के इनपुट-आउटपुट व्यवहार के किन हिस्सों को स्पष्टीकरण में शामिल किया जाएगा। इनपुट स्पेस से वितरण स्पेस में जाकर, Reveal-IG निम्नलिखित की अनुमति देता है:

1. नियंत्रित रिज़ॉल्यूशन (Controlled Resolution): सूचना के विभिन्न पैमानों पर मॉडल को क्वेरी करने की क्षमता।
2. डोमेन-विशिष्ट प्रोब्स (Domain-Specific Probes): डेटा की संरचना (जैसे, टेबुलर डेटा के लिए अनुभवजन्य मार्जिनल) का सम्मान करने वाले प्रोब्स को परिभाषित करने का लचीलापन, बिना किसी मनमाने ज्यामितीय इंटरपोलेशन को थोपे।
3. मजबूती (Robustness): पथ-निर्भर आर्टिफ़ेक्ट्स में कमी, जिससे अधिक स्थिर और अर्थपूर्ण एट्रिब्यूशन मिलता है, विशेष रूप से फीचर महत्व के साइन (sign) के संबंध में।

पेपर सीमाओं को स्वीकार करता है, जिसमें बढ़ी हुई कम्प्यूटेशनल लागत (इमेज के लिए IG की तुलना में लगभग 7 गुना धीमा और टेबुलर डेटा के लिए मोंटे कार्लो सैंपलिंग के कारण 1000 गुना तक अधिक) और फैक्टराइज्ड डिस्ट्रीब्यूशंस की धारणा शामिल है जो फीचर्स के बीच सहसंबंधों (correlations) की अनदेखी करती है। हालाँकि, यह तर्क दिया गया है कि यह ट्रेड-ऑफ एक अधिक मजबूत और व्याख्या योग्य एट्रिब्यूशन फ्रेमवर्क प्रदान करता है, विशेष रूप से उन कार्यों के लिए जहाँ एट्रिब्यूशन का साइन महत्वपूर्ण है।