ShapBPT: Image Feature Attributions Using Data-Aware Binary Partition Trees

यहाँ शोध पत्र "ShapBPT: Image Feature Attributions Using Data-Aware Binary Partition Trees" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

कंप्यूटर विज़न (XCV) के लिए व्याख्यात्मक एआई (XAI) में, एक मौलिक चुनौती यह है कि ब्लैक-बॉक्स मॉडल व्यक्तिगत पिक्सेल को महत्व (attribution) देकर छवियों को कैसे वर्गीकृत करते हैं, इसे समझाना है।

• वर्तमान विधियों की सीमाएँ:
  • ग्रिड-आधारित दृष्टिकोण (जैसे, SHAP Partition Explainer): ये निश्चित, अक्ष-संरेखित (axis-aligned - AA) ग्रिड का उपयोग करते हैं। ये छवियों की अंतर्निहित रूपात्मक संरचना (आकार, बनावट, रंग निरंतरता) की उपेक्षा करते हैं, जिससे अभिसरण (convergence) धीमा हो जाता है और एट्रिब्यूशन ऑब्जेक्ट सीमाओं के साथ सही ढंग से संरेखित नहीं हो पाता है।
  • पूर्व-निर्धारित विभाजन (जैसे, LIME): यह निश्चित विभाजन एल्गोरिदम पर निर्भर करता है। यदि प्रारंभिक विभाजन सटीक नहीं है, तो स्पष्टीकरण को अनुकूल रूप से परिष्कृत (refine) नहीं किया जा सकता है, जो जटिल डेटा पर प्रभावशीलता को सीमित करता है।
  • गणना लागत (Computational Cost): सटीक शापली मानों (Shapley values) की गणना करना #P-hard है। पदानुक्रमित गठबंधन (hierarchical coalitions - Owen formula) का उपयोग करके सन्निकटन (approximations) आवश्यक हैं, लेकिन यदि पदानुक्रम को प्रासंगिक क्षेत्रों तक पहुँचने के लिए कई पुनरावर्ती विभाजनों (recursive splits) की आवश्यकता होती है, तो यह तेजी से महंगा ($O(4^d)$) हो जाता है।
• अंतराल (The Gap): मौजूदा पदानुक्रमित शापली विधियों में डेटा-जागरूकता (data-awareness) की कमी है। वे इमेज डेटा के विशिष्ट रूपात्मक (morphological) लक्षणों का लाभ उठाकर गठबंधन पदानुक्रम बनाने में सक्षम नहीं हैं, जिसके परिणामस्वरूप फीचर स्पेस का अन्वेषण अक्षम होता है।

2. कार्यप्रणाली: ShapBPT

लेखक ShapBPT प्रस्तावित करते हैं, जो एक नवीन मॉडल-अज्ञेय (model-agnostic) XCV विधि है जो Owen approximation of Shapley values को Binary Partition Tree (BPT) के साथ एकीकृत करती है।

A. सैद्धांतिक आधार: Owen Approximation

यह विधि बाइनरी ट्री पर शापली मानों को अनुमानित करने के लिए Owen गठबंधन मान का उपयोग करती है।

• बाइनरी पदानुक्रमित गठबंधन संरचनाएं (Binary Hierarchical Coalition Structures - BHCS): पिक्सेल को एक बाइनरी ट्री में व्यवस्थित किया जाता है जहाँ प्रत्येक नोड एक गठबंधन (पिक्सेल का एक समूह) का प्रतिनिधित्व करता है।
• पुनरावर्ती सूत्र (Recursive Formula): एक गठबंधन $T$ में खिलाड़ी $i$ के लिए शापली मान की गणना पुनरावर्ती रूप से की जाती है। यदि $T$, $T_1$ और $T_2$ में विभाजित होता है, तो मान सीमांत योगदान (marginal contributions) का एक भारित योग (weighted sum) होता है।
• अनुकूली बजट (Adaptive Budget): पूर्ण ट्री का विस्तार करने के बजाय, एक अनुकूली रणनीति का उपयोग किया जाता है। एक बजट $b$ (मॉडल मूल्यांकन की संख्या) आवंटित किया जाता है। एल्गोरिदम उस विभाजन को विभाजित करना जारी रखता है जो शापली मानों के योग को अधिकतम करता है, और तब रुक जाता है जब बजट समाप्त हो जाता है या विभाजन अविभाज्य हो जाते हैं।

B. मुख्य नवाचार: Data-Aware BPT

निश्चित ग्रिडों के विपरीत, ShapBPT इमेज कंटेंट के आधार पर पदानुक्रम का निर्माण करता है।

• बॉटम-अप निर्माण (Bottom-Up Construction): BPT को एक डेटा-जागरूक दूरी फ़ंक्शन (data-aware distance function) के आधार पर आसन्न पिक्सेल या क्षेत्रों को पुनरावर्ती रूप से जोड़कर बनाया जाता है।
• दूरी मीट्रिक (Distance Metric): विलय मानदंड एक दूरी फ़ंक्शन $dist(T_i, T_j)$ को कम करता है जिसे निम्नानुसार परिभाषित किया गया है:
  $$dist(T_i, T_j) = \text{color\_range}^2 \cdot \text{area} \cdot \sqrt{\text{perimeter}}$$
  यह सुनिश्चित करता है कि समान रंगों और सुसंगत आकारों वाले क्षेत्रों को पहले जोड़ा जाए, जिससे एक ऐसा पदानुक्रम बनता है जो छवि की अंतर्निहित आकृति विज्ञान (morphology) के साथ संरेखित होता है।
• परिष्करण (Refinement): BPT एक "परिष्कृत अ-प्रायोरि" (refinable a-priori) संरचना के रूप में कार्य करता है। इसके बाद Owen एल्गोरिदम इस ट्री पर "अ-पोस्टीरियोरि" (a-posteriori) विभाजन रणनीति का उपयोग करता है, जो उच्च एट्रिब्यूशन मान वाले क्षेत्रों पर अपनी गणनात्मक क्षमता (computational budget) केंद्रित करता है।

C. संतुष्ट प्रमुख आवश्यकताएं

1. R1 (दक्षता): प्रासंगिक ऑब्जेक्ट क्षेत्रों तक पहुँचने के लिए कम पुनरावर्ती कट (recursive cuts) की आवश्यकता होती है क्योंकि ट्री प्राकृतिक ऑब्जेक्ट सीमाओं का अनुसरण करता है।
2. R2 (अनुकूलन क्षमता): पदानुक्रम निश्चित नहीं है; यह डेटा से निर्मित होता है, जिससे विधि को प्रत्येक छवि के विशिष्ट आकार विज्ञान (morphology) के अनुकूल होने की अनुमति मिलती है।

3. मुख्य योगदान

1. ShapBPT एल्गोरिदम: विशेष रूप से इमेज डेटा के लिए डेटा-जागरूक विभाजन पदानुक्रम (BPT) के साथ Owen फॉर्मूला को संयोजित करने वाला पहला XCV मेथड।
2. हाइब्रिड रणनीति: यह एक आकार-संरेखित (morphology-aligned) ट्री का उपयोग करके LIME (निश्चित विभाजन) की कठोरता और SHAP (ग्रिड-आधारित) की अक्षमता को दूर करता है, जिसे शापली गणना द्वारा अनुकूल रूप से परिष्कृत किया जाता है।
3. सैद्धांतिक व्युत्पत्ति: बाइनरी ट्री के लिए पूर्ण पुनरावर्ती Owen फॉर्मूला (Eq. 4) की व्युत्पत्ति प्रदान करता है, जो पहले प्रकाशित साहित्य में अनुपस्थित था।
4. व्यापक मूल्यांकन: विविध डेटासेट (ImageNet, MS-COCO, CelebA, MVTec) और मॉडलों (ResNet, Vision Transformers, YOLO, VAE-GAN) पर व्यापक बेंचमार्किंग।

4. प्रयोगात्मक परिणाम

पेपर चार मेट्रिक्स का उपयोग करके अत्याधुनिक विधियों (SHAP-AA, LIME, GradCAM, IDG, LRP, आदि) के विरुद्ध ShapBPT का मूल्यांकन करता है:

• रिस्पॉन्स-आधारित (Response-based): $AUC^+$ और $AUC^-$ (मॉडल आउटपुट के साथ संरेखण को मापना)।
• ग्राउंड-ट्रुथ-आधारित (Ground-truth-based): $AU-IoU$और$max-IoU$ (ज्ञात ऑब्जेक्ट मास्क के साथ ओवरलैप को मापना)।
• मानव प्राथमिकता (Human Preference): 20 प्रतिभागियों के साथ एक उपयोगकर्ता अध्ययन।

मुख्य निष्कर्ष:

• बेहतर सटीकता: ShapBPT IoU स्कोर में AA-आधारित और LIME-आधारित विधियों से लगातार बेहतर प्रदर्शन करता है, जो ऑब्जेक्ट सीमाओं के बेहतर स्थानीयकरण और बैकग्राउंड से अलगाव को प्रदर्शित करता है।
• दक्षता: ShapBPT काफी कम मॉडल मूल्यांकन (बजट) के साथ उच्च स्कोर प्राप्त करता है। उदाहरण के लिए, 100 के बजट के साथ ShapBPT अक्सर 500 या 1000 के बजट वाले प्रतिस्पर्धियों से बेहतर प्रदर्शन करता है।
• मजबूती (Robustness): यह विधि विजन ट्रांसफॉर्मर्स (SwinViT, ViT-Base) के साथ असाधारण रूप से अच्छा प्रदर्शन करती है, जो अपनी मास्किंग के प्रति संवेदनशीलता के कारण व्याख्या करने में कठिन माने जाते हैं।
• मानव प्राथमिकता: एक नियंत्रित अध्ययन में, मानव विषयों ने GradCAM, LIME और AA की तुलना में ShapBPT स्पष्टीकरणों को सबसे अधिक सहायक (51% प्रथम स्थान के वोट) के रूप में रैंक किया। उपयोगकर्ताओं ने शोर (noise) के कम होने के साथ "स्पष्ट और सटीक" प्रस्तुति को प्राथमिक कारण बताया।

5. महत्व और प्रभाव

• सिद्धांत और डेटा के बीच सेतु: ShapBPT सफलतापूर्वक गेम-थ्योरेटिक एट्रिब्यूशन (Shapley) और कंप्यूटर विज़न सिमेंटिक्स (morphology) के बीच के अंतर को पाटता है। यह सिद्ध करता है कि दृश्य व्याख्यात्मकता (visual interpretability) के लिए डेटा-जागरूक पदानुक्रम आवश्यक हैं।
• गणना संबंधी दक्षता: प्रासंगिक फीचर्स को अलग करने के लिए आवश्यक पुनरावृत्ति की गहराई को कम करके, ShapBPT शापली-आधारित स्पष्टीकरणों को उच्च-रिज़ॉल्यूशन वाली छवियों और संसाधन-बाधित वातावरण के लिए अधिक व्यवहार्य बनाता है।
• सामान्यीकरण (Generalizability): यह विधि मॉडल-अज्ञेय (model-agnostic) है और वर्गीकरण, डिटेक्शन, सेगमेंटेशन और विसंगति पहचान (anomaly detection) कार्यों में काम करती है।
• भावी कार्य: लेखक Segment Anything (SAM) जैसे फाउंडेशन मॉडल्स के साथ संभावित एकीकरण का सुझाव देते हैं, हालांकि इसके लिए एक संगत नेस्टेड पदानुक्रम (nested hierarchy) के निर्माण की आवश्यकता होगी, जो भविष्य के शोध की दिशा है।

निष्कर्षतः, ShapBPT कंप्यूटर विज़न के लिए XAI में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जो इमेज डेटा की अंतर्निहित संरचना का लाभ उठाकर इमेज क्लासिफायर को समझाने के लिए एक अधिक कुशल, सटीक और मानव-पसंद विधि प्रदान करता है।