Extremal Contours: Gradient-driven contours for compact visual attribution

यहाँ शोध पत्र "Extremal Contours: Gradient-driven contours for compact visual attribution" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

कंप्यूटर विज़न में डीप न्यूरल नेटवर्क (DNN) के निर्णयों को समझाने के लिए वर्तमान विधियाँ विश्वसनीयता (faithfulness), संक्षिप्तता (compactness) और स्थिरता (stability) के संबंध में महत्वपूर्ण चुनौतियों का सामना करती हैं:

• सघन विक्षोभ मास्क (Dense Perturbation Masks): एक्सट्रीमल परटर्बेशन (Extremal Perturbations) या स्मूथ मास्क (Smooth Masks) जैसी विधियाँ इमेज क्षेत्रों को बनाए रखने या हटाने के लिए सघन पिक्सेल-स्तरीय मास्क को अनुकूलित करती हैं। यद्यपि ये कारणत्मक क्षेत्रों (causal regions) को खोजने में प्रभावी हैं, लेकिन ये मास्क अक्सर खंडित, शोर युक्त, या बहु-घटक आउटपुट उत्पन्न करते हैं। इनमें टोपोलॉजिकल गारंटी का अभाव होता है, जिसके लिए व्याख्या योग्य बनाने हेतु भारी पोस्ट-प्रोसेसिंग या रेगुलाइजेशन की आवश्यकता होती है।
• ग्रेडिएंट-आधारित सैलिएंसी (Gradient-Based Saliency): इंटीग्रेटेड ग्रेडिएंट्स (Integrated Gradients) या ग्रेड-कैम (Grad-CAM) जैसी विधियाँ गणनात्मक रूप से कुशल हैं, लेकिन अक्सर विसरित (diffuse), असंरचित हीटमैप्स उत्पन्न करती हैं जो अप्रासंगिक बैकग्राउंड शोर को हाइलाइट करती हैं और विश्वसनीयता के 'सैनिटी चेक' में विफल रहती हैं।
• मुख्य अंतराल (The Core Gap): एक ऐसी स्पष्टीकरण विधि की आवश्यकता है जो विक्षोभ-आधारित दृष्टिकोणों की कारणत्मक निष्ठा (causal fidelity) से समझौता किए बिना, संक्षिप्त, सुसंगत और टोपोलॉजिकल रूप से सरल क्षेत्रों (जैसे कि एक एकल जुड़ा हुआ आकार) को उत्पन्न करे, जबकि लाखों पिक्सेल मापदंडों को सीखने की अस्थिरता से बच सके।

2. कार्यप्रणाली: एक्सट्रीमल कंटर्स (Methodology: Extremal Contours)

लेखक एक ट्रेनिंग-फ्री (training-free), ग्रेडिएंट-संचालित विधि प्रस्तावित करते हैं जो सघन पिक्सेल मास्क के स्थान पर सुचारू (smooth), ट्यून करने योग्य कंटर्स (contours) का उपयोग करती है।

A. पैरामीट्रिक प्रतिनिधित्व (Parametric Representation)

प्रत्येक पिक्सेल को अनुकूलित करने के बजाय, यह विधि एक स्टार-कॉन्वेक्स क्षेत्र (star-convex region) को ट्रंकेटेड फूरियर सीरीज़ (truncated Fourier series) का उपयोग करके पैरामीटराइज़ करती है।

• केंद्र (Center): एक सीखने योग्य केंद्र बिंदु $c \in \mathbb{R}^2$।
• रेडियल फंक्शन (Radial Function): कोण $\theta$ पर सीमा त्रिज्या $\hat{r}(\theta)$ को इस प्रकार परिभाषित किया गया है:
  $$\hat{r}(\theta) = r_0 + \Re\left( \sum_{k=1}^{K} w_k e^{ik\theta} \right)$$
  जहाँ $w_k$ जटिल गुणांक (complex coefficients) हैं।
• मास्क जनरेशन (Mask Generation): $c$ के सापेक्ष ध्रुवीय निर्देशांकों $(\rho_p, \theta_p)$ पर एक पिक्सेल $p$ के लिए, मास्क मान $m(p)$ पिक्सेल की त्रिज्या और कंटूर त्रिज्या के बीच के अंतर का एक स्मूथ सिग्मॉइड फंक्शन है:
  $$m(p) = \frac{1}{1 + \exp(\tau \cdot [\hat{r}(\theta_p) - \rho_p])}$$
  यह मुक्त मापदंडों की संख्या को लाखों (पिक्सेल) से घटाकर $2K+3$ कर देता है, जिससे आयामीता (dimensionality) में भारी कमी आती है।

B. अनुकूलन उद्देश्य (Optimization Objective)

कंटूर को क्लासिफायर के ग्रेडिएंट्स का उपयोग करके एक एक्सट्रीमल परटर्बेशन उद्देश्य को संतुष्ट करने के लिए अनुकूलित किया जाता है। कुल लॉस $L$ तीन पदों से बना है:

1. एक्सट्रीमल लॉस ($L_{extremal}$): यह प्रोत्साहित करता है कि "संरक्षित" संस्करण (क्षेत्र को रखना, शेष भाग को ब्लर करना) मूल एम्बेडिंग को बनाए रखे, जबकि "हटाया गया" संस्करण (क्षेत्र को ब्लर करना, शेष भाग को रखना) इसे दबा दे।
   $$L_{extremal} = -\cos(e_p, e_o) + \cos(e_d, e_o)$$
   जहाँ $e_o, e_p, e_d$ मूल, संरक्षित और हटाए गए चित्रों के एम्बेडिंग्स हैं।
2. क्षेत्र रेगुलाइजेशन ($\lambda_a \alpha_r$): संक्षिप्तता सुनिश्चित करने के लिए बड़े क्षेत्रों को दंडित करता है। भार $\lambda_a$ को संरक्षित क्षेत्र की निष्ठा (fidelity) के आधार पर अनुकूली रूप से ट्यून (adaptively tuned) किया जाता है। यदि संरक्षित क्षेत्र एम्बेडिंग बनाए रखने में विफल रहता है, तो एरिया पेनल्टी को शिथिल कर दिया जाता है; एक बार जब निष्ठा प्राप्त हो जाती है, तो पेनल्टी को सबसे छोटे पर्याप्त क्षेत्र को खोजने के लिए कड़ा कर दिया जाता है।
3. स्पेक्ट्रल रेगुलाइजेशन ($\lambda_r L_{spec}$): चिकनी सीमाओं को लागू करने के लिए फूरियर गुणांकों में उच्च-आवृत्ति दोलनों (high-frequency oscillations) को दंडित करता है:
   $$L_{spec} = \sum_{k=1}^{K} k^2 |w_k|^2$$

C. मल्टी-ऑब्जेक्ट एक्सटेंशन (Multi-Object Extension)

यह फ्रेमवर्क $N$ स्वतंत्र कंटर्स को एक साथ अनुकूलित करके कई वस्तुओं तक विस्तारित होता है। अंतिम मास्क व्यक्तिगत मास्क का पिक्सेल-वाइज मैक्सिमम (pixel-wise maximum) है, जिसमें सभी कंटर्स के एरिया और स्पेक्ट्रल पेनल्टी का योग होता है।

3. प्रमुख योगदान (Key Contributions)

1. टोपोलॉजिकल गारंटी: रचना (construction) द्वारा, यह विधि एकल, सरल रूप से जुड़े हुए, सुचारू मास्क उत्पन्न करती है, जिससे शोर या विखंडन को हटाने के लिए पोस्ट-प्रोसेसिंग की आवश्यकता समाप्त हो जाती है।
2. आयामीता में कमी: यह सीखने योग्य मापदंडों को क्रमों के परिमाण (orders of magnitude) से कम कर देता है ( $H \times W$ से $\approx 2K$ तक), जिससे डेटासेट-स्तर के अनुकूलन के बिना तेज़ अभिसरण (convergence) और स्थिरता मिलती है।
3. एडवर्सरियल आर्टिफ़ैक्ट्स के प्रति मजबूती: निम्न-आयामी, सुचारू बाधा (constraint) ऑप्टिमाइज़र को उन "एडवर्सरियल" मास्क बनाने से रोकती है जो गणितीय रूप से लॉस को संतुष्ट तो करते हैं लेकिन अर्थपूर्ण नहीं होते।
4. स्पष्ट एरिया कंट्रोल: यह फिडेलिटी-एरिया प्रोफाइल्स उत्पन्न करने के लिए एक तंत्र पेश करता है, जिससे उपयोगकर्ताओं को स्पष्टीकरण के आकार और मॉडल के आत्मविश्वास के बीच के ट्रेड-ऑफ को देखने की अनुमति मिलती है।
5. मॉडल एग्नोस्टिक (Model Agnostic): यह विधि सुपरवाइज्ड (ResNet-50) और सेल्फ-सुपरवाइज्ड (DINO) दोनों मॉडलों पर प्रभावी ढंग से काम करती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन ResNet-50 और DINO ViT-B/16 मॉडलों का उपयोग करके ImageNet और COCO डेटासेट पर किया गया।

• गुणात्मक प्रदर्शन (Qualitative Performance):
  • साफ, सिंगल-कंटूर बाउंड्रीज़ बनाता है जो वस्तु के इर्द-गिर्द कसकर घेरा बनाती हैं।
  • ग्रेडिएंट मैप्स (विसरित) या डेंस मास्क (खंडित) के विपरीत, एक्सट्रीमल कंटर्स एक संरचित, व्याख्या योग्य प्रतिनिधित्व प्रदान करते हैं।
• मात्रात्मक प्रदर्शन (Quantitative Performance):
  • रेलेवेंस मास और रैंक: अन्य बेसलाइन्स (स्मूथ मास्क, ग्रेड-कैम++, इंटीग्रेटेड ग्रेडिएंट्स) की तुलना में प्रतिस्पर्धी या बेहतर स्कोर प्राप्त करता है।
  • जटिलता और विरलता (Complexity & Sparseness): डेंस विधियों की तुलना में कम एंट्रॉपी के साथ अत्यधिक विरल (sparse) स्पष्टीकरण प्रदान करता है।
  • विश्वसनीयता (Faithfulness): महत्वपूर्ण रूप से, सेल्फ-सुपरवाइज्ड DINO मॉडलों पर, जहाँ कई बेसलाइन विफल हो जाते हैं (नेगेटिव फिडेलिटी कोरलेशन दिखाते हैं), एक्सट्रीमल कंटर्स पॉजिटिव फिडेलिटी कोरलेशन बनाए रखते हैं और रेलेवेंस मास को >15% तक बढ़ाते हैं।
• मजबूती (Robustness):
  • विधि विभिन्न शुरुआती बिंदुओं (केंद्र $c$) के बावजूद स्थिर है।
  • यह स्पेक्ट्रल रेगुलाइजेशन वेट $\lambda_r$ के प्रति मजबूत है, और लगातार सही ऑब्जेक्ट तक अभिसरण करती है, चाहे परिणामी आकार गोलाकार हो या अनियमित।

5. महत्व और भविष्य की दिशाएं (Significance and Future Directions)

• व्याख्यात्मकता (Interpretability): पिक्सेल-स्तरीय हीटमैप से ज्यामितीय कंटर्स की ओर बदलाव मॉडल के तर्क को समझने का एक अधिक मानव-सहज तरीका प्रदान करता है, विशेष रूप से मेडिकल इमेजिंग (CT, MRI) जैसे सुरक्षा-महत्वपूर्ण डोमेन के लिए जहाँ क्लिनिशियन को शोर युक्त हीटमैप के बजाय स्पष्ट, संपादन योग्य सीमाओं की आवश्यकता होती है।
• दक्षता बनाम निष्ठा (Efficiency vs. Fidelity): यह ग्रेडिएंट विधियों की गणनात्मक दक्षता और परटर्बेशन विधियों की कारणत्मक निष्ठा के बीच के ट्रेड-ऑफ को हल करता है, जो दोनों का सर्वश्रेष्ठ संयोजन प्रदान करता है।
• सीमाएँ (Limitations):
  • स्टार-कॉन्वेक्स बाधा: यह विधि गहरे अवतलता (concavities) या छिद्रों वाले (गैर-स्टार-कॉन्वेक्स आकृतियों) ऑब्जेक्ट्स को स्वाभाविक रूप से प्रदर्शित नहीं कर सकती।
  • बाइनरी प्रकृति: यह फाइन-ग्रैन्ड एट्रिब्यूशन मैप्स के बजाय बाइनरी मास्क उत्पन्न करता है, जो फाइन-ग्रैन्ड वर्गीकरण कार्यों के लिए सूक्ष्मता (granularity) को कम कर सकता है।
  • रनटाइम: इसके लिए एक सिंगल फॉरवर्ड/बैकवर्ड पास के बजाय इटरेटिव ऑप्टिमाइजेशन की आवश्यकता होती है, जिससे यह डायरेक्ट ग्रेडिएंट विधियों की तुलना में धीमी हो जाती है।
• भविष्य का कार्य: लेखक गैर-स्टार-कॉन्वेक्स आकृतियों को संभालने के लिए पैरामीट्राइजेशन को विस्तारित करने, विधि को ऑब्जेक्ट डिटेक्शन और सेगमेंटेशन कार्यों पर लागू करने, और कंटर्स का उपयोग रेडियोलॉजिस्ट के लिए एनोटेशन को रिफाइन करने के लिए इंटरैक्टिव टूल्स के रूप में करने का सुझाव देते हैं।

संक्षेप में, Extremal Contours XAI के प्रति एक नया, गणितीय रूप से ठोस दृष्टिकोण प्रस्तुत करता है जो ज्यामितीय सामंजस्य (geometric coherence) और टोपोलॉजिकल सरलता को प्राथमिकता देता है, और यह सिद्ध करता है कि खोज स्थान (search space) को सुचारू कंटर्स तक सीमित करने से अनियंत्रित सघन पिक्सेल अनुकूलन की तुलना में अधिक विश्वसनीय और व्याख्या योग्य स्पष्टीकरण प्राप्त होते हैं।