🤖 AI

Spectral Integrated Gradients for Coarse-to-Fine Feature Attribution

यह शोध पत्र स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (SIG) का प्रस्ताव करता है, जो एक नवीन फीचर एट्रिब्यूशन विधि है जो सिंगुलर वैल्यू डिकंपोजिशन के माध्यम से इंटीग्रेशन पाथ्स का निर्माण करके मानक इंटीग्रेटेड ग्रेडिएंट्स में सुधार करती है ताकि फीचर्स को मोटे वैश्विक संरचनाओं से लेकर सूक्ष्म विवरणों तक क्रमिक रूप से सक्रिय किया जा सके, जिससे शोर कम होता है और स्वच्छ एट्रिब्यूशन मैप्स प्राप्त होते हैं।

मूल लेखक: Soyeon Kim, Seongwoo Lim, Kyowoon Lee, Jaesik Choi

प्रकाशित 2026-05-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Soyeon Kim, Seongwoo Lim, Kyowoon Lee, Jaesik Choi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप अपने एक दोस्त को यह समझाने की कोशिश कर रहे हैं कि कंप्यूटर प्रोग्राम ने कुत्ते की फोटो को सही ढंग से कैसे पहचाना। आप यह बताना चाहते हैं कि फोटो के कौन से हिस्से (कान, नाक, फर) ने कंप्यूटर को यह कहने पर मजबूर किया कि, "हाँ, यह एक कुत्ता है!"

यह फीचर एट्रिब्यूशन (Feature Attribution) करता है। यह इमेज के महत्वपूर्ण पिक्सेलों को हाइलाइट करने की कोशिश करता है। इसे करने का एक लोकप्रिय तरीका है जिसे इंटीग्रेटेड ग्रेडिएंट्स (Integrated Gradients - IG) कहा जाता है।

समस्या: "सब-एक-साथ" का ढेर

इंटीग्रेटेड ग्रेडिएंट्स के मानक तरीके को एक घर बनाने की कोशिश की तरह समझें जहाँ आप नींव पर ईंट, खिड़की और फर्नीचर सब कुछ एक ही समय में फेंक देते हैं।

कंप्यूटर की दुनिया में, यह तरीका एक खाली काली स्क्रीन लेता है और धीरे-धीरे असली फोटो को उसमें उभरता हुआ दिखाता है। लेकिन यह सब कुछ एक ही गति से उभारता है। यह बड़े, स्पष्ट आकार (कुत्ते की रूपरेखा) और छोटे, बिखरे हुए विवरणों (फर की बनावट, बैकग्राउंड का शोर/स्टैटिक) को एक साथ पेश करता है।

क्योंकि यह बड़े आकारों को छोटे शोर के साथ तुरंत मिला देता है, कंप्यूटर भ्रमित हो जाता है। यह वास्तविक कुत्ते के साथ-साथ "स्टैटिक" और "शोर" पर भी प्रतिक्रिया देने लगता है। इसका परिणाम एक ऐसा मैप होता है जो टीवी के 'स्टैटिक' (झिलमिलाहट) जैसा दिखता है—बिखरे हुए, भ्रमित करने वाले हाइलाइट्स, जो वास्तव में आपको यह नहीं बताते कि कंप्यूटर क्या देख रहा है।

समाधान: स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (SIG)

इस पेपर के लेखक, सोयोन किम और उनकी टीम, उस घर को बनाने का एक स्मार्ट तरीका प्रस्तावित करते हैं। वे अपने तरीके को स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (Spectral Integrated Gradients - SIG) कहते हैं।

सब कुछ एक साथ फेंकने के बजाय, SIG एक गणितीय उपकरण जिसका नाम सिंगुलर वैल्यू डिकंपोजिशन (Singular Value Decomposition - SVD) है, का उपयोग करता है। आप SVD को एक विशेष सॉर्टिंग मशीन के रूप में देख सकते हैं जो फोटो को महत्व की परतों में अलग करती है:

"बड़ी तस्वीर" वाली परत (The Big Picture Layer): इसमें मुख्य आकार, कुत्ते की रूपरेखा और मुख्य कंट्रास्ट शामिल हैं।
"बारीक विवरण" वाली परत (The Fine Detail Layer): इसमें फर की बनावट, विशिष्ट पैटर्न और बैकग्राउंड का शोर शामिल है।

SIG कैसे काम करता है (कोर्स-टू-फाइन अप्रोच):
SIG इमेज को एक विशिष्ट क्रम में बनाता है, जैसे एक चित्रकार पहले एक रफ स्केच बनाता है और फिर विवरण जोड़ता है:

चरण 1: यह केवल "बड़ी तस्वीर" वाली परत को धीरे-धीरे प्रकट करके शुरू करता है। कंप्यूटर कुत्ते के सामान्य आकार को देखता है। वह कहता है, "ठीक है, मुझे एक कुत्ते का आकार दिख रहा है।"
चरण 2: एक बार जब बड़ा आकार स्पष्ट हो जाता है, तो यह "बारीक विवरण" वाली परत को जोड़ना शुरू करता है। यह फर की बनावट और विशिष्ट विशेषताओं को जोड़ता है।

चूंकि कंप्यूटर पहले "बड़े आकार" को समझ लेता है, इसलिए जब विवरण आते हैं, तो वह शोर से भ्रमित नहीं होता। उसे पता होता है कि कहाँ देखना है।

उपमा: एक सिम्फनी को सुनना

कल्पना कीजिए कि आप एक जटिल गाना समझने की कोशिश कर रहे हैं।

पुराना तरीका (IG): आप एक ही बार में पूरे ऑर्केस्ट्रा की आवाज़ तेज़ कर देते हैं। आप वायलिन, ड्रम, ब्रास और रिकॉर्डिंग के शोर (हिस) को एक साथ सुनते हैं। यह शोर भरा और अव्यवस्थित है, और यह समझना मुश्किल है कि कौन सा वाद्य यंत्र मुख्य धुन बजा रहा है।
नया तरीका (SIG): आप पहले केवल सेलो (गहरी, संरचनात्मक ध्वनियाँ) को सुनकर शुरू करते हैं। एक बार जब आप लय और मुख्य थीम को समझ लेते हैं, तो आप धीरे-धीरे वायलिन, फिर बांसुरी और अंत में सूक्ष्म तालवाद्य (परकशन) को शामिल करते हैं। जब तक आप उच्च-पिच वाले, शोर भरे संगीत को सुनते हैं, तब तक आप गाने की संरचना को पहले से ही समझ चुके होते हैं, इसलिए शोर आपको विचलित नहीं करता।

उन्होंने क्या पाया?

शोधकर्ताओं ने विभिन्न प्रकार के कंप्यूटर विज़न मॉडल का उपयोग करके हजारों छवियों (जैसे कुत्ते, फूल और बिल्लियाँ) पर इस तरीके का परीक्षण किया।

साफ मैप्स (Cleaner Maps): SIG द्वारा बनाए गए "हीट मैप्स" बहुत साफ थे। उन्होंने पुराने तरीके में मिलने वाले बिखरे हुए "स्टैटिक" शोर के बिना, वास्तव में कुत्ते या फूल को हाइलाइट किया।
बेहतर सटीकता (Better Accuracy): जब उन्होंने परीक्षण किया कि यह तरीका महत्वपूर्ण हिस्सों को कितनी अच्छी तरह पहचानता है, तो SIG ने कई अन्य उन्नत तरीकों से बेहतर प्रदर्शन किया।
गति (Speed): यह पुराने तरीके की तुलना में बहुत धीमा नहीं था। यह एक बहुत अधिक स्पष्ट तस्वीर प्राप्त करने जैसा है, बिना परिणाम के लिए काफी लंबा इंतजार किए।

सारांश में

यह पेपर AI के निर्णयों को समझाने का एक नया तरीका पेश करता है। AI को एक साथ सारी जानकारी से भर देने के बजाय (जिससे भ्रम और शोर पैदा होता है), स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स AI को एक तार्किक क्रम में जानकारी देता है: पहले बड़े आकार, फिर बारीक विवरण। यह सरल बदलाव यह समझाने के लिए बहुत अधिक स्पष्ट और भरोसेमंद परिणाम देता है कि AI वास्तव में क्या देख रहा है।

तकनीकी सारांश: कोर्स-टू-फाइन फीचर एट्रिब्यूशन के लिए स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (Spectral Integrated Gradients)

समस्या विवरण (Problem Statement)

इंटीग्रेटेड ग्रेडिएंट्स (IG) एक व्यापक रूप से अपनाया जाने वाला फीचर एट्रिब्यूशन तरीका है जो संवेदनशीलता (sensitivity), कार्यान्वयन अपरिवर्तनीयता (implementation invariance), और पूर्णता (completeness) जैसे अभिदंत गुणों (axiomatic properties) पर आधारित है। हालाँकि, IG एट्रिब्यूशन की गुणवत्ता एकीकरण पथ (integration path) के चयन पर अत्यधिक निर्भर करती है। मानक IG दृष्टिकोण एक सीधी रेखा वाले पथ का उपयोग करता है जो एक बेसलाइन (आमतौर पर एक ब्लैक इमेज) और लक्षित इनपुट के बीच समान रूप से इंटरपोलेट करता है। यह समान इंटरपोलेशन सभी पिक्सेल अंतरों को समान रूप से मानता है, जिससे एक साथ प्रमुख संरचनात्मक विशेषताओं (dominant structural features) और उच्च-आवृत्ति शोर (high-frequency noise - जैसे सूक्ष्म बनावट और आर्टिफैक्ट्स) को एकीकरण प्रक्षेपवक्र (integration trajectory) में पेश किया जाता है।

परिणामस्वरूप, इस पथ के साथ ग्रेडिएंट्स का संचय प्रक्रिया के शुरुआती चरणों में उच्च-आवृत्ति शोर के अनियमित योगदान को शामिल कर लेता है। इससे एट्रिब्यूशन मैप्स बिखरे हुए महत्व स्कोर और "स्पेकल्ड" (speckled) शोर पैटर्न प्रदर्शित करते हैं, जो मॉडल के प्रेडिक्शन को संचालित करने वाली वास्तविक सिमेंटिक विशेषताओं को धुंधला कर देते हैं। जबकि वैकल्पिक पथ-आधारित तरीके मौजूद हैं (जैसे, गाइडेड IG, मैनिफोल्ड-आधारित IG), उन्हें अक्सर प्रति-चरण ग्रेडिएंट गणनाओं, अलग से प्रशिक्षित जनरेटिव मॉडल्स पर निर्भरता, या स्टोकेस्टिक सर्च की आवश्यकता होती है, जो महत्वपूर्ण कम्प्यूटेशनल जटिलता पेश करते हैं।

कार्यप्रणाली: स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (SIG)

लेखक स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (SIG) का प्रस्ताव करते हैं, जो एक पथ-आधारित एट्रिब्यूशन विधि है जो इनपुट और बेसलाइन के बीच के अंतर के सिंगुलर वैल्यू डीकंपोजिशन (SVD) के आधार पर एकीकरण पथों का निर्माण करती है। मुख्य अंतर्दृष्टि यह है कि SVD दृश्य सूचना का एक स्वाभाविक, डेटा-अनुकूल पदानुक्रम (hierarchy) प्रदान करता है:

बड़े सिंगुलर मान (Large singular values) प्रमुख संरचनात्मक पैटर्न (वैश्विक आकार, ऑब्जेक्ट बाउंड्री, लो-फ्रीक्वेंसी एनर्जी) के अनुरूप होते हैं।
छोटे सिंगुलर मान (Small singular values) बारीक विवरणों, उच्च-आवृत्ति बनावट (textures) और शोर के अनुरूप होते हैं।

SIG इस पदानुक्रम का लाभ उठाकर एक कोर्स-टू-फाइन प्रोग्रेशन (coarse-to-fine progression) को लागू करता है। सभी फीचर्स को एक साथ सक्रिय करने के बजाय, SIG क्रमवार बड़े से छोटे सिंगुलर कंपोनेंट्स को सक्रिय करता है। यह सुनिश्चित करता है कि एकीकरण पथ सूक्ष्म विवरणों को पेश करने से पहले मजबूत सिमेंटिक संरचनाओं को प्राथमिकता दे, जिससे एकीकरण के शुरुआती चरणों के दौरान शोर वाले ग्रेडिएंट्स के संचय को दबाया जा सके।

तकनीकी सूत्रीकरण (Technical Formulation)

स्पेक्ट्रल डीकंपोजिशन (Spectral Decomposition): मान लीजिए $\Delta = x - x'$ इनपुट $x$ और बेसलाइन $x'$ के बीच का डिफरेंस टेंसर है। SVD इस अंतर को रैंक-वन कंपोनेंट्स में डीकंपोज करता है: $\Delta = \sum_{i=1}^R \sigma_i u_i v_i^\top$ , जहाँ $\sigma_1 \ge \sigma_2 \ge \dots \ge 0$ ।
ऑप्टिमाइज़ेशन के माध्यम से पथ निर्माण: लेखक पथ निर्माण को एक ऑप्टिमाइज़ेशन समस्या के रूप में फ्रेम करते हैं जहाँ मध्यवर्ती अंतर $\Delta(\alpha)$ को एक रैंक बाधा (rank constraint) के तहत लक्षित अंतर से अधिकतम जानकारी को संरक्षित करना चाहिए। एकर्ट-यंग-मिरस्की (Eckart-Young-Mirsky) प्रमेय द्वारा, इष्टतम समाधान ट्रंकेटेड SVD है, जो कंपोनेंट्स को क्रमिक रूप से सक्रिय करता है।
सतत रिलैक्सेशन (Continuous Relaxation): हार्ड रैंक ट्रंकेशन में निहित विच्छेदन (discontinuities) से बचने के लिए, SIG एक स्मूथ गेटिंग फंक्शन $\phi_i(\alpha; \omega)$ $ϕ_{i} (α; ω)$ पेश करता है। यह फंक्शन पथ की प्रगति $\alpha$ $α$ और एक ओवरलैप पैरामीटर $\omega$ $ω$ के आधार पर $i$ $i$ -वें सिंगुलर कंपोनेंट के सक्रियण को नियंत्रित करता है।
- बड़े $\sigma_i$ वाले कंपोनेंट्स जल्दी सक्रिय होते हैं (छोटा स्टार्ट थ्रेशोल्ड $s_i$ )।
- पैरामीटर $\omega$ सक्रियण विंडो के बीच ओवरलैप को नियंत्रित करता है। जैसे-जैसे $\omega \to 1$ होता है, SIG मानक लीनियर IG पथ को रिकवर करता है; जैसे-जैसे $\omega \to 0$ होता है, यह एक सख्त अनुक्रमिक स्पेक्ट्रल ऑर्डर की ओर बढ़ता है। लेखक निरंतरता और स्पेक्ट्रल ऑर्डरिंग के बीच संतुलन बनाने के लिए $\omega = 0.4$ सेट करते हैं।
अभिदंत गुण (Axiomatic Properties): एक पथ-आधारित विधि के रूप में जो $\gamma(0)=x'$ और $\gamma(1)=x$ सीमाओं को संतुष्ट करती है, SIG (पूर्णता, संवेदनशीलता, कार्यान्वयन अपरिवर्तनीयता) के अभिदंत गारंटियों को विरासत में प्राप्त करता है। इसके अतिरिक्त, लेखक सिद्ध करते हैं कि SIG ज्यामितीय समरूपता (Geometric Symmetry) को बनाए रखता है, यह सुनिश्चित करते हुए कि यदि मॉडल स्थानिक रूपांतरणों (जैसे रोटेशन) के प्रति अपरिवर्तनीय है, तो एट्रिब्यूशन मैप इक्विवेरिएंटली (equivariantly) ट्रांसफॉर्म होगा।

मुख्य योगदान (Key Contributions)

स्पेक्ट्रल पथ निर्माण: SIG का परिचय, जो दृश्य सूचना के स्पेक्ट्रल पदानुक्रम का सम्मान करते हुए एकीकरण पथों के निर्माण के लिए SVD का उपयोग करता है, जो सूक्ष्म विवरणों के बजाय मोटे (coarse) स्ट्रक्चर को प्राथमिकता देता है।
सैद्धांतिक औचित्य: पथ निर्माण के लिए रैंक-प्रतिबंधित अनुकूलन (एकर्ट-यंग-मिरस्की प्रमेय) के माध्यम से एक सैद्धांतिक आधार प्रदान करना, जो अन्य विधियों (जैसे GIG, BIG) की तुलना में पथ निर्माण मानदंड के लिए एक इष्टतमता गारंटी (optimality guarantee) प्रदान करता है।
दक्षता (Efficiency): SIG के लिए प्रति इमेज केवल एक एकल SVD गणना और मानक ग्रेडिएंट मूल्यांकन की आवश्यकता होती है, जो मानक IG की तुलना में नगण्य कम्प्यूटेशनल ओवरहेड जोड़ता है, जैसा कि पुनरावृत्त अनुकूलन या जनरेटिव मॉडल्स की आवश्यकता वाली विधियों के मामले में होता है।
व्यापक मूल्यांकन: विविध डेटासेट्स (ImageNet, Oxford-IIIT Pet, Oxford 102 Flower) और आर्किटेक्चर (ResNet, VGG, Inception) पर कई मूल्यांकन मेट्रिक्स का उपयोग करके व्यापक अनुभवजन्य सत्यापन।

प्रयोगात्मक परिणाम (Experimental Results)

पेपर का मूल्यांकन व्यापक बेसलाइन्स के विरुद्ध किया गया है, जिसमें ग्रेडिएंट $\times$ इनपुट, मानक IG, गाइडेड IG (GIG), ब्लर IG (BIG), मैनिफोल्ड IG (MIG), और अन्य शामिल हैं।

गुणात्मक विश्लेषण (Qualitative Analysis): SIG, IG और अन्य बेसलाइन्स की तुलना में स्पष्ट रूप से साफ, कम शोर वाले और सिमेंटिक रूप से प्रासंगिक क्षेत्रों पर केंद्रित एट्रिब्यूशन मैप्स बनाता है। यह उच्च-आवृत्ति शोर और बाउंड्री आर्टिफैक्ट्स से जुड़े स्पूरियस ग्रेडिएंट्स को प्रभावी ढंग से दबाता है।
मात्रात्मक प्रदर्शन (Faithfulness):
- DiffID और Insertion/Deletion: SIG तीन डेटासेट्स और तीन आर्किटेक्चर में मौजूदा विधियों के साथ लगातार मेल खाता है या उनसे बेहतर प्रदर्शन करता है। यह लगभग सभी सेटिंग्स में ImageNet पर सर्वश्रेष्ठ परिणाम प्राप्त करता है और फाइन-ग्रेन्ड डेटासेट्स पर प्रतिस्पर्धी शीर्ष-स्तरीय परिणाम देता है।
- ROAR (RemOve And Retrain): CIFAR-10 पर, SIG सबसे तीव्र गिरावट प्रेरित करता है जब शीर्ष-एट्रिब्यूटेड पिक्सेल को हटाया जाता है और मॉडल को फिर से प्रशिक्षित किया जाता है, जो यह दर्शाता है कि यह सबसे भेदभावपूर्ण (discriminative) फीचर्स की पहचान करता है।
- लीकेज-अवेयर (ROAD): SIG ImageNet पर सर्वश्रेष्ठ GAP स्कोर प्राप्त करता है, जो परटर्बेशन मास्क के माध्यम से सूचना रिसाव (information leakage) के खिलाफ मजबूती प्रदर्शित करता है।
- नॉन-परटर्बेशन लोकलाइजेशन: SIG सर्वश्रेष्ठ औसत पॉइंटिंग गेम सटीकता और SAM 2 IoU स्कोर प्राप्त करता है, जो अनुमानित ऑब्जेक्ट्स के बेहतर स्थानिक स्थानीयकरण (spatial localization) की पुष्टि करता है।
दक्षता: SIG व्याख्या की गुणवत्ता और रनटाइम के बीच एक पारेटो-ऑप्टिमल (Pareto-optimal) स्थिति बनाए रखता है। यह मानक IG की तुलना में केवल मामूली कम्प्यूटेशनल ओवरहेड (~16% वृद्धि) पेश करता है, जो SAMP जैसी कम्प्यूटेशनल रूप से महंगी विधियों की तुलना में काफी बेहतर है।

महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि SIG, इंटीग्रेटेड ग्रेडिएंट्स में शोर संचय की समस्या के लिए एक सरल लेकिन प्रभावी समाधान प्रदान करता है। एक स्पेक्ट्रल पदानुक्रम का पालन करके, SIG स्वाभाविक रूप से एक कोर्स-टू-फाइन प्रोग्रेशन का पालन करता है जो प्राकृतिक छवियों के संरचनात्मक अर्थों (structural semantics) के साथ संरेखित होता है।

लेखक इस बात पर जोर देते हैं कि जबकि रैंक-प्रतिबंधित अनुकूलन पथ निर्माण को न्यायसंगत बनाता है, परिणामी एट्रिब्यूशन की विश्वसनीयता (faithfulness) एक अनुभवजन्य निष्कर्ष है जो त्रिकोणीय मूल्यांकन (परटर्बेशन-आधारित, लीकेज-अवेयर और लोकलाइजेशन मेट्रिक्स) द्वारा समर्थित है, न कि केवल पथ निर्माण से प्राप्त औपचारिक गारंटी।

इस पद्धति को इमेज क्लासिफिकेशन कार्यों के लिए एक व्यावहारिक सुधार के रूप में रखा गया है जहाँ SVD का वेरिएंस ऑर्डरिंग स्थानिक संरचना के साथ संरेखित होता है। लेखक विनम्रता से नोट करते हैं कि कोर्स-टू-फाइन इंडक्टिव बायस (inductive bias) छवियों के लिए सबसे अधिक फायदेमंद है; टेक्स्ट क्लासिफिकेशन पर एक पायलट अध्ययन बताता है कि जब ओवरलैप पैरामीटर बड़ा होता है तो विधि मानक IG के प्रदर्शन के करीब पहुँच जाती है, जो यह संकेत देता कि स्पेक्ट्रल ऑर्डरिंग गैर-इमेज डोमेन में सार्वभौमिक रूप से सिमेंटिक महत्व के अनुरूप नहीं हो सकती है।

कार्य निष्कर्ष निकालता है कि SIG बिना अत्यधिक कम्प्यूटेशनल लागत के एट्रिब्यूशन की गुणवत्ता में सुधार करता है, जिससे यह विश्वसनीय मॉडल डायग्नोस्टिक्स की आवश्यकता वाले उच्च-दांव (high-stakes) अनुप्रयोगों के लिए एक व्यवहार्य मानक बन जाता है।