← नवीनतम पेपर
🤖 AI

DAVE: Distribution-aware Attribution via ViT Gradient Decomposition

यह शोध पत्र DAVE को प्रस्तुत करता है, जो विज़न ट्रांसफॉर्मर्स के लिए एक गणितीय रूप से आधारित एट्रिब्यूशन विधि है जो स्थिर, स्थानीय रूप से समतुल्य (locally equivariant) घटकों को अलग करने और आर्किटेक्चरल आर्टिफैक्ट्स को समाप्त करने के लिए इनपुट ग्रेडिएंट्स को विघटित करती है, जिससे उच्च-रिज़ॉल्यूशन और स्थिर पिक्सेल-स्तरीय स्पष्टीकरण उत्पन्न करना सक्षम होता है।

मूल लेखक: Adam Wróbel, Siddhartha Gairola, Jacek Tabor, Bernt Schiele, Bartosz Zieliński, Dawid Rymarczyk

प्रकाशित 2026-02-09
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Adam Wróbel, Siddhartha Gairola, Jacek Tabor, Bernt Schiele, Bartosz Zieliński, Dawid Rymarczyk

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट रोबोट (एक विजन ट्रांसफॉर्मर) है जो एक तस्वीर देखता है और कहता है, "यह एक सॉकर बॉल है!" लेकिन यदि आप रोबोट से पूछते हैं, "तुम्हें ऐसा क्यों लगा?" तो वह एक भ्रमित करने वाला उत्तर देता है। वह पूरी तस्वीर की ओर अस्पष्ट रूप से इशारा कर सकता है, या इससे भी बुरा, वह एक अजीब ग्रिड पैटर्न की ओर इशारा कर सकता है जो केवल इसलिए मौजूद है क्योंकि रोबोट को इस तरह से बनाया गया है, न कि उस बॉल के कारण।

यह पेपर एक नया टूल पेश करता है जिसे DAVE (डिस्ट्रीब्यूशन-अवेयर एट्रिब्यूशन वाया ViT ग्रेडिएंट डीकंपोजिशन) कहा जाता है ताकि इस भ्रम को ठीक किया जा सके। DAVE को एक हाई-रिज़ॉल्यूशन, नॉइज़-कैंसलिंग फ्लैशलाइट के रूप में समझें जो हमें यह देखने में मदद करती है कि रोबोट वास्तव में क्या देख रहा है।

यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. समस्या: रेडियो पर "स्टैटिक" (शोर)

जब वर्तमान AI मॉडल अपने निर्णयों को समझाने की कोशिश करते हैं, तो वे अक्सर "स्टैटिक" या "आर्टिफैक्ट्स" (विकृतियाँ) पैदा करते हैं।

  • उपमा: कल्पना कीजिए कि आप एक रेडियो स्टेशन सुन रहे हैं, लेकिन संगीत के ऊपर एक निरंतर गूँज और एक अजीब ग्रिड पैटर्न छाया हुआ है। आप गाना (भविष्यवाणी) सुन सकते हैं, लेकिन स्टैटिक (व्याख्या) यह समझने में मुश्किल बना देता है कि कौन सा वाद्य यंत्र कौन सा नोट बजा रहा है।
  • वास्तविकता: विजन ट्रांसफॉर्मर्स में, जिस तरह से मॉडल छवियों को प्रोसेस करता है (पैच में तोड़कर और "अटेंशन" का उपयोग करके), वह कृत्रिम पैटर्न बनाता है। मौजूदा तरीके इस स्टैटिक से विचलित हो जाते हैं, और वास्तविक वस्तु के बजाय ग्रिड लाइनों की ओर इशारा करने लगते हैं।

2. समाधान: सिग्नल को शोर से अलग करना

DAVE गणितीय रूप से रोबोट की "सोचने की प्रक्रिया" (ग्रेडिएंट) को दो अलग-अलग भागों में विभाजित करता है:

  • भाग A: वास्तविक सिग्नल (प्रभावी रूपांतरण - Effective Transformation): यह रोबोट के मस्तिष्क का वह हिस्सा है जो वास्तव में तस्वीर में क्या है उसके आधार पर बदलता है। यदि आप सॉकर बॉल को हिलाते हैं, तो यह भाग भी उसके साथ चलता है। यह उपयोगी जानकारी है।
  • भाग B: रोबोट की विचित्रताएं (ऑपरेटर वेरिएशन - Operator Variation): यह वह हिस्सा है जो केवल इसलिए बदल जाता है क्योंकि रोबोट के आंतरिक गियर थोड़े हिल गए थे, भले ही तस्वीर नहीं बदली। यह "शोर" या "ग्रिड पैटर्न" है।

रूपक: कल्पना कीजिए कि एक शेफ सूप चख रहा है।

  • सिग्नल: शेफ कहता है, "इसका स्वाद नमकीन है क्योंकि इसमें नमक है।" (यह वास्तविक कारण है)।
  • शोर: शेफ कहता है, "इसका स्वाद नमकीन है क्योंकि मैं जो चम्मच पकड़े हुए हूँ वह कंपन कर रहा है।" (यह उपकरण का आर्टिफैक्ट है, सूप का नहीं)।
  • DAVE का काम: यह कंपन करते चम्मच को फ़िल्टर करता है और आपको बताता है, "यह नमक के कारण है।"

3. जादुई ट्रिक: एक "स्थिर हाथ" वाला फ़िल्टर

एक बार जब DAVE वास्तविक सिग्नल को रोबोट की विचित्रताओं से अलग कर देता है, तो यह एक चतुर कार्य करता है जिसे इक्विवेरिएंट फ़िल्टरिंग (Equivariant Filtering) कहा जाता है।

  • उपमा: कल्पना कीजिए कि आप भीड़ में एक विशिष्ट चेहरा खोजने की कोशिश कर रहे हैं। यदि आप अपना सिर थोड़ा झुकाते हैं, तो चेहरा वही रहता है। यदि आप अपनी आँखें थोड़ी घुमाते हैं, तो चेहरा वहीं रहता है।
  • DAVE इसका उपयोग कैसे करता है: DAVE मॉडल से पूछता है, "यदि मैं इस तस्वीर को थोड़ा सा घुमाता हूँ या कुछ पिक्सेल खिसकाता हूँ, तो क्या आपकी व्याख्या बदल जाती है?"
    • यदि व्याख्या पागलों की तरह इधर-उधर कूदती है, तो DAVE जानता है कि वह अस्थिर "शोर" है और उसे फेंक देता है।
    • यदि व्याख्या सुसंगत रहती है (जैसे चेहरा वही रहता है), तो DAVE उसे रखता है।
  • परिणाम: यह एक सुचारू, स्थिर मानचित्र बनाता है जो वास्तविक वस्तु (जैसे सॉकर बॉल) को उजागर करता है, बिना किसी टेढ़े-मेढ़े, ग्रिड जैसे आर्टिफैक्ट्स के।

4. अंतिम पॉलिश: खुरदरे किनारों को धुंधला करना

अंत में, DAVE परिणाम पर एक हल्का "ब्लर" (लो-पास फ़िल्टरिंग) लगाता है।

  • उपमा: एक थोड़ी धुंधली खिड़की के माध्यम से हाई-डेफिनिशन फोटो देखने की कल्पना करें। धुंध धूल के छोटे-छोटे कणों (हाई-फ्रीक्वेंसी नॉइज़) को हटा देती है लेकिन मुख्य चित्र को स्पष्ट रखती है।
  • परिणाम: अंतिम मानचित्र चिकना, सटीक है और ठीक उन्हीं पिक्सेल को उजागर करता है जिनका उपयोग मॉडल ने अपने निर्णय लेने के लिए किया था।

उन्होंने क्या पाया?

लेखकों ने कई अलग-अलग AI मॉडलों (जैसे DeiT और DINO) पर ImageNet के एक विशाल डेटाबेस का उपयोग करके DAVE का परीक्षण किया।

  • बेहतर सटीकता: जब उन्होंने यह जांचा कि क्या AI की व्याख्या वास्तव में वस्तु की ओर इशारा कर रही थी, तो DAVE पिछले तरीकों की तुलना में बहुत बेहतर था। इसने वस्तु को अधिक बार पाया।
  • कम शोर: DAVE द्वारा बनाए गए विजुअल मैप्स में वे परेशान करने वाले ग्रिड पैटर्न नहीं थे। वे प्राकृतिक, मानव-समझने योग्य हाइलाइट्स की तरह दिखे।
  • स्थिरता: यदि आपने तस्वीर को थोड़ा सा बदला (घुमाया या खिसकाया), तो DAVE की व्याख्या समान रही, जिससे यह साबित हुआ कि यह वस्तु को देख रहा था, न कि पिक्सेल को।

संक्षेप में: DAVE AI मॉडलों को सुनने का एक नया तरीका है जो मॉडल के अपने आर्किटेक्चर के कारण होने वाले "स्टैटिक" को फ़िल्टर करता है, जिससे हमें एक स्पष्ट, स्थिर और सटीक दृश्य मिलता है कि AI वास्तव में क्या देख रहा है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →