Consistent Evidence, Robust Recognition: Faithful Attribution Regularization under Geometric Transformations

तकनीकी सारांश: सुसंगत साक्ष्य, सुदृढ़ पहचान

समस्या विवरण
डीप न्यूरल नेटवर्क के भविष्यवाणियों के पीछे के इनपुट साक्ष्य (evidence) की पहचान करने के लिए एट्रिब्यूशन विधियों का व्यापक रूप से उपयोग किया जाता है। हालांकि, मॉडल के व्यवहार को सक्रिय रूप से सुधारने की उनकी क्षमता अभी भी कम खोजी गई है। एक महत्वपूर्ण मुद्दा लेबल-संरक्षण करने वाले ज्यामितीय रूपांतरणों (जैसे कि फ्लिपिंग या रोटेशन) के तहत एट्रिब्यूशन विसंगति (attribution inconsistency) है। जबकि अनुमानित क्लास अपरिवर्तित रह सकती है, मॉडल अक्सर मूल ऑब्जेक्ट साक्ष्य से हटकर अलग या अप्रासंगिक क्षेत्रों पर अपना भरोसा बदल देता है। यह ज्यामितीय रूपांतरणों के प्रति संवेदनशीलता को दर्शाता है जो मजबूती (robustness) को कमजोर करता है।

एट्रिब्यूशन रेगुलराइजेशन के मौजूदा दृष्टिकोण आमतौर पर ग्रेडिएंट-आधारित मानचित्रों (जैसे कि Grad-CAM) से प्राप्त स्व-पर्यवेक्षित स्थिरता उद्देश्यों (self-supervised consistency objectives) पर निर्भर करते हैं। इन विधियों की एक मौलिक सीमा विश्वसनीयता (faithfulness) है: ग्रेडिएंट-आधारित मानचित्र हमेशा उस साक्ष्य को सटीक रूप से नहीं दर्शाते हैं जो मॉडल के निर्णय को संचालित करता है। फलस्वरूप, इन मानचित्रों को संरेखित करना केवल व्याख्या आउटपुट में निरंतरता सुनिश्चित करता है, लेकिन यह अंतर्निहित निर्णय प्रक्रिया में निरंतरता की गारंटी नहीं देता है। एक मॉडल व्याख्या-स्तर की निरंतरता प्राप्त कर सकता है जबकि वह अभी भी रूपांतरण-संवेदनशील साक्ष्य पर निर्भर हो सकता है। यह कार्य जिस केंद्रीय चुनौती को संबोधित करता है वह यह है कि कैसे विश्वसनीय, निर्णय-जुड़े एट्रिब्यूशन को बिना मानव एनोटेशन के प्रभावी प्रशिक्षण संकेत में परिवर्तित किया जाए।

कार्यप्रणाली (Methodology)
लेखक इमेज क्षेत्रों पर सबमॉड्यूलर सर्च (submodular search) पर आधारित एक एनोटेशन-मुक्त एट्रिब्यूशन रेगुलराइजेशन फ्रेमवर्क प्रस्तावित करते हैं। यह विधि दो चरणों में कार्य करती है:

1. क्वेरी चरण (सुपरविजन उत्पन्न करना):
   ग्रेडिएंट-आधारित हीटमैप्स के बजाय, यह फ्रेमवर्क संक्षिप्त, क्लास-डिस्क्रिमिनेटिव साक्ष्य निकालने के लिए एक सर्च-आधारित एट्रिब्यूशन विधि (विशेष रूप से LIMA) का उपयोग करता है। प्रक्रिया लालची (greedy) तरीके से उन इमेज क्षेत्रों का चयन करती है जो एक सबमॉड्यूलर स्कोर फंक्शन को अधिकतम करते हैं, जो निरंतरता (consistency), आत्मविश्वास (confidence) और सहयोग (collaboration) मेट्रिक्स को जोड़ता है। खोज तब समाप्त होती है जब एक निरंतरता थ्रेशोल्ड तक पहुँच जाता है।

• फिल्टरिंग: केवल उन्हीं नमूनों को रखा जाता है जिन्हें सही ढंग से वर्गीकृत किया गया है, जिनमें उच्च आत्मविश्वास है, और जिनका एट्रिब्यूशन क्षेत्र संक्षिप्त है। यह सुनिश्चित करता है कि सुपरविजन सिग्नल विश्वसनीय मॉडल व्यवहार से प्राप्त किया गया है।
• सुपरविजन अनुक्रम: रखे गए नमूनों के लिए, चयनित क्षेत्रों का क्रमबद्ध अनुक्रम और रुकने की स्थिति "सर्च-व्युत्पन्न सुपरविजन" (search-derived supervision) का निर्माण करती है।

2. प्रशिक्षण चरण (सबमॉड्यूलर रैंकिंग लॉस):
   मॉडल को रेगुलराइज करने के लिए, फ्रेमवर्क एक रूपांतरित छवि के एट्रिब्यूशन सर्च ट्राजेक्टरी को मूल छवि के स्थानिक रूप से संबंधित ट्राजेक्टरी के साथ संरेखित करता है। चूंकि खोज प्रक्रिया असतत (discrete) और क्रमिक है, इसलिए एक डिफरेंशिएबल सरोगेट (differentiable surrogate) की आवश्यकता होती है। लेखक एक सबमॉड्यूलर रैंकिंग लॉस (Submodular Ranking Loss) पेश करते हैं, जो दो पदों से बना है:

• सिलेक्शन-रैंकिंग लॉस ($L_{SelR}$): रूपांतरित छवि पर ग्रीडी सर्च के प्रत्येक चरण में, यह पद यह सुनिश्चित करता है कि स्थानिक रूप से संबंधित लक्ष्य क्षेत्र (मूल अनुक्रम से) सभी शेष गैर-लक्ष्य उम्मीदवारों की तुलना में उच्च रैंक रखता है।
• सिलेक्शन-ट्रंकेशन लॉस ($L_{SelT}$): यह पद इस बात को प्रोत्साहित करता है कि रूपांतरित ट्राजेक्टरी का संचित साक्ष्य, लक्ष्य टर्मिनल स्टेप पर मूल क्वेरी अनुक्रम के समान ही स्टॉपिंग क्राइटेरिया को संतुष्ट करे।

कुल उद्देश्य मानक वर्गीकरण हानि (classification loss) को सबमॉड्यूलर रैंकिंग लॉस के साथ जोड़ता है, जिसे हाइपरपैरामीटर $\lambda$ द्वारा भारित (weighted) किया जाता है। फ्रेमवर्क को कंप्यूटेशनल ओवरहेड को प्रबंधित करने के लिए कंस्ट्रेंड सर्च स्पेस और स्पार्स रेगुलराइजेशन जैसे अनुकूलनों के साथ लागू किया गया है।

प्रमुख योगदान

1. विश्वसनीय एट्रिब्यूशन पूर्व शर्त: यह कार्य इस सिद्धांत के इर्द-गिर्द एट्रिब्यूशन रेगुलराइजेशन को तैयार करता है कि सुपरविजन को भविष्यवाणी के पीछे के साक्ष्य का विश्वसनीय प्रतिनिधित्व करना चाहिए, जो सरल मैप निरंतरता से आगे बढ़ता है।
2. एनोटेशन-मुक्त फ्रेमवर्क: एक अभिनव फ्रेमवर्क जो फिल्टर किए गए सबमॉड्यूलर सर्च से संक्षिप्त सुपरविजन अनुक्रम प्राप्त करता है, जिससे मानव-प्रदान किए गए प्रासंगिकता एनोटेशन की आवश्यकता समाप्त हो जाती है।
3. सबमॉड्यूलर रैंकिंग लॉस: एक डिफरेंशिएबल लॉस फंक्शन जो रूपांतरित ट्राजेक्टरीज के साथ उम्मीदवार चयन को संरेखित करता है और स्टॉपिंग क्राइटेरिया को लागू करता है, जो अन्यथा असतत साक्ष्य-चयन प्रक्रिया के लिए एक सरोगेट प्रदान करता है।
4. अनुभवजन्य सत्यापन: एट्रिब्यूशन स्थिरता और विश्वसनीयता में सुधार के साथ-साथ, क्लीन-इमेज सटीकता पर न्यूनतम प्रभाव के साथ रूपांतरित इनपुट के प्रति मजबूत मजबूती (robustness) प्रदर्शित करने वाले व्यापक प्रयोग।

प्रायोगिक परिणाम
विधि का मूल्यांकन ViT-B/16, ViT-L/16, ResNet-50, और ConvNeXt-B आर्किटेक्चर का उपयोग करके ImageNet-100 और ImageNet-1K पर किया गया।

• एट्रिब्यूशन गुणवत्ता (ImageNet-100, ViT-B/16):
  • एट्रिब्यूशन स्थिरता 0.14 से बढ़कर 0.27 हुई।
  • इन्सर्शन (Insertion) स्कोर में 52.1% का सुधार हुआ।
  • डिलीशन (Deletion) स्कोर में 62.2% की कमी आई।
  • वर्गीकरण सटीकता केवल 0.28 प्रतिशत अंक गिरी।
• मजबूती (Robustness) (ImageNet-1K):
  • औसत रूपांतरित-इनपुट सटीकता में 0.55 (ResNet-50) और 0.33 (ConvNeXt-B) प्रतिशत अंक का सुधार हुआ।
  • क्लीन-एक्यूरेसी में कमी केवल 0.30 अंक तक सीमित थी।
• दक्षता: विधि CGC के तुलनीय थ्रूपुट और CLIP-AFT से तेज़ थ्रूपुट प्राप्त करती है, और सेकंड-ऑर्डर ग्रेडिएंट विधियों की तुलना में काफी कम GPU मेमोरी की आवश्यकता होती है।

महत्व और दावे
पेपर का दावा है कि विश्वसनीय एट्रिब्यूशन पूर्वानुमान प्रदर्शन से समझौता किए बिना सुसंगत साक्ष्य निर्भरता को बढ़ावा देता है। ग्रेडिएंट मैप्स के संरेखण के बजाय वास्तविक साक्ष्य-चयन प्रक्रिया (जो सबमॉड्यूलर सर्च से प्राप्त है) को संरेखित करने पर ध्यान केंद्रित करके, यह विधि रूपांतरण संवेदनशीलता के मूल कारण को संबोधित करता है। परिणाम बताते हैं कि केवल व्याख्या आउटपुट के बजाय निर्णय-प्रासंगिक साक्ष्य पर इक्विवैरिएंस (equivariance) लागू करने से अधिक मजबूत मॉडल मिलते हैं जो ज्यामितीय रूपांतरणों के माध्यम से स्थानिक रूप से संबंधित साक्ष्य पर भरोसा करते हैं। लेखक नोट करते हैं कि आगे के शोध को सुगम बनाने के लिए कोड जल्द ही जारी किया जाएगा।