⚡ electrical engineering

CAMAL: Improving Attention Alignment and Faithfulness with Segmentation Masks

यह शोध पत्र CAMAL को प्रस्तुत करता है, जो एक कुशल और स्केलेबल विधि है जो डीप लर्निंग और डीप रिइन्फोर्समेंट लर्निंग प्रतिमानों में विजन मॉडल्स के अटेंशन की स्थानिक सटीकता (अलाइनमेंट) और कारण संबंधी सार्थकता (फिथफुलनेस) दोनों में महत्वपूर्ण सुधार करने के लिए सेगमेंटेशन मास्क को एक सहायक रेगुलराइज़र के रूप में उपयोग करता है, जिससे इन्फरेंस लागत बढ़ाए बिना व्याख्यात्मकता (एक्सप्लेनेबिलिटी) में वृद्धि होती है।

मूल लेखक: Rajdeep Singh Hundal, Yan Xiao, Jin Song Dong, Manuel Rigger

प्रकाशित 2026-05-12

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rajdeep Singh Hundal, Yan Xiao, Jin Song Dong, Manuel Rigger

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को फोटो में बिल्ली पहचानना सिखा रहे हैं। आप उसे हजारों तस्वीरें दिखाते हैं, और अंततः रोबोट यह कहने में बहुत माहिर हो जाता है, "वह एक बिल्ली है!" लेकिन यहाँ समस्या यह है: क्यों उसने ऐसा सोचा?

हो सकता है कि वह बिल्ली के रोएंदार कानों को देख रहा हो। या शायद, वह पृष्ठभूमि में हरी घास को देख रहा है क्योंकि बिल्ली की सभी तस्वीरें लॉन पर ली गई थीं। यदि रोबोट केवल घास के आधार पर अनुमान लगा रहा है, तो वह वास्तव में बिल्लियों के बारे में "सीख" नहीं रहा है; वह एक शॉर्टकट ले रहा है।

यह पेपर CAMAL (क्लास एक्टिवेशन मैप अटेंशन लर्निंग) नामक एक नई विधि पेश करता है ताकि इसे ठीक किया जा सके। CAMAL को एक सख्त लेकिन सहायक शिक्षक के रूप में समझें जो न केवल रोबोट के अंतिम उत्तर की जांच करता है, बल्कि यह भी जांचता है कि सोचने के दौरान रोबोट कहाँ देख रहा है।

यह कैसे काम करता है, इसे सरल अवधारणाओं में विभाजित किया गया है:

1. समस्या: "रोबोट गलत चीज़ देख रहा है"

अतीत में, शोधकर्ताओं ने अन्य AI मॉडलों (जैसे कि एक मॉडल जो जानता है कि बिल्ली कैसी आवाज़ करती है या वह आमतौर पर कैसी दिखती है) से "संकेत" (hints) का उपयोग करके रोबोट को सही जगहों पर देखना सिखाने की कोशिश की थी। पेपर में इन्हें "स्यूडो-डिस्क्रिमिनेटिव रीजन्स" (pseudo-discriminative regions) कहा गया है।

उपमा: कल्पना करें कि आप एक छात्र को भीड़ में किसी विशिष्ट व्यक्ति को खोजने के लिए उस व्यक्ति के धुंधले, कम-रिज़ॉल्यूशन वाले स्केच दिखाकर सिखाने की कोशिश कर रहे हैं। छात्र सही व्यक्ति का अनुमान लगा सकता है, लेकिन वह भ्रमित भी हो सकता है और किसी ऐसे व्यक्ति की ओर इशारा कर सकता है जिसने संयोग से वैसी ही टोपी पहनी हो। संकेत बहुत अस्पष्ट था।

2. समाधान: "गोल्ड-स्टैंडर्ड मैप"

लेखकों ने देखा कि कई आधुनिक डेटासेट्स के साथ सेगमेंटेशन मास्क आते हैं।

उपमा: एक धुंधले स्केच के बजाय, कल्पना करें कि आपके पास एक परफेक्ट ट्रेस किया हुआ आउटलाइन (जैसे कि कलरिंग बुक का पन्ना) है जो बिल्कुल पिक्सेल-दर-पिक्सेल दिखाता है कि बिल्ली कहाँ है। यह "ग्राउंड ट्रुथ" (ground truth) है। यह एक मानव-सत्यापित मानचित्र है जो कहता है, "बिल्ली यहीं है, और कहीं नहीं।"

CAMAL इन परफेक्ट मैप्स का उपयोग करके रोबोट को सिखाता है। यह कहता है: "जब आप तस्वीर को देख रहे हों, तो आपका 'अटेंशन' (आपका मानसिक स्पॉटलाइट) इस आउटलाइन के अंदर के क्षेत्रों पर चमकना चाहिए, और बाकी सब जगह अंधेरा रहना चाहिए।"

3. CAMAL कैसे काम करता है (द "टीचर'स पेनल्टी")

पेपर रोबोट के लिए प्रशिक्षण के दौरान दो-भागों वाला नियम बताता है:

अच्छाई को प्रोत्साहित करना: यदि रोबोट का ध्यान बिल्ली (मास्क के अंदर) पर चमकता है, तो शिक्षक थम्स अप देता है।
बुराई को दंडित करना: यदि रोबोट का ध्यान घास या पृष्ठभूमि (मास्क के बाहर) पर चमकता है, तो शिक्षक थम्स डाउन देता है।

पेपर इसे "अटेंशन अलाइनमेंट" (सही जगह देखना) और "अटेंशन फेथफुलनेस" (यह सुनिश्चित करना कि उस जगह को देखने से वास्तव में निर्णय लेने में मदद मिलती है) कहता है। CAMAL रोबोट को ये दोनों करने के लिए मजबूर करता है।

4. द "बैच" ट्रिक (इसे तेज़ बनाना)

आमतौर पर, हर एक इमेज के लिए रोबोट कहाँ देख रहा है, इसकी जांच करने में बहुत अधिक कंप्यूटर पावर और समय लगता है। यह एक शिक्षक की तरह है जो अगले छात्र के होमवर्क पर जाने से पहले हर एक छात्र के होमवर्क को एक-एक करके ग्रेड करने के लिए रुकता है।

नवाचार: लेखकों ने पूरी क्लास को एक साथ चेक करने के लिए एक चतुर गणितीय ट्रिक खोज ली। 32 छात्रों को व्यक्तिगत रूप से ग्रेड करने के बजाय, वे पूरे समूह को एक बार में ग्रेड करते हैं। यह प्रक्रिया को बहुत तेज़ बनाता है और उन्हें बिना कंप्यूटर क्रैश किए विशाल डेटासेट्स पर इस विधि का उपयोग करने की अनुमति देता है।

5. उन्होंने क्या पाया

शोधकर्ताओं ने दो प्रकार के कार्यों पर परीक्षण किया:

स्टैंडर्ड विज़न (DL): फूलों, पालतू जानवरों और मेडिकल इमेजेस की पहचान करना।
वीडियो गेम्स (DRL): एक रोबोट को फर्स्ट-पर्सन शूटर गेम (ViZDoom) खेलने के लिए सिखाना।

परिणाम:

बेहतर फोकस: CAMAL के साथ प्रशिक्षित रोबोट पुराने "धुंधले स्केच" वाले संकेतों या बिना किसी संकेत के प्रशिक्षित रोबोटों की तुलना में वास्तविक वस्तुओं (बिल्ली, फूल, दुश्मन) को बहुत अधिक सटीकता से देखते थे।
अधिक विश्वसनीय: जब शोधकर्ताओं ने परीक्षण किया कि क्या रोबोट का फोकस वास्तव में मायने रखता है, तो उन्होंने पाया कि CAMAL-प्रशिक्षित रोबोट "फेथफुल" (निष्ठावान) थे। यदि आपने उस हिस्से को ढक दिया जिसे रोबोट देख रहा था, तो रोबोट भ्रमित हो गया। यदि आपने बैकग्राउंड को ढक दिया, तो रोबोट को फर्क नहीं पड़ा। यह साबित करता है कि रोबोट वास्तव में महत्वपूर्ण चीजों को देख रहा था।
कोई स्पीड पेनल्टी नहीं: बाद में चीज़ों को पहचानते या खेलते समय रोबोट धीमा नहीं हुआ। अतिरिक्त काम केवल उनके सीखने के दौरान हुआ।

निचोड़ (The Bottom Line)

पेपर का तर्क है कि AI को भरोसेमंद बनाने के लिए, हमें इसके अटेंशन को अन्य AI मॉडलों के अस्पष्ट अनुमानों के बजाय विश्वसनीय, मानव-सत्यापित मानचित्रों (सेगमेंटेशन मास्क) में स्थापित करने की आवश्यकता है। CAMAL एक ऐसा टूल है जो इन मैप्स का उपयोग AI को सही चीज़ों को देखना सिखाने के लिए करता है, जिससे AI के निर्णय अधिक तार्किक होते हैं और आकस्मिक शॉर्टकट पर आधारित होने की संभावना कम हो जाती है।

संक्षेप में: CAMAL AI को "बिल्ली" देखना सिखाता है न कि "घास" को, और इसके लिए एक परफेक्ट आउटलाइन का मार्गदर्शन लेता है, और यह ऐसा कुशलता से करता है जिससे अंतिम परिणाम धीमा न हो।

तकनीकी सारांश: CAMAL

समस्या विवरण

वास्तविक दुनिया के अनुप्रयोगों में तैनात विजन मॉडल को अपनी निर्णयों को विश्वसनीय बनाने के लिए व्याख्यात्मकता (interpretability) की आवश्यकता होती है। क्लास एक्टिवेशन मैप्स (CAMs) का व्यापक रूप से मॉडल के ध्यान (attention) को विज़ुअलाइज़ करने के लिए उपयोग किया जाता है, जो उन क्षेत्रों को उजागर करते हैं जिन्हें मॉडल भेदभावपूर्ण (discriminative) मानता है। हालाँकि, मौजूदा दृष्टिकोण दो महत्वपूर्ण सीमाओं से ग्रस्त हैं:

ध्यान संरेखण का अभाव (Lack of Attention Alignment): मॉडल अक्सर वास्तविक भेदभावपूर्ण क्षेत्रों के बजाय भ्रामक क्षेत्रों (spurious regions) पर ध्यान केंद्रित करते हैं, जिसे "शॉर्टकट लर्निंग" कहा जाता है।
ध्यान निष्ठा का अभाव (Lack of Attention Faithfulness): भले ही ध्यान किसी क्षेत्र के साथ संरेखित हो, यह गारंटी नहीं देता कि वह ध्यान मॉडल के निर्णय को कार्य-कारण (causally) रूप से प्रभावित करता है।

इसे "अटेंशन सुपरविजन" के माध्यम से संबोधित करने के हालिया प्रयास प्री-ट्रेंड ज़ीरो-शॉट मॉडल्स (जैसे CLIP) से प्राप्त छद्म-भेदभावपूर्ण क्षेत्रों (pseudo-discriminative regions) पर निर्भर रहे हैं। लेखक तर्क देते हैं कि ये प्रायर (priors) अविश्वसनीय हैं क्योंकि वे सटीक स्थानिक स्थानीयकरण (spatial localization) के बजाय व्यापक सामान्यीकरण के लिए अनुकूलित हैं, जिसके परिणामस्वरूप अक्सर खंडित या भ्रामक संदर्भ क्षेत्र प्राप्त होते हैं। इसके अलावा, मौजूदा तरीके बड़े डेटासेट पर कुशलतापूर्वक स्केल करने में विफल रहते हैं क्योंकि वे प्रति-नमूना ग्रेडिएंट-आधारित अटेंशन निष्कर्षण (per-sample gradient-based attention extraction) पर निर्भर करते हैं, जिससे अत्यधिक कम्प्यूटेशनल ओवरहेड होता है।

कार्यप्रणाली: CAMAL

लेखक क्लास एक्टिवेशन मैप अटेंशन लर्निंग (CAMAL) का प्रस्ताव करते हैं, जो मॉडल के ध्यान को निर्देशित करने के लिए सेगमेंटेशन मास्क (segmentation masks) का उपयोग करता है।

1. विश्वसनीय संदर्भ क्षेत्र

CLIP-आधारित प्रायर का उपयोग करने वाले पिछले कार्यों के विपरीत, CAMAL ग्राउंड-ट्रुथ भेदभावपूर्ण क्षेत्रों को परिभाषित करने के लिए सेगमेंटेशन मास्क (जो अक्सर मानव-सत्यापित होते हैं या SAM जैसे उपकरणों द्वारा उत्पन्न किए जाते हैं) का उपयोग करता है। ये मास्क संरचित, पूर्ण और सटीक स्थानिक जानकारी प्रदान करते हैं।

2. मास्क-गाइडेड ऑक्सिलरी रेगुलराइजेशन

CAMAL एक ऑक्सिलरी रेगुलराइजेशन ऑब्जेक्टिव तैयार करता है जो मॉडल के अटेंशन हीटमैप $H_c$ और सेगमेंटेशन मास्क $M_c$ से प्राप्त दो मेट्रिक्स को संयुक्त रूप से अनुकूलित करता है:

$\alpha$ (इन-मास्क अटेंशन): ग्राउंड-ट्रुथ भेदभावपूर्ण क्षेत्रों के भीतर औसत अटेंशन।
$\beta$ (आउट-ऑफ-मास्क अटेंशन): इन क्षेत्रों के बाहर औसत अटेंशन।

ऑब्जेक्टिव फंक्शन अंतर $(\beta - \alpha)$ को कम करता है, जो प्रभावी रूप से मॉडल को मास्क के भीतर अटेंशन बढ़ाने ( $\alpha \uparrow$ ) और भ्रामक क्षेत्रों में अटेंशन को दबाने ( $\beta \downarrow$ ) के लिए प्रोत्साहित करता है। इसे मानक क्रॉस-एन्ट्रॉपी लॉस में एक रेगुलराइज़र के रूप में जोड़ा जाता है:
$L = L_{CE} + \lambda \sum_{b} (\beta_b - \alpha_b)$
जहाँ $\lambda$ रेगुलराइजेशन की शक्ति को नियंत्रित करता है।

3. कुशल बैच-लेवल अटेंशन एक्सट्रैक्शन

एक प्रमुख तकनीकी योगदान ग्रेडिएंट-आधारित अटेंशन निष्कर्षण (जैसे Grad-CAM) में स्केलेबिलिटी बाधा का समाधान है। मानक तरीकों के लिए मिनी-बैच में प्रत्येक नमूने के लिए एक अलग बैकवर्ड पास की आवश्यकता होती है ( $O(B)$ जटिलता)। CAMAL एक कुशल फॉर्मूलेशन पेश करता है जहाँ मिनी-बैच के सभी नमूनों के लॉजिट्स को एक एकल बैकवर्ड पास करने से पहले एक एकल स्केलर में जोड़ दिया जाता है।

सैद्धांतिक गारंटी: अवकलन (differentiation) की रैखिकता और बैच के भीतर नमूनों की स्वतंत्रता के कारण, यह एकल बैकवर्ड पास उन्हीं ग्रेडिएंट्स को देता है जो उन्हें व्यक्तिगत रूप से कंप्यूट करने से मिलते हैं ( $O(1)$ जटिलता)।
प्रभाव: यह प्रशिक्षण ओवरहेड को काफी कम कर देता है, जिससे बड़े पैमाने पर प्रशिक्षण व्यवस्था में अटेंशन सुपरविजन संभव हो जाता है।

4. आर्किटेक्चर और टास्क एगोस्टिक (Task Agnostic)

CAMAL को आर्किटेक्चर के प्रति स्वतंत्र (agnostic) बनाया गया है (यह CNNs, ViT जैसे ट्रांसफॉर्मर्स और हाइब्रिड मॉडल्स पर लागू होता है) और यह विभिन्न लर्निंग पैराडाइम्स के लिए भी उपयुक्त है। डीप रिइन्फोर्समेंट लर्निंग (DRL) में, जहाँ ग्राउंड-ट्रुथ लेबल अनुपस्थित होते हैं, CAMAL क्रिटिक के वैल्यू एस्टीमेट $V(s)$ का उपयोग अटेंशन कंप्यूटेशन के लक्ष्य के रूप में करता है, जिससे वीकली-सुपरवाइज्ड सेटिंग्स में सुपरविजन संभव होता है।

मुख्य योगदान

सिद्धांतिक अटेंशन सुपरविजन: CAMAL का परिचय, जो अटention लर्निंग को अनवेरिफाइड छद्म-क्षेत्रों के बजाय विश्वसनीय सेगमेंटेशन मास्क में स्थापित करता है।
नवल रेगुलराइजेशन ऑब्जेक्टिव: एक ऐसा फॉर्मूलेशन जो एक साथ ग्राउंड-ट्रुथ क्षेत्रों के भीतर अटेंशन को प्रोत्साहित करता है और अन्य स्थानों पर इसे दबाता है, जो "केवल-दबाने वाले" (suppress-only) रेगुलराइज़र की सीमाओं को संबोधित करता है।
स्केलेबल एक्सट्रैक्शन विधि: एक कुशल बैच-लेवल अटेंशन निष्कर्षण तकनीक जो कम्प्यूटेशनल जटिलता को $O(B)$ से $O(1)$ तक कम करती है, जिससे स्केलेबल सुपरविजन सक्षम होता है।
व्यापक मूल्यांकन: डीप लर्निंग (DL) और डीप रिइन्फोर्समेंट लर्निंग (DRL) प्रतिमानों में एक सांख्यिकीय रूप से कठोर मूल्यांकन।

प्रयोगात्मक परिणाम

लेखकों ने दो बेसलाइन के विरुद्ध CAMAL का मूल्यांकन किया: वैनिला (कोई अटेंशन सुपरविजन नहीं) और प्रायर (CLIP-आधारित छद्म-क्षेत्रों का उपयोग करके अटेंशन सुपरविजन)।

अटेंशन अलाइनमेंट (Attention Alignment)

मेट्रिक: मॉडल अटेंशन और ग्राउंड-ट्रथ मास्क के बीच इंटरसेक्शन-ओवर-यूनियन (IoU)।
DL परिणाम: CAMAL ने सभी 6 मॉडल्स (ResNet, ConvNeXt, EfficientNet, ViT, Swin, MaxViT) और 3 डेटासेट्स (BUSI, Oxford-IIIT-Pet, Oxford-Flower) में IoU में सांख्यिकीय रूप से महत्वपूर्ण सुधार हासिल किया। विभिन्न डेटासेट्स पर CAMAL के IoU स्कोर वैनिला और प्रायर दोनों से काफी अधिक थे (जैसे, विभिन्न डेटासेट्स पर प्रायर के लिए ~2-12% बनाम CAMAL के लिए ~33-42%)।
DRL परिणाम: ViZdoom वातावरण में, CAMAL ने वैनिला की तुलना में काफी उच्च माध्य IoU दिखाया, जिसमें स्ट्रैटिफाइड बूटस्ट्रैप कॉन्फिडेंस इंटरवल्स (SBCI) और प्रोबेबिलिटी ऑफ इम्प्रूवमेंट (POI) के माध्यम से सांख्यिकीय महत्व की पुष्टि की गई।

अटेंशन फेथफुलनेस (Attention Faithfulness)

मेट्रिक: अटेंशन महत्व के आधार पर पिक्सेल को हटाने/सम्मिलित करने और मॉडल के आत्मविश्वास में परिवर्तन को देखने के माध्यम से मापा गया कार्य-कारण प्रभाव।
परिणाम: CAMAL ने प्रायर की तुलना में अधिक निष्ठावान (faithful) अटेंशन प्रदर्शित किया। पिक्सेल हटाने के तहत, CAMAL के मॉडल का आत्मविश्वास तेजी से गिरा, जो इंगित करता है कि इसका अटेंशन महत्वपूर्ण विशेषताओं की सही पहचान करता है। पिक्सेल सम्मिलित करने के तहत, आत्मविश्वास तेजी से रिकवर हुआ। CAMAL ने सम्मिलन परिदृश्यों में प्रायर की तुलना में 35.3% उच्च AUC प्राप्त किया।

सामान्यीकरण प्रदर्शन (Generalization Performance)

DL: CAMAL अधिकांश मॉडल-डेटासेट संयोजनों में वर्गीकरण सटीकता में वैनिला से लगातार बेहतर रहा, जिसमें अधिकांश मामलों में सांख्यिकीय रूप से महत्वपूर्ण लाभ देखे गए।
DRL: CAMAL ने वैनिला की तुलना में बेहतर मीन रिटर्न की ओर एक रुझान दिखाया, हालांकि लाभ हमेशा सभी वातावरणों में सांख्यिकीय रूप से महत्वपूर्ण नहीं थे, जो यह सुझाव देता है कि अटेंशन सुपरविजन सामान्यीकरण में सुधार करता है लेकिन जटिल DRL डायनेमिक्स के लिए इसमें शोधन की आवश्यकता हो सकती है।
प्रायर के साथ तुलना: CAMAL ने सामान्यीकरण में प्रायर के बराबर या उससे बेहतर प्रदर्शन किया, जो यह सुझाव देता है कि अटेंशन सुपरविजन का प्राथमिक लाभ कार्य प्रदर्शन को नाटकीय रूप से बढ़ाने के बजाय अटेंशन की गुणवत्ता में सुधार करना है।

महत्व और दावे

पेपर का दावा है कि CAMAL यह प्रदर्शित करता है कि सेगमेंटेशन मास्क में मौजूद स्थानिक जानकारी का प्रभावी ढंग से मॉडल अटेंशन को निर्देशित करने के लिए उपयोग किया जा सकता है। लेखक इस बात पर जोर देते हैं कि:

विश्वसनीयता महत्वपूर्ण है: अटेंशन सुपरविजन को विश्वसनीय होने के लिए विश्वसनीय संदर्भ क्षेत्रों (सेगमेंटेशन मास्क) पर आधारित होना चाहिए; ज़ीरो-शॉट मॉडल्स से प्राप्त छद्म-क्षेत्रों पर निर्भर रहने से अविश्वसनीय सुधार होते हैं।
मात्रा से अधिक गुणवत्ता: अटेंशन सुपरविजन का प्राथमिक लाभ सीखे गए अटेंशन की गुणवत्ता (अलाइनमेंट और फेथफुलनेस) में सुधार करना है, जबकि कार्य प्रदर्शन में लाभ मामूली और संदर्भ-निर्भर होते हैं।
स्केलेबिलिटी: प्रस्तावित बैच-लेवल निष्कर्षण विधि आधुनिक, बड़े पैमाने पर प्रशिक्षण को बिना इन्फरेंस लागत बढ़ाए व्यावहारिक बनाती है।

लेखक निष्कर्ष निकालते हैं कि CAMAL भविष्य के अटेंशन सुपरविजन विधियों के लिए एक विश्वसनीय आधार रेखा स्थापित करता है, और यह रेखांकित करता है कि ऐसे तरीकों की पूर्ण क्षमता को साकार करने के लिए उन्हें सटीक, ग्राउंड-ट्रुथ स्थानिक जानकारी में स्थापित करना आवश्यक है।