🤖 machine learning

Spatially Grounded Concept-Based Image Classification

यह शोध पत्र SEG-MIL-CBM का प्रस्ताव करता है, जो एक स्थानिक रूप से आधारित (spatially grounded) कॉन्सेप्ट बॉटलनेक मॉडल है जो छवियों को कॉन्सेप्ट-निर्देशित क्षेत्रों में विभाजित करता है और वर्गीकरण सटीकता में सुधार करने तथा अलग से पोस्ट-हॉक एट्रिब्यूशन मॉड्यूल की आवश्यकता के बिना आंतरिक, मानव-व्याख्या योग्य स्पष्टीकरण प्रदान करने के लिए अटेंशन के माध्यम से सेगमेंट-स्तरीय साक्ष्य को एकत्रित करता है।

मूल लेखक: Ran Eisenberg, Amit Rozner, Ethan Fetaya, Ofir Lindenbaum

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ran Eisenberg, Amit Rozner, Ethan Fetaya, Ofir Lindenbaum

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: इस तस्वीर में क्या है?

अधिकांश आधुनिक AI जासूस (डीप न्यूरल नेटवर्क) इस केस को सुलझाने में अविश्वसनीय रूप से अच्छे होते हैं। वे आपको बता सकते हैं, "वह एक पक्षी है!" 99% सटीकता के साथ। लेकिन वे यह समझाने में बहुत खराब हैं कि उन्हें कैसे पता चला। वे शायद पक्षी के बजाय बैकग्राउंड (जैसे कि झील) को देख रहे हों, या वे किसी गुप्त कोड का उपयोग कर रहे हों जिसे कोई इंसान पढ़ नहीं सकता। यदि आप पूछते हैं, "आपने क्यों कहा कि यह एक पक्षी है?", तो वे बस कंधे उचका देते हैं और कहते हैं, "क्योंकि गणित ऐसा कहता है।"

अन्य AI जासूस, जिन्हें कॉन्सेप्ट बोतलबंद मॉडल (CBMs) कहा जाता है, अधिक ईमानदार होने की कोशिश करते हैं। वे कहते हैं, "मैं एक 'चोंच' और 'पंख' देख रहा हूँ, इसलिए यह एक पक्षी है।" यह बेहतर है, लेकिन उनमें अभी भी एक दोष है: वे पूरी तस्वीर को एक स्मूदी की तरह मानते हैं। वे सभी "चोंच" और "पंखों" को जानकारी के एक बड़े कप में मिला देते हैं। वे यह नहीं बता सकते कि वे तस्वीर के किस विशिष्ट भाग को देख रहे हैं। क्या उन्होंने बाईं ओर की चोंच देखी? या दाईं ओर की पूंछ? वे केवल एक ग्लोबल स्कोर देते हैं।

नए जासूस से मिलिए: SEG-MIL-CBM

लेखकों ने इस नए जासूस को बनाया है जिसे SEG-MIL-CBM कहा जाता है। इस SEG-MIL-CBM वाले जासूस के बारे में सोचें जो एक फोरेंसिक अकाउंटेंट की तरह है जो केवल अनुमान नहीं लगाता; वह अपने द्वारा लिए गए हर निर्णय के लिए एक विस्तृत, मद-वार रसीद रखता है।

यह कैसे काम करता है, सरल उपमाओं का उपयोग करके यहाँ दिया गया है:

1. "कट-एंड-पेस्ट" टीम (प्रीप्रोसेसिंग)

इससे पहले कि जासूस तस्वीर को देखे, वे एक विशेष रोबोटों की टीम (प्री-ट्रेन्ड AI टूल्स जैसे CLIP, GroundingDINO, और SAM) का उपयोग करके छवि को पहेली के टुकड़ों में काट देते हैं।

रोबोट: वे छवि को देखते हैं और कहते हैं, "मुझे यहाँ एक पैच दिख रहा है जो 'चमकदार नारंगी छाती' जैसा है," और "मुझे वहाँ 'काले पंखों' जैसा दिखने वाला एक पैच दिख रहा है।"
परिणाम: छवि अब एक बड़ा ढेर नहीं रह जाती। यह अलग-अलग, लेबल किए गए पहेली के टुकड़ों (सेगमेंट) का एक थैला है।

2. "समिति का वोट" (द मॉडल)

अब, मुख्य जासूस (मॉडल) इस पहेली के टुकड़ों के थैले को देखता है। उन्हें मिलाने के बजाय, यह प्रत्येक टुकड़े को अदालत में एक गवाह की तरह मानता है।

गवाह: प्रत्येक पहेली का टुकड़ा कहता है, "मैं पक्षी का एक हिस्सा हूँ, और मैं 'पक्षी' के फैसले में 40% योगदान देता हूँ।" दूसरा टुकड़ा कहता है, "मैं बैकग्राउंड का एक हिस्सा हूँ, और मैं 0% योगदान देता हूँ।"
वोट: जासूस इन गवाहियों को तौलता है। यह उन टुकड़ों को अधिक ध्यान से सुनने के लिए एक विशेष "अटेंशन" तंत्र का उपयोग करता है जो सबसे महत्वपूर्ण लगते हैं और शोर को अनदेखा करता है।

3. "मद-वार रसीद" (एक्सप्लेनेशन)

यही जादू वाला हिस्सा है। क्योंकि अंतिम उत्तर केवल गवाहों के वोटों का योग है, इसलिए जासूस एक मद-वार रसीद प्रिंट कर सकता है।

रसीद: यह केवल "पक्षी" नहीं कहता। यह कहता है:
- गवाह 1 (नारंगी छाती): "पक्षी" के लिए +0.42 अंक।
- गवाह 2 (काले पंख): "पक्षी" के लिए +0.32 अंक।
- ग meskipun 3 (नीला आकाश): 0 अंक।
लाभ: आप देख सकते हैं कि AI ने वास्तव में कहाँ देखा और उसने क्या देखा। यदि AI ने गलती की है, तो आप रसीद देख सकते हैं और कह सकते हैं, "आह, आपने पहेली के गलत टुकड़े पर ध्यान केंद्रित किया!"

यह क्यों मायने रखता है? (द "शॉर्टकट" समस्या)

कभी-कभी, AI आलसी हो जाता है। वे "शॉर्टकट" सीख लेते हैं।

परिदृश्य: कल्पना कीजिए कि एक AI को पक्षियों को पहचानने के लिए प्रशिक्षित किया गया है। वह देखता है कि अधिकांश ट्रेनिंग फोटो में पक्षी पानी पर होते हैं। इसलिए, वह सीखता है: "यदि मैं पानी देखता हूँ, तो यह एक पक्षी है।"
विफलता: यदि आप उसे पेड़ पर एक पक्षी दिखाते हैं, तो वह भ्रमित हो सकता है क्योंकि वह पानी की तलाश कर रहा है।
पुराना तरीका: ग्लोबल CBMs अभी भी धोखा खा सकते हैं क्योंकि वे "पानी" और "पक्षी" को एक ही स्कोर में मिला देते हैं।
SEG-MIL-CBM का तरीका: क्योंकि यह मॉडल टुकड़ों को अलग-अलग देखता है, यह देख सकता है: "यह एक पेड़ पर बैठा पक्षी है (अच्छा!), लेकिन यह टुकड़ा पानी है (बुरा/शॉर्टकट)।" यह पानी के टुकड़े को अनदेखा करने और पक्षी के टुकड़े पर ध्यान केंद्रित करने का विकल्प चुन सकता है।

उन्होंने क्या साबित किया?

लेखकों ने इस नए जासूस का कई चुनौतियों पर परीक्षण किया:

यह ईमानदार है: उन्होंने परीक्षण किया जहाँ उन्होंने एक-एक करके सबसे महत्वपूर्ण पहेली के टुकड़ों को हटाया। मॉडल का आत्मविश्वास ठीक वैसे ही गिरा जैसा अपेक्षित था, जिससे सिद्ध हुआ कि स्पष्टीकरण सोचने की प्रक्रिया से मेल खाता है।
यह स्मार्ट है: यह न केवल समझाने में बेहतर हुआ; बल्कि इसने उन कठिन मामलों को हल करने में भी बेहतर प्रदर्शन किया जहाँ अन्य "ईमानदार" मॉडल विफल रहे (विशेष रूप से उन डेटासेट्स पर जहाँ AI आमतौर पर बैकग्राउंड द्वारा चकमा खा जाता है)।
यह पर्याप्त तेज़ है: यह मानक इमेज रिकग्निशन कार्यों पर अच्छी तरह से काम करता है, न कि केवल ट्रिकी वाले।

निचोड़

यह पेपर एक ऐसी प्रणाली पेश करता है जो AI को अपना काम दिखाने के लिए मजबूर करती है। एक ब्लैक बॉक्स के बजाय जो केवल उत्तर देता है, यह आपको एक हाइलाइट किया गया मैप देता है जिसमें हर हाइलाइट किए गए क्षेत्र के लिए एक स्कोरकार्ड होता है।

पुराना AI: "यह एक पक्षी है।" (मेरा विश्वास करो, मैं स्मार्ट हूँ।)
पुराना "ईमानदार" AI: "यह एक पक्षी है क्योंकि इसमें 'पंख' और 'चोंच' जैसे कॉन्सेप्ट्स हैं।" (लेकिन मैं आपको नहीं बता सकता कि मैंने उन्हें कहाँ देखा।)
SEG-MIL-CBM: "यह एक पक्षी है। यहाँ बाईं ओर का 'पंख' वाला पैच है (स्कोर: 0.4), और यहाँ दाईं ओर की 'चोंच' है (स्कोर: 0.3)। मैंने बैकग्राउंड में पानी को अनदेखा कर दिया।"

लेखकों का दावा है कि यह AI को अधिक विश्वसनीय बनाता है, खासकर जब इसके द्वारा आलसी शॉर्टकट लेने की संभावना हो, और यह मनुष्यों को इसे बिना किसी अलग, भ्रमित करने वाले टूल के ऑडिट करने की अनुमति देता है।

तकनीकी सारांश: SEG-MIL-CBM

समस्या विवरण
डीप न्यूरल नेटवर्क अक्सर स्प्यूरियस कोरिलेशन (spurious correlations) या ऐसे साक्ष्यों पर निर्भर होकर उच्च सटीकता प्राप्त करते हैं जिन्हें जाँचना कठिन होता है, विशेष रूप से उच्च-जोखिम वाले परिवेशों में। जबकि कॉन्सेप्ट बॉटलनेक मॉडल (CBMs) छवियों को मानव-परिभाषित अवधारणाओं (concepts) में मैप करके मानव-व्याख्या योग्य तर्क प्रदान करते हैं, अधिकांश मौजूदा CBMs अवधारणाओं को एक वैश्विक विशेषता (global attribute) के रूप में मानते हैं। यह वैश्विक दृष्टिकोण यह पहचानने में विफल रहता है कि कौन से विशिष्ट इमेज क्षेत्र किसी अवधारणा का समर्थन करते हैं, जिससे भविष्यवाणी और उसके स्पष्टीकरण के बीच एक अंतराल रह जाता है। इसके अतिरिक्त, स्थानिक रूप से ग्राउंडेड CBMs (जैसे, SALF-CBM) साक्ष्य को स्थानीयकृत तो करते हैं, लेकिन वे इस बात का स्पष्ट रूप से लेखा-जोखा नहीं रखते कि क्षेत्र-स्तर के साक्ष्य को अंतिम निर्णय लॉजिट (decision logit) में कैसे एकत्रित किया जाता है, जिसके परिणामस्वरूप अक्सर स्पष्टीकरण, उस गणना से अलग हो जाते हैं जो भविष्यवाणी उत्पन्न करती है।

कार्यप्रणाली: SEG-MIL-CBM
लेखक SEG-MIL-CBM (स्पेशियली ग्राउंडेड कॉन्सेप्ट-बेस्ड इमेज क्लासिफिकेशन) प्रस्तावित करते हैं, जो एक ऐसा मॉडल है जिसे छवियों को कॉन्सेप्ट-गाइडेड क्षेत्रों में विभाजित करने और सेगमेंट-स्तरीय साक्ष्यों के अटेंशन-आधारित एकत्रीकरण के माध्यम से उन्हें वर्गीकृत करने के लिए डिज़ाइन किया गया है। मुख्य नवाचार यह है कि वही सेगमेंट साक्ष्य पद (evidence terms) जिनका उपयोग भविष्यवाणी बनाने के लिए किया जाता है, उन्हें सीधे स्पष्टीकरण उत्पन्न करने के लिए पढ़ा जाता है, जिससे एक अलग पोस्ट-हॉक एट्रिब्यूशन मॉड्यूल की आवश्यकता समाप्त हो जाती है।

पाइपलाइन चार चरणों में विभाजित है:

ऑफलाइन प्रीप्रोसेसिंग: पूर्व-प्रशिक्षित फाउंडेशन मॉडल्स (CLIP, GroundingDINO, और SAM) का उपयोग करके, सिस्टम प्रत्येक छवि के लिए "बैग" (bag) के रूप में कॉन्सेप्ट-गाइडेड सेगमेंट बनाता है। GroundingDINO अवधारणाओं को स्थानीयकृत करता है, और SAM बाइनरी मास्क बनाता है। इन सेगमेंट को फ्रीज किए गए CLIP कॉन्सेप्ट-सिमिलरिटी टारगेट्स के साथ कैश किया जाता है।
सेगमेंट एनकोडिंग: एक ट्रेन करने योग्य मॉडल प्रत्येक सेगमेंट को एक साझा बैकबोन ( $\phi$ ) का उपयोग करके एनकोड करता है ताकि फीचर्स ( $h_i$ ) प्राप्त हो सकें। एक लीनियर कॉन्सेप्ट हेड इन फीचर्स को कॉन्सेप्ट स्पेस में प्रोजेक्ट करता है ताकि सीखे गए कॉन्सेप्ट एक्टिवेशन्स ( $z_i$ ) प्राप्त हों।
अकाउंटेबल एग्रीगेशन (MIL): मॉडल एक अटेंशन-आधारित मल्टीपल इंस्टेंस लर्निंग (MIL) फ्रेमवर्क का उपयोग करता है। यह प्रत्येक सेगमेंट के लिए क्लास-कंडीशन्ड अटेंशन वेट्स ( $\alpha_{i,y}$ ) की गणना करता है और सेगमेंट-क्लास स्कोर ( $g_{i,y}$ ) को इमेज-लेवल लॉजिट ( $\ell_y = \sum \alpha_{i,y} g_{i,y}$ ) में एकत्रित करता है।
एक्सप्लेनेशन जनरेशन: अंतिम लॉजिट इस अपघटन (decomposition) के स्पष्ट सेगमेंट-स्तरीय योगदान का योग है। स्पष्टीकरण इस अपघटन से नॉन-बायस एविडेंस टर्म्स ( $C^{sp}_{i,y}$ ) को पढ़कर प्राप्त किया जाता है। यह प्रकट करता है कि किन क्षेत्रों ने भविष्यवाणी में सकारात्मक योगदान दिया और उन क्षेत्रों के भीतर किन विशिष्ट अवधारणाओं ने वह समर्थन प्रदान किया।

प्रशिक्षण उद्देश्य इमेज-लेवल क्रॉस-एन्ट्रॉपी लॉस और सीखे गए कॉन्सेप्ट एक्टिवेशन्स तथा फ्रीज किए गए CLIP टारगेट्स के बीच कोसाइन अलाइनमेंट लॉस को जोड़ता है, जो प्रशिक्षण के दौरान स्पष्ट कॉन्सेप्ट या ग्रुप लेबल की आवश्यकता के बिना सिमेंटिक कंसिस्टेंसी सुनिश्चित करता है।

मुख्य योगदान

अकाउंटेबल एग्रीगेशन: लेखक स्थानिक अवधारणा भविष्यवाणी को इस प्रकार सूत्रबद्ध करते हैं कि प्रदर्शित प्रत्येक क्षेत्र स्कोर को लॉजिट अपघटन में नॉन-बायस सेगमेंट एविडेंस टर्म से सीधे पढ़ा जाता है, जिससे एक एकीकृत भविष्यवाणी और स्पष्टीकरण बनता है।
फेथफुलनेस वैलिडेशन (Faithfulness Validation): CUB डेटासेट पर सेगमेंट-लेवल डिलीशन और इंसर्शन प्रयोगों के माध्यम से, यह पेपर मात्रात्मक रूप से प्रमाणित करता है कि सीखा गया सेगमेंट रैंकिंग मॉडल के अपने प्रेडिक्शन पाथवे के प्रति निष्ठावान (faithful) है, जो रॉ CLIP सैलिएंस, सेगमेंट एरिया और रैंडम रैंकिंग पर आधारित कंट्रोल्स से बेहतर प्रदर्शन करता है।
इंटरप्रिटेबिलिटी-रोबस्टनेस ट्रेड-ऑफ: मॉडल यह प्रदर्शित करता है कि इंटरप्रिटेबिलिटी-फर्स्ट डिज़ाइन, मूल्यांकित CBM-फैमिली बेसलाइन्स की तुलना में वर्स्ट-ग्रुप एक्यूरेसी में सुधार करते हुए प्रतिस्पर्धी रिकग्निशन एक्यूरेसी बनाए रख सकता है। यह इंटरप्रिटेबिलिटी और गैर-व्याख्या योग्य ग्रुप-रोबस्ट तरीकों द्वारा प्राप्त की जाने वाली उच्चतम संभव वर्स्ट-ग्रूप एक्यूरेसी के बीच के पारेटो ट्रेड-ऑफ (Pareto trade-off) को स्पष्ट रूप से उजागर करता है।

परिणाम

ग्रुप रोबस्टनेस: Waterbirds डेटासेट (स्प्यूरियस बैकग्राउंड कोरिलेशन के लिए एक बेंचमार्क) पर, SEG-MIL-CBM वर्स्ट-ग्रुप एक्यूरेसी को 65.1% (SALF-CBM) से बढ़ाकर 72.0% कर देता है। सिंथेटिक Pawrious डेटासेट पर, यह 87.4% वर्स्ट-ग्रूप एक्यूरेसी प्राप्त करता है, जो ग्लोबल CBM बेसलाइन्स से काफी बेहतर है जो बैकग्राउंड शॉर्टकट्स को रोकने में विफल रहते हैं।
स्टैंडर्ड रिकग्निशन: मॉडल मानक रिकग्निशन कार्यों पर प्रतिस्पर्धी बना हुआ है, CIFAR-100 पर सर्वश्रेष्ठ CBM एक्यूरेसी (85.3%) प्राप्त करता है और Places365 और CUB पर पिछले स्पेशियल CBMs की तुलना में सुधार करता है।
फेथफुलनेस: CUB पर, मॉडल मूल्यांकित कंट्रोल्स के बीच सर्वश्रेष्ठ डीलीशन/इंसर्शन AUC (DAUC/IAUC: 0.444/0.670) प्राप्त करता है। टॉप-1 इंसर्शन टेस्ट दिखाते हैं कि केवल उच्चतम-रैंक वाले सेगमेंट को रखने से मूल भविष्यवाणी 90.5% छवियों में सुरक्षित रहती है।
एब्लेशन (Ablation): प्रयोग पुष्टि करते हैं कि प्रदर्शन में वृद्धि स्थानीयकृत साक्ष्यों के स्पष्ट एकत्रीकरण से प्रेरित है न कि हिडन फीचर बायपास से, और कॉन्सेप्ट-अलाइनमेंट लॉस सिमेंटिक इंटरफेस को बनाए रखने के लिए महत्वपूर्ण है जिसका उपयोग स्पष्टीकरणों में किया जाता है।

महत्व और दावे
पेपर का दावा है कि SEG-MIL-CBM भविष्यवाणी के स्वयं के "ऑडिट ट्रेल" के रूप में कार्य करके एक मजबूत प्रकार का स्पष्टीकरण प्रदान करता है। अलग क्लासिफायर से हीटमैप जोड़ने वाले पोस्ट-हॉक तरीकों के विपरीत, SEG-MIL-CBM यह सुनिश्चित करता है कि प्रदर्शित क्षेत्र साक्ष्य फॉरवर्ड कंप्यूटेशन के आंतरिक भाग हैं।

लेखक SEG-MIL-CBM को गैर-व्याख्या योग्य ग्रुप-रोबस्ट तरीकों (जो Waterbirds जैसे विशिष्ट डेटासेट पर उच्च वर्स्ट-ग्रुप एक्यूरेसी प्राप्त कर सकते हैं) के विकल्प के रूप में नहीं, बल्कि पारेटो फ्रंटियर (Pareto frontier) पर एक अलग बिंदु के रूप में प्रस्तुत करते हैं। यह एक ऐसा ट्रेड-ऑफ प्रदान करता है जहाँ विशेषज्ञ प्रतिस्पर्धी सटीकता और अन्य व्याख्या योग्य बेसलाइन्स की तुलना में बेहतर रोबस्टनेस बनाए रखते हुए, यह समझने के लिए एक स्थानिक रूप से ग्राउंडेड, कॉन्सेप्ट-लेवल अकाउंटिंग प्राप्त करते हैं कि निर्णय क्यों लिया गया था—विशेष रूप से यह पहचानना कि किन ऑब्जेक्ट पार्ट्स या बैकग्राउंड क्षेत्रों ने भविष्यवाणी का समर्थन किया। यह कार्य इस बात पर जोर देता है कि यह दृष्टिकोण विफलताओं (जैसे, बैकग्राउंड शॉर्टकट्स पर निर्भरता) को ग्लोबल बॉटलनेक मॉडल की तुलना में अधिक निरीक्षण योग्य बनाता है, भले ही यह सभी शॉर्टकट्स को हटाने की गारंटी न दे।