Part-Coverage and Faithfulness Decouple in ViT Token Pruning for Fine-Grained Visual Categorization

आर्टिफिशियल इंटेलिजेंस की दुनिया में, ऐसे मॉडलों का एक बढ़ता हुआ वर्ग है जिन्हें चित्रों को देखने और उन्हें समझने के लिए डिज़ाइन किया गया है, ठीक वैसे ही जैसे एक इंसान करता है। इन प्रणालियों को विजन ट्रांसफॉर्मर (Vision Transformers) के रूप में जाना जाता है, जो किसी चित्र को एक सीधी रेखा में पिक्सेल-दर-पिक्सेल नहीं स्कैन करते हैं। इसके बजाय, वे चित्र को कई छोटे वर्गाकार पैच (patches) में काट देते हैं, और प्रत्येक पैच को एक अलग सूचना या "टोकन" (token) के रूप में देखते हैं। मॉडल फिर इन सभी टोकनों को एक साथ प्रोसेस करता है, और अंतिम निर्णय लेने के लिए यह तय करता है कि प्रत्येक पर कितना ध्यान (attention) दिया जाना चाहिए। यह दृष्टिकोण पक्षी की किसी विशिष्ट प्रजाति या कार के दुर्लभ मॉडल जैसी पहचान करने के कार्यों के लिए अविश्वसनीय रूप से शक्तिशाली है, जहाँ दो श्रेणियों के बीच का अंतर चोंच के घुमाव या हेडलाइट के आकार जैसा सूक्ष्म हो सकता है। हालाँकि, क्योंकि ये मॉडल हर एक पैच को देखते हैं, वे बहुत धीमे और गणनात्मक रूप से महंगे हो सकते हैं, विशेष रूप से उच्च-रिज़ॉल्यूशन वाले चित्रों के मामले में। इन्हें तेज़ करने के लिए, इंजीनियरों ने 'टोकन प्रूनिंग' (token pruning) नामक एक तकनीक विकसित की है। यह प्रक्रिया की शुरुआत में ही कम महत्वपूर्ण पैच को हटा देने की एक विधि है, जिससे समय और ऊर्जा बचाने के लिए केवल सबसे प्रासंगिक पैच को रखा जाता है। महत्वपूर्ण प्रश्न हमेशा से यही रहा है: हम यह कैसे तय करें कि कौन से पैच सबसे महत्वपूर्ण हैं?

वर्षों से, इस निर्णय को लेने का मानक तरीका एक विशिष्ट सिग्नल पर निर्भर था, जो अनिवार्य रूप से सिस्टम से यह पूछने जैसा था कि उसका अपना "फोकस" स्वाभाविक रूप से कहाँ आकर्षित हो रहा है। शोधकर्ताओं ने माना कि यदि मॉडल किसी पैच पर ध्यान दे रहा है, तो उस पैच में पहचान के लिए महत्वपूर्ण विवरण होने चाहिए। हालाँकि, एक नया अध्ययन इस लंबे समय से चली आ रही धारणा को चुनौती देता है। शोधकर्ताओं ने पाया कि गति के लिए किन पैच को रखना है, यह तय करने की विधि अनिवार्य रूप से वही विधि नहीं है जो यह सुनिश्चित करती है कि मॉडल वास्तव में वस्तु के सही हिस्सों को देख रहा है। उन्होंने पाया कि एक ऐसा सिस्टम जिसे पक्षी या कार के वास्तविक भौतिक आकार से मेल खाने वाले पैच रखने के लिए अनुकूलित किया गया है, वह अक्सर ऐसे निर्णय लेने में सक्षम होता है जो मानक सिस्टम के समान ही विश्वसनीय होते हैं, लेकिन एक पूरी तरह से अलग आंतरिक तर्क (logic) के साथ। वास्तव में, दो लक्ष्य—सही भौतिक हिस्सों को रखना और अंतिम उत्तर के लिए सही तर्क रखना—अलग-अलग दिशाओं में खींच सकते हैं, जिसका अर्थ है कि मॉडल को तेज़ बनाने वाला उपकरण यह छिपा सकता है कि मॉडल वास्तव में क्यों काम कर रहा है।

घाना के विश्वविद्यालयों में स्थित इस शोध टीम ने 'फाइन-ग्रेन्ड विजुअल क्लासिफिकेशन' (fine-grained visual classification) का उपयोग करके इस विसंगति का परीक्षण करने का निर्णय लिया, जो विमान के विभिन्न मॉडलों या पक्षियों की विभिन्न नस्लों जैसे बहुत समान चीजों के बीच अंतर करने के लिए समर्पित एक क्षेत्र है। उन्होंने विजन ट्रांसफॉर्मर मॉडल के एक मानक, छोटे संस्करण का उपयोग किया और तीन प्रसिद्ध डेटासेट पर परीक्षण किया: पक्षियों, कारों और विमानों के चित्र। उनका लक्ष्य प्रूनिंग सिस्टम की गुणवत्ता को मापने के दो अलग-अलग तरीकों की तुलना करना था। पहला पैमाना "पार्ट कवरेज" (part coverage) था, जो केवल यह जाँचता है कि मॉडल ने रखे गए पैच वास्तव में वस्तु के वास्तविक, भौतिक भागों, जैसे कि विमान के पंखों या कार के ग्रिल के साथ ओवरलैप करते हैं या नहीं। दूसरा पैमाना "फेथफुलनेस" (faithfulness) था, जो यह जाँचता है कि क्या मॉडल का अंतिम निर्णय वैसा ही रहता है चाहे वह पूर्ण चित्र देखे या केवल प्रून किया हुआ संस्करण। यदि कोई प्रूनिंग विधि वास्तव में अच्छी है, तो उसे इन दोनों मोर्चों पर सफल होना चाहिए।

शोधकर्ताओं ने यह तय करने के लिए कि किन पैच को रखना है, कई अलग-अलग रणनीतियों का परीक्षण किया। एक रणनीति ने मानक "अटेंशन" सिग्नल का उपयोग किया, जो आज के अधिकांश सिस्टम का डिफॉल्ट तरीका है। उन्होंने एक नई रणनीति का भी परीक्षण किया जो यह देखती थी कि जब इनपुट को थोड़ा बदला जाता है, तो मॉडल की आंतरिक स्थिति कैसे बदलती है; यह एक ऐसी तकनीक है जो चित्र और अंतिम उत्तर के बीच एक गहरे, अधिक प्रत्यक्ष संबंध को पकड़ती है। जब उन्होंने प्रयोग चलाए, तो परिणाम आश्चर्यजनक थे। नई रणनीति, जो इस गहरे आंतरिक सिग्नल का उपयोग करती थी, वास्तविक वस्तुओं के हिस्सों को कवर करने वाले पैच रखने में काफी बेहतर थी। उदाहरण के लिए, विमान के डेटासेट पर, इस नई विधि ने मानक विधि की तुलना में वास्तविक विमान के हिस्सों के कवरेज में छह प्रतिशत से अधिक का सुधार किया। फिर भी, जब उन्होंने फेथफुलनेस (पूर्ण मॉडल के समान सही निर्णय लेने की क्षमता) की जाँच की, तो दोनों विधियाँ लगभग समान थीं। नई विधि ने मॉडल को कम विश्वसनीय नहीं बनाया; इसने केवल मॉडल को अधिक बार सही चीजों को देखने में मदद की, बिना उसके अंतिम फैसले को बदले।

यह खोज दर्शाती है कि इन प्रणालियों का मूल्यांकन करने के तरीके में एक छिपा हुआ अंतर है। लंबे समय से, क्षेत्र ने यह मान लिया था कि यदि कोई प्रूनिंग विधि मॉडल की सटीकता बनाए रखती है, तो वह चित्र के सही हिस्सों को भी देख रही होती है। अध्ययन दिखाता है कि यह हमेशा सच नहीं होता है। एक सिस्टम सटीक हो सकता है जबकि वह गलत पैच देख रहा हो, या वह सटीक हो सकता है जबकि वह सही पैच देख रहा हो लेकिन वहां तक पहुँचने के लिए एक अलग आंतरिक पथ का उपयोग कर रहा हो। शोधकर्ताओं ने इस अंतर को मापने के लिए एक नया ढांचा पेश किया, जिसे वे "डिकपलिंग" (decoupling) कहते हैं। उन्होंने पाया कि यह अंतर तब सबसे अधिक दिखाई देता है जब मॉडल अपनी प्रोसेसिंग के एक विशिष्ट, मध्यवर्ती चरण में चित्र को देखता है। यदि मॉडल अपनी प्रोसेसिंग श्रृंखला में बहुत जल्दी या बहुत देर से देखता है, तो दोनों विधियों के बीच का अंतर समाप्त हो जाता है। उन्होंने यह भी पाया कि यह प्रभाव तब सबसे मजबूत होता है जब मॉडल को बहुत कुशल होने के लिए मजबूर किया जाता है, यानी जब वह मूल चित्र के पैच का केवल एक छोटा हिस्सा रखता है।

शोध ने सावधानीपूर्वक इस संभावना को भी खारिज किया कि ये सुधार केवल इसलिए नहीं थे क्योंकि नई विधि के पास अधिक कंप्यूटर शक्ति या सीखने के लिए अतिरिक्त पैरामीटर थे। अपनी नई विधि की तुलना एक ऐसे संस्करण से करके जिसमें समान अतिरिक्त क्षमता थी लेकिन जिसे विशिष्ट नए सिग्नल के साथ प्रशिक्षित नहीं किया गया था, उन्होंने पुष्टि की कि सुधार मॉडल को चित्र देखने के लिए सिखाए गए विशिष्ट तरीके से आया था, न कि केवल अधिक उपकरणों के होने से। उन्होंने पाया कि मानक विधि, जो मॉडल के स्वाभाविक अटेंशन पर निर्भर करती है, अक्सर वस्तु के सबसे महत्वपूर्ण हिस्सों को पकड़ने में विफल रहती है जब मॉडल को कुशल होने के लिए मजबूर किया जाता है। इसके विपरीत, नई विधि ने लगातार उन पैच को चुना जो उन भौतिक विशेषताओं के अनुरूप थे जिनका उपयोग मनुष्य किसी वस्तु की पहचान करने के लिए करते हैं।

यह खोज महत्वपूर्ण है क्योंकि यह बदल देती है कि हमें इन AI सिस्टम को कैसे बनाना और उन पर भरोसा करना चाहिए। यदि कोई डेवलपर पक्षी की प्रजातियों की पहचान करने के लिए एक तेज़ सिस्टम बनाना चाहता है, तो वह केवल यह मानकर नहीं चल सकता कि मानक प्रूनिंग विधि पर्याप्त है। उसे एक तेज़ सिस्टम मिल सकता है जो काम तो करता है, लेकिन वह उन पंखों या चोंच के आकार को अनदेखा कर सकता है जो प्रजाति को परिभाषित करते हैं। अध्ययन सुझाव देता है कि एक अलग प्रशिक्षण सिग्नल का उपयोग करके, वे एक ऐसा सिस्टम प्राप्त कर सकते हैं जो उतना ही तेज़ और उतना ही सटीक है, लेकिन वह वास्तव में पक्षी की चोंच और पंखों को देख रहा है। शोधकर्ता इस बात पर जोर देते हैं कि यह कोई जादु적인 समाधान नहीं है जो हर स्थिति में काम करता है; यह प्रभाव मॉडल के विशिष्ट आकार और कितने चित्र के हिस्से रखे जाते हैं, इस पर बहुत अधिक निर्भर करता है। हालाँकि, उन छोटे, कुशल मॉडलों के लिए जिनका उपयोग कई वास्तविक अनुप्रयोगों में किया जाता है, नया दृष्टिकोण बेहतर प्रदर्शन के लिए एक स्पष्ट मार्ग प्रदान करता है।

शोधकर्ताओं ने यह भी नोट किया कि यह घटना सार्वभौमिक नहीं है। जब उन्होंने मॉडल के बहुत बड़े, अधिक शक्तिशाली संस्करण का परीक्षण किया, तो दोनों विधियों के बीच का अंतर गायब हो गया। यह सुझाव देता है कि समस्या उन छोटे, तेज़ मॉडलों के विशिष्ट गुणों से जुड़ी है जिनका उपयोग अक्सर व्यावहारिक अनुप्रयोगों में किया जाता है। इन छोटे मॉडलों में, यह तय करने का मानक तरीका कि क्या रखना है, उतना सटीक नहीं है जितना कि यह हो सकता था। अध्ययन इंजीनियरों के लिए एक स्पष्ट मानचित्र प्रदान करता है: यदि आपको अपने मॉडल को तेज़ होने की आवश्यकता है और आप चाहते हैं कि वह चित्र के सही हिस्सों को भी देखे, तो आपको नए प्रशिक्षण सिग्नल का उपयोग करना चाहिए। यदि आप केवल अंतिम गति और सटीकता की परवाह करते हैं, तो पुराना तरीका अभी भी काम कर सकता है, लेकिन आप यह जोखिम उठा रहे हैं कि मॉडल गलत कारणों से अपने निर्णय ले रहा है।

अंततः, यह कार्य कंप्यूटर विज़न के क्षेत्र में स्पष्टता का एक नया स्तर लाता है। यह दिखाता है कि दक्षता (efficiency) और व्याख्या (explanation) हमेशा एक ही चीज़ नहीं होते हैं। एक मॉडल कुशल हो सकता है बिना पारदर्शी हुए, और वह पारदर्शी हो सकता है बिना कुशल हुए। इन दोनों लक्ष्यों को अलग करके, शोधकर्ताओं ने वैज्ञानिक समुदाय को इन प्रणालियों को मापने और सुधारने का एक बेहतर तरीका दिया है। उन्होंने दिखाया है कि सही प्रशिक्षण के साथ, हम दोनों चीजें हासिल कर सकते हैं: एक ऐसा सिस्टम जो फोन पर चलने के लिए पर्याप्त तेज़ है, एक दुर्लभ पक्षी की पहचान करने के लिए पर्याप्त सटीक है, और इतना ईमानदार है कि वह हमें दिखा सके कि वह पक्षी के किस हिस्से को देख रहा है। यह आर्टिफिशियल इंटेलिजेंस को न केवल शक्तिशाली, बल्कि समझने योग्य और विश्वसनीय बनाने की दिशा में एक महत्वपूर्ण कदम है।