Unifying Adversarially Robust Model Experts in Vision-Language Models
यह शोध पत्र CARE का प्रस्ताव करता है, जो एक सहयोगात्मक प्रतिकूल फाइन-ट्यूनिंग (adversarial fine-tuning) ढांचा है जो विविध मूल्यांकन परिवेशों में बेहतर, पूरक प्रतिकूल मजबूती (adversarial robustness) के साथ एक एकल विजन-लैंग्वेज मॉडल बनाने के लिए एम्बेडिंग-स्पेस सामंजस्य (embedding-space harmonization) के माध्यम से कई विशिष्ट सुदृढ़ मॉडल विशेषज्ञों को एकीकृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक सुपर-स्मार्ट रोबोट दोस्त है जो किसी तस्वीर को देखकर तुरंत बता सकता है कि वह क्या है, या यहाँ तक कि उसके बारे में एक कविता भी लिख सकता है। यह रोबोट, जिसे विजन-लैंग्वेज मॉडल (VLM) कहा जाता है, इसलिए अद्भुत है क्योंकि यह चित्रों और शब्दों दोनों को एक साथ समझता है। लेकिन किसी भी बुद्धिमान बच्चे की तरह, इस रोबोट की एक कमजोरी भी है: इसे आसानी से धोखा दिया जा सकता है। यदि कोई किसी तस्वीर में "शोर" (noise) का एक छोटा सा, अदृश्य कण जोड़ देता है—जैसे कि कुछ पिक्सेल को बस एक बाल के बराबर खिसका देना—तो रोबोट अचानक एक पांडा को टोस्टर या बिल्ली को कार समझ सकता है। इसे "एडवर्सरियल अटैक" (adversarial attack) कहा जाता है, और यह एक बड़ी समस्या है क्योंकि हम चाहते हैं कि हमारे रोबल्स वास्तविक दुनिया में सुरक्षित और भरोसेमंद हों।
इसे ठीक करने के लिए, वैज्ञानिक रोबोट को इन चालाक तस्वीरों के साथ अभ्यास करने के लिए प्रशिक्षित कर रहे हैं, जिसे "एडवर्सरियल ट्रेनिंग" (adversarial training) कहा जाता है। इसे ऐसे समझें जैसे एक मार्शल आर्ट्स का छात्र पंचों को रोकने के लिए सीखना सीखने के लिए अपने साथी के साथ अभ्यास (sparring) करता है। यह शोध पत्र जो आप पढ़ने जा रहे हैं, एक दिलचस्प खोज की खोज करता है: रोबोट को ब्लॉक करना सिखाने का केवल एक ही तरीका नहीं है। कुछ शिक्षक विशिष्ट शब्दों को पहचानने (शब्दों को याद करने) पर ध्यान केंद्रित करते हैं, जबकि अन्य संतुलन बनाए रखने (तस्वीर की विशेषताओं को स्थिर रखने) पर ध्यान केंद्रित करते हैं। समस्या यह है कि एक छात्र जो चालों को याद करने में बहुत अच्छा है, वह गिर सकता है यदि लड़ाई बदल जाए, और एक छात्र जो संतुलन बनाए रखने में बहुत अच्छा है, वह चालों के विशिष्ट नाम भूल सकता है। यह शोध पत्र एक सरल लेकिन शक्तिशाली प्रश्न पूछता है: क्या होगा यदि हम दोनों दुनियाओं का सर्वश्रेष्ठ प्राप्त कर सकें?
दो विशेषज्ञों की कहानी और जादुय गोंद
AI सुरक्षा की दुनिया में, शोधकर्ता विजन-लैंग्वेज मॉडल्स को हमलों के खिलाफ अधिक मजबूत बनाने के लिए "विशेषज्ञों" को प्रशिक्षित कर रहे हैं। लेकिन यहाँ एक पेच है: ये विशेषज्ञ थोड़े विशेष एथलीटों की तरह हैं। एक प्रकार के विशेषज्ञ, जिन्हें हम "वर्ड-विज़" (Word-Whizzes) कह सकते हैं, विशिष्ट टेक्स्ट विवरणों के साथ चित्रों को मिलाने में बहुत अच्छे हो जाते हैं। यदि आप उन्हें पांडा की तस्वीर दिखाते हैं और पूछते हैं, "क्या यह पांडा है?", तो वे बहुत मजबूत होते हैं। लेकिन यदि आप उन्हें एक नए जानवर की तस्वीर दिखाते हैं जिसे उन्होंने पहले कभी नहीं देखा है, तो वे लड़खड़ा सकते हैं क्योंकि वे उस टेक्स्ट पर बहुत अधिक निर्भर करते हैं जिसे उन्होंने याद किया है।
दूसरे प्रकार के, "स्टेडी-हैंड्स" (Steady-Hands), तस्वीर को खुद वैसा ही बनाए रखने पर ध्यान केंद्रित करते हैं, भले ही कोई इसे बिगाड़ने की कोशिश करे। वे नए, अनदेखे जानवरों को संभालने में बहुत अच्छे हैं क्योंकि वे विशिष्ट शब्दों की उतनी परवाह नहीं करते; वे बस जानते हैं कि "बिल्ली जैसी आकृति" कैसी दिखती है। हालाँकि, वे परिचित जानवरों के लिए टेक्स्ट संकेतों का उपयोग करने में उतने तेज नहीं हैं।
एक लंबे समय तक, वैज्ञानिकों ने इसे एक विशेषज्ञ को प्रशिक्षित करने, फिर दूसरे को प्रशिक्षित करने और फिर अंत में उन्हें आपस में मिलाने की कोशिश करके हल करने का प्रयास किया। लेकिन यह दो अलग-अलग प्रकार की मिट्टी को तब जोड़ने की कोशिश करने जैसा था जब वे अभी भी गीली थीं; वे आपस में खिंचते रहते थे, या अंतिम परिणाम एक गंदा ढेर होता था जो किसी भी चीज़ में अच्छा नहीं था।
CARE से परिचय: सहयोगात्मक कोच
इस शोध पत्र के लेखक, एनगुयेन डुक थाई (Nguyen Duc Thai) और उनकी टीम ने कुछ अलग करने का निर्णय लिया। एक विशेषज्ञ को और फिर दूसरे को प्रशिक्षित करने के बजाय, उन्होंने CARE (एम्बेडिंग अलाइनमेंट का उपयोग करके सहयोगात्मक एडवर्सरियल रोबस्टनेस फाइन-ट्यूनिंग) नामक एक ढांचा बनाया। CARE को एक शानदार कोच के रूप में सोचें जो "वर्ड-विज़" और "स्टेडी-हैंड" को एक ही जिम में रखता है और उन्हें साथ-साथ अभ्यास करने के लिए कहता है।
यहाँ जादू कैसे होता है:
- वार्म-अप साझा करना: इससे पहले कि विशेषज्ञ अपने विशिष्ट अभ्यास शुरू करें, वे एक "यूनिवर्सल परटर्बेशन" (universal perturbation) साझा करते हैं। कल्पना करें कि वे दोनों समस्या का अहसास करने के लिए एक ही थोड़ी विकृत तस्वीर को देखते हैं। यह उन्हें एक ही धरातल पर शुरू करने में मदद करता है।
- विशेष ड्रिल: "वर्ड-विज़" विकृत तस्वीर को सही टेक्स्ट के साथ मिलाने का अभ्यास करता है। "स्टेडी-हैंड" यह सुनिश्चित करने का अभ्यास करता है कि तस्वीर अपना आकार बहुत अधिक न बदले।
- सीक्रेट हैंडशेक (हारमोनाइजेशन): यह सबसे महत्वपूर्ण हिस्सा है। प्रशिक्षण के दौरान, कोच उन्हें एक-दूसरे से बात करने के लिए मजबूर करता है। "वर्ड-विज़" "स्टेडी-हैंड" को बताता है, "हे, देखो मैं टेक्स्ट को कैसे मैच कर रहा हूँ!" और "स्टेडी-हैंड" कहता है, "हे, देखो मैं तस्वीर को स्थिर कैसे रख रहा हूँ!" वे वास्तविक समय में यह ज्ञान साझा करते हैं। यह उन्हें एक-दूसरे से बहुत दूर जाने से रोकता है और यह सुनिश्चित करता है कि वे दोनों एक-दूसरे की ताकत से सीखें।
- अंतिम विलय: दिन के अंत में, कोच उनके दिमाग को एक सुपर-एक्सपर्ट में मिला देता है। यह नया मॉडल केवल एक मिश्रण नहीं है; यह एक एकीकृत मस्तिष्क है जो शब्दों को मैच करना और तस्वीरों को स्थिर रखना दोनों जानता है।
उन्होंने क्या पाया
टीम ने ImageNet नामक एक प्रसिद्ध डेटासेट और कई अन्य कठिन चित्र सेटों पर इस नए तरीके का परीक्षण किया। परिणाम काफी शानदार थे।
- विशेषज्ञों को पछाड़ना: नया CARE मॉडल अकेले "वर्ड-विज़" से बेहतर था और अकेले "स्टेडी-हैंड" से भी बेहतर था। वास्तव में, जब हमले मजबूत थे (परटर्बेशन साइज के साथ), CARE ने "वर्ड-विज़" (TeCoA) से लगभग 2% और "स्टेडी-हैंड" (FARE) से लगभग 8% बेहतर प्रदर्शन किया।
- अनजान को संभालना: CARE मॉडल न केवल ज्ञात जानवरों में बेहतर हुआ; बल्कि यह नए जानवरों का अनुमान लगाने में भी बेहतर हुआ। "स्टेडी-हैंड" आमतौर पर नई चीजों में जीतता है, और "वर्ड-विज़" आमतौर पर ज्ञात चीजों में जीतता है। CARE दोनों में सर्वश्रेष्ठ होने में सफल रहा।
- वास्तविक दुनिया के कार्य: उन्होंने चित्रों के लिए कैप्शन लिखने और उन पर प्रश्न पूछने जैसे कार्यों पर भी परीक्षण किया। यहाँ तक कि जब चित्रों पर हमला किया गया था, तब भी CARE अन्य तरीकों की तुलना में सही उत्तर अधिक बार दे सका। उदाहरण के लिए, एक परीक्षण में जहाँ उन्हें एक तस्वीर में "हॉट डॉग" की पहचान करनी थी, CARE ने हमले के बावजूद सही ढंग से "हॉट डॉग" कहा, जबकि अन्य भ्रमित हो गए।
महान होने की कीमत
बेशक, इस टीम वर्क की एक कीमत चुकानी पड़ती है। एक साथ दो विशेषज्ञों को प्रशिक्षित करने के लिए अधिक कंप्यूटर पावर की आवश्यकता होती है। शोध पत्र नोट करता है कि CARE को प्रशिक्षित करने में एक विशेषज्ञ को प्रशिक्षित करने की तुलना में लगभग 1.5 गुना अधिक समय लगता है (83 घंटे बनाम 48-50 घंटे) और अधिक मेमोरी (52.6 GB बनाम 25-29 GB) का उपयोग होता है। हालाँकि, लेखक सुझाव देते हैं कि कुछ चतुर इंजीनियरिंग के साथ, जैसे कि उपयोग किए जाने के तुरंत बाद अस्थायी डेटा को हटाना, वे मेमोरी उपयोग को प्रबंधनीय रख सकते हैं।
निष्कर्ष
यह शोध पत्र सुझाव देता है कि पुराना सोचने का तरीका—एक रणनीति चुनना और उस पर टिके रहना—बहुत सीमित हो सकता है। विभिन्न प्रकार के AI विशेषज्ञों को एक-दूसरे की ताकत से सहयोग करने और सीखने देने से, हम ऐसे मॉडल बना सकते हैं जो धोखा देने में बहुत कठिन हैं। लेखक यह दावा नहीं करते कि यह सभी AI सुरक्षा समस्याओं का अंतिम समाधान है, लेकिन वे दिखाते हैं कि यह "सहयोगात्मक" दृष्टिकोण एक बहुत ही आशाजनक दिशा है। यह एक याद दिलाता है कि कभी-कभी, वास्तव में मजबूत होने के लिए, आपको केवल मजबूत होने की आवश्यकता नहीं होती; आपको दूसरों के साथ काम करने में सक्षम होने की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।