Closed-Loop Bidirectional Prompting for Adversarial Robustness of Vision Language Models
यह शोध पत्र क्लोज्ड-लूप बाइडायरेक्शनल प्रॉम्प्टिंग (Closed-Loop Bidirectional Prompting) का प्रस्ताव देता है, जो एक नवीन रक्षा तंत्र है जो विजुअल और टेक्स्टुअल मोडैलिटीज के बीच एक गतिशील फीडबैक लूप स्थापित करके विजन लैंग्वेज मॉडल्स की एडवर्सरियल मजबूती को बढ़ाता है, जिससे फीचर करप्शन को कम करने और अपडेट्स को नियंत्रित करने के लिए एक सिमेंटिक एंकर (Semantic Anchor) का उपयोग करते हुए क्रॉस-मोडल सिमेंटिक अलाइनमेंट को पुनः प्राप्त किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक विज़न-लैंग्वेज मॉडल (VLM) की कल्पना एक अत्यधिक कुशल जासूसी टीम के रूप में करें जिसमें दो साथी हैं: एक विज़ुअल डिटेक्टिव (जो छवियों को देखता है) और एक टेक्स्टुअल डिटेक्टिव (जो विवरण पढ़ता है)। उन्हें तस्वीरों को शब्दों के साथ पूरी तरह से मिलाने के लिए मिलकर काम करने हेतु प्रशिक्षित किया गया है।
हालाँकि, ये जासूस एडवर्सरियल अटैक्स (adversarial attacks) के प्रति संवेदनशील हैं। एक हमलावर की कल्पना करें जो एक कुशल जालसाज की तरह है जो एक फोटो में अदृश्य "शोर" या छोटे, भ्रमित करने वाले धब्बे जोड़ देता है। यह शोर इतना सूक्ष्म है कि एक इंसान इसे देख नहीं सकता, लेकिन यह विज़ुअल डिटेक्टिव को कुछ पूरी तरह से अलग देखने के लिए भ्रमित कर देता है। क्योंकि दोनों जासूस आपस में बहुत मजबूती से जुड़े हुए हैं, यदि विज़ुअल डिटेक्टिव भ्रमित होता है, तो टेक्स्टुअल डिटेक्टिव भी भ्रमित हो जाता है, और पूरी टीम विफल हो जाती है।
वर्तमान सुरक्षा उपायों की समस्या
पिछले प्रयासों ने इन जासूसों को बचाने के लिए दो मुख्य कमियाँ दिखाईं:
- एकतरफा यातायात (One-Way Traffic): अधिकांश सुरक्षा उपायों ने केवल विज़ुअल डिटेक्टिव को ठीक करने की कोशिश की (उन्हें फिर से प्रशिक्षित करके) या केवल टेक्स्टुअल डिटेक्टिव को (उनके नोट्स बदलकर)। उन्होंने दूसरे साथी को एक स्थिर, अपरिवर्तनीय पृष्ठभूमि के रूप में माना। लेकिन यदि हमलावर उनके बीच के संबंध को तोड़ने की कोशिश कर रहा है, तो केवल एक पक्ष को ठीक करना पर्याप्त नहीं है।
- स्थिर नोट्स (Static Notes): कुछ सुरक्षा उपायों ने टेक्स्टुअल डिटेक्टिव को प्रत्येक छवि के लिए उपयोग करने के लिए एक ही, पूर्व-लिखित स्क्रिप्ट दी। लेकिन चूंकि प्रत्येक छवि और प्रत्येक हमला अलग होता है, इसलिए एक ही आकार का (one-size-fits-all) स्क्रिप्ट अक्सर विफल हो जाता है।
समाधान: क्लोज्ड-लूप बाइडायरेक्शनल प्रॉम्प्टिंग (CLBP)
लेखक एक नई रणनीति प्रस्तावित करते हैं जिसे CLBP कहा जाता है, जो दोनों जासूसों के बीच एक डायनेमिक फीडबैक लूप की तरह कार्य करती है। अलगाव में काम करने के बजाय, वे वास्तविक समय में गलतियों को सुधारने के लिए लगातार एक-दूसरे से बात करते हैं, बिना उनके पूरे मस्तिष्क को फिर से प्रशिक्षित किए।
यहाँ प्रक्रिया कैसे काम करती है, चरण-दर-चरण, एक रचनात्मक उपमा का उपयोग करते हुए:
1. सिमेंटिक एंकर (The "North Star")
जासूसों द्वारा एक कठिन छवि पर काम शुरू करने से पहले, वे एक "सिमेंटिक एंकर" पर सहमत होते हैं। इसकी कल्पना एक स्थिर, विश्वसनीय दिशा-सूचक या "नॉर्थ स्टार" के रूप में करें। यह एक सामान्य, सुरक्षित विवरण (जैसे "एक बिल्ली की फोटो") है जो क्लास के वास्तविक, अछूते अर्थ का प्रतिनिधित्व करता है।
- यह क्यों महत्वपूर्ण है: यह एंकर जासूसों को भटकने या भ्रमित होने से रोकता है। यह उन्हें मूल, सुरक्षित ज्ञान में बनाए रखता है जो उन्होंने प्रशिक्षण के दौरान सीखा था।
2. चरण 1: टेक्स्ट-टू-विज़न डिनोइजिंग (The "Cleaner")
विज़ुअल डिटेक्टिव शोर वाली, हमलावर छवि को देखता है और भ्रमित हो जाता है। वह टेक्स्टुअल डिटेक्टिव से पूछता है: "हमारे नॉर्थ स्टार के आधार पर, यह वास्तव में कैसा दिखना चाहिए?"
- टेक्स्टुअल डिटेक्टिव स्थिर "नॉर्थ स्टार" का उपयोग करके एक क्लीनिंग प्रॉम्प्ट तैयार करता है।
- यह प्रॉम्प्ट वापस विज़ुअल डिटेक्टिव को भेजा जाता है, जो इसका उपयोग शोर को "फ़िल्टर आउट" करने के लिए करता है। यह ऐसा है जैसे टेक्स्टुअल डिटेक्टिव विज़ुअल डिटेक्टिव को विशेष चश्मे थमा रहा है जो जालसाज के धब्बों को हटा देते हैं, जिससे वे वास्तविक छवि को फिर से देख पाते हैं।
3. चरण 2: विज़न-टू-टेक्स्ट रिफाइनमेंट (The "Editor")
अब जब विज़ुअल डिटेक्टिव के पास एक स्पष्ट तस्वीर है, तो वह टेक्स्टुअल डिटेक्टिव की ओर मुड़ता है और कहता है: "ठीक है, मैं अब छवि को स्पष्ट रूप से देख पा रहा हूँ। क्या मेरा वर्तमान विवरण उस चीज़ से मेल खाता है जो मैं देख रहा हूँ?"
- विज़ुअल डिटेक्टिव टेक्स्टुअल डिटेक्टिव को एक संकेत भेजता है।
- टेक्स्टुअल डिटेक्टिव अपने नोट्स को विशेष रूप से इस छवि के लिए अपडेट करता है, अपने विवरण को साफ की गई दृश्य साक्ष्य के अनुरूप समायोजित करता है।
4. लूप बंद होता है
ये दो चरण एक तीव्र चक्र में होते हैं। टेक्स्ट विज़न को साफ करता है, और विज़न टेक्स्ट को परिष्कृत करता है।
- जादू: लेखक गणितीय रूप से सिद्ध करते हैं कि यह लूप कॉन्ट्रैक्टिव (contractive) है। एक रबर बैंड की कल्पना करें: हर बार जब जासूस एक-दूसरे से बात करते हैं, तो वे एक-दूसरे को सच्चाई के करीब खींचते हैं। भले ही वे एक-दूसरे से दूर (एक मजबूत हमले के कारण) शुरू हुए हों, इस बातचीत के एक या दो दौर ही उन्हें सही उत्तर की ओर वापस लाने के लिए पर्याप्त हैं। वे नियंत्रण से बाहर नहीं जाते; वे तेजी से अभिसरित (converge) होते हैं।
5. सेफ्टी नेट: मल्टी-व्यू एग्रीगेशन
अतिरिक्त सावधानी के लिए, सिस्टम केवल एक बार छवि को नहीं देखता है। यह छवि के 32 थोड़े अलग संस्करण बनाता है (जैसे कि थोड़े अलग कोणों या अलग रोशनी के साथ 32 तस्वीरें लेना)।
- यह सभी 32 संस्करणों पर "क्लीनिंग और रिफाइनिंग" लूप चलाता है।
- फिर, यह वोट लेता है। यदि 30 संस्करण उत्तर पर सहमत हैं और 2 अलग हैं, तो सिस्टम उन 2 को अनदेखा कर देता है और सर्वसम्मति के साथ जाता है। यह हमलावर के लिए पूरी टीम को मूर्ख बनाना बहुत कठिन बना देता है।
यह एक बड़ी बात क्यों है
पेपर का दावा है कि यह विधि श्रेष्ठ है क्योंकि:
- यह दो-तरफा रास्ता है: पिछले तरीकों के विपरीत, जो केवल एक पक्ष को ठीक करते थे, CLBP को छवि और टेक्स्ट दोनों को एक-दूसरे को ठीक करने की अनुमति देता है।
- यह कुशल है: इसके लिए विशाल AI मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं है (जो धीमा और महंगा है)। यह बस मौजूदा मॉडल के ऊपर एक छोटा, स्मार्ट कन्वर्सेशन लेयर जोड़ता है।
- यह हर जगह काम करता है: लेखकों ने 11 अलग-अलग डेटासेट्स पर इस पद्धति का परीक्षण किया (बिल्लियों और कारों को पहचानने से लेकर उपग्रह छवियों और बनावट का विश्लेषण करने तक)। लगभग हर मामले में, CLBP पिछले तरीकों की तुलना में हमलों का विरोध करने में बहुत बेहतर था, जबकि सामान्य, साफ छवियों पर भी सटीक था।
सारांश
CLBP को एक फोटोग्राफर और एक कैप्शन लेखक के बीच एक स्व-सुधारने वाली बातचीत के रूप में समझें। जब एक जालसाज फोटोग्राफर को नकली फोटो के साथ धोखा देने की कोशिश करता है, तो कैप्शन लेखक सच्चाई के अपने ज्ञान का उपयोग फोटोग्राफर को असली चीज़ देखने में मदद करने के लिए करता है। फिर, फोटोग्राफर कैप्शन लेखक को एकदम सही विवरण लिखने में मदद करता है। वे तब तक बात करते रहते हैं जब तक कि वे दोनों सच्चाई पर सहमत नहीं हो जाते, और शोर को अनदेखा करते हैं। यह इतना तेज़ और प्रभावी ढंग से होता है कि जालसाज के दांव-पेच काम नहीं आते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।