Enhancing Adversarial Transferability through Block Stretch and Shrink
यह शोध पत्र FRO का प्रस्ताव करता है, जो एक फ्रंटएंड रिस्पॉन्स-ओरिएंटेड इनपुट ट्रांसफॉर्मेशन विधि है जो एक इम्पलिसिट एन्सेम्बल परिप्रेक्ष्य के माध्यम से मॉडल फ्रंटएंड रिस्पॉन्स को समृद्ध करने के लिए ब्लॉक-वाइज स्ट्रेच-एंड-श्रिंक और पर्सपेक्टिव डीफॉर्मेशन ऑपरेटर्स का उपयोग करके एडवर्सरियल ट्रांसफरैबिलिटी को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुरक्षा कैमरे के लेंस पर एक छोटा सा, अदृश्य स्टिकर चिपकाने की कोशिश कर रहे हैं। यदि आप इसे बिल्कुल सही जगह पर लगाते हैं, तो कैमरा भ्रमित हो सकता है और उसे एक 'स्टॉप साइन' (रुकने का संकेत) के बजाय 'स्पीड लिमिट साइन' (गति सीमा का संकेत) लग सकता है। हैकर्स AI के साथ यही करते हैं, जिसे "एडवर्सरियल अटैक्स" (adversarial attacks) कहा जाता है। लेकिन यहाँ एक पेचीदा बात है: यदि आप अपने स्टिकर को कैमरा A को बेवकूफ बनाने के लिए डिज़ाइन करते हैं, तो हो सकता है कि वह कैमरा B पर काम न करे, भले ही वे दिखने में एक जैसे हों।
लंबे समय तक, शोधकर्ताओं ने इन स्टिकर्स को किसी भी कैमरे के लिए काम करने योग्य बनाने की कोशिश की, जिसमें उन्होंने AI को दिखाने से पहले इमेज को घुमाया, खींचा या रैंडम तरीके से बदला। विचार यह था, "यदि हम AI को स्टिकर के कई अलग-अलग संस्करण दिखाते हैं, तो शायद वह एक ऐसी ट्रिक सीख लेगा जो सभी पर काम करे।"
लेकिन, क्वान लियू (Quan Liu) और उनकी टीम द्वारा लिखे गए एक नए शोध पत्र से पता चलता है कि हम गलत दिशा में देख रहे थे। उनका तर्क है कि इमेज को केवल अलग दिखाना ही असली जादू की कुंजी नहीं है। इसके बजाय, असली रहस्य इस बात में छिपा है कि AI का "फ्रंट डोर" (उसका शुरुआती प्रोसेसिंग स्टेज) उन बदलावों पर कैसी प्रतिक्रिया देता है।
"फ्रंट डोर" का रहस्य
AI मॉडल को एक दो मंजिला घर की तरह समझें।
- फ्रंट डोर (फ्रंटएंड): यहाँ AI पहली बार इमेज को देखता है। यह एक बाउंसर की तरह है जो आईडी चेक करता है। यह आकृतियों, किनारों और बनावट (textures) को देखता है।
- लिविंग रूम (बैकएंड): यहाँ AI अपना अंतिम निर्णय लेता है, जैसे "यह एक बिल्ली है!" या "यह एक कुत्ता है!"
पिछले अध्ययनों का मानना था कि यदि आप इमेज को अजीब (diverse) बना देते हैं, तो बाउंसर भ्रमित हो जाएगा और ट्रिक सभी घरों पर काम करेगी। लेकिन लियू की टीम कहती है, "रुको ज़रा।" सिर्फ इसलिए कि इमेज आपके लिए अलग दिख रही है, इसका मतलब यह नहीं है कि बाउंसर उसे अलग तरह से देख रहा है। यदि हाउस A और हाउस B दोनों के बाउंसर एक घुमाई हुई इमेज पर एक ही तरह से प्रतिक्रिया देते हैं, तो आपकी ट्रिक विफल हो जाएगी।
पेपर सुझाव देता है कि सभी के लिए काम करने वाला स्टिकर बनाने के लिए, आपको बाउंसर की प्रतिक्रिया को एक विशिष्ट तरीके से प्रभावित करने की आवश्यकता है। आपको ऐसे "फ्रंटएंड रिस्पांस" (Frontend Response) परिवर्तन बनाने होंगे जो इतने अनोखे हों कि दिलचस्प लगें, लेकिन इतने समान भी हों कि अन्य बाउंसर भी उन्हें नोटिस करें।
FRO से मिलिए: द डबल-एक्टिंग ट्रिकस्टर
इस समस्या को हल करने के लिए, टीम ने FRO (Frontend Response-Oriented) नामक एक नई विधि बनाई। इमेज को केवल रैंडम तरीके से घुमाने के बजाय, FRO AI के 'फ्रंट डोर' को सही जगहों पर चुभने के लिए दो विशिष्ट चालों का उपयोग करता है:
- लोकल स्केलिंग ऑपरेटर (द "स्ट्रेची ब्लॉक" मूव): कल्पना कीजिए कि इमेज लेगो ब्लॉक्स से बनी है। यह ऑपरेटर यहाँ-वहाँ के कुछ ब्लॉक्स को पकड़ता है और उन्हें खींचता है या सिकोड़ता है। यह पूरी तस्वीर को खराब किए बिना स्थानीय बनावट (local texture) और छोटे विवरणों के आकार को बदल देता है। यह चेहरे के एक हिस्से पर ज़ूम इन करने और फिर ज़ूम आउट करने जैसा है, लेकिन यह केवल एक गाल के साथ किया जाता है।
- प्रोजेक्शन ऑपरेटर (द "फनहाउस मिरर" मूव): यह पूरे इमेज को एक सौम्य, सुसंगत परिप्रेक्ष्य (perspective) शिफ्ट देता है, जैसे किसी इमारत को एक अजीब कोण से देखना। यह वैश्विक आकार (global shape) और अंतरिक्ष में चीजों की व्यवस्था को बदल देता है, लेकिन पूरे दृश्य को एक एकल, तार्किक दृश्य के रूप में बनाए रखता है।
इन दोनों चालों को मिलाकर, FRO "ट्रांसफॉर्मड व्यूज़" (transformed views) का एक सेट बनाता है। यह AI से पूछने जैसा है, "क्या होगा अगर इस बिल्ली का कान खिंच गया हो? क्या होगा अगर पूरी बिल्ली एक तरफ झुक गई हो?" AI को इन सभी थोड़े अलग संस्करणों को प्रोसेस करना होता है और उन्हें धोखा देने का सबसे अच्छा तरीका खोजने के लिए अपनी प्रतिक्रियाओं को मिलाना होता है।
क्या यह काम कर गया? आंकड़े झूठ नहीं बोलते
टीम ने ImageNet डेटासेट के एक हिस्से पर इसका परीक्षण किया। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने आंकड़े चलाए।
- सेटअप: उन्होंने एक "व्हाइट-बॉक्स" मॉडल (एक ऐसा मॉडल जिसके अंदर वे देख सकते थे) का उपयोग हमले उत्पन्न करने के लिए किया, और फिर उन्हें "ब्लैक-बॉक्स" मॉडल (ऐसे मॉडल जिनके अंदर वे नहीं देख सकते थे) पर टेस्ट किया।
- प्रतिस्पर्धा: उन्होंने FRO की तुलना DeCoWA, CWT, SIA, SID और OPS जैसे अन्य लोकप्रिय तरीकों से की।
- परिणाम: FRO ने लगातार दूसरों को पछाड़ दिया। जब विभिन्न AI आर्किटेक्चर (CNN और विजन ट्रांसफॉर्मर सहित) पर परीक्षण किया गया, तो FRO ने 11 में से 6 टारगेट मॉडल्स में उच्चतम सफलता दर हासिल की।
- उदाहरण के लिए, ResNet-50 के खिलाफ, FRO ने 95.6% की सफलता दर हासिल की, जबकि अगला सर्वश्रेष्ठ 93.2% था।
- Inception-v3 के खिलाफ, इसने 96.3% हासिल किया, जो 96.2% के दूसरे स्थान वाले को पीछे छोड़ गया।
- यहाँ तक कि कठिन, डिफेंडेड मॉडल्स (वे AI जिन्हें हमलों का विरोध करने के लिए प्रशिक्षित किया गया है) के खिलाफ भी, FRO एक विशिष्ट डिफेंडेड मॉडल के खिलाफ 96.2% बार सफल रहा, जो सभी को पीछे छोड़ गया।
उन्होंने क्या खारिज किया
पेपर बहुत स्पष्ट है कि मुख्य स्पष्टीकरण के रूप में क्या काम नहीं करता है।
- यह केवल "इमेज डायवर्सिटी" के बारे में नहीं है: लेखक तर्क देते हैं कि केवल इमेज को अलग दिखाना पर्याप्त नहीं है। यदि AI का फ्रंट डोर अलग तरह से प्रतिक्रिया नहीं देता है, तो ट्रिक विफल हो जाती है।
- यह केवल "सिमेंटिक प्रिजर्वेशन" (Semantic Preservation) के बारे में नहीं है: हालांकि इमेज के अर्थ को बनाए रखना (जैसे बिल्ली को बिल्ली जैसा ही रखना) महत्वपूर्ण है, लेकिन यह वह कारण नहीं है जिससे हमला काम करता है। कारण यह है कि फ्रंट डोर उन बदलावों को कैसे संभालता है।
- यह "हाइपोथीसिस स्पेस ऑगमेंटेशन" (Hypothesis Space Augmentation) के बारे में नहीं है: वे सुझाव देते हैं कि गणित में केवल अधिक संभावनाओं को जोड़ना कुंजी नहीं है; कुंजी फ्रंट डोर की विशिष्ट प्रतिक्रिया है।
वे कितने आश्वस्त हैं?
पेपर काफी आत्मविश्वासी है, लेकिन वे शब्दों के प्रति सावधान हैं। उन्होंने प्रयोगों के माध्यम से इन परिणामों को सिद्ध (demonstrated) किया है। उन्होंने केवल सिमुलेशन नहीं किया; उन्होंने वास्तव में हमलों को चलाया और सफलता दर को मापा।
उन्होंने "यूनिफाइड इम्प्लिसिट एन्सेम्बल साइज" (जिसे हम N कह सकते हैं) नामक एक नया तरीका भी पेश किया। उन्होंने पाया कि रूपांतरित दृश्यों (transformed views) की संख्या मायने रखती है। जब उन्होंने विभिन्न संख्याओं (जैसे N = 10, 17, 21, 26, 37, और 101) का परीक्षण किया, तो FRO कम संख्या के साथ भी मजबूत बना रहा, जो दर्शाता है कि इसकी विधि कुशल है।
लेखक सुझाव (suggest) देते हैं कि उनका दृष्टिकोण इसलिए काम करता है क्योंकि यह उन "शेयर्ड फ्रंट-एंड फैक्टर्स" को लक्षित करता है जिनका उपयोग CNN (पुराने स्कूल के AI) और ViT (नए स्कूल के AI) दोनों करते हैं। उन्होंने दिखाया कि FRO उन अंतरों को कम करता है जो विभिन्न AI मॉडल के बीच इन रूपांतरों के प्रति प्रतिक्रिया में होते हैं, जिससे हमला अधिक प्रभावी (transferable) हो जाता है।
निचोड़
यह पेपर सुझाव देता है कि AI के दिमाग को हैक करने के लिए, आपको केवल उस पर रैंडम विकृतियाँ (distortions) नहीं फेंकनी चाहिए। आपको यह समझना होगा कि उसका "फ्रंट डोर" जानकारी को कैसे प्रोसेस करता है। लोकल स्ट्रेचिंग और ग्लोबल पर्सपेक्टिव शिफ्ट के मिश्रण का उपयोग करके, FRO एक "यूनिवर्सल की" (सार्वसार्विक चाबी) बनाता है जो कई अलग-अलग AI तालों में फिट बैठती है।
लेखक प्रस्ताव (propose) करते हैं कि यह "फ्रंटएंड रिस्पांस" परिप्रेक्ष्य ही पहेली का गायब हिस्सा है। हालांकि उन्होंने AI सुरक्षा की समस्या को हमेशा के लिए हल नहीं किया है (और वे ऐसा दावा भी नहीं करते हैं), उन्होंने हमलों को तैयार करने का एक काफी बेहतर तरीका दिखाया है, जो यह साबित करता है कि AI की शुरुआती प्रतिक्रियाओं को समझना ही असली सफलता का मंत्र है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।