IDATA: Scalable Invertible Diffusion for Unrestricted Adversarial Transfer Attack
यह शोध पत्र IDATA का प्रस्ताव करता है, जो एक मेमोरी-कुशल और स्केलेबल इन्वर्टिबल डिफ्यूजन फ्रेमवर्क है जो कॉन्स्टेंट-मेमोरी बैकप्रोपैगेशन के लिए एक इन्वर्टिबल डिफ्यूजन मॉड्यूल और डीप विजुअल मॉडल्स के विरुद्ध अनरिस्ट्रिक्टेड एडवरसैरियल अटैक्स की ट्रांसफरैबिलिटी और विजुअल इम्परसेप्टिबिलिटी को बढ़ाने के लिए एक लो-फ्रीक्वेंसी कंस्ट्रेंट मॉड्यूल को जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि डिजिटल दुनिया एक विशाल, हलचल भरा शहर है जहाँ कंप्यूटर सुरक्षा गार्ड, ट्रैफिक पुलिस और टिकट स्कैनर के रूप में कार्य करते हैं। ये "डीप विजुअल मॉडल्स" उन कैमरों के पीछे का मस्तिष्क हैं जो हवाई अड्डे पर आपका चेहरा पहचानते हैं, उन प्रणालियों के पीछे हैं जो बिना ड्राइवर वाली कारों को चलाते हैं, और उन ऐप्स के पीछे हैं जो आपके पालतू जानवरों को पहचानते हैं। लेकिन किसी भी सुरक्षा प्रणाली की तरह, इनकी एक गुप्त कमजोरी भी होती है: इन्हें चकमा दिया जा सकता है। यदि आप एक गार्ड को स्टॉप साइन (रुकने के संकेत) की एक ऐसी तस्वीर दिखाएं जिस पर कुछ बहुत छोटे, लगभग अदृश्य स्टिकर लगे हों, तो वह गार्ड अचानक उसे स्पीड लिमिट साइन समझ सकता है। इसे "एडवर्सरियल अटैक" (adversarial attack) कहा जाता है।
लंबे समय तक, हैकर्स को बहुत सावधान रहना पड़ता था, कंप्यूटर को बेवकूफ बनाने के लिए उन्हें एक छवि में केवल बहुत छोटे, गणितीय रूप से सटीक डॉट्स जोड़ने पड़ते थे। लेकिन हाल ही में, वैज्ञानिकों ने "डिफ्यूजन मॉडल्स" का उपयोग करके इन गार्डों को चकमा देने का एक अधिक शक्तिशाली तरीका खोजा है। एक डिफ्यूजन मॉडल को एक जादुई कलाकार की तरह समझें जो धुंधले, शोर वाले स्टैटिक के बादल को एक स्पष्ट, सुंदर चित्र में बदल सकता है। हैकर्स ने यह महसूस किया कि वे चित्र बनाए जाने के दौरान कलाकार की स्केचबुक में थोड़ा सा "धोखा" या "चालाकी" छिपा सकते हैं, जिससे अंतिम छवि हमें पूरी तरह से सामान्य दिखती है लेकिन कंप्यूटर के मस्तिष्क को शॉर्ट-सर्किट कर देती है। समस्या क्या है? यह जादुई ट्रिक अविश्वसनीय रूप से भारी और अनाड़ी थी। इसके लिए बहुत अधिक कंप्यूटर मेमोरी की आवश्यकता थी, जैसे कि एक चित्र बनाने के लिए अपने बैकपैक में एक पूरी लाइब्रेरी ले जाने की कोशिश करना। इसके अलावा, यह कभी-कभी इस तरह से होता था कि चालाकी बहुत स्पष्ट हो जाती थी, जिससे अजीब, शोर वाले निशान पीछे रह जाते थे जो भ्रम को बिगाड़ देते थे।
यहीं पर एक नई शोध टीम एक चतुर समाधान के साथ आती है जिसे IDATA कहा जाता है। वे इस "जादुई ट्रिक" को हल्का, तेज़ और पकड़ में आने में कठिन बनाना चाहते थे। उन्होंने महसूस किया कि इन धोखेबाज चित्रों को बनाने का पुराना तरीका एक लंबी यात्रा के हर एक कदम को याद रखने की कोशिश करने जैसा था ताकि आप वापस चल सकें। यदि आपने 50 कदम उठाए, तो आपको वापस जाने के लिए सभी 50 को याद रखना पड़ता था। IDATA नियमों को बदल देता है और इस यात्रा को "इनवर्टिबल" (उलटने योग्य) बनाता है। कल्पना कीजिए कि आप एक भूलभुलैया के माध्यम से चल रहे हैं जहाँ आपका हर मोड़ एक पूर्ण, उत्क्रमणीय निशान छोड़ता है। आप आगे बढ़ सकते हैं, एक गुप्त संदेश छोड़ सकते हैं, और फिर बिना पूरा रास्ता याद किए वापस चल सकते है—आप बस अपने कदमों को बिल्कुल सही तरीके से पीछे की ओर दोहरा सकते हैं। यह कंप्यूटर को यात्रा की लंबाई के बावजूद बहुत कम मेमोरी का उपयोग करने की अनुमति देता है।
लेकिन एक दूसरी समस्या थी, पुराने तरीके "फ्रीक्वेंसी-एग्नोस्टिक" (frequency-agnostic) थे, जिसका एक फैंसी तरीका यह है कि उन्हें इस बात की परवाह नहीं थी कि वे किस प्रकार के विवरण को बदल रहे हैं। वे किसी वस्तु के बड़े, महत्वपूर्ण आकार (जैसे स्टॉप साइन का गोलपन) और सूक्ष्म, अस्थिर विवरणों (जैसे साइन की लकड़ी के दाने) दोनों के साथ छेड़छाड़ करते थे। शोधकर्ताओं ने पाया कि सूक्ष्म, अस्थिर विवरणों के साथ छेड़छाड़ करने से अक्सर चित्र अजीब दिखने लगता था और चाल का पता चल जाता था। इसलिए, उन्होंने एक विशेष फ़िल्टर जोड़ा जिसे लो-फ्रीक्वेंसी कंस्ट्रेंट मॉड्यूल (LFCM) कहा जाता है। इसे एक ऐसे शेफ की तरह समझें जो यह तय करता है कि स्टू (stew) के मुख्य तत्वों को ही मसाला देना है, और गार्निश को छोड़ देना है। केवल स्थिर, लो-फ्रीक्वेंसी वाले हिस्सों (बड़े आकार और संरचनाओं) में अपनी "चालाकी" जोड़कर और हाई-फ्रीक्वेंसी शोर को अनदेखा करके, उन्होंने ऐसे हमले बनाए जो देखने में बहुत कठिन हैं और विभिन्न प्रकार के कंप्यूटर दिमागों को बेहतर ढंग से मूर्ख बनाते हैं।
टीम ने अपने नए तरीके, IDATA का परीक्षण कई अलग-अलग कंप्यूटर मॉडलों के खिलाफ किया, साधारण मॉडलों से लेकर जटिल मॉडलों तक जो मानव मस्तिष्क की तरह दिखते हैं। उन्होंने पाया कि IDATA एक बड़ी सफलता थी। इसने पिछले सबसे अच्छे तरीकों के बराबर या उनसे भी बेहतर तरीके से कंप्यूटर को चकमा दिया, लेकिन इसने बहुत कम कंप्यूटर मेमोरी का उपयोग किया। उनके परीक्षणों में, जबकि अन्य तरीकों को चलाने के लिए 37.9 GB तक मेमोरी की आवश्यकता थी, IDATA ने केवल 13.1 GB के साथ काम पूरा कर लिया। इसके अलावा, इसके द्वारा बनाई गई तस्वीरें अविश्वसनीय रूप से कठिन थीं जिन्हें पहचानना; वे 0.138 के विजुअल डिस्टॉर्शन स्कोर के नीचे रहीं, जो उनके द्वारा परीक्षण किए गए लगभग सभी अन्य तरीकों की तुलना में कम (बेहतर) है।
शोधकर्ताओं ने यह भी जांचा कि क्या उनका तरीका तब भी काम करता है जब कंप्यूटर "कवच" (सुरक्षात्मक उपाय जो धोखेबाज छवियों को साफ करने के लिए डिज़ाइन किए गए हैं) पहने हुए होता है। IDATA मजबूत बना रहा, जिससे पता चला कि यह स्वाभाविक रूप से मजबूत (robust) हमले बनाता है। हालाँकि, शोध पत्र यह सुझाव देता है कि भले ही यह हमारी डिजिटल दुनिया की सुरक्षा का परीक्षण करने के लिए एक बहुत ही आशाजनक उपकरण है, लेकिन यह सब कुछ हल करने वाला कोई जादुмजिक समाधान नहीं है। यह हमारे सिस्टमों का तनाव परीक्षण करने का एक शक्तिशाली नया तरीका है, जो हमें यह समझने में मदद करता है कि दरारें कहाँ हैं ताकि हम उन्हें बुराई करने वालों द्वारा खोजने से पहले ठीक कर सकें। लेखक निष्कर्ष निकालते हैं कि इन हमलों को स्केलेबल और कुशल बनाकर, IDATA आधुनिक दुनिया को चलाने वाले डीप विजुअल मॉडल्स की सुरक्षा का मूल्यांकन करने का एक नया, प्रभावी तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।