Empirical Analysis of Evasion and Poisoning Against Malware Data Drift Detection
यह शोध पत्र इस बात की जांच करता है कि कैसे इवेजन (evasion) और पॉइजनिंग (poisoning) हमले, जो आमतौर पर मैलवेयर क्लासिफायर से समझौता करने के लिए डिज़ाइन किए जाते हैं, डेटा ड्रिफ्ट डिटेक्टरों और मैलवेयर क्लासिफायर के संयुक्त संचालन को विशिष्ट रूप से प्रभावित करते हैं, जिससे यह पता चलता है कि ड्रिफ्ट डिटेक्टरों की विशिष्ट विशेषताएं इन प्रतिकूल हमलों की प्रभावकारिता और व्यवहार को बदल देती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हाई-टेक नाइट क्लब के सुरक्षा गार्ड हैं। आपका काम शरारती तत्वों (मालवेयर) को पहचानना और उन्हें बाहर रखना है, जबकि अच्छे मेहमानों (बेनाइन सॉफ्टवेयर) को अंदर आने देना है। लंबे समय तक, आपने शरारती तत्वों के चेहरों की एक सूची का उपयोग करके उन्हें पहचानने के लिए किया है। लेकिन शरारती तत्व चालाक होते हैं; वे अपने बाल बदलते हैं, भेष बदलते हैं, या दाढ़ी बढ़ा लेते हैं ताकि वे सामान्य लोगों की तरह दिख सकें। उनके साथ तालमेल बिठाने के लिए, आपने एक स्मार्ट AI को मदद के लिए रखा है जो एक शरारती तत्व के 'वाइब' (vibe) को पहचानने में सक्षम है, भले ही वे दिखने में अलग हों।
लेकिन एक पेंच है। समय के साथ, भीड़ बदल जाती है। पड़ोस का "वाइब" बदल जाता है, और AI भ्रमित होने लगता है क्योंकि जो लोग अंदर आ रहे हैं वे उन लोगों जैसे नहीं दिखते जिनसे उसने वर्षों पहले सीखा था। इसे कॉन्सेप्ट ड्रिफ्ट (concept drift) कहा जाता है। इसे ठीक करने के लिए, क्लब एक दूसरा AI, एक "ड्रिफ्ट डिटेक्टर" (Drift Detector) नियुक्त करता है। यह दूसरा AI इस बात की परवाह नहीं करता कि कोई शरारती तत्व है या अच्छा मेहमान; यह बस इस बात पर नज़र रखता है कि क्या कोई व्यक्ति सामान्य भीड़ से अजीब तरह से अलग दिख रहा है। यदि कोई बहुत अजीब दिखता है, तो ड्रिफ्ट डिटेक्टर उसे मानव गार्ड द्वारा जांच के लिए फ्लैग (flag) कर देता है। विचार यह है कि यदि कोई शरारती तत्व भेष बदलने की कोशिश करता है, तो हो सकता है कि वह इतना अजीब दिखे कि ड्रिफ्ट डिटेक्टर उसे पकड़ ही ले।
लेकिन यहाँ एक मोड़ है। क्या होगा अगर शरारती तत्वों को दोनों गार्डों के बारे में पता हो? क्या होगा अगर वे मुख्य AI को यह विश्वास दिलाने में सफल हो जाएं कि वे अच्छे मेहमान हैं, और साथ ही ड्रिफ्ट डिटेक्टर को यह विश्वास दिलाने में भी कि वे सामान्य दिखते हैं? यह शोध पत्र बिल्कुल यही सवाल पूछता है। शोधकर्ता यह देखना चाहते थे कि क्या बुरे तत्व एक "डबल-क्रॉस" (दोहरा धोखा) कर सकते हैं: सिस्टम को बेवकूफ बनाना जो बुरे लोगों को पकड़ता है, और साथ ही उस सिस्टम को भी बेवकूफ बनाना जो अजीब लोगों को पकड़ता है। उन्होंने यह देखने के लिए परीक्षण किया कि क्या वे "जहरीले" (poisoned) मेहमानों (जो ट्रेनिंग लिस्ट में घुसपैte हैं) और "छद्म वेशधारी" (disguised) मेहमानों (जो दरवाजे से चुपके से घुसने की कोशिश करते हैं) को सफलतापूर्वक छिपा सकते हैं।
द डबल-ब्लाइंड हाइस्ट (The Double-Blind Heist)
शोधकर्ताओं ने यह देखने के लिए एक डिजिटल डकैती (heist) की व्यवस्था की कि ये दो सुरक्षा प्रणालियाँ एक हमलावर के खिलाफ कितनी अच्छी तरह काम करती हैं। उन्होंने दो अलग-अलग "पड़ोसों" (डेटासेट जिन्हें Bodmas और Androzoo कहा जाता है) से वास्तविक दुनिया के डेटा का उपयोग किया, जिसमें हजारों सॉफ्टवेयर नमूने शामिल थे। पीड़ित (क्लब मालिक) के पास दो मुख्य उपकरण थे: एक मालवेयर क्लासिफायर (मुख्य बाउंसर) और एक ड्रिफ्ट डिटेक्टर (अजीब दिखने वालों पर नज़र रखने वाला)। हमलावर का लक्ष्य सरल लेकिन पेचीदा था: मालवेयर को मुख्य बाउंसर को चकमा देने के लिए एक हानिरहित ऐप जैसा दिखाना, और यह सुनिश्चित करना कि वह अजीब दिखने वाले वॉचर (watcher) को भी पकड़ में न आए।
हमलावर के पास कुछ नियम थे, ठीक वैसे ही जैसे एक असली अपराधी जो रडार से नीचे रहने की कोशिश करता है। वे मालवेयर की कार्यक्षमता को नहीं तोड़ सकते थे (ऐप को काम करना ही चाहिए) या उसके फ़ाइल फॉर्मेट को नहीं बदल सकते थे। वे केवल कुछ खास फीचर्स को टवीक (tweak) कर सकते थे, जैसे अतिरिक्त स्पेस जोड़ना या कुछ नंबर बदलना, लेकिन वे उन चीजों को हटा नहीं सकते थे जो फ़ाइल को काम करने के योग्य बनाती हैं। उनके पास क्लब के सुरक्षा कैमरों तक पूरी पहुंच नहीं थी; वे केवल 10% मेहमानों के बारे में जानते थे और उन्हें अपने ट्रिक्स का अभ्यास करने के लिए अपने स्वयं के "सरोगेट" (surrogate) मॉडल (नकली सुरक्षा प्रणाली) बनाने पड़े थे।
आश्चर्यजनक परिणाम
शोधकर्ताओं ने दो मुख्य प्रकार के हमलों का परीक्षण किया: एवेजन (Evasion) (एक छद्म वेशधारी मालवेयर को गार्डों से बचकर निकलना) और पॉइजनिंग (Poisoning) (ट्रेनिंग लिस्ट में नकली "अच्छे" मेहमानों को शामिल करना ताकि गार्ड गलत सबक सीखें)।
एवेजन का सरप्राइज (The Evasion Surprise):
जब शोधकर्ताओं ने फाइलों में छोटे "परटर्बेशन्स" (perturbations - सूक्ष्म बदलाव) जोड़कर मालवेयर को सिस्टम से बचाने की कोशिश की, तो उन्होंने कुछ ऐसा पाया जो विरोधाभासी था। आमतौर पर, AI की दुनिया में, बड़े बदलाव क्लासिफायर को बेवकूफ बनाना आसान बनाते हैं। यदि आप चेहरे को इतना बदल देते हैं कि वह पहचाना न जा सके। लेकिन यहाँ, ड्रिफ्ट डिटेक्टर एक सख्त बाउंसर की तरह काम करता है जो किसी भी बदलाव से नफरत करता है।
जब हमलावरों ने मुख्य बाउंसर को धोखा देने के लिए मालवेयर को बहुत अधिक अलग दिखाने की कोशिश की, तो ड्रिफ्ट डिटेक्टर को संदेह हुआ। उसने इन अत्यधिक संशोधित फाइलों को "आउट ऑफ डिस्ट्रीब्यूशन" (out of distribution) के रूप में देखा—यानी, वे सामान्य भीड़ से बिल्कुल अलग दिख रहे थे। ड्रिफ्ट डिटेक्टर ने उन्हें अजीब मानकर फ्लैग कर दिया, और मानव गार्ड ने उन्हें पकड़ लिया। शोध पत्र ने पाया कि CADE (जो एक "कॉन्ट्रास्टिव ऑटोएनकोडर" का उपयोग करता है) नामक विशिष्ट प्रकार के ड्रिफ्ट डिटेक्टर का उपयोग करने वाले सिस्टम के लिए, परटर्बेशन को बड़ा बनाना वास्तव में हमले को नुकसान पहुँचाता है। जितना बड़ा भेष होगा, ड्रिफ्ट डिटेक्टर द्वारा पकड़े जाने की संभावना उतनी ही अधिक होगी। हमलावरों को अविश्वसनीय रूप से सटीक होना पड़ा, उन्हें एक ऐसा "स्वीट स्पॉट" (sweet spot) ढूंढना पड़ा जहाँ मालवेयर ड्रिफ्ट डिटेक्टर के लिए पर्याप्त सामान्य दिखे लेकिन फिर भी मुख्य क्लासिफायर को धोखा दे सके।
पॉइजनिंग पैराडॉक्स (The Poisoning Paradox):
पॉइजनिंग हमला और भी दिलचस्प था। हमलावर ने हानिरहित ऐप्स के रूप में "बैकडोर" मालवेयर को छिपाने की कोशिश की। विचार यह था कि यदि क्लब मालिक अपने सुरक्षा सिस्टम को इन नकली मेहमानों के साथ फिर से प्रशिक्षित (retrain) करता है, तो नया सिस्टम बाद में असली मालवेयर को अंदर आने देगा।
हालाँकि, शोधकर्ताओं ने पाया कि अधिक जहरीले मेहमान जोड़ने से हमेशा मदद नहीं मिली। वास्तव में, CADE-आधारित ड्रिफ्ट डिटेक्टर के लिए, बहुत अधिक जहरीले नमूने जोड़ने से हमला विफल हो गया। क्यों? क्योंकि ड्रिफ्ट डिटेक्टर के आंतरिक "मैप" (एम्बेडिंग स्पेस) में सीमित जगह होती है। जब बहुत सारे जहरीले नमूनों को "अच्छे मेहमानों" के क्षेत्र में ठूँस दिया गया, तो सिस्टम भ्रमित हो गया। इन सभी नए, थोड़े अलग नमूनों को समझने के लिए, ड्रिफ्ट डिटेक्टर ने उन्हें "अच्छे मेहमानों" के समूह के केंद्र से दूर धकेलना शुरू कर दिया। इससे वे जहरीले नमूने फिर से अजीब दिखने लगे, जिससे ड्रिफ्ट डिटेक्टर ने उन्हें फ्लैग कर दिया। शोध पत्र सुझाव देता है कि आप सिस्टम में जितना अधिक भरने की कोशिश करेंगे, सिस्टम उतनी ही अधिक चीज़ों को बाहर धकेलेगा।
भविष्य के लिए इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि एक क्लासिफायर और एक ड्रिफ्ट डिटेक्टर दोनों वाले सिस्टम पर हमला करना एक नाजुक संतुलन है। यह केवल मालवेयर को एक अच्छा आदमी दिखाने के बारे में नहीं है; यह इस बारे में भी है कि वह भीड़ से बहुत अधिक अलग न दिखे।
शोधकर्ताओं ने पाया कि ड्रिफ्ट डिटेक्टर का प्रकार बहुत मायने रखता है। ट्रांसेंडेंट (Transcendent) (जो सांख्यिकीय आत्मविश्वास पर आधारित एक अलग विधि का उपयोग करता है) जैसे सिस्टम को बड़े बदलावों के साथ बेवकूफ बनाना आसान था, लेकिन CADE की तुलना में। हालाँकि, CADE के लिए, हमलावरों को बहुत सावधान रहना पड़ा। यदि उन्होंने मालवेयर को "बेनाइन" पक्ष की ओर बहुत अधिक धकेला, तो वह बेनाइन भीड़ के "केंद्र" से बहुत दूर चला गया और पकड़ा गया।
अंततः, यह शोध पत्र दिखाता है कि जबकि हमलावर बहुत चालाक हो सकते हैं, इन ड्रिफ्ट डिटेक्टरों के काम करने का अनूठा तरीका रक्षा का एक नया प्रकार बनाता है। वह तंत्र जो सिस्टम को नए खतरों के अनुकूल होने में मदद करता है (यह नोटिस करके कि चीजें अलग दिख रही हैं), वही इसे हमलावरों के लिए छिपने में भी कठिन बनाता है। अध्ययन बताता है कि इस रक्षा को तोड़ने के लिए, एक हमलावर को अपने उपकरणों (सरोगेट मॉडल) और अपने तरीकों (लॉस फंक्शन) को अत्यंत सटीकता के साथ चुनना होगा, जो ड्रिफ्ट डिटेक्टर के दृष्टिकोण के साथ पूरी तरह से मेल खाता हो। यह एक चूहे और बिल्ली का खेल है जहाँ चूहे को अदृश्य होने के लिए बस इतना ही अजीब होना चाहिए कि वह पकड़ा न जाए, लेकिन इतना भी अजीब नहीं कि वह पकड़ा ही जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।