Towards Certified Malware Detection: Provable Guarantees Against Evasion Attacks
यह शोध पत्र एक प्रमाणित रूप से सुदृढ़ (certifiably robust) मैलवेयर डिटेक्शन फ्रेमवर्क का प्रस्ताव करता है जो अंतर्निहित मशीन लर्निंग आर्किटेक्चर को बदले बिना मेटामॉर्फिक इवेजन हमलों के विरुद्ध औपचारिक गारंटी प्रदान करने के लिए फीचर एब्लेशन और नॉइज़ इंजेक्शन के माध्यम से रैंडमाइज्ड स्मूथिंग का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: रूप बदलने वाला चोर
कल्पना कीजिए कि आप एक संग्रहालय (आपका कंप्यूटर) के सुरक्षा गार्ड हैं। आपके पास चोरों (मालवेयर) को पहचानने के लिए नियमों की एक चेकलिस्ट है। आमतौर पर, आप कुछ विशिष्ट चीजों की तलाश करते हैं: "क्या व्यक्ति ने लाल टोपी पहनी है?" या "क्या वे एक भारी बैग ले जा रहे हैं?"
हालाँकि, मालवेयर बनाने वाले रूप बदलने वाले जादूगरों की तरह होते हैं। वे अपना रूप (कोड) बदल सकते हैं बिना वास्तव में अपने काम (आपका डेटा चुराने) को बदले।
- वे अपनी लाल टोपी को नीली टोपी से बदल सकते हैं।
- वे भारी बैग को एक बैकपैक के अंदर रख सकते हैं।
- वे पूरी तरह से अपने कपड़े बदल सकते हैं।
एक मानक सुरक्षा गार्ड (एक सामान्य AI डिटेक्टर) के लिए, ये बदलाव एक पूरी तरह से अलग व्यक्ति की तरह दिखते हैं। गार्ड भ्रमित हो जाता है और चोर को अंदर जाने देता है। इसे इवेजन अटैक (evasion attack) कहा जाता है।
समाधान: "धुंधली दृष्टि" की रणनीति
इस शोध में वैज्ञानिकों ने संग्रहालय की रक्षा करने का एक नया तरीका प्रस्तावित किया है। किसी व्यक्ति के पहनावे के हर एक विवरण को याद करने के बजाय, वे एक तकनीक का उपयोग करते हैं जिसे रैंडमाइज्ड स्मूथिंग (Randomized Smoothing) कहते हैं।
इसे इस तरह समझें:
कल्पना कीजिए कि आप एक भीड़भाड़ वाले धुंधले कमरे में अपने दोस्त को पहचानने की कोशिश कर रहे हैं। यदि आप एक पल के लिए उन्हें देखते हैं, तो धुंध उनके चेहरे को छिपा सकती है, और आप उन्हें किसी और के रूप में समझ सकते हैं। लेकिन, यदि आप धुंध के माध्यम से उनकी 50 त्वरित तस्वीरें (snapshots) लेते हैं, और 50 में से 90% तस्वीरें एक ऐसे चेहरे को दिखाती हैं जो आपके दोस्त जैसा दिखता है, तो आप 100% आश्वस्त हो सकते हैं कि वह वही है।
शोधकर्ताओं का सिस्टम बिल्कुल यही करता है:
- "धुंधला" प्रशिक्षण (The "Blury" Training): वे अपने AI को न केवल साफ फाइलों पर, बल्कि उन फाइलों पर भी प्रशिक्षित करते हैं जिन्हें जानबूझकर "धुंधला" या "खरोंचदार" बनाया गया है (इसे फीचर एब्लेशन (feature ablation) और नॉइज़ इंजेक्शन (noise injection) कहा जाता है)। वे AI को मालवेयर के सार (essence) को पहचानना सिखाते हैं, भले ही उसके कुछ हिस्से गायब हों या बदल दिए गए हों।
- "स्नैपशॉट" वोटिंग: जब कोई नई फाइल आती है, तो सिस्टम केवल उसे एक बार नहीं देखता। यह उस फाइल के 50 अलग-अलग "संस्करण" (versions) बनाता है, जिनमें से प्रत्येक में कुछ हिस्से गायब होते हैं या थोड़े बदले हुए होते हैं।
- बहुमत का निर्णय (The Majority Vote): यह AI से उन सभी 50 संस्करणों को वर्गीकृत करने के लिए कहता है। यदि 50 में से 48 कहते हैं कि "यह एक वायरस है," तो सिस्टम कहता है, "हाँ, यह एक वायरस है," और उन 2 को अनदेखा कर देता है जो भ्रमित हो गए थे।
सुरक्षा का "प्रमाणपत्र"
इस पेपर का सबसे शानदार हिस्सा सर्टिफाइड गारंटी (Certified Guarantee) है।
आमतौर पर, जब आप AI का उपयोग करते हैं, तो आप बस उम्मीद करते हैं कि यह काम करेगा। आप यह नहीं जानते कि एक हैकर को फाइल को चकमा देने के लिए उसे कितना बदलना होगा।
यह पेपर निर्णय के लिए एक गणितीय "ID कार्ड" पेश करता है। एक सांख्यिकीय उपकरण का उपयोग करके जिसे विल्सन स्कोर इंटरवल (Wilson Score Interval) (इसे एक बहुत ही सख्त गणितीय कैलकुलेटर के रूप में सोचें) कहा जाता है, सिस्टम कह सकता है:
"मैं 99.9% आश्वस्त हूँ कि यह फाइल मालवेयर है। इसके अलावा, मैं गारंटी देता हूँ कि एक हैकर को मुझे धोखा देने के लिए फाइल की संरचना को कम से कम 30% बदलना होगा।"
यदि कोई हैकर केवल 10% बदलकर फाइल को बदलने की कोशिश करता है, तो सिस्टम जानता है, "नहीं, आप मुझे बेवकूफ नहीं बना सकते," और उसे ब्लॉक कर देता है। यह एक प्रमाणित गारंटी (provable guarantee) है, न कि केवल एक अनुमान।
उन्होंने क्या पाया?
शोधकर्ताओं ने वास्तविक दुनिया के "रूप बदलने वालों" (PyMetaEngine नामक टूल का उपयोग करके) के खिलाफ परीक्षण किया और पाया:
- पुराने गार्ड (मानक AI): जब मालवेयर ने अपना रूप बदला, तो पुराने गार्ड बुरी तरह विफल रहे। उन्होंने चोरों को अंदर जाने दिया।
- नए गार्ड (स्मूथिंग सिस्टम): भले ही मालवेयर ने अपने कपड़े बदले हों, नए गार्ड ने उसे पहचान लिया। यहाँ तक कि जब उन्होंने फाइल को 40% तक "धुंधला" कर दिया (जिससे इसे पढ़ना बहुत कठिन हो गया), तब भी नए गार्ड ने पहचान लिया कि यह एक वायरस है।
- यह हर जगह काम करता है: उन्होंने दो अलग-अलग प्रकार के AI दिमागों (एक जो फाइल संरचना को देखता है और दूसरा जो कच्चे कोड बाइट्स को देखता है) पर परीक्षण किया, और यह दोनों के लिए काम कर गया।
निष्कर्ष
यह पेपर एक सुरक्षा प्रणाली को "चेहरे याद रखने" से "व्यक्ति की आत्मा को समझने" की ओर अपग्रेड करने जैसा है।
AI को एक "धुंधले लेंस" के माध्यम से कई बार एक फाइल को देखने और परिणाम पर वोट करने के लिए मजबूर करके, उन्होंने एक ऐसा बचाव बनाया जो गणितीय रूप से सिद्ध है कि धोखा देना कठिन है। यह केवल यह नहीं कहता कि "मुझे लगता है कि यह सुरक्षित है"; यह कहता है कि "मैं गारंटी दे सकता हूँ कि आप मुझे तब तक धोखा नहीं दे सकते जब तक कि आप फाइल को बहुत बड़े स्तर तक न बदल दें।"
यह हमें कंप्यूटर वायरस की निरंतर बदलती दुनिया के खिलाफ एक बहुत अधिक मजबूत ढाल प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।