ShadowPickle: Evading Machine Learning Model Scanners via Stealthy Pickle Deserialization Attacks
यह शोधपत्र SHADOWPICKLE प्रस्तुत करता है, जो एक नवीन हमला ढांचा (attack framework) है जो पूर्व-प्रशिक्षित मॉडलों में गुप्त रिमोट कोड निष्पादन पेलोड को निष्पादित करने के लिए पिकल वर्चुअल मशीन (Pickle Virtual Machine) के बाहरी मॉड्यूल आयात तंत्र का लाभ उठाता है, जो प्रभावी रूप से अत्याधुनिक स्कैनर और मॉडल हब से बच निकलता है, साथ ही PICKLEBENCH की प्रस्तुति भी करता है, जो वर्तमान पहचान विधियों की महत्वपूर्ण सीमाओं को प्रदर्शित करने वाला एक बेंचमार्क है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें जहाँ लाखों लोग अपनी पसंदीदा रेसिपी, ब्लूप्रिंट और निर्देश साझा करते हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन "रेसिपी" को प्री-ट्रेन्ड मशीन लर्निंग मॉडल्स (Pre-trained Machine Learning Models) कहा जाता है। ये वे बुद्धिमान ब्लूप्रिंट हैं जिनका उपयोग कंप्यूटर चेहरे पहचानने, कहानियाँ लिखने या भाषाओं का अनुवाद करने के लिए करते हैं। इन ब्लूप्रिंट्स को साझा करने के लिए, लोग विशेष डिजिटल "हब्स" (जैसे कि हगिंग फेस नामक एक सुपर-लाइब्रेरी) का उपयोग करते हैं जहाँ कोई भी उन्हें डाउनलोड कर सकता है।
हालाँकि, इसमें एक पेंच है। ये ब्लूप्रिंट अक्सर पिकल (Pickle) नामक एक विशेष फॉर्मेट में सेव किए जाते हैं। पिकल को एक सीलबंद, जादुई लंचबॉक्स की तरह समझें। जब आप इसे खोलते हैं, तो कंप्यूटर केवल अंदर के भोजन को नहीं देखता; बल्कि वह भोजन को फिर से तैयार करने के लिए ढक्कन पर लिखे निर्देशों का पालन करता है। समस्या यह है कि यदि कोई बुरा व्यक्ति ढक्कन पर कोई चालाकी भरा निर्देश लिख देता है, तो कंप्यूटर अनजाने में उसका पालन कर सकता है और कुछ खतरनाक कर सकता है, जैसे कि राज चुराना या किसी हैकर को अंदर आने देना। इसे डीसेरियलाइजेशन अटैक (deserialization attack) कहा जाता है। लंबे समय से, सुरक्षा गार्ड (जिन्हें स्कैनर्स कहा जाता है) इन लंचबॉक्सेस की जाँच करते रहे हैं ताकि यह सुनिश्चित किया जा सके कि ढक्कन पर लिखे निर्देश सुरक्षित हैं। लेकिन क्या होगा अगर बुरे लोगों ने ऐसे निर्देश लिखने का तरीका ढूंढ लिया जो गार्डों के लिए बिल्कुल सामान्य दिखते हैं, लेकिन फिर भी कंप्यूटर को धोखा दे देते हैं?
सिंगापुर यूनिवर्सिटी ऑफ टेक्नोलॉजी एंड डिजाइन के शोधकर्ताओं की एक टीम ने ठीक यही खोजा। उन्होंने इन एआई मॉडल्स में दुर्भावनापूर्ण कोड डालने का एक नया तरीका बनाया, जिसे उन्होंने शैडोपिकल (ShadowPickle) नाम दिया। अंधे कोने में बुरे निर्देशों को छिपाने के बजाय, उन्होंने महसूस किया कि वे उन उपकरणों को ओवरराइट करके कंप्यूटर को धोखा दे सकते हैं जिन पर सुरक्षा गार्ड भरोसा करते हैं। कल्पना कीजिए कि एक सुरक्षा गार्ड जो "अनुमोदित" उपकरणों की एक सूची की जाँच करता है, जैसे कि एक हथौड़ा या पेचकस। शोधकर्ताओं ने दिखाया कि यदि आप असली हथौड़े को एक नकली हथौड़े से बदल दें जो बिल्कुल एक जैसा दिखता है लेकिन जिसके अंदर एक छिपा हुआ चाकू है, तो गार्ड उसे दरवाजे से आसानी से अंदर जाने देगा।
टीम ने इस ट्रिक के तीन अलग-अलग संस्करण बनाए। सबसे चालाक संस्करण, जिसे ओवररिटन मॉड्यूल (Overwritten Module) कहा जाता है, एक मानक, भरोसेमंद उपकरण (जैसे कि एक सामान्य पायथन लाइब्रेरी) को एक दुर्भावनापूर्ण संस्करण से बदलने का काम करता है जिसे कंप्यूटर स्वचालित रूप से लोड करता है। क्योंकि वह उपकरण "अनुमोदित सूची" में है, इसलिए सुरक्षा स्कैनर कोई अलार्म नहीं बजाते हैं। उन्होंने एक विशेष परीक्षण किट भी बनाई जिसे पिकलबेंच (PICKLEBENCH) कहा जाता है, जो एक विशाल मशीन की तरह है जो स्वचालित रूप से हजारों मासूम दिखने वाले मॉडल्स में इन ट्रिक्स को इंजेक्ट कर सकती है ताकि देखा जा सके कि क्या स्कैनर उन्हें पकड़ पाते हैं।
जब उन्होंने अपने नए ट्रिक्स का वर्तमान में उपयोग किए जा रहे सर्वश्रेष्ठ सुरक्षा स्कैनर्स के खिलाफ परीक्षण किया, तो परिणाम चौंकाने वाले थे। शैडोपिकल हमले छिपने में अविश्वसनीय रूप से कुशल थे। वास्तव में, "ओवररिटन" संस्करण स्कैनर्स से 63% बार बच निकलने में सफल रहा। इसे समझने के लिए, यह नया तरीका हैकर्स द्वारा ज्ञात पिछले सर्वोत्तम ट्रिक्स की तुलना में लगभग 50% अधिक कठिन था। इससे भी अधिक प्रभावशाली बात यह है कि उनकी परीक्षण किट विशेषज्ञों द्वारा उपयोग किए जाने वाले मौजूदा परीक्षणों की तुलना में स्कैनर्स के लिए 25.6% अधिक चुनौतीपूर्ण थी।
शोधकर्ताओं ने यह भी पाया कि सबसे उन्नत सुरक्षा प्रणालियाँ भी, जो केवल "सुरक्षित" उपकरणों को चलाने की कोशिश करती हैं, धोखा खा सकती हैं यदि बुरे लोग उन सुरक्षित उपकरणों में से एक को नकली उपकरण से बदलने में कामयाब हो जाते हैं। हालाँकि कुछ स्कैनर दूसरों की तुलना में बेहतर थे, लेकिन कोई भी पूर्ण नहीं था। टीम का सुझाव है कि इसे ठीक करने के लिए, सुरक्षा गार्डों को न केवल उपकरणों की सूची की जाँच करनी चाहिए, बल्कि यह भी सुनिश्चित करना चाहिए कि उपकरण स्वयं छेड़छाड़ किए गए तो नहीं हैं। उन्होंने इन खामियों को भरने के लिए कुछ विचार भी दिए, जिससे स्कैनर इन चालाक हमलों को पकड़ने में लगभग 19% बेहतर हो सकते हैं।
संक्षेप में, यह पेपर केवल यह नहीं कहता कि "हैकिंग संभव है"; बल्कि यह दिखाता है कि वर्तमान सुरक्षा जाल में एक अंधा धब्बा (blind spot) कहाँ है। यह साबित करता है कि केवल "अच्छे" और "बुरे" उपकरणों की सूची पर भरोसा करना अब पर्याप्त नहीं है, क्योंकि बुरे लोग अब अपने ट्रिक्स को उन्हीं उपकरणों के रूप में छिपा सकते हैं जिन पर हम भरोसा करते हैं। लेखकों का सुझाव है कि भविष्य में सुरक्षित रहने के लिए पूरे सिस्टम को एक गंभीर अपग्रेड की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।