← नवीनतम पेपर
🤖 machine learning

Gray-Box Poisoning of Continuous Malware Ingestion Pipelines

यह योगदान निरंतर मालवेयर अंतर्ग्रहण पाइपलाइनों (continuous malware ingestion pipelines) पर फंक्शनलिटी-प्रिजर्विंग बाइनरी मैनिपुलेशन के माध्यम से ग्रे-बॉक्स पॉइजनिंग हमलों की जांच करता है ताकि डिटेक्शन रिकॉल दरों को कम किया जा सके और साथ ही यह भी प्रदर्शित करता है कि एक होमोजेनियस एनसेम्बल डिफेंस ऐसे प्रतिकूल नमूनों में से 95.6% तक को प्रभावी ढंग से फ़िल्टर कर सकता है।

मूल लेखक: Jan Dolejš, Martin Jureček, Róbert Lórencz

प्रकाशित 2026-05-07
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Jan Dolejš, Martin Jureček, Róbert Lórencz

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक विशाल, स्वचालित कारखाना है जो प्रतिदिन लाखों पैकेज छाँटता है। इसका कार्य खतरनाक "बुरे पैकेज" (मालवेयर) का पता लगाना और उन्हें चिह्नित करना है, जबकि "अच्छे पैकेज" (सुरक्षित फ़ाइलें) को गुजरने देना है। नए खतरों की भारी मात्रा के साथ तालमेल बिठाने के लिए, यह कारखाना मानव निरीक्षकों को काम पर नहीं रखता है, बल्कि एक सुपरइंटेलिजेंट रोबोट (एक मशीन लर्निंग मॉडल) का उपयोग करता है जो अच्छे और बुरे पैकेज के उदाहरणों का अध्ययन करके सीखता है।

यह लेख इस बात की जांच करता है कि कैसे इसकी सीखने की प्रक्रिया के दौरान धोखेबाजी करके इस रोबोट को तोड़ने का एक कुटिल तरीका अपनाया जा सकता है।

परिदृश्य: "ग्रे-बॉक्स" (Gray-Box) चाल

शोधकर्ताओं ने एक ऐसी स्थिति की कल्पना की जिसमें एक दुर्भावनापूर्ण अभिनेता (हमलावर) कारखाने के रोबोट को बाधित करने का लक्ष्य रखता है। उनके पास रोबोट के गुप्त ब्लूप्रिंट नहीं हैं (जो कि एक "व्हाइट-बॉक्स" हमला होगा), लेकिन उनके पास एक समान रोबोट होने के कारण इस बात की बहुत अच्छी समझ है कि रोबोट कैसे सोचता है। इसे एक "ग्रे-बॉक्स" हमला कहा जाता है।

हमलावर का लक्ष्य केवल एक बुरे पैकेज को रोबोट के पास से चुपके से ले जाना नहीं है; वे रोबोट के मस्तिष्क को ज़हर देना (poisoning) चाहते हैं ताकि वह भविष्य में बुरे पैकेज को पहचानना भूल जाए।

हमला: बुरी फ़ाइलों पर "कॉस्मेटिक सर्जरी"

रोबोट को धोखा देने के लिए, हमलावर केवल बुरी फ़ाइल का नाम नहीं बदल सकता या वायरस को हटा नहीं सकता; ऐसा करने से उसकी कार्यक्षमता कम हो जाएगी। इसके बजाय, वे फ़ाइल पर "कॉस्मेटिक सर्जरी" करते हैं।

एक दुर्भावनापूर्ण फ़ाइल की कल्पना एक वेश बदलकर आए संदिग्ध व्यक्ति के रूप में करें। हमलावर वेशभूषा में ऐसे सूक्ष्म, अदृश्य बदलाव करता है ताकि रोबोट के सेंसर अलार्म न बजाएं, जबकि व्यक्ति अंदर से खतरनाक बना रहता है।

  • उपकरण: उन्होंने secml_malware नामक एक विशेष टूलकिट का उपयोग किया।
  • तकनीकें:
    1. IAT इंजेक्शन (IAT Injections): एक संदिग्ध लिफाफे पर कुछ हानिरहित दिखने वाले स्टिकर चिपकाने की कल्पना करें। लिफाफे के अंदर अभी भी बम है, लेकिन स्टिकर उसे एक विशिष्ट, भरोसेमंद समूह का हिस्सा दिखाते हैं।
    2. सेक्शन इंजेक्शन (Section Injections): एक खतरनाक किताब में कुछ अतिरिक्त उबाऊ, हानिरहित दिखने वाले पन्ने चिपकाने की कल्पना करें। किताब में अभी भी खतरनाक निर्देश मौजूद हैं, लेकिन अतिरिक्त पन्ने स्कैनर को भ्रमित कर देते हैं।

शोधकर्ताओं ने पाया कि केवल इन "स्टिकरों" (विशेष रूप से 2 इम्पोर्ट एड्रेस टेबल इंजेक्शन) को जोड़ने मात्र से बुरी फ़ाइलों को रोबोट के लिए 30% अधिक "अच्छी" फ़ाइलों जैसा दिखाने के लिए पर्याप्त था।

परिणाम: रोबोट भ्रमित हो जाता है

जब कारखाने के रोबोट को इन "ज़हरीले" उदाहरणों (बदली हुई बुरी फ़ाइलें जिन्हें 'अच्छी' के रूप में लेबल किया गया था) के साथ फिर से प्रशिक्षित किया गया, तो वह भ्रमित होने लगा।

  • नुकसान: बुरे फ़ाइलों को पकड़ने की रोबोट की क्षमता काफी कम हो गई। इसने खतरनाक पैकेज को दरारों से फिसलने देना शुरू कर दिया।
  • पकड़: बदलाव जितने अधिक व्यापक थे (कई स्टिकर या पन्ने जोड़ना), हमलावर के लिए फ़ाइल को प्रशिक्षण से पहले ही "संदिग्ध" के रूप में पहचानना उतना ही आसान था। हमलावर को एक "स्वीट स्पॉट" (सही संतुलन) खोजना था: इतना बदलें कि रोबोट को धोखा दिया जा सके, लेकिन इतना भी नहीं कि फ़ाइल स्पष्ट रूप से अजीब दिखने लगे।

बचाव: "दूसरी राय" वाली टीम

शोधकर्ताओं ने न केवल समस्या को उजागर किया; उन्होंने एक समाधान का परीक्षण भी किया। उन्होंने एक होमोजेनियस एन्सेम्बल (homogeneous ensemble) स्थापित किया जो कारखाने के गेट पर तीन अलग-अलग सुरक्षा गार्डों की एक टीम के रूप में कार्य करता है।

  • गार्ड 1 फ़ाइल के वजन और आकार (वितरण) की जाँच करता है।
  • गार्ड 2 उसके अंदर के टेक्स्ट (सामग्री) को पढ़ता है।
  • गार्ड 3 उसकी संरचना और बाइंडिंग (संरचना) का परीक्षण करता है।

किसी फ़ाइल को प्रशिक्षण कक्ष में जाने की अनुमति देने के लिए, तीनों गार्डों को सहमत होना चाहिए कि वह सुरक्षित दिखती है।

परिणाम:

  • घुसपैठ करने वाले "ज़हरीले" फ़ाइलों को इस गार्ड टीम द्वारा 95.6% मामलों में रोका गया।
  • महत्वपूर्ण रूप से, इस टीम ने गलती से अच्छे पैकेज को फ़िल्टर नहीं किया; इसने बिना किसी समस्या के 84.5% वैध फ़ाइलों को गुजरने दिया।

निष्कर्ष

लेख यह निष्कर्ष निकालता है कि हालांकि दुर्भावनापूर्ण अभिनेता घातक फ़ाइलों में छोटे, चतुर बदलाव करके एक स्वचालित शिक्षण प्रणाली को सफलतापूर्वक "ज़हर" दे सकते हैं, लेकिन यह एक संतुलन का खेल है। यदि वे छिपने के लिए फ़ाइलों को बहुत अधिक बदलते हैं, तो वे प्री-चेक (पूर्व-जांच) द्वारा पकड़े जाते हैं। यदि वे उन्हें बहुत कम बदलते हैं, तो रोबोट गलत सबक सीखता है।

सबसे अच्छा बचाव "विशेषज्ञों की एक टीम" (एन्सेम्बल) है जो मुख्य रोबोट को सीखने देने से पहले फ़ाइलों की जाँच करती है। यह सुनिश्चित करता है कि कारखाने की सीखने की प्रक्रिया स्वच्छ और विश्वसनीय बनी रहे।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →