BackdoorIDS: Zero-shot Backdoor Detection for Pretrained Vision Encoder
BackdoorIDS एक ज़ीरो-शॉट, इन्फरेंस-टाइम डिटेक्शन विधि है जो प्रोग्रेसिव इनपुट मास्किंग के दौरान जनरेट किए गए एम्बेडिंग सीक्वेंस पर डेंसिटी-आधारित क्लस्टरिंग का लाभ उठाकर प्री-ट्रेन्ड विजन एनकोडर्स में बैकडोर वाली छवियों की पहचान करती है, ताकि मैलिशियस ट्रिगर्स से बेनिन कंटेंट की ओर होने वाले विशिष्ट अटेंशन शिफ्ट को कैप्चर किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपने कंप्यूटर को चित्र समझने में मदद करने के लिए एक तीसरे पक्ष के विक्रेता से एक उच्च श्रेणी का, पूर्व-प्रशिक्षित "मस्तिष्क" (एक विजन एनकोडर) खरीदा है। आप इस मस्तिष्क का उपयोग बिल्लियों को पहचानने, मेडिकल स्कैन का निदान करने या फोटो का वर्णन करने के लिए करना चाहते हैं। लेकिन यहाँ एक पेंच है: आपने इस मस्तिष्क को खुद नहीं बनाया है, और आप यह भी नहीं जानते कि इसे किसने बनाया है या क्या इसके साथ कोई छेड़छाड़ की गई है।
यहीं पर BackdoorIDS काम आता है। यह एक सुरक्षा गार्ड की तरह है जो यह जाँचता है कि इस "मस्तिष्क" के अंदर गुप्त रूप से कोई बैकडोर (backdoor) तो नहीं डाला गया है।
समस्या: द "मैजिक स्विच" (जादुई स्विच)
एक बैकडोर हमले को मस्तिष्क के भीतर छिपे एक जादुई स्विच की तरह समझें।
- सामान्य व्यवहार: यदि आप मस्तिष्क को बिल्ली की तस्वीर दिखाते हैं, तो वह कहता है, "यह एक बिल्ली है।"
- बैकडोर व्यवहार: यदि आप उसे एक बिल्ली की तस्वीर दिखाते हैं जिस पर एक छोटा सा, अदृश्य स्टिकर (ट्रिगर) लगा हुआ है, तो मस्तिष्क अचानक बिल्ली को अनदेखा कर देता है और चिल्लाने लगता है, "यह एक टोस्टर है!"
डरावनी बात यह है कि यह स्विच इतना अच्छी तरह से छिपा हुआ है कि मस्तिष्क 99% चित्रों पर बिल्कुल सामान्य व्यवहार करता है। यह केवल तभी पागल होता है जब वह विशिष्ट ट्रिगर मौजूद होता है। पारंपरिक सुरक्षा गार्ड उस स्टिकर को खोजने की कोशिश करते हैं, लेकिन आधुनिक हैकर्स स्टिकर को इतना सूक्ष्म (या पूरी छवि में फैला हुआ) बना देते हैं कि आप उसे देख ही नहीं पाते।
समाधान: द "प्रोग्रेसिव मास्किंग" गेम (प्रगतिशील मास्किंग का खेल)
इस पेपर के लेखकों ने BackdoorIDS के रूप में एक चतुर तरीका निकाला है जिससे वे बिना यह जाने कि स्विच कैसा दिखता है या "अच्छे" चित्रों की सूची के बिना, इन छिपे हुए स्विचों को पकड़ सकते हैं।
वे "प्रोग्रेसिव मास्किंग" नामक एक खेल का उपयोग करते हैं।
कल्पना कीजिए कि आपके पास एक फोटो है, और आप धीरे-धीरे छोटे काले चौकोर टुकड़ों (पैचेस) से उसे ढकना शुरू करते हैं, एक-एक करके, जब तक कि पूरी छवि काली न हो जाए। आप इसे धीरे-धीरे करते हैं, और हर बार एक नया चौकोर टुकड़ा ढकने के बाद मस्तिष्क की विचार प्रक्रिया (thought process) का एक "स्नैपशॉट" लेते हैं।
इस कहानी के दो पात्र
1. ईमानदार छवि (क्लीन इनपुट)
यदि आप मस्तिष्क को बिल्ली की एक सामान्य तस्वीर दिखाते हैं और उसे ढकना शुरू करते हैं:
- जैसे-जैसे आप पूंछ को ढकते हैं, मस्तिष्क सोचता है, "ठीक है, अभी भी एक बिल्ली है।"
- जैसे-जैसे आप कान ढकते हैं, वह सोचता है, "अभी भी बिल्ली है, लेकिन शायद कम निश्चित हूँ।"
- जैसे-जैसे आप आँखें ढकते हैं, वह सोचता, "हम्म, बताना मुश्किल है, लेकिन शायद बिल्ली है।"
- परिणाम: मस्तिष्क के विचार सुचारू रूप से और धीरे-धीरे बदलते हैं, जैसे एक कार धीरे से धीमी होती है। यह कभी भी अचानक नहीं उछलता।
2. छली छवि (बैकडोर इनपुट)
अब, कल्पना कीजिए कि आप मस्तिष्क को एक ऐसी तस्वीर दिखाते हैं जिसमें छिपा हुआ "जादुई स्विच" (ट्रिगर) है।
- चरण 1 (हाइजैक): आप छवि को ढकना शुरू करते हैं। जब तक आप जादुई स्विच को नहीं ढक देते, मस्तिष्क पूरी तरह से उसी के प्रति जुनूनी रहता है। वह बिल्ली को पूरी तरह से अनदेखा कर देता है। भले ही आप 50% छवि को ढक दें (जब तक कि स्विच सुरक्षित है), मस्तिष्क का विचार "टोस्टर!" पर जमा (frozen) रहता है। उसे बाकी तस्वीर की परवाह नहीं है।
- चरण 2 (पुनर्स्थापना): अचानक, आप जादु적인 स्विच को ढक देते हैं। जादू टूट जाता है! मस्तिष्क अपने ट्रांस (trance) से बाहर आ जाता है। उसे एहसास होता है, "ओह रुको, मैं एक बिल्ली देख रहा हूँ!"
- परिणाम: मस्तिष्क के विचार "टोस्टर" से "बिल्ली" की ओर अचानक और हिंसक रूप से कूदते हैं। यह एक कार के अचानक ब्रेक मारने और फिर झटके से आगे बढ़ने जैसा है।
BackdoorIDS अपराधी को कैसे पकड़ता है
BackdoorIDS सिस्टम इस "विचार यात्रा" (एम्बेडिंग्स का क्रम) पर नज़र रखता है।
- यह "स्मूथ राइड" (सुचारू यात्रा) को देखता है: यदि विचार धीरे-धीरे बदलते हैं, तो यह एक क्लीन इमेज (स्वच्छ छवि) है।
- यह "सडन जंप" (अचानक उछाल) को देखता है: यदि विचार कुछ समय के लिए स्थिर रहते हैं और फिर अचानक एक पूरी तरह से अलग जगह पर कूद जाते हैं, तो यह एक बैकडोर इमेज है।
सिस्टम इन विचारों को समूहबद्ध करने के लिए एक गणितीय उपकरण (DBSCAN कहलाता है) का उपयोग करता है।
- क्लीन इमेज: सभी विचार एक बड़े, सुचारू घेरे में एक साथ समूहबद्ध होते हैं।
- बैकडोर इमेज: विचार दो अलग-अलग समूहों ( "फ्रोज़न" समूह और "स्नैप्ड" समूह) में विभाजित हो जाते।
यदि सिस्टम को दो समूह दिखाई देते हैं, तो वह अलार्म बजा देता है: "बैकडोर डिटेक्टेड!" (बैकडोर पकड़ा गया!)
यह क्यों महत्वपूर्ण है
- जीरो-शॉट (Zero-Shot): आपको यह जानने की ज़रूरत नहीं है कि ट्रिगर कैसा दिखता है। आपको "अच्छे" चित्रों की सूची की आवश्यकता नहीं है। आपको बस छवि और मस्तिष्क की आवश्यकता है। यह तुरंत काम करता है।
- प्लग-एंड-प्ले (Plug-and-Play): यह लगभग किसी भी प्रकार के मस्तिष्क (CNNs, ViTs, CLIP, LLaVA) पर काम करता है। आपको मस्तिष्क को फिर से प्रशिक्षित करने या उसके कोड को बदलने की आवश्यकता नहीं है।
- मजबूत (Robust): भले ही छवि शोरभरी (noisy) हो या कंप्रेस्ड हो (जैसे कम गुणवत्ता वाला JPEG), सिस्टम अभी भी मस्तिष्क की सोच में अचानक आए बदलाव को पकड़ सकता है।
एनालॉजी (उपमा) सारांश
कल्पना कीजिए कि आप एक झूठ पकड़ने वाली मशीन (विजन एनकोडर) का परीक्षण कर रहे हैं।
- पुराने तरीकों ने उस विशिष्ट झूठ को खोजने की कोशिश की जो व्यक्ति बोल रहा था, लेकिन झूठा उसे छिपाने में बहुत माहिर था।
- BackdoorIDS व्यक्ति से वह कहानी सुनाने को कहता है जबकि आप धीरे-धीरे उस कमरे के हिस्सों को मिटा रहे हैं जिसका वह वर्णन कर रहा है।
- एक ईमानदार व्यक्ति जैसे-जैसे कमरा गायब होता है, अपनी कहानी को सुचारू रूप से बदलता है।
- एक स्क्रिप्ट वाला झूठा (बैकडोर) उस नकली लाइन को दोहराता रहता है जो उसने पकड़ी हुई किसी चीज़ (ट्रिगर) के बारे में लिखी है। एक बार जब आप उस प्रॉप (सामान) को हटा देते हैं, तो वह घबरा जाता है और पूरी तरह से अलग कहानी पर आ जाता है।
BackdoorIDS झूठे को उसकी स्क्रिप्ट पढ़कर नहीं, बल्कि इसलिए पकड़ता है क्योंकि उसकी कहानी बहुत अचानक बदल गई।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।