Temporal Poisoning: Clean-Label Backdoors via Event Redistribution in SNNs
यह शोध पत्र स्पाइकिंग न्यूरल नेटवर्क (SNNs) पर पहले क्लीन-लेबल बैकडोर हमले को प्रस्तुत करता है जो लक्षित-वर्ग इवेंट स्ट्रीम्स पर फिक्स्ड टाइमस्टैम्प ट्रांसफॉर्मेशन लागू करके पूर्ण आक्रमण सफलता दर प्राप्त करता है, जिससे मौजूदा रेट-कोलैप्स्ड डिफेन्सेस की सीमाओं को उजागर किया जाता है और संरक्षित इवेंट काउंट के माध्यम से हमले की गोपनीयता को प्रदर्शित किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया की कल्पना एक हलचल भरे शहर के रूप में करें जहाँ कंप्यूटर चीजों को पहचानना सीखते हैं, जैसे कि चेहरे या ट्रैफिक संकेत। लंबे समय तक, ये कंप्यूटर मानक कैमरों की तरह काम करते थे, जो हर सेकंड के एक अंश में एक पूरी तस्वीर लेते थे और एक साथ पूरे दृश्य का विश्लेषण करते थे। लेकिन अब एक नया, अधिक उन्नत प्रकार का कंप्यूटर मस्तिष्क आया है जिसे स्पाइकिंग न्यूरल नेटवर्क (SNN) कहा जाता है। पूरी तस्वीरें देखने के बजाय, SNN अत्यंत सतर्क सुरक्षा गार्डों की तरह हैं जो केवल तभी प्रतिक्रिया देते हैं जब कुछ बदलता है या हिलता है। वे एक स्थिर छवि नहीं देखते; वे पिंग या स्पाइक्स (झटकों) की एक छोटी, तीव्र-फायर वाली धारा देखते हैं जो विशिष्ट क्षणों पर होती है। यह उन्हें अविश्वसनीय रूप से तेज़ और ऊर्जा-कुशल बनाता है, जो सेल्फ-ड्राइविंग कारों या उन रोबोटों के लिए आदर्श है जिन्हें अपनी बैटरी खत्म किए बिना तुरंत प्रतिक्रिया देने की आवश्यकता होती है।
हालाँकि, किसी भी स्मार्ट सिस्टम की तरह, इन नेटवर्कों को भी धोखा दिया जा सकता है। AI सुरक्षा की दुनिया में, एक "बैकडोर अटैक" (backdoor attack) एक गुप्त हाथ मिलाने (secret handshake) जैसा है। यदि कोई हैकर कंप्यूटर को सिखा दे कि एक विशिष्ट गुप्त संकेत का अर्थ "दरवाजा खोलें" है, तो कंप्यूटर उस संकेत का पालन करेगा, चाहे कुछ भी हो रहा हो। आमतौर पर, हैकरों को इस ट्रिक को सिखाने के लिए कुछ स्पष्ट करना पड़ता है, जैसे कि स्टॉप साइन की फोटो पर गलत लेबल लगा देना ताकि कंप्यूटर गलत चीज़ सीख ले। लेकिन क्या होगा अगर हैकर बिना लेबल बदले ही इस गुप्त हाथ मिलाने को सिखा सके? क्या होगा अगर वे केवल घटनाओं के समय (timing) में एक गुप्त संदेश फुसफुसा सकें, जिससे तस्वीर बिल्कुल वैसी ही दिखे जैसी पहले थी? यही वह रहस्य है जिसे यह शोध पत्र हल करने का प्रयास करता है।
शोधकर्ताओं ने, प्रकाश के परिवर्तनों को देखने वाले विशेष कैमरों के डेटा के साथ काम करते हुए, इन स्पाइकिंग दिमागों को हैक करने का एक चतुर नया तरीका खोजा। उन्होंने पाया कि कंप्यूटर को धोखा देने के लिए आपको यह बदलने की आवश्यकता नहीं है कि वह क्या देख रहा है; आपको बस यह बदलना है कि वह उसे कब देखता है। एक ड्रम की ताल की कल्पना करें। यदि आप "धम, टप, टप, धम" की लय बजाते हैं, तो यह एक गीत जैसा लगता है। लेकिन यदि आप उन सभी धड़कनों को बिल्कुल शुरुआत में एक छोटी सी लहर में सिकोड़ दें, या उन्हें खींचकर फैला दें, तो ड्रम पर कुल प्रहारों की संख्या बिल्कुल समान रहती है। जो व्यक्ति केवल कुल प्रहारों की गिनती कर रहा है, उसके लिए यह बिल्कुल एक जैसा है। लेकिन एक संगीतकार के लिए जो लय को सुन रहा है, यह पूरी तरह से एक अलग गाना है।
यह शोध पत्र दिखाता है कि इन प्रकाश-परिवर्तन की घटनाओं के टाइमस्टैम्प (timestamps) को पुनर्व्यवस्थित करके—उन्हें थोड़ा पहले, बाद में, या एक साथ इकट्ठा करके—हम हमलावर यह सिखा सकते हैं कि एक विशिष्ट लय का अर्थ एक विशिष्ट लक्ष्य वर्ग (जैसे "बिल्ली" या "स्टॉप साइन") है। डरावनी बात क्या है? "स्वच्छ" डेटा और "जहरीले" (poisoned) संस्करण दोनों ही बिल्कुल एक जैसे दिखते हैं यदि आप केवल घटनाओं की कुल संख्या गिनते हैं। यह दो गीतों की तरह है जिनमें नोट्स की संख्या बिल्कुल समान है, लेकिन एक मार्च जैसा लगता है और दूसरा वाल्ट्ज़ जैसा। यदि आप केवल नोट्स गिनते हैं, तो आप अंतर नहीं कर सकते। लेकिन AI, जो लय को सुनता है, भ्रमित हो जाता है और हैकर के गुप्त आदेश का पालन करने लगता है।
टीम ने तीन अलग-अलग डेटासेट्स और दो प्रकार के AI दिमागों (एक पारंपरिक इमेज प्रोसेसर की तरह बना हुआ और दूसरा आधुनिक ट्रांसफार्मर की तरह) पर इसका परीक्षण किया। उन्होंने पाया कि कई मामलों में, यह "टाइम-ट्रिक" (time-trick) पूरी तरह सफल रहा। सबसे मजबूत सेटअपों में, हमला 100% बार सफल रहा। AI किसी यादृच्छिक वस्तु को देखेगा, गुप्त समय पैटर्न देखेगा, और तुरंत उसे उसी रूप में वर्गीकृत कर देगा जो हैकर चाहता था, जबकि वह सामान्य, बिना छेड़छाड़ वाले इनपुट पर भी बेहतरीन काम करता रहेगा।
शोधकर्ताओं ने यह भी जांचा कि क्या मौजूदा सुरक्षा गार्ड इस ट्रिक को पकड़ सकते हैं। उन्होंने कई मानक सुरक्षा उपायों का परीक्षण किया, लेकिन अधिकांश इस हमले के प्रति अंधे थे। क्यों? क्योंकि अधिकांश सुरक्षा जाँचें पहले समय के आयाम (time dimension) को दबा देती हैं—पूरे रिदम को कुल नोट्स की एक एकल गिनती में बदल देती हैं। चूंकि हैकर ने कुल गिनती नहीं बदली थी, इसलिए इन सुरक्षा उपायों को कुछ भी संदिग्ध नहीं दिखा। यह केवल तब संभव हुआ जब शोधकर्ताओं ने एक नया डिटेक्टर बनाया जो वास्तव में लय को चरण-दर-चरण सुनता था, तभी वे इस जहर को पहचान सके।
यह अध्ययन सिद्ध करता है कि इन समय-संवेदनशील AI दिमागों के लिए, "क्या" जितना महत्वपूर्ण "कब" है। यह सुझाव देता है कि वर्तमान सुरक्षा उपाय, जो अक्सर घटनाओं के समय को अनदेखा करते हैं, एक बड़ी भेद्यता (vulnerability) को मिस कर रहे हो सकते हैं। यह शोध पत्र यह दावा नहीं करता है कि यह एक हल की गई समस्या है या सभी AI खराब हैं, लेकिन यह दिखाता है कि एक बहुत ही गुप्त, पकड़ में न आने वाला बैकडोर मौजूद है। यह एक चेतावनी है: यदि आप इन तेज़, कुशल AI दिमागों की रक्षा करना चाहते हैं, तो आपको केवल तस्वीर को ही नहीं देखना है; आपको उसकी लय को भी सुनना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।