Securing Contrastive mmWave-based Human Activity Recognition against Adversarial Label Flipping
यह शोध पत्र लेबल फ्लिपिंग पॉइज़निंग हमलों के प्रति सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग-आधारित mmWave मानव गतिविधि पहचान की कमजोरियों पर पहला व्यवस्थित अध्ययन प्रस्तुत करता है, जिसमें तीन विशिष्ट हमला वेक्टरों की पहचान की गई है और एक प्रोटोटाइप सिस्टम पर मान्य किए गए संबंधित जवाबी उपायों का प्रस्ताव दिया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-पावर्ड, अदृश्य आँख है जो बिना किसी कैमरे के दीवारों के पार देख सकती है। यह कोई जादू नहीं है; यह मिलीमीटर-वेव (mmWave) रडार नामक एक तकनीक है। इसे एक चमगादड़ द्वारा ईकोलोकेशन (echolocation) के उपयोग की तरह समझें, लेकिन यहाँ ध्वनि के बजाय, यह आपके शरीर का एक विस्तृत, चलता-फिरता हीट मैप बनाने के लिए उच्च-आवृत्ति वाली रेडियो तरंगों का उपयोग करता है। यदि आप अपना हाथ हिलाते हैं, तो रडार उस लहर के आकार और गति को देख लेता है। वैज्ञानिक इस तकनीक का उपयोग "ह्यूमन एक्टिविटी रिकग्निशन" (HAR) सिस्टम बनाने के लिए करते हैं, जो डिजिटल जासूसों की तरह हैं जो यह बता सकते हैं कि आप दरवाजा धकेल रहे हैं, दराज खींच रहे हैं, या घूम रहे हैं, और वह भी बिना आपके कोई घड़ी या सेंसर पहने।
इन डिजिटल जासूसों को वास्तव में स्मार्ट बनाने के लिए, शोधकर्ता उन्हें "सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग" (Supervised Contrastive Learning) नामक एक विधि से सिखाते हैं। आप इसे एक शिक्षक द्वारा छात्र को दो बिल्लियों की तस्वीरें दिखाने और यह कहने के रूप में समझ सकते हैं कि, "देखो, ये एक ही प्रकार के जानवर हैं," और फिर कुत्ते की एक तस्वीर दिखाकर यह कहना कि, "यह अलग है।" लक्ष्य यह है कि कंप्यूटर यह सीख ले कि सभी "धकेलने" (pushing) वाली गतियाँ एक दूसरे के समान दिखती हैं और "खींचने" (pulling) की गतियों से बहुत अलग हैं। लेकिन यहाँ एक पेंच है: क्या होगा यदि कोई शिक्षक की कक्षा में चुपके से घुस जाए और फ्लैशकार्ड पर लगे लेबल बदल दे? क्या होगा यदि वे कंप्यूटर को यह बता दें कि एक "धक्का" वास्तव में एक "खिंचाव" है? यह एक "लेबल फ्लिपिंग" (label flipping) हमला है, और यही वह खतरा है जिसकी यह शोध पत्र जांच करता है।
पर्ड्यू यूनिवर्सिटी के शोधकर्ताओं और उनके सहयोगियों ने जांच करने का निर्णय लिया कि इस तरह की धोखाधड़ी के प्रति ये mmWave गतिविधि डिटेक्टर कितने संवेदनशील हैं। उन्होंने एक प्रोटोटाइप सिस्टम बनाया जो छह अलग-अलग हाथ की गतिविधियों को पहचान सकता था: धक्का देना (pushing), खींचना (pulling), बाईं ओर खिसकना (sliding left), दाईं ओर खिसकना (sliding right), और घड़ी की दिशा में या घड़ी की विपरीत दिशा में घूमना (turning clockwise or counter-clockwise)। फिर उन्होंने एक कठिन प्रश्न पूछा: यदि कोई हमलावर प्रशिक्षण डेटा पर लेबल बदल देता है, तो यह सिस्टम कितना खराब हो जाता है?
उन्होंने पाया कि यह सिस्टम आश्चर्यजनक रूप से नाजुक है। उन्होंने तीन विशिष्ट तरीके पहचाने जिनसे एक हमलावर चीजों को बिगाड़ सकता है। पहला, वे बस रैंडम तरीके से लेबल बदल सकते हैं, जैसे कंप्यूटर को बताना कि एक "धक्का" वास्तव में एक "खिसकना" है। दूसरा, वे उन गतिविधियों के बीच लेबल बदल सकते हैं जो पूरी तरह से अलग दिशाओं में चलती हैं (जैसे धक्का बनाम खिसकना)। तीसरा, और सबसे ट्रिकी, वे उन गतिविधियों के बीच लेबल बदल सकते हैं जो दिखने में बहुत समान हैं, जैसे कि "धक्का देना" और "खींचना", जो एक ही गति की विपरीत दिशाएं हैं।
परिणाम काफी डरावने थे। जब शोधकर्ताओं ने इन नकली लेबल को पेश किया, तो विभिन्न गतिविधियों को पहचानने की सिस्टम की क्षमता ढह गई। वास्तव में, वे उन्नत शिक्षण विधि जिसका वे उपयोग कर रहे थे (सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग), मानक विधि की तुलना में अधिक तेज़ी से विफल हो गई जब लेबल के साथ छेड़छाड़ की गई। यह एक उच्च-प्रदर्शन वाली स्पोर्ट्स कार की तरह है जो एक साधारण सेडान की तुलना में गड्ढे को बदतर तरीके से झेलती है क्योंकि उसका सस्पेंशन बहुत सटीक रूप से ट्यून किया गया है। जब 40% प्रशिक्षण लेबल बदले गए, तो सिस्टम लगभग बेकार हो गया, जिससे सभी अलग-अलग हाथ की गतियाँ आपस में मिल गईं और वह यह भी नहीं बता सका कि धक्का है या घूमना।
लेकिन टीम ने केवल समस्या खोजने पर ही नहीं रुकना चाहा; उन्होंने एक ढाल भी बनाई। उन्होंने एक रक्षा तंत्र विकसित किया जिसे वे "सेल्फ-सीएल" (Sel-CL - Selective Contrastive Learning) कहते हैं। कल्पना कीजिए कि एक जासूस जो केवल सुरागों को उनके वास्तविक रूप में नहीं लेता। इसके बजाय, यह जासूस सुरागों को देखता है, यह पता लगाता है कि कौन से सुराग एक साथ सबसे अधिक अर्थ रखते हैं, और उन सुरागों को अनदेखा कर देता है जो संदिग्ध लगते हैं। उनका सिस्टम पहले यह पता लगाने की कोशिश करता है कि कौन से डेटा पॉइंट्स "कॉन्फिडेंट" हैं—यानी कंप्यूटर जो देख रहा है उसके बारे में आश्वस्त है—इससे पहले कि वह उनसे जुड़े लेबल पर भरोसा करे। यह शोर वाले, संभावित रूप से फर्जी डेटा को फ़िल्टर करता है और केवल साफ, विश्वसनीय उदाहरणों से सीखता है।
रक्षा तंत्र ने उल्लेखनीय रूप से काम किया। यहाँ तक कि जब प्रशिक्षण डेटा को 40% नकली लेबल के साथ दूषित किया गया था, तब भी उनके नए सिस्टम ने 90% से ऊपर सटीकता बनाए रखी। यह भ्रम को अनदेखा करने में सक्षम था और अभी भी सही ढंग से पहचान सका कि "धक्का" एक "धक्का" ही है। वास्तव में, जब उन्होंने 80% दूषित डेटा के साथ इसका परीक्षण किया, तब भी यह अन्य सिस्टमों की तुलना में बेहतर प्रदर्शन करता रहा, जिन्होंने पूरी तरह से हार मान ली थी और केवल अनुमान लगाने लगे थे।
शोध पत्र निष्कर्ष निकालता है कि हालांकि ये mm-वेव सिस्टम शक्तिशाली और गैर-दखल देने वाले हैं, फिर भी इन्हें शुरुआत से ही सुरक्षा को ध्यान में रखकर बनाया जाना चाहिए। शोधकर्ताओं ने दिखाया कि यदि हम प्रशिक्षण के दौरान इस बात के प्रति स्मार्ट हैं कि हम किस डेटा पर भरोसा करते हैं, तो हम इन अदृश्य आँखों को लेबल-फ्लिपिंग हमलों से धोखा देने से बचा सकते हैं। उनके निष्कर्ष बताते हैं कि इस दृष्टिकोण का उपयोग न केवल mm-वेव के लिए, बल्कि अन्य वायरलेस सेंसिंग सिस्टम के लिए भी किया जा सकता है, जिससे यह सुनिश्चित हो सके कि हमारे भविष्य के स्मार्ट होम और सुरक्षा सिस्टम विश्वसनीय बने रहें, भले ही कोई उन पर चालें चलने की कोशिश करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।