Voltage and Electromagnetic Fault Injectioin in TinyML: Attacks and Countermeasures
यह शोध पत्र प्रदर्शित करता है कि सीमित संसाधनों वाले IoT उपकरणों पर आधारित TinyML मॉडल उन गुप्त वोल्टेज और इलेक्ट्रोमैग्नेटिक फॉल्ट इंजेक्शन हमलों के प्रति संवेदनशील हैं जो सटीकता को कम कर सकते हैं या अनुमानित आउटपुट के लिए मजबूर कर सकते हैं, और उनकी मजबूती बढ़ाने के लिए 'रैंडमाइज्ड सेल्फ-रिडक्शन' (Randomized Self-Reduction) और 'मेजॉरिटी वोटिंग' (majority voting) को प्रभावी जवाबी उपायों के रूप में प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ एक सिक्के के आकार के छोटे कंप्यूटर, स्मार्ट डोरबेल से लेकर मेडिकल सेंसर तक, हर चीज़ में समाए हुए हैं। ये उपकरण, जिन्हें माइक्रोकंट्रोलर कहा जाता है, इंटरनेट ऑफ थिंग्स (IoT) के मौन इंजन हैं। इन्हें छोटा, सस्ता और ऊर्जा-कुशल बनाने के लिए डिज़ाइन किया गया है, जो अक्सर परिष्कृत सॉफ़्टवेयर चलाते हैं जिससे वे वॉयस कमांड को पहचान सकें, किसी व्यक्ति के गिरने का पता लगा सकें, या शोर वाले कमरे में एक विशिष्ट ध्वनि की पहचान कर सकें। यह क्षमता 'टाइनी मशीन लर्निंग' नामक एक क्षेत्र से आती है, जहाँ जटिल गणितीय मॉडलों को इन सीमित उपकरणों में फिट होने के लिए सिकोड़ दिया जाता है। क्योंकि ये कंप्यूटर अक्सर सार्वजनिक स्थानों या दूरदराज के स्थानों पर रखे जाते हैं, इसलिए वे भौतिक रूप से किसी के भी पहुँच में होते हैं। यह सुलभता एक अनूठी भेद्यता पैदा करती है: हमलावर को सॉफ़्टवेयर कोड को रिमोटली (दूर से) हैक करने की आवश्यकता नहीं है। इसके बजाय, वे बस डिवाइस को छू सकते हैं और बिजली के एक झटके या चुम्बकीय तरंग के केंद्रित स्पंदन (पल्स) का उपयोग करके कंप्यूटर के मस्तिष्क को भ्रमित कर सकते हैं, जिससे वह गलती करने लगे।
शोधकर्ताओं की एक टीम यह समझने के लिए आगे बढ़ी कि ये छोटी, बुद्धिमान डिवाइस कितनी आसानी से धोखा खा सकती हैं। उन्होंने कंप्यूटर की सोच को बाधित करने के दो विशिष्ट तरीकों पर ध्यान केंद्रित किया: वोल्टेज ग्लिचिंग (voltage glitching) और इलेक्ट्रोमैग्नेटिक फॉल्ट इंजेक्शन (electromagnetic fault injection)। वोल्टेज ग्लिचिंग डिवाइस की बिजली आपूर्ति को अचानक एक छोटे से झटके देने जैसा है, जिससे डिवाइस एक सेकंड के बहुत छोटे हिस्से के लिए लड़खड़ा जाता है। इलेक्ट्रोमैग्नेटिक फॉल्ट इंजेक्शन इसके समान है लेकिन यह बिजली के तारों को छुए बिना आंतरिक सर्किट को झटका देने के लिए एक चुंबकीय स्पंदन का उपयोग करता है। शोधकर्ता यह जानना चाहते थे कि क्या ये भौतिक झटके मशीन लर्निंग मॉडल को यह पहचानने में गलत कर सकते हैं कि वह क्या देख या सुन रहा है, और यदि ऐसा है, तो क्या हमलावर इस गलती को इस तरह से नियंत्रित कर सकता है कि वह एक विशिष्ट तरीके से हो। उन्होंने इसे दो अलग-अलग प्रकार के माइक्रोकंट्रोलर्स पर चलने वाले चार अलग-अलग प्रकार के मॉडलों पर परीक्षण किया, जो उन वास्तविक दुनिया के परिदृश्यों का अनुकरण करते हैं जहाँ एक डिवाइस को बिना निगरानी के छोड़ा जा सकता है।
प्रयोगों से पता चला कि ये छोटे कंप्यूटर आश्चर्यजनक रूप से नाजुक हैं। जब शोधकर्ताओं ने सावधानीपूर्वक समयबद्ध वोल्टेज ग्लिच लागू किए, तो उन्होंने पाया कि वे ऐसी त्रुटियां उत्पन्न कर सकते थे जिनसे डिवाइस क्रैश नहीं हुआ बल्कि इसके बजाय इसने गलत उत्तर दिया। कई मामलों में, डिवाइस केवल बेतरतीब ढंग से अनुमान नहीं लगा रहा था; बल्कि इसे एक विशिष्ट, अनुमानित त्रुटि की ओर निर्देशित किया जा रहा था। उदाहरण के लिए, हस्तलिखित संख्याओं को पहचानने के लिए डिज़ाइन किए गए एक मॉडल को हमेशा "शून्य" या "सात" कहने के लिए मजबूर किया जा सकता था, चाहे वास्तव में क्या लिखा गया हो। ऐसा इसलिए हुआ क्योंकि विद्युत व्यवधान ने गणना के ठीक उस क्षण में कंप्यूटर की मेमोरी के भीतर डेटा के एक सिंगल बिट को बदल दिया था। चूंकि मॉडल बहुत छोटे होते हैं और बहुत तेज़ी से चलते हैं, इसलिए गणना के बीच में एक सिंगल बिट का बदलना पूरे प्रोसेस में लहर की तरह फैल सकता है, जिससे अंतिम निर्णय पूरी तरह से गलत हो जाता है। शोधकर्ताओं ने पाया कि ग्लिच के समय को नैनोसेकंड तक समायोजित करके, वे यह चुन सकते थे कि डिवाइस कौन सी गलती करेगा।
इलेक्ट्रोमैग्नेटिक हमलों ने भौतिक सेटअप के प्रति और भी अधिक संवेदनशीलता दिखाई। शोधकर्ताओं ने कंप्यूटर चिप पर विभिन्न स्थानों पर चुंबकीय स्पंदन भेजने के लिए एक प्रोब का उपयोग किया। उन्होंने पाया कि प्रोब को कुछ मिलीमीटर हिलाने से परिणाम पूरी तरह से बदल जाता है। कुछ स्थितियों में, स्पंदन डिवाइस को रीसेट और रीबूट कर देगा। अन्य स्थितियों में, यह डिवाइस को ऐसी स्थिति में फ्रीज कर देगा जहाँ वह बार-बार एक ही गलत उत्तर देता रहेगा, भले ही हमला रुक गया हो। यह "परसिस्टेंट करप्शन" (लगातार होने वाला भ्रष्टाचार) विशेष रूप से खतरनाक था क्योंकि डिवाइस अपने आप ठीक नहीं होता था; इसे मैन्युअल रूप से रीस्टार्ट करने की आवश्यकता होती थी। अध्ययन ने दिखाया कि जबकि वोल्टेज ग्लिचिंग को दोहराना आसान था, इलेक्ट्रोमैग्नेटिक पल्स अधिक गंभीर और लंबे समय तक रहने वाले नुकसान का कारण बन सकते थे यदि हमलावर को पता हो कि निशाना कहाँ लगाना है।
शोधकर्ताओं ने यह भी देखा कि इन हमलों ने विभिन्न प्रकार के मॉडलों को कैसे प्रभावित किया। उन्होंने पाया कि एक कॉम्पैक्ट इमेज रिकग्निशन मॉडल सबसे अधिक असुरक्षित था, जिसकी सटीकता हमले के दौरान नाटकीय रूप से गिर गई। "हे सिरी" जैसे वेक वर्ड्स (wake words) का पता लगाने के लिए डिज़ाइन किया गया एक मॉडल भी संवेदनशील पाया गया, जिसे अक्सर एक रैंडम शोर को वेक वर्ड समझने के लिए चकमा दिया जा सकता था। हालाँकि, शोधकर्ता केवल समस्या की पहचान ही नहीं कर रहे थे; उन्होंने एक समाधान भी प्रस्तावित किया। उन्होंने 'रैंडमाइज्ड सेल्फ-रिडक्शन' (Randomized Self-Reduction) नामक एक विधि विकसित की, जो मूल रूप से कंप्यूटर को एक ही समस्या को थोड़े अलग तरीकों से कई बार हल करने के लिए कहती है और फिर उत्तरों की तुलना करती है। यदि एक गणना दोषपूर्ण (corrupted) थी, तो अन्य सही गणनाएँ उसे खारिज कर देंगी, जिससे डिवाइस सही उत्तर प्राप्त करने में सक्षम होगा। हालांकि इस सुरक्षा के लिए डिवाइस को अधिक काम करना पड़ता है, शोधकर्ताओं ने दिखाया कि इसे डिवाइस की गति को बहुत अधिक धीमा किए बिना लागू किया जा सकता है, जो इन छोटे कंप्यूटरों को भौतिक छेड़छाड़ के प्रति अधिक लचीला बनाने का एक व्यावहारिक तरीका है।
यह कार्य आधुनिक तकनीक की सुरक्षा में एक महत्वपूर्ण अंतर को उजागर करता है। जैसे-जैसे हम छोटे, सस्ते उपकरणों में अधिक शक्तिशाली आर्टिफिशियल इंटेलिजेंस डाल रहे हैं, हमें यह भी विचार करना चाहिए कि इन उपकरणों के साथ भौतिक हेरफेर किया जा सकता है। अध्ययन प्रदर्शित करता है कि भौतिक पहुंच रखने वाला हमलावर मशीन लर्निंग मॉडल को विफल करने के लिए विश्वसनीय रूप से मजबूर कर सकता है, और कुछ मामलों में, उसे इस तरह विफल होने के लिए मजबूर कर सकता है जो हमलावर के लाभ में हो। निष्कर्ष बताते हैं कि केवल सॉफ़्टवेयर को स्मार्ट बनाना पर्याप्त नहीं है; वास्तविक दुनिया में इन बुद्धिमान उपकरणों पर भरोसा करने के लिए हार्डवेयर को भी सुरक्षा की नई परतों की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।