Physically Real-time Infrared Attack against Optical Flow Estimation Networks
यह शोध पत्र ऑप्टिकल फ्लो एस्टिमेशन नेटवर्क्स पर एक नवीन, गैर-आक्रामक भौतिक-विश्व हमले को प्रस्तुत करता है जो पीड़ित प्रणाली को संशोधित किए बिना विविध पर्यावरणीय स्थितियों में वास्तविक समय में, लक्षित व्यवधान उत्पन्न करने के लिए गुप्त इन्फ्रारेड लाइटों और पूर्व-गणना किए गए एडवरसेरियल उदाहरणों का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि दुनिया अदृश्य आँखों से भरी हुई है जो सब कुछ देख रही हैं। ये आँखें इंसानी नहीं हैं, बल्कि "ऑप्टिकल फ्लो एस्टीमेशन नेटवर्क्स" नामक सुपर-स्मार्ट कंप्यूटर दिमागों से जुड़े कैमरे हैं। इन नेटवर्क्स को परम मोशन डिटेक्टर (गति का पता लगाने वाले) के रूप में सोचें। वे केवल एक तस्वीर नहीं देखते; वे देखते हैं कि उस तस्वीर का हर एक पिक्सेल एक फ्रेम से दूसरे फ्रेम में कैसे चलता है। यदि कोई कार पास से गुजरती है, तो नेटवर्क सटीक रूप से गणना करता है कि कार का प्रत्येक हिस्सा कितनी गति से और किस दिशा में जा रहा है। यह स्वायत्त कारों (सेल्फ-ड्राइविंग कार) द्वारा बाधाओं से बचने और सुरक्षा प्रणालियों द्वारा चोरों को ट्रैक करने के पीछे का असली रहस्य है। लेकिन यहाँ एक पेच है: इन कंप्यूटर दिमागों की एक गुप्त कमजोरी है। जैसे एक जादूगर हाथ की सफाई से मानवीय आँखों को धोखा दे सकता है, वैसे ही हैकर्स इन नेटवर्क्स को "एडवर्सरियल एग्जाम्पल्स" (विरोधात्मक उदाहरणों) से छल सकते हैं—ऐसे सूक्ष्म, लगभग अदृश्य ग्लिच जो कंप्यूटर को ऐसी चीजें देखने पर मजबूर कर देते हैं जो वहां नहीं हैं या ऐसी चीजों को अनदेखा करने पर मजबूर कर देते हैं जो वहां मौजूद हैं। बड़ा सवाल वैज्ञानिकों के सामने यह है: क्या हम इन मोशन डिटेक्टरों को कंप्यूटर स्क्रीन पर नहीं, बल्कि वास्तविक दुनिया में, बिना किसी के ध्यान में आए, धोखा दे सकते हैं?
यह शोध पत्र ठीक यही करने के लिए एक चालाकी भरे नए तरीके को पेश करता है, जो एक ऐसे उपकरण का उपयोग करता है जो हमारे जैसे मनुष्यों के लिए व्यावहारिक रूप से अदृश्य है: इन्फ्रारेड लाइट। लेखक, जो शोधकर्ताओं की एक टीम है, एक विधि प्रस्तावित करते हैं जिसे वे "फिजिकली रियल-टाइम इन्फ्रारेड अटैक" कहते हैं। किसी कार पर अजीब पैटर्न पेंट करने के बजाय (जिसे आप आसानी से देख सकते हैं और पोंछ सकते हैं), वे लक्ष्य पर छोटे इन्फ्रारेड लाइट चिपका देते हैं। हमारी आँखों के लिए, कार सामान्य दिखती है। लेकिन कैमरे के लिए, जो इन्फ्रारेड देख सकता है, कार एक गुप्त, अराजक कोड फ्लैश कर रही है। शोधकर्ताओं ने पाया कि इन लाइटों को एक बहुत ही विशिष्ट, तीव्र लय में चालू और बंद करके, वे कंप्यूटर के मोशन डिटेक्टर को भ्रमित कर सकते हैं। यह बिल्कुल वैसा ही है जैसे आप एक धावक को ट्रैक करने की कोशिश कर रहे हों, लेकिन हर बार जब वह कदम उठाता है, तो कोई स्ट्रोब लाइट चमकाता है जिससे वह टेलीपोर्ट होता हुआ या स्थिर खड़ा हुआ प्रतीत होता है। कंप्यूटर चमक में अचानक आए बदलावों से इतना भ्रमित हो जाता है कि वह वस्तु को ट्रैक करना ही बंद कर देता है।
टीम ने केवल यह अनुमान नहीं लगाया कि यह काम करेगा; उन्होंने इसे साबित करने के लिए एक भौतिक परीक्षण ट्रैक बनाया। उन्होंने एक कैमरा, एक चलती हुई वस्तु (लाइट्स वाली एक प्लास्टिक प्लेट) और एक कंट्रोलर सेट किया। सबसे पहले, उन्होंने एक "जेनेटिक एल्गोरिदम" का उपयोग किया—इसे एक डिजिटल विकास सिम्युलेटर समझें—यह पता लगाने के लिए कि लाइट फ्लैश का सही पैटर्न क्या होगा। इस हिस्से में समय लगा, जैसे कि एक उत्तम रेसहॉर्स को पालना। एक बार जब उन्हें जीतने वाला पैटर्न मिल गया, तो उन्होंने एक तेज़, सरल न्यूरल नेटवर्क ("एडवर्सरियल जेनेरेटिव नेटवर्क") को उस पैटर्न की तुरंत नकल करने के लिए प्रशिक्षित किया। इसने उन्हें वास्तविक समय में, कैमरे के पलक झपकने से भी तेज़ गति से लाइटों को चालू और बंद करने की अनुमति दी।
परिणाम काफी प्रभावशाली थे। जब उन्होंने दो लोकप्रिय मोशन-ट्रैकिंग सिस्टम (RAFT और PWC-Net) के खिलाफ इसका परीक्षण किया, तो यह हमला अत्यधिक प्रभावी रहा। कंप्यूटर का "दृष्टिकोण" चलती हुई वस्तु के लिए एक खाली, अराजक मलबे में बदल गया। कई परीक्षणों में, सिस्टम ने वस्तु को चलते हुए देखना ही बंद कर दिया, या उसने गलत रास्ता देखा। शोधकर्ताओं ने दिखाया कि यह ट्रिक तब भी काम करती है जब वस्तु अलग-अलग गति से चलती है, जब कमरे की रोशनी कम से अधिक होती है, और यहाँ तक कि जब कैमरे को दूर ले जाया जाता है। उन्होंने पाया कि यह हमला तब सबसे प्रभावी होता है जब कमरा बहुत अधिक चमकदार नहीं होता है, क्योंकि तेज सूरज की रोशनी इन्फ्रारेड सिग्नल को दबा सकती है, लेकिन फिर भी यह विभिन्न स्थितियों में अपना प्रभाव बनाए रखता है।
महत्वपूर्ण रूप से, यह शोध पत्र उन पुराने तरीकों का खंडन करता है जो कारों पर चिपकाने वाले, दृश्य स्टिकर प्रिंट करने या डिजिटल सिमुलेशन का उपयोग करने की कोशिश करते थे जो वास्तविक दुनिया में काम नहीं करते हैं। लेखकों का सुझाव है कि वे तरीके अक्सर विफल हो जाते हैं क्योंकि वास्तविक कैमरे शोर (नॉइज़) पकड़ते हैं और प्रिंट किए गए पैटर्न मनुष्यों के लिए बहुत स्पष्ट होते हैं। उनका इन्फ्रारेड दृष्टिकोण, हालांकि, मानवीय आंखों से छिपा रहता है जबकि मशीन की दृष्टि में तबाही मचाता है। उन्होंने यह भी खोजा कि प्रकाश का "फ्लैश"—यानी एक फ्रेम से दूसरे फ्रेम के बीच चमक का अंतर—इस चाल का सबसे महत्वपूर्ण हिस्सा था। उस तीव्र परिवर्तन के बिना, कंप्यूटर अभी भी गति को समझ सकता था।
संक्षेप में, शोध पत्र सुझाव देता है कि मोशन ट्रैकिंग पर निर्भर सुरक्षा प्रणालियाँ उतनी नाजुक हो सकती हैं जितना कि हम सोचते हैं। एक साधारण, अदृश्य टॉर्च और थोड़े स्मार्ट टाइमिंग का उपयोग करके, यह संभव है कि किसी चलती हुई वस्तु को कंप्यूटर की दृष्टि से गायब कर दिया जाए। हालांकि इसका मतलब यह नहीं है कि कल ही सेल्फ-ड्राइविंग कारें दुर्घटनाग्रस्त होने वाली हैं, लेकिन यह यह जरूर संकेत देता है कि हमारे स्वचालित जगत की "आंखें" अदृश्य प्रकाश की एक छोटी सी किरण से भी अंधी हो सकती हैं, और हमें इस तरह के भौतिक छल के खिलाफ मजबूत सुरक्षा बनाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।