Seeing is Not Believing: Breaking the Physical-to-Digital Trust Boundary in Robotics

रोबोट अब केवल कारखाने के किसी कोने में एक निश्चित स्क्रिप्ट का पालन करने वाली अलग-थलग मशीनें नहीं रह गए हैं; वे सहयोगी साझेदार बनते जा रहे हैं जो गोदामों और अंतरिक्ष अन्वेषण स्थलों जैसे जटिल वातावरण में मनुष्यों और एक-दूसरे के साथ मिलकर काम करते हैं। इस टीम वर्क को कार्य करने के लिए, एक रोबोट या एक मानव पर्यवेक्षक को यह विश्वास होना चाहिए कि दूसरा रोबोट वास्तव में वही कर रहा है जो वह दावा कर रहा है। चूंकि एक इंसान के लिए हर रोबोट की हर हरकत पर नज़र रखना असंभव है, इसलिए ये सिस्टम डिजिटल रिपोर्टों—टेलीमेट्री—पर भरोसा करते हैं जो रोबोट की क्रियाओं की कहानी बताते हैं, जैसे कि उसका हाथ किस ओर इशारा कर रहा है या उसका कैमरा क्या देख रहा है। यह एक महत्वपूर्ण विश्वास रेखा बनाता है: डिजिटल रिपोर्ट को भौतिक वास्तविकता का एक सच्चा दर्पण होना चाहिए। यदि रिपोर्ट कहती है कि रोबza ने एक पैकेज उठाया है, तो सत्यापनकर्ता मान लेता है कि पैकेज वास्तव में रोबोट की पकड़ में है। शोधकर्ता अब जो सवाल पूछ रहे हैं वह यह है कि क्या उस डिजिटल दर्पण को तोड़ा जा सकता है, जिससे एक रोबोट एक चीज़ करने का दिखावा करते हुए गुप्त रूप से कुछ पूरी तरह से अलग कर सके।

शोधकर्ताओं की एक टीम ने पाया है कि यह विश्वास की सीमा पहले की तुलना में कहीं अधिक नाजुक है। उन्होंने एक रोबोट को खतरनाक या अनधिकृत कार्य करने के लिए trick करने का तरीका खोज निकाला है, जबकि साथ ही साथ उन लोगों या सिस्टमों को, जो उसे देख रहे हैं, उन्हें एकदम सटीक और नकली रिपोर्ट भेजता रहे। यह हमला रोबोट्स के आपस में बात करने वाले सॉफ़्टवेयर को लक्षित करता है, विशेष रूप से ROS 2 नामक एक सिस्टम को, जो आधुनिक रोबोटिक्स की मानक भाषा है। शोधकर्ताओं ने दिखाया कि हमलावर को रोबोट के मुख्य ऑपरेटिंग सिस्टम में घुसने या गुप्त पासवर्ड चुराने की आवश्यकता नहीं है। इसके बजाय, वे बस कंप्यूटर के वातावरण में एक सेटिंग बदलकर एक छिपा हुआ टूल डाल सकते हैं जो संदेशों को बाहर भेजे जाने से पहले ही बीच में रोक लेता है। यह टूल एक शांत संपादक की तरह कार्य करता है, जो रोबोट के सेंसरों से आने वाले वास्तविक डेटा को पूरी तरह से निर्मित संस्करण के साथ बदल देता है जो बिल्कुल असली जैसा दिखता है।

इसका प्रदर्शन करने के लिए, टीम ने एक भौतिक रोबलेटिक आर्म स्थापित की और एक कार्य चलाया जहाँ उसे एक वस्तु उठाने और उसे कहीं रखने के लिए कहा गया था। वास्तविक दुनिया में, हमलावर ने रोबोट को हाईजैक कर लिया, जिससे वह एक अलग दिशा में जाने या एक अलग क्रिया करने के लिए मजबूर हुआ। हालाँकि, निगरानी प्रणाली, जो डिजिटल रिपोर्टों पर निर्भर करती है, ने कुछ भी असामान्य नहीं देखा। हमलावर के सॉफ़्टवेयर ने डेटा का एक नकली प्रवाह उत्पन्न किया जो बिल्कुल वैसा ही था जैसा कि रोबोट को करना चाहिए था। निगरानी प्रणाली को एक वीडियो फीड और जोड़ों (joints) की स्थिति की एक सूची मिली जो पूरी तरह से सामान्य लग रही थी, जिससे पुष्टि हुई कि कार्य सफलतापूर्वक पूरा हो गया, भले ही भौतिक रोबोट कुछ और ही कर रहा था। शोधकर्ताओं ने इसे सॉफ़्टवेयर के एक सुरक्षित संस्करण पर चल रहे एक वास्तविक फ्रैंका एमिका (Franka Emika) रोबोटिक आर्म पर परखा, जिसे हैकिंग रोकने के लिए डिज़ाइन किया गया है। हमला हर बार सफल रहा, जिसने सिस्टम को धोखा दिया जबकि रोबोट अनधिकृत क्रियाएं कर रहा था।

इस हमले की सफलता इस तथ्य पर टिकी है कि मौजूदा सुरक्षा उपाय केवल नेटवर्क पर संदेशों के यात्रा करने के दौरान उनकी रक्षा करते हैं, न कि उस क्षण की जब वे बनाए जाते हैं। शोधकर्ताओं ने पाया कि अपने छिपे हुए टूल को सॉफ़्टवेयर में डालने से पहले, इससे पहले कि संदेश को ट्रांसमिशन के लिए पैक किया जाए, वे कहानी को फिर से लिख सकते थे। उनके द्वारा जनरेट किया गया नकली डेटा इतना विश्वसनीय था कि उसने हर उस परीक्षण को पास कर लिया जो शोधकर्ताओं ने उस पर लगाए। उन्होंने असंभव गति को देखकर, यह जाँचकर कि क्या गति गणितीय रूप से सही है, और उन सूक्ष्म, प्राकृतिक कंपनों का विश्लेषण करके—जो वास्तविक मशीनों में हमेशा होते हैं—धोखाधड़ी का पता लगाने की कोशिश की। नकली डेटा में ये सूक्ष्म, यथार्थवादी कंपन और रोबोट की विभिन्न गतिविधियों के बीच सही गणितीय संबंध भी शामिल थे। वास्तव में, नकली डेटा वास्तविक चीज़ के इतने करीब था कि दो अलग-अलग वास्तविक रोबोटों द्वारा एक ही कार्य करने पर दिखने वाले स्वाभाविक बदलावों से इसे अलग करना असंभव था।

इस हमले का एक सबसे चौंकाने वाला पहलू यह है कि इसे कितनी आसानी से फैलाया जा सकता है। शोधकर्ताओं ने पाया कि रोबोटों के लिए सॉफ़्टवेयर इकोसिस्टम काफी हद तक प्री-मेड कंटेनरों पर निर्भर करता है, जो डिजिटल बक्सों की तरह होते हैं जिनमें रोबोट को चलाने के लिए आवश्यक सभी उपकरण होते हैं। उन्होंने हजारों ऐसे कंटेनरों का विश्लेषण किया और पाया कि बड़ी संख्या में कंटेनर अपरीक्षित व्यक्तियों द्वारा बनाए जाते हैं। एक हमलावर बस एक लोकप्रिय, मददगार दिखने वाला टूल जारी कर सकता है जिसमें यह छिपा हुआ हाईजैकिंग कोड हो। जब एक रोबोट डेवलपर इस टूल को डाउनलोड और उपयोग करता है, तो मैलिशियस कोड स्वचालित रूप से इंस्टॉल हो जाता है, जिससे हमलावर को बिना डेवलपर को पता चले एक पैठ मिल जाती है। इसका मतलब है कि यह भेद्यता केवल एक सैद्धांतिक जोखिम नहीं बल्कि एक व्यावहारिक जोखिम है जिसे उन उपकरणों के माध्यम से व्यापक रूप से वितरित किया जा सकता है जिन पर डेवलपर्स अपने सिस्टम बनाने के लिए भरोसा करते हैं।

शोधकर्ताओं ने यह भी परीक्षण किया कि क्या यह धोखा विसंगतियों (anomalies) को पहचानने के लिए डिज़ाइन किए गए आर्टिफिशियल इंटेलिजेंस डिटेक्टर्स को भी मूर्ख बना सकता है। वास्तविक हार्डवेयर के सूक्ष्म पैटर्न को पहचानने के लिए प्रशिक्षित एक डिटेक्टर के विरुद्ध भी, हमला 87 प्रतिशत बार सफल रहा। एकमात्र कारण जिससे डिटेक्टर शेष 13 प्रतिशत मामलों में पकड़ पाया, वह यह था कि वास्तविक रोबोट की गतिविधियों की बारीक टाइमिंग को पूरी तरह से दोहराना अविश्वसनीय रूप से कठिन है, लेकिन अधिकांश समय, नकली डेटा को वास्तविक मान लिया गया। यह वर्तमान रोबोटिक सुरक्षा की एक मौलिक सीमा को प्रकट करता: डेटा के ट्रांसमिशन को सुरक्षित करना यह गारंटी नहीं देता कि डेटा भौतिक दुनिया की सच्चाई को दर्शाता है। शोधकर्ताओं ने अपने निष्कर्षों को रोबोट सॉफ़्टवेयर के डेवलपर्स के साथ साझा किया है, यह रेखांकित करते हुए कि समाधान विश्वास स्थापित करने के तरीके में बदलाव करने की आवश्यकता है, जो सत्यापन के बिंदु को भौतिक सेंसरों की ओर वापस ले जाता है, न कि उस सॉफ़्टवेयर पर निर्भर रहता है जो उनकी स्थिति की रिपोर्ट करता है।

यह कार्य यह सुझाव नहीं देता है कि रोबोट स्वाभाविक रूप से असुरक्षित हैं या वे जल्द ही हैकर्स द्वारा कब्ज़े में ले लिए जाएंगे, लेकिन यह इस बात को उजागर करता है कि हम उनके कार्यों को कैसे सत्यापित करते हैं उसमें एक अंधा धब्बा (blind spot) है। यह हमला एक 'प्रूफ ऑफ कॉन्सेप्ट' है जो दिखाता है कि रोबोट के व्यवहार के डिजिटल रिकॉर्ड को आश्चर्यजनक आसानी से उसकी भौतिक वास्तविकता से अलग किया जा सकता है। यह इस धारणा को चुनौती देता है कि एक सुरक्षित संचार चैनल यह सुनिश्चित करने के लिए पर्याप्त है कि रोबोट वही कर रहा है जो वह कह रहा है। शोधकर्ताओं का कार्य एक चेतावनी के रूप में कार्य करता है कि जैसे-जैसे रोबोट अधिक स्वायत्त और परस्पर जुड़े हुए होते जा रहे हैं, हमें उन तरीकों को विकसित करने की आवश्यकता है जिनसे हम उन पर भरोसा करते हैं, ताकि इस संभावना को ध्यान में रखा जा सके कि जो साक्ष्य हम देख रहे हैं वह एक सावधानीपूर्वक बनाया गया भ्रम हो सकता है। आगे का रास्ता डेटा के स्रोत पर ही विश्वास को स्थापित करने की ओर जाता है, यह सुनिश्चित करते हुए कि भौतिक माप स्वयं हस्ताक्षरित और सुरक्षित हो, इससे पहले कि वह उस सॉफ़्टवेयर सिस्टम में प्रवेश करे जो समझौता किया जा सकता है।