Indicators of resilience for autonomous control systems

आधुनिक समाज तेजी से उन मशीनों पर निर्भर होता जा रहा है जो अपने आप में सोचने में सक्षम हैं, जैसे कि स्वयं-चालित कारें (self-driving cars) से लेकर डिलीवरी ड्रोन तक। ये स्वायत्त प्रणालियाँ मानवीय हस्तक्षेप के बिना जटिल कार्यों को संभालने के लिए डिज़ाइन की गई हैं, लेकिन वे अचूक नहीं हैं। समय के साथ, इन मशीनों के भौतिक हिस्से घिस जाते हैं, या उन्हें मामूली क्षति पहुँचती है जो उन्हें तुरंत तोड़ तो नहीं देती, लेकिन उनकी स्थिरता बनाए रखने की क्षमता को सूक्ष्म रूप से कमजोर कर देती है। इंजीनियरों के लिए चुनौती यह जानना है कि कब कोई सिस्टम अभी भी सुरक्षित है और कब वह अचानक होने वाली विनाशकारी विफलता के कगार पर है। पारंपरिक सुरक्षा विधियाँ अक्सर इस बात पर निर्भर करती हैं कि एक मशीन को कैसे व्यवहार करना चाहिए इसके विस्तृत गणितीय मॉडल पर या भविष्यवाणियां करने के लिए भारी मात्रा में डेटा पर। हालाँकि, वास्तविक दुनिया की मशीनें अक्सर इतनी जटिल होती हैं कि उनका पूर्ण मॉडल बनाना कठिन होता है, और दुर्लभ विफलताओं की भविष्यवाणी करने के लिए आवश्यक डेटा अक्सर उपलब्ध नहीं होता है। यह हमारी उस क्षमता में एक अंतर छोड़ देता है जिससे हम क्रैश से पहले होने वाली स्थिरता की धीमी, बढ़ती हुई कमी का पता लगा सकें।

इस अंतर को पाटने के लिए, शोधकर्ताओं ने प्राकृतिक दुनिया से उधार ली गई एक अवधारणा की ओर रुख किया जिसे 'क्रिटिकल स्लोइंग डाउन' (critical slowing down) कहा जाता है। प्रकृति में, यह घटना तब होती है जब कोई प्रणाली, जैसे कि एक झील का पारिस्थितिकी तंत्र या जलवायु पैटर्न, किसी टिपिंग पॉइंट (tipping point) के करीब पहुँचने पर छोटे व्यवधानों से जल्दी उबरने की अपनी क्षमता खो देती है। किसी पतन से ठीक पहले, प्रणाली किसी झटके के बाद अपनी सामान्य स्थिति में लौटने में लंबा समय लेती है। शोधकर्ताओं ने, जो इस अध्ययन के पीछे थे, यह सवाल पूछा कि क्या इसी सिद्धांत को मशीनों पर लागू किया जा सकता है। उन्होंने प्रस्तावित किया कि जैसे-जैसे एक स्वायत्त रोबोट अपनी लचीलापन (resilience) खोता है, उसके नियंत्रण तंत्र छोटी त्रुटियों के प्रति अधिक सुस्त प्रतिक्रिया देने लगेंगे, ठीक वैसे ही जैसे एक थका हुआ एथलीट संतुलन बनाने के लिए संघर्ष करता है। लक्ष्य एक सरल, सार्वभौमिक तरीका बनाना था जिससे मशीन के व्यवहार को सुना जा सके और विफलता होने से पहले इन चेतावनी संकेतों को पहचाना जा सके, बिना मशीन के आंतरिक ब्लूप्रिंट को जाने या पिछले क्रैशों के इतिहास के।

डेल्फ़्ट यूनिवर्सिटी ऑफ टेक्नोलॉजी के शोधकर्ताओं के नेतृत्व में टीम ने मशीन के नियंत्रण प्रणाली द्वारा छोटे, यादृच्छिक उतार-चढ़ाव (random fluctuations) के प्रति दी जाने वाली प्रतिक्रिया को देखकर इन चेतावनी संकेतों का पता लगाने का एक तरीका विकसित किया। विशिष्ट दोषों की भविष्यवाणी करने के बजाय, उन्होंने एक एकल, मापने योग्य संकेत पर ध्यान केंद्रित किया: एक छोटे से व्यवधान के बाद मशीन खुद को ठीक करने में कितना समय लेती है। उन्होंने इस विचार का परीक्षण दो बहुत अलग प्रकार के रोबोटों का उपयोग करके किया। पहला एक कार्ट था जिसके ऊपर एक पोल (pole) संतुलित था, जो रोबोटिक्स में एक क्लासिक चुनौती है जहाँ पोल स्वाभाविक रूप से गिरने की प्रवृत्ति रखता है। दूसरा एक क्वाड्रोटर (quadrotor) था, एक छोटा उड़ने वाला ड्रोन जिसमें चार प्रोपेलर होते हैं। दोनों ही मामलों में, शोधकर्ताओं ने मशीनों के टूटने का इंतज़ार नहीं किया। इसके बजाय, उन्होंने नियंत्रित तरीके से प्रणालियों को व्यवस्थित रूप से कमजोर किया। कार्ट के लिए, उन्होंने पोल को संतुलित करना कठिन बना दिया (बढ़ा दी गई शक्ति के माध्यम से जो उसे झुकाने की कोशिश करती थी)। ड्रोन के लिए, उन्होंने एक मोटर की शक्ति को कम करके क्षति का अनुकरण किया, जो एक टूटे हुए प्रोपेलर ब्लेड के प्रभाव की नकल करता है।

कंप्यूटर सिमुलेशन में, शोधकर्ताओं ने रोबोटों को अस्थिरता के किनारे के करीब धकेलते हुए देखा। उन्होंने पाया कि रोबोट के वास्तव में क्रैश होने या गिरने से बहुत पहले, नियंत्रण संकेत एक अनुमानित तरीके से बदलने लगे। मशीनें छोटे डगमगाहट (wobbles) से उबरने में अधिक समय लेने लगीं, और उनके नियंत्रण संकेतों के पैटर्न अधिक दोहराव वाले और कम प्रतिक्रियाशील हो गए। यह "धीमा होना" (slowing down) एक स्पष्ट संकेतक था कि प्रणाली अपना लचीलापन खो रही है। शोधकर्ता इसे यह मापकर परिमाणित करने में सक्षम थे कि मशीन की वर्तमान प्रतिक्रिया पिछली प्रतिक्रिया से कितनी मिलती-जुलती थी; जैसे-जैसे मशीन विफलता के करीब पहुँचती गई, ये प्रतिक्रियाएं एक-दूसरे के समान होती गईं, जो संकेत देती थीं कि प्रणाली अनुकूलन करने के लिए संघर्ष कर रही है। यह तरीका तब भी काम कर गया जब मशीनें अपनी सबसे आरामदायक अवस्थाओं में काम कर रही थीं, जैसे कि एक ड्रोन जो बस एक जगह स्थिर (hovering) है, जिससे यह सुझाव मिलता है कि एक मशीन की भेद्यता (vability) को कठिन युद्धाभ्यास करने के दौरान भी पहचाना जा सकता है।

यह सुनिश्चित करने के लिए कि ये निष्कर्ष केवल एक कम्प्यूटेशनल आर्टिफैक्ट (computational artifact) नहीं हैं, टीम ने अपने सिद्धांत को वास्तविक दुनिया में उतारा। उन्होंने एक छोटा ड्रोन बनाया और वास्तविक, भौतिक क्षति पैदा करने के लिए उसके प्रोपेलर ब्लेड के टुकड़े काटे। फिर उन्होंने प्रयोगशाला में क्षतिग्रस्त ड्रोन को उड़ाया, उसे स्थिर रहने (hovering) और एक फिगर-एट (figure-eight) पथ का अनुसरण करने के लिए कहा। परिणाम सिमुलेशन के समान ही रहे। जैसे-जैसे प्रोपेलर की क्षति बढ़ी, ड्रोन के नियंत्रण संकेतों ने धीमा होने के वही संकेत दिखाए। जब क्षति मामूली थी, तो ड्रोन अभी भी उड़ सकता था, लेकिन चेतावनी संकेतक दर्शा रहे थे कि वह कम मार्जिन के साथ काम कर रहा है। जब क्षति गंभीर थी, तो ड्रोन ने नियंत्रण खो दिया, अक्सर अनियंत्रित होकर उड़ गया या क्रैश हो गया। महत्वपूर्ण रूप से, चेतावनी संकेत वास्तविक नियंत्रण खोने से बहुत पहले ही दिखाई दिए, जो एक स्पष्ट संकेत था कि सिस्टम अब सुरक्षित नहीं है, भले ही वह तकनीकी रूप से उड़ रहा था।

यह अध्ययन प्रदर्शित करता है कि यह दृष्टिकोण स्वायत्त प्रणालियों के लिए सुरक्षा की एक नई परत प्रदान करता है। यह मौजूदा सुरक्षा जाँचों या दोष पहचान प्रणालियों को प्रतिस्थापित नहीं करता है, बल्कि एक अतिरिक्त मॉनिटर के रूप में कार्य करता है जिसे लगभग किसी भी रोबोट पर लागू किया जा सकता है। केवल यह सुनकर कि एक मशीन वास्तविक दुनिया के छोटे, अपरिहार्य शोर (noise) के प्रति कैसे प्रतिक्रिया करती है, इंजीनियर विफलता से पहले लचीलेपन की कमी का पता लगा सकते हैं। इसका अर्थ यह है कि इससे पहले कि कोई ड्रोन क्रैश हो या कोई स्वयं-चालित कार रास्ता बदले, सिस्टम को सतर्क किया जा सकता है कि वह नाजुक हो रहा है। शोधकर्ता इस बात पर जोर देते हैं कि यह सभी दुर्घटनाओं को रोकने वाला कोई जादुई समाधान नहीं है, बल्कि एक व्यावहारिक उपकरण है जो एक मशीन के सूक्ष्म, अदृश्य क्षरण को एक दृश्य चेतावनी में बदल देता है, जिससे हमारे दैनिक जीवन में इन तकनीकों का सुरक्षित एकीकरण संभव हो सके।