⚡ electrical engineering

Output Feedback Backup Control Barrier Functions: Safety Guarantees Under Input Bounds and State Estimation Error

यह शोध पत्र आउटपुट फीडबैक बैकअप कंट्रोल बैरियर फंक्शन्स (O-bCBFs) का प्रस्ताव करता है, जो एक नवीन तकनीक है जो अनुमानित प्रवाह (estimated flow) के चारों ओर एक अनिश्चितता लिफाफे (uncertainty envelope) का लाभ उठाकर सीमित इनपुट और अपूर्ण अवस्था अनुमानों वाले सिस्टम के लिए सुरक्षा गारंटी सुनिश्चित करती है ताकि यह सुनिश्चित किया जा सके कि वास्तविक अवस्था सुरक्षित बाधाओं के भीतर बनी रहे।

मूल लेखक: David E. J. van Wijk, Tamas G. Molnar, Samuel Coogan, Manoranjan Majji, Aaron D. Ames, Joel W. Burdick

प्रकाशित 2026-04-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: David E. J. van Wijk, Tamas G. Molnar, Samuel Coogan, Manoranjan Majji, Aaron D. Ames, Joel W. Burdick

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सेल्फ-ड्राइविंग कार चला रहे हैं। आपका लक्ष्य अपने गंतव्य तक पहुँचना है बिना किसी चीज़ से टकराए (सुरक्षा/safety) और बिना बहुत ज़ोर से ब्रेक लगाए (इनपुट सीमाएं/input limits)।

समस्या क्या है? आप सड़क को पूरी तरह से नहीं देख सकते।

आपके सेंसर (कैमरे, रडार) शोर वाले (noisy) हैं। वे इस बात का अनुमान देते हैं कि कार कहाँ है, लेकिन उसमें हमेशा थोड़ी सी "धुंधलापन" या त्रुटि होती है। यदि आप केवल उस धुंधले अनुमान के आधार पर गाड़ी चलाते हैं, तो आप गलती से किसी पेड़ से टकरा सकते हैं।

यह शोध पत्र एक बहुत ही कठिन गणितीय समस्या को हल करता है: आप यह गारंटी कैसे दे सकते हैं कि एक रोबोट सुरक्षित रहे जब आपको उसकी सटीक स्थिति का पता न हो, और आप अपने नियंत्रणों (controls) को बहुत ज़ोर से नहीं दबा सकते?

यहाँ एक सरल उपमा (analogy) का उपयोग करके इसका स्पष्टीकरण दिया गया है।

समस्या: "धुंधला" मानचित्र (The "Fuzzy" Map)

अधिकांश सुरक्षा प्रणालियाँ मान लेती हैं कि रोबोट को ठीक-ठीक पता है कि वह कहाँ है। लेकिन वास्तविक दुनिया में, उसके पास केवल एक "सबसे अच्छा अनुमान" होता है।

जोखिम: यदि रोबमाट सोचता है कि वह लेन के बीच में है लेकिन वास्तव में वह किनारे के पास है, तो एक मानक सुरक्षा प्रणाली सोच सकती है कि बाएँ मुड़ना ठीक है, जिससे दुर्घटना हो सकती है।
प्रतिबंध: रोबोट की कुछ सीमाएँ भी हैं। वह पहिए को तुरंत 90 डिग्री नहीं घुमा सकता; उसे धीरे-धीरे घुमाना होगा।

समाधान: "बैकअप प्लान" और "सुरक्षा बुलबुला" (The "Backup Plan" and the "Safety Bubble")

लेखक एक दो-भाग वाली रणनीति प्रस्तावित करते हैं जिसे Output Feedback Backup Control Barrier Functions (O-bCBFs) कहा जाता है। आइए इसे एक उपमा से समझते हैं।

1. "बैकअप प्लान" (सुरक्षित क्षेत्र)

कल्पना कीजिए कि रोबोट के पास एक पूर्व-निर्धारित "पैनिक बटन" है। यदि चीजें गलत होती हैं, तो वह एक सरल, उबाऊ, अत्यंत-सुरक्षित ड्राइविंग मोड (जैसे धीमी गति से सीधा चलना) पर स्विच कर देता है जो यह गारंटी देता है कि वह सुरक्षित रहेगा।

गणितीय शब्दों में, यह Backup Controller है।
जिस क्षेत्र में यह पैनिक बटन काम करता है, वह Backup Set (मानचित्र पर एक छोटा, सुरक्षित घेरा) है।

2. "सुरक्षा बुलबुला" (अनिश्चितता लिफाफा/Uncertainty Envelope)

चूंकि रोबोट को अपनी सटीक स्थिति का पता नहीं है, इसलिए वह अपने "सबसे अच्छे अनुमान" के चारों ओर एक बुलबुला बनाता है।

केंद्र: रोबोट की अनुमानित स्थिति (पेपर के रेखाचित्रों में हरा बिंदु)।
बुलबुला: बिंदु के चारों ओर एक घेरा जो अधिकतम संभावित त्रुटि को दर्शाता है। वास्तविक कार इस बुलबुले के भीतर कहीं भी हो सकती है, लेकिन हमें सटीक रूप से पता नहीं है।

3. जादू का नुस्खा: "क्या होगा अगर?" (The "What If?")

रोबोट केवल यह नहीं देखता कि वह अभी कहाँ है। वह भविष्य का अनुकरण (simulate) करता है।

वह पूछता है: "यदि मैं अपने वर्तमान प्लान के साथ गाड़ी चलाता रहूँ, तो 5 सेकंड में मैं कहाँ होऊँगा?"
चुनौती: सेंसर की धुंधलापन के कारण, वह केवल एक भविष्य के पथ का अनुकरण नहीं करता। वह संभावित पथों के एक ट्यूब या बादल (cloud) का अनुकरण करता है।
रोबोट यह सुनिश्चित करता है कि संभावित भविष्य का पूरा बादल सुरक्षित क्षेत्र के भीतर रहे।

यदि संभावनाओं का पूरा बादल (सबसे खराब स्थिति की त्रुटि सहित) सुरक्षित रहता है, तो वास्तविक कार निश्चित रूप से सुरक्षित है, भले ही हमें उसकी सटीक स्थिति का पता न हो।

दो विधियाँ: "अनुमान लगाना" बनाम "सुधार करना"

शोध पत्र इस सुरक्षा बादल की गणना करने के दो तरीके प्रदान करता है:

विधि 1: "ओपन-लूप" अनुमान (सरल तरीका)

कल्पना कीजिए कि रोबोट भविष्य की भविष्यवाणी इस बात को कहकर करता है कि, "मैं वही करता रहूँगा जो मैं कर रहा हूँ, नए सेंसर डेटा को कुछ समय के लिए अनदेखा करते हुए।"
यह इस भविष्यवाणी के चारों ओर एक ट्यूब बनाता है।
लाभ: यह गणितीय रूप से सरल है और रैखिक प्रणालियों (जैसे सीधी सड़क पर चलती कार) के लिए बहुत अच्छा काम करता है।
हानि: यदि सिस्टम बहुत जटिल है (जैसे घूमता हुआ उपग्रह), तो "ट्यूब" बहुत चौड़ी हो सकती है, जिससे रोबोट अत्यधिक सतर्क हो जाता है (वह सुरक्षित रहने के लिए चलना बंद कर देता है)।

विधि 2: "क्लोज्ड-लूप" सुधार (स्मार्ट तरीका)

यहाँ, रोबोट यह स्वीकार करता है कि उसे नया सेंसर डेटा मिलेगा और वह अपने पथ को सुधारेगा।
वह एक ऐसे भविष्य का अनुकरण करता है जहाँ रोबोट लगातार अपनी त्रुटियों को ठीक कर रहा है।
लाभ: यह एक बहुत ही सटीक और बेहतर सुरक्षा ट्यूब बनाता है। यह रोबोट को सुरक्षित रहते हुए भी अधिक आक्रामक और कुशल होने की अनुमति देता है।
हानि: इसकी गणना करना कठिन है।

"व्यवहार्यता" की गारंटी (The "Feasibility" Guarantee)

इस शोध पत्र का सबसे महत्वपूर्ण हिस्सा एक वादा है: रोबोट कभी फँसेगा नहीं।

कई सुरक्षा प्रणालियों में, यदि रोबोट किसी दीवार के बहुत करीब पहुँच जाता है, तो गणित कह सकता है, "मैं गति सीमा को तोड़े बिना सुरक्षित रहने का कोई तरीका नहीं ढूँढ सकता।" रोबोट रुक जाता है।

यह शोध पत्र सिद्ध करता है कि क्योंकि उनके पास एक Backup Plan (पैनिक बटन) है, इसलिए हमेशा एक वैध कंट्रोल इनपुट होता है जो रोबोट को सुरक्षित रखता है, भले ही सेंसर त्रुटियां और गति सीमाएं हों।
यदि "स्मार्ट" सुरक्षा फ़िल्टर को हल करना बहुत जटिल हो जाता है, तो रोबोट बस "बैकअप प्लान" पर स्विच कर देता है, जो गारंटी के साथ काम करता है।

सरल अंग्रेजी में सारांश

यह शोध पत्र रोबोट को तब सुरक्षित रूप से चलाने का तरीका देता है जब वे आँखों पर पट्टी बँधे हों (शोर वाले सेंसर) और उनके हाथ कमजोर हों (सीमित नियंत्रण)।

वे अपने सबसे अच्छे अनुमान के चारों ओर एक बुलबुला बनाते हैं।
वे भविष्य का अनुकरण करते हैं ताकि यह सुनिश्चित हो सके कि उस बुलबुले के भीतर रोबोट का हर संभव संस्करण सुरक्षित रहे।
उनके पास एक पैनिक बटन (बैकअप कंट्रोलर) है जो गणितीय रूप से प्रमाणित है कि हमेशा काम करेगा, जिससे यह सुनिश्चित होता है कि रोबोट ऐसी स्थिति में न फँसे जहाँ उसके पास कोई सुरक्षित विकल्प न बचा हो।

यह एक सह-पायलट के साथ गाड़ी चलाने जैसा है जो कहता है, "मुझे लगता है कि हम यहाँ हैं, लेकिन हम 2 फीट बाईं ओर भी हो सकते हैं। चलिए इस तरह से चलते हैं कि भले ही हम 2 फीट बाईं ओर हों, फिर भी हम दीवार से न टकराएं। और यदि हम बहुत करीब पहुँच जाते हैं, तो हमारे पास एक पूर्व-नियोजित आपातकालीन मार्ग है जो हम जानते हैं कि पूरी तरह से काम करेगा।"

यहाँ शोध पत्र "Output Feedback Backup Control Barrier Functions: Safety Guarantees Under Input Bounds and State Estimation Error" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र दो प्रमुख बाधाओं के अधीन गैररेखीय नियंत्रण प्रणालियों (nonlinear control systems) के लिए सुरक्षा सुनिश्चित करने की महत्वपूर्ण चुनौती को संबोधित करता है:

इनपुट बाउंड्स (Input Bounds): नियंत्रण इनपुट $u$ एक सीमित सेट $U$ के भीतर बाधित हैं (जैसे, एक्चुएटर सैचुरेशन)।
स्टेट एस्टीमेशन एरर (State Estimation Error): वास्तविक अवस्था $x$ अज्ञात और अप्राप्य है। नियंत्रक को केवल एक अनुमानित अवस्था $\hat{x}$ पर निर्भर रहना होगा, जो शोर युक्त सेंसर मापन से प्राप्त होती है।

मुख्य कठिनाई:
मानक कंट्रोल बैरियर फंक्शन्स (CBFs) और बैकअप कंट्रोल बैरियर फंक्शन्स (bCBFs) आमतौर पर पूर्ण अवस्था ज्ञान (perfect state knowledge) की धारणा रखते हैं। जब केवल एक अनुमान $\hat{x}$ उपलब्ध होता है, तो:

"बैकअप फ्लो" (एक सुरक्षित बैकअप नियंत्रक के तहत सिस्टम का प्रक्षेपवक्र) को सटीक रूप से नहीं निकाला जा सकता क्योंकि प्रारंभिक स्थिति अनिश्चित होती है।
अनुमानित फ्लो (जो नियंत्रण के लिए उपयोग किया जाता है) और वास्तविक फ्लो (जो वास्तविक सुरक्षा निर्धारित करता है) के बीच एक युग्मन (coupling) होता है।
मौजूदा विधियाँ अक्सर यह गारंटी देने में विफल रहती हैं कि एक व्यवहार्य (feasible) नियंत्रण इनपुट मौजूद है जो वास्तविक अवस्था को सुरक्षित रखे, विशेष रूप से जब इनपुट बाधाएं मौजूद हों।

लक्ष्य एक ऐसा नियंत्रक संश्लेषित करना है जो यह गारंटी दे सके कि वास्तविक अवस्था $x(t)$ सभी समय के लिए एक सुरक्षित सेट $C_S$ के भीतर बनी रहे, केवल अनुमानित अवस्था $\hat{x}(t)$ का उपयोग करके और इनपुट बाउंड्स का सम्मान करते हुए।

2. कार्यप्रणाली (Methodology)

लेखक आउटपुट फीडबैक बैकअप कंट्रोल बैरियर फंक्शन्स (O-bCBFs) का प्रस्ताव करते हैं। यह कार्यप्रणाली अनुमानित फ्लो के चारों ओर एक "अनिश्चितता लिफाफे" (uncertainty envelope) को पेश करके मानक bCBF ढांचे का विस्तार करती है ताकि अवस्था अनुमान त्रुटियों को ध्यान में रखा जा सके।

मुख्य घटक:

सिस्टम मॉडल:
- वास्तविक गतिकी (True dynamics): $\dot{x} = f(x) + g(x)u$
- मापन (Measurement): $y = z(x) + v(t)$ (जहाँ $v(t)$ एक सीमित शोर है)।
- एस्टीमेटर (Estimator): $\dot{\hat{x}} = f(\hat{x}) + g(\hat{x})u + r(t, \hat{x}, y)$ , जहाँ $r$ एक सुधार पद (correction term) है (जैसे, कलमन फ़िल्टर या लुएनबर्गर ऑब्जर्वर से)।
- धारणा: एस्टीमेटर "एरर-बाउंडेड" है, जिसका अर्थ है $\|x(t) - \hat{x}(t)\| \leq \delta_x(t, \bar{e}_0)$ ।
बैकअप नियंत्रक और सेट:
- एक बैकअप सेट $C_B \subseteq C_S$ को परिभाषित किया गया है (उदाहरण के लिए, एक लयापुनोव फलन का लेवल सेट)।
- एक बैकअप नियंत्रक $k_b$ को इस तरह डिज़ाइन किया गया है कि यदि सिस्टम $C_B$ में प्रवेश करता है, तो वह सुरक्षित रहता है।
- मजबूती (Robustness): बैकअप नियंत्रक को वास्तविक अवस्था और अनुमानित अवस्था के बीच के अंतर से उत्पन्न "आभासी विक्षोभ" (virtual disturbance) ( $k_b(\hat{x}) - k_b(x)$ ) के प्रति मजबूत बनाया गया है।
फ्लो प्रोपेगेशन के लिए दो विधियाँ:
शोध पत्र पूरी तरह से अनुमानित अवस्था $\hat{x}$ पर आधारित एक सुरक्षित सेट $bC_I(t)$ बनाने के लिए दो अलग-अलग तकनीकों को प्रस्तुत करता है, ताकि यह सुनिश्चित हो सके कि यदि $\hat{x} \in bC_I(t)$ है, तो वास्तविक अवस्था $x$ सुरक्षित रहेगी।
- विधि 1: ओपन-लूप सुरक्षा (Open-Loop Safety)
  - एस्टीमेटर के सुधार पद (innovation) के बिना बैकअप नियंत्रक का उपयोग करके अनुमानित अवस्था को समय में आगे बढ़ाता है।
  - अनुमानित ओपन-लूप फ्लो के चारों ओर एक "ट्यूब" (tube) का निर्माण करता है।
  - टाइटनिंग (Tightening): वास्तविक ओपन-लूप फ्लो और अनुमानित ओपन-लूप फ्लो के बीच के सबसे खराब स्थिति वाले विचलन से प्राप्त मार्जिन $\epsilon$ को घटाकर सुरक्षित सेट को कड़ा (tighten) किया जाता है।
  - सीमा (Bound): $f$ और $g$ के लिप्सचिट्ज़ स्थिरांकों (Lipschitz constants) के आधार पर फ्लो विचलन को सीमित करने के लिए ग्रोनवॉल-बेलमैन असमानताओं (Grönwall-Bellman inequalities) का उपयोग करता है।
- विधि 2: क्लोज्ड-लूप सुरक्षा (Closed-Loop Safety)
  - वास्तविक क्लोज्ड-लूप सिस्टम बनाम अनुमानित ओपन-लूप सिस्टम के विकास पर विचार करता है।
  - एक ऐसी ट्यूब का निर्माण करता है जो वास्तविक क्लोज्ड-लूप फ्लो और अनुमानित ओपन-लूप फ्लो के बीच के अंतर को ध्यान में रखती है।
  - सीमा (Bound): गैररेखीय प्रणालियों के लिए उपयोगी होने के लिए, विशेष रूप से जहाँ मानक लिप्सचिट्ज़ स्थिरांक बड़े होते हैं, क्लोज्ड-लूप बैकअप गतिकी के वन-साइडेड लिप्सचिट्ज़ स्थिरांकों (कॉन्ट्रैक्शन मेट्रिक्स) का उपयोग करके टाइट बाउंड्स प्राप्त करता है।
नियंत्रक संश्लेषण (O-bCBF-QP):
एक क्वाड्रेटिक प्रोग्राम (QP) तैयार किया गया है ताकि एक नियंत्रण इनपुट $u$ खोजा जा सके जो:
- प्राथमिक (नाममात्र) नियंत्रक $k_p$ से विचलन को कम करता है।
- टाइटened बैरियर फंक्शन्स से प्राप्त सुरक्षा बाधाओं को पूरा करता है।
- व्यवहार्यता गारंटी (Feasibility Guarantee): लेखक सिद्ध करते हैं कि यदि अनुमानित अवस्था निर्मित सेट $bC_I(t)$ के भीतर है, तो $k_b(\hat{x})$ हमेशा QP के लिए एक व्यवहार्य समाधान होगा। इस प्रकार, QP कभी भी अप्राप्य (infeasible) नहीं होता है, जो पुनरावर्ती व्यवहार्यता (recursive feasibility) की गारंटी देता है।

3. मुख्य योगदान

आउटपुट फीडबैक के तहत औपचारिक सुरक्षा गारंटी: यह शोध पत्र पहले कठोर ढांचे (rigorous framework) को प्रदान करता है जो इनपुट बाधाओं और अवस्था अनुमान त्रुटियों के तहत इनपुट बाधाओं के साथ bCBF को गारंटी देता है, बिना पूर्ण अवस्था ज्ञान की धारणा के।
पुनरावर्ती व्यवहार्यता प्रमाण (Recursive Feasibility Proof): यह सिद्ध करता है कि इनपुट बाउंड्स और अवस्था अनिश्चितता के बावजूद एक व्यवहार्य नियंत्रण इनपुट हमेशा मौजूद होता है। यह अनुमानित अवस्था पर आधारित एक सुरक्षित सेट के निर्माण के माध्यम से प्राप्त किया जाता है जो वास्तविक अवस्था की सुरक्षा को दर्शाता है।
दो अलग-अलग फ्लो बाउंड्स:
- रैखिक प्रणालियों या कम इनपुट मैप लिप्सचिट्ज़ स्थिरांक वाले सिस्टम के लिए उपयुक्त ओपन-लूप फ्लो बाउंड्स का व्युत्पन्न।
- गैररेखीय प्रणालियों के लिए उपयुक्त, कॉन्ट्रैक्शन गुणों का लाभ उठाते हुए कम रूढ़िवाद (conservatism) के साथ क्लोज्ड-लूप फ्लो बाउंड्स का व्युत्पन्न।
टाइटनिंग तंत्र (Tightening Mechanism): सबसे खराब स्थिति वाले अनुमान त्रुटि प्रसार के आधार पर सुरक्षा बाधाओं को "टाइट" करने के लिए एक व्यवस्थित विधि ( $\epsilon_\tau$ और $\epsilon_b$ के माध्यम से) का परिचय, यह सुनिश्चित करता है कि अनुमान पर बाधा को संतुष्ट करना वास्तविक अवस्था पर बाधा को संतुष्ट करने के समान है।

4. परिणाम (संख्यात्मक सिमुलेशन)

लेखक दो केस स्टडीज के साथ दृष्टिकोण को मान्य करते हैं:

केस स्टडी 1: डबल इंटीग्रेटर (रैखिक प्रणाली)
- सेटअप: शोर युक्त स्थिति मापन और सीमित नियंत्रण इनपुट के साथ एक 2D सिस्टम।
- परिणाम: O-bCBF नियंत्रक ने वास्तविक अवस्था को सुरक्षित सेट के भीतर रखने में सफलतापूर्वक काम किया। जैसे-जैसे समय के साथ अनुमान त्रुटि कम हुई, अनिश्चितता लिफाफा (tightening terms) छोटा होता गया, जिससे सिस्टम कम रूढ़िवादी (less conservative) हो गया और नाममात्र नियंत्रक के करीब प्रदर्शन करने लगा।
- तुलना: मानक bCBF (जो अनुमान त्रुटि को अनदेखा करता है) विफल रहा, जबकि प्रस्तावित विधि सफल रही।
केस स्टडी 2: स्पेसक्राफ्ट रोटेशन (गैररेखीय प्रणाली)
- सेटअप: यूलर रोटेशन समीकरणों, शोर युक्त गायरोस्कोप मापन और टॉर्क बाधाओं के साथ एक रिजिड-बॉडी स्पेसक्राफ्ट। प्राथमिक नियंत्रक को जानबूझकर सुरक्षा का उल्लंघन करने के लिए डिज़ाइन किया गया था।
- परिणाम: O-bCBF नियंत्रक ने वास्तविक कोणीय वेग को सुरक्षा सीमा से अधिक होने से रोका।
- तुलना: "वैनिला" बैकअप CBF दृष्टिकोण (जो $x$ के रूप में $\hat{x}$ का उपयोग करता है) विफल रहा, जिससे वास्तविक अवस्था सुरक्षित सेट से बाहर निकल गई। प्रस्तावित O-bCBF विधि ने अनुमान त्रुटि लिफाफे को ध्यान में रखकर सुरक्षा बनाए रखी।

5. महत्व

यह कार्य वास्तविक दुनिया के स्वायत्त प्रणालियों में व्यावहारिक कार्यान्वयन और सैद्धांतिक सुरक्षा गारंटी के बीच के एक महत्वपूर्ण अंतर को पाटता है।

यथार्थवाद: अधिकांश वास्तविक दुनिया के सिस्टम (रोबोट, ड्रोन, अंतरिक्ष यान) शोर युक्त सेंसर और स्टेट एस्टीमेटर्स पर निर्भर करते हैं। पिछले सुरक्षा-महत्वपूर्ण नियंत्रण विधियों ने अक्सर पूर्ण अवस्था ज्ञान की धारणा ली थी, जिससे वे सैद्धांतिक रूप से सही लेकिन व्यावहारिक रूप से असुरक्षित हो गए थे।
इनपुट बाधाएं: इनपुट बाउंड्स को सीधे सुरक्षा गारंटी में एकीकृत करके, यह विधि भौतिक एक्चुएटर सीमाओं वाले भौतिक सिस्टम के लिए लागू करने योग्य बनाती है।
मजबूती (Robustness): यह दृष्टिकोण अत्यधिक रूढ़िवादी (conservative) धारणाओं में जाने के बजाय अनिश्चितता को संभालने का एक रचनात्मक तरीका प्रदान करता है जो सिस्टम को अनियंत्रित बना सकती है।
स्केलेबिलिटी: QPs का उपयोग और आवश्यक बाउंड्स को ऑनलाइन गणना करने की क्षमता इस दृष्टिकोण को वास्तविक समय के कार्यान्वयन के लिए उपयुक्त बनाती है।

संक्षेप में, यह शोध पत्र आउटपुट फीडबैक सुरक्षा के लिए एक कठोर गणितीय आधार स्थापित करता है, यह सुनिश्चित करता है कि स्वायत्त प्रणालियाँ सुरक्षित रूप से संचालित हो सकें, भले ही वे अपनी अवस्था को पूरी तरह से "देख" न सकें और भौतिक एक्चुएटर्स द्वारा सीमित हों।