⚡ electrical engineering

Robust Verification of Controllers under State Uncertainty via Hamilton-Jacobi Reachability Analysis

यह शोध पत्र RoVer-CoRe को प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो सिस्टम घटकों को हैमिल्टन-जैकबी (Hamilton-Jacobi) पहुंच विश्लेषण के अनुकूल एक समतुल्य क्लोज्ड-लूप मॉडल में जोड़कर, अवस्था अनिश्चितता (state uncertainty) के तहत धारणा-आधारित नियंत्रकों (perception-based controllers) के सुदृढ़ औपचारिक सत्यापन और डिजाइन को सक्षम बनाता है।

मूल लेखक: Albert Lin, Alessandro Pinto, Somil Bansal

प्रकाशित 2026-04-16

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Albert Lin, Alessandro Pinto, Somil Bansal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट कुत्ते को एक भीड़भाड़ वाले पार्क में चलना सिखा रहे हैं। आप 100% सुनिश्चित करना चाहते हैं कि वह किसी बेंच से टकराकर गिरे नहीं या किसी व्यक्ति से न टकरा जाए, भले ही उसकी आँखें (कैमरे) धुंधली हों, उसका दिमाग (AI) गलती कर दे, या हवा (विक्षोभ/disturbance) उसे रास्ते से भटका दे।

यह वही समस्या है जिसे "RoVer-CoRe" नामक शोध पत्र (paper) हल करने की कोशिश करता है। यह गणितीय रूप से यह सिद्ध करने का एक नया तरीका पेश करता है कि रोबोट सुरक्षित हैं, भले ही वे पूरी तरह से देख न पा रहे हों।

यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. समस्या: "धुंधले चश्मे" वाला रोबोट

अधिकांश आधुनिक रोबोट दुनिया को "देखने" के लिए AI का उपयोग करते हैं। लेकिन AI पूर्ण नहीं है।

समस्या: यदि रोबट का कैमरा धुंधला है या AI किसी छवि का गलत अर्थ निकाल लेता है, तो रोबोट यह सोच सकता है कि दीवार दूर है जबकि वह वास्तव में बिल्कुल सामने है।
पुराना तरीका: पिछले सुरक्षा जाँच तरीके रोबोट के चारों ओर एक विशाल, धुंधले बादल जैसा चित्र बनाने की तरह थे। वे मानते थे कि रोबोट उस बादल के भीतर कहीं भी हो सकता है। क्योंकि बादल बहुत बड़ा था, इसलिए सुरक्षा जाँच अक्सर कहती थी, "मैं गारंटी नहीं दे सकता कि आप सुरक्षित हैं," भले ही रोबोट वास्तव में ठीक हो। यह बहुत अधिक निराशावादी (conservative) था।

2. समाधान: "परफेक्ट मैप" वाली ट्रिक

लेखकों ने RoVer-CoRe नामक एक ढांचा (framework) बनाया है। इसे एक सुपर-स्मार्ट सिम्युलेटर के रूप में समझें जो केवल अनुमान नहीं लगाता; बल्कि गणितीय सटीकता के साथ सबसे खराब स्थिति (worst-case scenario) की गणना करता है।

उन्होंने इसे करने के लिए रोबोट के मस्तिष्क के तीन हिस्सों को एक एकल "सुपर-सिस्टम" में जोड़ा:

आँखें: जो रोबोट देखता है (जो कि शोरयुक्त/noisy हो सकता है)।
दिमाग: वह AI जो उन आँखों के आधार पर यह समझने की कोशिश करता है कि वह कहाँ है।
पैर: वह कंट्रोलर जो रोबोट को बताता है कि कैसे हिलना है।

इन तीनों हिस्सों को एक साथ जोड़ने के बजाय, उन्होंने इन्हें एक ही सिस्टम मान लिया। अब, गणित इस "धुंधली दृष्टि" को एक अलग, भ्रमित करने वाली समस्या के रूप में देखने के बजाय, एक अन्य प्रकार के "हवा के झोंके" या "धक्के" के रूप में देखता है जिसका सामना रोबोट को करना होगा।

3. मुख्य इंजन: हैमिल्टन-जैकबी (Hamilton-Jacobi - HJ) रीचेबिलिटी

यह तकनीकी गणित वाला हिस्सा है, लेकिन इसे एक "रिवर्स फ्लड सिमुलेशन" (उल्टी बाढ़ का सिमुलेशन) की तरह समझें।

एक बाढ़ की कल्पना करें: आप जानते हैं कि "खतरे का क्षेत्र" (जैसे चट्टान या दीवार) कहाँ है।
सिमुलेशन: यह पूछने के बजाय कि, "यदि रोबोट यहाँ से शुरू करता है तो वह कहाँ जाएगा?", गणित पूछता है, "यदि रोबोट खतरे के क्षेत्र में पहुँच जाता है, तो वह कहाँ से शुरू हो सकता था?"
परिणाम: यह उन सभी शुरुआती बिंदुओं के चारों ओर एक सटीक, तंग बुलबुला (bubble) बनाता है जो एक दुर्घटना का कारण बन सकते हैं, भले ही रोबोट की दृष्टि बहुत खराब हो और हवा तेज़ चल रही हो।
- यदि आपका रोबोट इस बुलबुले के बाहर शुरू होता है, तो आपके पास एक गणितीय गारंटी है: वह कभी दुर्घटनाग्रस्त नहीं होगा।
- यदि वह अंदर शुरू होता है, तो दुर्घटना हो सकती है।

4. "ब्लैक बॉक्स" (न्यूरल नेटवर्क) को संभालना

सबसे कठिन हिस्सा यह है कि कई रोबोट मस्तिष्क "ब्लैक बॉक्स" (न्यूरल नेटवर्क) होते हैं। हम ठीक से नहीं जानते कि वे कैसे सोचते हैं; हम बस उनके आउटपुट को जानते हैं।

चुनौती: यदि आपको यह नहीं पता कि एक धुंधली छवि के प्रति रोबोट कैसे प्रतिक्रिया देगा, तो आप "रिवर्स फ्लड" की आसानी से गणना नहीं कर सकते।
समाधान: शोध पत्र इस स्थिति को संभालने के दो तरीके प्रदान करता है:
1. सटीक गणना (Exact Calculation): यदि रोबोट का दिमाग सरल है (जैसे एक बुनियादी नियम पुस्तिका), तो वे सटीक सबसे खराब स्थिति वाले पथ की गणना करते हैं।
2. "सेफ्टी नेट" (Bounding): यदि दिमाग एक जटिल AI है, तो वे एक ऐसा "बॉक्स" बनाते हैं जिसमें AI द्वारा लिए जाने वाले सभी संभावित निर्णय समाहित होने की गारंटी होती है। फिर वे इस बॉक्स का उपयोग करके फ्लड सिमुलेशन चलाते हैं। यह थोड़ा अधिक सतर्क (conservative) है, लेकिन यह गणितीय रूप से सुरक्षित है।

5. वास्तविक दुनिया के उदाहरण

लेखकों ने दो परिदृश्यों पर इसका परीक्षण किया:

हवाई जहाज का टैक्सीइंग (Airplane Taxiing): एक हवाई जहाज जो केवल कैमरे का उपयोग करके रनवे पर रहने की कोशिश कर रहा है।
- परिणाम: उन्होंने सिद्ध किया कि कैमरा कितना धुंधला होने तक सुरक्षित है। उन्होंने यह भी पाया कि विमान के "स्टीयरिंग नियमों" में थोड़ा बदलाव करके, वे बहुत धुंधली दृष्टि के बावजूद भी इसे सुरक्षित बना सकते हैं।
मून रोवर (Moon Rover): रात में चाँद पर गाड़ी चलाने वाला एक रोबोट।
- समस्या: अंधेरे में, रोबोट की दृष्टि तब खराब हो जाती है जब वह हेडलाइट्स के बिना अधिक समय तक चलता है। हेडलाइट्स चालू करने से बैटरी अधिक खर्च होती है।
- समाधान: RoVer-CoRe ने गणना की कि रोबोट की दृष्टि कब इतनी धुंधली हो जाएगी कि वह असुरक्षित हो जाए। इसने एक नीति बनाई: "अंधेरे में तब तक चलें जब तक कि आप इस विशिष्ट सुरक्षा रेखा तक न पहुँच जाएँ, फिर लाइट जला लें।" इसने ऊर्जा बचाते हुए भी यह गारंटी दी कि रोवर दुर्घटनाग्रस्त नहीं होगा।

सारांश

RoVer-CoRe रोबोट के लिए एक अत्यंत सटीक मौसम पूर्वानुमान की तरह है। यह यह कहने के बजाय कि, "शायद बारिश हो सकती है, इसलिए घर के अंदर रहें," यह कहता है, "यदि आप इस विशिष्ट स्थान से शुरू करते हैं, तो भले ही मूसलाधार बारिश हो और तेज़ हवा चले, आप सूखे रहेंगे।"

यह इंजीनियरों को सक्षम बनाता है:

सिद्ध करना कि उनके रोबोट खराब सेंसर के बावजूद सुरक्षित हैं।
पता लगाना कि रोबोट क्यों दुर्घटनाग्रस्त हो सकता है (डायग्नोस्टिक्स)।
बेहतर रोबोट डिजाइन करना जिन्हें पता होता है कि कब सावधान रहना है और कब निश्चिंत होना है।

यहाँ शोध पत्र "Robust Verification of Controllers under State Uncertainty via Hamilton-Jacobi Reachability Analysis" (RoVer-CoRe) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र उन स्वायत्त प्रणालियों (autonomous systems) की सुरक्षा को औपचारिक रूप से सत्यापित (formally verifying) करने की महत्वपूर्ण चुनौती को संबोधित करता है जो धारणा-आधारित नियंत्रकों (perception-based controllers) (जैसे कि न्यूरल नेटवर्क या स्टेट एस्टिमेटर्स का उपयोग करने वाले) पर निर्भर हैं, विशेष रूप से धारणा संबंधी अनिश्चितता (perceptual uncertainty) की उपस्थिति में।

संदर्भ: जैसे-जैसे स्वायत्त प्रणालियाँ (रोवर्स, विमान) सेंसर और लर्निंग-आधारित मॉड्यूल का अधिक उपयोग कर रही हैं, उनके स्टेट एस्टिमेट्स ( $\hat{x}$ ) सेंसर शोर, लर्निंग त्रुटियों या पर्यावरणीय कारकों (जैसे GPS अवरोध) के कारण शोरयुक्त (noisy) होते जा रहे हैं।
अंतराल (The Gap): मौजूदा सत्यापन विधियाँ अक्सर इस जटिलता के साथ संघर्ष करती हैं।
- अनुमानित पहुँच योग्यता विधियाँ (Approximate Reachability Methods): NNV जैसे उपकरण सेट प्रोपेगेशन (ज़ोनोटोप्स, पॉलीटोप्स) का उपयोग करते हैं, लेकिन वे अक्सर अत्यधिक रूढ़िवादी (overly conservative) विश्लेषण प्रदान करते हैं जो सुरक्षा प्रमाणित करने में विफल रहते हैं, या वे विशिष्ट सिस्टम वर्गों तक ही सीमित होते हैं।
- प्रमाणपत्र-आधारित विधियाँ (Certificate-Based Methods): कंट्रोल बैरियर फंक्शन्स (CBFs) अनिश्चितता के तहत सामान्य नॉन-लीनियर सिस्टम के लिए ग्लोबल व्यवहार्यता (global feasibility) और बैरियर्स के निर्माण में चुनौतियों का सामना करते हैं।
- हैमिल्टन-जैकबी (HJ) की सीमाएँ: पारंपरिक HJ पहुँच योग्यता यह मानती है कि नियंत्रक के पास वास्तविक स्टेट तक पहुँच है। जब नियंत्रक एक शोरयुक्त अनुमान $\hat{x}$ पर कार्य करता है, तो इसे सीधे लागू नहीं किया जा सकता।

लक्ष्य: ऐसे सिस्टम के लिए औपचारिक सुरक्षा गारंटी (Backward Reachable Tubes) की गणना करना जहाँ नियंत्रक $u = \pi(\hat{x})$ , सबसे खराब स्थिति वाले धारणा संबंधी त्रुटि $e$ और बाहरी विक्षोभ (external disturbances) $d$ के तहत कार्य करता है।

2. कार्यप्रणाली: RoVer-CoRe फ्रेमवर्क

लेखक RoVer-CoRe (Robust Verification of Controllers via Reachability) प्रस्तावित करते हैं, जो धारणा-आधारित सिस्टम को संभालने के लिए HJ पहुँच योग्यता को अनुकूलित करता है।

A. क्लोज्ड-लूप सिस्टम एब्स्ट्रैक्शन (Closed-Loop System Abstraction)

मुख्य अंतर्दृष्टि यह है कि नियंत्रक (controller), अवलोकन मानचित्र (observation map), और स्टेट एस्टिमेटर (state estimator) को एक एकल, संयोजित क्लोज्ड-लूप सिस्टम के रूप में माना जाए।

सिस्टम डायनेमिक्स: $\dot{x} = f(x, u, d)$
अवलोकन (Observation): $o = p(x)$
एस्टिमेशन (Estimation): $\hat{x} = q(o, e)$ (जहाँ $e$ धारणा संबंधी त्रुटि है)
नियंत्रण (Control): $u = \pi(\hat{x})$
एब्स्ट्रैक्शन: लेखक एक समतुल्य डायनेमिक्स फंक्शन $h(x, d, e) = f(x, \pi(q(p(x), e)), d)$ को परिभाषित करते हैं।
मुख्य परिवर्तन: इस एब्स्ट्रैक्शन में, एकमात्र बाहरी इनपुट विक्षोभ $d$ और धारणा संबंधी त्रुटि $e$ हैं। यह सिस्टम को एक मानक HJ पहुँच योग्यता समस्या के रूप में मानने की अनुमति देता है जहाँ $d$ और $e$ प्रतिकूल (adversarial) इनपुट हैं।

B. हैमिल्टोनियन चुनौती (The Hamiltonian Challenge)

मुख्य तकनीकी बाधा क्लोज्ड-लूप हैमिल्टोनियन की गणना करना है:
$H(x, t, \nabla V) = \min_{d \in D, e \in E} \nabla V(x, t) \cdot h(x, d, e)$
चूँकि नियंत्रक $\pi$ और एस्टिमेटर $q$ अक्सर नॉन-कॉन्वेक्स (जैसे न्यूरल नेटवर्क) होते हैं, इसलिए इस अनुकूलन (optimization) को सटीक रूप से हल करना कठिन है। शोध पत्र दो दृष्टिकोण प्रस्तावित करता है:

सटीक गणना (Exact Computation): यदि नियंत्रक सरल है (जैसे रैखिक फीडबैक या ग्रिड-आधारित), तो हैमिल्टोनियन को सटीक रूप से हल किया जा सकता है। यह गैर-रूढ़िवादी (non-conservative) परिणाम देता है और ठोस 'वर्स्ट-केस काउंटर-एग्जांपल' प्रदान करता है।
लोअर बाउंडिंग (Lower Bounding - रूढ़िवादी लेकिन साउंड): जटिल नियंत्रकों (जैसे NN) के लिए, लेखक नियंत्रक आउटपुट को बाउंड करने का प्रस्ताव करते हैं।
- मान लें कि स्टेट एस्टिमेट त्रुटि सीमित है: $\hat{x} = x + e$ , जहाँ $e \in \mathcal{E}$ ।
- कंट्रोल आउटपुट $u$ पर सीमाएँ ज्ञात करें: $\underline{U}(x) \leq \pi(\hat{x}) \leq \bar{U}(x)$ ।
- न्यूरल नेटवर्क्स के लिए, ये सीमाएँ $\alpha,\beta$ -CROWN जैसे सत्यापन उपकरणों का उपयोग करके कंप्यूट की जाती हैं।
- इसके बाद हैमिल्टोनियन को विशिष्ट फंक्शन के बजाय संभावित नियंत्रणों के सेट $\mathcal{U}(x)$ पर मिनिमाइज करके लोअर-बाउंड किया जाता है। यह एक रूढ़िवादी (सुरक्षित) लेकिन साउंड सत्यापन का परिणाम देता है।

C. रोबस्ट कंट्रोलर डिज़ाइन (Robust Controller Design)

सत्यापन के अलावा, यह फ्रेमवर्क सुरक्षा-निर्देशित हाइपरपैरामीटर अनुकूलन (safety-guided hyperparameter optimization) का समर्थन करता है। $\alpha$ द्वारा पैरामीटराइज्ड नियंत्रकों के एक परिवार के माध्यम से रोबस्ट वैल्यू फंक्शन $V_\alpha$ का मूल्यांकन करके, एक सुरक्षित मार्जिन या सुरक्षित सेट के आयतन (volume) को अधिकतम करने वाले पैरामीटर चुने जा सकते हैं।

3. मुख्य योगदान (Key Contributions)

RoVer-CoRe फ्रेमवर्क: धारणा संबंधी अनिश्चितता के तहत धारणा-आधारित सिस्टम को सत्यापित करने के लिए विशेष रूप से डिज़ाइन किया गया पहला HJ पहुँच योग्यता-आधारित फ्रेमवर्क।
नया हैमिल्टोनियन हैंडलिंग: क्लोज्ड-लूप हैमिल्टोनियन को सटीक रूप से कंप्यूट करने या रूढ़िवादी रूप से बाउंड करने की विधियाँ, जो HJ सिद्धांत और ब्लैक-बॉक्स/धारणा-आधारित नियंत्रकों के बीच के अंतर को पाटती हैं।
औपचारिक गारंटी और डिज़ाइन: सुरक्षा को सत्यापित करने और रोबस्ट नियंत्रकों (जैसे गेन या एक्टिवेशन पॉलिसी को अनुकूलित करना) को डिजाइन करने के लिए एक एकीकृत दृष्टिकोण।
ओपन सोर्स: कोड और केस स्टडी कार्यान्वयन का विमोचन।

4. परिणाम और केस स्टडीज (Results and Case Studies)

लेखक दो अलग-अलग केस स्टडीज पर RoVer-CoRe को मान्य करते हैं:

केस स्टडी 1: एयरक्राफ्ट टैक्सीइंग (Aircraft Taxiing)

परिदृश्य: एक विमान कैमरा छवियों से क्रॉस-ट्रैक और हेडिंग त्रुटियों का अनुमान लगाने के लिए एक DNN का उपयोग करके रनवे सेंटरलाइन का अनुसरण करता है।
सत्यापन: नियंत्रक सटीक हैमिल्टोनियन गणना के लिए पर्याप्त सरल है।
परिणाम: सिस्टम को 99.68% धारणा संबंधी त्रुटि कवरेज तक सुरक्षित रूप से औपचारिक रूप से सत्यापित किया गया।
डिज़ाइन: फ्रेमवर्क ने असुरक्षित कंट्रोल गेन (जैसे उच्च क्रॉस-ट्रैक गेन जो ओवर-करेक्शन का कारण बनता है) की पहचान की और उन रोबस्ट गेन के चयन में मार्गदर्शन किया जो वर्स्ट-केस धारणा त्रुटियों के तहत भी सुरक्षा बनाए रखते हैं।

केस स्टडी 2: NN-आधारित रोवर नेविगेशन (NN-Based Rover Navigation)

परिदृश्य: एक चंद्र रोवर विजुअल ओडोमेट्री का उपयोग करके बाधाओं से बचता है। हेडलाइट्स बंद होने पर (कम रोशनी की स्थिति में) अनिश्चितता समय के साथ बढ़ती है।
सत्यापन: दो नियंत्रकों की तुलना की गई:
1. ग्रिड-आधारित MPC: सटीक गणना (exact enumeration) के माध्यम से सत्यापित।
2. इमिटेशन NN: NN आउटपुट को बाउंड करने के लिए $\alpha,\beta$ -CROWN का उपयोग करके सत्यापित।
परिणाम:
- RoVer-CoRe ने लोकप्रिय सेट-आधारित टूल NNV 2.0 की तुलना में अधिक सटीक (tighter) सुरक्षा गारंटी प्रदान की।
- इसने सफलतापूर्वक उन असुरक्षित अवस्थाओं की पहचान की जिन्हें मोंटे कार्लो सिमुलेशन मिस कर गया (पूर्णता/completeness प्रदर्शित करता है)।
- इमिटेशन एरर और वेरिफिकेशन लूज़नेस के कारण NN-आधारित नियंत्रक के लिए बड़े Backward Reachable Tubes (BRTs) थे, जो इसके कम रोबस्ट होने को सही ढंग से दर्शाता है।
अनुप्रयोग: फ्रेमवर्क का उपयोग लाइट-एक्टिवेशन पॉलिसी प्राप्त करने के लिए किया गया। यह गणना करता है कि बढ़ता हुआ अनिश्चितता रोवर को विफलता सेट में ले जाने से पहले, रोवर कितनी अधिकतम अवधि तक लाइट बंद रखकर संचालित हो सकता है, जिससे ऊर्जा खपत को कम करते हुए सुरक्षा सुनिश्चित होती है।

5. महत्व (Significance)

सिद्धांत और व्यवहार को जोड़ना: यह आधुनिक धारणा-आधारित, लर्निंग-एनेबल्ड कंट्रोल सिस्टम की वास्तविकता के लिए HJ पहुँच योग्यता के कठोर, वर्स्ट-केस गारंटी को विस्तारित करता है।
रूढ़िवादिता को कम करना: अनुमानित सेट प्रोपेगाशन (जो अक्सर ओवर-एप्रोक्सिमेशन के कारण सुरक्षा प्रमाणित करने में विफल रहता है) से हटकर अनुकूलित नियंत्रण स्वरूपों (optimal control formulations) की ओर बढ़कर, RoVer-CoRe काफी अधिक सटीक और उपयोगी सुरक्षा प्रमाण पत्र प्रदान करता है।
कार्रवाई योग्य अंतर्दृष्टि (Actionable Insights): केवल "सुरक्षित/असुरक्षित" कहने वाले "ब्लैक-बॉक्स" सत्यापन के विपरीत, RoVer-CoRe वर्स्ट-केस ट्रैजेक्टरीज (काउंटर-एग्जांपल) और इस बात की नैदानिक अंतर्दृष्टि (diagnostic insights) प्रदान करता है कि सिस्टम क्यों विफल होता है (जैसे विशिष्ट त्रुटि मोड), जिससे सिद्धांतपूर्ण नियंत्रक सुधार संभव होता है।
स्केलेबिलिटी: हालांकि HJ पहुँच योग्यता "डायमेंशनलिटी के अभिशाप" (curse of dimensionality) से ग्रस्त है, यह पत्र 3D स्टेट स्पेस (पोजीशन, हेडिंग, टाइम) में इसकी प्रभावकारिता को प्रदर्शित करता है और लर्निंग-आधारित स्केलेबिलिटी के लिए एक मार्ग प्रदान करता है।

संक्षेप में, RoVe-CoRe यह सुनिश्चित करने के लिए एक गणितीय रूप से कठोर, गणनात्मक रूप से व्यवहार्य और व्यावहारिक रूप से लागू विधि प्रदान करता है कि स्वायत्त प्रणालियाँ सुरक्षित रहें, भले ही उनकी "आंखें" (सेंसर) और "मस्तिष्क" (एस्टिमेटर्स) अपूर्ण हों।