⚡ electrical engineering

Quantifying Trade-Offs Between Stability and Goal-Obfuscation

यह शोध पत्र एक फ्रेमवर्क प्रस्तुत करता है जो सुरक्षा-महत्वपूर्ण स्वायत्तता (safety-critical autonomy) में स्थिरता और लक्ष्य-अस्पष्टता (goal-obfuscation) के बीच के समझौतों को संभाव्य संभाव्यता (probabilistic) विवेकी-समय नियंत्रण बाधा कार्यों (discrete-time control barrier functions) को एक राव ब्लैकवेलकृत कण फ़िल्टर (Rao Blackwellized particle filter) पर्यवेक्षक मॉडल के साथ एकीकृत करते हुए एक संयुक्त नियंत्रण समस्या के रूप में इरादे की गोपनीयता को सूत्रबद्ध करके परिमाणीकृत करता है, ताकि ट्रैकिंग आवश्यकताओं और सूचना रिसाव बाधाओं को एक साथ पूरा किया जा सके।

मूल लेखक: Yixuan Wang, Dan Guralnik, Warren Dixon

प्रकाशित 2026-05-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yixuan Wang, Dan Guralnik, Warren Dixon

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट हैं जो एक विशिष्ट गंतव्य तक पहुँचने की कोशिश कर रहे हैं, जैसे कि एक छिपा हुआ खजाना। आप वहां सुरक्षित और समय पर पहुँचना चाहते हैं। हालाँकि, एक "जासूस" आप पर नज़र रख रहा है। यह जासूस आपको रोकने की कोशिश नहीं कर रहा है; वे बस आपकी गतिविधियों को देख रहे हैं और आपके खजाने के स्थान का अनुमान लगाने के लिए एक सुपर-स्मार्ट कैलकुलेटर का उपयोग कर रहे हैं।

रोबोटिक्स की दुनिया में, यदि आप अपने लक्ष्य की ओर सबसे कुशल, सीधी रेखा में चलते हैं, तो आप अनिवार्य रूप से अपने रहस्य को चिल्लाकर बता रहे हैं। आपका रास्ता इतना अनुमानित हो जाता है कि जासूस का कैलकुलेटर जल्दी ही संभावनाओं को सीमित कर देता है जब तक कि उन्हें पता न चल जाए कि आप वास्तव में कहाँ जा रहे हैं। इसे "लीजिबल" (legible) होना कहा जाता है।

यह शोध पत्र इस बारे में है कि रोबोट को कैसे थोड़ा "भुलक्कड़" या "भ्रमित करने वाला" बनना सिखाया जाए, ताकि वह मिशन में विफल हुए बिना, जासूस को अनुमान लगाने के लिए पर्याप्त उलझन में रख सके।

लेखक इसे इस प्रकार समझाते हैं:

1. जासूस का कैलकुलेटर (RBPF)

जासूस एक उपकरण का उपयोग करता है जिसे रॉ-ब्लैकवेलिज्ड पार्टिकल फ़िल्टर (Rao-Blackwellized Particle Filter - RBPF) कहा जाता है। इसे ऐसे समझें कि जासूस के पास 1,000 अलग-अलग "क्या होगा अगर" वाले परिदृश्यों (पार्टिकल्स) का एक बैग है।

कुछ परिदृश्य कहते हैं, "रोबोट पार्क जा रहा है।"
अन्य कहते हैं, "रोबोट लाइब्रेरी जा रहा है।"
जैसे-जैसे रोबोट चलता है, जासूस यह जाँचता है कि कौन से परिदृश्य रोबोट की वास्तविक गति से मेल खाते हैं।
जो परिदृश्य मेल नहीं खाते, उन्हें बाहर कर दिया जाता है (या उनका "वेट" कम कर दिया जाता है)।
अंततः, लगभग सारा वेट केवल एक ही परिदृश्य पर केंद्रित हो जाता है: वास्तविक लक्ष्य।

शोध पत्र का लक्ष्य जासूस के कैलकुलेटर को केवल एक उत्तर पर केंद्रित होने से रोकना है। वे "परिदृश्यों के बैग" को यथासंभव फैला हुआ और भ्रमित रखना चाहते हैं।

2. रोबोट की दुविधा: सुरक्षा बनाम गोपनीयता

आमतौर पर, रोबोटों को पूरी तरह से स्थिर रहने के लिए प्रोग्राम किया जाता है। वे एक गणितीय नियम (ल्यपुनोव स्थिरता/Lyapunov stability) का उपयोग करते हैं जो कहता है, "हमेशा लक्ष्य की ओर सीधे बढ़ो।" समस्या यह है कि यह पूर्ण स्थिरता ही उन्हें आसानी से पढ़ने योग्य बनाती है।

लेखक रोबोट को नियंत्रित करने का एक नया तरीका प्रस्तावित करते हैं। केवल भौतिक जमीन को देखने के बजाय, रोबोट जासूस के मन (विश्वास की स्थिति/belief state) को भी देखता है। रोबोट पूछता है: "यदि मैं इस तरह से चलता हूँ, तो क्या जासूस का कैलकुलेटर भ्रमित हो जाएगा?"

3. "प्राइवेसी बैरियर" (गोपनीयता अवरोध)

इसे हल करने के लिए, लेखक एक नए प्रकार के सुरक्षा नियम का आविष्कार करते हैं जिसे प्रोबेबिलिस्टिक कंट्रोल बैरियर फंक्शन (PCBF) कहा जाता है।

सामान्य सुरक्षा: "दीवार से न टकराएं।"
प्राइवेसी सुरक्षा: "जासूस का आत्मविश्वास बहुत अधिक न होने दें।"

वे "जासूस के आत्मविश्वास" को एक ईंधन टैंक की तरह मानते हैं। रोबोट को यह सुनिश्चित करना चाहिए कि ईंधन का स्तर (जासूस की निश्चितता) एक निश्चित रेखा से नीचे न जाए। यदि टैंक बहुत खाली हो जाता है, तो रोबोट अपने गोपनीयता मिशन में विफल हो गया है।

4. दो-चरणीय नृत्य (Two-Step Dance)

जासूस का कैलकुलेटर दो अलग-अलग चरणों में अपडेट होता है, और रोबोट को दोनों को संभालना होता है:

चरण A: ऑब्जर्वेशन अपडेट (सुनने का चरण)
जासूस रोबोट को चलते हुए देखता है और अपने अनुमानों को अपडेट करता है। लेखकों ने पाया कि यदि रोबोट जासूस के भ्रम के एक विशिष्ट "केंद्र बिंदु" (जिसे चेबिशेव सेंटर कहा जाता है) की ओर बढ़ता है, तो यह जासूस के अनुमानों को फैलाए रखता है। रोबोट इस केंद्र की ओर अपने पथ को थोड़ा लहराकर (wobble करके) ऐसा कर सकता है, बजाय इसके कि वह सीधे लक्ष्य की ओर जाए।
चरण B: रीसॅम्पलिंग (रीसेट करने का चरण)
कभी-कभी, जासूस का कैलकुलेटर इतना आत्मविश्वासी हो जाता है कि वह सभी खराब अनुमानों को फेंक देता है और केवल सर्वश्रेष्ठ को ही रखता है। यह गोपनीयता के लिए खतरनाक है क्योंकि यह भ्रम को मिटा देता है। लेखक दिखाते हैं कि जब ऐसा होता है, तब भी रोब मॉडल (विशेष रूप से होफडिंग की असमानता/Hoeffding's inequality का उपयोग करके) यह साबित कर सकता है कि "रीसेट" अनजाने में रहस्य को उजागर नहीं करेगा, बशर्ते रोबोट कुछ सीमाओं के भीतर रहे।

5. संतुलन बनाना

सबसे बड़ी चुनौती यह है कि रोबोट के पास दो बॉस हैं:

मिशन बॉस: "लक्ष्य तक समय पर पहुँचो और इस त्रुटि मार्जिन के भीतर रहो।"
प्राइवेसी बॉस: "जासूस को भ्रमित रखो।"

शोध पत्र यह सिद्ध करता है कि आप दोनों को संतुष्ट कर सकते हैं, लेकिन केवल तभी जब "त्रुटि मार्जिन" (कितना लहराने की अनुमति है) पर्याप्त चौड़ा हो।

यदि रोबोट को बहुत सटीक (एक सख्त त्रुटि मार्जिन) होने की अनुमति दी जाती है, तो उसके पास जासूस को भ्रमित करने के लिए लहराने की कोई जगह नहीं बचती। दोनों लक्ष्य आपस में टकराते हैं, और रोबोट विफल हो सकता है।
यदि रोबोट को थोड़ा ढीला (एक चौड़ा त्रुटि मार्जिन) होने की अनुमति दी जाती है, तो वह जासूस को भ्रमित करने के लिए पर्याप्त रूप से लहरा सकता है और फिर भी लक्ष्य तक पहुँच सकता है।

मुख्य निष्कर्ष

यह शोध पत्र केवल यह नहीं कहता कि "रोबोटों को गुप्त रहना चाहिए।" यह एक गणितीय नुस्खा प्रदान करता है जिससे एक रोबोट यह गणना कर सकता है कि जासूस को भ्रमित रखने के लिए उसे कितना "लहराने" (wobble) की आवश्यकता है, जबकि यह भी सुनिश्चित करता है कि वह अपने गंतव्य तक पहुँचे। यह "गोपनीयता" के अमूर्त विचार को एक ठोस नियंत्रण नियम में बदल देता है जिसे एक रोबोट वास्तविक समय में पालन कर सकता है, यह सुनिश्चित करते हुए कि रोबोट जितना अधिक छिपने की कोशिश करेगा, योजना का पता लगाने की संभावना उतनी ही कम होगी।

तकनीकी सारांश: स्थिरता और लक्ष्य-अस्पष्टता (Goal-Obfuscation) के बीच व्यापार-संबंधों का परिमाणीकरण

समस्या का निरूपण
यह शोध पत्र एक प्रतिकूल वातावरण में संचालित होने वाले लक्ष्य-निर्देशित स्वायत्त एजेंट (autonomous agent) के लिए 'इरादे की गोपनीयता' (intent privacy) बनाए रखने की चुनौती को संबोधित करता है। जबकि पारंपरिक नियंत्रण संश्लेषण (control synthesis) कार्य पूर्णता सुनिश्चित करने के लिए लयापुनोव स्थिरता (Lyapunov stability) को प्राथमिकता देता है, लेखक तर्क देते हैं कि ऐसी स्थिरता स्वाभाविक रूप से "सुपाठ्यता" (legibility) से समझौता करती है। विशेष रूप से, एक लयापुनोव आकर्षण बेसिन (Lyapunov basin of attraction) की संकुचनशील गतिशीलता (contractive dynamics) एक निष्क्रिय पर्यवेक्षक को, जो ऑनलाइन बेयस अनुमान (Bayesian inference) चला रहा है, उनके गुप्त इरादे के मापदंडों (लक्ष्य स्थान, त्रिज्या और आगमन समय) पर उनके पश्च वितरण (posterior belief) को तेजी से केंद्रित करने का कारण बनती है।

समस्या को एक संयुक्त नियंत्रण कार्य के रूप में निरूपित किया गया है जहाँ एजेंट को एक साथ:

एक संदर्भ प्रक्षेपवक्र (reference trajectory) को ट्रैक करना चाहिए ताकि एक निर्धारित त्रुटि लिफाफे (error envelope) $\varrho(t)$ के भीतर समय $t^*$ तक लक्ष्य $x^*$ तक पहुँचा जा सके।
एक प्रतिकूल (adversary) से अपने इरादे को अस्पष्ट करना चाहिए, जिसे राव-ब्लैकवेललाइज्ड पार्टिकल फिल्टर (RBPF) के रूप में मॉडल किया गया है। प्रतिकूल, एजेंट के इरादे $\theta^*$ का अनुमान शोर युक्त स्थिति मापन (position measurements) का उपयोग करके लगाता है।

एजेंट की गतिशीलता को एक पूर्णतः संचालित प्रणाली (fully actuated system) के रूप में मॉडल किया गया है जिसमें सीमित अज्ञात विक्षोभ (disturbances) हैं ( $\dot{x} \in u + \bar{d}\mathbb{B}$ )। प्रतिकूल की अनुमान प्रक्रिया को विश्वास अवस्था स्थान (belief state space) पर विकसित होने वाले एक असतत-समय स्टोकेस्टिक डायनेमिकल सिस्टम के रूप में मॉडल किया गया है। मुख्य उद्देश्य एक ऐसा नियंत्रण इनपुट $u$ चुनना है जो प्रतिकूल के पश्च विश्वास के संकेंद्रण (KL-डाइवर्जेंस द्वारा मापा गया) में देरी कर सके, जबकि भौतिक ट्रैकिंग बाधाओं को भी पूरा कर सके।

कार्यप्रणाली
लेखक इसे एक विस्तारित अवस्था स्थान (extended state space) पर नियंत्रण समस्या के रूप में देखते हैं जिसमें भौतिक अवस्था और पर्यवेक्षक की गुप्त विश्वास अवस्था (latent belief state) दोनों शामिल हैं। कार्यप्रणाली निम्नलिखित घटकों पर निर्भर करती है:

सूचना अवस्था गतिशीलता (Information State Dynamics): RBPF विश्वास अवस्था $z = (\theta, \hat{x}, \omega)$ (कण, अवस्था अनुमान, और भार) को एक नियंत्रित मार्कोव प्रक्रिया के रूप में माना जाता है। एजेंट का नियंत्रण इनपुट अप्रत्यक्ष रूप से अवलोकन वितरण $y_k$ को आकार देकर विश्वास अपडेट को प्रभावित करता है।
गोपनीयता मीट्रिक (Privacy Metric): इरादे की गोपनीयता को वास्तविक इरादा वितरण और प्रतिकूल के अनुमानित वितरण के बीच KL-डाइवर्जेंस के निचले स्तर (lower bound) का उपयोग करके मापा जाता है। यह निचला स्तर कण कर्नेल फलनों (particle kernel functions) के एक भारित घातांकीय योग (weighted exponential sum) से प्राप्त किया गया है।
संभावित नियंत्रण अवरोध फलन (Probabilistic Control Barrier Functions - PCBFs): गोपनीयता को लागू करने के लिए, लेखक एक अवरोध फलन $b(z)$ को सूचना रिसाव (information leakage) के निचले स्तर के आधार पर परिभाषित करते हैं। लक्ष्य यह सुनिश्चित करना है कि $b(z)$ एक परिमित क्षितिज (finite horizon) में उच्च प्रायिकता के साथ गैर-ऋणात्मक (या एक दहलीज से ऊपर) बना रहे।
RBPF अपडेट का अपघटन (Decomposition of RBPF Updates): तकनीकी विश्लेषण RBPF अपडेट चक्र को दो अलग-अलग चरणों में विभाजित करता है, प्रत्येक के लिए अलग PCBF स्थितियाँ व्युत्पन्न करता है:
1. बेयस अपडेट चरण: लेखक भार अपडेट के कारण अवरोध फलन में परिवर्तन के एक सीमा (bound) को व्युत्पन्न करते हैं। वे दिखाते हैं कि एजेंट के प्रक्षेपवक्र को कण क्लाउड के चेबिशेव केंद्र (Chebyshev center) के पास से गुजरने के लिए नियंत्रित करके, सूचना रिसाव को सीमित किया जा सकता है।
2. रीसैंपलिंग चरण: वे पुन: नमूनाकरण (resampling) ट्रिगर होने पर अवरोध फलन में होने वाले विच्छिन्न परिवर्तन का विश्लेषण करते हैं। वे पुन: आरंभ किए गए कणों के योगदान को बांधने के लिए हॉफडिंग की असमानता (Hoeffding's inequality) का उपयोग करते हैं, यह प्रदर्शित करते हुए कि यह सीमा एजेंट की गतिशीलता और नियंत्रण इनपुट से स्वतंत्र है।
मिश्रित PCBF (Composite PCBF): बेयस अपडेट और रीसैंपलिंग चरणों के योगात्मक सीमाओं को एक पूर्ण अपडेट चक्र के लिए एकल मिश्रित PCBF स्थिति बनाने के लिए यूनियन बाउंड तर्क का उपयोग करके जोड़ा जाता है।
संयुक्त व्यवहार्यता विश्लेषण (Joint Feasibility Analysis): शोध पत्र एक "गोपनीयता नियंत्रक" (जो एजेंट को चेबिशेव केंद्र की ओर ले जाता है) और एक "ट्रैकिंग नियंत्रक" (जो एजेंट को लक्ष्य की ओर ले जाता है) के बीच एफ़ाइन इंटरपोलेशन (affine interpolation) के माध्यम से गोपनीयता बाधा (गोपनीयता बनाए रखना) और ट्रैकिंग बाधा (त्रुटि लिफाफे के भीतर रहना) के बीच परस्पर क्रिया की जांच करता है।

मुख्य योगदान

इरादे की गोपनीयता को एक नियंत्रण समस्या के रूप में रूपित करना: शोध पत्र इरादे की गोपनीयता को भौतिक अवस्था पर एक सहायक दंड (auxiliary penalty) के रूप में नहीं, बल्कि RBPF द्वारा प्रेरित गुप्त विश्वास गतिशीलता पर एक नियंत्रण समस्या के रूप में रूपित करता है। नियंत्रण इनपुट को RBPF अपडेट समय के साथ सिंक्रोनाइज़ किए गए एक खंडित-स्थिर (piecewise constant) सिग्नल के रूप में मॉडल किया गया है।
परिमित-क्षितिज गोपनीयता-इन-प्रायिकता गारंटी: लेखक एक मिश्रित PCBF परिणाम व्युत्पन्न करते हैं जो एक निश्चित विफलता प्रायिकता $\delta_f$ के साथ एक परिमित क्षितिज में उच्च प्रायिकता के साथ सूचना रिसाव को ऊपर रखने की गारंटी देता है। यह RBPF के बेयस अपडेट और रीसैंपलिंग चरणों के लिए अलग-अलग संभावabilistic सीमाओं को स्थापित करके प्राप्त किया गया है।
रीसैंपलिंग सीमा की स्वतंत्रता: एक उल्लेखनीय तकनीकी निष्कर्ष यह है कि रीसैंपलिंग रूपांतरण के लिए संभावabilistic सीमा एजेंट की गतिशीलता और नियंत्रण इनपुट से पूरी तरह स्वतंत्र है। यह भविष्य के कार्यों में अधिक जटिल एजेंट गतिशीलता के लिए इन परिणामों को विस्तारित करने की क्षमता का सुझाव देता है।
संयुक्त व्यवहार्यता विश्लेषण: शोध पत्र अस्पष्टता (obfuscation) और ट्रैकिंग के बीच व्यापार-संबंधों का मात्रात्मक विश्लेषण प्रदान करता है। यह उन असमानता बाधाओं की पहचान करता है जो इंटरपोलेशन पैरामीटर $\mu$ को निर्धारित करती हैं, जिससे यह पता चलता कि क्या एक नियंत्रण इनपुट मौजूद है जो गोपनीयता और ट्रैकिंग आवश्यकताओं दोनों को एक साथ संतुष्ट करता है।

परिणाम

सैद्धांतिक गारंटी: शोध पत्र सिद्ध करता है कि किसी विशिष्ट उप-स्तर सेट (sublevel set) (जहाँ प्रारंभिक गोपनीयता मार्जिन पर्याप्त है) के भीतर किसी भी विश्वास अवस्था के लिए, एक नियंत्रण इनपुट मौजूद है जो $\delta_f$ की विफलता प्रायिकता के साथ मिश्रित PCBF स्थिति को संतुष्ट करता है।
व्यवहार्यता स्थितियाँ: विश्लेषण प्रकट करता है कि संयुक्त व्यवहार्यता, प्रारंभिक गोपनीयता मार्जिन ( $\beta$ ), सूचना रिसाव वृद्धि के बंधनों ( $\Delta_b, \Delta_r$ ) और ट्रैकिंग त्रुटि लिफाफे के बीच संबंध पर निर्भर करती है। विशेष रूप से, यदि ट्रैकिंग लिफाफा बहुत अधिक प्रतिबंधात्मक है, तो संयुक्त नियंत्रण समस्या के लिए व्यवहार्य सेट खाली हो सकता है, जिससे स्थिरता बनाए रखते हुए अस्पष्टता असंभव हो जाती है।
बाधाओं की परस्पर क्रिया: परिणाम दिखाते हैं कि यदि ट्रैकिंग त्रुटि लिफाफा $\varrho(t)$ पर्याप्त तेजी से बढ़ता है, तो ट्रैकिंग आवश्यकता द्वारा लगाए गए $\mu$ के बाधाओं के लिए गोपनीयता के लिए आवश्यक निचली सीमाओं के साथ कोई संघर्ष नहीं होता है, जिससे एक व्यवहार्य समाधान संभव हो जाता है।

महत्व और दावे
शोध पत्र दावा करता है कि यह भौतिक और गुप्त विश्वास अवस्थाओं वाली निरंतर अवस्था स्थान (continuous state spaces) पर इरादे की गोपनीयता के अध्ययन को एक संयुक्त नियंत्रण समस्या के रूप में शुरू करता है। यह प्रतिपादित करता है कि पारंपरिक लयापुनोव-आधारित नियंत्रण स्वाभाविक रूप से बेयियन पर्यवेक्षकों के लिए सुपाठ्य (legible) है और इस सुपाठ्यता को कम करने के लिए कार्य इष्टतमता (task optimality) से जानबूझकर विचलन की आवश्यकता होती है।

इस कार्य का महत्व है:

एजेंट के लक्ष्य-निर्देशित प्रक्षेपवक्रों की "सुपाठ्यता" को मापने और नियंत्रित करने के लिए एक औपचारिक तंत्र प्रदान करना।
वास्तविक समय नियंत्रण संश्लेषण में गोपनीयता बाधाओं को लागू करने के लिए एक कठोर, संभावabilistic ढांचा (PCBFs) प्रदान करना।
स्थिरता (लक्ष्य की ओर अभिसरण) और गोपनीयता (अनिश्चितता बनाए रखना) के बीच मौलिक तनाव को उजागर करना, और दोनों को संतुष्ट करने की व्यवहार्यता का विश्लेषण करने के लिए गणितीय उपकरण प्रदान करना।

लेखक अपने परिणामों के दायरे के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि RBPF के अभिसरण गुणों को स्थापित करने और यह निर्धारित करने के लिए आगे के अध्ययन की आवश्यकता है कि यदि सख्त ट्रैकिंग स्थिरता लागू की जाती है तो अस्पष्टता कब असंभव हो जाती है। वे यह भी उल्लेख करते हैं कि सत्यापन के लिए संख्यात्मक और हार्डवेयर प्रयोग आवश्यक हैं, जो इस सैद्धांतिक कार्य में शामिल नहीं हैं।