Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
यह शोध पत्र एक लीगल एक्चुएटर लेयर (LAL) प्रस्तावित करता है जो स्वायत्त ड्रोन को वास्तविक समय में परस्पर विरोधी कानूनी दायित्वों को गतिशील रूप से संतुलित करने और उन्हें लागू करने में सक्षम करने के लिए एक्टिव इन्फरेंस को एकीकृत करता है, जो जटिल परिदृश्यों में कठोर नियम-आधारित प्रणालियों से बेहतर प्रदर्शन करता है और साथ ही कम्प्यूटेशनल दक्षता बनाए रखता है तथा अनुपालन-प्रासंगिक डेटा सीखने की मौलिक सीमाओं को संबोधित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक शहर के ऊपर एक ड्रोन उड़ रहा है, जिसके कैमरे नीचे की सड़कों पर नज़र रख रहे हैं। इसे नियमों के एक सख्त सेट का पालन करना चाहिए: यह निजी संपत्ति के ऊपर नहीं उड़ सकता, यह उन लोगों के चेहरों को रिकॉर्ड नहीं कर सकता जिन्होंने फिल्माए जाने के लिए सहमति नहीं दी है, और इसे निर्धारित उड़ान पथों के भीतर ही रहना चाहिए। एक मानव ऑपरेटर के लिए, ये स्पष्ट निर्देश हैं। लेकिन एक मशीन के लिए, जो एक सेकंड के अंश में निर्णय लेती है, स्थिति बहुत अधिक जटिल हो जाती है। क्या होगा यदि कोई चिकित्सा आपात स्थिति (मेडिकल इमरजेंसी) उत्पन्न होती है, जिसमें सहायता प्रदान करने के लिए ड्रोन को प्रतिबंधित क्षेत्र में उड़ने की आवश्यकता होती है, जबकि साथ ही साथ यह गोपनीयता कानून का उल्लंघन भी करता है? एक साधारण कंप्यूटर प्रोग्राम जो "यदि यह, तो वह" कमांड की एक कठोर सूची का पालन करता है, संभवतः रुक जाएगा या गलती कर देगा, क्योंकि वह जीवन बचाने की तात्कालिकता और प्रतिबंधित क्षेत्र से दूर रहने के नियम के बीच संतुलन बनाने में असमर्थ होगा। स्वायत्त मशीनों को विनियमित करने की केंद्रीय चुनौती यही है: कानून केवल स्थिर नियमों की सूचियाँ नहीं हैं; वे लचीले सिद्धांत हैं जो संदर्भ के आधार पर बदलते रहते हैं।
यूनिवर्सिटी डू क्यूबेक अ मॉन्ट्रियल और मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन कॉग्निटिव एंड ब्रेन साइंसेज के शोधकर्ताओं ने इस समस्या को हल करने का एक नया तरीका प्रस्तावित किया है। ड्रोन को नियमों की हार्ड-कोडेड सूची के साथ प्रोग्राम करने के बजाय, उन्होंने एक ऐसा सिस्टम बनाया है जो कानूनों को 'वरीयताओं' (preferences) की तरह मानता है। इस दृष्टिकोण में, ड्रोन केवल यह जांचने के लिए बॉक्स नहीं टिक करता कि क्या कोई कार्य अनुमत है; बल्कि यह लगातार गणना करता है कि वह मूल्यों के एक पदानुक्रम (hierarchy) के आधार पर क्या "चाहता" है। यदि ड्रोन एक सामान्य स्थिति में है, तो वह प्रतिबंधित क्षेत्रों से बचने और लोगों की गोपनीयता की रक्षा करने को अत्यधिक प्राथमिकता देता है। लेकिन यदि वह किसी चिकित्सा आपात स्थिति का पता लगाता है, तो उसकी प्राथमिकताएं बदल जाती हैं। लक्ष्य तक पहुँचने की इच्छा इतनी प्रबल हो जाती है कि वह दूर रहने की प्राथमिकता को दरकिनार कर देती है, जिससे ड्रोन एक ऐसे कानूनी तरीके से कार्य कर पाता है जो एक कठोर कंप्यूटर प्रोग्राम नहीं कर सकता था। शोधकर्ताओं ने इस विचार का परीक्षण कंप्यूटर सिमुलेशन की एक श्रृंखला में किया, जिसमें ड्रोन की आँखों और उसके मोटर्स के बीच एक डिजिटल परत बनाई गई जो एक 'कानूनी विवेक' (legal conscience) के रूप में कार्य करती है।
महाल्ट अल्बरासिन और निकोलस हिंच्स के नेतृत्व वाली टीम इस सिस्टम को 'लीगल एक्चुएटर लेयर' (Legal Actuator Layer) कहती है। उन्होंने इसे ड्रोन की दुनिया के बोध (perception) और इसकी भौतिक गतिविधियों के बीच स्थित होने के लिए डिज़ाइन किया है। एक मानक सेटअप में, एक ड्रोन केवल एक लक्ष्य का पीछा कर सकता है, इस बात की परवाह किए बिना कि वह भीड़ के ऊपर उड़ रहा है या किसी प्रतिबंधित क्षेत्र में जा रहा है। लीगल एक्चुएटर लेयर इन कमांड्स को रोक लेती है। ड्रोन के हिलने से पहले, यह परत जो वह देखती है उसके आधार पर प्रश्नों की एक श्रृंखला पूछती है: क्या कोई आपात स्थिति है? क्या आस-पास राहगीर हैं? क्या हवाई क्षेत्र प्रतिबंधित है? इसके बाद यह उत्तरों को कानूनी लक्ष्यों के सेट के विरुद्ध तौलती है। ये लक्ष्य सख्त कमांड के रूप में नहीं बल्कि प्राथमिकताओं के रूप में लिखे गए हैं। उदाहरण के लिए, ड्रोन की अजनबियों के चेहरे न लेने की एक मजबूत प्राथमिकता है, लेकिन दुर्घटना से बचने या किसी जरूरतमंद व्यक्ति तक पहुँचने की उसकी प्राथमिकता उससे भी अधिक है।
यह परीक्षण करने के लिए कि क्या यह प्रणाली काम करती है, शोधकर्ताओं ने नौ अलग-अलग सिमुलेशन प्रयोग चलाए। एक परिदृश्य में, उन्होंने ड्रोन को एक व्यक्ति का पीछा करने और साथ ही राहगीरों के चेहरों को कैप्चर करने से बचने के लिए कहा। एक मानक नियम-आधारित प्रणाली या तो सुरक्षित रहने के लिए वीडियो को हमेशा ब्लर (धुंधला) कर देगी, जिससे लक्ष्य को ट्रैक करना कठिन हो जाता है, या फिर वह वीडियो को कभी ब्लरल नहीं करेगी, जिससे गोपनीयता का उल्लंघन होने का जोखिम रहता है। हालाँकि, नया सिस्टम स्थिति को देखता है। यदि कैमरा केवल लक्ष्य को देख रहा था, तो इसने वीडियो को स्पष्ट रखा। यदि इसने भीड़ देखी, तो इसने चेहरों को ब्लर कर दिया। जब सिस्टम अनिश्चित था कि वह क्या देख रहा है, तो उसने गोपनीयता की रक्षा के लिए सुरक्षित विकल्प चुना और वीडियो को ब्लर कर दिया। यह व्यवहार एक मानव-लिखित नियम के प्रदर्शन से मेल खाता था, लेकिन यह एक अधिक लचीली प्रक्रिया के माध्यम through प्राप्त किया गया था जो अनिश्चितता के अनुकूल हो सकती थी।
सबसे महत्वपूर्ण परीक्षण तब हुआ जब नियम आपस में टकरा गए। शोधकर्ताओं ने एक परिदृश्य बनाया जहाँ एक ड्रोन को चिकित्सा आपात स्थिति में किसी की मदद करने के लिए प्रतिबंधित क्षेत्र में प्रवेश करने की आवश्यकता थी। एक कठोर नियम-आधारित प्रणाली जो प्रतिबंधित क्षेत्रों में प्रवेश करने से सख्ती से मना करती है, वह व्यक्ति की मदद करने में विफल रहेगी। एक सरल "आपातकालीन अपवाद" वाला सिस्टम ड्रोन को अंदर जाने देगा, लेकिन यह सामान्य स्थितियों में 56 प्रतिशत बार नियमों का उल्लंघन करते हुए किसी भी गलत अलार्म पर भी अंदर चला जाएगा। हालाँकि, नया सिस्टम अलग तरह से व्यवहार करता है। इसने आपातकालीन संकेत सुना लेकिन तुरंत अंदर नहीं गया। इसके बजाय, इसने सबूत जुटाने के लिए थोड़ा समय लिया, यह सुनिश्चित करने के लिए कि क्या आपात स्थिति वास्तविक है। एक बार जब वह आश्वस्त हो गया, तो वह मिशन पूरा करने के लिए प्रतिबंधित क्षेत्र में प्रवेश कर गया। प्रत्येक परीक्षण में जहाँ आपात स्थिति वास्तविक थी, वह सफल रहा। प्रत्येक परीक्षण में जहाँ कोई आपात स्थिति नहीं थी, वह बाहर ही रहा। इसने सावधानी की आवश्यकता और गति की आवश्यकता के बीच उस तरह से संतुलन बनाया जैसा कि अन्य सिस्टम नहीं कर सके।
शोधकर्ताओं ने यह भी पाया कि इन प्रणालियों के सीखने के तरीके में एक आश्चर्यजनक सीमा है। उन्होंने ड्रोन को उसके अपने अनुभव से सीखने देकर नियमों को सिखाने की कोशिश की, ठीक वैसे ही जैसे एक बच्चा परीक्षण और त्रुटि (trial and error) से सीखता है। यह दृष्टिकोण विफल रहा। ड्रोन गोपनीयता और प्रतिबंधित क्षेत्रों के बारे में नियम नहीं सीख सका क्योंकि, उन्हें सीखने के लिए, उसे पहले उन्हें तोड़ना होगा। एक ड्रोन जो कानून का पालन करता है, वह उसे तोड़ने के परिणामों का अनुभव कभी नहीं करता, इसलिए वह कभी नहीं सीख पाता कि वे परिणाम कैसे दिखते हैं। शोधकर्ताओं ने पाया कि सिस्टम तभी काम करता है जब सबसे महत्वपूर्ण सेंसर—जो ड्रोन को बताते हैं कि वह कहाँ है और क्या कोई आपात स्थिति वास्तविक है—मानवों द्वारा पूर्व-कैलिब्रेट (pre-calibrated) किए गए हों। ड्रोन वातावरण को पहचानना सीख सकता था, लेकिन वह स्वयं शून्य से कानूनों को नहीं सीख सकता था।
इस सीमा के बावजूद, सिस्टम वास्तविक दुनिया के उपयोग के लिए पर्याप्त तेज़ साबित हुआ। शोधकर्ताओं ने मापा कि ड्रोन को कानूनी निर्णय लेने में कितना समय लगा। दुनिया को देखने से लेकर एक चाल (move) तय करने तक की पूरी प्रक्रिया में केवल 0.31 मिलीसेकंड लगे। यह वास्तविक ड्रोन पर पाए जाने वाले छोटे कंप्यूटरों पर चलने के लिए पर्याप्त तेज़ है, जिससे कानूनी विवेक बिना उड़ान को धीमा किए वास्तविक समय (real-time) में कार्य कर सकता है। सिस्टम ने एक स्वाभाविक सुरक्षा तंत्र भी दिखाया: जब सेंसर बहुत शोर वाले (noisy) थे और ड्रोन सुनिश्चित नहीं था कि क्या हो रहा है, तो वह बस रुक गया। वह अनुमान लगाकर कानून तोड़ने के जोखिम के बजाय एक ही स्थान पर स्थिर रहना पसंद करता था।
अध्ययन यह निष्कर्ष निकालता है कि कानूनों को कठोर नियमों के बजाय लचीली प्राथमिकताओं के रूप में कोड करना स्वायत्त मशीनों को जटिल, वास्तविक दुनिया की स्थितियों को संभालने की अनुमति देता है। कानूनों को प्रतिस्पर्धी इच्छाओं के एक सेट के रूप में मानकर, जो संदर्भ के आधार पर बदलते हैं, ड्रोन ऐसे निर्णय ले सकता है जो प्रभावी और अनुपालन योग्य दोनों हों। सिस्टम को एक आदर्श वकील होने की आवश्यकता नहीं है; उसे बस यह समझने की आवश्यकता है कि कुछ नियम दूसरों की तुलना में अधिक महत्वपूर्ण हैं, और कभी-कभी, सही काम क्या है यह इस पर निर्भर करता है कि अभी क्या हो रहा है। यह दृष्टिकोण ऐसी मशीनें बनाने का मार्ग प्रशस्त करता है जो हर निर्णय के लिए मानव द्वारा बटन दबाने की प्रतीक्षा किए बिना, मानव समाज की जटिल और विरोधाभासी मांगों के बीच नेविगेट कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।