Social, Legal, Ethical, Empathetic and Cultural Norm Operationalisation for AI Agents
यह शोध पत्र सामाजिक, कानूनी, नैतिक, सहानुभूतिपूर्ण और सांस्कृतिक (SLEEC) मानदंडों को एआई एजेंटों के लिए ठोस, सत्यापन योग्य आवश्यकताओं में क्रियान्वित करने हेतु एक व्यवस्थित ढांचे का प्रस्ताव करता है, साथ ही वर्तमान पद्धतियों का सर्वेक्षण करता है और उच्च-जोखिम वाले क्षेत्रों में अमूर्त मानदण्डों और व्यावहारिक कार्यान्वयन के बीच के अंतर को पाटने के लिए एक अनुसंधान एजेंडा की रूपरेखा तैयार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप "रोबो-बॉब" नाम का एक रोबोट बटलर (नौकर) बना रहे हैं। आप चाहते हैं कि वह एक बुजुर्ग व्यक्ति को रात का खाना बनाने में मदद करे, गिरने पर मदद के लिए पुकारे, और उनके दिन के बारे में बातें भी करे। लेकिन यहाँ एक पेंच है: रोबो-बॉब सिर्फ एक मशीन नहीं है; वह एक मानवीय दुनिया में प्रवेश कर रहा है।
यदि रोबो-बॉब से कोई गलती होती है, तो उसके परिणाम केवल एक "404 एरर" नहीं होंगे। वे गोपनीयता का उल्लंघन, विश्वास का भंग होना, या जीवन-मरण की स्थिति भी हो सकते हैं।
कैलिनेस्कु और उनके सहयोगियों का यह शोध पत्र मूल रूप से रोबोटों को "एक अच्छा नागरिक" बनने के लिए सिखाने का एक ब्लूप्रिंट (खाका) है। यह तर्क देता है कि हमें केवल एक रोबोट को कुशल होने के लिए प्रोग्राम नहीं करना चाहिए; हमें उसे सामाजिक, कानूनी, नैतिक, सहानुभूतिपूर्ण और सांस्कृतिक (SLEEC) मानदंडों का सम्मान करने के लिए प्रोग्राम करना होगा।
यहाँ उनके विचार का सरल विवरण दिया गया है, कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग करते हुए।
समस्या: "अस्पष्ट नियम पुस्तिका"
वर्तमान में, हमारे पास AI के लिए बड़ी, भव्य नियम पुस्तिकाएं हैं (जैसे संयुक्त राष्ट्र के दिशा-निर्देश या यूरोपीय संघ का AI अधिनियम)। ये कुछ ऐसा कहने के समान हैं जैसे, "दयालु बनें," "गोपनीयता का सम्मान करें," और "किसी को चोट न पहुँचाएँ।"
उपमा: कल्पना कीजिए कि आपने एक नया कर्मचारी नियुक्त किया है और आप उससे कहते हैं, "एक अच्छा इंसान बनो।" सिद्धांत रूप में यह बहुत अच्छा है, लेकिन यदि आप उसे विशिष्ट स्थितियों में कैसे अच्छा बनना है (जैसे, "यदि बॉस रो रहा है, तो टिश्यू दें, वेतन वृद्धि न मांगें") के बारे में विशिष्ट निर्देश नहीं देते हैं, तो वह अनजाने में गलत काम कर सकता है।
लेखक कहते हैं: "हमें 'एक अच्छा इंसान बनो' को विशिष्ट, जांच योग्य कोड में अनुवादित करने की आवश्यकता है।" वे इसे ऑपरेशनलाइजेशन (Operationalisation) कहते हैं।
समाधान: 5-चरणीय "रोबोट ट्रेनिंग कैंप"
यह शोध पत्र एक सख्त, 5-चरणीय प्रक्रिया प्रस्तावित करता है ताकि यह सुनिश्चित किया जा सके कि रोबोट वास्तविक दुनिया के लिए तैयार है। इसे रोबो-बॉब के लिए एक कठोर प्रशिक्षण शिविर के रूप में समझें।
चरण 1: "आप क्या कर सकते हैं?" की जाँच (क्षमता विशिष्टता - Capability Specification)
नियम सिखाने से पहले, हमें यह जानना होगा कि रोबोट के पास कौन से उपकरण हैं।
- उपमा: इससे पहले कि आप किसी ड्राइवर को शहर में नेविगेट करना सिखाएं, आपको यह जानना होगा कि उसके पास कार है, नक्शा है, या केवल एक साइकिल है।
- शोध पत्र में: क्या रोबोट के पास कैमरा है? माइक्रोफोन है? क्या वह 911 कॉल कर सकता है? यदि उसके पास कैमरा है, तो उसे गोपनीयता का सम्मान करना ही होगा। यदि वह 911 कॉल कर सकता है, तो उसे पता होना चाहिए कि ऐसा कब करना सुरक्षित है।
चरण 2: "हितधारक गोलमेज सम्मेलन" (आवश्यकता प्राप्ति - Requirement Elicitation)
यहीं हम अस्पष्ट विचारों को विशिष्ट नियमों में बदलते हैं। लेखक सुझाव देते हैं कि नियमों को लिखने के लिए नीतिशास्त्रियों, वकीलों, डॉक्टरों और सामान्य उपयोगकर्ताओं को एक साथ लाना चाहिए।
- उपमा: कल्पना कीजिए कि एक नए पार्क के नियम लिखने के लिए एक टाउन हॉल मीटिंग हो रही है। वकील कहता, "कुत्ते बिना पट्टे के नहीं होने चाहिए।" एक माता-पिता कहते, "बच्चों को स्वतंत्र रूप से दौड़ने की जरूरत है।" एक कुत्ता मालिक कहता, "मेरा कुत्ता मिलनसार है।" वे तब तक बातचीत करते हैं जब तक कि उनके पास एक स्पष्ट नियम न हो: "कुत्ते बाड़े वाले क्षेत्र के बाहर पट्टे पर होने चाहिए।"
- शोध पत्र में: वे "स्वायत्तता का सम्मान करें" को एक विशिष्ट नियम में अनुवादित करते हैं: "यदि उपयोगकर्ता गिर जाता है, तो मदद के लिए कॉल करें, जब तक कि उपयोगकर्ता कहे 'नहीं, मैं ठीक हूँ' (और वह होश में हो)।"
चरण 3: "लॉजिक पुलिस" (सुव्यवस्थितता की जाँच - Well-Formedness Checking)
यह सबसे महत्वपूर्ण चरण है। मनुष्य जटिल नियमों में विरोधाभास खोजने में खराब होते हैं। कंप्यूटर इसमें अच्छे होते हैं।
- उपमा: कल्पना कीजिए कि आप एक नियम पुस्तिका लिखते हैं जिसमें कहा गया है:
- "यदि बारिश होती है, तो खिड़की बंद कर दें।"
- "यदि हवा चल रही है, तो खिड़की खोल दें।"
- "यदि बारिश और हवा दोनों चल रही हैं, तो कुछ न करें।"
एक इंसान शायद यह मिस कर जाए कि ये नियम आपस में लड़ रहे हैं। एक कंप्यूटर तर्क की जाँच करता है और कहता है, "रुको, यदि बारिश और हवा दोनों चल रही हैं, तो आप 'कुछ न करें' नहीं कर सकते; आपको चुनना होगा!"
- शोध पत्र में: वे नैतिक नियमों में "बग्स" खोजने के लिए विशेष गणितीय उपकरणों का उपयोग करते हैं। उदाहरण के लिए, उन्होंने एक संघर्ष पाया जहाँ रोबोट को मदद के लिए कॉल करने से मना किया जा सकता है यदि उपयोगकर्ता "नहीं" कहता है, लेकिन क्या होगा यदि उपयोगकर्ता बेहोश है? कंप्यूटर इस अंतर को पकड़ लेता है और टीम को आगे बढ़ने से पहले इसे ठीक करने के लिए मजबूर करता है।
चरण 4: "कोडिंग और गार्डरेल्स" (कार्यान्वयन - Implementation)
अब, हम वास्तव में इन नियमों को रोबोट में शामिल करके इसे बनाते हैं।
- उपमा: आप ड्राइवर को केवल "सुरक्षित रूप से चलाएं" नहीं कहते। आप कार में स्पीड लिमिटर और ब्लाइंड-स्पॉट सेंसर स्थापित करते हैं। ये "गार्डरेल्स" (सुरक्षा घेरे) हैं। भले ही ड्राइवर (AI) तेज चलाने की कोशिश करे, कार उसे रोक देती है।
- शोध पत्र में: नियमों को ऐसे कोड में बदल दिया जाता है जो AI के साथ चलता है। यदि AI कुछ अनैतिक करने की कोशिश करता है, तो "गार्डरेल" उसे ब्लॉक कर देता है।
चरण 5: "अंतिम परीक्षा" (सत्यापन - Verification)
इससे पहले कि रोबोट उपयोगकर्ता के घर जाए, वह एक टेस्ट देता है।
- उपमा: इससे पहले कि एक पायलट यात्रियों को लेकर उड़ान भरे, वह एक सिम्युलेटर चेक करता है। कंप्यूटर हजारों परिदृश्यों को चलाता है: "क्या होगा यदि उपयोगकर्ता गिर जाता है? क्या होगा यदि फायर अलार्म बज जाता है? क्या होगा यदि उपयोगकर्ता सो रहा है?"
- शोध पत्र में: वे गणितीय रूप से सिद्ध करते हैं कि रोबoret नियमों को तोड़ नहीं सकता है। यदि वह परीक्षण में विफल रहता है, तो प्रोजेक्ट को रद्द कर दिया जाता है। हाँ, रद्द। एक "बुरे" रोबोट को खुले में छोड़ने से बेहतर है कि उसे बनाना ही छोड़ दिया जाए।
"चलता हुआ उदाहरण": देखभाल करने वाला रोबोट
शोध पत्र एक वास्तविक उदाहरण का उपयोग करता है: अल्जाइमर से पीड़ित व्यक्ति की मदद करने वाला एक रोबोट।
- परिदृश्य A: रोबोट देखता है कि व्यक्ति गिर गया है।
- खराब रोबोट: तुरंत 911 को कॉल करता है। (शायद व्यक्ति बस बैठ गया है और परेशान है)।
- SLEEC रोबोट: यह जाँचता है कि क्या व्यक्ति होश में है। यदि हाँ, तो पूछता है, "क्या आपको मदद चाहिए?" यदि वह कहता है "नहीं," तो यह इंतजार करता है। यदि वह कहता है "हाँ" या जवाब नहीं देता, तो यह 911 को कॉल करता है।
- परिदृश्य B: आग का अलार्म बजता है।
- खराब रोबोट: अग्निशमन विभाग को कॉल करने के लिए उपयोगकर्ता से अनुमति मांगता है। (बहुत धीमा!)
- SLEEC रोबोट: इसके पास एक "डिफीटर" (विजेता) नियम है। भले ही उपयोगकर्ता "नहीं" कहे, फायर अलार्म "नहीं" को ओवरराइड कर देता है क्योंकि सुरक्षा सर्वोच्च प्राथमिकता है।
बड़ी चुनौतियाँ (द "बट..." सेक्शन)
लेखक स्वीकार करते हैं कि यह कठिन है। यहाँ बाधाएं हैं:
- अनुवाद का अंतर (The Translation Gap): "मानवीय गरिमा" को कंप्यूटर कोड में बदलना एक कविता को स्प्रेडशीट में अनुवाद करने जैसा है। यह बहुत उलझा हुआ है।
- "क्या होगा अगर" की समस्या: आप ब्रह्मांड की हर संभावित स्थिति के लिए नियम नहीं लिख सकते (जैसा कि एलन ट्यूरिंग ने नोट किया था)।
- गति की समस्या: मानव नैतिकता सोचने में सेकंड लेती है; रोबोट मिलीसेकंड में निर्णय लेते हैं। आप रोबोट को इतनी तेजी से नैतिक रूप से "सोचने" के लिए कैसे तैयार करेंगे?
- टीम की समस्या: हमें इंजीनियरों की आवश्यकता है जो नैतिकता को समझते हों, और नीतिशास्त्रियों की आवश्यकता है जो कोड को समझते हों। अभी, वे अलग-अलग भाषाएं बोलते हैं।
निष्कर्ष
यह शोध पत्र एक आह्वान है। यह कहता है: "AI नैतिकता को एक मामूली विचार (afterthought) के रूप में मानना बंद करें।"
यदि हम चाहते हैं कि AI सुरक्षित और भरोसेमंद हो, तो हमें इसे बनाने के लिए एक व्यवस्थित, कठोर और गणितीय प्रक्रिया की आवश्यकता है। केवल यह उम्मीद करना पर्याप्त नहीं है कि रोबोट "अच्छा" होगा। हमें यह सिद्ध करना होगा, चरण-दर-चरण, कि वह हमारे मानवीय मूल्यों के अनुपालन (compliant) में है। यदि हम इसे सिद्ध नहीं कर सकते, तो हमें इसे बनाना ही नहीं चाहिए।
संक्षेप में: यह उम्मीद करने और वास्तव में यह परीक्षण करने के बीच का अंतर है कि आपकी कार में ब्रेक हैं या नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।