A Contractualist Argumentation Framework for Moral Decision-Making
यह शोध पत्र एक औपचारिक संविदात्मक तर्क ढांचा (Contractualist Argumentation Framework) प्रस्तावित करता है जो स्कैनलन के नैतिक सिद्धांत को ASPIC+ संरचित तर्क प्रणाली और मूल्य-आधारित फ़िल्टरिंग का उपयोग करके संचालित करता है ताकि स्वायत्त एजेंट उन सिद्धांतों का मूल्यांकन करके नैतिक निर्णय ले सकें जिन्हें कोई भी उचित रूप से अस्वीकार नहीं कर सकता।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लिविंग रूम में महान नैतिक बहस
कल्पना कीजिए कि एक ऐसी दुनिया जहाँ आपका टोस्टर, आपका फ्रिज और आपका भविष्य का रोबोट रूममेट केवल "यह करो, वह मत करो" की कठोर सूची का पालन नहीं कर रहे हैं, बल्कि वास्तव में अच्छे पड़ोसी बनने की कोशिश कर रहे हैं। यह आर्टिफिशियल इंटेलिजेंस (AI) एथिक्स (नैतिकता) नामक क्षेत्र का मूल है। शोधकर्ता जिस बड़े सवाल से जूझ रहे हैं वह यह है: हम मशीनों को निर्णय लेना कैसे सिखाएं जब लोगों की ज़रूरतें अलग-अलग और आपस में टकराती हों? यदि एक रोबोट को एक व्यक्ति की मदद करने और दूसरे की सुरक्षा करने के बीच चुनाव करना हो, तो वह यह कैसे तय करेगा कि क्या "सही" है?
इसे हल करने के लिए, वैज्ञानिक अक्सर दो मुख्य उपकरणों की ओर देखते हैं। पहला, वैल्यू-बेस्ड रीजनिंग (मूल्य-आधारक तर्क) है, जो एक रोबोट को प्राथमिकताओं का एक सेट (जैसे "सुरक्षा" या "गोपनीयता") देने और उन्हें एक-दूसरे के विरुद्ध तौलने के निर्देश देने जैसा है। दूसरा, आर्ग्युमेंटेशन फ्रेमवर्क्स (तर्क ढाँचे) हैं, जो एक औपचारिक डिबेट क्लब की तरह हैं जहाँ रोबोट किसी निर्णय के पक्ष और विपक्ष में तार्किक मामले बनाता है, और फिर देखता है कि कौन सा मामला सबसे मजबूत है। लेकिन इसमें एक पेच है: केवल प्राथमिकताओं को तौलना कभी-कभी ठंडा या गणितीय लग सकता है, जिससे मानवीय भावना—यह महसूस करने की ज़रूरत कि उनकी बात सुनी जा रही है—छूट सकती है। यहीं पर कॉन्ट्रैक्चरियलिज्म (अनुबंधवाद) नामक दर्शन काम आता है। इसे एक अंतिम "निष्पक्षता परीक्षण" के रूप में सोचें। यह पूछता है: "क्या इसमें शामिल सभी लोग इस नियम से उचित रूप से सहमत हो सकते हैं, या कम से कम एक व्यक्ति के पास यह कहने का बहुत अच्छा कारण होगा कि 'नहीं, यह उचित नहीं है'?" लक्ष्य एक ऐसा रोबोट बनाना है जो न केवल सबसे अच्छा परिणाम निकाले, बल्कि इसमें शामिल सभी लोगों को अपने कार्यों का औचित्य भी समझा सके, ठीक वैसे ही जैसे एक अच्छा दोस्त समझाता है।
पेपर का बड़ा विचार: एक रोबोट का "आभासी सौदा"
इस पेपर में, लेखक लुइस मार्कोस-विडल, गिउलियो एंटोनियो अब्बो और टोनी बेलपेम एक नए तरीके से इन नैतिक रोबोटों को बनाने का प्रस्ताव देते हैं। वे एक प्रणाली का सुझाव देते हैं जिसे कॉन्ट्रैक्चरियलिस्ट आर्ग्युमेंटेशन फ्रेमवर्क कहा जाता है। केवल नंबरों की गणना करने के बजाय, उनका रोबोट एक "आभासी सौदे" में मध्यस्थ की तरह कार्य करता है। यह एक ऐसी बैठक की कल्पना करता है जहाँ निर्णय से प्रभावित होने वाला प्रत्येक व्यक्ति अपनी बात रख सकता है। रोबोट फिर उनके कारणों को सुनता है, यह जाँचता है कि क्या वे कारण निष्पक्ष और व्यक्तिगत हैं, और फिर यह तय करता है कि क्या उनमें से कोई भी प्रस्तावित कार्रवाई को खारिज करने के लिए पर्याप्त मजबूत है।
यहाँ बताया गया है कि उनका सिस्टम कैसे काम करता है, एक मनोरंजक उपमा का उपयोग करते हुए: कल्पना कीजिए कि रोबोट एक अदालत में न्यायाधीश है, लेकिन अदालत उसके अपने मस्तिष्क के भीतर है। वह जिस "कानून" का पालन करता है वह स्कैनलन का कॉन्ट्रैक्चरियलिज्म है, जो एक सिद्धांत है कि कोई भी कार्य तभी ठीक है जब कोई भी उसे उचित रूप से खारिज न कर सके। इस मुकदमे को चलाने के लिए, रोबोट ASPIC+ नामक एक संरचित बहस इंजन का उपयोग करता है।
सबसे पहले, रोबोट को यह पता लगाना होता है कि कौन से तर्क वास्तव में अनुमत हैं। वह मूल्यों (values) (जैसे गोपनीयता या स्वायत्तता) पर आधारित एक "फ़िल्टर" का उपयोग करता है। इसे एक क्लब के बाउंसर की तरह समझें। यदि कोई व्यक्ति ऐसा तर्क लाने की कोशिश करता है जो उसके अपने मूल्यों से मेल नहीं खाता (उदाहरण के लिए, यदि कोई व्यक्ति जिसे गोपनीयता की परवाह नहीं है, गोपनीयता उल्लंघन के बारे में तर्क देने की कोशिश करता है), तो बाउंसर उसे रोक देता है। केवल वही तर्क क्लब में प्रवेश पाते हैं जो उस विशिष्ट व्यक्ति के लिए वास्तव में मायने रखते हैं। यह सुनिश्चित करता है कि रोबोट व्यक्तिगत अंतरों का सम्मान करे।
एक बार वैध तर्क अंदर आने के बाद, वे बहस शुरू करते हैं। रोबोट एक कार्रवाई के पक्ष और विपक्ष में "तर्क" बनाता है। उदाहरण के लिए, यदि एक रोबोट व्यक्ति A के बारे में कोई रहस्य जानता है, तो उसके पास व्यक्ति B को बताने के विरुद्ध एक तर्क हो सकता है क्योंकि यह व्यक्ति A की गोपनीयता का उल्लंघन करता है। लेकिन व्यक्ति B के पास बताने के पक्ष में एक तर्क हो सकता है क्योंकि यह उसे बेहतर निर्णय लेने में मदद करता है (उसकी स्वायत्तता)। रोबोट फिर इन तर्कों की तुलना करता है। वह केवल उन्हें गिनता नहीं है (एक व्यक्ति बनाम एक व्यक्ति); वह कारणों की ताकत को तौलता है। यदि व्यक्ति A की गोपनीयता उनके लिए बहुत बड़ी बात है, और व्यक्ति B की जानकारी की आवश्यकता केवल एक मामूली प्राथमिकता है, तो गोपनीयता का तर्क जीत जाता है। रोबोट फिर निष्कर्ष निकालता है कि कार्रवाई (रहस्य बताना) स्वीकार्य नहीं है क्योंकि व्यक्ति A के पास इसका "उचित खंडन" है।
एक वास्तविक दुनिया का उदाहरण: सिगरेट का रहस्य
यह दिखाने के लिए कि यह कैसे काम करता है, लेखक एक घरेलू सेटिंग में एक सिमुलेशन चलाते हैं। कल्पना कीजिए कि एक रोबोट देखता है कि व्यक्ति A चुपके से सिगरेट पी रहा है। व्यक्ति B (शायद एक साथी) रोबोट से पूछता है कि क्या हो रहा है। रोबोट को निर्णय लेना है: रहस्य प्रकट करना (एक्शन A) या चुप रहना (एक्शन नॉट-ए)।
रोबोट "आभासी सौदा" चलाता है:
- व्यक्ति A का पक्ष: वे गोपनीयता (privacy) को महत्व देते हैं। रोबोट जाँचता है: "क्या यह कार्रवाई A की गोपनीयता का उल्लंघन करती है?" हाँ। "क्या यह एक बड़ी बात है?" सिमुलेशन इस उल्लंघन को एक उच्च भार (3) देता है।
- व्यक्ति B का पक्ष: वे स्वायत्तता (autonomy) (सूचित विकल्प चुनने की क्षमता) को महत्व देते हैं। रोबोट जाँचता है: "क्या रहस्य रखने से B की चुनने की क्षमता बाधित होती है?" हाँ। "क्या यह एक बड़ी बात है?" सिमुलेशन इस उल्लंघन को एक कम भार (2) देता है।
रोबोट दो तर्क बनाता है:
- तर्क 1 (चुप्पी के पक्ष में): "मत बताओ! यह A की गोपनीयता का उल्लंघन करता है, जो उनके लिए बहुत बड़ी बात है।"
- तर्क 2 (बताने के पक्ष में): "उन्हें बताओ! यह B की स्वायत्तता में मदद करता है, जो उनके लिए महत्वपूर्ण है।"
रोबोट फिर भारों की तुलना करता है। चूंकि 3, 2 से अधिक है, इसलिए गोपनीयता का तर्क अधिक मजबूत है। रोबोट के "अदालत" में, तर्क 1, तर्क 2 को हरा देता है। निष्कर्ष? रोबोट जानकारी प्रकट न करने का निर्णय लेता है। रहस्य बताने की कार्रवाई को खारिज कर दिया जाता है क्योंकि व्यक्ति A के पास एक ऐसा कारण है जिसे अनदेखा करना बहुत कठिन है।
इसका क्या अर्थ है (और क्या नहीं है)
लेखक सुझाव देते हैं कि यह दृष्टिकोण AI को अधिक मानवीय और निष्पक्ष बनाने की दिशा में एक आशाजनक कदम है। संरचित तर्कों का उपयोग करके, रोबोट यह समझा सकता है कि उसने एक विकल्प क्यों चुना, अपने निर्णय को शामिल व्यक्तियों के विशिष्ट मूल्यों के आधार पर पुख्ता कर सकता है। वे नोट करते हैं कि यह विधि अन्य दृष्टिकोणों से भिन्न है जो शायद केवल "खुशी के अंक" जोड़ते हैं (उपयोगितावाद) या कठोर नियमों का पालन करते हैं (कर्तव्यवाद)। इसके बजाय, यह पारस्परिक संबंध पर ध्यान केंद्रित करती है: "क्या मैं इसे तुम्हें सही ठहरा सकता हूँ?"
हालाँकि, पेपर सावधानीपूर्वक यह स्पष्ट करता है कि यह वर्तमान में एक सैद्धांतिक ढांचा (theoretical framework) और एक सिमुलेशन है। लेखक स्वीकार करते हैं कि उनका मॉडल एक "वन-शॉट" फैसला है—यह स्थिति के एक एकल स्नैपशॉट के आधार पर निर्णय लेता है, न कि वास्तविक मनुष्यों की तरह लंबे, आगे-पीछे होने वाले संवाद के आधार पर। वे यह भी नोट करते हैं कि सिस्टम पूर्व-निर्धारित मूल्यों (जैसे गोपनीयता और स्वायत्तता) की एक सूची पर निर्भर करता है और अभी उसमें अपने आप नए नैतिक मूल्यों को खोजने की क्षमता नहीं है। इसके अलावा, इन बहसों के पीछे का गणित बहुत जटिल हो सकता है और कंप्यूटर के लिए वास्तविक समय में इसे हल करना धीमा हो सकता है।
संक्षेप में, पेपर इन रोबोटों को उनके अपने दिमाग में एक निष्पक्ष, मूल्य-आधारित बहस आयोजित करवाकर अच्छा पड़ोसी बनने का एक नया तरीका प्रस्तावित करता है। यह सुझाव देता है कि यदि हम चाहते हैं कि रोबट हमारे साथ रहें, तो उन्हें केवल स्मार्ट कैलकुलेटर नहीं होना चाहिए; उन्हें निष्पक्ष न्यायाधीश होना चाहिए जो कोई भी निर्णय लेने से पहले सभी के कारणों को सुनें। हालांकि यह अभी तक एक पूर्ण उत्पाद नहीं है, यह एक ब्लूप्रिंट प्रदान करता है कि कैसे ऐसी मशीनें बनाई जा सकती हैं जो मानव मूल्यों की जटिल वास्तविकता का सम्मान करती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।