Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics
यह शोध पत्र तर्क देता है कि स्वायत्त वाहनों के नैतिकता में 'ट्रॉली प्रॉब्लम' का वास्तविक महत्व निश्चित दुर्घटना समाधान प्रदान करने में नहीं है, बल्कि एक विवाद के गतिशील ढांचे के रूप में कार्य करने में है जो चरम परिदृश्यों से लेकर जोखिम शासन और संस्थागत उत्तरदायित्व के व्यापक मुद्दों तक नैतिक जांच को निरंतर आकार देता है, उसे पुनर्गठित करता है और उसका विस्तार करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कारें खुद चलती हैं, जो उन क्षणिक निर्णय लेती हैं जो कभी पूरी तरह से मानव ड्राइवरों के होते थे। जैसे-जैसे हम इस भविष्य की ओर बढ़ रहे हैं, एक परिचित नैतिक पहेली बहस के केंद्र में आ गई है: ट्रॉली समस्या (trolley problem)। अपने क्लासिक रूप में, यह विचार प्रयोग एक व्यक्ति को दो भयानक परिणामों के बीच चयन करने के लिए कहता है, जैसे कि एक अनियंत्रित ट्रेन को एक व्यक्ति को मारने के बजाय पाँच लोगों को बचाने के लिए पटरी बदलने के लिए लीवर खींचना। वर्षों से, इस परिदृश्य का उपयोग यह पूछने के लिए किया जाता रहा है कि क्या स्वायत्त वाहनों (self-driving cars) को यात्रियों की बलि देने के लिए प्रोग्राम किया जाना चाहिए या पैदल चलने वालों के समूह को बचाने के लिए, या इसके विपरीत। जनता और प्रेस ने इस दुविधा को स्वायत्त वाहनों के नैतिकता के लिए अंतिम परीक्षण के रूप में माना है, यह मानते हुए कि वास्तविक चुनौती केवल यह तय करना है कि दुर्घटना में किसे टक्कर लगेगी। हालाँकि, एक नया दृष्टिकोण सुझाव देता है कि केवल इन चरम दुर्घटना क्षणों पर ध्यान केंद्रित करना इस बात की बड़ी तस्वीर को छोड़ देता है कि हम वास्तव में मशीनों में नैतिक नियम कैसे बनाते हैं।
हुनान नॉर्मल यूनिवर्सिटी के शोधकर्ता लिंग पेंग और डैन वान का तर्क है कि स्वायत्त वाहनों के युग में ट्रॉली समस्या का वास्तविक मूल्य यह नहीं है कि यह आपदा में कार को कैसे व्यवहार करना चाहिए इसके लिए कोई तैयार उत्तर प्रदान करती है। इसके बजाय, वे प्रस्तावित करते हैं कि यह समस्या सबसे पहले पूछे जाने वाले प्रश्नों को आकार देने के लिए एक शक्तिशाली उपकरण के रूपв रूप में कार्य करती है। यह अध्ययन करके कि इस प्रसिद्ध नैतिक पहेली का उपयोग कैसे किया गया है, इसकी आलोचना कैसे की गई है, और इंजीनियरों एवं नीतिशास्त्रियों द्वारा इसे कैसे अनुकूलित किया गया है, लेखक बताते हैं कि इस बहस ने वास्तव में अध्ययन के क्षेत्र का विस्तार किया है। बातचीत को केवल दुर्घटना के परिदृश्यों तक सीमित करने के बजाय, ट्रॉली समस्या से जुड़ी विवादास्पद चर्चा ने विशेषज्ञों को कारों द्वारा किए जाने वाले रोजमर्रा के, नियमित निर्णयों, समय के साथ जोखिमों का प्रबंधन कैसे किया जाता है, और जब चीजें गलत होती हैं तो कौन जिम्मेदार होता है, इस पर विचार करने के लिए मजबूर किया है। इस दृष्टिकोण से, ट्रॉली समस्या एक मृत अंत नहीं बल्कि एक शुरुआती बिंदु है जो बातचीत को आगे बढ़ाता रहता है।
इस बदलाव को समझने के लिए, सबसे पहले दर्शनशास्त्र में ट्रॉली समस्या कैसे काम करती है, इसे देखना होगा। यह केवल एक कठिन विकल्प के बारे में कहानी नहीं है; यह दो ऐसी स्थितियों की तुलना करने की एक विधि है जो दिखने में बहुत समान हैं लेकिन लोगों को सही होने के बारे में अलग-अलग महसूस कराती हैं। उदाहरण के लिए, कहानी के एक संस्करण में, एक व्यक्ति पटरी बदलने के लिए लीवर खींचकर पाँच लोगों को बचा सकता है, जिससे दूसरी ओर एक व्यक्ति मारा जाता है। अधिकांश लोग इसे स्वीकार्य महसूस करते हैं। दूसरे संस्करण में, पाँच लोगों को बचाने का एकमात्र तरीका ट्रेन को रोकने के लिए एक पुल से एक भारी व्यक्ति को धकेलना है। यहाँ, अधिकांश लोग इसे गलत महसूस करते हैं, भले ही परिणाम वही हो: एक व्यक्ति मर जाता है ताकि पाँच को बचाया जा सके। दार्शनिक इस भावना के अंतर का उपयोग यह पता लगाने के लिए करते हैं कि कौन से विशिष्ट विवरण नैतिक रूप से महत्वपूर्ण हैं। शोधकर्ता बताते हैं कि जब यह विधि स्वायत्त वाहनों की दुनिया में आती है, तो यह केवल संकट के क्षण की कहानी नहीं रह जाती, बल्कि यह सोचने के तरीके को व्यवस्थित करने के लिए एक ढांचा बन जाती है कि तकनीक के बारे में कैसे सोचा जाए।
जब स्वायत्त कारों को डिजाइन किया जाता है, तो वे सड़क पर आने से पहले निर्णय लेने के लिए प्रतीक्षा नहीं करती हैं। उनके नियम दुर्घटना होने से बहुत पहले लिखे जाते हैं। लेखक वर्णन करते हैं कि इस संदर्भ में ट्रॉली समस्या कैसे बदल जाती है। यह एक आपात स्थिति में मनुष्य को क्या करना चाहिए, इसके प्रश्न से बदलकर यह प्रश्न बन जाता है कि इंजीनियरों को सॉफ्टवेयर में कौन से नियम लिखने चाहिए। यह समस्या की प्रकृति को पूरी तरह से बदल देता है। "कार किसे टक्कर मारनी चाहिए?" पूछने के बजाय, प्रश्न यह बन जाता है कि "हम एक ऐसी प्रणाली कैसे बनाएं जो ये चुनाव करती है?" ट्रॉली समस्या शोधकर्ताओं को यह पहचानने में मदद करती है कि कार के कोड में किन मूल्यों को शामिल किया जा रहा है, जैसे कि क्या कार अपने यात्रियों की सुरक्षा को प्राथमिकता देती है या सड़क पर मौजूद लोगों को। यह एक लेंस के रूप में कार्य करता है जो कुछ नैतिक मुद्दों को स्पष्टता से सामने लाता है, विशेष रूप से नुकसान के आवंटन और मूल्यों के क्रम को।
हालाँकि, लेखक बताते हैं कि इस लेंस की एक सीमा है। यदि हम केवल ट्रॉली समस्या को देखते हैं, तो हम स्वायत्त कारें वास्तव में क्या करती हैं, उसके विशाल बहुमत को मिस कर सकते हैं। आलोचकों ने तर्क दिया है कि क्लासिक परिदृश्य बहुत चरम और अवास्तविक हैं। वास्तविक कारें एक व्यक्ति या पाँच लोगों को मारने के बीच पूर्ण, स्पष्ट-कट निर्णय का सामना नहीं करती हैं। वे हर सेकंड चुनौतीपूर्ण और अनिश्चित स्थितियों का सामना करती हैं। शोधकर्ताओं ने पाया कि जैसे-जैसे लोग इस बात पर बहस करते रहे कि क्या ट्रॉली समस्या स्वायत्त कारों के लिए एक अच्छा फिट है, उस बहस ने वास्तव में क्षेत्र को दुर्घटना से परे देखने के लिए प्रेरित किया। इस तर्क ने कि समस्या बहुत संकीर्ण है, विशेषज्ञों को ड्राइविंग की "साधारण स्थितियों" पर विचार करने के लिए मजबूर किया। ये सामान्य क्षण हैं, जैसे कि एक कार क्रॉसिंग पर पैदल यात्री के कितने करीब जा सकती है या व्यस्त चौराहे पर कितनी तेज गति से चल सकती है। ये नियमित निर्णय, जो दिन में लाखों बार होते हैं, जोखिम को समाज में इस तरह वितरित करते हैं जिसे एक एकल दुर्घटना परिदृश्य कैप्चर नहीं कर सकता।
यह शोध पत्र सुझाव देता है कि ट्रॉली समस्या मूल्यवान है क्योंकि यह विवादित है। इसके विरुद्ध तर्क—यह कहना कि यह बहुत सरल, बहुत नाटकीय या बहुत दुर्लभ है—इस विचार को त्यागने के संकेत नहीं हैं। इसके बजाय, ये आलोचनाएं एक तंत्र के रूप में कार्य करती हैं जो नैतिक बातचीत का विस्तार करती हैं। जब विशेषज्ञ कहते हैं कि ट्रॉली समस्या ड्राइविंग के रोजमर्रा के जोखिमों की अनदेखी करती है, तो वे जोखिम प्रबंधन और जिम्मेदारी के बारे में सोचने के नए तरीके बनाने के लिए मजबूर होते हैं। बहस "दुर्घटना में कार को क्या करना चाहिए?" से बदलकर "दुर्घटनाओं को रोकने के लिए कार को कैसे व्यवहार करना चाहिए?" और "सामान्य रूप से गाड़ी चलाते समय कार द्वारा उत्पन्न जोखिमों के लिए कौन जिम्मेदार है?" में बदल जाती है। ट्रॉली समस्या एक संदर्भ बिंदु के रूप में कार्य करती है जो इन नए प्रश्नों को संरचना देने में मदद करती है, भले ही इसकी आलोचना की जा रही हो। यह क्षेत्र को अपनी सीमाओं को परिभाषित करने और यह तय करने के लिए मजबूर करती है कि वास्तव में एक नैतिक समस्या क्या है।
अंततः, शोधकर्ता निष्कर्ष निकालते हैं कि ट्रॉली समस्या स्वायत्त कारों की नैतिक चुनौतियों का समाधान नहीं करती है। यह हमें यह नहीं बताती है कि वाहन को प्रोग्राम करने के लिए सही उत्तर क्या है। इसके बजाय, यह उन समस्याओं को तैयार करने के तरीके को आकार देती है जिन्हें हमें हल करने की आवश्यकता है। कुछ मुद्दों को प्रकाश में लाकर और दूसरों को छिपाकर, और फिर ठीक ऐसा करने के लिए आलोचना होकर, ट्रॉली समस्या नैतिक जांच को जीवित और विकसित होने में मदद करती है। यह हमें याद दिलाती है कि प्रौद्योगिकी नैतिकता का सबसे महत्वपूर्ण हिस्सा केवल सही उत्तर खोजना नहीं है, बल्कि यह समझना है कि हम प्रश्न क्या तय करते हैं। बहस स्वयं, अपने सभी मतभेदों और सुधारों के साथ, हमें उस नैतिक परिदृश्य की पूरी जटिलता को देखने की अनुमति देती है जिसमें स्वायत्त कारें प्रवेश कर रही हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।