AI Governance Under Political Constraints: The Case for Ex Post Liability
यह लेख तर्क देता है कि 'एक्स पोस्ट स्ट्रिक्ट लायबिलिटी' (घटना के पश्चात कठोर दायित्व) राजनीतिक बाधाओं के तहत सबसे सुदृढ़ एआई गवर्नेंस उपकरण है क्योंकि यह 'एक्स एंटे' (पूर्व-निर्धारित) नियमों में व्याप्त कैप्चर और सर्वसम्मति की विफलताओं से बचता है, जबकि पूरक उपकरणों को वर्गीकृत करने और नागरिक दायित्व को कमजोर करने के प्रयासों का मूल्यांकन करने के लिए एक ढांचा प्रदान करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस उन नियमों की तुलना में अधिक तेजी से आगे बढ़ रहा है जो इसे निर्देशित करने के लिए बनाए गए हैं। जैसे-जैसे ये प्रणालियाँ अधिक शक्तिशाली होती जा रही हैं, वे चिकित्सा और विज्ञान में कठिन समस्याओं को हल करने का वादा करती हैं, लेकिन वे व्यापक धोखाधड़ी से लेकर महत्वपूर्ण मशीनों पर मानवीय नियंत्रण खोने तक, गंभीर नुकसान पहुँचाने की क्षमता भी रखती हैं। दुनिया भर की सरकारें यह तय करने की कोशिश कर रही हैं कि इस शक्ति को नुकसान पहुँचाने से पहले कैसे प्रबंधित किया जाए। केंद्रीय प्रश्न केवल यह नहीं है कि क्या नियम लिखे जाएँ, बल्कि यह है कि उन्हें इस तरह से कैसे लिखा जाए कि वे वास्तव में काम करें। चुनौती यह है कि कोई भी पूरी तरह से सहमत नहीं है कि ये प्रणालियाँ कितनी खतरनाक हैं, और जो लोग इन्हें बनाते हैं, उनका प्रभाव आम जनता की तुलना में राजनेताओं पर कहीं अधिक है। यह असंतुलन सख्त कानून पारित करना कठिन बनाता है जो कंपनियों को अपनी तकनीक को जारी करने से पहले उसे सुरक्षित साबित करने के लिए मजबूर करते हैं, क्योंकि राजनेता इस बात पर सहमत नहीं हो पा रहे हैं कि "सुरक्षित" का अर्थ क्या है या कितना जोखिम स्वीकार्य है।
ह्यूस्टन विश्वविद्यालय के एक शोधकर्ता गेब्रियल वेल का एक नया शोध पत्र तर्क देता है कि अनिश्चितता से निपटने का सबसे अच्छा तरीका भविष्य की भविष्यवाणी करने की कोशिश करना बंद करना और अतीत के लिए भुगतान करना शुरू करना है। कंपनियों को एक नया आर्टिफिशियल इंटेलिजेंस बनाने या जारी करने से पहले सरकारी अनुमोदन प्राप्त करने के लिए मजबूर करने के बजाय, पेपर एक ऐसी प्रणाली का सुझाव देता है जहाँ कंपनियों को उनकी तकनीक द्वारा वास्तव में पहुँचाए गए किसी भी नुकसान के लिए वित्तीय रूप से जिम्मेदार ठहराया जाता है। "एक्स पोस्ट लायबिलिटी" (ex post liability) के रूप में जानी जाने वाली यह पद्धति सुरक्षा का बोझ स्वयं डेवलपर्स पर डाल देती है। यदि तकनीक अच्छी तरह से काम करती है और कोई समस्या नहीं होती है, तो कंपनियाँ कुछ भी नहीं चुकातीं। यदि यह कोई आपदा उत्पन्न करती है, तो उन्हें नुकसान की भरपाई करनी होगी। वेल का विश्लेषण बताता है कि यह पद्धति राजनीतिक दबाव के विरुद्ध अधिक मजबूत है और अग्रिम रूप से सख्त नियम सेट करने की तुलना में तकनीक की अज्ञात प्रकृति के लिए बेहतर अनुकूल है।
पेपर यह समझाते हुए शुरू होता है कि आर्टिफिशियल इंटेलिजेंस की दुनिया में पारंपरिक नियमन के तरीके विफल होने की संभावना क्यों है। आमतौर पर, सरकारें नियम निर्धारित करके, लाइसेंस की आवश्यकता देकर या कंपनियों द्वारा पैदा किए गए जोखिमों के लिए कर वसूल कर जोखिम का प्रबंधन करने की कोशिश करती हैं। उदाहरण के लिए, एक सरकार कह सकती है कि किसी कंपनी को अपनी प्रणाली का उपयोग करने से पहले यह साबित करना होगा कि वह सुरक्षित है, या वह उस कंप्यूटिंग शक्ति के आधार पर एक कर लगा सकती है जिसका सिस्टम उपयोग करता है। हालाँकि, इन तरीकों के लिए इस बात पर स्पष्ट सहमति की आवश्यकता होती है कि तकनीक कितनी खतरनाक है। एक टैक्स दर या सुरक्षा नियम निर्धारित करने के लिए, राजनेताओं को पहले यह तय करना होगा कि कितनी हानि की उम्मीद की जाए। वेल बताते हैं कि विशेषज्ञ इस पर सहमत नहीं हैं। कुछ का मानना है कि विनाश का जोखिम लगभग निश्चित है, जबकि अन्य इसे नगण्य मानते हैं। क्योंकि तकनीक इतनी नई और जटिल है, इसलिए इस बहस को सुलझाने के लिए कोई ठोस डेटा मौजूद नहीं है। जोखिम की साझा समझ के बिना, राजनेताओं द्वारा निर्धारित कोई भी नियम या कर या तो आपदा को रोकने के लिए बहुत कमजोर होगा या इतना सख्त होगा कि वह सभी प्रगति को रोक देगा।
इसके अलावा, पेपर का तर्क है कि राजनीतिक प्रक्रिया स्वयं प्रभावी नियमन के विरुद्ध झुकी हुई है। जो लोग आर्टिफिशियल इंटेलिजेंस सिस्टम की गलती से पीड़ित होंगे वे आम जनता हैं, जो बिखरी हुई और असंगठित हैं। जो कंपनियाँ इन प्रणालियों को बनाती हैं, वे कम संख्या में, धनी और अपने हितों की रक्षा के लिए अत्यधिक प्रेरित हैं। एक राजनीतिक व्यवस्था में, संगठित समूहों के पास धन के कारण सामान्य जनता की तुलना में अधिक प्रभाव होता है। यदि कोई सरकार सख्त नियम लागू करने की कोशिश करती है, तो ये कंपनियाँ नियमों को कमजोर करने या उन्हें आसानी से दरकिनार करने के लिए लॉबिंग कर सकती हैं। वे अपनी तकनीकी विशेषज्ञता का उपयोग नियामकों को भ्रमित करने के लिए भी कर सकती हैं, जो अक्सर यह समझाने के लिए कंपनियों पर ही निर्भर होते हैं कि तकनीक कैसे काम करती है। यह एक ऐसी स्थिति पैदा करता है जहाँ नियम जनता के बजाय कंपनियों की रक्षा करते हैं।
वेल प्रस्तावित करते हैं कि वास्तविक नुकसान के लिए कंपनियों को उत्तरदायी ठहराना इन राजनीतिक जालों से बचता है। 'स्ट्रिक्ट लायबिलिटी' (strict liability) के तहत, एक कंपनी को सिस्टम बनाने के लिए अनुमति लेने की आवश्यकता नहीं होती है, और न ही उसे सरकार के साथ एक विशिष्ट जोखिम स्तर पर सहमत होने की आवश्यकता होती है। इसके बजाय, कंपनी को बस यह पता होता है कि यदि उसका सिस्टम किसी को नुकसान पहुँचाता है, तो उसे भुगतान करना होगा। यह तब भी अच्छी तरह से काम करता है जब कोई नहीं जानता कि तकनीक कितनी खतरनाक है। यदि तकनीक सुरक्षित निकलती है, तो कंपनी कुछ भी नहीं चुकाती। यदि यह खतरनाक निकलती है, तो कंपनी नुकसान की भरपाई करती है। यह कंपनी के लिए खुद यह पता लगाने हेतु एक शक्तिशाली प्रोत्साहन बनाता है कि सिस्टम को सुरक्षित कैसे बनाया जाए, क्योंकि यदि कुछ गलत होता है तो बिल भरने वाले वे स्वयं होंगे।
पेपर एक सामान्य चिंता का भी समाधान करता है: क्या होगा यदि कोई आपदा इतनी बड़ी हो कि कंपनी उसका भुगतान करने में सक्षम न हो? उन मामलों में जहाँ नुकसान इतना बड़ा है कि एक एकल कंपनी उसे कवर नहीं कर सकती, लेखक 'प्यूनिटिव डैमेजेस' (punitive damages) का उपयोग करने का सुझाव देते हैं। इसका अर्थ है कि यदि कोई कंपनी ऐसा जोखिम लेती है जिससे आपदा आ सकती है, तो भले ही आपदा अभी तक नहीं आई हो, उन्हें भारी जुर्माना लगाया जा सकता है यदि वे इसके करीब पहुँच जाते हैं। यह जुर्माना उनके द्वारा पैदा किए गए संभावित खतरे के आधार पर गणना किया जाएगा, न कि केवल उनके द्वारा पहुँचाए गए वास्तविक नुकसान के आधार पर। यह सुनिश्चित करता है कि कंपनियों के पास सबसे बड़े जोखिमों के प्रति सावधान रहने का कारण बना रहे, भले ही उन्हें लगे कि वे पकड़े नहीं जाएंगे। छोटी दुर्घटनाओं के लिए भुगतान करने के लिए कंपनियों के पास पर्याप्त पैसा न होने की समस्या को संभालने के लिए, पेपर उन्हें बीमा खरीदने की आवश्यकता का सुझाव देता है। बीमा कंपनियाँ फिर निजी नियामक के रूप में कार्य करेंगी, प्रणालियों की सुरक्षा की जाँच करेंगी और अधिक जोखिम वाले सिस्टम के लिए अधिक कीमत वसूलेंगी।
लेखक इस दृष्टिकोण की तुलना अन्य विचारों से करते हैं जो वर्तमान में चर्चा में हैं, जैसे कि कंपनियों को "सेफ हार्बर" (safe harbor) या कुछ सरकारी नियमों का पालन करने पर मुकदमों से छूट देना। पेपर का तर्क है कि यह एक बुरा सौदा है। यदि किसी कंपनी को केवल एक चेकलिस्ट का पालन करने के कारण नुकसान के लिए भुगतान करने से बचने की अनुमति दी जाती है, तो उनके पास अपने सिस्टम को वास्तव में सुरक्षित बनाने के लिए न्यूनतम आवश्यकताओं से आगे जाने का कम कारण होगा। पेपर अमेरिका और यूरोप में हाल के विधायी प्रस्तावों का भी अवलोकन करता है जो लायबिलिटी (दायित्व) को रेगुलेशन (नियमन) के साथ बदलने की कोशिश करते हैं। वेल पाते हैं कि इनमें से कोई भी प्रस्ताव अच्छा मूल्य प्रदान नहीं करता है। वे कंपनियों को जवाबदेह बनाने की प्रणाली को कमजोर करने की ओर झुकते हैं, बिना लोगों को सुरक्षित रखने के लिए एक मजबूत विकल्प प्रदान किए।
पेपर निष्कर्ष निकालता है कि जबकि पारदर्शिता संबंधी आवश्यकताएं और सुरक्षा अनुसंधान जैसे अन्य उपकरण उपयोगी हैं, उन्हें लायबिलिटी (दायित्व) प्रणाली का समर्थन करना चाहिए, न कि उसका स्थान लेना चाहिए। आर्टिफिशियल इंटेलिजेंस को शासित करने का सबसे प्रभावी तरीका यह है कि बाजार और अदालतों को जोखिमों को सुलझाने का काम करने दिया जाए। डेवलपर्स को उनके द्वारा पहुँचाए गए नुकसान के लिए भुगतान करवाकर, यह प्रणाली उन्हें अपनी गलतियों की लागत को आंतरिक रूप से वहन करने के लिए मजबूर करती है। इस दृष्टिकोण के लिए राजनेताओं को भविष्य के बारे में सहमत होने की आवश्यकता नहीं है, और न ही यह उन्हें प्रगति को मनमाने ढंग से रोकने की शक्ति देता है। यह केवल यह सुनिश्चित करता है कि जो तकनीक बनाते हैं, वही विफलता की स्थिति में लागत वहन करें। एक ऐसी दुनिया में जहाँ जोखिम अज्ञात हैं और राजनीति कठिन है, यह विधि सुरक्षा के लिए सबसे विश्वसनीय मार्ग प्रदान करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।