Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

जब कोई नई तकनीक आती है, तो वह अपने साथ लाभ का वादा और जोखिम की छाया भी लेकर आती है। अक्सर, उस जोखिम का वास्तविक स्वरूप तब तक छिपा रहता है जब तक कि तकनीक का वास्तविक दुनिया में उपयोग नहीं किया जाता। यह विशेष रूप से आर्टिफिशियल इंटेलिजेंस (AI) के लिए सच है, जो एक ऐसा उपकरण है जो हमारे जीने, काम करने और संवाद करने के तरीके को नया आकार दे सकता है। क्योंकि खतरे इतने जटिल हैं और विशिष्ट स्थितियों पर निर्भर करते हैं, इसलिए सरकार के अधिकारियों सहित किसी के लिए भी तकनीक के तैनात होने से पहले ही उसके लिए आदर्श नियम लिखना कठिन है। समाज के सामने केंद्रीय प्रश्न केवल बुरे परिणामों को रोकने के बारे में नहीं है, बल्कि यह समझने के बारे में है कि जैसे-जैसे हम इनके बारे में अधिक जानते हैं, इन जोखिमों को प्रबंधित करने के सही तरीकों की खोज कैसे की जाए। इसमें "एक्सटर्नैलिटीज़" (externalities) को समझना शामिल है, एक ऐसा शब्द जिसका उपयोग अर्थशास्त्री उन लागतों या लाभों का वर्णन करने के लिए करते हैं जो मूल सौदे का हिस्सा न होने वाले लोगों को प्रभावित करते हैं। जब एक नई तकनीक पड़ोसियों या अजनबियों के लिए समस्याएँ पैदा करती है, तो वे समस्याएँ 'एक्सटर्नैलिटीज़' कहलाती हैं। चुनौती यह है कि ये बाहरी प्रभाव अक्सर इतने उलझे हुए और अप्रत्याशित होते हैं कि कोई भी एकल प्राधिकरण पहले से उनका मानचित्रण नहीं कर सकता।

दो शोधकर्ताओं, अली पालिदा और निकोलस थिलमैन ने इस समस्या पर एक अलग दृष्टिकोण तलाशने का निर्णय लिया। यह पूछने के बजाय कि सरकार को आर्टिफिशियल इंटेलिजेंस को कैसे विनियमित करना चाहिए, उन्होंने यह पूछा कि सरकारी विनियमन कैसे निजी समूहों को उनके अपने समाधान खोजने से रोक सकता है। उनका तर्क है कि नई तकनीक का उपयोग करने की प्रक्रिया खोज का एक रूप है। चीजों को आजमाकर, लोग सीखते हैं कि क्या काम करता है, क्या विफल होता है, और किसे सुरक्षा की आवश्यकता है। यह सीखने की प्रक्रिया लोगों को—जैसे बीमा कंपनियों, सुरक्षा प्रमाणन निकायों, या यहाँ तक कि एक-दूसरे के साथ बातचीत करने वाले पड़ोसियों को—विशिष्ट स्थितियों के अनुकूल लचीले नियम बनाने की अनुमति देती है। लेखकों का सुझाव है कि यदि सरकार बहुत जल्दी एक सख्त प्रतिबंध या कठोर नियम के साथ हस्तक्षेप करती है, तो यह उन प्रयोगों को बाधित कर सकती है जो तकनीक को संचालित करने का सबसे अच्छा तरीका खोजने के लिए आवश्यक हैं।

इस विचार का परीक्षण करने के लिए, शोधकर्ताओं ने तीन ऐतिहासिक उदाहरणों को देखा जहाँ नई तकनीकों को समान अनिश्चितताओं का सामना करना पड़ा था। पहला उदाहरण 1800 के दशक के अंत में बिजली से संबंधित है। जब बिजली के बल्ब और बिजली की लाइनें पहली बार पेश की गईं, तो उनसे बार-बार आग लगने की घटनाएं हुईं, लेकिन कोई नहीं जानता था कि कौन से उपकरण सुरक्षित हैं। सरकार ने तुरंत सुरक्षा मानक निर्धारित करने के लिए हस्तक्षेप नहीं किया। इसके बजाय, 'अंडरराइटर्स लैबोरेटरीज' नामक एक निजी संगठन उभरा। बीमा कंपनियों द्वारा शुरू किया गया, जो आग से होने वाले नुकसान से चिंतित थीं, इस समूह ने विद्युत उपकरणों का परीक्षण करना और अपने स्वयं के सुरक्षा मानक बनाना शुरू किया। जैसे-जैसे उन्होंने अधिक उपकरणों का परीक्षण किया और देखा कि किस कारण से आग लगती है, उन्होंने अपने नियमों को परिष्कृत किया। उनकी निजी प्रणाली इतनी विश्वसनीय हो गई कि शहरों ने उनके मानकों को कानून में अपनाया, और निर्माताओं ने उत्पाद बेचने के लिए उनकी स्वीकृति प्राप्त करना शुरू किया। लेखक नोट करते हैं कि यह प्रणाली इसलिए काम कर गई क्योंकि यह लचीली थी; यह वास्तविक उपयोग के माध्यम से नए खतरों के खोजे जाने के साथ बदल सकती थी, न कि उन नियमों में फंसी रही जो किसी को जोखिमों के बारे में पता चलने से पहले लिखे गए थे।

दूसरा उदाहरण साइबर बीमा की दुनिया से आता है। जैसे-जैसे कंप्यूटर और इंटरनेट का विस्तार हुआ, हैकर्स एक बड़ा खतरा बन गए, लेकिन इन खतरों की प्रकृति लगातार बदलती रही। एक वर्ष, मुख्य जोखिम चोरी किए गए क्रेडिट कार्ड नंबर हो सकते हैं; अगले वर्ष, यह रैनसमवेयर हो सकता है जो अस्पताल के रिकॉर्ड को लॉक कर देता है। क्योंकि जोखिम इतने परिवर्तनशील थे, सरकारी नियामक ऐसे नियम लिखने में संघर्ष करते रहे जो प्रासंगिक बने रहें। हालाँकि, निजी बीमा कंपनियों ने तेजी से अनुकूलन किया। उन्होंने ऐसी पॉलिसियाँ देना शुरू किया जिनमें कंपनियों को कवरेज प्राप्त करने के लिए विशिष्ट सुरक्षा मानकों को पूरा करना आवश्यक था। यदि कोई कंपनी अपनी सुरक्षा अपडेट करने में विफल रहती, तो बीमा कंपनी कीमत बढ़ा देती या पॉलिसी रद्द कर देती। इसने एक फीडबैक लूप बनाया: जैसे-जैसे हमलों के नए प्रकार सामने आए, बीमाकर्ताओं ने दावों के डेटा से सीखा और अपनी आवश्यकताओं को अपडेट किया। इस निजी प्रणाली ने सुरक्षा नियमों के निरंतर, वास्तविक समय के समायोजन की अनुमति दी, जो एक धीमी गति वाली सरकारी नौकरशाही के लिए कठिन हो सकता था।

तीसरी कहानी रेडियो प्रसारण के शुरुआती दिनों की है। सरकार द्वारा रेडियो फ्रीक्वेंसी को प्रबंधित करने के लिए एक केंद्रीय एजेंसी बनाने से पहले, स्टेशन अक्सर एक-दूसरे के साथ हस्तक्षेप करते थे, जिससे संकेतों का एक अराजक मिश्रण पैदा होता था। सामान्य धारणा यह थी कि इस अराजकता को केवल एक केंद्रीय प्राधिकरण द्वारा ही ठीक किया जा सकता है। हालाँकि, शोधकर्ताओं ने पाया कि सरकार के हस्तक्षेप से पहले, रेडियो स्टेशन वास्तव में एक-दूसरे के साथ बातचीत कर रहे थे। वे फ्रीक्वेंसी का व्यापार करते थे, प्रसारण के समय पर सहमति व्यक्त करते थे, या हस्तक्षेप से बचने के लिए प्रतिस्पर्धियों को खरीद लेते थे। बातचीत और संपत्ति अधिकारों की इस निजी प्रणाली ने रेडियो उद्योग को बढ़ने और मूल्यवान बनने में मदद की। यह केवल बाद में हुआ जब सरकार ने इस लचीली, निजी प्रणाली को एक कठोर, केंद्रीकृत योजना से बदल दिया। लेखक तर्क देते हैं कि यह बदलाव इसलिए नहीं हुआ क्योंकि निजी प्रणाली विफल हो गई थी, बल्कि इसलिए हुआ क्योंकि राजनेताओं और शक्तिशाली प्रसारकों ने हवा के कीमती तरंगों (airwaves) पर नियंत्रण करना चाहा। परिणाम स्वरूप एक ऐसा तंत्र मिला जो कम अनुकूल और नवाचार में धीमा था।

इस प्रक्रिया के तंत्र को समझने के लिए, शोधकर्ताओं ने एक सरल मॉडल बनाया कि जब भविष्य अज्ञात हो तो निर्णय लेना कैसे काम करता है। उनके मॉडल में, एक नई तकनीक का उपयोग किया जाता है, और परिणामों को देखा जाता है। यह अवलोकन सभी को कुछ नया सिखाता है। यदि तकनीक से प्रभावित लोगों का एक समूह जब भी उन्हें कुछ नया पता चलता है, तो मिल सकता है और अपने नियमों पर फिर से बातचीत कर सकता है, तो वे नई वास्तविकता के अनुरूप अपने दृष्टिकोण को समायोजित कर सकते हैं। वे तय कर सकते हैं कि यदि तकनीक खतरनाक है तो उसका उपयोग बंद कर दें, या यदि वह सुरक्षित है लेकिन उसमें सुधार की आवश्यकता है तो उसके उपयोग के तरीके को बदल दें। हालाँकि, यदि कोई बाहरी प्राधिकरण एक स्थायी प्रतिबंध या एक निश्चित नियम लागू करता है जिसे निजी समझौते द्वारा बदला नहीं जा सकता, तो सीखने की प्रक्रिया रुक जाती है। प्रतिबंध उस प्रयोग को रोकता है जो सच्चाई को प्रकट करने के लिए आवश्यक था। भले ही समूह बाद में यह जान ले कि तकनीक सुरक्षित और फायदेमंद है, फिर भी वे पुराने नियम में फंसे रहते हैं क्योंकि वे सरकार के वीटो के इर्द-गिर्द सौदेबाजी नहीं कर सकते।

शोधकर्ताओं ने पाया कि इससे दो विशिष्ट समस्याएँ उत्पन्न होती हैं। पहला, एक स्थायी प्रतिबंध उस सीखने की प्रक्रिया को रोकता है जो जोखिमों को समझने के लिए आवश्यक है। दूसरा, भले ही समूह यह सीख ले कि एक अलग व्यवस्था सभी के लिए बेहतर होगी, लेकिन सरकार का निश्चित नियम उन्हें वह परिवर्तन करने से रोकता है। लेखक जोर देते हैं कि इसका मतलब यह नहीं है कि सरकारी नियम हमेशा बुरे होते हैं। कभी-कभी, एक ऐसी आपदा को रोकने के लिए प्रतिबंध आवश्यक होता है जिसे जोखिम में डालने का खतरा बहुत अधिक हो। लेकिन यह अध्ययन सुझाव देता है कि हमें प्रतिबंध की तत्काल सुरक्षा और बेहतर, अधिक लचीले समाधानों की खोज को रोकने की दीर्घकालिक लागत के बीच संतुलन बनाना चाहिए। लक्ष्य केवल तकनीक को बिना किसी नियंत्रण के छोड़ना नहीं है, बल्कि उन नियमों को लागू करने से बचना है जो हमें यह सीखने से पहले ही रोक देते हैं कि क्या काम करता है।

यह शोध पत्र निष्कर्ष निकालता है कि आर्टिफिशियल इंटेलिजेंस के लिए प्रभावी शासन कुछ ऐसा नहीं हो सकता जिसे हम शुरुआत से ही पूर्ण रूप से डिजाइन कर सकें। इसके बजाय, यह कुछ ऐसा हो सकता है जो हमारे द्वारा तकनीक के उपयोग और अपनी गलतियों से सीखने के साथ उभरता है। निजी समूह, अनुबंधों, बीमा और प्रमाणन के माध्यम माध्यम, अक्सर तेजी से सीखने और अनुकूलन करने के लिए बेहतर स्थिति में होते हैं क्योंकि उनका परिणाम में सीधा हित होता है। वे नई जानकारी आते ही अपने नियमों को बदल सकते हैं। सरकारी हस्तक्षेप, हालांकि कभी-कभी आवश्यक होता है, सिस्टम को स्थिर करने का जोखिम उठाता है इससे पहले कि सही नियम खोजे जा सकें। लेखकों का सुझाव है कि आगे का सबसे अच्छा रास्ता यह है कि इस निजी प्रयोग को होने के लिए स्थान दिया जाए, यह सुनिश्चित करते हुए कि हम उस प्रक्रिया को न रोक दें जो हमें तकनीक को सुरक्षित रूप से प्रबंधित करना सिखाएगी। नीति निर्माताओं के लिए चुनौती तत्काल नुकसान से लोगों की रक्षा करना है, बिना भविष्य में बेहतर, अधिक प्रभावी शासन के मार्ग को बाधित किए।