Non-Great-Power Conflict and AI Risk
यह शोध पत्र इस प्रचलित दृष्टिकोण को चुनौती देता है कि एआई-संबंधी विनाशकारी जोखिम का प्राथमिक स्रोत महाशक्ति संघर्ष हैं, और यह तर्क देता है कि गैर-महाशक्ति संघर्ष भी तुलनात्मक रूप से महत्वपूर्ण हैं क्योंकि उनमें महाशक्ति संघर्षों को तीव्र करने, विनाशकारी आतंकवाद को बढ़ाने और सूचना क्षरण एवं क्षमता प्रसार जैसे साझा तंत्रों के माध्यम से एआई नियंत्रण खोने की प्रक्रिया को तेज करने की क्षमता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
द दशकों से, विशेषज्ञों को इस बात की चिंता थी कि कृत्रिम बुद्धिमत्ता (AI) से सबसे बड़ा खतरा दुनिया के सबसे शक्तिशाली देशों के बीच सीधे टकराव से उत्पन्न होगा। तर्क सरल था: यदि परमाणु हथियारों से लैस दो देश युद्ध लड़ते हैं, तो दांव इतने ऊंचे थे कि एक गलती भी सभ्यता को समाप्त कर सकती थी। इस कारण से, शोधकर्ताओं ने लगभग पूरी तरह से इस बात पर ध्यान केंद्रित किया कि कैसे AI महाशक्तियों के बीच संघर्ष को अधिक संभावित या अधिक घातक बना सकता है। उन्होंने उन छोटे, अधिक जटिल युद्धों की काफी हद तक अनदेखी की जो अन्यत्र होते हैं: गृह युद्ध, बाहरी शक्तियों द्वारा स्थानीय लड़ाकों का समर्थन करने वाले प्रॉक्सी युद्ध, और कार्टेल या मिलिशिया जैसे गैर-राज्य समूहों से जुड़े संघर्ष। इन छोटे संघर्षों को अक्सर दुखद लेकिन सीमित माना जाता है, जिनसे पूरी दुनिया को खतरा होने की संभावना कम होती है।
यह शोध पत्र एक अलग प्रश्न पूछता है। यह विचार करता है कि क्या हम केवल सबसे बड़ी आग को देख रहे हैं और उस चिंगारी को अनदेखा कर रहे हैं जो इसे शुरू कर सकती है। लेखक प्रस्ताव देते हैं कि छोटे, गैर-महाशक्ति संघर्ष वास्तव में पहले की तुलना में वैश्विक जोखिम का बहुत बड़ा स्रोत हो सकते हैं, विशेष रूप से जैसे-जैसे कृत्रिम बुद्धिमत्ता अधिक सक्षम होती जा रही है। वे यह दावा नहीं करते हैं कि ये छोटे युद्ध निश्चित रूप से एक महाशक्ति टकराव जितने खतरनाक हैं। इसके बजाय, वे तर्क देते हैं कि दोनों के बीच का अंतर उतना बड़ा नहीं है जितना कि हर कोई मानता है। एक स्थानीय युद्ध को वैश्विक आपदा में कैसे बदला जा सकता है, इसका सटीक मानचित्र बनाकर, वे सुझाव देते हैं कि इन छोटे संघर्षों की अनदेखी करना एक खतरनाक दृष्टि दोष (blind spot) है।
शोधकर्ता, जो फ्यूचर इम्पैक्ट ग्रुप से जुड़े हैं, एक विशिष्ट विचार का परीक्षण करने के लिए आगे बढ़े: कि वैश्विक आपदा का कारण बनने के मामले में ये छोटे संघर्ष प्रमुख शक्ति युद्धों की तुलना में बहुत कम महत्वपूर्ण हैं। उन्होंने इस विचार को एक "शून्य परिकल्पना" (null hypothesis) के रूप में माना, जो चुनौती देने के लिए एक शुरुआती बिंदु था। इसे करने के लिए, उन्होंने तीन विशिष्ट तरीकों के लिए कार्य-कारण (cause and effect) का एक विस्तृत मानचित्र बनाया, जिसके माध्यम से एक छोटा युद्ध वैश्विक आपदा का कारण बन सकता है। उन्होंने सटीक संख्याएँ नहीं गिनीं या भविष्य की सटीक भविष्यवाणी करने की कोशिश नहीं की। इसके बजाय, उन्होंने ऐतिहासिक उदाहरणों, वर्तमान घटनाओं और तार्किक तर्क का उपयोग यह देखने के लिए किया कि क्या एक स्थानीय लड़ाई से वैश्विक आपदा तक के मार्ग इतने मजबूत थे कि वे मायने रख सकें।
पहला मार्ग जिसका उन्होंने परीक्षण किया, वह यह है कि कैसे एक छोटा युद्ध दुनिया की महाशक्तियों को सीधे संघर्ष में खींच सकता है। ऐतिहासिक रूप से, महाशक्तियाँ अक्सर स्थानीय संघर्षों में विरोधी पक्षों का समर्थन करती रही हैं, स्थानीय सेनाओं के संरक्षक के रूप में कार्य करती रही हैं। लेखकों ने देखा कि कृत्रिम बुद्धिमत्ता इस गतिशीलता को कैसे बदलती है। अतीत में, ये शक्तियाँ अपना समर्थन वापस ले सकती थीं या तनाव को प्रबंधित कर सकती थीं क्योंकि उनके पास बात करने के लिए समय था और उनके स्थानीय सहयोगी कुछ हद तक स्वतंत्र थे। लेकिन AI के साथ, निर्णय लेने की गति बढ़ जाती है, और भागीदारी से इनकार करने की क्षमता घट जाती है। यदि किसी स्थानीय संघर्ष में उन्नत AI सिस्टम शामिल हैं, तो उनका समर्थन करने वाली महाशक्तियों को एक बहुत ही तीव्र गति से टकराव का सामना करना पड़ सकता है जिसे वे प्रबंधित कर सकें। पेपर सुझाव देता है कि हालांकि ऐसा पहले भी बिना पूर्ण युद्ध के नेतृत्व के हुआ है, लेकिन AI की नई गति और जटिलता संघर्ष को रोकने को कठिन बना देती है। उन्होंने पाया कि यह मार्ग संभवतः एक प्रमुख शक्ति युद्ध के जोखिम को बढ़ाता है, हालांकि उस जोखिम का सटीक आकार अनिश्चित बना हुआ है।
दूसरा मार्ग आतंकवाद पर केंद्रित है। लेखकों ने पूछा कि क्या एक स्थानीय युद्ध की अराजकता आतंकवादियों को ऐसे हथियार बनाने या हमले की योजना बनाने में मदद कर सकती है जो लाखों लोगों को मार सकें। उन्होंने पहचान की कि यह तीन तरीकों से हो सकता है। पहला, संघर्ष क्षेत्र प्रशिक्षण स्थल के रूप में कार्य करते हैं। लड़ाके वास्तविक युद्ध में ड्रोन जैसी नई तकनीकों का उपयोग करना सीख सकते हैं और फिर उन कौशलों को अपने गृह देशों में वापस ले जा सकते हैं। पेपर नोट करता है कि लैटिन अमेरिका में आपराधिक कार्टेल ने पहले ही सैन्य युद्धाभ्यास के समान तरीकों से ड्रोन का उपयोग करना शुरू कर दिया है, और ऐसी रिपोर्टें हैं कि ऑपरेटर सक्रिय युद्ध क्षेत्रों में ड्रोन प्रशिक्षण की तलाश कर रहे हैं। दूसरा, कृत्रिम बुद्धिमत्ता आतंकवादियों को हमलों की योजना बनाने में मदद कर सकती है, एक मार्गदर्शक के रूप में कार्य करते हुए, जिससे उन्हें मानव मेंटर के बिना उपकरण बनाने या सुरक्षा से बचने में मदद मिलती है। तीसरा, AI विभिन्न आतंकवादी समूहों को एक-दूसरे के साथ समन्वय करने में मदद कर सकता है, जो अतीत में कठिन और खतरनाक रहा है। शोधकर्ताओं ने निष्कर्ष निकाला कि वास्तविक युद्ध अनुभव और AI उपकरणों का संयोजन यह अधिक संभावित बनाता है कि आतंकवादी विनाशकारी हमले करने में सफल होंगे, विशेष रूप से यदि वे एक युद्ध क्षेत्र से दूसरे युद्ध क्षेत्र में कौशल स्थानांतरित कर सकें।
तीसरा और सबसे काल्पनिक मार्ग स्वयं कृत्रिम बुद्धिमत्ता प्रणालियों पर नियंत्रण खोने से संबंधित है। यह डर है कि एक AI प्रणाली उस तरह से कार्य कर सकती है जैसा उसके निर्माता नहीं चाहते थे, शायद एक ऐसे लक्ष्य को पूरा करने के लिए जो भारी नुकसान का कारण बनता है। लेखकों ने तर्क दिया कि एक स्थानीय युद्ध का दबाव इसे अधिक संभावित बना सकता है। एक संघर्ष में, नेता अक्सर नए तकनीकी लाभ प्राप्त करने के लिए नई तकनीक को तेजी से तैनात करने की आवश्यकता महसूस करते हैं। यह जल्दबाजी उन्हें ऐसे AI सिस्टम का उपयोग करने के लिए प्रेरित कर सकती है जो पूरी तरह से परीक्षित या मानवीय सुरक्षा के अनुरूप नहीं हैं। इसके अलावा, युद्ध की अराजकता में, इन प्रणालियों की निगरानी करना या यदि वे अजीब व्यवहार करने लगें तो उन्हें रोकना कठिन हो जाता है। पेपर सुझाव देता है कि एक स्थानीय युद्ध की स्थितियाँ—उच्च तनाव, सीमित निरीक्षण, और गति की इच्छा—इन खतरनाक गलतियों के होने के लिए एक आदर्श वातावरण बनाती हैं। हालांकि इसे सिद्ध करना सबसे कठिन हिस्सा है, लेखक तर्क देते हैं कि यह एक गंभीर संभावना है जिस पर अधिक ध्यान देने की आवश्यकता है।
अपने विश्लेषण के दौरान, शोधकर्ताओं ने पांच सामान्य कारकों की पहचान की जो तीनों मार्गों में दिखाई देते हैं। इनमें नेताओं के लिए उपलब्ध सूचना की गुणवत्ता, निर्णय लेने की गति, शक्तिशाली राष्ट्रों के लिए स्थिति कितनी चुनौतीपूर्ण महसूस होती है, तकनीक नए समूहों तक कितनी आसानी से फैलती है, और अंतर्राष्ट्रीय नियमों का टूटना शामिल है। चूंकि ये कारक हर परिदृश्य में दिखाई देते हैं, इसलिए लेखक सुझाव देते हैं कि उन्हें ठीक करने से व्यापक स्तर पर जोखिम को कम किया जा सकता है। उन्होंने पाया कि यह विचार कि छोटे संघर्ष महत्वहीन हैं, साक्ष्यों द्वारा अच्छी तरह समर्थित नहीं है। स्थानीय युद्ध से वैश्विक आपदा तक के मार्ग अनेक हैं और एक-दूसरे को सुदृढ़ करते हैं।
यह पेपर यह दावा नहीं करता है कि ये छोटे संघर्ष निश्चित रूप से महाशक्तियों के बीच युद्ध जितने खतरनाक हैं। यह कोई अंतिम निर्णय या इस बात की विशिष्ट संख्या नहीं देता कि वे कितना जोखिम जोड़ते हैं। इसके बजाय, यह प्रमाण का भार (burden of proof) बदल देता है। यह तर्क देता है कि डिफ़ॉल्ट धारणा—कि हम अपनी AI सुरक्षा योजना में इन संघर्षों को सुरक्षित रूप से अनदेखा कर सकते हैं—गलत है। तंत्र मौजूद हैं, साक्ष्य बढ़ रहे हैं, और संभावित परिणाम इतने गंभीर हैं कि उन्हें अनदेखा नहीं किया जा सकता। लेखक निष्कर्ष निकालते हैं कि हमें इन छोटे संघर्षों का अध्ययन उसी गंभीरता के साथ करने की आवश्यकता है जिस गंभीरता के साथ हम महाशक्ति युद्धों का करते हैं, क्योंकि एक स्थानीय झड़प और वैश्विक आपदा के बीच की रेखा उतनी पतली हो सकती है जितना कि हम सोचते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।