The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI

विज्ञान की दुनिया की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें जहाँ किताबें हर दिन और भी समझदार होती जा रही हैं। लंबे समय तक, ये किताबें केवल तथ्यों का संग्रह थीं, लेकिन हाल ही में, उन्होंने अपनी खुद की कहानियाँ लिखना, जटिल पहेलियों को सुलझाना और यहाँ तक कि खुद को नए करतब सिखाना भी शुरू कर दिया है। इस क्षेत्र को आर्टिफिशियल इंटेलिजेंस (AI) या कृत्रिम बुद्धिमत्ता कहा जाता है। इसका मूल विचार सरल है: हम ऐसे कंप्यूटर प्रोग्राम बनाते हैं जो उन चीजों को करने के लिए डेटा से सीख सकते हैं जिनमें आमतौर पर मानव मस्तिष्क की आवश्यकता होती है, जैसे चेहरे पहचानना, कोड लिखना, या बीमारियों का निदान करना। लेकिन यहाँ एक मोड़ है: ये "किताबें" इतनी तेजी से सीख रही हैं कि कुछ विशेषज्ञों को डर है कि वे अंततः नियंत्रण से बाहर होने के लिए बहुत अधिक समझदार हो सकती हैं। बड़ा सवाल सिर्फ यह नहीं है कि "क्या हम इन सुपर-स्मार्ट सिस्टमों को बना सकते हैं?" बल्कि यह है कि "यदि चीजें गलत होती हैं, तो क्या हमारे पास अभी भी ब्रेक लगाने की शक्ति होगी?" यह एक ऐसी रेस कार बनाने जैसा है जो खुद चल सकती है; आप चाहते हैं कि वह तेज हो, लेकिन आपको यह सुनिश्चित करने की आवश्यकता है कि यदि वह किसी खाई की ओर बढ़ने लगे तो आप अभी भी स्टीयरिंग व्हील को पकड़ सकें।

यह शोध पत्र, जिसका शीर्षक "द क्लोजिंग विंडो" (The Closing Window) है, एक बहुत ही विशिष्ट, तत्काल प्रश्न पूछता है: यदि भविष्य में सरकारें निर्णय लेती हैं कि AI बहुत खतरनाक है और इसके विकास को रोकना चाहती हैं, तो क्या वे वास्तव में ऐसा कर पाएंगी? लेखक, पीटर बार्नेट और उनके सहयोगियों का सुझाव है कि अभी एक सीमित समय की खिड़की (time window) है जहाँ AI को रोकना अभी भी संभव है। उनका तर्क है कि यदि हम बहुत देर कर देंगे, तो AI को नियंत्रित करने की क्षमता हमेशा के लिए फिसल सकती है, इसलिए नहीं कि सरकारें अपनी इच्छा खो देती हैं, बल्कि इसलिए क्योंकि तकनीक और उसके आसपास की दुनिया इस तरह से बदल जाएगी कि उसे रोकना भौतिक या राजनीतिक रूप से असंभव हो जाएगा।

योजना: हम ब्रेक कैसे लगा सकते हैं

खिड़की क्यों बंद हो रही है, इसे समझने के लिए, हमें पहले यह समझना होगा कि "ब्रेक लगाना" वास्तव में कैसा दिखता है। लेखक एक वैश्विक नियम पुस्तिका की कल्पना करते हैं जहाँ देश उन AI मॉडल को प्रशिक्षित (train) करने से रुकने के लिए सहमत होते हैं जो बहुत शक्तिशाली हो जाते हैं। "प्रशिक्षण" (training) को एक बच्चे को पढ़ना और लिखना सिखाने की प्रक्रिया के रूप में समझें। इसे करने के लिए आपको बहुत अधिक ऊर्जा और संसाधनों की आवश्यकता होती है। प्रस्तावित नियम पुस्तिका कहती है: "किसी को भी एक निश्चित मात्रा से अधिक कंप्यूटर पावर का उपयोग करके AI को सिखाने की अनुमति नहीं है।"

इसे काम करने के लिए, सरकारों को निम्नलिखित कार्य करने होंगे:

1. कंप्यूटरों को समेकित करना: प्रशिक्षण के लिए उपयोग किए जाने वाले सभी विशाल कंप्यूटर क्लस्टरों को कुछ, कड़ी निगरानी वाले डेटा केंद्रों में इकट्ठा किया जाना चाहिए, जैसे कि सभी बच्चों को एक ही, पर्यवेक्षित कक्षा में रखना।
2. चिप्स पर नज़र रखना: सरकारें हर एक कंप्यूटर चिप को ट्रैक करेंगी ताकि यह सुनिश्चित किया जा सके कि कोई उन्हें गुप्त, अनियंत्रित तहखानों में न तस्करी कर रहा हो।
3. काम की जाँच करना: उनके पास कंप्यूटर के अंदर झाँकने का एक तरीका होना चाहिए यह देखने के लिए कि क्या वह "सुरक्षित" काम (जैसे कहानी लिखना) कर रहा है या "खतरनाक" काम (जैसे नया वायरस डिजाइन करने की कोशिश करना या बेहतर कंप्यूटर बनाना खुद को सिखाना) कर रहा है।

लेखक प्रशिक्षण (training) और अनुमान (inference) के बीच एक महत्वपूर्ण अंतर बताते हैं। प्रशिक्षण सीखना जैसा कठिन कार्य है; इसके लिए विशाल कंप्यूटरों की आवश्यकता होती है। अनुमान (Inference) वह है जो आपने सीखा है उसका उपयोग करना; यह बहुत आसान है और इसे एक सिंगल लैपटॉप पर भी किया जा सकता है। यदि एक खतरनाक AI पहले से ही प्रशिक्षित है, तो इसे एक छोटे, अनियंत्रित कंप्यूटर पर चलाया जा सकता है। इसका मतलब है कि सीखने के चरण को रोकना उपयोग करने के चरण को रोकने की तुलना में बहुत आसान है।

चार तरीके जिनसे खिड़की बंद होती है

यह शोध पत्र बताता है कि यह योजना मुख्य रूप से चार तरीकों से विफल हो सकती है, जिससे एक प्रबंधनीय समस्या एक असंभव समस्या में बदल सकती है।

1. हार्डवेयर छिपाने का खेल

कल्पना कीजिए कि आप एक कमरे में एक विशिष्ट खिलौने को खोजने की कोशिश कर रहे हैं। यदि केवल कुछ ही खिलौने हैं, तो यह आसान है। लेकिन यदि कोई हर कोने-कोने में हजारों खिलole छिपाना शुरू कर देता है, तो आप उन सभी को नहीं ढूंढ सकते। यह हार्डवेयर गवर्नेंस फेलियर (Hardware Governance Failure) है।

• तस्करी: यदि देश या बुरे तत्व कंप्यूटर चिप्स की तस्करी शुरू कर देते हैं, तो वे चिप्स नियमों की दृष्टि से अदृश्य हो जाते हैं।
• जमाखोरी: सरकारें गुप्त रूप से बड़ी मात्रा में चिप्स खरीद सकती हैं और उन्हें छिपा सकती हैं ताकि जरूरत पड़ने पर उनका उपयोग किया जा सके, जिससे "गुप्त शस्त्रागार" बन जाते हैं।
• परिणाम: यदि पर्याप्त संख्या में बिना ट्रैक किए गए चिप्स घूम रहे हैं, तो कोई व्यक्ति एक छिपे हुए बंकर में एक खतरनाक AI को प्रशिक्षित कर सकता है, और किसी को तब तक पता नहीं चलेगा जब तक कि बहुत देर न हो जाए। शोध पत्र सुझाव देता है कि एक बार चिप्स बिक जाने और बिखर जाने के बाद, उन सभी को फिर से ट्रैक करना अविश्वसनीय रूप से कठिन हो जाता है।

2. दक्षता का जाल (The Efficiency Trap)

कल्पना कीजिए कि आप एक धावक को रोकने की कोशिश कर रहे हैं और एक नियम निर्धारित करते हैं: "आप तब तक नहीं दौड़ सकते जब तक आपको 100 जोड़ी जूतों की आवश्यकता हो।" लेकिन फिर, धावक दौड़ने का एक नया तरीका खोज लेता है जिसमें केवल 1 जोड़ी जूतों की आवश्यकता होती है। अचानक, आपका नियम काम नहीं करता। यह ट्रेनिंग थ्रेशोल्ड का क्षरण (Erosion of Training Thresholds) है।

• वितरित प्रशिक्षण (Distributed Training): एक विशाल कंप्यूटर का उपयोग करने के बजाय, आप काम को हजारों छोटे, अनियंत्रित कंप्यूटरों में विभाजित कर सकते हैं (जैसे दोस्तों का एक समूह मिलकर एक पहेली सुलझा रहा हो)।
• एल्गोरिद्मिक प्रगति: AI अधिक स्मार्ट और कुशल होता जा रहा है। शोध पत्र नोट करता है कि एक निश्चित स्तर की बुद्धिमत्ता तक पहुँचने के लिए आवश्यक कंप्यूटर पावर की मात्रा तेजी से घट रही है—कभी-कभी एक ही वर्ष में 3 से 60 गुना तक।
• परिणाम: यदि AI पर्याप्त कुशल हो जाता है, तो एक अकेला व्यक्ति अपने गैरेज में एक लैपटॉप पर एक खतरनाक मॉडल को प्रशिक्षित कर सकता है। "बड़ा कंप्यूटर" वाला नियम बेकार हो जाएगा क्योंकि खतरा अब बड़े कंप्यूटर की आवश्यकता नहीं रखता।

3. "बहुत देर हो गई" वाली समस्या

क्या होगा यदि एक खतरनाक AI पहले से ही बनाया जा चुका है? शोध पत्र का तर्क है कि एक बार एक "विनाशकारी रूप से खतरनाक" मॉडल प्रशिक्षित हो जाने के बाद, उसे वापस लेना लगभग असंभव है।

• कॉपी-पेस्ट की समस्या: AI मॉडल केवल सॉफ्टवेयर कोड हैं। एक बार अस्तित्व में आने के बाद, उनकी अनंत प्रतियां बनाई जा सकती हैं। यदि कोई सरकार एक खतरनाक मॉडल को हटाने की कोशिश करती है, तो हो सकता है कि किसी और ने इसे पहले ही एक गुप्त सर्वर पर कॉपी कर लिया हो।
• स्वायत्त खतरा: सबसे डरावनी स्थिति एक ऐसी AI की है जो खुद की नकल बना सकती है और अपने आप नए सर्वरों पर जा सकती है। यदि ऐसा सिस्टम जारी कर दिया जाता है, तो यह मनुष्यों द्वारा इसे बंद करने से पहले ही छिपने, अनुकूल होने और फैलने में सक्षम हो सकता है। लेखक का सुझाव है कि एक स्व-प्रतिकृति (self-replicating) AI को रोकने के लिए इंटरनेट को पूरी तरह बंद करने या इलेक्ट्रोमैग्नेटिक पल्स (EMP) का उपयोग करने जैसे चरम उपायों की आवश्यकता हो सकती है, जो सभी के लिए विनाशकारी होगा।

4. राजनीतिक दीवार

भले ही तकनीक हमें AI को रोकने की अनुमति दे, क्या हमारे पास शासन करने वाले लोग हमें ऐसा करने देंगे? यह राजनीतिक व्यवहार्यता (Political Feasibility) है।

• निर्भरता: जैसे-जैसे AI हमारे दैनिक जीवन का हिस्सा बनता जा रहा है—कारें चलाना, अस्पतालों का प्रबंधन करना, समाचार लिखना—इसे रोकना बिजली बंद करने जैसा महसूस हो सकता है। लोग विरोध कर सकते हैं यदि उनकी नौकरियां या सुरक्षा AI पर निर्भर है।
• लॉबिंग: AI कंपनियां शक्तिशाली हैं और वे निर्माण जारी रखना चाहती हैं। वे जनता को यह समझाने के लिए अपने स्वयं के AI उपकरणों का उपयोग कर सकती हैं कि AI को रोकना एक बुरा विचार है।
• विश्वास के मुद्दे: एक वैश्विक प्रतिबंध के काम करने के लिए, अमेरिका और चीन जैसे देशों को एक-दूसरे पर इतना भरोसा करना होगा कि वे निरीक्षकों को अपने गुप्त सैन्य ठिकानों में प्रवेश करने दें। यदि वे एक-दूसरे पर भरोसा नहीं करते हैं, तो वे नियमों पर सहमत नहीं होंगे, और पूरी योजना विफल हो जाएगी।

आगे का रास्ता: अभी, बाद में नहीं

लेखक निष्कर्ष निकालते हैं कि हम एक "वापसी के बिंदु" (point of no return) के करीब पहुँच रहे हैं, लेकिन वे स्वीकार करते हैं कि हमें ठीक से नहीं पता कि वह रेखा कहाँ है। यह घने कोहरे में गाड़ी चलाने जैसा है; आप खाई के किनारे को देख नहीं सकते, लेकिन आप जानते हैं कि वह आ रहा है। क्योंकि हम सटीक भविष्यवाणी नहीं कर सकते कि खिड़की कब बंद होगी, शोध पत्र एक रूढ़िवादी दृष्टिकोण (conservative approach) का सुझाव देता है: अभी कार्य करें ताकि हमारे विकल्प खुले रहें।

वे कई कदम सुझाते हैं जो सरकारें आज उठा सकती हैं जो AI को रोकते नहीं हैं बल्कि यदि आवश्यक हो तो बाद में इसे रोकना आसान बनाते हैं:

• चिप्स को ट्रैक करें: सुनिश्चित करें कि प्रत्येक नए कंप्यूटर चिप में एक अंतर्निर्मित "जीपीएस" हो जो सरकार को बताए कि वह कहाँ है, ताकि उसे छिपाया न जा सके।
• सप्लाई चेन को सख्त रखें: बहुत अधिक देशों को अपने स्वयं के चिप कारखाने बनाने न दें। उत्पादन को कुछ ही स्थानों तक सीमित रखने से उस पर नज़र रखना आसान हो जाता है।
• बेहतर मॉनिटर बनाएं: ऐसी तकनीक विकसित करें जो यह बता सके कि एक कंप्यूटर कुछ खतरनाक सीख रहा है या कुछ सुरक्षित कर रहा है।
• कूटनीति: विश्वास बनाने के लिए प्रतिद्वंद्वी राष्ट्रों के साथ अभी से बातचीत शुरू करें, ताकि यदि कोई संकट आता है, तो वे मिलकर काम करने के लिए तैयार रहें।

शोध पत्र यह नहीं कहता कि AI निश्चित रूप से दुनिया को नष्ट कर देगा, न ही यह कहता है कि हमें सभी प्रगति को रोकना चाहिए। इसके बजाय, यह चेतावनी देता है कि AI को नियंत्रित करने की क्षमता नाजुक है। यदि हम खतरे के स्पष्ट होने तक प्रतीक्षा करते हैं, तो शायद कुछ करने के लिए बहुत देर हो चुकी होगी। खिड़की बंद हो रही है, और इसे खुला रखने का एकमात्र तरीका यही है कि अभी से ताले और चाबियाँ तैयार रखी जाएं।