Are we Doomed to an AI Race? Why Self-Interest Could Drive Countries Towards a Moratorium on Superintelligence

तकनीकी सारांश: "क्या हम एआई (AI) की दौड़ के लिए अभिशप्त हैं? क्यों आत्म-हित देशों को सुपरइंटेलिजेंस पर रोक (Moratorium) की ओर ले जा सकता है"

समस्या का विवरण
आर्टिफिशियल सुपरइंटेलिजेंस (ASI) के इर्द-गिर्द चल रही चर्चा में प्रचलित दृष्टिकोण यह है कि इसके विकास पर वैश्विक रोक (moratorium) लगाना रणनीतिक प्रोत्साहनों के कारण अव्यवहारिक है। आलोचकों का तर्क है कि भले ही आपसी संयम सामूहिक रूप से इष्टतम (optimal) हो, व्यक्तिगत राज्यों के पास भू-राजनीतिक सर्वोच्चता के लिए दौड़ लगाने और डिफ़ेक्ट (defect) करने की एक प्रभावी रणनीति होती है। यह "नीचे की ओर दौड़" (race to the bottom) की गतिशीलता बताती है कि पीछे छूट जाने का डर ("सकर्स पेऑफ") नियंत्रण खोने के साझा जोखिम से कहीं अधिक बड़ा है, जिससे रोक लगाना एक राज्य के आत्म-हित के विरुद्ध हो जाता है। यह शोध पत्र उस धारणा को चुनौती देता है, और यह सवाल उठाता है कि क्या एक रोक कभी भी भू-राजनीतिक महाशक्तियों के लिए एक तर्कसंगत, आत्म-हित वाली रणनीति हो सकती है।

कार्यप्रणाली (Methodology)
लेखक दो भू-राजनीतिक महाशक्तियों (एक "अग्रणी" और एक "पिछड़ा हुआ") के बीच रणनीतिक अंतःक्रिया को मॉडल करने के लिए एक औपचारिक गेम-थ्योरेटिक ढांचे का उपयोग करते हैं। मॉडल "दौड़" (मानक सुरक्षा उपायों के साथ विकास जारी रखना) या "विराम" (सुरक्षा को अधिकतम करने के लिए रोक लगाना) के निर्णय को संचालित करता है।

मॉडल चार प्रमुख चरों (variables) द्वारा परिभाषित है:

1. क्षमता अंतराल ($\Delta$): ASI विकसित करने में एक खिलाड़ी का सापेक्ष लाभ, जिसमें कंप्यूटिंग शक्ति और अनुसंधान प्रगति जैसे कारक शामिल हैं।
2. विजेता का लाभ ($W$): प्रथम-आगत (first-mover) लाभ का मूल्य, जो 0 (सहयोगात्मक) से 1 (विजेता-सब-ले-जाएगा) तक होता है, जो हारने वाले की भू-राजनीतिक अधीनता को दर्शाता है।
3. अनियंत्रित ASI की लागत ($C$): नियंत्रण खोने से होने वाली अरुचि (disutility), जिसे सुरक्षित जीत के लाभ के सापेक्ष सामान्यीकृत किया गया है (1 तक सामान्यीकृत)। महत्वपूर्ण रूप से, मॉडल $C > 1$ की अनुमति देता है, जो उन परिदृश्यों को दर्शाता है जहाँ सभ्यता का पतन किसी भी रणनीतिक लाभ से अधिक गंभीर है।
4. तकनीकी अनिश्चितता ($\sigma$): ASI के विकास की संभावना और समयसीमा के संबंध में एपिस्टेमिक अनिश्चितता।

नीतिगत विकल्प बाइनरी है: विराम ($s=1$, अधिकतम सुरक्षा) या दौड़ ($s=0.85$, जो विशेषज्ञ सर्वेक्षणों के आधार पर 15% विनाशकारी जोखिम का प्रतिनिधित्व करता है)। विश्लेषण "विनाशकारी लागत" ($C$) को "क्षमता अंतराल" ($\Delta$) के विरुद्ध मैप करके नैश इक्विलिब्रियम (Nash equilibria) की पहचान करता है ताकि यह निर्धारित किया जा सके कि किन परिस्थितियों में विराम एक राज्य के लिए तर्कसंगत सर्वोत्तम प्रतिक्रिया बन जाता है।

प्रमुख योगदान

1. आत्म-हित वाली रणनीति के रूप में रोक का औपचारिकीकरण: पिछले मॉडलों के विपरीत, जो अक्सर दौड़ को प्रिसनर्स डिलेमा (Prisoner's Dilemma) के रूप में देखते हैं जहाँ डिफेक्शन (defection) प्रभावी होता है, यह शोध पत्र प्रदर्शित करता है कि विशिष्ट पैरामीटर स्थितियों के तहत, एक रोक केवल एक सहयोगात्मक आदर्श नहीं बल्कि आत्म-हित से प्रेरित एक तर्कसंगत रणनीति है।
2. चार रणनीतिक दुनियाओं की पहचान: विनाशकारी लागत और क्षमता अंतराल एवं विजेता के लाभ के बीच परिवर्तनशीलता के माध्यम से, लेखक चार अलग-अलग रणनीतिक वातावरणों को रेखांकित करते हैं:
   • सुरक्षित सामंजस्य (Safe Harmony): दोनों राज्य विराम लगाने को तर्कसंगत पाते हैं क्योंकि विनाश की लागत इतनी अधिक है कि दौड़ने से कोई अतिरिक्त लाभ नहीं मिलता।
   • पूर्व-अधिग्रहण (Preemption): एकमात्र स्थिर परिणाम एक दौड़ है। प्रतिद्वंद्वी के प्रथम-आगत लाभ का डर, विनाश के डर से अधिक होता है, विशेष रूप से जब राज्य लगभग समानता की स्थिति में होते हैं।
   • विश्वास (Trust): एक समन्वय खेल (coordination game) जहाँ दोनों पक्ष आपसी विराम को प्राथमिकता देते हैं लेकिन प्रतिद्वंद्वी द्वारा दौड़ लगाने पर शोषण का डर रखते हैं।
   • उपाधिकरण (Subversion): एक विषम दुनिया जहाँ अग्रणी राज्य तर्कसंगली रूप से विराम चुनता है (उच्च जीत की संभावना और विनाश के डर के कारण), जबकि पिछड़ा हुआ राज्य अंतर को पाटने के लिए दौड़ लगाता है।
3. सीमाओं का परिमाणीकरण (Quantification of Thresholds): मॉडल उन विशिष्ट "लागत-सीमाओं" को मापता है जहाँ रणनीतिक स्थान दौड़ से विराम की ओर बदल जाता है। यह दिखाता है कि जैसे-जैसे नियंत्रण खोने की कथित लागत ($C$), विजेता के लाभ ($W$) और अनिश्चितता ($\sigma$) के सापेक्ष पर्याप्त रूप से बढ़ती है, तर्कसंगत रणनीति विराम की ओर स्थानांतरित हो जाती है।

परिणाम
विश्लेषण प्रकट करता है कि रोक की व्यवहार्यता स्थिर नहीं है बल्कि चरों के परस्पर प्रभाव पर निर्भर करती है:

• विनाशकारी लागत की भूमिका: जब अनियंत्रित ASI की कथित लागत भू-राजनीतिक सर्वोच्चता के अपेक्षित लाभों से अधिक हो जाती है, तो एक स्थिर रोक एक आत्म-हित वाला विकल्प बन जाता है।
• अनिश्चितता का प्रभाव: मध्यम तकनीकी अनिश्चितता ($\sigma$) रोक के लिए रणनीतिक स्थान को विस्तृत करती है। जब राज्य जीतने की दौड़ की संभावना के बारे में अनिश्चित होते हैं, तो शॉर्टकट लेने का प्रोत्साहन कम हो जाता है, जिससे विराम अधिक तर्कसंगत हो जाता है।
• विजेता के लाभ का प्रभाव: विजेता के लाभ ($W$) में कमी, नियंत्रण खोने की लागत के उस स्तर को कम करती है जो विराम को तर्कसंगत बनाने के लिए आवश्यक है।
• अनुभवजन्य प्रक्षेपवक्र (Empirical Trajectory): शोध पत्र यह सुझाव देने के लिए अनुभवजन्य साक्ष्य प्रस्तुत करता है कि ASI जोखिम के प्रति वैश्विक धारणा बढ़ रही है। विशेषज्ञ बयानों (जैसे, 2023 का ओपन लेटर, ब्लेचली घोषणा), जनमत सर्वेक्षणों (जैसे, रॉयटर्स/इप्सोस), और एआई सुरक्षा संस्थानों की स्थापना का हवाला देते हुए, लेखक तर्क देते हैं कि नियंत्रण खोने की कथित लागत ($C$) बढ़ रही है। यह बदलाव बताता है कि वे स्थितियाँ जिनमें एक रोक किसी राज्य के आत्म-हित में है, वर्तमान भू-राजनीतिक परिदृश्य में अधिक प्रशंसनीय होती जा रही हैं।

महत्व और दावे
यह शोध पत्र इस धारणा को पलटने का दावा करता है कि रोक स्वाभाविक रूप से किसी राज्य के आत्म-हित के विरुद्ध है। यह तर्क देता है कि "दौड़" एक अपरिहार्य परिणाम नहीं है बल्कि विशिष्ट पैरामीटर मानों का एक आकस्मिक परिणाम है—विशेष रूप से, सर्वोच्चता के लाभों के सापेक्ष विनाश की कथित कम लागत।

लेखक विनम्रतापूर्वक निष्कर्ष निकालते हैं कि हालांकि वर्तमान भू-राजनीतिक वास्तविकता अभी भी प्रतिस्पर्धी गतिशीलता से प्रभावित है, फिर भी एक स्थिर, तर्कसंगत रोक के लिए रणनीतिक स्थान विस्तृत हो रहा है। वे तर्क देते हैं कि जैसे-जैसे नियंत्रण समस्याओं पर वैज्ञानिक सहमति बढ़ती है और विनाशकारी परिणामों की गंभीरता की कथित तीव्रता बढ़ती है, आत्म-हित वाले राज्यों के लिए एक स्थिर, तर्कसंगत रोक का डोमिनेंट स्ट्रेटेजी (dominant strategy) बनने की स्थितियाँ "सामान्य रूप से मानी जाने वाली तुलना में अधिक करीब" हैं। यह शोध पत्र यह दावा नहीं करता कि रोक सुनिश्चित है, बल्कि यह कि यह विकसित होती स्थितियों के तहत एक व्यवहार्य, तर्कसंगत विकल्प है, जो इस नियतिवादी (fatalistic) दृष्टिकोण को चुनौती देता है कि एआई दौड़ अपरिहार्य है।