Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

द ग्रेट एआई रोलरकोस्टर: क्यों भविष्य एक सीधी रेखा नहीं है

कल्पना कीजिए कि आप आर्टिफिशियल इंटेलिजेंस (AI) के भविष्य के बारे में एक फिल्म देख रहे हैं। लंबे समय से, सबसे लोकप्रिय कथानक दो बहुत अलग तरह की आपदाओं के रहे हैं। पहला है "अचानक क्रैश": एक सुपर-स्मार्ट रोबोट एक सुबह जागता है, यह तय करता है कि इंसान अब बेकार हैं, और पलक झपकते ही दुनिया पर कब्जा कर लेता है। दूसरा है "धीमा पतन": हम बेहतर और बेहतर उपकरण बनाते हैं, और धीरे-धीरे, बिना किसी को पता चले, हम अपनी सारी शक्ति उन्हें सौंप देते हैं जब तक कि हम अपने ही जीवन में केवल यात्री बनकर रह जाते हैं। ये दोनों कहानियाँ यह मानती हैं कि एक बार जब हम इन मशीनों को बनाना शुरू कर देते हैं, तो वे बस आगे बढ़ती रहेंगी, और समाज बस देखता रहेगा, जो ट्रेन को रोकने में असमर्थ होगा।

लेकिन एक तीसरी संभावना भी है जिसे अक्सर नजरअंदाज कर दिया जाता है: यह विचार कि भविष्य की कहानी खुद भविष्य को बदल सकती है। पेट्र ओ. जेडलिका (Petr O. Jedlička) द्वारा लिखा गया यह शोध पत्र, मानव समाज की अव्यवस्थित, अराजक और अप्रत्याशित दुनिया में उतरकर एक सरल प्रश्न पूछता है: क्या होता है जब लोग AI के सुपर-स्मार्ट बनने से पहले ही उसके बारे में डरने, गुस्सा होने या उत्साहित होने लगते हैं? लेखक का तर्क है कि हम तकनीक को केवल एक गणितीय समस्या की तरह नहीं देख सकते। हमें लोगों को देखना होगा। ठीक वैसे ही जैसे एक रोलरकोस्टर केवल ट्रैक का पालन नहीं करता; यह इस पर निर्भर करता है कि सवार चिल्ला रहे हैं, मजबूती से पकड़े हुए हैं, या कूदने की कोशिश कर रहे हैं। यदि सवारी करने वाले लोग घबरा जाते हैं या विरोध करते हैं, तो सवारी शीर्ष पर पहुँचने से बहुत पहले ही रुक सकती है, दिशा बदल सकती है या दुर्घटनाग्रस्त हो सकती है। यह पेपर सुझाव देता है कि सबसे बड़ा खतरा (या सबसे बड़ी उम्मीद) AI से नहीं, बल्कि इसके विचार के प्रति हमारी प्रतिक्रिया से आ सकता है।

पेपर का बड़ा विचार: "सोशल सिंगुलैरिटी" (सामाजिक विलक्षणता)

पेपर AI जोखिम के एक लोकप्रिय समूह की कहानियों की आलोचना से शुरू होता है जिसे "क्रमिक सशक्तिकरण का अभाव" (gradual disempowerment) कहा जाता है। कासिरज़ादेह (Kasirzadeh) और कुलवेट (Kulveit) जैसे विचारकों द्वारा लिखी गई ये कहानियाँ एक ऐसे भविष्य की कल्पना करती हैं जहाँ AI धीरे-धीरे हमारी नौकरियों, हमारी सरकारों और हमारे निर्णयों पर कब्जा कर लेता है। वे एक "उबलते मेंढक" वाली स्थिति की कल्पना करते हैं: पानी गर्म होता जा रहा है, लेकिन मेंढक (हम) तब तक बाहर नहीं कूदता जब तक कि बहुत देर न हो जाए। लेखक का तर्क है कि ये कहानियाँ पहेली का एक बड़ा हिस्सा भूल रही हैं। वे समाज को एक निष्क्रिय मूवी स्क्रीन की तरह मानती हैं जहाँ AI प्रोजेक्टर बस अपनी रोशनी डालता है, इस तथ्य को नजरअंदाज करते हुए कि दर्शक टमाटर फेंक सकते हैं, प्रोजेक्टर बंद कर सकते हैं, या मंच पर भी टूट पड़ सकते हैं।

लेखक इस गायब हिस्से को "तकनीकी नियतिवाद" (technological determinism) कहते हैं। यह यह विश्वास है कि तकनीक का अपना दिमाग होता है और वह चाहे जो भी हो, आगे बढ़ती रहेगी। पेपर सुझाव देता है कि यह गलत है। इतिहास हमें दिखाता है कि जब नए आविष्कार आते हैं, तो लोग केवल बैठे नहीं रहते। वे बहस करते हैं, संगठित होते हैं, मशीनें तोड़ते हैं (लुडाइट्स/Luddites को याद करें?), और नए नियम बनाते हैं। पेपर प्रस्तावित करता है कि रोबोट-संचालित दुनिया की ओर एक सुचारू स्लाइड के बजाय, हम संघर्षों, बहसों और अचानक रुकावटों से भरी एक अव्यवस्थित, ऊबड़-खाबड़ यात्रा देखेंगे।

इंजन रूम: समाज वास्तव में कैसे काम करता है

यह समझाने के लिए कि "धीमे पतन" की कहानी की संभावना क्यों कम है, लेखक "सामाजिक तंत्रों" (social mechanisms) का एक टूलबॉक्स पेश करते हैं। इन्हें उन छिपे हुए गियरों के रूप में सोचें जो समाज को चलाते हैं, अक्सर उन तरीकों से जो हमें आश्चर्यचकित कर देते हैं।

1. कहानी कहने की शक्ति (व्याख्या और प्रदर्शनशीलता - Interpretation and Performativity)
कल्पना कीजिए कि एक अफवाह फैलती है कि एक बैंक दिवालिया होने वाला है। भले ही बैंक के पास पर्याप्त पैसा हो, यदि हर कोई यह मानने लगे कि वह दिवालिया है और अपना कैश निकालने के लिए दौड़ पड़े, तो बैंक वास्तव में दिवालिया हो जाएगा। विश्वास ने वास्तविकता को जन्म दिया। पेपर कहता है कि यह AI के साथ भी होता है। यदि विशेषज्ञ और जनता ऐसी कहानियाँ सुनाना शुरू कर देते हैं कि "AI एक राक्षस है," तो लोग इसके अनुसार व्यवहार करेंगे, जिससे ऐसे कानून और विरोध प्रदर्शन होंगे जो इसे रोक सकते हैं। यदि वे कहानियाँ सुनाते हैं कि "AI एक रक्षक है," तो वे इसके खतरों को नजरअंदाज करते हुए इसे बनाने की दौड़ में लग सकते हैं। हम AI के बारे में जिस तरह से बात करते हैं, वह वास्तव में AI के काम करने के तरीके को बदल देता है।

2. महान संघर्ष (लामबंदी और संघर्ष - Mobilization and Conflict)
पेपर बताता है कि जब लोग खतरा महसूस करते हैं, तो वे केवल हार नहीं मानते; वे लड़ते हैं। जैसे अतीत में श्रमिकों ने अपनी नौकरियों को बचाने के लिए मशीनें तोड़ी थीं, आज हम "AI-प्रतिरोध आंदोलनों" को देख सकते हैं। एक तरफ, आपके पास "AI-निष्ठाभक्त" हो सकते हैं—कंपनियाँ और कार्यकर्ता जो नई तकनीक से प्यार करते हैं और इसे और अधिक चाहते हैं। दूसरी ओर, आपके पास "एंटी-AI कट्टरपंथी" हो सकते हैं जो खुद को पीछे छूटा हुआ या डरा हुआ महसूस करते हैं। ये दो समूह आपस में टकरा सकते हैं, जिससे एक राजनीतिक तूफान पैदा हो सकता है जो AI के सुचारू प्रसार को रोक सकता है। पेपर सुझाव देता है कि भविष्य एक सीधी रेखा नहीं है; यह एक युद्धक्षेत्र है जहाँ विभिन्न समूह यह तय करने के लिए लड़ रहे हैं कि तकनीक किस दिशा में जाएगी।

3. अलग रास्ते (पथ निर्भरता और विचलन - Path Dependence and Divergence)
कल्पना कीजिए कि दोस्तों का एक समूह एक गंतव्य तक जाने की कोशिश कर रहा है। यदि वे सभी एक ही मानचित्र पर सहमत हैं, तो वे एक साथ चलते हैं। लेकिन यदि वे अलग-अलग देशों में अलग-अलग नियमों के साथ हैं, तो वे पूरी तरह से अलग रास्तों पर समाप्त हो सकते हैं। पेपर नोट करता है कि अमेरिका, चीन और यूरोप के कानून, संस्कृतियाँ और अर्थव्यवस्थाएँ बहुत अलग हैं। अमेरिका अनियंत्रित AI के साथ आगे बढ़ सकता है, जबकि यूरोप एक धीमा, सुरक्षित लेकिन उबाऊ संस्करण बना सकता है, और चीन एक ऐसा संस्करण बना सकता है जो सख्त सरकारी नियमों का पालन करता है। इन अंतरों के कारण, AI दुनिया भर में समान रूप से नहीं फैलेगा। यह एक "बहु-गति" (multi-speed) दौड़ होगी, जिससे एक अव्यवस्थित दुनिया बनेगी जहाँ कुछ स्थान उन्नत AI से भरे होंगे और अन्य अभी शुरुआत ही कर रहे होंगे।

4. हृदय और आत्मा (सामाजिक-मनोवैज्ञानिक तंत्र - Social-Psychological Mechanisms)
यह व्यक्तिगत स्तर पर आता है। पेपर देखता है कि हम अपने AI मित्रों से कैसे प्यार या नफरत करना शुरू कर सकते हैं। कुछ लोग AI साथियों के साथ गहरे भावनात्मक संबंध बना सकते हैं, उन्हें परिवार की तरह मान सकते हैं (थोड़ा वैसा ही जैसे एक बच्चा रोबोट खिलौने के साथ जुड़ता है)। यह उन्हें AI की रक्षा करने के लिए प्रेरित कर सकता है। लेकिन अन्य लोग महसूस करेंगे कि उनकी स्वतंत्रता छीनी जा रही है। यदि कोई AI उन्हें क्या करना है यह बताने की कोशिश करता है, तो वे क्रोधित हो सकते हैं और विद्रोह कर सकते हैं (एक भावना जिसे "रिएक्टेंस" या प्रतिक्रियात्मकता कहा जाता है)। यह भावनात्मक खींचतान समाज को दो समूहों में विभाजित कर सकती है: वे जो रोबोट को गले लगाना चाहते हैं और वे जो उन्हें तोड़ना चाहते हैं।

बड़ा मोड़: "सोशल सिंगुलैरिटी" (सामाजिक विलक्षणता)

यहाँ पेपर का सबसे रोमांचक विचार है। आमतौर पर, लोग "टेक्नोलॉजिकल सिंगुलैरिटी" (तकनीकी विलक्षणता) के बारे में बात करते हैं—वह क्षण जब AI इतना स्मार्ट हो जाता है कि वह सब कुछ बदल देता है। लेकिन लेखक का सुझाव है कि हम एक अलग तरह की विलक्षणता का सामना पहले कर सकते है: सोशल सिंगुलैरिटी।

इसे इस तरह सोचें: "टेक्नोलॉजिकल सिंगुलैरिटी" वह क्षण है जब रॉकेट वास्तव में अंतरिक्ष में पहुँच जाता है। "सोशल सिंगुलैरिटी" वह क्षण है जब ज़मीन पर मौजूद हर कोई चिल्लाने लगता है, "रुको! हम तैयार नहीं हैं!" और ईंधन की लाइनें काटने की कोशिश करता है। पेपर का तर्क है कि AI विस्फोट की प्रत्याशा (anticipation) इतनी शक्तिशाली है कि यह AI के सुपर-स्मार्ट बनने से पहले ही बड़े सामाजिक परिवर्तन ला देगी।

हम एक "सोशल सिंगुलैरिटी" देख सकते है जहाँ समाज AI के विचार के प्रति इतनी तीव्र प्रतिक्रिया देता है कि वह तकनीक के मार्ग को बदल देता है। शायद हम इसे प्रतिबंधित कर दें, शायद हम इसे धीमा कर दें, या शायद हम इसके लिए युद्ध लड़ें। पेपर सुझाव देता है कि हमारे भविष्य की सबसे नाटकीय घटना AI का कब्जा करना नहीं होगा, बल्कि मनुष्य इस बात पर लड़ेंगे कि क्या उसे कब्जा करने देना चाहिए या नहीं।

इसका भविष्य के लिए क्या अर्थ है

पेपर यह नहीं कहता कि AI खतरनाक नहीं होगा। यह यह नहीं कहता कि हम निश्चित रूप से इसे रोक देंगे। इसके बजाय, यह कहता है कि भविष्य "धीमे पतन" की कहानियों के सुझाव से कहीं अधिक जटिल है। यह एक सीधी रेखा नहीं है जहाँ हम बस नियंत्रण खो देते हैं। यह कई संभावित रास्तों वाला एक शाखाओं वाला पेड़ है।

• यह कोई तय मामला नहीं है: भविष्य पत्थर की लकीर नहीं है। पेपर सुझाव देता है कि मानवीय संघर्ष, विभिन्न देशों के अलग-अलग कानूनों और हमारी भावनात्मक प्रतिक्रियाओं के कारण, AI का मार्ग घुमावों, मोड़ों और अचानक रुकावटों से भरा होगा।
• यह अव्यवस्थित है: हम एक ऐसी दुनिया देख सकते हैं जहाँ कुछ स्थानों पर उन्नत AI है और दूसरों में नहीं, या जहाँ कुछ शहरों में AI प्रतिबंधित है लेकिन अन्य में स्वतंत्र है।
• यह हमारे ऊपर है: सबसे महत्वपूर्ण कारक केवल वह कोड नहीं है जो प्रोग्रामर लिखते हैं; बल्कि वे बहसें, विरोध, कानून और उन लोगों की भावनाएँ हैं जो इस तकनीक के साथ रह रहे हैं।

संक्षेप में, पेपर हमें भविष्य को एक ऐसी फिल्म के रूप में कल्पना करना बंद करने के लिए कहता है जहाँ रोबोट अपने आप जीतते या हारते हैं। इसके बजाय, हमें इसे एक विशाल, अराजक रस्साकशी (tug-of-war) के खेल के रूप में कल्पना करनी चाहिए, जहाँ रस्सी AI का भविष्य है, और हम सभी उस पर खींच रहे हैं, यह तय करने की कोशिश कर रहे हैं कि यह किस दिशा में जाएगा। "सोशल सिंगुलैरिटी" वह क्षण है जब खेल इतना तीव्र हो जाता है कि पूरी दुनिया बदल जाती है, इसलिए नहीं कि रोबोट बुद्धिमान हो गए, बल्कि इसलिए क्योंकि हमने अंततः लड़ना तय कर लिया।