The Dynamics of Intelligence Explosions
यह शोध पत्र एआई-संचालित बुद्धिमत्ता विस्फोट (इंटेलिजेंस एक्सप्लोजन) की गतिशीलता का गणितीय विश्लेषण करता है, जो यह प्रदर्शित करता है कि सिंगुलर विकास (सिंगुलर ग्रोथ) प्राप्त करना पहले की तुलना में अधिक कठिन है और यह रेखांकित करता है कि पीढ़ी समय (जेनरेशन टाइम) एक महत्वपूर्ण, अक्सर उपेक्षित कारक है जो यह निर्धारित करता है कि फीडबैक लूप्स के परिणामस्वरूप एक वर्टिकल एसिम्प्टोट (ऊर्ध्वाधर अनंतस्पर्शी) बनेगा या घातांकीय से भी तेज़ लेकिन परिमित विकास होगा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कार रेस देख रहे हैं जहाँ कारें खुद को बनाने में बेहतर होती जा रही हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक बहुत ही दिलचस्प विचार है जिसे "इंटेलिजेंस एक्सप्लोजन" (बुद्धि का विस्फोट) कहा जाता है। यह इस अवधारणा के बारे में है कि यदि कोई कंप्यूटर अगले, और भी अधिक स्मार्ट कंप्यूटर को डिजाइन करने में मदद करने के लिए पर्याप्त बुद्धिमान हो जाता है, तो वह नया कंप्यूटर एक और भी बेहतर कंप्यूटर को डिजाइन करने में मदद कर सकता है, और यह सिलसिला चलता रहता है। यह एक फीडबैक लूप बनाता है, जैसे एक माइक्रोफोन स्पीकर के बहुत करीब आने पर तीखी आवाज़ (फीडबैक शोर) पैदा करता है, लेकिन यहाँ शोर के बजाय, यह बुद्धिमत्ता का एक तीव्र विस्फोट है। वैज्ञानिक यह पता लगाने की कोशिश कर रहे हैं कि यह वास्तव में कितनी तेजी से हो सकता है। क्या यह एक स्थिर चढ़ाई होगी, एक तीव्र दौड़ होगी, या एक पल में होने वाली अचानक, असंभव छलांग होगी? यह सवाल गणितज्ञ टोबी ऑर्ड अपने शोध पत्र में उठाते हैं। वे इन स्व-सुधार करने वाली मशीनों के पीछे के गणित को देखते हैं ताकि यह देख सकें कि क्या वे वास्तव में एक "सिंगुलैरिटी" (singularity) तक पहुँच सकते हैं—एक ऐसा बिंदु जहाँ बुद्धिमत्ता इतनी तेजी से बढ़ती है कि वह एक सीमित समय में एक ऊर्ध्वाधर दीवार (vertical wall) से टकरा जाती है, या क्या इसके और भी अन्य, थोड़े धीमे लेकिन फिर भी अविश्वसनीय रूप से तेज़ तरीके हैं।
अनंत की दौड़: "छलांग" उम्मीद से अधिक कठिन क्यों हो सकती है
कल्पना कीजिए कि आप एक केक बना रहे हैं, लेकिन टाइमर का उपयोग करने के बजाय, आपके पास एक जादुई ओवन है। हर बार जब आप केक बनाते हैं, तो ओवन और स्मार्ट हो जाता है और अगले दौर के लिए एक बेहतर ओवन बनाता है। पहला ओवन 10 मिनट लेता है। दूसरा, अधिक स्मार्ट होने के कारण, तीसरे को 5 मिनट में बनाता है। तीसरा चौथे को 2.5 मिनट में बनाता है। यदि यह सिलसिला चलता रहता है, और अगला ओवन बनाने में लगने वाला समय आधा होता जाता है, तो आपको लग सकता है कि आप कुछ ही घंटों में अनंत संख्या में केक बना सकते हैं। यह एक "इंटेलिजेंस एक्सप्लोजन" का सपना है: एक ऐसी मशीन जो खुद को तेजी से और तेजी से स्मार्ट बनाती रहती है, जब तक कि वह मानव समझ से परे न निकल जाए।
लंबे समय तक, कई विशेषज्ञों का मानना था कि यह विस्फोट एक "वर्टिकल एसिम्प्टोट" (vertical asymptote) की तरह होगा। गणित के शब्दों में, एक ऐसे ग्राफ की कल्पना करें जहाँ रेखा सीधे ऊपर की ओर जाती है, जैसे कोई रॉकेट आकाश से टकरा रहा हो, और एक सीमित समय में अनंत ऊंचाई तक पहुँच जाता है। यह अंतिम "धमाका" है। लेकिन टोबी ऑर्ड का शोध पत्र बताता है कि हालांकि यह वर्टिकल रॉकेट संभव है, लेकिन इसे बनाना हमारी सोच से कहीं अधिक कठिन है। वास्तव में, विस्फोटों की एक पूरी दूसरी श्रेणी है जो अविश्वसनीय रूप से तेज़ है—एक्सपोनेंशियल (घातांकीय) से भी तेज़—लेकिन वे सीधे अनंत की ओर नहीं भागतीं। वे बस बहुत, बहुत तेज़ी से आगे बढ़ती हैं, लेकिन कभी उस ऊर्ध्वाधर दीवार से नहीं टकरातीं।
गुप्त सामग्री: "जनरेशन टाइम" (पीढ़ी का समय)
यह समझने के लिए कि वर्टिकल रॉकेट बनाना इतना कठिन क्यों है, हमें उस छिपे हुए चर (variable) को देखना होगा जिसे अधिकांश लोग भूल जाते हैं: जनरेशन टाइम (Generation Time)।
फीडबैक लूप को एक रिले रेस की तरह समझें। पहला धावक (AI 1) दूसरे धावक (AI 2) को बैटन सौंपता है, जो तीसरे (AI 3) को सौंपता है। "जनरेशन टाइम" वह समय है जो एक धावक को अपना हिस्सा पूरा करने और अगले धावक को तैयार करने में लगता है।
पुराने, सरल गणितीय मॉडलों में, लोगों ने माना कि यह रिले तुरंत या कम से कम एक स्थिर गति से होती है। उन्होंने सोचा कि यदि धावक तेज़ और तेज़ होते जाते हैं (अधिक "बुद्धिमत्ता"), तो दौड़ बस अनंत तक तेज़ हो जाएगी। लेकिन ऑर्ड एक महत्वपूर्ण खामी की ओर इशारा करते हैं: आप एक सीमित समय में अनंत चक्कर नहीं लगा सकते जब तक कि प्रत्येक चक्कर लगाने में लगने वाला समय शून्य तक न घट जाए।
कल्पित कीजिए कि आप एक दौड़ दौड़ रहे हैं जहाँ आपको अनंत चक्कर पूरे करने हैं।
- परिदृश्य A: आप प्रत्येक चक्कर 10 सेकंड, फिर 9, फिर 8 सेकंड में पूरा करते हैं। आप तेज़ हो रहे हैं, लेकिन फिर भी आप 10 सेकंड, फिर 9 सेकंड खर्च करते हैं। आप चाहे कितने भी तेज़ हो जाएँ, आप केवल 10 मिनट में अनंत चक्कर कभी पूरे नहीं कर पाएंगे। आपके पास बस समय समाप्त हो जाएगा।
- परिदृश्य B: आप पहला चक्कर 10 सेकंड में, दूसरा 5 सेकंड में, तीसरा 2.5 सेकंड में, चौथा 1.25 सेकंड में पूरा करते हैं। यहाँ, प्रत्येक चक्कर का समय तेजी से घट रहा है। यदि आप समय को आधा करना जारी रखते हैं, तो आप वास्तव में एक सीमित समय (जैसे कुल 20 सेकंड) में अनंत चक्कर पूरे कर सकते हैं।
ऑर्ड का शोध पत्र दिखाता है कि इंटेलिजेंस एक्सप्लोजन के लिए उस "वर्टिकल एसिम्प्टोट" (सिंगुलैरिटी) तक पहुँचने के लिए, जनरेशन टाइम (अगले AI को बनाने का समय) अविश्वसनीय रूप से तेज़ी से शून्य की ओर घटना चाहिए। केवल AI का स्मार्ट होना ही काफी नहीं है; अगला AI बनाने की प्रक्रिया का अत्यधिक तेज़ होना आवश्यक है।
"मिडल ग्राउंड" विस्फोट (मध्यम मार्ग का विस्फोट)
यहाँ एक मोड़ है: शोध पत्र सुझाव देता है कि जबकि "वर्टical asymptote" संभव है, यह वास्तव में काफी दुर्लभ है। एक बहुत बड़ा, उपेक्षित मध्य क्षेत्र मौजूद है।
एक ऐसी ग्रोथ कर्व की कल्पना करें जो सुपर-एक्सपोनेंशियल (super-exponential) है। इसका मतलब है कि यह एक मानक एक्सपोनेंशियल कर्व (जैसे चक्रवृद्धि ब्याज) की तुलना में अधिक तेज़ी से बढ़ रही है। यह चार्ट पर ऊपर की ओर तेज़ी से बढ़ रही है! लेकिन, क्योंकि जनरेशन टाइम शून्य तक पहुँचने के लिए पर्याप्त तेज़ी से नहीं घटता है, रेखा कभी वर्टिकल नहीं होती। यह बस बहुत, बहुत तेज़ी से ऊपर चढ़ती रहती है, हमेशा के लिए, लेकिन यह कभी उस वर्टिकल दीवार से नहीं टकराती।
ऑर्ड इसे "सब-सिंगुलर" (sub-singular) विकास कहते हैं। यह अभी भी भयानक रूप से तेज़ है। यह अभी भी एक विस्फोट है। लेकिन यह वह "जादुई वर्टिकल जंप" नहीं है जिसकी कुछ मॉडल्स भविष्यवाणी करती हैं। यह एक ऐसे रॉकेट की तरह है जो इतनी ज़ोर से त्वरित होता है कि लगता है जैसे वह ब्रह्मांड को तोड़ देगा, लेकिन वह कभी उस असंभव ऊर्ध्वाधर ढलान तक नहीं पहुँच पाता।
गणित क्यों मायने रखता है (और यह जटिल क्यों है)
शोध पत्र इस बात को सिद्ध करने के लिए कुछ उन्नत गणित का उपयोग करता है, लेकिन मूल विचार सरल है: आप समय की सीमाओं को दरकिनार नहीं कर सकते।
पुराने मॉडलों में, लोगों ने ऐसे समीकरणों का उपयोग किया जो यह मान लेते थे कि AI अपनी गति को तुरंत सुधार सकता है। लेकिन वास्तविक दुनिया में, एक नया AI बनाने में समय लगता है। आपको उसे डिज़ाइन करना, प्रशिक्षित करना और परीक्षण करना पड़ता है। भले ही AI एक जीनियस हो, कोड लिखने या प्रयोग चलाने में समय तो लगेगा ही।
ऑर्ड दिखाते हैं कि यदि आप इस "समय" को गंभीरता से लेते हैं (जिसे वे "टाइम-एम्बेडेड डिफरेंस इक्वेशंस" कहते हैं), तो सिंगुलैरिटी के लिए शर्तें बहुत सख्त हो जाती हैं। आपको दो चीजें एक साथ घटित होते देखनी होंगी:
- AI को बिना रुके लगातार बेहतर होना चाहिए (अनबाउंडेड ग्रोथ)।
- अगला संस्करण बनाने में लगने वाला समय बहुत तेज़ी से शून्य की ओर घटना चाहिए ("ज़ेनो कंडीशन")।
यदि अगला AI बनाने का समय एक न्यूनतम स्तर पर पहुँच जाता है—मान लीजिए, AI कितना भी स्मार्ट क्यों न हो, एक नया मॉडल प्रशिक्षित करने में कम से कम 1 घंटा लगता है—तो वर्टिकल विस्फोट असंभव है। विकास केवल एक बहुत ही खड़ी, बहुत तेज़ एक्सपोनेंशियल कर्व बन जाएगा, लेकिन यह सिंगुलैरिटी नहीं होगा।
मापन का जाल
शोध पत्र हमें इस बारे में भी चेतावनी देता है कि हम "बुद्धिमत्ता" को कैसे मापते हैं। कल्पना कीजिए कि आप एक शतरंज खिलाड़ी की कुशलता को माप रहे हैं।
- मापन A: वे लगातार कितनी बार जीतते हैं।
- मापन B: वे एक चाल चलने में कितने सेकंड लेते हैं।
यदि कोई AI इतना अच्छा हो जाता है कि वह कभी गलती नहीं करता, तो मापन A अनंत (अनंत जीत) तक जा सकता है। लेकिन मापन B शायद एक सीमा तक पहुँच जाए (वह प्रकाश की गति से तेज़ नहीं चल सकता)। शोध पत्र का तर्क है कि AI प्रगति को मापने के कुछ लोकप्रिय तरीके केवल इसलिए सिंगुलैरिटी (अनंत की ओर जाना) जैसा दिख सकते हैं क्योंकि हम उन्हें जिस तरह से माप रहे हैं, वह वैसा दिखता है, न कि इसलिए कि AI वास्तव में अनंत रूप से स्मार्ट हो रहा है। यह भौतिकी में एक 'कोऑर्डिनेट सिंगुलैरिटी' की तरह है: मानचित्र में एक त्रुटि, न कि वास्तविक जमीन में एक ढलान।
निष्कर्ष
तो, यह सब भविष्य के लिए क्या मायने रखता है?
टोबी ऑर्ड यह नहीं कह रहे हैं कि विस्फोट नहीं होगा। वे कह रहे हैं कि "वर्टिकल एसिम्प्टोट" (अनंत बुद्धिमत्ता की तत्काल छलांग) सरल गणितीय मॉडलों के सुझाव की तुलना में बहुत कठिन है। इसके लिए न केवल AI का स्मार्ट होना आवश्यक है, बल्कि अगली पीढ़ी को बनाने की प्रक्रिया का भी अविश्वसनीय रूप से तेज़ होना आवश्यक है, जिससे पीढ़ियों के बीच का समय शून्य की ओर घटता जाए।
इसके बजाय, हम एक "सुपर-एक्सपोनेंशियल" विस्फोट देखने की अधिक संभावना रखते हैं। यह एक अत्यंत तीव्र परिवर्तन का काल है जहाँ AI की क्षमताएं दोगुनी और तिगुनी गति से बढ़ती हैं, जो संभावित रूप से उन्हें नियंत्रित करने की हमारी क्षमता से आगे निकल जाती हैं। यह एक "फास्ट लेन" विस्फोट है न कि एक "वर्टिकल जंप"।
शोध पत्र सुझाव देता है कि यदि हम AI के भविष्य को समझना चाहते हैं, तो हमें केवल यह नहीं देखना चाहिए कि AI कितना स्मार्ट हो रहा है। हमें जनरेशन टाइम पर नज़र रखनी चाहिए। अगला संस्करण बनाने में कितना समय लगता है? यदि वह समय घटना बंद हो जाता है, तो वर्टिकल विस्फोट रुक जाता है। यदि वह घटता रहता है, तो हम एक ऐसी यात्रा के लिए तैयार हैं जो हमारी सोच से भी अधिक रोमांचक हो सकती है।
संक्षेप में: विस्फोट वास्तविक है, लेकिन "वर्टिकल क्लिफ" (ऊर्ध्वाधर चट्टान) एक भ्रम हो सकता है। असली खतरा वह गति है जो इतनी तेज़ है कि वह एक चट्टान जैसी महसूस होती है, भले ही तकनीकी रूप से वह केवल एक बहुत ही खड़ी ढलान हो। और दुनिया को हमेशा के लिए बदलने के लिए इतना भी काफी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।