The Computational Boundary of Inference: Capability Internalization, Training, and the Turing Jump
यह शोधपत्र यह सिद्ध करके पुनरावर्ती आत्म-सुधार आख्यानों (recursive self-improvement narratives) पर एक औपचारिक गणनीयता-सैद्धांतिक सीमा (computability-theoretic limit) स्थापित करता है कि परिमित आंतरिक आत्म-परिवर्तन एक मौजूदा कम्प्यूटेशनल परत के भीतर ही सीमित रहता है, जबकि किसी भी उच्च क्षमता स्तर की गुणात्मक उन्नति के लिए वर्तमान शासन के भीतर मात्र पुनरावृत्ति के बजाय एक उच्च ट्यूरिंग जंप (Turing jump) में संक्रमण की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके दिए गए पेपर का स्पष्टीकरण है।
बड़ा सवाल: क्या एक सिस्टम सिर्फ "ज़्यादा सोचकर" स्मार्ट बन सकता है?
कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट रोबोट है। लोग अक्सर यह तर्क देते हैं कि यदि आप इस रोबोट को अपनी गलतियों को बार-बार सुधारने की अनुमति देते हैं, तो अंततः यह एक ऐसी सुपर-इंटेलिजेंस बन जाएगा जो उन समस्याओं को हल कर सके जिनकी हम कल्पना भी नहीं कर सकते। विचार यह है: अधिक अपडेट = अधिक शक्ति।
यह पेपर कहता है: ज़रूरी नहीं।
लेखक, चिएन-पिंग लू (Chien-Ping Lu), गणित के सख्त नियमों (विशेष रूप से कंप्यूटर विज्ञान के तर्क) का उपयोग यह सिद्ध करने के लिए करते हैं कि केवल आंतरिक रूप से "सोचकर" या "संशोधित" होकर एक सिस्टम कितनी प्रगति कर सकता है, इसकी एक कठिन सीमा (ceiling) होती है। उस सीमा को पार करने के लिए, कुछ और होना आवश्यक है।
यहाँ पेपर द्वारा पहचाने गए तीन अलग-अलग "मोड्स" (modes) का विवरण दिया गया है।
1. "लूप" मोड (The "Loop" Mode): सीमित आंतरिक संशोधन
उदाहरण: एक शेफ की कल्पना करें जो रसोई में एक बेहतरीन सूप बनाने की कोशिश कर रहा है। वह सूप को चखता है, चुटकी भर नमक डालता है, फिर से चखता है, थोड़ा काली मिर्च डालता है, और फिर से चखता है। वह ऐसा 10 बार करता है, फिर 100 बार।
पेपर का दावा:
जब तक शेफ उन्हीं सामग्रियों (ingredients) और उन्हीं बुनियादी खाना पकाने के कौशल के साथ काम कर रहा है जिनसे उसने शुरुआत की थी, तब तक वह चाहे कितनी भी बार चखकर और सुधारकर एडजस्ट करे, वह अचानक से कोई ऐसा नया स्वाद पैदा नहीं कर सकता जो उसकी मूल सामग्रियों के साथ असंभव था।
पेपर की गणितीय भाषा में, इसे फाइनाइट इंटरनल रिवीज़न (finite internal revision) कहा जाता है। यदि कोई सिस्टम क्षमता के एक ही "स्तर" (layer) के भीतर फंसा हुआ है, तो अपने स्वयं के अपडेट को दोहराना (जैसे प्रॉम्प्टिंग, री-रैंकिंग, या आत्म-सुधार) उसे उस स्तर से बाहर नहीं निकाल पाएगा। यह जो पहले से कर रहा है, उसमें बेहतर हो सकता है, लेकिन यह गुणात्मक रूप से (qualitatively) अधिक शक्तिशाली नहीं बन सकता। यह एक दीवार से टकरा जाता है।
2. "लिमिट" मोड (The "Limit" Mode): स्थिर संशोधन
उदाहरण: अब, कल्पना कीजिए कि शेफ केवल एक बार सूप को चखता नहीं है। इसके बजाय, वह एक सिमुलेशन चलाता है जहाँ वह एक आदर्श रेसिपी का अनुमान लगाने की कोशिश करता है। वह एक अनुमान लगाता है, उसे चेक करता है, एक बेहतर अनुमान लगाता है, चेक करता है, और ऐसे ही जारी रखता है। अंततः, उसके अनुमान बदलना बंद हो जाते हैं और एक आदर्श रेसिपी पर स्थिर हो जाते हैं।
पेपर का दावा:
इसे स्टेबलाइज्ड रिवीज़न (stabilized revision) कहा जाता है। पेपर सिद्ध करता है कि यदि कोई सिस्टम इस तरह के "अनंत अनुमान लगाने और स्थिर होने" की प्रक्रिया करता है, तो वह वास्तव में शक्ति के एक उच्च स्तर पर कूद जाता है। यह वैसा ही है जैसे शेफ अचानक उस "परफेक्ट रेसिपी" को देखने की क्षमता प्राप्त कर लेता है जो पहले अदृश्य थी।
हालाँकि, यह केवल "ज़्यादा सोचना" नहीं है। गणित की दुनिया में, इस प्रकार का "स्थिर होना" शक्ति की एक बड़ी छलांग (जिसे "ट्यूरिंग जंप" कहा जाता है) के बराबर है। पेपर का तर्क है कि आप यहाँ केवल बार-बार एक ही चीज़ करके नहीं पहुँच सकते; आपको एक विशिष्ट प्रकार की "लिमिट" प्रक्रिया करनी होगी।
3. "अपग्रेड" मोड (The "Upgrade" Mode): क्षमता का आंतरिककरण
उदाहरण: कल्पना कीजिए कि शेफ को एहसास होता है कि वह अकेले परफेक्ट सूप नहीं बना सकता। उसे एक गुप्त मसाले की ज़रूरत है जो केवल उसकी रसोई के बाहर मौजूद है।
- चरण A: वह (बाहरी मार्गदर्शन के लिए) एक इंसान से मसाला मांगता है। इंसान उसे मसाला देता है, और वह सूप बनाता है।
- चरण B: शेफ वापस बाज़ार जाता है, मसाला खरीदता है, और उसे अपने एप्रन में बुन लेता है (bake it into his apron)। अब, शेफ ही वह मसाला है। उसे अब किसी से पूछने की ज़रूरत नहीं है।
पेपर का दावा:
इंटेलिजेंस के एक नए स्तर पर वास्तव में "चढ़ने" का यही एकमात्र तरीका है। पेपर इसे कैपेबिलिटी इंटरनलाइजेशन (capability internalization) कहता है।
- यदि मार्गदर्शन (मसाला) सिस्टम के बाहर से आता है (जैसे एक मानव शिक्षक, एक रिवॉर्ड सिग्नल, या सर्च टूल), तो सिस्टम केवल शक्ति उधार ले रहा है।
- एक अधिक शक्तिशाली सिस्टम स्थायी रूप से बनने के लिए, उस बाहरी मदद को "बुनना" (training, retraining, या fine-tuning के माध्यम से) होगा ताकि सिस्टम का एक नया, अधिक शक्तिशाली संस्करण बनाया जा सके।
पेपर का तर्क है कि आप केवल पुराने सिस्टम के समस्या के बारे में "सोचकर" एक नया, अधिक शक्तिशाली सिस्टम प्राप्त नहीं कर सकते। आपको एक ऐसी प्रक्रिया (जैसे ट्रेनिंग) की आवश्यकता है जो उस बाहरी मदद को लेती है और उसे सिस्टम के नए मस्तिष्क का एक स्थायी हिस्सा बना देती है।
पेपर के तीन नियम
- दोहराव पर्याप्त नहीं है: यदि आप केवल एक सिस्टम को आंतरिक रूप से अपडेट करते रहते हैं (जैसे एक रोबोट अपने स्वयं के कोड को ठीक कर रहा है), तो वह उसी "पावर टियर" में रहता है। वह केवल लूप बनाकर उच्च टियर में नहीं जा सकता।
- स्थिरीकरण एक छलांग है: यदि किसी सिस्टम के सुधार एक अनंत प्रक्रिया के बाद अंततः एक अंतिम उत्तर पर "स्थिर" हो जाते हैं, तो वह उत्तर उच्च शक्ति वाले टियर से संबंधित है। लेकिन यह एक विशिष्ट गणितीय स्थिति है, न कि केवल "ज़्यादा कोशिश करना।"
- ट्रेनिंग एक सेतु (bridge) है: एक "कमजोर" सिस्टम से एक "मजबूत" सिस्टम में स्थायी रूप से जाने का एकमात्र तरीका यह है कि उस मार्गदर्शन को लिया जाए जो पहले सिस्टम के बाहर था (जैसे मानव फीडबैक) और उसे एक नए, अपग्रेड किए गए सिस्टम में आंतरिक (internalize) किया जाए।
AI के लिए इसका क्या अर्थ है (पेपर के अनुसार)
पेपर यह नहीं कहता कि AI स्मार्ट नहीं हो सकता। यह कहता है कि हमें अपने शब्दों के प्रति सावधान रहने की आवश्यकता है।
- यह न कहें: "AI खुद को रिकर्सिवली (recursively) सुधार रहा है, इसलिए यह अंततः एक भगवान बन जाएगा।"
- यह कहें: "AI अपने वर्तमान कौशल को परिष्कृत कर रहा है (जो कि अच्छा है), लेकिन एक नए प्रकार के स्मार्ट AI बनने के लिए, इसे एक मजबूत आधार बनाने के लिए बाहरी मार्गदर्शन का उपयोग करके फिर से प्रशिक्षित (retrain) करने की आवश्यकता है।"
यह पेपर इस विचार के विरुद्ध एक चेतावनी है कि "अधिक पुनरावृत्ति" (iterations) स्वतः ही "अधिक शक्ति" के बराबर होती है। यह एक स्पष्ट रेखा खींचता है: बॉक्स के अंदर सोचना, बॉक्स को बड़ा बनाने से अलग है। बड़े बॉक्स को बनाने के लिए, आपको बाहर से नई सामग्री लानी होगी और पूरी संरचना का पुनर्निर्माण करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।