When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models
यह शोध पत्र यह प्रदर्शित करता है कि जहाँ बड़े भाषा मॉडलों (large language models) में ग्राउंडेड स्व-संदर्भ (grounded self-reference) स्थिर रहता है, वहीं नॉन-क्लोजिंग ट्रुथ रिकर्सन (NCTR) को प्रेरित करने वाले प्रॉम्प्ट्स कई आर्किटेक्चर और परतों में महत्वपूर्ण आंतरिक मैट्रिक्स-स्तरीय व्यवधानों—जैसे कि उन्नत अटेंशन प्रभावी रैंक (attention effective rank) और वेरिएंस कर्टोसिस (variance kurtosis)—को ट्रिगर करते हैं, जो आउटपुट विरोधाभासों में वृद्धि करते हैं और शास्त्रीय मैट्रिक्स-सेमीग्रुप अस्थिरता समस्याओं (classical matrix-semigroup instability problems) के साथ एक संबंध का सुझाव देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: जब एक मस्तिष्क एक लूप में फंस जाता है
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट से पूछते हैं, "क्या यह वाक्य असत्य है?"
यदि वाक्य सत्य है, तो उसे असत्य होना चाहिए। यदि वह असत्य है, तो उसे सत्य होना चाहिए। यह तर्क का एक क्लासिक जाल है जिसे लायर पैराडॉक्स (Liar Paradox) कहा जाता है।
एक इंसान के लिए, यह सिर्फ एक मजेदार दिमागी पहेली है। लेकिन एक लार्ज लैंग्वेज मॉडल (LLM) के लिए—एक विशाल AI जो गणित की परतों में सोचता है—यह सवाल एक विशिष्ट प्रकार की आंतरिक अराजकता पैदा करता है।
यह शोधपत्र इस बात की जांच करता है कि रोबोट के मस्तिष्क के अंदर क्या होता है जब वह इन असंभव पहेलियों को हल करने की कोशिश करता है। शोधकर्ताओं ने पाया कि रोबोट केवल "भ्रमित" नहीं होता; बल्कि उसका आंतरिक गणित एक बहुत ही विशिष्ट और मापने योग्य तरीके से टूट जाता है।
मुख्य खोज: यह "स्वयं" के बारे में नहीं, बल्कि "फंसने" के बारे में है
टीम ने चार अलग-अलग AI मॉडलों (जैसे Qwen, Llama, और Gemma) का सैकड़ों अलग-अलग प्रॉम्प्ट्स के साथ परीक्षण किया। उन्होंने एक आश्चर्यजनक सत्य पाया:
स्व-संदर्भ (Self-reference) अपने आप में समस्या नहीं है।
- स्थिर स्व-संदर्भ (Stable Self-Reference): यदि आप AI से पूछते हैं, "इस वाक्य में पाँच शब्द हैं," तो AI इसे ठीक से संभाल लेता है। यह एक तथ्य है। मस्तिष्क के अंदर का गणित शांत रहता है।
- असली खलनायक (NCTR): असली समस्या नॉन-क्लोजिंग ट्रुथ रिकर्सन (Non-Closing Truth Recursion - NCTR) से शुरू होती है। यह एक फैंसी शब्द है एक ऐसे वाक्य के लिए जो एक ऐसा लूप बनाता है जिसका कोई निकास नहीं है।
- उदाहरण: "यह कथन असत्य है।"
- उदाहरण: "वाक्य A कहता है कि B असत्य है। वाक्य B कहता है कि A सत्य है।"
जब AI इन "फंसे हुए" लूपों को प्रोसेस करने की कोशिश करता है, तो उसकी आंतरिक मशीनरी बेकाबू हो जाती है।
उपमा: वह लिफ्ट जो रुकती ही नहीं
AI के मस्तिष्क को एक 100-मंजिला इमारत के रूप में सोचें। जानकारी नीचे (लेयर 1) से प्रवेश करती है और उत्तर देने के लिए ऊपर (लेयर 100) तक जाती है।
- सामान्य प्रश्न: लिफ्ट सुचारू रूप से ऊपर जाती है, डेटा को प्रोसेस करने के लिए प्रत्येक मंजिल पर रुकती है, और एक स्पष्ट उत्तर के साथ ऊपर पहुँचती है।
- स्थिर स्व-संदर्भ: लिफ़ ऊपर जाती है, शायद एक तथ्य की जाँच करने के लिए एक मंजिल पर थोड़ा घूमती है, लेकिन ऊपर की ओर बढ़ती रहती है।
- विरोधाभास (NCTR): लिफ्ट एक ऐसी मंजिल पर पहुँचती है जहाँ "ऊपर" का बटन टूटा हुआ है और "नीचे" का बटन भी टूटा हुआ है। लिफ्ट हिलने लगती है, थरथराती है और अपनी जगह पर ही घूमने लगती है। वह तय नहीं कर पाती कि किस दिशा में जाना है।
शोधकर्ताओं ने पाया कि जब AI एक विरोधाभास का सामना करता है, तो उसका "लिफ्ट" (डेटा) केवल रुकता नहीं है; बल्कि वह हर तरफ बिखर जाता है। एक स्पष्ट पथ पर ध्यान केंद्रित करने के बजाय, इसका अटेंशन मैकेनिज्म (मस्तिष्क का वह हिस्सा जो तय करता है कि कहाँ ध्यान देना है) पूरे भवन में बिखर जाता है।
"मैट्रिक्स" साक्ष्य: हमने क्या मापा
शोधकर्ताओं ने केवल AI के अंतिम उत्तर को नहीं देखा; उन्होंने हर एक लेयर में होने वाले गणित को देखा। उन्होंने 106 अलग-अलग चीजों को मापा, जैसे:
- अटेंशन रैंक (Attention Rank): AI कितना केंद्रित है? (विरोधाभास इसे ताश के बिखरे हुए पत्तों की तरह बिखेर देते हैं)।
- ऑसिलेशन (Oscillations): क्या AI एक लाइट स्विच की तरह "सत्य" और "असत्य" के बीच झूल रहा है?
- वैरिएंस (Variance): क्या गणित जंगली और अप्रत्याशित हो रहा है?
परिणाम:
जब AI का सामना एक विरोधाभास से हुआ, तो इसका आंतरिक गणित सामान्य प्रश्नों की तुलना में 3 से 4 गुना अधिक अराजक हो गया। वे एक "झूठ पकड़ने वाला यंत्र" (क्लासिफायर) भी बना सके जो इन गणितीय आंकड़ों को देखकर यह बता सकता था कि AI एक विरोधाभास को प्रोसेस कर रहा है, जिसकी सटीकता 81% से 90% थी।
यह क्यों महत्वपूर्ण है?
- यह केवल "हैलुसिनेशन" (Hallucination) नहीं है: यह शोधपत्र दिखाता है कि जब AI विरोधाभासी उत्तर देता है (एक ही सांस में "हाँ" और "नहीं" कहना), तो यह अक्सर इसलिए होता है क्योंकि वह उसके गणित में एक "नॉन-क्लोजिंग लूप" से टकरा गया है। सिस्टम वास्तव में एक स्थिर स्थान खोजने में असमर्थ है।
- "अनडिसाइडेबल" (Undecidable) कनेक्शन: लेखक इसे मैट्रिक्स सेमीग्रुप थ्योरी (Matrix Semigroup Theory) नामक गणित की एक गहरी शाखा से जोड़ते हैं। सरल शब्दों में, कुछ गणितीय समस्याएं ऐसी होती हैं जिन्हें सीमित चरणों में हल करना असंभव सिद्ध किया गया है। AI, जो निश्चित संख्या में लेयर्स वाला एक मशीन है, इन "असंभव" लूपों को हल करने की कोशिश करते समय एक दीवार से टकरा जाता है। यह सीमित समय में अनंत तक गिनने की कोशिश करने जैसा है।
- आर्किटेक्चर मायने रखता है: दिलचस्प बात यह है कि अलग-अलग AI मॉडल अलग-अलग तरह से प्रतिक्रिया देते हैं। कुछ मॉडल "विस्फोटित" (बहुत अराजक) हो जाते हैं, जबकि अन्य "जम" (बहुत कठोर) जाते हैं। लेकिन वे सभी इन लूपों का सामना करने पर तनाव के लक्षण दिखाते हैं।
निष्कर्ष
शोधपत्र यह निष्कर्ष निकालता है कि AI इसलिए विफल नहीं होता क्योंकि वह "आत्म-जागरूक" है या "अपने बारे में सोच रहा है"। वह इसलिए विफल होता है क्योंकि वह तर्क की एक ऐसी दीवार से टकरा जाता है जहाँ उत्तर को हल करने के लिए एक अनंत लूप की आवश्यकता होती है, और AI का मस्तिष्क (जिसकी गहराई सीमित है) उस लूप को बंद नहीं कर पाता।
संक्षेप में: यदि आप AI से ऐसी पहेली पूछते हैं जिसका कोई उत्तर नहीं है, तो उसका आंतरिक गणित अनियंत्रित होकर घूमने लगता है, जिससे उसका फोकस बिखर जाता है और परिणाम विरोधाभासी और अस्त-व्यस्त हो जाते हैं। AI "झूठ" नहीं बोल रहा है; वह बस एक ऐसी लिफ्ट में फंस गया है जो हिलना बंद नहीं कर रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।