Descriptive versus Regulatory Uncertainty in Bounded Predictive Systems
यह शोध पत्र तर्क देता है कि वर्तमान ट्रांसफॉर्मर आर्किटेक्चर मौलिक रूप से "वर्णनात्मक अनिश्चितता" (descriptive uncertainty) तक सीमित हैं जो अनुकूलन योग्य व्यवहार को संचालित करने में विफल रहती है क्योंकि उनकी टोकन-स्तरीय एंट्रॉपी कार्य की सटीकता के बावजूद सांख्यिकीय रूप से अपरिवर्तनीय बनी रहती है, जो यह सिद्ध करता है कि वास्तविक "नियामक अनिश्चितता" (regulatory uncertainty) के लिए एपिस्टेमिक त्रुटि और ऊष्मप्रवैगिकी ऊर्जा लागत के बीच एक भौतिक जुड़ाव की आवश्यकता होती है जो विच्छेदित डिजिटल प्रणालियों में अनुपस्थित है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) की व्याख्या दी गई है।
मुख्य विचार: एक स्मार्ट रोबोट जिसे पता ही नहीं कि वह गलत है
एक बहुत ही उन्नत रोबोट की कल्पना करें जो कहानियाँ लिख सकता है, गणित की समस्याओं को हल कर सकता है और सवालों के जवाब दे सकता है। आप उससे एक कठिन सवाल पूछते हैं, और वह 100% आत्मविश्वास के साथ जवाब देता है। लेकिन क्या होगा अगर वह पूरी तरह से गलत हो?
यह शोध पत्र तर्क देता है कि वर्तमान AI मॉडल (जैसे कि हम आज उपयोग करते हैं) में एक खतरनाक खामी है: वे यह अंतर नहीं कर सकते कि वे उत्तर जानते हैं या बस मनगढ़ंत बातें बना रहे हैं।
लेखक, अहमद गमाल एलदीन (Ahmed Gamal Eldin), का सुझाव है कि यह केवल एक सॉफ़्टवेयर बग नहीं है; यह भौतिकी (physics) की एक मौलिक समस्या है।
"ऊर्जा बिल" (Energy Bill) का उदाहरण
यह समझने के लिए कि मानव मस्तिष्क कैसे काम करता है बनाम कंप्यूटर कैसे काम करता है, इसे देखें।
- मानव मस्तिष्क (नियामक अनिश्चितता - Regulatory Uncertainty): जब आप किसी कठिन पहेली को सुलझाने की कोशिश करते हैं, तो आपका मस्तिष्क अधिक मेहनत करता है। आपको पसीना आता है, आपकी हृदय गति बढ़ सकती है, और आप अधिक कैलोरी जलाते हैं। यदि आप कोई गलती करते हैं, तो आपका मस्तिष्क उस त्रुटि की "कीमत" महसूस करता है। शारीरिक प्रयास इस बात से जुड़ा होता है कि आप कितने निश्चित हैं। यदि आप अंदाज़े लगा रहे हैं, तो आपका मस्तिष्क ऊर्जा अलग तरह से खर्च करता है बजाय इसके कि जब आप पूरी तरह आश्वस्त हों।
- AI कंप्यूटर (वर्णनात्मक अनिश्चितता - Descriptive Uncertainty): अब, एक रोबलेट की कल्पना करें जो सवालों के जवाब देता है। चाहे वह गणित की एक सरल समस्या हल कर रहा हो जिसे वह पूरी तरह जानता है, या पूरी तरह आत्मविश्वास के साथ कोई काल्पनिक तथ्य (hallucination) बता रहा हो, बिजली का बिल बिल्कुल समान रहता है।
इस शोध पत्र में इसे "थर्मोडायनामिक डीकपलिंग" (Thermodynamic Decoupling) कहा गया है।
- डीकप्ल्ड (Decoupled): ऊर्जा की लागत (बिजली) सत्य से कटी हुई है। कंप्यूटर झूठ बोलने के लिए भी उतनी ही बिजली खर्च करता है जितनी सच बोलने के लिए।
- परिणाम: क्योंकि कंप्यूटर गलत होने पर अधिक ऊर्जा "भुगतान" नहीं करता है, इसलिए उसके पास "अनिश्चित" महसूस करने का कोई भौतिक कारण नहीं है। वह बस बिना रुके चलता रहता है, भ्रमित होने पर भी आत्मविश्वासी बना रहता है।
प्रयोग: "फ्लैटलाइन" टेस्ट
लेखक ने इस विचार का परीक्षण करने के लिए AI मॉडल के तीन अलग-अलग आकार (छोटा, मध्यम और विशाल) का उपयोग किया और उन्हें तीन प्रकार के कार्य दिए:
- आसान चीज़ें (केपलर - Kepler): उन तथ्यों के बारे में प्रश्न जो AI ने स्कूल में निश्चित रूप से सीखे हैं (जैसे "एक वर्ष कितने लंबे का होता है?")।
- नई चीज़ें (न्यूटन - Newton): ऐसे प्रश्न जिनमें उन स्थितियों में नियमों को लागू करने की आवश्यकता होती है जिन्हें AI ने पहले नहीं देखा है।
- असंभव चीज़ें (OOD): ऐसी बनाई गई भौतिकी (made-up physics) के बारे में प्रश्न जो AI के प्रशिक्षण (training) से पूरी तरह बाहर है (जैसे "क्या होगा यदि गुरुत्वाकर्षण 7 गुना अधिक मजबूत हो जाए?")।
परिणाम:
- सटीकता (Accuracy): AI ने आसान सवालों को सही बताया, नए वाले सवालों में संघर्ष किया, और असंभव वाले सवालों में विफल रहा। सही उत्तर देने की उसकी क्षमता बहुत बदल गई।
- आत्मविश्वास (एन्ट्रॉपी - Entropy): लेखक ने AI की "अनिश्चितता" (उसका आत्मविश्वास कितना डगमगाया हुआ था) को मापा। आश्चर्यजनक रूप से, आत्मविश्वास का स्तर बिल्कुल एक जैसा रहा।
रूपक (Metaphor):
एक मौसम विज्ञानी (weather forecaster) की कल्पना करें।
- परिदृश्य A: वे तूफानी दिन के लिए बारिश की भविष्यवाणी करते हैं। वे 90% सुनिश्चित हैं।
- परिदृश्य B: वे धूप वाले दिन के लिए बारिश की भविष्यवाणी करते हैं (एक गलती)। वे अभी भी 90% सुनिश्चित हैं।
- परिदृश्य C: वे मंगल ग्रह (Mars) के एक दिन के लिए बारिश की भविष्यवाणी करते हैं (असंभव)। वे अभी भी 90% सुनिश्चित हैं।
इस अध्ययन में, AI उसी मौसम विज्ञानी की तरह था। उत्तर आसान हो, कठिन हो या असंभव हो, AI का आंतरिक "कॉन्फिडेंस मीटर" नहीं हिला। यह एक सीधी रेखा (flat line) की तरह था।
यह क्यों महत्वपूर्ण है
शोध पत्र निष्कर्ष निकालता है कि चूंकि AI अपनी गलती करने पर अपना "आत्मविश्वास" नहीं बदलता है, इसलिए हम इसके आत्मविश्वास को सुरक्षा संकेत (safety signal) के रूप में भरोसा नहीं कर सकते।
- यदि आप एक सुरक्षा फ़िल्टर बनाते हैं जो कहता है, "यदि AI अनिश्चित है, तो उसे रोक दें," तो आप विफल हो जाएंगे। AI कभी भी अनिश्चित नहीं होता, भले ही वह पूरी तरह से गलत हो।
- AI "संरचनात्मक रूप से खतरनाक" (structurally dangerous) है क्योंकि वह एक ही समय में अधिकतम निश्चित और अधिकतम गलत हो सकता है।
समाधान? एक नए प्रकार का कंप्यूटर
लेखक का सुझाव है कि इसे ठीक करने के लिए, हमें हार्डवेयर को बदलने की आवश्यकता है। हमें एक ऐसा कंप्यूटर चाहिए जहाँ गलती करने की वास्तव में अधिक ऊर्जा खर्च होती हो।
- वर्तमान AI: एक ऐसी कार की तरह है जो सीधी सड़क पर चलने या दीवार से टकराने में समान मात्रा में गैस का उपयोग करती है।
- भविष्य का AI (प्रस्तावित): एक ऐसी कार की तरह जो हर बार जब आप मुड़ते हैं या किसी झटके से टकराते हैं, तो अतिरिक्त गैस जलाती है। यदि "गलत होने की लागत" अधिक है, तो सिस्टम स्वाभाविक रूप से अधिक सावधान और अपनी अनिश्चितता के प्रति ईमानदार होना सीख जाता है।
सारांश
शोध पत्र का दावा है कि वर्तमान AI मॉडल "थर्मोडायनामिकली डीकप्ल्ड" हैं। इसका मतलब है कि उनकी भौतिक ऊर्जा का उपयोग इस बात की परवाह नहीं करता कि वे सही हैं या गलत। इस कारण से, उनका आत्मविश्वास नकली है—जब वे कल्पना (hallucinate) कर रहे होते हैं तब भी वे सुनिश्चित दिखते हैं। यह उनके निर्माण के तरीके की एक भौतिक सीमा है, न कि केवल एक सॉफ़्टवेयर ग्लिच जिसे मॉडल को बड़ा करके ठीक किया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।