Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability
यह शोध पत्र रिकंस्ट्रक्टिव अथॉरिटी मॉडल (RAM) का परिचय देता है, जो एक ऐसा ढांचा है जो केवल डेटा की अखंडता को सत्यापित करने (अटेस्टेशन) के बजाय इस बात पर ध्यान केंद्रित करके स्वायत्त प्रणाली की सुरक्षा में सुधार करता है कि क्या अवलोकन योग्य अवस्था किसी विशिष्ट कार्रवाई को न्यायसंगत ठहराने के लिए पर्याप्त कवरेज प्रदान करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
समस्या: "परफेक्ट रसीद" का भ्रम (The "Perfect Receipt" Fallacy)
कल्पना कीजिए कि आप एक बैंक मैनेजर हैं। एक ग्राहक आपके पास आता है जिसके पास एक पूरी तरह से वैध, सरकारी आईडी और एक हस्ताक्षरित रसीद है जो दिखाती है कि उनके खाते में $1,000 हैं। सब कुछ एकदम सही लग रहा है। आप आईडी की जांच करते हैं (यह Attestation या प्रमाणीकरण है), और वह असली है। आप रसीद की जांच करते हैं (यह State Proof है), और गणित भी सही है।
आप निकासी (withdrawal) को मंजूरी दे देते हैं।
लेकिन यहाँ एक पेंच है: जब ग्राहक एटीएम से आपकी डेस्क तक चल रहा था, तभी उसने अपना बटुआ खो दिया, या शायद किसी न्यायाधीश ने किसी दूसरे शहर में उसका खाता फ्रीज कर दिया, या उसे किसी ऐसे सिस्टम में धोखाधड़ी के लिए फ्लैग किया जा रहा है जिसकी पहुंच आपके पास नहीं है।
"रसीद" प्रामाणिक थी, और "आईडी" भी असली थी, लेकिन स्थिति की वास्तविकता (reality) उन तरीकों से बदल गई थी जिन्हें आपका कागजी काम देख नहीं सका। आपने अपने कागजी दस्तावेजों के आधार पर एक "सही" निर्णय लिया, लेकिन वास्तविक दुनिया के आधार पर आपने एक "गलत" निर्णय लिया।
यह शोध पत्र तर्क देता है कि वर्तमान एआई (AI) और स्वायत्त प्रणालियाँ (autonomous systems) ठीक इसी समस्या से जूझ रही हैं। वे यह साबित करने में बहुत अच्छी हैं कि उनका डेटा छेड़छाड़ मुक्त है, लेकिन वे यह समझने में बहुत खराब हैं कि उनका डेटा कब वास्तविकता की पूर्ण तस्वीर नहीं रह गया है।
समाधान: रिकंस्ट्रक्टिव अथॉरिटी मॉडल (RAM)
लेखक RAM को प्रस्तुत करता है। यह पूछने के बजाय कि, "क्या यह कागजी काम मेरे रिकॉर्ड से मेल खाता है?" RAM एक बहुत कठिन सवाल पूछता है: "अभी मैं जो देख पा रहा हूँ, उसके आधार पर, क्या मैं वास्तव में यह सिद्ध कर सकता हूँ कि मुझे कार्य करने का अधिकार है?"
एक सुरक्षा गार्ड (Security Guard) और एक जासूस (Detective) के बीच के अंतर के बारे में सोचें।
- वर्तमान तरीका (Attestation): सुरक्षा गार्ड आपके बैज को देखता है। यदि बैज असली है और उसके साथ कोई छेड़छाड़ नहीं हुई है, तो आप अंदर आ सकते हैं। उसे इस बात की परवाह नहीं है कि आप वर्तमान में एक चोरी हुआ ब्रीफकेस ले जा रहे हैं; यदि बैज सही है, तो दरवाजा खुल जाता है।
- RAM का तरीका: जासूस केवल बैज को नहीं देखता। वह बैज को देखता है, और वह आपके व्यवहार को देखता है, और वह मौसम को देखता है, और वह यह भी देखता है कि क्या लाइटें झपक रही हैं। यदि वह यह सुनिश्चित करने के लिए पर्याप्त "बड़ी तस्वीर" नहीं देख पाता कि आप वहां रहने के हकदार हैं, तो वह आपको अंदर नहीं आने देता। वह अनुमान नहीं लगाता। वह मानकर नहीं चलता। वह बस कहता है, "मेरे पास यह कहने के लिए पर्याप्त जानकारी नहीं है कि हाँ, इसलिए जवाब 'ना' है।"
RAM की तीन प्रमुख अवधारणाएं
1. "कवरेज एनवेलप" (The "Coverage Envelope" - ब्लाइंड स्पॉट मैप)
RAM सिस्टम को यह स्वीकार करने के लिए मजबूर करता है कि वह क्या नहीं जानता। यह एक "मैप" बनाता है जिसमें शामिल हैं:
- मैं क्या जानता हूँ: (सिद्ध तथ्य)।
- मैं क्या मान रहा हूँ: (वे "शिक्षित अनुमान" जो हम चीजों को सुचारू रूप से चलाने के लिए लगा रहे हैं)।
- "डार्क ज़ोन" (The Dark Zone): (वह चीज़ें जिनके बारे में हम जानते हैं कि वे मौजूद हैं, लेकिन हम अभी उन्हें देख नहीं पा रहे हैं)।
"डार्क ज़ोन" को स्वीकार करके, सिस्टम यह दावा करने के जाल से बच जाता है कि वह सब कुछ जानता है।
2. नॉन-परसिस्टेंस (Non-Persistence - अधिकार कोई "पास" नहीं है)
अधिकांश प्रणालियों में, एक बार जब आप "अधिकृत" हो जाते हैं, तो आप कुछ समय के लिए अधिकृत रहते हैं। RAM अधिकार को एक अंधेरे जंगल में टॉर्च की तरह मानता है। आप केवल एक बार टॉर्च चालू करके जंगल में नहीं चलते; आपको हर एक कदम के साथ उसे जमीन की ओर इंगित करना पड़ता है। यदि रोशनी टिमटिमाती है या बैटरी कम होती है, तो आप तुरंत रुक जाते हैं।
3. प्रिविलेज नैरोइंग (Privilege Narrowing - "डिमर स्विच")
यदि सिस्टम केवल काफी हद तक आश्वस्त है, तो उसे पूरी तरह से बंद होने की आवश्यकता नहीं है। यह एक "डिमर स्विच" का उपयोग कर सकता है।
- पूर्ण प्रकाश: "मैं सब कुछ स्पष्ट रूप से देख पा रहा हूँ। आप $1,000 ट्रांसफर कर सकते हैं।"
- धुंधली रोशनी: "मैं आपके स्थान को लेकर थोड़ा अनिश्चित हूँ। आप केवल $5 ट्रांसफर कर सकते हैं।"
- पूर्ण अंधकार: "मैं कुछ भी नहीं देख पा रहा हूँ। मैं सभी गतिविधियों को फ्रीज कर रहा हूँ।"
निष्कर्ष
यह शोध पत्र गणितीय रूप से सिद्ध करता है कि जब तक "जो हम सिद्ध कर सकते हैं" और "जो वास्तव में हो रहा है" के बीच एक अंतर बना रहेगा, वर्तमान प्रणालियाँ अंततः खतरनाक गलतियाँ करेंगी।
RAM का दर्शन सरल है: अनिश्चितता के कारण किसी कार्य को रोकना, अत्यधिक आत्मविश्वास के साथ एक ऐसा कार्य करने से बेहतर है जो वास्तव में एक आपदा साबित हो। यह एआई गवर्नेंस को "क्या यह डेटा वैध है?" से बदलकर "क्या यह वास्तविकता पर्याप्त है?" पर ले जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।