Right to History: A Sovereignty Kernel for Verifiable AI Agent Execution
यह शोध पत्र "इतिहास के अधिकार" (Right to History) के सिद्धांत को प्रस्तुत करता है और इसे पंकगो (PunkGo) में कार्यान्वित करता है, जो एक रस्ट-आधारित (Rust-based) संप्रभुता कर्नेल (sovereignty kernel) है जो मर्कल ट्रीज़ (Merkle trees), क्षमता अलगाव (capability isolation) और ऊर्जा-बजट शासन (energy-budget governance) के माध्यम से व्यक्तिगत हार्डवेयर पर एआई एजेंटों की क्रियाओं की छेड़छाड़-रोधी, स्वतंत्र रूप से सत्यापन योग्य लॉगिंग सुनिश्चित करता है, जिससे विकेंद्रीकृत एआई निष्पादन में महत्वपूर्ण नियामक और विश्वास संबंधी अंतराल को संबोधित किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपने कामों को पूरा करने के लिए एक बहुत ही बुद्धिमान, लेकिन थोड़े अनिश्चित व्यवहार वाले व्यक्तिगत सहायक (personal assistant) को काम पर रखा है। आप उसे कहते हैं: "जाओ किराने का सामान खरीद लाओ, बिलों का भुगतान करो, और शायद एक टपकते हुए नल को ठीक भी कर दो।"
अब, कल्पना कीजिए कि आपका सहायक वापस आता है और कहता है, "मैंने वह सब कर दिया!" लेकिन आपके पास यह जानने का कोई तरीका नहीं है कि:
- क्या उसने वास्तव में किराने का सामान खरीदा, या उसने बस एक वीडियो गेम खरीद लिया?
- क्या उसने सही राशि का भुगतान किया, या उसने गलती से आपके बचत खाते के पैसे किसी अजनबी को ट्रांसफर कर दिए?
- क्या उसने नल ठीक किया, या उसने बस पाइप को तब तक लात मारी जब तक कि वह टपकना बंद नहीं हो गया?
AI की दुनिया में, हम इन "एजेंट्स" को बिल्कुल यही करने देने लगे हैं। लेकिन वर्तमान में, हमारे पास कोई ब्लैक बॉक्स या रसीद नहीं है जो यह साबित कर सके कि उन्होंने वास्तव में क्या किया। यदि कुछ गलत हो जाता है, तो आपके पास कोई सबूत नहीं होता।
यह पेपर PunkGo नामक एक समाधान और एक नए विचार "Right to History" (इतिहास का अधिकार) को पेश करता है।
यहाँ इसका सरल विवरण दिया गया है कि यह कैसे काम करता है, रोजमर्रा के उदाहरणों का उपयोग करते हुए।
1. मुख्य विचार: "Right to History" (इतिहास का अधिकार)
सोचिए कि आपका व्यक्तिगत डेटा (फोटो, ईमेल) आपकी संपत्ति है। आपके पास पहले से ही ऐसे कानून हैं जो कहते हैं कि आप अपने डेटा के मालिक हैं।
यह पेपर तर्क देता है कि आपको अपने कंप्यूटेशनल इतिहास (computational history) का भी मालिक होना चाहिए। यदि कोई AI एजेंट आपके कंप्यूटर पर कोई कार्य करता है, तो आपके पास उस एजेंट द्वारा किए गए हर एक कार्य का एक पूर्ण, अपरिवर्तनीय और गणितीय रूप से प्रमाणित रिकॉर्ड होने का अधिकार है।
2. समस्या: "Black Box" (ब्लैक बॉक्स)
अभी, यदि कोई AI एजेंट आपके लैपटॉप पर चलता है, तो यह एक जादूगर द्वारा टोपी से खरगोश निकालने जैसा है। आप खरगोश को प्रकट होते देखते हैं, लेकिन आपको नहीं पता कि वह एक असली खरगोश था, एक प्लास्टिक का खिलौना था, या जादूगर ने उसे किसी दूसरे से बदल दिया था।
- वर्तमान सिस्टम: उनके पास एक "पॉज" (रोकने वाला) बटन या "अनुमति" (permission) स्विच हो सकता है, लेकिन वे जादू के करतबों की एक स्थायी, अपरिवर्तनीय डायरी नहीं रखते हैं।
- जोखिम: यदि AI अनियंत्रित हो जाता है या कोई गलती करता है, तो आप बैंक, अदालत, या यहाँ तक कि खुद को भी यह साबित नहीं कर सकते कि क्या हुआ था।
3. समाधान: PunkGo (द "सॉवरेनटी कर्नेल")
लेखकों ने PunkGo नामक एक नया सॉफ्टवेयर बनाया है। इसे एक अत्यंत सख्त, बिना पलक झपकाए देखने वाले सुरक्षा गार्ड के रूप में समझें जो आपके (इंसान) और AI एजेंट के बीच बैठता है।
यहाँ बताया गया है कि तीन मुख्य रूपकों (metaphors) का उपयोग करके PunkGo कैसे काम करता है:
A. "Merkle Tree" (एक अटूट डायरी)
एक ऐसी डायरी की कल्पना करें जहाँ हर पन्ना अगले पन्ने से एक बहुत ही मजबूत, जादुई गोंद से चिपका हुआ है।
- यदि आप पेज 5 से कोई पन्ना फाड़ने या शब्द बदलने की कोशिश करते हैं, तो पेज 6, 7 और 8 का गोंद तुरंत लाल हो जाएगा और टूट जाएगा।
- कंप्यूटर की भाषा में, इसे Merkle Tree कहा जाता है। यह प्रत्येक क्रिया के लिए एक डिजिटल फिंगरप्रिंट बनाता है। यदि कोई भी इतिहास के साथ छेड़छाड़ करने की कोशिश करता है, तो गणित तुरंत इसे सिद्ध कर देता है।
- परिणाम: आपको एक ऐसी रसीद मिलती है जिसे गणितीय रूप से नकली बनाना असंभव है।
B. "Energy Budget" (टोकन का जार)
कल्पना कीजिए कि आप अपने सहायक को 100 टोकन वाला एक जार देते हैं। हर बार जब वह कुछ करता है, तो उसमें टोकन खर्च होते हैं।
- किराने का सामान खरीदना: 5 टोकन।
- नल ठीक करना: 10 टोकन।
- आपके सेफ (तिजोरी) को तोड़ने की कोशिश करना: 100 टोकन (और उसे रोक दिया जाता है)।
- ट्विस्ट: यदि सहायक किसी जोखिम भरे काम (जैसे "1,000 डॉलर ट्रांसफर करना") के लिए अनुमति मांगने की कोशिश करता है, तो उसे पहले जार में 20 टोकन लॉक करने होंगे।
- यदि आप "हाँ" कहते हैं, तो क्रिया होती है, और टोकन खर्च हो जाते हैं।
- यदि आप "नहीं" कहते हैं या वह बहुत देर तक इंतजार करता है, तो आपको केवल परेशानी के बदले में (लॉक किए गए टोकन का 20%) एक छोटा सा शुल्क देना पड़ता है।
- यह क्यों महत्वपूर्ण है: यह AI को आपको बार-बार "क्या आप सुनिश्चित हैं?" जैसे अनुरोधों से परेशान करने या आपके संसाधनों को खत्म करने से रोकता है। यह AI को अपने अनुरोधों के प्रति गंभीर होने के लिए मजबूर करता है।
C. "Capability Badge" (आईडी कार्ड)
कल्पना कीजिए कि AI एजेंट के पास एक आईडी कार्ड है जो बताता है कि वह वास्तव में किन चीजों को छू सकता है।
- एजेंट A: "किचन और लिविंग रूम को छू सकता है।"
- एजेंट B: "केवल गैरेज को छू सकता है।"
- यदि एजेंट A गैरेज में जाने की कोशिश करता है, तो सुरक्षा गार्ड (PunkGo) दरवाजा बंद कर देता है। एजेंट को कोशिश करने का मौका भी नहीं मिलता; क्रिया होने से पहले ही उसे ब्लॉक कर दिया जाता है।
4. "Hold" तंत्र (इंसान की भूमिका)
कभी-कभी, AI को कुछ बड़ा करने की आवश्यकता होती है, जैसे "मेरा घर बेचना।"
- पुराना तरीका: AI इसे बस कर देता है, या आपको इसे मैन्युअल रूप से रोकना पड़ता है।
- PunkGo का तरीका: AI रुकता है और कहता है, "मुझे घर बेचने की आवश्यकता है। क्या आप इसकी अनुमति देते हैं?"
- आपको एक नोटिफिकेशन मिलता है। आप "Approve" (स्वीकार करें) पर क्लिक करते हैं।
- महत्वपूर्ण रूप से: सिस्टम ठीक से रिकॉर्ड करता है कि आपने कब क्लिक किया, आपने क्या स्वीकृत किया, और किसने पूछा। यह एक कानूनी और तकनीकी प्रमाण बनाता है कि आदेश आपने दिया था, न कि AI ने।
5. यह आपके लिए क्यों महत्वपूर्ण है
- नियम (Regulations): नए कानून (जैसे EU AI Act) आ रहे हैं जो कहते हैं कि उच्च-जोखिम वाले AI को लॉग (logs) रखना ही होगा। PunkGo इसे केवल बड़ी कंपनियों के लिए ही नहीं, बल्कि आम लोगों के लिए भी आसान बनाता है।
- विश्वास (Trust): आप अंततः एक लॉग देख सकते हैं और कह सकते हैं, "हाँ, AI ने बिल्कुल वही किया जो मैंने इसे करने के लिए कहा था, और इसके अलावा कुछ भी नहीं।"
- संप्रभुता (Sovereignty): यह आपको वापस नियंत्रण में लाता है। आप केवल एक उपयोगकर्ता नहीं हैं; आप अपने कंप्यूटर के इतिहास के मालिक हैं।
सारांश
यह पेपर प्रस्तावित करता है कि आपका AI एजेंट एक पट्टे (leash) वाले हाथ से काम करने वाले मजदूर की तरह कार्य करता है।
- पट्टा (Leash): यह केवल वहीं जा सकता है जहाँ आप इसे जाने देते हैं (सीमाएँ/Boundaries)।
- बटुआ (Wallet): इसे अपने हर कदम के लिए भुगतान करना पड़ता है (ऊर्जा/Energy)।
- डायरी (Diary): हर कदम एक ऐसी किताब में लिखा जाता है जिसे मिटाया या बदला नहीं जा सकता (Merkle Tree)।
- बॉस (Boss): बड़े कदमों के लिए आपको साइन-ऑफ करना होता है (मानवीय अनुमोदन/Human Approval)।
यह AI को एक "ब्लैक बॉक्स" रहस्य से बदलकर एक पारदर्शी, जवाबदेह साथी में बदल देता है जिस पर आप भरोसा कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।