Notarized Agents: Receiver-Attested Confidential Receipts for AI Agent Actions
यह शोध पत्र Sello को प्रस्तुत करता है, जो सेवा प्राप्तकर्ताओं (service receivers) द्वारा एजेंट के स्वामी को गतिविधि रसीदों पर हस्ताक्षर और एन्क्रिप्ट करने के माध्यम से छेड़छाड़-प्रमाणित (tamper-evident) AI एजेंट अवलोकन सुनिश्चित करता है, जिससे एजेंट या उसके ऑपरेटर पर विश्वास करने की आवश्यकता समाप्त हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Notarized Agents: Receiver-Attested Confidential Receipts for AI" नामक शोध पत्र (paper) का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य समस्या: लोमड़ी द्वारा मुर्गी के घर की रखवाली (The Fox Guarding the Henhouse)
कल्पना कीजिए कि आपने एक रोबोट बटलर (AI एजेंट) को बैंक जाने, घर खरीदने या आपके मेडिकल रिकॉर्ड प्रबंधित करने के लिए काम पर रखा है। आप जानना चाहते हैं कि उसने वास्तव में क्या किया।
वर्तमान में, जाँच करने का एकमात्र तरीका रोबोट से पूछना है, "तुमने क्या किया?" और उसके द्वारा लिखी गई डायरी देखना है। यह शोध पत्र तर्क देता है कि यह एक बहुत बुरा विचार है। यदि रोबोट हैक हो जाता है, उसमें कोई बग आ जाता है, या वह झूठ बोलने का फैसला करता है, तो वह अपनी डायरी को इस तरह से बदल सकता है कि लिखा हो, "मैंने कुछ गलत नहीं किया," जबकि वास्तव में उसने आपका पैसा चुरा लिया हो। यहाँ रोबोट ही कर्ता (actor) है और वही कथावाचक (narrator) भी है। उसके पास सच बोलने का कोई कारण नहीं है, और आपके पास यह साबित करने का कोई तरीका नहीं है कि वह झूठ बोल रहा है।
समाधान: "नोटरी" दृष्टिकोण (The "Notary" Approach)
यह शोध पत्र कहानी को उलटने का प्रस्ताव देता है। इसके बजाय कि रोबोट रिपोर्ट लिखे, जहाँ रोबोट जाता है, वे स्थान रिपोर्ट लिखेंगे।
इसे प्राचीन काल के कानूनी अनुबंध (legal contract) की तरह समझें। जब कोई सौदा होता था, तो दोनों पक्ष केवल हस्ताक्षर नहीं करते थे; वे एक तीसरे पक्ष के गवाह (notary) को साथ लाते थे जो दोनों पक्षों से स्वतंत्र होता था। नोटरी उस दस्तावेज़ पर मुहर लगाता था यह कहने के लिए कि, "मैंने यह होते हुए देखा है।"
AI की दुनिया में:
- एजेंट (The Agent): रोबकोट (ट्रैक किया जाने वाला ऑब्जेक्ट)।
- सेवाएँ (The Services): बैंक, अस्पताल या वेबसाइट्स जहाँ रोबोट जाता है (गवाह)।
- मालिक (The Owner): आप (वह व्यक्ति जिसने रोबोट को काम पर रखा है)।
"Sello" प्रोटोकॉल कैसे काम करता है
लेखकों ने Sello नामक एक प्रणाली बनाई है जो एक डिजिटल नोटरी के रूप में कार्य करती है। यह इस प्रकार काम करती है:
- विजिट (The Visit): आपका रोबोट किसी सेवा (जैसे, बैंक API) के पास जाता है ताकि कोई लेनदेन किया जा सके।
- गवाह हस्ताक्षर करता है (The Witness Signs): बैंक यह प्रतीक्षा नहीं करता कि रोबोट बताए कि क्या हुआ। इसके बजाय, बैंक का अपना कंप्यूटर तुरंत एक नोट लिखता है: "मैंने देखा कि यह रोबोट आया और इसने X के लिए अनुरोध किया।"
- गुप्त लिफाफा (The Secret Envelope): बैंक इस नोट को एक विशेष, अटूट डिजिटल लिफाफे में रखता है। महत्वपूर्ण बात यह है कि केवल आपके पास इसे खोलने की कुंजी (key) है। बैंक को नहीं पता कि इसके अंदर क्या है, और रोबोट देख नहीं सकता कि इसमें क्या है।
- सार्वजनिक लेज़र (The Public Ledger): बैंक इस सीलबंद लिफाफे को एक सार्वजनिक, छेड़छाड़-मुक्त डिजिटल लॉग (जैसे एक विशाल, सार्वजनिक ब्लॉकचेन लेज़र) में लॉक कर देता है।
- जाँच (The Check): बाद में, आप सार्वजनिक लॉग पर जाते हैं। आप लिफाफा ढूँढते हैं, अपनी निजी कुंजी (private key) का उपयोग करके उसे खोलते हैं, और ठीक वही पढ़ते हैं जो बैंक ने देखा था।
यह एक बड़ी बात क्यों है (4 महाशक्तियाँ - The 4 Superpowers)
शोध पत्र का दावा है कि Sello अद्वितीय है क्योंकि यह उन चार चीजों को जोड़ता है जो किसी अन्य प्रणाली में नहीं हैं:
- P1: गवाह हस्ताक्षर करता है, रोबोट नहीं। हस्ताक्षर बैंक (प्राप्तकर्ता) द्वारा किया जाता है, न कि रोबोट द्वारा। भले ही रोबोट हैक हो जाए, वह बैंक के हस्ताक्षर की नकल नहीं कर सकता।
- P2: केवल आप इसे पढ़ सकते हैं। रसीद को एन्क्रिप्ट (encrypt) किया गया है ताकि बैंक, सार्वजनिक लॉग, और यहाँ तक कि रोबोट का ऑपरेटर भी इसकी सामग्री नहीं पढ़ सके। केवल आप ही इस लिफाफे को खोल सकते हैं।
- P3: सार्वजनिक लॉग। रसीद को एक सार्वजनिक "पारदर्शिता लॉग" (transparency log) में प्रकाशित किया जाता है। इसका मतलब है कि बैंक बाद में रसीद को छिपा नहीं सकता। यदि वे इसे हटाने की कोशिश करते हैं, तो सार्वजनिक लॉग प्रमाणित करेगा कि यह वहाँ मौजूद था।
- P4: आप इसे स्वयं ढूँढते हैं। आप रोबोट से रसीदें नहीं मांगते। आप रसीदों को खोजने के लिए अपने प्राधिकरण टोकन (authorization token) से प्राप्त एक विशेष कोड का उपयोग करके स्वयं सार्वजनिक लॉग में उनकी तलाश करते हैं।
"Find My AirTag" समानता
शोध पत्र इसकी तुलना Apple के "Find My" नेटवर्क से करता है।
- AirTag वह रोबोट है। यह "मूर्ख" (dumb) है और इसमें इंटरनेट कनेक्शन नहीं है। यह घर कॉल नहीं कर सकता।
- iPhones वे सेवाएँ हैं। जब कोई iPhone किसी AirTag के पास से गुजरता है, तो वह गुप्त रूप से एक एन्क्रिप्टेड संदेश भेजता है: "मैंने इस AirTag को यहाँ देखा।"
- मालिक (Owner) ही एकमात्र व्यक्ति है जो उस संदेश को डिक्रिप्ट (decrypt) कर सकता है।
- परिणाम: मालिक जानता है कि AirTag कहाँ है, भले ही AirTag ने कभी बात न की हो। Sello AI एजेंटों के लिए यही करता है।
Sello क्या हल नहीं करता (सीमाएँ - Limitations)
लेखक इस बारे में बहुत ईमानदार हैं कि यह प्रणाली क्या नहीं कर सकती:
- "मौन" हमला (The "Silent" Attack): यदि रोबोट निर्णय लेता है कि वह किसी भी सेवा के पास नहीं जाएगा (उदाहरण के लिए, वह बस वहीं बैठा रहता है और कुछ नहीं करता), तो कोई रसीद नहीं बनती है। यदि रोबдно ने किसी के साथ संवाद नहीं किया, तो सिस्टम यह साबित नहीं कर सकता कि रोबोट ने कुछ नहीं किया।
- "मिलीभगत" हमला (The "Collusion" Attack): यदि रोबोट और बैंक मिलकर फर्जी रसीद बनाने की साजिश रचते हैं, तो सिस्टम उन्हें रोक नहीं सकता। हालाँकि, यदि रोबोट कई अलग-अलग सेवाओं के साथ बातचीत करता है, तो उनके लिए एक साथ पूरी तरह से झूठ बोलना कठिन हो जाता है।
- "क्यों करें?" की समस्या (The "Why Bother?" Problem): वर्तमान में, बैंकों और सेवाओं के पास यह अतिरिक्त काम करने का कोई कारण नहीं है। वे इन रसीदों पर हस्ताक्षर नहीं करेंगे जब तक कि कानून उन्हें ऐसा करने के लिए मजबूर न करे या ग्राहक इसकी मांग न करें। शोध पत्र स्वीकार करता है कि यही सबसे बड़ी बाधा है।
सारांश
शोध पत्र का तर्क है कि हम AI एजेंटों पर उनके कार्यों के बारे में हमें सच बताने के लिए भरोसा नहीं कर सकते। इसके बजाय, हमें उन स्वतंत्र सेवाओं पर भरोसा करना चाहिए जिनके साथ वे बातचीत करते हैं ताकि वे गवाह के रूप में कार्य करें। उन सेवाओं द्वारा देखे गए विवरण पर हस्ताक्षर करने, उसे एन्क्रिप्ट करने और प्रकाशित करने से, मालिक को एक ऐसा "छेड़छाड़-प्रमाणित निशान" (tamper-evident trail) मिलता है जिसे एजेंट, पूरी तरह से समझौता होने (compromised) के बावजूद, बना नहीं सकता।
लेखक इसे "AI एजेंटों के लिए नोटरीकरण" कहते हैं, और उन्होंने यह साबित करने के लिए एक प्रोटोटाइप बनाया है जिसे Sello कहा जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।