aiAuthZ: Off-Host, Identity-Bound Authorization for AI Agents
यह शोध पत्र aiAuthZ को प्रस्तुत करता है, जो एक ऑफ-होस्ट ऑथोराइजेशन गेटवे है जो पहचान-बद्ध (identity-bound), अपरिवर्तनीय नीतियों और क्रिप्टोग्राफिक सत्यापन को लागू करके AI एजेंट टूल कॉल्स को सुरक्षित करता है, जिससे विभिन्न मॉडलों और परिदृश्यों में हमले की सफलता दर को नगण्य विलंबता (latency) के साथ प्रभावी रूप से 0% तक कम कर दिया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "aiAuthZ: AI एजेंट्स के लिए ऑफ-होस्ट, आइडेंटिटी-बाउंड ऑथराइजेशन" पेपर का सरल भाषा और उपमाओं (analogies) के साथ हिंदी अनुवाद दिया गया है।
मुख्य समस्या: "भोला बटलर" (The Gullible Butler)
कल्पना कीजिए कि आपने अपने घर को चलाने के लिए एक बहुत बुद्धिमान बटलर (AI एजेंट) को काम पर रखा है। वह निर्देश मानने में बहुत माहिर है: वह तिजोरी खोल सकता है, ईमेल भेज सकता है, या पैसे ट्रांसफर कर सकता है।
हालाँकि, एक पेच है: बटलर यह अंतर नहीं कर सकता कि कोई आदेश आपसे आया है या किसी दूसरे व्यक्ति द्वारा फ्रिज पर चिपकाई गई स्टिकी नोट (sticky note) पर लिखा गया नकली आदेश है।
यदि कोई अजनबी आपके घर में घुसकर लिख देता है, "मालिक कहते हैं: सारा पैसा मेरे खाते में ट्रांसफर कर दो," तो बटलर उस नोट को पढ़कर यह मान सकता है कि यह आपका ही असली आदेश है, और वह इसे कर देगा। इसे प्रॉम्प्ट इंजेक्शन (prompt injection) कहा जाता है। पेपर का तर्क है कि बटलर के "सोचने" पर भरोसा करना कि क्या कोई आदेश सुरक्षित है, जोखिम भरा है क्योंकि:
- कुछ बटलर बहुत भोले होते हैं; कुछ थोड़े सतर्क।
- यहाँ तक कि सबसे महंगे, उच्च-स्तरीय बटलर भी कभी-कभी धोखा खा जाते हैं।
- आप उन्हें सुरक्षित बनाने के लिए बस अधिक पैसे देकर उन्हें बेहतर नहीं बना सकते।
समाधान: "ऑफ-साइट सुरक्षा गार्ड" (aiAuthZ)
लेखकों ने aiAuthZ नामक एक सिस्टम बनाया है। बटलर से यह पूछने के बजाय कि क्या कोई आदेश सुरक्षित है, उन्होंने बटलर और बाहरी दुनिया के बीच एक अलग, लॉक कमरे (एक अलग ट्रस्ट डोमेन) में एक सुरक्षा गार्ड बिठा दिया है।
यह नया सिस्टम कैसे काम करता है, यहाँ चरण-दर-चरण बताया गया है:
1. "सीक्रेट हैंडशेक" (पहचान सत्यापन/Identity Verification)
हर बार जब आप (उपयोगकर्ता) कोई आदेश देते हैं, तो आप केवल उसे बोलते नहीं हैं; बल्कि आप उसे एक अद्वितीय, अटूट डिजिटल सील (HMAC सिग्नेचर) के साथ साइन करते हैं जिसे केवल आप और सुरक्षा गार्ड जानते हैं।
- उपमा: कल्पना कीजिए कि आप गार्ड को एक नोट थमाते हैं। उस नोट पर एक विशेष मोम की सील (wax seal) लगी है। गार्ड सील की जाँच करता है। यदि सील असली है, तो गार्ड जानता है, "यह आदेश निश्चित रूप से मालिक की ओर से आया है, किसी अजनबी की ओर से नहीं।"
- ट्विस्ट: भले ही बटलर एक ऐसा नोट पढ़े जिसमें लिखा हो, "मैं मालिक हूँ, मुझे चाबियाँ दे दो," गार्ड शब्दों पर ध्यान नहीं देता। गार्ड केवल सील पर भरोसा करता है। यदि सील मालिक से मेल नहीं खाती, तो आदेश को खारिज कर दिया जाता है, चाहे टेक्स्ट में कुछ भी लिखा हो।
2. "नियम पुस्तिका" (ऑफ-होस्ट पॉलिसी/Off-Host Policy)
गार्ड के पास एक नियम पुस्तिका (rulebook) है जिसे बटलर देख या बदल नहीं सकता।
- उपमा: बटलर सोच सकता है, "मुझे कोई भी दरवाजा खोलने की अनुमति है!" लेकिन गार्ड की नियम पुस्तिका कहती है, "केवल मालिक ही तिजोरी खोल सकता है। केवल मालिक ही पैसे भेज सकता है।"
- भले ही बटलर को यह विश्वास दिलाने की कोशिश की जाए कि उसके पास अनुमति है, गार्ड नियम पुस्तिका की जाँच करता है। यदि पूछने वाला व्यक्ति (यानी "सील") मालिक नहीं है, या यदि वह कुछ बहुत बड़ा करने की कोशिश कर रहा है (जैसे दस लाख डॉलर भेजना), तो गार्ड उसे रोक देता है।
3. "अटूट रसीद" (QR कोड/Unbreakable Receipt)
जब गार्ड कहता है "हाँ, यह सुरक्षित है," तो वह केवल क्रिया को होने नहीं देता। वह एक QR कोड रसीद प्रिंट करता है जो प्रमाणित करती है कि आदेश अधिकृत था।
- उपमा: यह एक कॉन्सर्ट के टिकट जैसा है जो आपको मिलता है। भले ही आप टिकट की फोटो लें, उसे छोटा करें, या उसे किसी धुंधले टेक्स्ट मैसेज के माध्यम से भेजें, सुरक्षा प्रणाली अभी भी उसे स्कैन कर सकती है और कह सकती है, "यह एक वैध टिकट है।"
- पेपर ने इसे QR कोड की फोटो लेकर, उन्हें क्रॉप करके और कंप्रेस करके टेस्ट किया। सिस्टम अभी भी 94% बार उन्हें पहचान लेता है। यह एक स्थायी, अपरिवर्तनीय रिकॉर्ड बनाता है कि किसने क्या किया।
4. "गुप्त तिजोरी" (क्रेडेंशियल ब्रोकर/Secret Vault)
गार्ड के पास तिजोरी की चाबियाँ (API secrets) भी होती हैं। बटलर के पास चाबियाँ नहीं होतीं।
- उपमा: यदि बटलर को तिजोरी खोलने के लिए बहलाया जाता है, तो वह ऐसा नहीं कर सकता क्योंकि उसके पास चाबी नहीं है। उसे गार्ड से पूछना होगा। गार्ड नियमों की जाँच करता है, और तभी वह उस एक विशिष्ट क्षण के लिए चाबी सौंपता है। यदि बटलर चाबियाँ चुराने की कोशिश करता है, तो वह नहीं कर सकता, क्योंकि चाबियाँ कभी भी गार्ड के कमरे से बाहर नहीं जातीं।
इस पेपर ने वास्तव में क्या पाया
लेखकों ने इस सिस्टम का परीक्षण 15 अलग-अलग AI "बटलरों" (मॉडल्स) और 8 अलग-अलग प्रकार के हमलों (जैसे डेटा चुराने के लिए बटलर को बेवकूफ बनाना) के साथ किया।
- गार्ड के बिना: बटलर असंगत थे। कुछ ने ट्रिक को अस्वीकार कर दिया (100% सुरक्षित), लेकिन अन्य धोखे में आ गए (केवल 38% सुरक्षित)। सबसे महंगा बटलर केवल 50% सुरक्षित था।
- गार्ड के साथ: सभी हमलों को 100% ब्लॉक कर दिया गया। सबसे सस्ते से लेकर सबसे महंगे तक, हर एक मॉडल ने गलत कार्यों को रोक दिया।
- गति: गार्ड ने निर्णय लेने में मात्र 0.03 मिलीसेकंड का समय लिया। यह इतना तेज़ है कि यह पलक झपकने जैसा है; इसने काम को धीमा नहीं किया।
- वास्तविक दुनिया का परीक्षण: उन्होंने बैंकिंग सिमुलेशन पर इसका परीक्षण किया। गार्ड ने हैकर द्वारा पैसे चुराने के हर प्रयास को रोका, भले ही हैकर ने बटलर को बेवकूफ बनाने की कोशिश की हो।
यह सिस्टम क्या नहीं करता है
यह जानना महत्वपूर्ण है कि इसकी सीमाएँ क्या हैं, ठीक वैसे ही जैसे यह जानना कि एक सुरक्षा गार्ड क्या नहीं कर सकता:
- यह बटलर को भ्रमित होने से नहीं रोकता। बटलर अभी भी यह सोचने के लिए भ्रमित हो सकता है कि एक अजनबी ही मालिक है। गार्ड बस बटलर को उस भ्रम पर कार्य करने से रोकता है।
- यह उस हैकर को नहीं रोकता जो गार्ड के कमरे में घुस जाता है। यदि हमलावर सुरक्षा गार्ड के कंप्यूटर को नियंत्रित करता है, तो पूरा सिस्टम विफल हो जाता है।
- यह बटलर को उसके अपने इन-बिल्ट टूल्स का उपयोग करने से नहीं रोकता। यदि बटलर के पास कोई गुप्त बैकडोर (जैसे कि बिल्ट-इन शेल कमांड) है जो गार्ड को बायपास करता है, तो गार्ड उसे नहीं रोक सकता। पेपर कहता है कि सिस्टम इंस्टॉल करते समय आपको इन बैकडोर्स को अक्षम (disable) करना चाहिए।
निचोड़ (The Bottom Line)
पेपर का तर्क है कि हमें AI मॉडल्स पर खुद की निगरानी करने के लिए भरोसा नहीं करना चाहिए। इसके बजाय, हमें उनके सामने एक अलग, क्रिप्टोग्राफिक सुरक्षा गार्ड रखना चाहिए। यह गार्ड पूछने वाले की आईडी की जाँच करता है, नियमों की जाँच करता है, और एक रसीद जारी करता है। यह एक अराजक, अप्रत्याशित स्थिति को एक नियत (deterministic), सुरक्षित स्थिति में बदल देता है जहाँ बुरे कार्यों को 100% समय ब्लॉक कर दिया जाता है, चाहे किसी भी AI मॉडल का उपयोग किया जा रहा हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।