From Neural Intent to Cryptographic Authorization: Governing Agentic Workflows
यह शोध पत्र न्यूरल क्रिप्टोग्राफिक सर्विसेज (NCS) को प्रस्तुत करता है, जो एक ऐसी सुरक्षा वास्तुकला है जो न्यूरल प्लानिंग को निष्पादन से अलग करके और एक नियतात्मक प्रतीकात्मक नियंत्रक के माध्यम से टूल कॉल्स के सख्त, क्रिप्टोग्राफिक प्राधिकरण को लागू करके स्वायत्त एआई एजेंटों को सुरक्षित करती है, जिससे वर्कफ़्लो उपयोगिता बनाए रखते हुए प्रॉम्प्ट इंजेक्शन हमलों को रोका जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपका कंप्यूटर केवल किसी इंसान द्वारा लिखे गए निर्देशों की एक सख्त सूची का पालन नहीं करता, बल्कि एक बुद्धिमान, बातूनी सहायक की तरह काम करता है जो खुद से चीजें करने का तरीका निकाल सकता है। यह "AI एजेंटों" का युग है। उन्हें डिजिटल इंटर्न के रूप में सोचें जो आपके प्राकृतिक भाषा के अनुरोधों को समझकर ईमेल पढ़ सकते हैं, बैंक खाते देख सकते हैं और दस्तावेज़ भेज सकते हैं। लेकिन यहाँ एक पेंच है: ये इंटर्न अविश्वसनीय रूप से स्मार्ट हैं लेकिन अविश्वसनीय रूप से सुझाव देने योग्य (suggestible) भी हैं। यदि आप उन्हें एक गुप्त निर्देश फुसफुसाते हैं, या यदि कोई चालाक अजनबी उस दस्तावेज़ के अंदर एक नोट छिपा देता है जिसे वे पढ़ रहे हैं, तो वे इंटर्न अचानक आपके मूल अनुरोध को अनदेखा करने और कुछ खतरनाक करने का निर्णय ले सकते हैं, जैसे कि आपके सारे पैसे किसी अजनबी को भेज देना। यह एक समस्या है क्योंकि, अतीत में, कंप्यूटर कठोर रोबोट की तरह थे जो केवल वही करते थे जिसके लिए उन्हें प्रोग्राम किया गया था। अब, वे रचनात्मक कलाकारों की तरह हैं जिन्हें अपने ही काम पर रंग चढ़ाने के लिए ठगा जा सकता है।
खतरे को समझने के लिए, हमें दो अलग-अलग तरीकों को देखने की आवश्यकता है जिनसे कंप्यूटर "सोचते" हैं। पहला है न्यूरल (Neural), जो AI के काम करने का तरीका है: यह कनेक्शनों के एक विशाल, धुंधले जाल की तरह है जो पैटर्न के आधार पर सबसे अच्छा उत्तर का अनुमान लगाता है। यह भाषा समझने में बहुत अच्छा है लेकिन थोड़ा अस्थिर हो सकता है और भ्रम (hallucinations) पैदा करने के प्रति संवेदनशील हो सकता है। दूसरा है सिंबोलिक (Symbolic), जो पारंपरिक सुरक्षा के काम करने का तरीका है: यह एक सख्त, अटूट नियम पुस्तिका या एक गणितीय समीकरण की तरह है जहाँ हमेशा $4$ होता है, और "शायद" के लिए कोई जगह नहीं है। बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: हम अपने AI एजेंटों को रचनात्मक और सहायक होने की अनुमति कैसे दें बिना उन्हें नियम तोड़ने के लिए बहकाए? हमें एक ऐसा तरीका चाहिए जिससे AI को योजना बनाने की अनुमति मिले, लेकिन एक सख्त, अपरिवर्तनीय संरक्षक हर कदम की जांच करे इससे पहले कि वह वास्तव में घटित हो।
यह बिल्कुल वही है जिसे "फ्रॉम न्यूरल इंटेंट टू क्रिप्टोग्राफिक ऑथोराइजेशन" (From Neural Intent to Cryptographic Authorization) पेपर के पीछे के शोधकर्ता हल कर रहे हैं। उन्होंने एक नया सुरक्षा तंत्र बनाया है जिसे न्यूरल क्रिप्टोग्राफिक सर्विसेज (NCS) कहा जाता है। कल्पना करें कि आप एक बैंक को एक बहुत महत्वपूर्ण पैकेज भेज रहे हैं। पुराने दिनों में, आप शायद बॉक्स पर लिखे निर्देशों का पालन करने के लिए डिलीवरी ड्राइवर (AI) पर भरोसा करते। लेकिन क्या होगा यदि कोई ड्राइवर के देखते ही देखते बॉक्स के किनारे पर "पैकेज चोर को दें" लिख दे? ड्राइवर उसे पढ़ सकता है और आज्ञा मान सकता है। NCS खेल बदल देता है क्योंकि यह निर्देशों पर एक अत्यधिक सख्त, गणित-सिद्ध ताला (math-proof lock) लगा देता है।
वास्तविक दुनिया में यह कैसे काम करता है, यहाँ दिया गया है: AI एजेंट ("न्यूरल प्लानर") को आपके अनुरोध को पढ़ने और एक ड्राफ्ट लिखने की अनुमति है कि वह क्या सोचता है कि उसे करना चाहिए। यह एक छात्र द्वारा होमवर्क असाइनमेंट लिखने जैसा है। लेकिन इस छात्र के पास वास्तव में अपना काम जमा करने या पैसा खर्च करने की शक्ति नहीं है। यह शक्ति एक अलग पात्र की है: सिंबोलिक कंट्रोलर (Symbolic Controller)। यह कंट्रोलर एक रोबोट गार्ड की तरह है जिसे छात्र के रचनात्मक विचारों की परवाह नहीं है; इसे केवल एक विशेष, पूर्व-अनुमोदित, और क्रिप्टोग्राफिक रूप से हस्ताक्षरित चेकलिस्ट की परवाह है।
प्रक्रिया एक उच्च-सुरक्षा तिजोरी की तरह है। इससे पहले कि AI एजेंट कुछ भी कर सके, जिम्मेदार इंसान एक "वर्कशीट" (चरणों की सूची) को एक विशेष डिजिटल कुंजी के साथ साइन करता है। इस वर्कशीट को फिर ब्लॉकों की एक श्रृंखला में बदल दिया जाता है, जहाँ प्रत्येक ब्लॉक गणितीय रूप से अगले से जुड़ा होता है। जब AI एजेंट एक कदम उठाना चाहता है, तो सिंबोलिक कंट्रोलर उस श्रृंखला की जांच करता है। वह सत्यापित करता है कि चरण हस्ताक्षरित चेकलिस्ट से बिल्कुल मेल खाता है। यदि AI एजेंट कहता है, "हे, चलिए हमारे योजनाबद्ध 5,000 भेजते हैं," तो गार्ड गणित की जांच करता है, देखता है कि नंबर हस्ताक्षरित श्रृंखला से मेल नहीं खाते, और तुरंत दरवाजा बंद कर देता है। एजेंट गार्ड को नहीं ठग सकता क्योंकि गार्ड एजेंट की बातों को नहीं सुन रहा है; वह केवल हस्ताक्षर के अटूट गणित को सुन रहा है।
पेपर दिखाता है कि यह प्रणाली अविश्वसनीय रूप से प्रभावी है। अपने परीक्षणों में, उन्होंने AI एजेंटों को विभिन्न प्रकार के चालाकी भरे तरीकों से ठगने की कोशिश की, जैसे सामान्य दिखने वाले डेटा के अंदर बुरे निर्देश छिपाना या बैंक ट्रांसफर में नंबरों को बदलने की कोशिश करना। इस नए सिस्टम के बिना, AI एजेंट लगभग हर बार ठगे गए, जिसमें हमलावरों की सफलता दर कुछ मामलों में 100% तक पहुँच गई। लेकिन जब उन्होंने NCS जोड़ा, तो हमलावरों की सफलता दर लगभग शून्य हो गई। एजेंट सामान्य दिनों में अपना काम करने में सक्षम थे (अपनी "उपयोगिता" को उच्च रखते हुए), लेकिन वे अपहरण (hijacked) होने के प्रति पूरी तरह से प्रतिरक्षित हो गए।
शोधकर्ताओं ने यह भी पाया कि यह प्रणाली आश्चर्यजनक रूप से तेज़ है। उनके द्वारा चलाए गए गणितीय चेक एक मिलीसेकंड से भी कम समय लेते हैं—इतने तेज़ कि यह AI के सोचने के समय की तुलना में लगभग अदृश्य है। इसका मतलब है कि हमें सुरक्षा के लिए गति का त्याग नहीं करना पड़ता है। पेपर तर्क देता है कि हमें केवल इस उम्मीद पर नहीं रहना चाहिए कि AI "समझता" है कि उसे बुरा नहीं करना चाहिए; हमें एक ऐसा सिस्टम चाहिए जहाँ AI विचार प्रस्तावित कर सके, लेकिन एक क्रिप्टोग्राफिक लॉक यह सुनिश्चित करे कि केवल अनुमोदित, हस्ताक्षरित कदम ही वास्तव में घटित हों। यह AI को स्मार्ट होने की स्वतंत्रता देने का एक तरीका है, जबकि यह सुनिश्चित करने के लिए एक सख्त, अटूट पट्टा (leash) है कि वह वास्तव में क्या कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।