Secure Tool Manifest and Digital Signing Solution for Verifiable MCP and LLM Pipelines
यह शोध पत्र एक सुरक्षित टूल मैनिफेस्ट और डिजिटल साइनिंग फ्रेमवर्क का प्रस्ताव करता है जो संवेदनशील डोमेन में लार्ज लैंग्वेज मॉडल पाइपलाइनों की अखंडता, सत्यापन क्षमता और सुरक्षित निष्पादन सुनिश्चित करने के लिए क्रिप्टोग्राफिक रूप से हस्ताक्षरित मैनिफेस्ट और पारदर्शी सत्यापन लॉग को लागू करके मॉडल कॉन्टेक्स्ट प्रोटोकॉल (MCP) को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक उच्च-दांव वाले किचन (high-stakes kitchen) को चला रहे हैं जहाँ एक बहुत ही बुद्धिमान, लेकिन कभी-कभी अप्रत्याशित, हेड शेफ (Large Language Model या LLM) ग्राहकों के ऑर्डर्स के आधार पर जटिल व्यंजन तैयार कर रहा है। यह शेफ काम पूरा करने के लिए विभिन्न उपकरणों का उपयोग कर सकता है—जैसे चाकू, ओवन, ब्लेंडर (external tools)।
समस्या यह है कि वर्तमान सेटअप में, कोई भी रसोई में घुसकर शेफ के रेसिपी कार्ड को बदलकर नकली कार्ड लगा सकता है, या शेफ को गंदा चाकू इस्तेमाल करने के लिए बहला सकता है। यदि शेफ एक गलत ऑर्डर का पालन करता है, तो खाना ज़हरीला हो सकता है, और किसी को पता भी नहीं चलेगा कि ऑर्डर किसने दिया था या वास्तव में क्या हुआ था। यह वही भेद्यता (vulnerability) है जिसे यह पेपर संबोधित करता है।
लेखक एक नया सिस्टम प्रस्तावित करते हैं जिसे Secure Tool Manifest and Digital Signing Framework कहा जाता है। यह इस प्रकार काम करता है (सरल उपमाओं का उपयोग करते हुए):
1. "टैम्पर-प्रूफ रेसिपी कार्ड" (द मेनिफेस्ट - The Manifest)
शेफ द्वारा किसी भी उपकरण को छूने से पहले, प्रत्येक अनुरोध को एक विशेष, डिजिटल "रेसिपी कार्ड" पर लिखा जाना चाहिए जिसे Manifest कहा जाता है।
- उपमा: इसे एक सीलबंद, आधिकारिक लिफाफे की तरह समझें। इसके अंदर, यह सूचीबद्ध करता है कि शेफ को क्या करने की अनुमति है।
- ट्विस्ट: यह पेपर "ग्राहक के दृष्टिकोण" (जो उपयोगकर्ता देखता है) को "शेफ के दृष्टिकोण" (आंतरिक तकनीकी विवरण) से अलग करता है। यह उपयोगकर्ता को अनजाने में (या दुर्भावनापूर्ण रूप से) यह लीक करने से रोकता है कि रसोई कैसे काम करती है।
2. "नोटरी स्टैम्प" (डिजिटल साइनिंग - Digital Signing)
शेफ द्वारा रेसिपी कार्ड को देखने से पहले, उसे एक विश्वसनीय नोटरी (Hardware Security Module या HSM) द्वारा स्टैम्प किया जाना चाहिए।
- उपमा: कल्पना कीजिए कि एक नोटरी पब्लिक रेसिपी कार्ड की जांच करता है, नियमों को सत्यापित करता है, और फिर एक विशेष स्याही (एक डिजिटल सिग्नेचर) का उपयोग करके उस पर एक अद्वितीय, अटूट मुहर लगाता है।
- परिणाम: यदि कोई स्टैम्प लगने के बाद कार्ड पर एक भी अक्षर बदलने की कोशिश करता है, तो स्याही फैल जाएगी, और कार्ड को तुरंत नकली पहचान लिया जाएगा। शेफ खाना बनाना मना कर देता है।
3. "सार्वजनिक बहीखाता" (ट्रांसपेरेंसी लॉग्स - Transparency Logs)
हर बार जब एक रेसिपी कार्ड को स्टैम्प किया जाता है और उपयोग किया जाता है, तो उसकी एक प्रति एक विशाल, सार्वजनिक, अपरिवर्तनीय पुस्तक में जोड़ी जाती है जिसे Transparency Log (एक Merkle Tree का उपयोग करके) कहा जाता है।
- उपमा: इसे एक ब्लॉकचेन या एक सार्वजनिक डायरी की तरह समझें जिसे हर कोई पढ़ सकता है लेकिन कोई मिटा या बदल नहीं सकता। यदि आप जानना चाहते हैं कि शेफ ने पाँच मिनट पहले क्या किया था, तो आप इसे देख सकते हैं।
- लाभ: यदि शेफ कुछ अजीब करता है, तो आप साबित कर सकते हैं कि वह ठीक कब हुआ और इसे किसने अधिकृत किया था। आप सबूत नहीं छिपा सकते।
4. "स्पीड टेस्ट" (स्केलेबिलिटी - Scalability)
लेखकों ने 50,000 ऑर्डर्स (खाना पकाने की एक विशाल मात्रा) के साथ इस सिस्टम का परीक्षण किया।
- निष्कर्ष: उन्होंने पाया कि अधिक ऑर्डर जोड़ने से रसोई अव्यवस्थित तरीके से धीमी नहीं हुई। इसके बजाय, सिस्टम प्रति ऑर्डर अधिक तेज़ और कुशल हो गया, लगभग एक सुव्यवस्थित मशीन की तरह। यह "लीनियरली" (linearly) स्केल हुआ, जिसका अर्थ है कि यदि आप ऑर्डर्स को दोगुना करते हैं, तो लगने वाला समय बस दोगुना हो जाता है (जो अपेक्षित है), लेकिन यह धीमा या बाधित नहीं हुआ।
- उपमा: यह एक ऐसे हाईवे की तरह है जो हर 1,000 कारों के लिए एक नया लेन जोड़ता है, जिससे पीक ऑवर्स के दौरान भी ट्रैफिक सुचारू रूप से चलता रहता है।
5. "फेयरनेस चेक" (बैलेंस्ड यूसेज - Balanced Usage)
सिस्टम तीन अलग-अलग प्रकार के शेफ (GPT-4, LLaMA, और DeepSeek) का उपयोग करता है।
- निष्कर्ष: सिस्टम ने काम को स्वचालित रूप से संतुलित किया ताकि कोई एक शेफ अत्यधिक व्यस्त न हो जाए जबकि दूसरे खाली बैठे हों। यह एक स्मार्ट वेटर की तरह है जो सभी रसोइयों के बीच टेबल को समान रूप से वितरित करता है।
- सुरक्षा: यह किसी बुरे व्यक्ति को केवल एक शेफ को ओवरलोड करके क्रैश होने से रोकने (Denial-of-Service attack) से रोकता है।
6. "सेल्फ-करेक्शन" (एरर हैंडलिंग - Error Handling)
सिस्टम को "फेल-क्लोज्ड" (fail-closed) के लिए डिज़ाइन किया गया है।
- उपमा: यदि कोई रेसिपी कार्ड थोड़ा भी संदिग्ध दिखता है, या यदि टाइमस्टैम्प गलत है (जैसे अगले साल की रेसिपी), तो सिस्टम तुरंत दरवाजा बंद कर देता है और कहता है "नहीं"। यह कोई जोखिम नहीं लेता है।
- परिणाम: इसने अपने परीक्षणों में सभी नकली या टूटे हुए ऑर्डर्स को सफलतापूर्वक खारिज कर दिया जबकि वैध ऑर्डर्स को जाने दिया।
सारांश
संक्षेप में, यह पेपर AI सिस्टम के लिए एक सुरक्षा गार्ड, एक नोटरी और एक सार्वजनिक रिकॉर्डर बनाता है। यह सुनिश्चित करता है कि जब एक AI टूल का उपयोग करता है, तो वह सत्यापित, हस्ताक्षरित और रिकॉर्ड किए गए नियमों के सेट का पालन करता है। यह सिद्ध करता है कि आप AI सिस्टम को इतना सुरक्षित बना सकते हैं बिना इसकी गति कम किए, भले ही हजारों लोग एक साथ उनका उपयोग कर रहे हों।
यह पेपर यह दावा नहीं करता है कि यह AI की "सोचने की क्षमता" को ठीक करता है या इसे स्मार्ट बनाता है; यह केवल यह सुनिश्चित करता है कि AI द्वारा लिए गए कार्य सुरक्षित, पता लगाने योग्य और नकली बनाना असंभव हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।