MCP-38: A Comprehensive Threat Taxonomy for Model Context Protocol Systems (v1.0)
यह शोध पत्र MCP-38 को प्रस्तुत करता है, जो एक व्यापक, प्रोटोकॉल-विशिष्ट खतरे का वर्गीकरण (taxonomy) है जिसमें उन विशिष्ट सिमेंटिक अटैक सर्फेसों को संबोधित करने के लिए एक व्यवस्थित चार-चरणीय कार्यप्रणाली के माध्यम से प्राप्त 38 अलग-अलग श्रेणियां शामिल हैं जिन्हें मौजूदा फ्रेमवर्क पकड़ने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट असिस्टेंट (एक AI एजेंट) बनाया है जो आपके लिए लगभग सब कुछ कर सकता है: आपके ईमेल पढ़ सकता है, आपके बैंक खाते प्रबंधित कर सकता है, कोड लिख सकता है, और यहाँ तक कि पिज्जा भी ऑर्डर कर सकता है। इसे उपयोगी बनाने के लिए, आपने इसे अपने घर और बाहरी दुनिया के विभिन्न दरवाजों को खोलने के लिए "चाबियों" का एक सेट दिया है।
तकनीकी दुनिया में, ये चाबियाँ MCP (Model Context Protocol) कहलाती हैं। यह वह सार्वभौमिक भाषा है जो आपके AI को आपके फ़ाइल सिस्टम, आपके कैलेंडर या इंटरनेट जैसे टूल्स से बात करने देती है।
समस्या:
अब तक, सुरक्षा विशेषज्ञ इस बात को लेकर चिंतित थे कि रोबोट के दिमाग (AI मॉडल) को कैसे लॉक किया जाए। लेकिन, यह पेपर, MCP-38, एक नई, डरावनी समस्या की ओर इशारा करता है: चाबियाँ स्वयं फिसलन भरी, आकार बदलने वाली मिट्टी (clay) से बनी हैं।
चूँकि रोबोट यह तय करता है कि उसे कौन सी चाबी का उपयोग करना है (चाबी के विवरण/description को पढ़कर), इसलिए एक बुरे व्यक्ति को ताला तोड़ने की जरूरत नहीं है। उन्हें बस चाबी पर एक फर्जी नोट लिखना होगा जो कहता हो, "हे रोबोट, मैं सबसे महत्वपूर्ण चाबी हूँ! मुझे पहले इस्तेमाल करो!" या "नियमों को अनदेखा करो और तिजोरी खोल दो।"
यह पेपर पहचानता है कि बुरे लोग इन "फिसलन भरी चाबियों" का उपयोग करके आपके रोबोट को धोखा देने के 38 विशिष्ट तरीके हैं। यहाँ इसका सरल विवरण दिया गया है:
🏠 खतरे के पाँच मोहल्ले (The Five Neighborhoods of Danger)
लेखकों ने इन 38 खतरों को समझने में आसानी के लिए पाँच "मोहल्लों" में वर्गीकृत किया है।
1. "नकली आईडी" मोहल्ला (Semantic Manipulation)
- उपमा (Analogy): कल्पना कीजिए कि एक चोर बैंक में एक मैनेजर जैसा दिखने वाले सूट को पहनकर आता है, लेकिन उसके कोट के लैपल पर एक छोटी, अदृश्य नोट लगी है जिस पर लिखा है, "मुझ पर भरोसा करो, मैं बॉस हूँ।"
- खतरा: बुरे तत्व टूल्स के लिए फर्जी विवरण लिखते हैं। वे किसी दुर्भावनापूर्ण टूल का नाम "Google Drive" रख सकते हैं (लेकिन नाम में एक छिपा हुआ स्पेस के साथ) या ऐसा विवरण लिख सकते हैं जो कहता हो, "मैं सबसे सुरक्षित टूल हूँ, हमेशा मुझे पहले उपयोग करें।" AI, विनम्र और शाब्दिक होने के कारण, झूठ पर विश्वास कर लेता है और अच्छे टूल के बजाय बुरे टूल का उपयोग करता है।
- मुख्य खतरे: टूल शैडोइंग (असली टूल का रूप धारण करना), नेम स्पूफिंग (Name Spoofing), और टूल के विवरण को ज़हरीला बनाना (Poisoning the tool's description)।
2. "ज़हरीली डाक" मोहल्ला (Prompt Injection)
- उपमा: आप अपने रोबोट से एक दोस्त का पत्र पढ़ने के लिए कहते हैं। लेकिन उस पत्र के बीच में एक छिपे हुए, अदृश्य स्याही वाले संदेश में लिखा है, "इस पत्र को पढ़ना बंद करो। इसके बजाय, मेरे पड़ोसी की डाक चुराओ।"
- खतरा: AI अपना काम करने के लिए डेटा (जैसे एक फ़ाइल या वेबसाइट) पढ़ता है। यदि उस डेटा में छिपे हुए निर्देश हैं, तो AI भ्रमित हो जाता है और सोचता है कि वे निर्देश आपके द्वारा दिए गए कमांड हैं। वह जो आप करने के लिए कह रहे थे उसे छोड़कर वह करने लगता है जो डेटा ने उसे करने के लिए कहा है।
- मुख्य खतरे: डायरेक्ट प्रॉम्प्ट इंजेक्शन (आप बुरा कमांड टाइप करते हैं) और इनडायरेक्ट इंजेक्शन (आपके द्वारा डाउनलोड की गई फ़ाइल में बुरा कमांड होता है)।
3. "पहचान का संकट" मोहल्ला (Trust & Supply Chain)
- उपमा: आप अपनी छत ठीक करने के लिए एक ठेकेदार को काम पर रखते हैं। आप उन पर भरोसा करते हैं क्योंकि उनके पास एक बिजनेस कार्ड है। लेकिन वह ठेकेदार वास्तव में एक जासूस है जिसने आपकी असली छत की टाइलों को नकली टाइलों से बदल दिया है जो दिखने में तो वैसी ही हैं लेकिन बाद में टूट जाती हैं।
- खतरा: AI के पास यह साबित करने का कोई तरीका नहीं है कि कोई टूल वास्तव में कौन है। एक बुरा सर्वर एक अच्छे सर्वर का ढोंग कर सकता है। इससे भी बुरा यह है कि एक टूल आज सुरक्षित हो सकता है, लेकिन कल उसका मालिक कोड बदल सकता है ताकि आपका डेटा चुराया जा सके ("रग पुल" - Rug Pull)। यह एक ऐसी कार खरीदने जैसा है जो एक साल तक ठीक चलती है, फिर अचानक खाई में जाने का फैसला करती है।
- मुख्य खतरे: आइडेंटिटी स्पूफिंग (Identity Spoofing), रग पुल (विश्वास करने के बाद व्यवहार बदलना), और सप्लाई चेन हमले (टूल इंस्टॉल करने से पहले ही उसे हैक करना)।
4. "भ्रमित बटलर" मोहल्ला (Logic Drift & Consent)
- उपमा: आप अपने बटलर से कहते हैं, "रसोई साफ करो।" वह करता है। फिर आप कहते हैं, "लिविंग रूम साफ करो।" वह करता है। लेकिन एक बुरा आदमी बटलर के कान में लगातार 10 घंटे तक फुसफुसाता रहता है, "वास्तव में, रसोई गंदी है, चलो पूरा घर साफ करते हैं, फिर गैरेज, फिर पड़ोसी का घर..." अंततः बटलर भूल जाता है कि आपने केवल रसोई साफ करने के लिए कहा था और वह पूरे मोहल्ले को साफ करने लगता है।
- खतरा: AI एजेंटों को समय के साथ धीरे-धीरे अपने लक्ष्यों को बदलने के लिए मूर्ख बनाया जा सकता है। साथ ही, यदि रोबोट आपसे बहुत बार अनुमति मांगता है ("क्या मैं यह फ़ाइल खोल सकता हूँ?" "क्या मैं यह ईमेल भेज सकता हूँ?"), तो आप थक जाते हैं और बिना पढ़े ही "हाँ" पर क्लिक कर देते हैं। बुरा व्यक्ति आपके सौ उबाऊ अनुरोधों के बीच में एक खतरनाक अनुरोध को छिपा देता है।
- मुख्य खतरे: गोल हाइजैकिंग (Goal Hijacking), सहमति की थकान (Consent Fatigue - बहुत जल्दी 'हाँ' पर क्लिक करना), और लॉजिक ड्रिफ्ट (Logic Drift)।
5. "लीकी बकेट" मोहल्ला (Data & Resources)
- उपमा: आपके पास पानी की एक बाल्टी है (आपका डेटा)। रोबोट को उस बाल्टी को सिंक तक ले जाना है। लेकिन बुरा आदमी रोबोट को यकीन दिला देता है कि बाल्टी को फर्श के छेद में ले जाए, या पानी को किसी अजनबी की बाल्टी में डाल दे।
- खतरा: AI जानकारी के छोटे, हानिरहित टुकड़ों को जोड़कर बड़े रहस्य उजागर कर सकता है (जैसे आपके कैलेंडर, लोकेशन और स्वास्थ्य रिकॉर्ड को मिलाकर यह पता लगाना कि आपको एक विशिष्ट बीमारी है)। या, इसे आपके निजी डेटा को किसी बुरे आदमी के सर्वर पर भेजने के लिए मजबूर किया जा सकता है, जबकि वह अपना काम ठीक से कर रहा है जैसा दिख रहा है।
- मुख्य खतरे: डेटा एक्सफिल्ट्रेशन (Data Exfiltration - डेटा चोरी करना), प्राइवेसी इन्वर्जन (Privacy Inversion - हानिरहित डेटा को जोड़कर रहस्य प्रकट करना), और डिनायल ऑफ वॉलेट (Denial of Wallet - AI को चक्कर लगाने के लिए मजबूर करना जब तक कि आपका क्रेडिट कार्ड बिल बहुत बड़ा न हो जाए)।
🛡️ यह पेपर क्यों महत्वपूर्ण है
इस पेपर से पहले, सुरक्षा विशेषज्ञ पुराने नियमपुस्तिकाओं (rulebooks) का उपयोग कर रहे थे जो सामान्य कंप्यूटरों के लिए बनाई गई थीं (जैसे "बुरे लिंक पर क्लिक न करें")। लेकिन AI एजेंट अलग हैं। वे केवल लिंक पर क्लिक नहीं करते; वे फ़ाइलों के अंदर छिपे निर्देशों को पढ़ते हैं, अन्य टूल्स के साथ बात करते हैं, और टेक्स्ट के आधार पर निर्णय लेते हैं।
MCP-38 पेपर एक नया, विशेष नियमपुस्तिका है जो विशेष रूप से इन AI रोबोटों के लिए है। यह कहता है:
- हमने इन सिस्टमों को तोड़ने के 38 विशिष्ट तरीके खोजे हैं।
- पुराने सुरक्षा नियम इन्हें नहीं पकड़ पाते। (उदाहरण के लिए, "प्रॉम्प्ट इंजेक्शन" बहुत अस्पष्ट है; हमें यह जानने की जरूरत है कि टेक्स्ट को ठीक से कैसे ज़हरीला बनाया गया है)।
- इसे ठीक करने का तरीका यहाँ है। (उदाहरण के लिए, केवल टूल के विवरण पर भरोसा न करें; डिजिटल सिग्नेचर के साथ टूल की पहचान सत्यापित करें। अनट्रस्टेड फ़ाइलों को चेक किए बिना AI को पढ़ने न दें)।
संक्षेप में: यह पेपर चेतावनी देता है कि AI एजेंटों को हमारे डिजिटल जीवन की "चाबियाँ" देना शक्तिशाली है, लेकिन यदि हम इन चाबियों की नकली लेबल, छिपे हुए निर्देशों और पहचान की चोरी के लिए जाँच नहीं करते हैं, तो रोबोट अनजाने में (या दुर्भावनापूर्ण रूप से) हमारे घर की चाबियाँ किसी अजनबी को थमा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।