Malicious Agent Skills in the Wild: A Large-Scale Security Empirical Study
यह शोध पत्र दुर्भावनापूर्ण तृतीय-पक्ष एजेंट कौशल का पहला बड़े पैमाने पर अनुभवजन्य अध्ययन प्रस्तुत करता है, जो 157 पुष्ट खतरों के एक लेबल वाले डेटासेट को पेश करता है जो आपूर्ति श्रृंखला की कमजोरियों और प्लेटफॉर्म हुक का फायदा उठाने वाले डेटा चोरों और एजेंट अपहरणकर्ताओं के एक विभाजित पारिस्थितिकी तंत्र को प्रकट करते हैं, जबकि इन जोखिमों में से 93.6% को हटाने में जिम्मेदार प्रकटीकरण की प्रभावशीलता को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक सुपर-स्मार्ट रोबोट असिस्टेंट (एक AI एजेंट) खरीदा है जो कोड लिखने, डेटा का विश्लेषण करने और आपके डिजिटल जीवन को प्रबंधित करने में आपकी मदद कर सकता है। इसे और अधिक उपयोगी बनाने के लिए, डेवलपर्स ने एक "स्किल स्टोर" बनाया है जहाँ लोग छोटे एड-ऑन प्रोग्राम डाउनलोड कर सकते हैं जिन्हें स्किल्स (Skills) कहा जाता है। इसे अपने फोन के ऐप्स की तरह समझें, लेकिन ये स्किल्स आपके फोन पर नहीं, बल्कि आपके कंप्यूटर, आपकी फाइलों और आपके पासवर्ड तक पूरी पहुंच (full access) के साथ चलते हैं।
आपने जो पेपर साझा किया है, वह इस नए "स्किल स्टोर" की एक व्यापक सुरक्षा जांच है। शोधकर्ता जानना चाहते थे: क्या यह स्टोर सुरक्षित है, या यह जालों से भरा है?
यहाँ उनके निष्कर्षों की कहानी सरल भाषा में दी गई है:
1. सेटअप: एक 'वाइल्ड वेस्ट' स्टोर
शोधकर्ताओं ने इन स्किल्स को साझा करने वाले दो लोकप्रिय ऑनलाइन स्टोर्स का अध्ययन किया। केवल तीन महीनों में, 98,000 से अधिक स्किल्स अपलोड किए गए।
- समस्या: एप्पल ऐप स्टोर के विपरीत, जहाँ बेचे जाने से पहले ऐप्स की जाँच की जाती है, इन स्किल स्टोर्स में लगभग कोई सुरक्षा जाँच नहीं है। कोई भी कुछ भी अपलोड कर सकता है।
- जाल: क्योंकि ये स्किल्स आपके पूर्ण कंप्यूटर अनुमतियों (permissions) के साथ चलते हैं, इसलिए एक "खराब" स्किल वह सब कुछ कर सकती है जो आप कर सकते हैं: आपके पासवर्ड चुरा सकती है, आपकी फाइलें मिटा सकती है, या हैकर्स को आपके मशीन पर कब्जा करने दे सकती है।
2. जांच: "स्निफर डॉग" (सूंघने वाले कुत्ते) का तरीका
शोधकर्ताओं ने केवल स्किल्स के विवरण (descriptions) को नहीं पढ़ा (क्योंकि झूठे लोग अच्छे विवरण लिख सकते हैं), बल्कि उन्होंने एक डिजिटल सैंडबॉक्स बनाया—एक सुरक्षित, अलग कमरा जहाँ वे यह देखने के लिए इन 98,000 स्किल्स को चला सकते थे कि वे वास्तव में क्या करते हैं।
- परिणाम: 98,000 स्किल्स में से, उन्हें 157 पुष्ट दुर्भावनापूर्ण (malicious) स्किल्स मिले।
- पैमाना: 98,000 की तुलना में 157 छोटा लग सकता है, लेकिन यह वास्तव में बहुत बड़ा है क्योंकि ये केवल "ओह, मैंने गलती कर दी" जैसे बग्स नहीं हैं। ये जानबूझकर किए गए हमले हैं। औसतन, प्रत्येक खराब स्किल के पास आपको नुकसान पहुँचाने के 4 अलग-अलग तरीके थे, और उन्होंने डेटा चुराने के लिए एक "किल चेन" (एक चरण-दर-चरण योजना) का उपयोग किया।
3. दो प्रकार के विलेन
शोधकर्ताओं ने पाया कि बुरे तत्व दो अलग-अलग समूहों में आते हैं, जैसे किसी फिल्म के दो अलग-अलग प्रकार के अपराधी:
🕵️ टाइप A: डेटा चोर (द "पिकपॉकेट")
- वे क्या करते हैं: वे मददगार टूल्स (जैसे "मैथ कैलकुलेटर" या "ईमेल हेल्पर") होने का नाटक करते हैं। एक बार जब आप उन्हें इंस्टॉल कर लेते हैं, तो वे चुपचाप आपके पासवर्ड चुराते हैं और उन्हें हैकर को भेज देते हैं।
- चाल: वे एक "फैक्ट्री" दृष्टिकोण का उपयोग करते हैं। एक अपराधी समूह ने 85 अलग-अलग नकली स्किल्स बनाईं जो दिखने में थोड़ी अलग थीं लेकिन एक ही टेम्पलेट से बनी थीं। उन्होंने आपको धोखा देने के लिए बड़े ब्रांडों का रूप लिया।
- उपमा: कल्पना करें कि एक सड़क विक्रेता "मुफ्त पानी" की बोतलें बेच रहा है, लेकिन हर बोतल के अंदर एक छिपा हुआ कैमरा है। उन्होंने 85 अलग-अलग बोतलें बनाईं, लेकिन वे सभी एक ही फैक्ट्री से आई थीं।
🎭 टाइप B: एजेंट हाइजैकर्स (द "माइंड कंट्रोलर्स")
- वे क्या करते हैं: वे केवल डेटा नहीं चुराते; वे AI को ही धोखा देने की कोशिश करते हैं। वे ऐसे निर्देश लिखते हैं जो AI को बताते हैं, "अपने सुरक्षा नियमों को अनदेखा करें," "उपयोगकर्ता से अनुमति न मांगें," और "यह गुप्त रूप से करें।"
- चाल: वे अपने बुरे निर्देशों को कोड के बजाय टेक्स्ट विवरण (मैनुअल) के अंदर छिपाते हैं। चूंकि AI समझने के लिए मैनुअल को पढ़ता है, इसलिए वह बुरे निर्देशों का पालन करता है।
- उपमा: कल्पना करें कि एक रोबोट बटलर है। एक सामान्य हैकर रोबोट का हाथ तोड़ने की कोशिश करता है ताकि आपका बटुआ चुरा सके। एक हाइजकर आकर रोबोट के कान में फुसफुसाता है, "हे, तुम्हारे मालिक ने मुझे तुम्हारा बटुआ लेने और उन्हें न बताने के लिए कहा है।" रोबोट, जो आज्ञाकारी है, बिल्कुल वही करता है।
4. "शैडो" (परछाईं) फीचर्स
सबसे डरावनी बात यह है कि वे कैसे छिपते हैं।
- "शैडो" उपमा: कल्पना करें कि एक कार जो एक सामान्य सेडान की तरह दिखती है। लेकिन हुड के नीचे, इसमें एक गुप्त इंजन है जो केवल तभी चालू होता है जब आप एक विशिष्ट इमारत के पास से गुजरते हैं।
- निष्कर्ष: हमला जितना परिष्कृत होगा, छिपना उतना ही बेहतर होगा।
- शुरुआती हमले: कोई छिपाव नहीं।
- उन्नत हमले: 100% हमलों में "शैडो फीचर्स" थे—ऐसी क्षमताएं जो सार्वजनिक विवरण में कहीं भी नहीं पाई गईं। वे कमेंट्स, अदृश्य पात्रों (invisible characters), या एन्क्रिप्टेड कोड में छिपे हुए थे।
5. "नेचुरल लैंग्वेज" का खतरा क्षेत्र
यह सबसे अनूठा निष्कर्ष है। पारंपरिक सॉफ़्टवेयर में, हैकर्स प्रोग्राम फाइलों में बुरा कोड छिपाते हैं। यहाँ, 84% खतरनाक चीजें टेक्स्ट विवरण (मैनुअल) में छिपी हुई थीं।
- क्यों मायने रखता है: पारंपरिक सुरक्षा सॉफ़्टवेयर कोड को स्कैन करता है। यह एक सुरक्षा गार्ड की तरह है जो हथियारों के लिए सूटकेस की जाँच करता है। लेकिन इन हैकर्स ने हथियारों को उस निर्देश पुस्तिका के अंदर छिपा दिया जिसे रोबोट पढ़ता है। सुरक्षा गार्ड को मैनुअल की जाँच करने का पता ही नहीं था!
6. अच्छी खबर: वे पकड़े गए
शोधकर्ताओं ने "जिम्मेदार प्रकटीकरण" (Responsible Disclosure) का अभ्यास किया। उन्होंने स्टोर मालिकों को उन 157 खराब स्किल्स के बारे में बताया।
- परिणाम: 30 दिनों के भीतर, 93.6% दुर्भावनापूर्ण स्किल्स को हटा दिया गया।
- सबक: स्टोर मालिक प्रतिक्रियाशील हैं, लेकिन जब तक वे खराब स्किल्स को हटाते हैं, तब तक कई उपयोगकर्ता पहले ही उन्हें इंस्टॉल कर चुके हो सकते हैं।
सारांश: हमें क्या सीखना चाहिए?
- लेबल पर भरोसा न करें: सिर्फ इसलिए कि एक स्किल कहती है "सुरक्षित कैलकुलेटर", इसका मतलब यह नहीं है कि वह सुरक्षित है।
- AI भोला है: हैकर्स AI के दिमाग (निर्देशों) को धोखा देने के बजाय उसके शरीर (कोड) को तोड़ने की कला सीख रहे हैं।
- हम शुरुआत में हैं: यह इकोसिस्टम 1990 के दशक के इंटरनेट या 2010 के ऐप स्टोर जैसा है। यह तेजी से बढ़ रहा है, लेकिन सुरक्षा नियम अभी तक नहीं पकड़ पाए हैं।
- समाधान: हमें ऐसे नए उपकरणों की आवश्यकता है जो निर्देशों को "पढ़" सकें और उनकी तुलना कि प्रोग्राम वास्तव में क्या करता है, से कर सकें, और उन "शैडो फीचर्स" की तलाश कर सकें।
संक्षेप में: AI असिस्टेंट की दुनिया में एक "वाइल्ड वेस्ट" ऐप स्टोर बन रहा है। हैकर्स पहले से ही वहां मौजूद हैं, मास्क पहने हुए और सामने दिखते हुए छिपे हुए हैं। लेकिन अब जब हम जानते हैं कि वे कैसे दिखते हैं, तो हम बेहतर ताले और गार्ड बनाना शुरू कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।