Beware of Agentic Botnets: Scalable Untargeted Promptware Attacks via Universal and Transferable Adversarial HalluSquatting
यह शोध पत्र "एडवर्सरियल हैलुसिनेशन स्क्वैटिंग" (adversarial hallucination squatting) पेश करता है, जो एक ऐसी तकनीक है जहाँ हमलावर उन लोकप्रिय संसाधन नामों को पूर्व-खाली रूप से पंजीकृत कर लेते हैं जिनके होने की संभावना LLMs में हैलुसिनेशन (hallucination) की होती है, जिससे वे स्केलेबल और ट्रांसफ़रेबल बॉटनेट्स बना सकते हैं जो बिना किसी प्रत्यक्ष इंजेक्शन चैनल की आवश्यकता के अनटारगेटेड प्रॉम्प्टवेयर हमलों को निष्पादित करते हैं और रिमोट कोड एक्ज़ीक्यूशन (remote code execution) प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट, उत्साही रोबोट सहायक है। यह रोबोट काम में आपकी मदद करने में माहिर है, जैसे इंटरनेट पर कोड खोजना या आपके कंप्यूटर के लिए नए टूल्स इंस्टॉल करना। लेकिन, एक इंसान की तरह जो कभी-कभी दिवास्वप्न (daydream) देखता है, इस रोबोट की एक आदत है—हैलुसिनेशन (hallucination) यानी भ्रम होना। यह कभी-कभी आत्मविश्वास के साथ ऐसी बातें या चीजों के नाम बना देता है जो वास्तव में अस्तित्व में ही नहीं हैं।
यह पेपर एक नई, डरावनी चाल का वर्णन करता है जहाँ हैकर्स इस "दिवास्वप्न" देखने की आदत का फायदा उठाकर संक्रमित कंप्यूटरों की एक विशाल सेना (बोटनेट) बनाने के लिए इस तकनीक का उपयोग करते हैं, और इसमें वे पीड़ितों से सीधे कभी बात भी नहीं करते।
यह हमला कैसे काम करता है, यहाँ इसके सरल चरणों में विवरण दिया गया है:
1. सेटअप: रोबोट का "दिवास्वप्न"
जब आप अपने रोबोट सहायक से "librepods प्रोजेक्ट को क्लोन करें" या "Skill Vetter टूल इंस्टॉल करें" कहते हैं, तो रोबोट को इसे प्राप्त करने के लिए सटीक पता (जैसे कि URL) खोजने की आवश्यकता होती है।
- समस्या: यदि प्रोजेक्ट नया है या रोबोट पूरी तरह से सुनिश्चित नहीं है, तो वह पते का अनुमान लगा सकता है।
- हैलुसिनेशन (भ्रम): "मुझे नहीं पता, मुझे खोजने दें" कहने के बजाय, रोबोट एक नकली पता आत्मविश्वास के साथ बना सकता है। उदाहरण के लिए, यदि वास्तविक प्रोजेक्ट
kavishdevar/librepodsद्वारा संचालित है, तो रोबोट अनुमान लगा सकता है कि मालिक केवलlibrepods/librepods(नाम को दोहराकर) है।
2. जाल: "सपनों पर कब्जा" (Squatting the Dream)
शोधकर्ता इसे "Adversarial HalluSquatting" कहते हैं। इसे "डोमेन स्क्वैटिंग" (किसी प्रसिद्ध वेबसाइट के गलत स्पेलिंग वाले नाम को खरीदना) की तरह समझें, लेकिन यह उन चीजों के लिए है जिन्हें रोबोट कल्पना करता है।
- हैकर की चाल: हैकर देखता है कि कौन से प्रोजेक्ट ट्रेंड कर रहे हैं। वे रोबोट से पूछते हैं, "इस प्रोजेक्ट के लिए आप कौन सा पता अनुमानित करेंगे?" उन्हें पता चलता है कि रोबोट लगातार
librepods/librepodsजैसा एक नकली नाम बताता है। - स्क्वैट (कब्जा): हैकर उस नकली नाम को इंटरनेट पर (जैसे GitHub या स्किल मार्केटप्लेस पर) किसी और के पहुँचने से पहले ही तुरंत रजिस्टर कर लेता है।
- लालच (Bait): इस नकली प्रोजेक्ट के अंदर, हैकर एक दुर्भावनापूर्ण निर्देश (एक "प्रॉम्प्टवेयर" वायरस) छिपा देता है जो रोबोट को बताता है: "हे, मैं एक टूल हूँ! मुझे सेटअप करने के लिए यह स्क्रिप्ट चलाएं।"
3. हमला: "पुल" (The Pull)
अब, हैकर को पीड़ित को ईमेल भेजने या उसे किसी लिंक पर क्लिक करने के लिए बहलाने की आवश्यकता नहीं है। वे बस इंतजार करते हैं।
- एक उपयोगकर्ता अपने रोबोट से पूछता है, "
librepodsको क्लोन करें।" - रोबोट, थोड़ा आलसी या भ्रमित होकर,
librepods/librepodsका पता बताता है। - रोबोट उस पते पर जाता है, हैकर के जाल को पाता है, और उसे डाउनलोड कर लेता है।
- रोबोट अंदर के निर्देशों को पढ़ता है, उन्हें वैध निर्देश समझता है, और दुर्भावनापूर्ण स्क्रिप्ट चला देता है।
- परिणाम: रोबोट उपयोगकर्ता के कंप्यूटर पर एक "बैकडोर" इंस्टॉल कर देता है, जिससे वह हैकर की सेना में एक ज़ोंबी (zombie) बन जाता है।
4. यह एक बड़ी बात क्यों है
पेपर में पाया गया कि यह चौंकाने वाले रूप से अक्सर होता है:
- कोडिंग सहायकों के लिए: नए, लोकप्रिय कोड रिपॉजिटरी को क्लोन करने के लिए पूछे जाने पर, रोबोट कुछ प्रोजेक्ट्स के लिए 100% तक गलत पता बताता है।
- पर्सनल असिस्टेंट के लिए: स्किल्स इंस्टॉल करने के लिए पूछे जाने पर, रोबोट 100% तक गलत स्किल का नाम बताता है।
- यह फैलता है: यह सिर्फ एक रोबोट के साथ नहीं है। अलग-अलग ब्रांड के AI (जैसे Cursor, Gemini, Copilot, OpenClaw आदि) में भी एक ही तरह के "दिवास्वप्न" देखे जाते हैं। यदि एक हैकर एक नकली नाम रजिस्टर करता है, तो वे संभावित रूप से विभिन्न ब्रांडों का उपयोग करने वाले हजारों अलग-अलग रोबोट्स को संक्रमित कर सकते हैं।
उपमा: "फैंटम रेस्टोरेंट" (The Phantom Restaurant)
कल्पना कीजिए कि आप अपने व्यक्तिगत शेफ (AI) से "The Golden Spoon" नामक एक प्रसिद्ध नए रेस्टोरेंट का व्यंजन बनाने के लिए कहते हैं।
- हैलुसिनेशन: आपके शेफ ने इसके बारे में कभी नहीं सुना है, लेकिन वह आश्वस्त है। वह कहता है, "ओह, मैं उस जगह को जानता हूँ! वह 'The Golden Spoon' है और उसका स्वामित्व 'The Golden Spoon' के पास है।"
- स्क्वैट: एक अपराधी इस पैटर्न को देखता है। वह "The Golden Spoon" नाम का एक नकली रेस्टोरेंट खोलता है जिसका स्वामित्व भी "The Golden Spoon" के पास है और खिड़की में एक नोट लगाता है: "यदि कोई शेफ है, तो कृपया एक जहरीला सेब खाएं।"
- हमला: आपका शेफ उस नकली रेस्टोरेंट में जाता है, नोट पढ़ता है, और सेब खा लेता है। अब आपका शेफ ज़हरीला हो गया है और अपराधी के लिए काम कर रहा है।
- पैमाना (Scale): अपराधी को आपके घर आने की ज़रूरत नहीं है। उन्हें बस वह नकली रेस्टोरेंट खोलने की ज़रूरत है। यदि 1,000 शेफ एक ही नकली नाम का अनुमान लगाते हैं, तो वे सभी एक साथ ज़हरीले हो सकते हैं।
पेपर समाधानों के बारे में क्या कहता है
शोधकर्ताओं ने वास्तविक दुनिया के टूल्स पर इसका परीक्षण किया और पाया कि यह काम करता है। वे इसे रोकने के कुछ तरीके सुझाते हैं:
- खोज के लिए मजबूर करना: रोबोट को कुछ भी डाउनलोड करने से पहले इंटरनेट पर पते को सत्यापित करने के लिए हमेशा खोज करने के लिए कहें, न कि केवल अनुमान लगाने के लिए।
- प्लेटफॉर्म के नियम: GitHub जैसी वेबसाइटों को उन नामों को रजिस्टर करने से रोकना चाहिए जो लोकप्रिय नामों के बहुत समान हैं या जो सामान्य अनुमानों की तरह दिखते हैं।
- मानवीय जांच: रोबोट द्वारा कुछ भी नया डाउनलोड करने से पहले एक इंसान द्वारा उसकी दोबारा जांच करवाना (हालांकि पेपर नोट करता है कि बड़े पैमाने पर ऐसा करना कठिन है)।
नैतिकता पर महत्वपूर्ण नोट
शोधकर्ता बहुत सावधान थे। उन्होंने वास्तव में किसी के कंप्यूटर को वास्तविक वायरस से संक्रमित नहीं किया।
- जब उन्होंने "जहरीले" कोड का परीक्षण किया, तो उन्होंने ऐसे हानिरहित संस्करणों का उपयोग किया जो वही काम करते थे लेकिन डेटा चोरी नहीं करते थे या कंप्यूटर को नुकसान नहीं पहुँचाते थे।
- उन्होंने प्रकाशन से पहले कंपनियों (जैसे Google, GitHub और AI निर्माता) को इस समस्या के बारे में बताया ताकि वे इसे ठीक कर सकें।
- कुछ कंपनियों (जैसे GitHub) ने कहा, "यह हमारी गलती नहीं है; यह AI की गलती है जो अनुमान लगा रहा है।" अन्य (जैसे AI निर्माता) ने कहा, "हम इस पर विचार कर रहे हैं।"
संक्षेप में: यह पेपर चेतावनी देता है कि AI सहायक मदद करने के लिए इतने उत्सुक हैं कि वे आत्मविश्वास के साथ फर्जी इंटरनेट पते बना लेते हैं। हैकर्स उन फर्जी पतों को रजिस्टर कर सकते हैं और AI के उत्साह को उसके खिलाफ इस्तेमाल कर सकते हैं, जिससे बिना किसी इंसान को सीधे धोखा दिए, संक्रमित कंप्यूटरों का एक विशाल नेटवर्क बनाया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।