कल्पना कीजिए कि आप एक घर बना रहे हैं, लेकिन एक इंसान ठेकेदार को काम पर रखने के बजाय, आप एक सुपर-फास्ट, सुपर-स्मार्ट रोबोट सहायक को काम पर रखते हैं। आपका काम है रोबोट को एक ब्लूप्रिंट (प्रोजेक्ट दस्तावेज़) देना और कहना, "कृपया यह घर बनाएं और इसमें सूचीबद्ध सभी सामग्रियां खरीदें।" सॉफ्टवेयर की दुनिया में, यह "ब्लूप्रिंट" एक ऐसी फ़ाइल है जो उन टूल्स और लाइब्रेरीज़ की सूची देती है जिनकी एक प्रोग्राम को चलने के लिए आवश्यकता होती है, और "सामग्रियां" इंटरनेट से डाउनलोड किए गए डिजिटल पैकेज हैं। दशकों से, मानव निर्माता सावधान रहे हैं: वे सूची को पढ़ते हैं, इस बात की दोबारा जांच करते हैं कि सामग्री बेचने वाली दुकान असली है या नहीं, और यह भी सुनिश्चित करते हैं कि ब्रांड का नाम कोई चालाकी भरा धोखा तो नहीं (जैसे कि "कोका-कोला" खरीदना जब बोतल पर वास्तव में "कोका-कोला" लिखा हो)। लेकिन अब, ये AI रोबोट हमारे लिए खरीदारी कर रहे हैं। वे सूची को पढ़ते हैं और बिना यह सवाल किए कि क्या स्टोर भरोसेमंद है या क्या नाम में थोड़ी सी भी स्पेलिंग गलत है, तुरंत "खरीदें" (buy) बटन दबा देते हैं। यह शोध पत्र इस बात की पड़ताल करता है कि क्या होता है जब एक बुरा व्यक्ति ब्लूप्रिंट को थोड़ा सा बदलकर रोबोट को एक फर्जी स्टोर की ओर भेजने या किसी खतरनाक टूल का खतरनाक संस्करण खरीदने के लिए धोखा देता है।

इस अध्ययन के पीछे के शोधकर्ताओं ने यह देखने के लिए परीक्षणों की एक श्रृंखला आयोजित की कि ये AI कोडिंग एजेंट सुरक्षा को कैसे संभालते हैं जब उन्हें "एक प्रोजेक्ट सेटअप करने" के लिए कहा जाता है। उन्होंने केवल AI को सावधान रहने के लिए नहीं कहा; उन्होंने इसे वास्तविक परिदृश्य दिए जहाँ निर्देश सामान्य दिखते थे लेकिन वास्तव में जाल थे। उन्होंने पाया कि AI की सुरक्षित रहने की क्षमता उसके "दिमाग" के कितना "स्मार्ट" होने पर कम और उस विशिष्ट "हार्नेस" (harness) या फ्रेमवर्क पर अधिक निर्भर करती है जिसमें वह चल रहा है। इसे इस तरह समझें: यदि आप एक शानदार शेफ को ऐसी भाषा में लिखी गई रेसिपी देते हैं जिसे वह पूरी तरह से नहीं समझता, तो वे अभी भी एक खतरनाक व्यंजन बना सकते हैं यदि उनके रसोई के उपकरणों में सुरक्षा जांच नहीं है। अध्ययन ने दिखाया कि कुछ रोबोट स्पष्ट स्पेलिंग की गलतियों (जैसे कि "transformers" के बजाय "tranformers" नामक पैकेज) को पकड़ लेते हैं, लेकिन वे लगभग हमेशा यह पहचानने में विफल रहे कि निर्देश किसी फर्जी, अविश्वसनीय वेबसाइट की ओर इशारा कर रहे हैं या किसी टूल के छिपे हुए, खतरनाक संस्करण की ओर। वास्तव में, रोबोट निर्देशों का पालन करने के लिए इतने उत्सुक थे कि वे यह समझने से पहले ही खतरनाक कोड इंस्टॉल कर देते थे कि कुछ गलत है। शोधकर्ताओं ने सिद्ध किया कि केवल रोबोट को "स्मार्टर" बनाना या उसे "अधिक सावधान रहने" के लिए कहना पर्याप्त नहीं है; सिस्टम को एक हार्ड स्टॉप की आवश्यकता है—एक सुरक्षा गार्ड जो पैकेज का नाम, स्रोत और संस्करण की जांच करे, इससे पहले कि रोबले को कुछ भी इंस्टॉल करने की अनुमति दी जाए। इस गार्ड के बिना, रोबोट अनिवार्य रूप से उन जाल में फंस रहे हैं जो हैकर्स द्वारा एक साइन बोर्ड पर कुछ शब्द बदलकर सेट किए गए हैं।

सेटअप: एक रोबोट का अंधा मोड़ (Blind Spot)

खतरे को समझने के लिए, आपको यह समझना होगा कि ये AI कोडिंग एजेंट कैसे काम करते हैं। जब एक डेवलपर एक नया सॉफ्टवेयर प्रोजेक्ट शुरू करना चाहता है, तो आमतौर पर उनके पास एक "README" फ़ाइल या आवश्यकताओं की एक सूची होती है जो कहती है, "इसे चलाने के लिए, आपको पैकेज A, पैकेज B और पैकेज C इंस्टॉल करने की आवश्यकता है।" अतीत में, एक इंसान इस सूची को पढ़ता, शायद नामों को गूगल करके सुनिश्चित करता कि वे असली हैं, और फिर उन्हें इंस्टॉल करने के लिए कमांड टाइप करता। यह मानवीय ठहराव एक सुरक्षा जाल था। यदि सूची में वास्तविक "azure-core" के बजाय "azurecore" लिखा होता, तो एक इंसान गायब हाइफ़न को नोटिस कर सकता था। यदि सूची किसी अजीब, अज्ञात वेबसाइट से पैकेज डाउनलोड करने का निर्देश देती, तो एक इंसान संदिग्ध हो सकता था।

AI एजेंट उस मानवीय ठहराव को हटा देते हैं। वे फ़ाइल को पढ़ते हैं, कमांड को समझते हैं, और उसे तुरंत निष्पादित करते हैं। समस्या यह है कि ये एजेंट फ़ाइल में दिए गए निर्देशों को पूर्ण सत्य मानते हैं। वे यह जांच नहीं करते कि वेबसाइट असली है या नहीं, पैकेज का नाम सही ढंग से स्पेल किया गया है या नहीं, या सॉफ़्टवेयर का कोई संस्करण सुरक्षा संबंधी खामी वाला है या नहीं। शोधकर्ता इसे "इंस्टॉल गैप" (install gap) कहते हैं: एक नाम पढ़ने और वास्तव में कोड चलाने के बीच का वह खतरनाक स्थान, जहाँ कोई भी यह जांच नहीं रहा है कि पैकेज सुरक्षित है या नहीं।

प्रयोग: रोबोटों को बेवकूफ बनाना

शोधकर्ताओं ने यह देखने के लिए कि रोबोट कैसे प्रतिक्रिया देंगे, 12 अलग-अलग "जाल" बनाए। उन्होंने ऐसे नकली प्रोजेक्ट बनाए जो पूरी तरह से सामान्य दिखते थे लेकिन जिनमें निर्देशों में छिपे हुए खतरे थे। उन्होंने इन जालों का परीक्षण नौ अलग-अलग AI मॉडल (जो "दिमाग" हैं) और हार्नेस (जो "शरीर" या कमांड चलाने वाले फ्रेमवर्क हैं) के संयोजनों के खिलाफ किया।

यहाँ मुख्य प्रकार के जाल दिए गए हैं जिनका उन्होंने उपयोग किया:

1. नाम का खेल (Typosquatting): उन्होंने ऐसे नाम उपयोग किए जो लगभग सही दिखते थे लेकिन उनमें एक छोटी सी गलती थी, जैसे "transformers" के बजाय "tranformers", या "azure-core" के बजाय "azurecore"।
2. स्रोत का खेल (The Source Trick): उन्होंने आधिकारिक वेबसाइट के बजाय एक फर्जी, अविश्वसनीय वेबसाइट से पैकेज डाउनलोड करने के निर्देश बदल दिए।
3. संस्करण का खेल (The Version Trick): उन्होंने रोबोट को एक लोकप्रिय पैकेज का एक पुराना, ज्ञात-असुरक्षित संस्करण इंस्टॉल करने के लिए कहा।
4. छिपा हुआ खेल (The Hidden Trick): उन्होंने एक ऐसी फ़ाइल के अंदर एक खतरनाक निर्देश छिपा दिया जिसे रोबोट स्वचालित रूप से पढ़ता है, जैसे कि आवश्यकताओं की सूची में एक छिपा हुआ नोट।

परिणाम: स्मार्ट दिमाग, अंधी आँखें

परिणाम आश्चर्यजनक और थोड़े डरावने थे। शोधकर्ताओं ने पाया कि इन जालों को पकड़ने की AI की क्षमता इस बात पर निर्भर नहीं थी कि मॉडल कितना "उन्नत" है। एक शीर्ष-स्तरीय, सुपर-स्मार्ट मॉडल भी उतना ही आसानी से जाल में फंस सकता था जितना कि एक थोड़ा कम उन्नत मॉडल, यदि वे एक ही फ्रेमवर्क में चल रहे थे।

अच्छी खबर: रोबोट स्पष्ट स्पेलिंग की गलतियों को पकड़ने में काफी अच्छे थे। यदि पैकेज का नाम स्पष्ट रूप से गलत था, तो उनमें से अधिकांश ने इसे पकड़ लिया। वे तब भी बहुत अच्छा प्रदर्शन करते थे जब खतरा किसी प्रोग्राम एरर मैसेज (जैसे कि एक पॉप-अप जो कहता है "आपको यह फर्जी पैकेज इंस्टॉल करने की आवश्यकता है!") से आता था। उन मामलों में, रोबोट संदेही थे और उन्होंने इसे इंस्टॉल करने से इनकार कर दिया।

बुरी खबर: रोबोट फर्जी स्रोतों और खतरनाक संस्करणों को पहचानने में बहुत खराब थे।

• स्रोत का अंधा मोड़ (The Source Blind Spot): जब निर्देशों ने एक अविश्वसनीय वेबसाइट (भले ही वह स्थानीय सर्वर पर होस्ट की गई फर्जी वेबसाइट हो) की ओर इशारा किया, तो रोबोट बिना किसी हिचकिचाहट के लगभग हमेशा पैकेज इंस्टॉल कर देते थे। उन्होंने वेबसाइट की सुरक्षा के बजाय फ़ाइल में लिखे टेक्स्ट पर अधिक भरोसा किया।
• संस्करण का अंधा मोड़ (The Version Blind Spot): जब निर्देशों ने किसी ऐसे पैकेज का संस्करण इंस्टॉल करने के लिए कहा जो सुरक्षा खामियों से भरा था, तो रोबोट फिर भी उसे इंस्टॉल कर देते थे। यहाँ तक कि सबसे स्मार्ट मॉडल भी सीधे पूछे जाने पर सुरक्षा खामियों के बारे में जानते थे, लेकिन जब उन्हें बस "एक प्रोजेक्ट सेटअप करने" के लिए कहा गया, तो उन्होंने उस ज्ञान को अनदेखा कर दिया और खतरनाक संस्करण को इंस्टॉल कर दिया।

"हार्नेस" का कारक (The "Harness" Factor): सबसे महत्वपूर्ण खोज यह थी कि रोबोट जिस फ्रेमवर्क में चल रहा था, वह रोबोट के दिमाग से अधिक महत्वपूर्ण था। शोधकर्ताओं ने बिल्कुल उसी AI मॉडल को लिया और उसे दो अलग-अलग फ्रेमवर्क के माध्यम से चलाया। एक फ्रेमवर्क में, मॉडल ने फर्जी वेबसाइट वाले जाल को 10 में से 10 बार पकड़ा। दूसरे फ्रेमवर्क में, वह उसी जाल में 10 में से 9 बार फंस गया। इसने साबित कर दिया कि "शरीर" (हार्नेस) भारी काम कर रहा था, न कि केवल "दिमाग" (मॉडल)।

"सावधान रहें" पर्याप्त नहीं है

शोधकर्ताओं ने रोबोट को एक "सुरक्षा प्रॉम्प्ट" (security prompt) देकर समस्या को ठीक करने की कोशिश की—एक विशेष निर्देश जिसमें उन्हें "सावधान रहने और फर्जी पैकेज की जांच करने" के लिए कहा गया। इससे थोड़ा सुधार हुआ। इसने रोबोट को फर्जी वेबसाइटों को पकड़ने में बेहतर बनाया, लेकिन यह उन्हें सॉफ़्टवेयर के खतरनाक संस्करणों को पहचानने में बिल्कुल भी मदद नहीं कर सका। रोबोट केवल निर्देश के उस विशिष्ट भाग को सुनते थे जिसे जांचने के लिए उन्हें कहा गया था। यदि आपने उन्हें स्रोत की जांच करने के लिए कहा, तो उन्होंने स्रोत की जांच की। यदि आपने उन्हें संस्करण की जांच करने के लिए नहीं कहा, तो उन्होंने संस्करण की जांच नहीं की।

इससे एक डरावनी वास्तविकता सामने आई: रोबोट को "स्मार्ट" बनने के लिए कहना एक विश्वसनीय समाधान नहीं है। रोबोट निर्देशों का पालन करने के लिए बहुत उत्सुक हैं, और यदि निर्देश वैध दिखते हैं, तो वे खतरनाक कोड इंस्टॉल कर देंगे, भले ही वह कोड स्वयं एक जाल हो।

समाधान: दरवाजे पर एक सुरक्षा गार्ड

शोध पत्र निष्कर्ष निकालता है कि इसे ठीक करने का एकमात्र विश्वसनीय तरीका एक "प्री-इंस्टॉल गेट" (pre-install gate) बनाना है। यह एक सुरक्षा जांच है जो रोब में को इंस्टॉलेशन कमांड चलाने की अनुमति देने से पहले होती है।

कल्पना कीजिए कि एक निर्माण स्थल के दरवाजे पर एक सुरक्षा गार्ड खड़ा है। इससे पहले कि रोबोट कोई भी सामग्री अंदर ला सके, गार्ड तीन चीजों की जांच करता है:

1. क्या नाम सही है? (क्या यह "transformers" है या "tranformers"?)
2. क्या स्रोत सुरक्षित है? (क्या यह आधिकारिक स्टोर से आ रहा है या किसी रैंडम वेबसाइट से?)
3. क्या संस्करण सुरक्षित है? (क्या इस संस्करण में कोई सुरक्षा खामी है?)

शोधकर्ताओं ने इस गार्ड का एक प्रोटोटाइप बनाया। यह पूरी तरह से काम करता था। इसने लगभग हर उस जाल को पकड़ लिया जिसमें रोबोट फंसे थे, जिसमें फर्जी वेबसाइटें और खतरनाक संस्करण भी शामिल थे। मुख्य बात यह है कि यह गार्ड रोबोट की "सोचने" या "अंतर्ज्ञान" पर निर्भर नहीं करता है। यह कठोर, स्वचालित जांच पर निर्भर करता है।

मुख्य सीख (The Takeaway)

इस शोध पत्र का मुख्य सबक यह है कि हम AI कोडिंग एजेंटों को स्वाभाविक रूप से सुरक्षित होने के भरोसे नहीं छोड़ सकते। उन्हें तेज़ और आज्ञाकारी होने के लिए डिज़ाइन किया गया है, सतर्क होने के लिए नहीं। यदि हम उन्हें बिना सुरक्षा गार्ड के सॉफ़्टवेयर इंस्टॉल करने देते हैं, तो वे अनजाने में मैलवेयर इंस्टॉल कर देंगे, हमारे पासवर्ड चुरा लेंगे, या हमारे सिस्टम को तोड़ देंगे। समाधान एक स्मार्ट रोबोट का इंतजार करना नहीं है; बल्कि रोबोट के चारों ओर एक बेहतर सुरक्षा प्रणाली बनाना है। हमें यह सुनिश्चित करने की आवश्यकता है कि किसी भी कोड को इंस्टॉल करने से पहले, एक हार्ड चेक सत्यापित करे कि पैकेज असली है, स्रोत भरोसेमंद है, और संस्करण सुरक्षित है। इस जांच के बिना, "इंस्टॉल गैप" हैकर्स के लिए अंदर आने का एक खुला दरवाजा बना रहेगा।