Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models
यह शोध पत्र यह प्रदर्शित करता है कि स्थानीय रूप से तैनात एक स्मॉल लैंग्वेज मॉडल (Small Language Model) से सुसज्जित एक रिमोट एक्सेस ट्रोजन (Remote Access Trojan), मानवीय हस्तक्षेप के बिना कमोडिटी हार्डवेयर पर स्वायत्त रूप से पूर्ण ऑब्जर्व-डिसाइड-एक्ट (observe-decide-act) साइबर हमले के चक्र को निष्पादित कर सकता है, जो मॉडल के मतिभ्रम (hallucinations) के कारण वर्तमान में उनकी परिचालन अविश्वसनीयता को उजागर करते हुए ऐसे खतरों की संरचनात्मक व्यवहार्यता को सिद्ध करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ कंप्यूटर केवल आज्ञाकारी रोबोटों की तरह आदेशों का पालन नहीं करते, बल्कि जिज्ञासु जासूसों की तरह खुद से सोचने लगते हैं। यह एजेंटिक एआई (Agentic AI) का क्षेत्र है। एक मानक प्रोग्राम के विपरीत जो हर बार किसी इंसान द्वारा "रन" क्लिक करने का इंतज़ार करता है, एक "एजेंट" एक डिजिटल सहायक है जो स्थिति को देख सकता है, तय कर सकता है कि आगे क्या करना है, उसे आजमा सकता है, और यदि वह विफल हो जाता है, तो बिना किसी मानवीय हस्तक्षेप के कुछ और आजमा सकता है। अब, उस विचार को लेकर उसे छोटा करने की कल्पना करें। इसे करने के लिए किसी विशाल, क्लाउड-आधारित सुपरकंप्यूटर की आवश्यकता के बजाय, हम स्मॉल लैंग्वेज मॉडल्स (SLMs) की बात कर रहे हैं। ये जेब के आकार के मस्तिष्क की तरह हैं जो एक साधारण लैपटॉप या यहाँ तक कि एक फोन में भी फिट हो सकते हैं, और इंटरनेट से घर वापस कॉल किए बिना स्थानीय रूप से तर्क करने में सक्षम हैं।
यह क्यों मायने रखता है? क्योंकि दशकों से, हैकर्स ने "रिमोट एक्सेस ट्रोजन" (RATs) का उपयोग किया है—ऐसे दुर्भावनापूर्ण प्रोग्राम जो उन्हें कंप्यूटर में घुसपैड करने और दूर से उसे नियंत्रित करने की अनुमति देते हैं। आमतौर पर, एक मानव हैकर को वहां बैठना पड़ता है, स्क्रीन को पढ़ना पड़ता है और कमांड टाइप करनी पड़ती है, यह तय करना पड़ता है कि आगे क्या चुराना है या क्या तोड़ना है। लेकिन क्या होगा अगर मैलवेयर खुद सोचने लगे? क्या होगा अगर वायरस यह देख सके कि उसके कंप्यूटर पर "हे, यह पोर्ट खुला है," तय कर सके कि एक विशिष्ट ट्रिक आज़मानी है, देखे कि क्या यह काम कर गया, और यदि नहीं, तो बिना किसी इंसान के कीबोर्ड छुए दूसरी ट्रिक आज़माए? यही वह डरावना सवाल है जो यह शोध पत्र पूछता है: क्या एक छोटा, स्थानीय एआई मस्तिष्क इतना छोटा हो सकता है कि कंप्यूटर के अंदर छिप सके, फिर भी इतना स्मार्ट हो कि अपने आप ही घुसपैहा सके और नियंत्रण पा सके?
ट्रोजन हॉर्स के भीतर छोटा मस्तिष्क
इस अध्ययन में, वर्जीनिया विश्वविद्यालय के शोधकर्ताओं की एक टीम ने एक डिजिटल "सैंडबॉक्स" बनाया—एक सुरक्षित, अलग किया गया खेल का मैदान जहाँ वे किसी को नुकसान पहुँचाए बिना एक जंगली विचार का परीक्षण कर सकें। वे देखना चाहते थे कि क्या वे एक स्मॉल लैंग्वेज मॉडल (SLM) द्वारा संचालित रिमोट एक्सेस ट्रोजन (RAT) बना सकते हैं। इसे एक डिजिटल चोर के रूप में सोचें जिसे यह बताने के लिए किसी मानव मास्टर की आवश्यकता नहीं है कि कौन सी खिड़की को कैसे तोड़ना है; इसके बजाय, इसके पास एक छोटा, स्थानीय मस्तिष्क है जो आसपास देखता है, ताले को समझता है, और उसे खोलने की कोशिश करता है।
इसका परीक्षण करने के लिए, उन्होंने एक लैब बनाई जिसमें दो मुख्य पात्र थे: एक "काली" कंप्यूटर (हमलावर) और एक "मेटासपिटेबल" कंप्यूटर (पीड़ित, जो एक ऐसा मशीन है जिसे खामियों से भरा बनाया गया है)। उन्होंने हमलावर की ओर एक स्थानीय एआई मॉडल dolphin3-cyber-8b (एक 8-बिलियन पैरामीटर वाला मॉडल) स्थापित किया। यह मॉडल नियमित हार्डवेयर पर बिना किसी क्लाउड कनेक्शन के चलने के लिए पर्याप्त छोटा था। एआई का काम RAT का "मस्तिष्क" बनना था। इसका काम होना था:
- देखना: पीड़ित कंप्यूटर को स्कैन करना ताकि यह देखा जा सके कि कौन सी सेवाएँ खुली हैं (जैसे यह देखना कि कौन से दरवाजे खुले हैं)।
- सोचना: यह तय करना कि घुसने के लिए किस टूल का उपयोग किया जाए।
- कार्य करना: घुसने की कोशिश करने के लिए कमांड भेजना।
- प्रतिक्रिया देना: यदि यह विफल हो जाता है, तो त्रुटि संदेश को पढ़ना, समझना कि क्यों हुआ, और एक अलग दृष्टिकोण आज़माना।
परिणाम: एक अनाड़ी चोर जिसका भविष्य उज्ज्वल है
शोधकर्ताओं ने अपने निर्माण में एक दोहरी शख्सियत पाई। एक तरफ, आर्किटेक्चर काम करता है। छोटा एआई मस्तिष्क बिना किसी मानवीय सहायता के और बिना इंटरनेट से जुड़े "देखो, सोचो, करो" के पूरे चक्र को सफलतापूर्वक चलाने में सक्षम था। यह स्कैन परिणामों को पढ़ सकता था, एक टूल चुन सकता था, और एक कमांड निष्पादित कर सकता था। सिस्टम का "प्लंबिंग" ठोस था।
हालाँकि, दूसरी ओर, मस्तिष्क अभी भी बहुत अनाड़ी था। जब शोधकर्ताओं ने एआई को कार्यों की एक सख्त चेकलिस्ट पूरी करने के लिए कहा, तो यह केवल 10.9% मामलों में सफल रहा। यह लगभग 55 प्रयासों में से 6 सफल प्रयास हैं।
एआई आसान चीजों में माहिर था। जब स्कैन ने एक बहुत ही स्पष्ट, एक-चरणीय दरवाजा दिखाया (जैसे पोर्ट 1524 पर एक विशिष्ट "बाइंड शेल" या पोर्ट 21 पर एक FTP सेवा), तो एआई सीधे अंदर जा सकता था। यह एक ऐसे चोर की तरह था जो देखता है कि दरवाजा पहले से ही खुला है और बस अंदर चला जाता है। लेकिन जैसे ही काम के लिए एक से अधिक चरणों की आवश्यकता हुई—जैसे पासवर्ड का अनुमान लगाना, जटिल त्रुटि को संभालना, या विफलता के बाद टूल बदलना—एआई लड़खड़ाने लगा।
शोध पत्र तीन मुख्य तरीकों पर प्रकाश डालता है जिनसे एआई विफल हुआ:
- भ्रम (Hallucinations): एआई कभी-कभी ऐसे कमांड बना देता था जो मौजूद ही नहीं थे या टूल्स का उपयोग उन तरीकों से करता था जिनके लिए वे नहीं बने थे।
- भ्रम/कन्फ्यूजन (Confusion): इसने अक्सर कंप्यूटर के त्रुटि संदेशों को गलत पढ़ा, यह सोचकर कि एक विफलता वास्तव में एक सफलता थी।
- ज़िद (Stubbornness): जब एक कमांड विफल हो जाता, तो पूरी तरह से नई रणनीति अपनाने के बजाय, एआई अक्सर उसी विफल कमांड को फिर से लिखने और फिर से प्रयास करने में फंस जाता था, जिससे वह एक लूप में फंस जाता था।
शोधकर्ता इस बारे में बहुत स्पष्ट थे कि इसका क्या अर्थ है: अवधारणा संभव है, लेकिन वर्तमान तकनीक अभी वहाँ तक नहीं पहुँची है। उन्होंने स्पष्ट रूप से इस विचार को खारिज कर दिया कि यह एक "हल की गई" समस्या या एक आदर्श हथियार है। वास्तव में, उन्होंने उल्लेख किया कि यदि किसी मानव हैकर की सफलता दर (10.9%) इतनी होती, तो उसे तुरंत नौकरी से निकाल दिया जाता। लेकिन, उन्होंने एक भयावह मोड़ की ओर इशारा किया: एक इंसान को काम करने के लिए भुगतान करने की आवश्यकता होती है, लेकिन एक कंप्यूटर को नहीं। यदि आप इस अनाड़ी एआई को लगभग शून्य लागत पर दिन में हजारों बार चला सकते हैं, तो 10% सफलता दर भी अंततः सेंधमारी की ओर ले जा सकती है।
यह हमें भविष्य के बारे में क्या बताता है
इस पेपर का सबसे महत्वपूर्ण निष्कर्ष यह नहीं है कि एआई आज एक मास्टर हैकर है। बल्कि यह है कि मशीनरी तैयार है, भले ही मस्तिष्क अभी सीख रहा हो। वह सिस्टम जो डेटा को पार्स करता है, कमांड को मान्य करता है और उन्हें निष्पादित करता है, पूरी तरह से काम कर रहा था। इसे रोकने वाली एकमात्र चीज़ छोटे मॉडल की तर्क शक्ति थी।
लेखक तर्क देते हैं कि जैसे-जैसे ये छोटे एआई मॉडल बेहतर और स्मार्ट होते जाएंगे, "अनाड़ी चोर" एक "मास्टर चोर" बन जाएगा। "नहीं कर पाने" और "कर पाने" के बीच का अंतर तेजी से कम हो रहा है। रक्षकों के लिए, पेपर सुझाव देता है कि हम अब केवल विशिष्ट कोड सिग्नेचर की तलाश नहीं कर सकते। इसके बजाय, हमें इन एजेंटों के व्यवहार पर नज़र रखने की आवश्यकता है। चूंकि अध्ययन में एआई लूप में फंस गया, बार-बार वही गलतियाँ कीं, और टूल्स के अजीब संयोजन आज़माए, तो ये वे "संकेत" हैं जिन्हें सुरक्षा प्रणालियों को देखना चाहिए।
संक्षेप में, यह पेपर साबित करता है कि एक छोटा, स्थानीय एआई अपने आप रिमोट एक्सेस हमला चला सकता है। वह बस अभी इसे बहुत अच्छी तरह से नहीं कर सकता। लेकिन क्योंकि तकनीक इतनी तेज़ी से सुधर रही है, वह दिन जब एक छोटा, स्वयं सोचने वाला वायरस बिना किसी मानव के आपके कंप्यूटर में घुस जाएगा, हमारे अनुमान से कहीं अधिक करीब है। शीर्षक में "छोटा" (Tiny) शब्द केवल आकार के बारे में नहीं है; यह इस बारे में है कि ये खतरे कितने छोटे होते जा रहे हैं, जिससे उन्हें पहचानना कठिन और छिपना आसान हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।