The Dual-Use Nature of Large Language Models in Cybersecurity: A Bibliometric Analysis and Critical Review
यह शोध पत्र 7,369 दस्तावेजों के बिब्लियोमेट्रिक विश्लेषण को एक आलोचनात्मक समीक्षा के साथ जोड़कर यह प्रकट करता है कि साइबर सुरक्षा में लार्ज लैंग्वेज मॉडल्स पर शोध अलग-थलग आक्रामक और रक्षात्मक भूमिकाओं में विभाजित है, जिससे लेखक एक युग्मित दोहरे-उपयोग ढांचे (coupled dual-use framework) और अनुकूलन योग्य मूल्यांकन एवं एकीकृत सुरक्षा रणनीतियों की कमी को दूर करने के लिए आठ प्राथमिकता वाले अनुसंधान दिशाओं का प्रस्ताव करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
पिछले कुछ वर्षों में, एक नए प्रकार के कंप्यूटर प्रोग्राम का उदय हुआ है जो मानव भाषा को पढ़, लिख और समझ सकते हैं। ये प्रोग्राम, जिन्हें लार्ज लैंग्वेज मॉडल्स (large language models) के रूप में जाना जाता है, केवल चैटबॉट्स नहीं हैं; वे शक्तिशाली उपकरण हैं जिनका उपयोग संगठन अपनी डिजिटल सुरक्षा को प्रबंधित करने के लिए करने लगे हैं। वे वास्तविक खतरों को खोजने के लिए हजारों सुरक्षा अलर्ट को स्कैन कर सकते हैं, सॉफ्टवेयर की कमियों को ठीक करने के लिए कोड लिख सकते हैं, या सुरक्षा टीमों को उनकी रक्षा योजना बनाने में मदद भी कर सकते हैं। लेकिन इन समान उपकरणों का एक काला पक्ष भी है। क्योंकि ये निर्देशों का पालन करने और टेक्स्ट उत्पन्न करने में इतने कुशल हैं, इसलिए बुरे तत्व इन्हें मैलवेयर लिखने, विश्वसनीय फर्जी ईमेल बनाने, या सुरक्षा नियमों को दरकिनार करने के लिए भ्रमित कर सकते हैं। यह एक अनूठी स्थिति पैदा करता है जहाँ एक ही तकनीक एक साथ ढाल, हथियार और लक्ष्य के रूप में कार्य करती है। यह ढाल है जब यह किसी नेटवर्क की रक्षा करती है, हथियार है जब यह हमलावर की मदद करती है, और लक्ष्य है जब कोई उस प्रोग्राम को ही धोखा देने की कोशिश करता है। इन तीनों भूमिकाओं के बीच कैसे परस्पर क्रिया होती है, इसे समझना महत्वपूर्ण है, क्योंकि यदि हम इस उपकरण का अध्ययन केवल एक रक्षक के रूप में करते हैं, तो हम इस तथ्य को नजरअंदाज कर सकते हैं कि वह उपकरण स्वयं उन्हीं हमलों के प्रति संवेदनशील है जिन्हें रोकने की वह कोशिश कर रहा है।
शोधकर्ताओं की एक टीम ने इस जटिल परिदृश्य का मानचित्र तैयार करने का प्रयास किया, केवल कुछ शोध पत्रों को पढ़कर नहीं, बल्कि यह देखने के लिए कि वैज्ञानिक समुदाय वास्तव में इन समस्याओं के बारे में कैसे सोच रहा है। उन्होंने 2023 से देर 2026 के बीच प्रकाशित लगभग 13,000 रिकॉर्ड एकत्र किए, और उन्हें 7,369 दस्तावेजों के एक मुख्य समूह तक सीमित किया जो इन लैंग्वेज मॉडल्स और साइबर सुरक्षा के मिलन बिंदु को सीधे संबोधित करते थे। एक ऐसी पद्धति का उपयोग करते हुए जो अनुसंधान को एक मानचित्र की तरह मानती है, उन्होंने देखा कि विभिन्न विषय कितनी बार एक साथ दिखाई देते हैं और किन अध्येशनों को सबसे अधिक उद्धृत किया जाता है। वे जानना चाहते थे कि क्या वैज्ञानिक इन मॉडल्स की तीन भूमिकाओं का एक साथ अध्ययन कर रहे हैं, या वे अलग-अलग साइलो (silos) में काम कर रहे हैं। वे यह भी देखना चाहते थे कि इन उपकरणों की सुरक्षा का समर्थन करने वाला साक्ष्य क्या उतना ही ठोस है जितना कि वह दिखता है।
शोधकर्ताओं ने पाया कि यह क्षेत्र अविश्वसनीय रूप से तेजी से बढ़ रहा है, जिसमें प्रासंगिक दस्तावेजों की संख्या लगभग हर साल दोगुनी या तिगुनी हो जाती है। हालाँकि, अनुसंधान गहराई से विभाजित है। अधिकांश अध्ययन केवल एक ही भूमिका पर अलग-थलग ध्यान केंद्रित करते हैं। जांचे गए दस्तावेजों में से केवल लगभग आठ प्रतिशत ने एक ही समय में एक से अधिक भूमिकाओं पर विचार किया। इसका अर्थ है कि जो लोग इन मॉडल्स पर हमला करने के तरीके का अध्ययन कर रहे हैं, वे शायद ही कभी उन लोगों से बात करते हैं जो इनका उपयोग रक्षा के लिए करने का अध्ययन कर रहे हैं। इससे भी अधिक चिंताजनक बात यह है कि जब शोधकर्ता इन मॉडल्स का उपयोग करके एक रक्षात्मक प्रणाली बनाते हैं, तो वे लगभग कभी यह परीक्षण नहीं करते कि क्या उस प्रणाली को उन्हीं हमलों द्वारा धोखा दिया जा सकता है जिन्हें रोकने के लिए उसे बनाया गया है। उनके द्वारा समीक्षा किए गए रक्षात्मक अध्ययनों में, केवल लगभग ग्यारह प्रतिशत ने उल्लेख किया कि क्या मॉडल स्वयं समझौता योग्य (compromised) हो सकता है। शोधकर्ताओं ने निष्कर्ष निकाला कि जबकि यह तकनीक स्वाभाविक रूप से जुड़ी हुई है—जहाँ एक रक्षात्मक उपकरण एक संभावित लक्ष्य भी है—शोध समुदाय अभी तक इस वास्तविकता के साथ तालमेल नहीं बिठा पाया है।
जब टीम ने हथियार या ढाल के रूप में इन मॉडल्स के काम करने की प्रभावशीलता के साक्ष्य को करीब से देखा, तो उन्होंने पाया कि विभिन्न अध्ययनों में रिपोर्ट किए गए आंकड़े बहुत असंगत थे। उदाहरण के लिए, जब शोधकर्ताओं ने परीक्षण किया कि एक आर्टिफिशियल इंटेलिजेंस कंप्यूटर सिस्टम को कितनी अच्छी तरह से हैक कर सकता है, तो रिपोर्ट की गई सफलता दर शून्य प्रतिशत से नब्बे प्रतिशत के बीच थी। यह बड़ा अंतर इसलिए नहीं था क्योंकि मॉडल्स बदल रहे थे, बल्कि इसलिए क्योंकि परीक्षणों का डिज़ाइन अलग-अलग था। कुछ अध्ययनों ने मॉडल को एक बड़ा लाभ दिया क्योंकि उन्होंने उसे ठीक-ठीक बताया कि कमजोरी कहाँ है, जबकि अन्य ने इसे एक वास्तविक वातावरण में परखा जहाँ उसे खुद कमजोरी खोजनी थी। शोधकर्ताओं ने नोट किया कि कई अध्य अध्ययनों ने उन हमलावरों के खिलाफ रक्षा का परीक्षण नहीं किया जो सक्रिय रूप से उन्हें तोड़ने का तरीका खोजने की कोशिश कर रहे थे। इसके बजाय, उन्होंने स्थिर, अनुमानित हमलों के विरुद्ध परीक्षण किया। यह एक ताले का परीक्षण एक ऐसी चाबी के खिलाफ करने जैसा है जो कभी बदलती नहीं है, बजाय एक ताला खोलने वाले (locksmith) के, जो उसे खोलने की कोशिश कर रहा है।
अध्ययन से यह भी पता चला कि सबसे खतरनाक खतरे सीढ़ी में ऊपर की ओर बढ़ रहे हैं। शुरुआती शोध मॉडल को कुछ ऐसा कहने के लिए उकसाने जैसे सरल तरीकों पर केंद्रित था जो उसे नहीं कहना चाहिए। अब, ध्यान अधिक जटिल प्रणालियों की ओर स्थानांतरित हो रहा है जहाँ मॉडल पिछली बातचीत को याद रख सकता है, उपकरणों का उपयोग कर सकता है और समय के साथ निर्णय ले सकता है। ये "एजेंटिक" (agentic) प्रणालियाँ बहुत कठिन होती हैं क्योंकि एक छोटी सी गलती भी गलत कार्यों की एक श्रृंखला को जन्म दे सकती है जो पूरे नेटवर्क में फैल सकती है। शोधकर्ताओं ने पाया कि जहाँ इन प्रणालियों पर हमला करने के कई नए तरीके हैं, वहीं रक्षा अक्सर नाजुक होती है। एक रक्षा जो आज काम करती है, वह कल विफल हो सकती है यदि हमलावर अपने दृष्टिकोण में थोड़ा सा बदलाव करता है। इसके अलावा, सफलता को मापने के लिए उपयोग किए जाने वाले उपकरण या तो पुराने हैं या केवल अंग्रेजी में उपलब्ध हैं, जिसका अर्थ है कि वे शेष विश्व के लिए काम नहीं करेंगे।
अंततः, यह पेपर तर्क देता है कि हम इन मॉडल्स को केवल अच्छे या बुरे सरल उपकरणों के रूप में नहीं देख सकते। ये दोहरे उपयोग वाली तकनीकें हैं जहाँ आक्रमण और रक्षा के बीच की रेखा धुंधली है। शोधकर्ता सुझाव देते हैं कि भविष्य के लिए सबसे महत्वपूर्ण कार्य केवल नए हमले या नई रक्षाएं बनाना नहीं है, बल्कि उन्हें बेहतर तरीके से परखने के तरीके बनाना है। हमें यह मानना बंद करना होगा कि एक रक्षा काम करती है क्योंकि उसने एक साधारण परीक्षण पास कर लिया है। इसके बजाय, हमें प्रत्येक रक्षात्मक प्रणाली का परीक्षण एक लक्ष्य के रूप में करना होगा, लगातार यह जांचना होगा कि क्या उसे उस सामग्री द्वारा धोखा दिया जा सकता है जिसका विश्लेषण करने के लिए उसे बनाया गया है। जब तक शोध समुदाय इन तीनों भूमिकाओं का एक साथ अध्ययन करना शुरू नहीं करता, हम इस शक्तिशाली उपकरण के उपयोग, दुरुपयोग और सुरक्षा की पूरी तस्वीर देखने में अंधे रहेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।