LMSM: LLM Security Framework Inspired by Linux Security Modules
यह शोध पत्र LMSM को प्रस्तुत करता है, जो लिनक्स सिक्योरिटी मॉड्यूल्स (Linux Security Modules) से प्रेरित बड़े भाषा मॉडलों (large language models) के लिए एक सुरक्षा ढांचा है, जो लचीले, कंपोजेबल सुरक्षा नियमों को सक्षम करने के लिए व्याख्यात्मकता-आधारित पहचान (interpretability-based detection), नीति मूल्यांकन (policy evaluation) और आउटपुट प्रवर्तन (output enforcement) को अलग करता है, जिससे न्यूनतम थ्रूपुट प्रभाव के साथ हमले की सफलता दर में उल्लेखनीय कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स अब केवल साधारण उपकरण नहीं रह गए हैं जो एक प्रश्न का उत्तर देते हैं और गायब हो जाते हैं। वास्तविक दुनिया में, वे जटिल सेवाओं के पीछे के इंजन हैं, जो उपयोगकर्ता के निर्देशों, बातचीत के इतिहास और बाहरी जानकारी को जोड़कर एक प्रतिक्रिया तैयार करने के लिए लगातार काम करते हैं। उपयोगकर्ता के प्रॉम्प्ट से लेकर अंतिम उत्तर तक की यह यात्रा एक लंबी, स्टेटफुल (stateful) राह है जहाँ मॉडल केवल एक घटक मात्र है। क्योंकि यह पथ इतना जटिल है, सुरक्षा विफलताओं के होने की संभावना भी यहीं होती है। प्रॉम्प्ट में एक चालाकी भरा पैंतरा सुरक्षा फिल्टरों को बायपास कर सकता है, या किसी प्राप्त दस्तावेज़ में छिपा हुआ निर्देश मॉडल को उसके नियमों को अनदेखा करने के लिए मजबूर कर सकता है। इसे रोकने के लिए, डेवलपर्स ने सुरक्षा की परतें बनाई हैं: उन्होंने मॉडल को सुरक्षित रहने के लिए प्रशिक्षित किया है, वे उसे क्या देखना है इस पर नियंत्रण रखते हैं, और उपयोगकर्ता तक पहुँचने से पहले वे इसके आउटपुट को स्कैन करते हैं। हालाँकि, ये परतें अक्सर अलग-थलग होकर काम करती हैं। जब शोधकर्ता मॉडल की "विचार प्रक्रिया" के भीतर झाँकने का कोई नया तरीका विकसित करते हैं ताकि खराब व्यवहार को पकड़ा जा सके, तो उन्हें आमतौर पर उस विशिष्ट खोज के इर्द-गिर्द एक पूरी तरह से नया, कस्टम सुरक्षा सिस्टम बनाना पड़ता है। यह सुरक्षा की एक ऐसी 'पैचवर्क' स्थिति पैदा करता है जहाँ हर नए टूल के लिए एक नए एकीकरण (integration) की आवश्यकता होती है, न कि एक एकल, मजबूत ढाल की जो किसी भी नए खतरे के अनुकूल हो सके।
नेशनल यूनिवर्सिटी ऑफ सिंगापुर और यूनिवर्सिटी ऑफ साइंस एंड टेक्नोलॉजी ऑफ चाइना के शोधकर्ताओं की एक टीम ने एक अलग दृष्टिकोण प्रस्तावित किया है, जो इस बात से प्रेरित है कि दशकों से कंप्यूटर ऑपरेटिंग सिस्टम ने सुरक्षा को कैसे संभाला है। वे अपने फ्रेमवर्क को LMSM कहते हैं, यानी लैंग्वेज मॉडल सिक्योरिटी मॉड्यूल्स (Language Model Security Modules)। मूल विचार खतरे की निगरानी करने के काम को, उस पर कार्रवाई करने के निर्णय से अलग करना है। एक ऐसे सुरक्षा तंत्र की कल्पना करें जहाँ सेंसर, नियम पुस्तिका और सुरक्षा गार्ड तीन अलग-अलग, विनिमेय (interchangeable) भाग हों। इस नए सिस्टम में, "सेंसर" वे विभिन्न तरीके हैं जो समस्या के संकेतों को खोजने के लिए मॉडल के भीतर देखते हैं। "नियम पुस्तिका" निर्देशों का एक लचीला सेट है जो यह बताता है कि उन संकेतों का क्या अर्थ है और कब कार्रवाई करनी है। "गार्ड" एक अंतिम द्वारपाल है जो प्रतिक्रिया को तब तक रोक कर रखता है जब तक कि उसे मंजूरी न मिल जाए। इस डिज़ाइन का अर्थ है कि यदि कोई शोधकर्ता कल एक बेहतर सेंसर का आविष्कार करता है, या यदि किसी कंपनी को किसी विशिष्ट उद्योग के लिए अपने नियमों को बदलने की आवश्यकता होती है, तो वे पूरे सुरक्षा सिस्टम को फिर से बनाए बिना या मॉडल के आउटपुट को संभालने वाले कोड को फिर से लिखे बिना उस नए हिस्से को बदल सकते हैं।
शोधकर्ताओं ने यह देखने के लिए इस सिस्टम का एक वर्किंग प्रोटोटाइप बनाया कि क्या यह वास्तविक दुनिया के व्यस्त और जटिल उपयोग की स्थितियों में टिक सकता है। उन्होंने इसे एक लोकप्रिय लैंग्वेज मॉडल, Qwen3-4B पर परीक्षण किया, जो एक उच्च-प्रदर्शन वाले सर्वर पर चल रहा था जो एक साथ कई अनुरोधों को संभालता है। इस वातावरण में, सिस्टम को तेज़ बनाने के लिए अनुरोधों को लगातार इधर-उधर किया जाता है, जो अक्सर उन सुरक्षा उपकरणों को भ्रमित कर देता है जो एक निश्चित क्रम की अपेक्षा करते हैं। टीम ने पाया कि उनके फ्रेमवर्क ने हर एक अनुरोध का सफलतापूर्वक ट्रैक रखा, यह सुनिश्चित करते हुए कि एक उपयोगकर्ता के लिए लिया गया निर्णय दूसरे को अनजाने में प्रभावित न करे, भले ही सिस्टम उन्हें विभिन्न प्रोसेसिंग स्लॉट्स के बीच स्थानांतरित कर रहा हो। उन्होंने इसे विभिन्न प्रकार के आंतरिक सेंसरों के साथ परखा, जिनमें कुछ पहले से बने हुए थे और कुछ विशेष कार्यों के लिए विशेष रूप से प्रशिक्षित किए गए थे। सिस्टम ने उन सभी को सहजता से संभाला, जिससे यह सिद्ध हुआ कि सेंसर, नियमों और प्रवर्तन द्वार (enforcement gate) के बीच का अलगाव इच्छित रूप से काम कर रहा है।
परिणामों ने दिखाया कि यह मॉड्यूलर दृष्टिकोण न केवल सैद्धांतिक रूप से सुदृढ़ है बल्कि व्यावहारिक रूप से भी प्रभावी है। जब शोधकर्ताओं ने हानिकारक आउटपुट को रोकने के लिए अपने सिस्टम का उपयोग किया, तो उन्होंने हमलों की सफलता दर को लगभग चालीस प्रतिशत से घटाकर केवल तीन प्रतिशत से थोड़ा अधिक कर दिया। यह एक बहुत बड़ा सुधार है, जिसका अर्थ है कि सिस्टम ने लगभग सभी बुरे प्रयासों को पकड़ लिया। हालाँकि, किसी भी सुरक्षा उपाय की तरह, यह भी पूर्ण नहीं था; इसने कभी-कभार गलती से एक हानिरहित अनुरोध को भी ब्लॉक कर दिया, जिसकी दर दो प्रतिशत से बढ़कर चार प्रतिशत हो गई। शोधकर्ताओं ने नोट किया कि यह ट्रेड-ऑफ प्रबंधनीय है और हानिकारक सामग्री को जाने देने के विकल्प से कहीं बेहतर है। महत्वपूर्ण रूप से, इस सिस्टम ने सेवा की गति को महत्वपूर्ण रूप से धीमा किए बिना यह कार्य किया। यहाँ तक कि जब यह एक साथ बत्तीस सक्रिय अनुरोधों के साथ चल रहा था, तब भी इसने बिना सुरक्षा जाँच वाले संस्करण की तुलना में लगभग ९९ प्रतिशत गति बनाए रखी। यह सुझाव देता है कि सुरक्षा के भारी काम का मतलब प्रदर्शन में कमी होना अनिवार्य नहीं है।
इस कार्य को जो चीज़ विशेष रूप से महत्वपूर्ण बनाती है, वह है सुरक्षा और मॉडल सुधार के बीच के संबंध को बदलना। पहले, जब भी खराब व्यवहार का पता लगाने का कोई नया तरीका खोजा जाता था, तो उसके लिए एक नए, कस्टम-निर्मित सुरक्षा स्टैक की आवश्यकता होती थी। इस फ्रेमवर्क के साथ, नए डिटेक्शन तरीकों को सरल अपडेट के रूप में प्लग इन किया जा सकता है। शोधकर्ताओं ने प्रदर्शित किया कि वे एक प्रकार के सेंसर को दूसरे से बदल सकते हैं, या सिस्टम द्वारा समस्या की जाँच करने के समय को बदल सकते हैं, बिना मॉडल के आउटपुट को प्रबंधित करने वाले अंतर्निहित कोड को छुए। यह लचीलापन संगठनों को नए खतरों या विशिष्ट कानूनी आवश्यकताओं के अनुकूल तेजी से ढलने की अनुमति देता है, बिना विशाल मॉडल को फिर से प्रशिक्षित किए या अपने पूरे इंफ्रास्ट्रक्चर को फिर से लिखे। यह फ्रेमवर्क अनिवार्य रूप से लैंग्वेज मॉडल के जटिल, आंतरिक संकेतों को साक्ष्य की एक विश्वसनीय, मानकीकृत धारा में बदल देता है जिस पर एक सुसंगत, विश्वसनीय द्वारपाल द्वारा कार्रवाई की जा सकती है।
अध्ययन पुष्टि करता है कि एक मजबूत सुरक्षा परत बनाना संभव है जो मॉडल के रनटाइम के भीतर स्थित होती है, और उपयोगकर्ता को एक शब्द भी जारी करने से पहले उसकी आंतरिक स्थिति पर नज़र रखती है। खतरे का पता लगाने, कार्रवाई करने के निर्णय और रोकने के कार्य को अलग-अलग, विनिमेय घटकों के रूप में मानकर, शोधकर्ताओं ने एक ऐसा सिस्टम बनाया है जो मजबूत और अनुकूलनीय दोनों है। प्रयोगों ने दिखाया कि यह दृष्टिकोण हानिकारक आउटपुट के जोखिम को काफी कम कर सकता है और साथ ही सेवा को तेज़ और उत्तरदायी बनाए रख सकता है। यह एक ऐसा मार्ग प्रदान करता जहाँ मॉडल विश्लेषण तकनीकों का तीव्र विकास तुरंत उपयोगकर्ताओं की सुरक्षा के काम आ सकता है, बिना उन प्रणालियों को फिर से इंजीनियर करने की निरंतर और महंगी आवश्यकता के जो उन्हें संचालित करती हैं। यह कार्य सुझाव देता है कि सुरक्षित आर्टिफिशियल इंटेलिजेंस का भविष्य बड़े, अधिक कठोर दीवारों के निर्माण में नहीं, बल्कि स्मार्ट, अधिक लचीले द्वारों के निर्माण में है जो उस तकनीक के साथ विकसित हो सकें जिसकी वे रक्षा करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।