Symbolic Log Shield - an adversarial resistant neurosymbolic framework for network log classification
यह शोधपत्र 'सिम्बोलिक लॉग शील्ड' (Symbolic Log Shield) प्रस्तुत करता है, जो एक न्यूरोसिम्बोलिक फ्रेमवर्क है जो नेटवर्क लॉग वर्गीकरण में एडवरसेरियल जेलब्रेक हमलों के प्रति लार्ज लैंग्वेज मॉडल्स की संवेदनशीलता को काफी हद तक कम करता है, और गंभीर रूप से क्षय हुए स्तरों से उनके विसंगति पहचान प्रदर्शन को प्रभावी रूप से बहाल करता है और यहाँ तक कि उसे बढ़ाता भी है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि डिजिटल दुनिया एक विशाल, हलचल भरा शहर है जहाँ हर कंप्यूटर, सर्वर और राउटर एक नागरिक है जो अपने पीछे पदचिह्नों का एक निशान छोड़ रहा है। इन पदचिह्नों को "लॉग्स" (logs) कहा जाता है। वे कहानी बताते हैं कि क्या हुआ: किसने किसी इमारत में प्रवेश किया, उन्होंने क्या छुआ, और क्या उन्होंने ताला खोलने की कोशिश की। वर्षों से, सुरक्षा टीमें इन लॉग्स को पढ़ने और संदिग्ध गतिविधियों को पहचानने के लिए स्मार्ट कंप्यूटर प्रोग्रामों का उपयोग करती आई हैं। हाल ही में, हमने एक नए प्रकार के सुपर-स्मार्ट कंप्यूटर मस्तिष्क का उपयोग करना शुरू किया है जिसे "लार्ज लैंग्वेज मॉडल" (LLM) कहा जाता है। एक LLM को एक ऐसे जासूस के रूप में सोचें जिसने लाइब्रेरी की हर किताब पढ़ी है; यह पदचिह्नों के पीछे की कहानी को समझने और यह पता लगाने में अविश्वसनीय रूप से कुशल है कि संदिग्ध गतिविधि एक वास्तविक हमला है या केवल एक अनाड़ी सफाईकर्मी की गलती।
लेकिन यहाँ एक पेंच है: ठीक वैसे ही जैसे एक मानव जासूस को एक चतुर झूठ बोलने वाले द्वारा मूर्ख बनाया जा सकता है, ये AI जासूस भी धोखा खा सकते हैं। एक "जेलब्रेक" (jailbreak) हमला एक अपराधी की तरह है जो जासूस के कान में एक गुप्त कोड फुसफुसाता है या एक झूठी कहानी सुनाता है, जिससे वह विश्वास करने लगता है कि अपराध स्थल वास्तव में एक हानिरहित जन्मदिन की पार्टी है। यदि जासूस को धोखा दिया जाता है, तो अलार्म कभी नहीं बजता, और शहर असुरक्षित रह जाता है। यह शोध पत्र ठीक इसी बात की गहराई में जाता है कि ये AI जासूस कितनी आसानी से मूर्ख बनाए जा सकते हैं और अधिक महत्वपूर्ण रूप से, उन्हें बचाने के लिए एक नया प्रकार का कवच बनाता है।
शोध पत्र: AI जासूसों के लिए "लॉग शील्ड" का निर्माण
इस अध्ययन में, शोधकर्ताओं ने यह परीक्षण करने का प्रयास किया कि ये AI लॉग जासूस वास्तव में कितने नाजुक हैं। उन्होंने कई अलग-अलग AI मॉडल लिए—जिनमें 2 बिलियन "मस्तिष्क कोशिकाओं" (पैरामीटर्स) वाले छोटे और फुर्तीले मॉडल से लेकर 128 बिलियन वाले विशालकाय मॉडल तक शामिल थे—और उन्हें नेटवर्क लॉग का विश्लेषण करने के काम पर लगाया। उनका पहला काम यह देखना था कि क्या वे वास्तविक साइबर हमलों का पता लगा सकते हैं। जब लॉग साफ और ईमानदार थे, तो बड़े मॉडलों ने शानदार काम किया, जिसमें सबसे बड़े मॉडल (Mistral-Medium-3.5-128B) ने लगभग 84.54% का सटीकता स्कोर (AUROC) प्राप्त किया। छोटे मॉडल थोड़े भ्रमित थे, जिसमें सबसे छोटे मॉडल (Qwen3.5-2B) का स्कोर लगभग 60.00% था।
फिर, शोधकर्ताओं ने स्वयं खलनायक की भूमिका निभाई। उन्होंने 7 अलग-अलग प्रकार के जेलब्रेक ट्रिक्स का उपयोग करके एक विशेष "एडवर्सरियल डेटासेट" (adversarial dataset) तैयार किया। ये केवल साधारण टाइपिंग की गलतियाँ नहीं थीं; ये परिष्कृत मनोवैज्ञानिक हेरफेर थे। कुछ ट्रिक्स में लॉग डेटा को एक फर्जी कहानी में लपेटना शामिल था (जैसे "DeepInception" जहाँ AI को एक साइंस-फिक्शन दृश्य की कल्पना करने के लिए कहा जाता है जहाँ हमला वास्तव में सामान्य रखरखाव है)। अन्य ट्रिक्स में लॉग टेक्स्ट को गुप्त कोड (जैसे सीज़र सिफर या Base64) के अंदर छिपाना या AI से ऐसी भाषा में बात करना शामिल था जिस पर वह पूरी तरह प्रशिक्षित नहीं था (जैसे स्वाहिली या ज़ुलु) ताकि सुरक्षा फिल्टर को बायपास किया जा सके।
परिणाम क्या रहा? AI जासूस पूरी तरह से ठगे गए। हमले विनाशकारी रूप से प्रभावी थे। विशाल मिस्ट्रल (Mistral) मॉडल की सटीकता 84.54% से गिरकर 48.83% रह गई। छोटे मॉडल और भी बदतर स्थिति में रहे, जिनमें से कुछ 30% से भी नीचे गिर गए। शोधकर्ताओं ने पाया कि केवल AI को बड़ा बनाने से वह अधिक सुरक्षित नहीं हुआ; यहाँ तक कि विशाल 128-बिलियन-पैरामीटर वाला मॉडल भी इन चतुर ट्रिक्स के प्रति उतना ही असुरक्षित था जितने कि छोटे मॉडल। हमलों ने सफलतापूर्वक AI को यह विश्वास दिलाने में सफलता प्राप्त की कि खतरनाक हमले वास्तव में "निश्चित: सामान्य" या "लगभग निश्चित: सामान्य" थे, जिससे सुरक्षा प्रणाली प्रभावी रूप से अंधा हो गई।
समाधान: "सिंबोलिक लॉग शील्ड" (Symbolic Log Shield)
यह महसूस करते हुए कि केवल AI पर्याप्त नहीं था, टीम ने एक नया ढांचा बनाया जिसे वे सिंबोलिक लॉग शील्ड कहते हैं। कल्पना कीजिए कि यह AI जासूस द्वारा सबूत देखने से पहले एक दो-चरणीय सुरक्षा जांच बिंदु है।
चरण 1: प्री-प्रोसेसिंग "सैनिटाइज़र" (पूर्व-जांच)
लॉग के AI तक पहुँचने से पहले, यह एक सख्त, नियम-आधारित फ़िल्टर से गुजरता है। यह कोई स्मार्ट मस्तिष्क नहीं है; यह एक कठोर, अडिग रोबोट है जो जानता है कि एक वास्तविक लॉग कैसा दिखता है।
- यह अदृश्य पात्रों (जैसे जीरो-विड्थ स्पेस) को हटा देता है जिनका उपयोग हैकर्स अपनी चालों को छिपाने के लिए करते हैं।
- यह अजीब अक्षर बदलावों को ठीक करता है (जैसे "chMod" को वापस "chmod" में बदलना)।
- यह लॉग को पुनर्गठित करता है ताकि वे सही समय क्रम में हों, जिससे टाइमलाइन को अस्त-व्यस्त करने के किसी भी प्रयास को विफल किया जा सके।
- यह गुप्त कोडों को वापस सादे टेक्स्ट में अनुवादित करता है।
यह परत एक ऐसे अनुवादक की तरह कार्य करती है जो "हैकर" और "सामान्य" दोनों भाषाओं में पारंगत है, यह सुनिश्चित करती है कि जब तक लॉग AI तक पहुँचता है, वह साफ और सुव्यवस्थित हो।
चरण 2: पोस्ट-प्रोसेसिंग "रीज़नर" (वास्तविकता की जाँच)
AI द्वारा अनुमान लगाने के बाद, लॉग एक दूसरे स्तर पर जाता है: एक सिंबोलिक नियम इंजन। यह एक वरिष्ठ पर्यवेक्षक की तरह है जो एक सख्त नियम पुस्तिका (जो MITRE ATT&CK फ्रेमवर्क पर आधारित है) का उपयोग करके जासूस के काम की दोबारा जाँच करता है।
- यदि AI कहता है "यह सामान्य है," लेकिन पर्यवेक्षक देखता है कि लॉग को बहुत अधिक बदला या एनकोड किया गया था, तो पर्यवेक्षक AI को ओवरराइड करता है और कहता है, "रुको, यह संदिग्ध है!"
- यदि AI कहता है "यह एक हमला है," लेकिन पर्यवेक्षक देखता है कि कोई वास्तविक नेटवर्क स्कैनिंग या अजीब IP एड्रेस नहीं है, तो वह कह सकता है, "शायद आप केवल अति-सतर्क हो रहे हैं।"
- यह विशिष्ट पैटर्न की तलाश करता है, जैसे कम समय में बहुत बड़ी संख्या में डोमेन नामों की जाँच की जा रही है (जो नेटवर्क मैपिंग करने वाले हैकर का संकेत है), जिसे AI शायद मिस कर गया हो।
परिणाम: ढाल चमत्कार करती है
जब शोधकर्ताओं ने इस नए सिंबोलिक लॉग शील्ड के साथ AI मॉडलों का परीक्षण किया, तो परिणाम नाटकीय थे। ढाल ने न केवल छेदों को भरा; बल्कि इसने AI की दृष्टि को लगभग पूरी तरह से बहाल कर दिया।
- रिकवरी (सुधार): विशाल मिस्ट्रल मॉडल, जिसे हमलों द्वारा 48.83% तक गिरा दिया गया था, ढाल के साथ 82.10% तक वापस उछल गया। यह लगभग उतना ही अच्छा है जितना कि यह साफ डेटा के साथ था!
- छोटे मॉडलों के लिए सुधार: छोटे मॉडलों ने और भी बड़े लाभ देखे। Qwen3.5-2B मॉडल, जो हमले के दौरान 40.41% के साथ संघर्ष कर रहा था, 77.59% पर पहुँच गया। Llama-3.2-3B मॉडल 26.49% के भयानक स्तर से बढ़कर 72.86% के ठोस स्तर पर पहुँच गया।
- मूल से बेहतर: कुछ मामलों में, ढाल ने मॉडलों को साफ डेटा की तुलना में भी बेहतर बना दिया। उदाहरण के लिए, Qwen3-14B मॉडल ने ढाल के साथ 81.00% स्कोर किया, जो इसके मूल स्कोर 75.41% से अधिक था।
शोधकर्ताओं ने यह भी मापा कि मॉडल कितने "भ्रमित" थे। बिना ढाल के, AI मॉडल अक्सर हार मान लेते और "न्यूट्रल" (अर्थात "मुझे नहीं पता") कहते या बेतरतीब ढंग से अनुमान लगाते। ढाल के साथ, मॉडल बहुत अधिक आत्मविश्वासी और सटीक हो गए, जिससे उनकी "अज्ञानता" में काफी कमी आई।
इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि हालांकि बड़े AI मॉडल शक्तिशाली हैं, लेकिन वे चतुर, लक्षित ट्रिक्स के सामने आश्चर्यजनक रूप से नाजुक हैं। केवल AI पर भरोसा करना जोखिम भरा है क्योंकि सबसे बड़े मॉडल भी हमलों को अनदेखा करने के लिए मूर्ख बनाए जा सकते हैं। हालाँकि, इन AI मॉडलों को एक "न्यूरोसिंबोलिक" ढांचे में लपेटकर—जो AI की पैटर्न पहचान को एक कठोर, नियम-आधारित ढाल के साथ जोड़ता है—सिस्टम फिर से मजबूत हो जाता है।
लेखक सुझाव देते हैं कि यह दृष्टिकोण एक महत्वपूर्ण कदम है। यह साबित करता है कि हमें AI के जादुई रूप से हमलों के प्रति प्रतिरोधी होने का इंतजार करने की आवश्यकता नहीं है; इसके बजाय, हम आज ही इसके चारों ओर एक सुरक्षात्मक परत बना सकते हैं। सिंबोलिक लॉग शील्ड एक संरक्षक के रूप में कार्य करता है, शोर को साफ करता है और तर्क की जाँच करता है, यह सुनिश्चित करता है कि AI जासूस सच्चाई देख सके, भले ही अपराधी झूठ बोलने की कोशिश कर रहे हों। हालांकि इस अध्ययन ने विशिष्ट प्रकार के जेलब्रेक और लॉग डेटा पर ध्यान केंद्रित किया, लेकिन यह हमारे डिजिटल शहरों को सुरक्षित बनाने के लिए एक आशाजनक ब्लूप्रिंट प्रदान करता है, एक बार में एक लॉग प्रविष्टि के साथ।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।