💻 computer science

WSymBert: A Weighted Neuro-Symbolic Attention Model for Interpretable CVSS Prediction

यह शोध पत्र WSymBERT प्रस्तुत करता है, जो एक भारित न्यूरो-सिम्बोलिक अटेंशन मॉडल है जो CVSS v3.1 बेस मेट्रिक्स के अत्यधिक सटीक और व्याख्या योग्य स्वचालित पूर्वानुमान प्राप्त करने के लिए संदर्भगत भाषाई समझ को संरचित विशेषज्ञ ज्ञान के साथ जोड़ता है, जो मौजूदा ट्रांसफॉर्मर बेसलाइन से बेहतर प्रदर्शन करता है और विशेषज्ञ तर्क के साथ अधिक निकटता से संरेखित होता है।

मूल लेखक: Seyedeh Leili Mirtaheri, Amirhossein Majd, Reza Shahbazian, Georgios Spathoulas, Aida Akbarzadeh, Andrea Pugliese

प्रकाशित 2026-06-25

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Seyedeh Leili Mirtaheri, Amirhossein Majd, Reza Shahbazian, Georgios Spathoulas, Aida Akbarzadeh, Andrea Pugliese

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, अराजक हवाई अड्डे पर एक सुरक्षा गार्ड हैं। हर दिन, हजारों लोग (सॉफ्टवेयर कमजोरियां/vulnerabilities) अपने साथ रहस्यों से भरे लगेज बैग लेकर आते हैं। आपका काम यह तय करना है: "क्या यह व्यक्ति कम जोखिम वाला यात्री है, या यह एक खतरनाक खतरा है जिसे तत्काल ध्यान देने की आवश्यकता है?"

इसे करने के लिए, आप एक मानक स्कोरिंग प्रणाली का उपयोग करते हैं जिसे CVSS कहा जाता है। यह एक ट्रैफिक लाइट सिस्टम की तरह है: हरा (कम), पीला (मध्यम), या लाल (गंभीर)। लेकिन समस्या यह है कि यात्रियों की संख्या बहुत अधिक है, और जो विशेषज्ञ आमतौर पर स्कोरिंग करते हैं, वे काम के बोझ से दबे हुए हैं। वे तालमेल नहीं बिठा पा रहे हैं, जिससे कई "खतरनाक" यात्री बिना किसी स्कोर के हफ्तों तक वेटिंग एरिया में बैठे रहते हैं। यह हवाई अड्डे को असुरक्षित छोड़ देता है।

वर्तमान AI के साथ समस्या

वैज्ञानिकों ने इन यात्रियों को स्कोर देने में मदद करने के लिए रोबोट (AI मॉडल) बनाने की कोशिश की है।

पुराने रोबोट: वे फ्लैशकार्ड रटने वाले छात्रों की तरह थे। वे "hack" या "virus" जैसे विशिष्ट शब्दों को देखते थे। यदि वह शब्द वहां था, तो वे उच्च स्कोर देते थे। लेकिन उन्हें चालाक भाषा से आसानी से धोखा दिया जा सकता था जिसका वास्तव में खतरे से कोई लेना-देना नहीं था।
नए रोबोट (Transformers): ये स्मार्ट हैं। वे पूरे वाक्य को पढ़ते हैं और संदर्भ (context) समझते हैं। लेकिन ये ब्लैक बॉक्स की तरह हैं। आप उनसे पूछते हैं, "आपने इसे रेड स्कोर क्यों दिया?" और वे बस कहते हैं, "क्योंकि मेरे दिमाग ने ऐसा कहा।" वे अपने तर्क की व्याख्या नहीं कर सकते, इसलिए सुरक्षा गार्ड उन पर भरोसा नहीं करते।

समाधान: WSymBert (द "एक्सपर्ट-गाइडेड" रोबट)

लेखकों ने एक नया रोबोट बनाया है जिसे WSymBert कहा जाता है। इस "छात्र-मेंटर" टीम के बारे में सोचें।

छात्र (AI): यह एक शक्तिशाली लैंग्वेज मॉडल (SBERT पर आधारित) है जो मानव भाषा को पढ़ने और समझने में माहिर है।
मेंटर (सिंबोलिक नॉलेज): यह मानव सुरक्षा विशेषज्ञों द्वारा बनाई गई सख्त नियमों और चेकलिस्ट का एक सेट है। यह जानता है कि किन वाक्यांशों का क्या अर्थ है। उदाहरण के लिए, मेंटर जानता है कि "रिमोट एक्सेस" (remote access) आमतौर पर उच्च जोखिम का संकेत देता है, जबकि "लोकल एक्सेस" (local access) कम जोखिम का।

वे मिलकर कैसे काम करते हैं:
छात्र को अनुमान लगाने देने के बजाय, मेंटर छात्र के कान में संकेत फुसफुसाता है जबकि वह पढ़ रहा होता है।

यदि टेक्स्ट में "physical access की आवश्यकता है" लिखा है, तो मेंटर उन शब्दों की ओर इशारा करता है और कहता है, "हे, इस पर ध्यान दो! यह एक महत्वपूर्ण सुराग है।"
यदि टेक्स्ट में "no user interaction" लिखा है, तो मेंटर उसे भी हाईलाइट करता है।

यह एक वेटेड अटेंशन (Weighted Attention) सिस्टम बनाता है। रोबोट केवल पूरे टेक्स्ट को नहीं देखता; उसे विशेषज्ञों द्वारा महत्वपूर्ण समझे जाने वाले विशिष्ट शब्दों पर ध्यान केंद्रित करने के लिए निर्देशित किया जाता है।

परिणाम: स्मार्ट और स्पष्ट

शोधकर्ताओं ने इस "छात्र-मेंटर" टीम का परीक्षण वास्तविक दुनिया की सुरक्षा रिपोर्टों के दो विशाल डेटाबेस का उपयोग करके अन्य रोबोटों के विरुद्ध किया।

सटीकता (Accuracy): WSymBert औसतन 96.2% बार सही था। इसने अन्य स्मार्ट रोबोटों (जैसे DistilBERT और SBERT) को काफी पीछे छोड़ दिया।
कठिन मामलों को संभालना: कुछ सुरक्षा रिपोर्ट पेचीदा होती हैं या उनमें बहुत दुर्लभ प्रकार के खतरे होते हैं (इम्बैलेंस्ड डेटा)। अन्य रोबोट अक्सर भ्रमित हो जाते हैं या दुर्लभ मामलों को अनदेखा कर देते हैं। WSymBert, अपने विशेषज्ञ मेंटर की मदद से, इन कठिन मामलों में भी सटीक बना रहा।
"क्यों" का कारक (व्याख्यात्मकता/Interpretability): यह सबसे बड़ी जीत है। जब WSymBert कोई स्कोर देता है, तो आप देख सकते हैं कि उसने किन शब्दों पर ध्यान केंद्रित किया था।
- अन्य रोबोट: शायद "the", "and", या वर्जन नंबर (जैसे "7.5.1") जैसे यादृच्छिक शब्दों को महत्वपूर्ण मानकर हाईलाइट कर दें।
- WSymBert: सार्थक सुरक्षा शब्दों जैसे "remote", "authenticated", या "denial of service" को हाईलाइट करता है।

शोधकर्ताओं ने इस "शोर" (noise) को मापा और पाया कि WSymBert की व्याख्याएं बहुत अधिक साफ थीं (5% से कम शोर) जबकि अन्य रोबोटों में यह 30% से अधिक था। यह एक जासूस द्वारा बंदूक की गोली की ओर इशारा करने बनाम एक जासूस द्वारा एक रैंडम जूते की ओर इशारा करने के बीच के अंतर जैसा है।

सारांश

WSymBert सॉफ्टवेयर कमजोरियों को स्कोर करने के लिए एक नया टूल है। यह उन्नत AI की पढ़ने की शक्ति को मानव विशेषज्ञों के सख्त तर्क के साथ जोड़ता है।

यह मानव विशेषज्ञ के इंतजार करने की तुलना में अधिक तेज़ है।
यह अन्य AI टूल्स की तुलना में अधिक सटीक है।
यह विश्वसनीय है क्योंकि यह अपना काम दिखा सकता है, जिससे यह साबित होता है कि यह केवल अनुमान नहीं लगा रहा है बल्कि वास्तव में विशेषज्ञ नियमों का पालन कर रहा है।

यह संगठनों को अपने सुरक्षा छिद्रों (security holes) को तेज़ी से ठीक करने में मदद करता है क्योंकि वे जानते हैं कि कौन से छेद सबसे खतरनाक हैं, बिना किसी मानव विशेषज्ञ के प्रत्येक एक को मैन्युअल रूप से ग्रेड करने का इंतजार किए।

तकनीकी सारांश: WSymBert – व्याख्या योग्य CVSS भविष्यवाणी के लिए एक भारित न्यूरो-सिंबोलिक अटेंशन मॉडल

समस्या की परिभाषा
सॉफ्टवेयर कमजोरियों (vulnerabilities) के तेजी से बढ़ते प्रसार ने सुरक्षा संचालन में एक महत्वपूर्ण बाधा उत्पन्न कर दी है: कॉमन वल्नरेबिलिटी स्कोरिंग सिस्टम (CVSS) मेट्रिक्स का मैन्युअल मूल्यांकन धीमा, विशेषज्ञ-निर्भर और स्केल करने में कठिन है। इसके परिणामस्वरूप, कई कमजोरियां लंबे समय तक बिना स्कोर के रह जाती हैं, जिससे पैच प्राथमिकता और जोखिम शमन (risk mitigation) में बाधा आती है। जबकि ट्रांसफॉर्मर-आधारित मॉडल (जैसे BERT, SBERT) का उपयोग करने वाले स्वचालित दृष्टिकोणों ने भविष्यवाणी सटीकता में सुधार किया है, वे अक्सर "ब्लैक बॉक्स" के रूप में कार्य करते हैं। इन मॉडलों में पारदर्शिता की कमी होती है, क्योंकि वे डोमेन तर्क के बजाय सांख्यिकीय पैटर्न पर निर्भर करते हैं, और उनकी व्याख्याएं (जो अक्सर पोस्ट-हॉक विधियों द्वारा उत्पन्न की जाती हैं) अप्रासंगिक टोकन को उजागर कर सकती हैं या विशेषज्ञ तर्क के साथ संरेखित होने में विफल हो सकती हैं। चुनौती एक ऐसी प्रणाली विकसित करने की है जो न केवल आठ CVSS v3.1 बेस मेट्रिक्स (अटैक वेक्टर, अटैक कॉम्प्लेक्सिटी, प्रिविलेज रिक्वायर्ड, यूजर इंटरैक्शन, स्कोप, कॉन्फिडेंशियलिटी, इंटीग्रिटी, अवेलेबिलिटी) की उच्च सटीकता के साथ भविष्यवाणी कर सके, बल्कि साइबर सुरक्षा डोमेन ज्ञान के अनुरूप व्याख्या योग्य तर्क भी प्रदान कर सके।

कार्यप्रणाली: WSymBert आर्किटेटेक्चर
लेखक WSymbert का प्रस्ताव करते हैं, जो एक भारित न्यूरो-सिंबोलिक फ्रेमवर्क है जो संदर्भगत भाषा समझ को संरचित विशेषज्ञ ज्ञान के साथ एकीकृत करता है। आर्किटेक्चर के तीन प्राथमिक घटक हैं:

सिमेंटिक एनकोडिंग (Semantic Encoding): मॉडल असंरचित भेद्यता विवरणों से संदर्भगत टोकन एम्बेडिंग्स ( $H$ ) उत्पन्न करने के लिए एक फाइन-ट्यून्ड SBERT एनकोडर का उपयोग करता है।
सिंबोलिक नॉलेज एक्सट्रैक्शन (Symbolic Knowledge Extraction): आधिकारिक CVSS दिशानिर्देशों और सुरक्षा ऑन्टोलॉजी से प्राप्त विशेषज्ञ-परिभाषित निर्णय वृक्षों (decision trees) का उपयोग "विशेषज्ञ लेक्सिकॉन" (expert lexicons) बनाने के लिए किया जाता है। ये लेक्सिकॉन विशिष्ट वर्णनात्मक वाक्यांशों (जैसे, "requires local access") को CVSS मेट्रिक मानों से मैप करते हैं। इसके अतिरिक्त, मॉडल-प्रासंगिक कीवर्ड्स को निकालने के लिए KeyBERT का उपयोग किया जाता है।
वेटेड सिंबोलिक अटेंशन (Weighted Symbolic Attention): यह मुख्य नवाचार है। केवल सीखे गए अटेंशन पर निर्भर रहने के बजाय, WSymbert एक सिंबोलिक वेटिंग मैकेनिज्म पेश करता है।
- प्रत्येक टोकन के लिए, विशेषज्ञ लेक्सिकॉन और मॉडल द्वारा निकाले गए कीवर्ड्स के प्रतिच्छेदन (intersection) की उपस्थिति के आधार पर एक सिंबोलिक भार ( $w_i$ ) सौंपा जाता है।
- टोकन जो विशेषज्ञ तर्क और मॉडल सिमेंटिक्स दोनों द्वारा पुष्ट होते हैं, उन्हें उच्च भार (10) दिया जाता है, जो सिमेट्रिक डिफरेंस (symmetric difference) में होते हैं उन्हें भार 1 दिया जाता है, और अन्य को 0 दिया जाता है।
- "साइलेंट फेलियर" को रोकने के लिए, जहाँ सिंबोलिक मिलान की कमी से वेक्टर ढह सकता है, एक बेसलाइन भार 1 जोड़ा जाता है, यह सुनिश्चित करने के लिए कि मॉडल सिंबोलिक संकेतों की अनुपस्थिति में सीखे गए पूलिंग ( $\alpha_i$ ) पर वापस जा सके।
- प्रत्येक आठ मेट्रिक्स के लिए अंतिम पूल्ड रिप्रेजेंटेशन ( $z_m$ ) की गणना सीखे गए अटेंशन स्कोर को इन सिंबोलिक भारों के साथ फ्यूज करके की जाती है।
मल्टी-हेड प्रेडिक्शन (Multi-Head Prediction): प्रत्येक बेस मेट्रिक के लिए कैटेगोरिकल मानों की भविष्यवाणी करने के लिए आठ स्वतंत्र लीनियर क्लासिफायर प्रशिक्षित किए जाते हैं। प्रशिक्षण लागत को कम करने और रेगुलराइज़र के रूप में कार्य करने के लिए सभी आठ हेड्स के लिए SBERT बैकबोन साझा किया गया है।

प्रमुख योगदान

न्यूरो-सिंबोलिक फ्रेमवर्क: यह पेपर WSymBert पेश करता है, जो एक हाइब्रिड मॉडल है जो ट्रांसफॉर्मर मॉडल के अटेंशन मैकेनिजिज्म में स्पष्ट रूप से विशेषज्ञ सिंबोलिक ज्ञान को एकीकृत करके सभी आठ CVSS v3.1 बेस मेट्रिक्स की भविष्यवाणी करता है।
गाइडेड अटेंशन (Guided Attention): पोस्ट-हॉक व्याख्यात्मकता विधियों के विपरीत, मॉडल निर्णय प्रक्रिया में सीधे संरचित मार्गदर्शन शामिल करता है, जो ध्यान (attention) को विशेषज्ञ नियमों द्वारा परिभाषित सुरक्षा-प्रासंगिक संकेतों की ओर मोड़ता है।
मजबूत प्रदर्शन: मॉडल का मूल्यांकन दो बेंचमार्क डेटासेट ("कंबाइन" डेटासेट और एक क्यूरेटेड "NVD" डेटासेट) पर किया गया है, जो मजबूत बेसलाइन्स (SBERT और DistilBERT) की तुलना में निरंतर बेहतर प्रदर्शन प्रदर्शित करता है, विशेष रूप से असंतुलित और कठिन मेट्रिक्स पर।
मात्रात्मक व्याख्यात्मकता (Quantitative Explainability): अध्ययन एक कठोर विश्लेषण प्रदान करता है जो दिखाता है कि WSymBert की भविष्यवाणियां बेसलाइन मॉडलों की तुलना में डोमेन-विशिष्ट साक्ष्यों पर अधिक निर्भर करती हैं और अप्रासंगिक टोकन (stopwords, संख्याएं) पर कम निर्भर करती हैं।

प्रायोगिक परिणाम
मॉडल का मूल्यांकन Combine और NVD डेटासेट पर Accuracy, Precision, Recall और F1-score का उपयोग करके किया गया।

सटीकता (Accuracy): WSymBert ने NVD डेटासेट पर 96.2% की औसत सटीकता और लगभग 95% की सटीकता Combine डेटासेट पर प्राप्त की, जो SBERT (क्रमशः 92% और 92%) और DistilBERT (क्रमशः 89% और 89%) से बेहतर है।
असंतुलित मेट्रिक्स (Imbalanced Metrics): विषम क्लास डिस्ट्रीब्यूशन वाले मेट्रिक्स, जैसे अटैक कॉम्प्लेक्सिटी (AC) और प्रिविलेज रिक्वायर्ड (PR) पर महत्वपूर्ण सुधार देखे गए। उदाहरण के लिए, Combine डेटासेट पर, WSymBert ने AC के लिए 97.76% का F1-स्कोर प्राप्त किया, जबकि DistilBERT का 56.10% और SBERT का 83.70% था।
त्रुटि में कमी (Error Reduction): WSymbert ने अंतिम संख्यात्मक CVSS स्कोर की भविष्यवाणी करने में बेसलाइन्स की तुलना में कम मीन स्क्वेयर्ड एरर (MSE) और मीन एब्सोल्यूट एरर (MAE) प्रदर्शित किया।
व्याख्यात्मकता विश्लेषण: इंटीग्रेटेड ग्रेडिएंट्स (IG) का उपयोग करते हुए, अध्ययन में पाया गया कि WSymBert के शीर्ष-10 प्रभावशाली टोकन में "नॉइज़ रेट" (stopwords, संख्या या छोटे टोकन का अनुपात) 5% से कम था, जबकि DistilBERT में यह 30% से अधिक था। इसके अलावा, WSymBert ने अपने स्पष्टीकरणों में कम इनफिडेलिटी (Infidelity) और उच्च पूर्णता (Completeness) प्रदर्शित की, जो दर्शाता है कि इसके एट्रिब्यूशन (attributions) मॉडल की वास्तविक तर्क प्रक्रिया के प्रति अधिक वफादार हैं।

महत्व और दावे
पेपर का दावा है कि WSymBert हाई-एक्यूरेसी न्यूरल प्रेडिक्शन और डोमेन-अलाइन व्याख्यात्मकता के बीच के अंतर को पाटकर स्वचालित भेद्यता गंभीरता मूल्यांकन के लिए एक व्यावहारिक समाधान प्रदान करता है। अटेंशन लेयर में सिंबोलिक बाधाओं को सीधे एम्बेड करके, मॉडल यह सुनिश्चित करता है कि इसकी रीजनिंग टेक्स्ट में सार्थक साक्ष्य के प्रति पता लगाने योग्य है, जो मानक ट्रांसफॉर्मर की "ब्लैक बॉक्स" सीमा को संबोधित करती है। लेखक का तर्क है कि यह दृष्टिकोण सुरक्षा विश्लेषकों के लिए एक विश्वसनीय आधार प्रदान करता है, जिससे वे सांख्यिकीय शॉर्टकट के बजाय विशेषज्ञ तर्क के साथ संरेखित स्पष्टीकरणों के साथ गंभीरता निर्णयों को उचित ठहरा सकते हैं। यह कार्य दर्शाता है कि न्यूरल लर्निंग को सिंबोलिक मार्गदर्शन के साथ जोड़ना साइबर सुरक्षा में जिम्मेदार और व्याख्या योग्य AI के लिए एक व्यवहार्य मार्ग है।

सीमाएं और भविष्य की दिशाएं
लेखक स्वीकार करते हैं कि पूर्व-निर्धारित सिंबोलिक संकेतों पर निर्भरता एक संभावित अटैक सरफेस पेश कर सकती है जहाँ हमलावर स्कोर को बढ़ाने के लिए महत्वपूर्ण लेक्सिकन संकेतों के साथ भेद्यता विवरणों में हेरफेर कर सकते हैं। भविष्य के कार्यों में इस जोखिम को कम करने के लिए सत्यापन तंत्र और कॉन्फिडेंस कैलिब्रेशन को एकीकृत करने का सुझाव दिया गया है। इसके अतिरिक्त, लेखक संदर्भ समझ और वास्तविक समय की प्रयोज्यता को बढ़ाने के लिए बाहरी संरचित डेटा (CWE, CPE), डायनेमिक एनवायर्नमेंटल मेट्रिक्स और नॉलेज ग्राफ को शामिल करने का प्रस्ताव करते हैं।

वर्तमान AI के साथ समस्या

समाधान: WSymBert (द "एक्सपर्ट-गाइडेड" रोबट)

परिणाम: स्मार्ट और स्पष्ट

सारांश

इसी तरह के और पेपर