A Queryable Knowledge Graph of MITRE ATLAS: Cross-Linking Adversarial AI Taxonomies for Grounded Threat Reasoning
यह शोध पत्र एक Neo4j-आधारित नॉलेज ग्राफ प्रस्तुत करता है जो स्थिर MITRE ATLAS दस्तावेज़ों को एक क्वेरी करने योग्य, LLM-ग्राउंडेड सिस्टम में परिवर्तित करता है जो OWASP Top 10 for LLM Applications के साथ क्रॉस-लिंक्ड है, जिससे अभ्यासकर्ताओं के लिए थ्रेट रीजनिंग (threat reasoning) करना, 40 अनमिटिगेटेड (unmitigated) जनरेटिव-AI तकनीकों की पहचान करना, और ATLAS टैक्टिक्स एवं OWASP जोखिम श्रेणियों की ऑर्थोगोनल प्रकृति को प्रदर्शित करना सक्षम होता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास सुरक्षा विशेषज्ञों द्वारा लिखी गई एक विशाल, अविश्वसनीय रूप से विस्तृत विश्वकोश है जिसे MITRE ATLAS कहा जाता है। यह पुस्तक बताती है कि एक "डिजिटल खलनायक" (digital villain) कैसे एक आर्टिफिशियल इंटेलिजेंस सिस्टम को हैक करने के हर ज्ञात तरीके का उपयोग कर सकता है। यह खलनायकों के लक्ष्यों (tactics), उनके विशिष्ट तरीकों (techniques), उपलब्ध सुरक्षा उपायों (mitigations) और पहले से हो चुके हमलों की वास्तविक कहानियों (case studies) को सूचीबद्ध करती है।
समस्या यह है कि इस विश्वकोश के अनुसार, यह स्थिर (static) है। यह एक ऐसी लाइब्रेरी की तरह है जहाँ किताबें कांच के पीछे बंद हैं। आप उन्हें पढ़ तो सकते हैं, लेकिन आप लाइब्रेरियन से यह नहीं पूछ सकते, "मुझे वे सभी तरीके दिखाएं जिनका अभी तक कोई बचाव (defense) नहीं है," या "इस विशिष्ट हमले और उस विशिष्ट कमजोरी के बीच के संबंध को जोड़कर दिखाएं।" आपको मैन्युअल रूप से पन्ने पलटने होंगे, सूचियों का मिलान करना होगा, और यह उम्मीद करनी होगी कि आपसे कुछ छूट न जाए।
सलवा मकनी (Salwa Makni) का पेपर उस बंद लाइब्रेरी को एक जीवंत, इंटरैक्टिव मानचित्र (map) में बदलने के बारे में है।
यहाँ उन्होंने क्या किया, इसका सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
1. मानचित्र बनाना (द नॉलेज ग्राफ)
डेटा को एक सूची या दस्तावेज़ के रूप में रखने के बजाय, लेखक ने एक डिजिटल मकड़ी का जाल (जिसे Neo4j में "नॉलेज ग्राफ" कहा जाता है) बनाया।
- नोड्स (बिंदु): प्रत्येक बिंदु पहेली का एक हिस्सा है: एक विशिष्ट हमला करने का तरीका, एक खलनायक का लक्ष्य, एक रक्षा रणनीति, या एक वास्तविक दुनिया का हमला।
- स्ट्रिंग्स (जुड़ाव): बिंदुओं को जोड़ने वाली रेखाएं दिखाती हैं कि वे कैसे संबंधित हैं। उदाहरण के लिए, एक रेखा "LLM प्रॉम्प्ट इंजेक्शन" (एक तरीका) को "प्रॉम्प्ट इंजेक्शन" (लक्ष्य) से जोड़ती है और दूसरी रेखा उसे "इनपुट वैलिडेशन" (बचाव) से जोड़ती है।
- यह क्यों महत्वपूर्ण है: एक सामान्य दस्तावेज़ में, संबंध खोजना पढ़ने की मांग करता है। इस मानचित्र में, आप तुरंत एक तरीके से उसके बचाव तक "चल" सकते हैं, या देख सकते हैं कि किन तरीकों के साथ किसी भी बचाव के लिए कोई स्ट्रिंग (जुड़ाव) नहीं जुड़ी है।
2. दो अलग-अलग भाषाओं को मिलाना (क्रॉस-लिंकिंग)
सुरक्षा टीमें दो अलग-अलग भाषाएँ बोलती हैं:
- MITRE ATLAS "एडवर्सरी टैक्टिक्स" (खलनायक कैसे सोचते हैं और आगे बढ़ते हैं) में बात करता है।
- OWASP Top 10 "ऐप वल्नरेबिलिटीज़" (सॉफ्टवेयर कहाँ कमजोर है) की बात करता है।
लेखक ने मैन्युअल रूप से इन दो दुनियाओं के बीच पुल बनाए। उन्होंने LLM जोखिमों की 10 प्रमुख श्रेणियों को OWASP से लिया और उन्हें MITRE ATLAS के विशिष्ट तरीकों से जोड़ा।
- खोज: उन्होंने पाया कि ये दोनों सूचियाँ केवल एक-दूसरे को दोहरा नहीं रही हैं; वे ऑर्थोगोनल (orthogonal) हैं (जैसे ग्राफ पर X और Y अक्ष)। एक इस आधार पर व्यवस्थित है कि खलनायक क्या करना चाहता है, और दूसरा इस आधार पर कि सॉफ्टवेयर कहाँ कमजोर है। उन्हें जोड़कर, आप समस्या का 2D दृश्य नहीं, बल्कि 3D दृश्य प्राप्त करते हैं।
3. "ग्राउंडेड" जासूस (द रीजनिंग इंजन)
लेखक ने एक ऐसा टूल बनाया है जो सवालों के जवाब देने के लिए एक AI (LLM) का उपयोग करता है, लेकिन एक सख्त नियम के साथ: AI को मनगढ़ंत बातें बनाने की अनुमति नहीं है।
- यह कैसे काम करता है: जब आप पूछते हैं, "मैं इस हमले को कैसे रोकूँ?", तो AI अपने प्रशिक्षण के आधार पर केवल अनुमान नहीं लगाता। इसके बजाय, यह एक लाइब्रेरियन की तरह कार्य करता है जो पहले मानचित्र में हमले का विशिष्ट ID नंबर खोजता है, डेटाबेस से सटीक तथ्य निकालता है, और फिर आपके लिए उनका सारांश प्रस्तुत करता है।
- लाभ: यदि मानचित्र कहता है "कोई बचाव मौजूद नहीं है," तो AI कहेगा "कोई बचाव मौजूद नहीं है।" यह फर्जी समाधानों की कल्पना (hallucinate) नहीं करता। प्रत्येक उत्तर एक "साइटेशन टैग" के साथ आता है जो मूल स्रोत की ओर इशारा करता है, जैसे शोध पत्र में फुटनोट होता है।
4. उन्हें क्या मिला (परिणाम)
इस मानचित्र पर प्रश्न (queries) चलाकर, लेखक ने कुछ कड़वे सच उजागर किए जो स्थिर दस्तावेजों में छिपे हुए थे:
- बचाव का अंतर (The Defense Gap): उन्होंने पाया कि जेनेरेटिव AI को लक्षित करने वाले 40 विशिष्ट तरीके ऐसे हैं जिनके लिए वर्तमान में शून्य दस्तावेजीकृत बचाव मौजूद हैं। यह ताला खोलने के 40 नए तरीकों को खोजने जैसा है जहाँ अभी तक कोई ताला तोड़ने वाला उपकरण मौजूद नहीं है।
- सर्वश्रेष्ठ बचाव: उन्होंने पहचाना कि कौन से बचाव सबसे अधिक क्षेत्र को कवर करते हैं। उदाहरण के लिए, "AI टेलीमेट्री लॉगिंग" (AI जो करता है उसका विस्तृत लॉग रखना) 17 अलग-अलग हमलों को कवर करता है, जो इसे एक उच्च-प्राथमिकता वाला बचाव बनाता है।
- ऑर्थोगोनैलिटी (Orthogonality): उन्होंने सिद्ध किया कि आप केवल एक सूची (OWOWASP) का उपयोग करके दूसरी (ATLAS) को हल नहीं कर सकते। पूरी तस्वीर देखने के लिए आपको दोनों की आवश्यकता है।
5. यह क्या है (और क्या नहीं है)
- यह है: एक वर्किंग प्रोटोटाइप, एक डेटाबेस, और उपकरणों का एक सेट जो सुरक्षा इंजीनियरों को कठिन सवाल पूछने और अनुमानों के बजाय ठोस डेटा के आधार पर उत्तर प्राप्त करने की अनुमति देता है।
- यह नहीं है: अभी तक एक पूर्ण व्यावसायिक उत्पाद नहीं है। लेखक स्वीकार करते हैं कि मानचित्र अभी भी बनाया जा रहा है। कुछ जुड़ाव (जैसे कि कोई बचाव क्यों काम करता है) अभी भी पूरी तरह से विस्तृत नहीं हैं, और "AI जासूस" कभी-कभी किसी ट्रिक को मिस कर सकता है यदि प्रारंभिक प्रश्न एकदम सटीक न हो।
- यह नहीं है: AI सुरक्षा को ठीक करने वाली कोई जादुई छड़ी नहीं है। यह एक उपकरण है जो मनुष्यों को परिदृश्य को बेहतर ढंग से समझने में मदद करता है ताकि वे बेहतर बचाव बना सकें।
संक्षेप में: यह पेपर AI खतरों की एक स्थिर, कठिन-से-पढ़ने वाली सूची को एक गतिशील, खोजने योग्य मानचित्र में बदल देता है। यह दो अलग-अलग सुरक्षा भाषाओं को जोड़ता है, झूठ बोलने के बिना सवालों के जवाब देने के लिए AI का उपयोग करता है, और स्पष्ट रूप से उजागर करता है कि हमारे बचाव कहाँ गायब हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।