CyberCane: Neuro-Symbolic RAG for Privacy-Preserving Phishing Detection with Formal Ontology Reasoning
CyberCane एक न्यूरो-सिम्बोलिक फ्रेमवर्क है जो अत्यधिक सटीक, व्याख्या योग्य और नियामक-अनुपालक फिशिंग डिटेक्शन प्रदान करने के लिए नियत सिम्बोलिक नियमों को गोपनीयता-संरक्षण रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) और औपचारिक ऑन्टोलॉजी रीजनिंग के साथ जोड़ता है, जो उन्नत AI-जनित हमलों की पहचान करने में सक्षम है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक उच्च-जोखिम वाले अस्पताल में एक सुरक्षा गार्ड हैं। आपके पास दो ऐसे काम हैं जो एक-दूसरे के विपरीत लगते हैं:
- आपको हर एक घुसपैठिए (फिशर्स) को पकड़ना है जो मरीज का डेटा चुराने की कोशिश कर रहे हैं।
- आपको कभी भी किसी असली डॉक्टर को एक जरूरी संदेश प्राप्त करने से नहीं रोकना है, क्योंकि देरी से जान जा सकती है।
यदि आप बहुत सख्त हैं, तो आप महत्वपूर्ण मेडिकल ईमेल को रोक देते हैं (फॉल्स पॉजिटिव)। यदि आप बहुत ढीले हैं, तो हैकर्स अंदर घुस जाते हैं (फॉल्स नेगेटिव)।
वर्तमान AI टूल्स एक ऐसे गार्ड की तरह हैं जो बहुत स्मार्ट है लेकिन गपशप (गॉसिप) करता है। यह तय करने के लिए कि कोई ईमेल बुरा है या नहीं, वे पूरे ईमेल को पढ़ते हैं और सब कुछ—जिसमें निजी मरीज के नाम और सोशल सिक्योरिटी नंबर भी शामिल हैं—एक "क्लाउड" (एक बाहरी AI) को बता देते हैं। एक अस्पताल में, यह अवैध है।
CyberCane एक "स्मार्ट, साइलेंट गार्ड" बनाने का एक नया तरीका है। यहाँ बताया गया है कि यह एक दो-चरणीय प्रक्रिया का उपयोग करके कैसे काम करता है:
चरण 1: "बाउंसर" (नियमों का पालन करने वाला)
इसे एक क्लब में आईडी चेक करने वाले बाउंसर की तरह समझें। बाउंसर को "वाइब" या बातचीत की परवाह नहीं होती; उन्हें केवल तथ्यों की परवाह होती है।
- क्या भेजने वाले की आईडी नकली दिख रही है?
- क्या भेजने वाला तुरंत पासवर्ड मांग रहा है?
- क्या भेजने वाला एक फर्जी नाम का उपयोग करने की कोशिश कर रहा है?
यह हिस्सा बिजली की तरह तेज है और पूरी तरह से अस्पताल की अपनी दीवारों के भीतर होता है। यह "सिंबोलिक" (प्रतीकात्मक) है, जिसका अर्थ है कि यह सख्त, अटूट नियमों का पालन करता है। यदि कोई ईमेल स्पष्ट रूप से स्कैम है, तो बाउंसर उसे तुरंत बाहर निकाल देता है। यदि यह पूरी तरह से सामान्य दिखता है, तो वह इसे जाने देता है। लेकिन यदि ईमेल "संदिग्ध" है (शायद आईडी ठीक है, लेकिन व्यक्ति अजीब व्यवहार कर रहा है), तो यह चरण 2 में भेज देता है।
चरण 2: "डिटेक्टिव" (निजी जासूस)
अब, हमारे पास एक संदिग्ध मामला है। हम एक सुपर-स्मार्ट AI (जैसे ChatGPT) का उपयोग करना चाहते हैं ताकि ईमेल की "वाइब" का विश्लेषण किया जा सके, लेकिन हम AI को निजी डेटा देखने की अनुमति नहीं दे सकते।
इसलिए, CyberCane एक "रिडक्शन मास्क" (Redaction Mask) का उपयोग करता है। ईमेल को स्मार्ट AI को भेजने से पहले, एक डिजिटल ब्लैक मार्कर सभी संवेदनशील चीजों पर चला जाता है। "[REDACTED], आपका मेडिकल रिकॉर्ड [REDACTED] तैयार है।"
डिटेक्टिव फिर इस "मास्क्ड" ईमेल को देखता है और इसकी तुलना एक विशाल "स्कैम लाइब्रेरी" (ज्ञात फिशिंग हमलों का एक संग्रह) से करता है। वह पूछता है: "नाम छिपे होने के बावजूद, क्या यह 'वाइब' वैसी ही है जैसी पिछले महीने किसी ने बीमा जानकारी चुराने की कोशिश की थी?"
चूंकि यह लोगों के नामों के बजाय अपराध के पैटर्न की तुलना कर रहा है, इसलिए यह गोपनीयता कानूनों को तोड़े बिना स्मार्ट बना रहता है।
"सीक्रेट सॉस": PhishOnt (लॉजिक मैप)
यह सुनिश्चित करने के लिए कि AI केवल "अंदाजा" नहीं लगा रहा है, शोधकर्ताओं ने PhishOnt नामक कुछ जोड़ा है। इसे एक "लॉजिक मैप" के रूप में समझें। AI के केवल यह कहने के बजाय कि, "मुझे कुछ बुरा लग रहा है," इसे अपना काम दिखाना पड़ता है: "मैं इसे इसलिए फ्लैग कर रहा हूँ क्योंकि: 1. आईडी फर्जी है, और 2. लहजा तत्काल (अर्जेंट) है, और 3. यह एक ज्ञात 'प्रिस्क्रिप्शन स्कैम' पैटर्न से मेल खाता है।" यह डॉक्टरों और आईटी स्टाफ को चेतावनी पर विश्वास करने (या उसे अनदेखा करने) के लिए एक स्पष्ट कारण देता है।
यह क्यों मायने रखता है? (परिणाम)
शोधकर्ताओं ने इसका परीक्षण ईमेल के एक विशाल ढेर पर किया, जिसमें उन्नत AI द्वारा लिखे गए ईमेल भी शामिल थे। परिणाम प्रभावशाली हैं:
- यह अविश्वसनीय रूप से सटीक है: यह लगभग कभी भी वैध ईमेल को नहीं रोकता (0.16% त्रुटि दर), जो अस्पतालों के लिए अत्यंत महत्वपूर्ण है।
- यह "स्मार्ट" स्कैमर्स को पकड़ता है: भले ही हैकर्स बहुत प्रभावशाली, विनम्र ईमेल लिखने के लिए AI का उपयोग कर रहे हों जो बाउंसर के नियमों को ट्रिगर नहीं करते, डिटेक्टिव अंतर्निहित पैटर्न को पहचानकर उन्हें पकड़ लेता है।
- यह अपनी लागत वसूल लेता है: एक अस्पताल के लिए, यह सिस्टम डेटा उल्लंघन को रोकने में इतना अच्छा है कि यह जुर्माने और रिकवरी लागतों में लाखों डॉलर बचा सकता है।
संक्षेप में: CyberCane एक ऐसा सुरक्षा तंत्र है जो हाई-टेक हैकर्स को पकड़ने के लिए पर्याप्त स्मार्ट है, लेकिन निजी जानकारी को निजी रखने और डॉक्टर के काम में बाधा न डालने के लिए पर्याप्त अनुशासित भी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।