CyberCane: Neuro-Symbolic RAG for Privacy-Preserving Phishing Detection with Formal Ontology Reasoning
يُعد CyberCane إطار عمل عصبي-رمزي يجمع بين القواعد الرمزية الحتمية وبين التوليد المعزز بالاسترجاع (RAG) المحافظ على الخصوصية والاستدلال الأنطولوجي الرسمي لتوفير كشف عن التصيد الاحتيالي عالي الدقة، وقابل للتفسير، ومتوافق تنظيمياً، وقادر على تحديد الهجمات المتقدمة المولدة بواسطة الذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك حارس أمن في مستشفى عالي الخطورة. لديك وظيفتان تبدوان وكأنهما تتصارعان مع بعضهما البعض:
- يجب عليك الإمساك بكل متسلل (المحتالين) يحاول سرقة بيانات المرضى.
- يجب ألا تمنع أبداً طبيباً حقيقياً من تلقي رسالة عاجلة، لأن أي تأخير قد يكلف حياة إنسان.
إذا كنت صارماً للغاية، فستحجب رسائل طبية هامة (نتائج إيجابية كاذبة). وإذا كنت متساهلاً للغاية، فسيدخل المخترقون (نتائج سلبية كاذبة).
أدوات الذكاء الاصطناعي الحالية تشبه حارساً ذكياً جداً ولكنه "ثرثار". لكي يقرر ما إذا كانت الرسالة سيئة، فإنه يقرأ محتواها بالكامل ويخبر "سحابة" (ذكاء اصطني خارجي) بكل شيء، بما في ذلك أسماء المرضى الخاصة وأرقام الضمان الاجتماعي. وفي المستشفى، هذا أمر غير قانوني.
CyberCane هو طريقة جديدة لبناء "حارس ذكي وصامت". إليك كيف يعمل باستخدام عملية من خطوتين:
المرحلة الأولى: "البواب" (تابع القواعد)
فكر في هذا كبواب عند مدخل ملهى لتدقيق الهويات. البواب لا يهتم بـ "الأجواء" أو المحادثة؛ هو يهتم فقط بالحقائق.
- هل هوية المرسل تبدو مزيفة؟
- هل يحاول المرسل استخدام اسم مستعار؟
- هل يطلب كلمة مرور فوراً؟
هذا الجزء سريع جداً ويحدث بالكامل داخل جدران المستشفى. إنه نظام "رمزي"، مما يعني أنه يتبع قواعد صارمة وغير قابلة للكسر. إذا كانت الرسالة عملية احتيال واضحة، فإن البواب يطردها فوراً. وإذا بدت طبيعية تماماً، فإنه يسمح بمرورها. ولكن إذا كانت الرسالة "مريبة" (ربما الهوية سليمة، لكن الشخص يتصرف بغرابة)، فإنه يرسلها إلى المرحلة الثانية.
المرحلة الثانية: "المحقق" (المحقق الخاص)
الآن، لدينا حالة مشبوهة. نريد استخدام ذكاء اصطناعي فائق الذكاء (مثل ChatGPT) لتحليل "جو" الرسالة، لكن لا يمكننا السماح للذكاء الاصطناعي برؤية البيانات الخاصة.
لذلك، يستخدم CyberCane "قناع التغطية" (Redaction Mask). قبل إرسال الرسالة إلى الذكاء الاصطناعي الذكي، يقوم قلم تحديد رقمي بتغطية كل الأشياء الحساسة. "عزيزي [تم الحجب]، سجلك الطبي [تم الحجب] جاهز الآن."
يقوم المحقق بعد ذلك بفحص هذه الرسالة "المغطاة" ويقارنها بـ "مكتبة الاحتيال" الضخمة (مجموعة من هجمات التصيد المعروفة). ويسأل نفسه: "حتى مع إخفاء الأسماء، هل تشبه هذه 'الأجواء' تلك المرة التي حاول فيها شخص ما سرقة معلومات التأمين الشهر الماضي؟"
ولأن المحقق يقارن نمط الجريمة بدلاً من أسماء الأشخاص، فإنه يظل ذكياً دون انتهاك قوانين الخصوصية.
"السر الخفي": PhistOnt (خريطة المنطق)
للتأكد من أن الذكاء الاصطناعي لا يقوم بمجرد "التخمين"، أضاف الباحثون شيئاً يسمى PhistOnt. فكر في هذا كـ "خريطة منطقية". بدلاً من أن يقول الذكاء الاصطناعي فقط: "لدي شعور سيء تجاه هذا"، يجب عليه توضيح عمله: "أنا أصنف هذا كرسالة مشبوهة لأن: 1. الهوية مزيفة، وَ 2. النبرة ملحة، وَ 3. إنها تطابق نمط 'احتيال الوصفات الطبية' المعروف". وهذا يمنح الأطباء وموظفي تكنولوجيا المعلومات سبباً واضحاً للثقة (أو تجاهل) التحذير.
لماذا يهم هذا؟ (النتائج)
اختبر الباحثون هذا النظام على كمية هائلة من الرسائل الإلكترونية، بما في ذلك الرسائل المكتوبة بواسطة ذكاء اصطناعي متطور. وكانت النتائج مبهرة:
- إنه دقيق للغاية: لا يحجب تقريباً أي رسالة مشروعة (معدل خطأ 0.16% فقط)، وهو أمر حيوي للمستشفيات.
- إنه يمسك بالمحتالين "الأذكياء": حتى عندما يستخدم المخترقون الذكاء الاصطناو لكتابة رسائل مقنعة ومهذبة جداً لا تثير قواعد "البواب"، فإن "المحقق" يمسك بهم عبر التعرف على النمط الأساسي.
- إنه يسترد قيمته: بالنسبة للمستشفى، النظام جيد جداً في منع خروقات البيانات لدرجة أنه يمكنه توفير ملايين الدولارات من الغرامات وتكالال التعافي.
باختصار: CyberCane هو نظام أمني ذكي بما يكفي للإمساك بالمخترقين عالي التقنية، ومنضبط بما يكفي للحفاظ على خصوصية المعلومات وعدم الوقوف أبداً في طريق عمل الطبيب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.