Evaluating the Generation and Detection of Arabic-Based Phishing Attacks Using LLMs
تثبت هذه الدراسة تجريبياً أن النماذج اللغوية الكبيرة يمكنها توليد رسائل بريد إلكتروني احتيالية باللغة العربية مقنعة للغاية تتفوق على الكشف البشري، في حين تتفوق المصنفات القائمة على النماذج اللغوية الكبيرة بشكل كبير على البشر في تحديد هذه الهجمات ذات الفروق الثقافية الدقيقة، مما يسلط الضوء على الحاجة الملحة للدفاعات السيبرانية المدعومة بالذكاء الاصطناعي في منطقة الخليج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الرقمي، يُعد هجوم التصيد الاحتيالي فخاً رقمياً يتنكر في هيئة رسالة موثوقة. فهو يبدو كرسالة بريد إلكتروني من بنك، أو مدير، أو جهة حكومية، لكن غرضه الحقيقي هو خداع المستلم للحصول على كلمات المرور أو الأموال. لعقود من الزمن، تطلب إنشاء هذه الفخاخ مجرماً بشرياً يمتلك المهارة الكافية لكتابة كذبة مقنعة باللغة المناسبة، ولكن هذا الحاجز قد تلاشى الآن. فالنماذج اللغوية الكبيرة، وهي برامج حاسوبية قوية تم تدريبها على فهم وتوليد اللغة البشرية، يمكنها الآن كتابة هذه الرسائل الخادعة فوراً وبأي لغة، مما يلغي الحاجة إلى مؤلف بشري ماهر. وقد جعل هذا التحول تهديد التصيد الاحتيالي أكثر انتشاراً وأصعب في المواجهة، لا سيية في المناطق التي تكون فيها اللغة معقدة وذات خصوصية ثقافية، مثل العالم الناطق باللغة العربية.
لقد وضع فريق من الباحثين في جامعة زايد بدولة الإمارات العربية المتحدة هدفاً لفهم كيف تغير هذه التكنولوجيا الجديدة قواعد اللعبة بالنسبة للناطقين باللغة العربية. أرادوا معرفة أمرين: هل يمكن لهذه البرامج الحاسوبية حقاً كتابة رسائل تصيد احتيالي مقنعة باللغة العربية، وهل يمكن لبرامج حاسوبية أخرى أو لأشخاص عاديين اكتشافها؟ وللتحقق من ذلك، قاموا ببناء تجربة منضبطة؛ حيث طلبوا من ثلاثة نماذج مختلفة من النماذج اللغوية الكبيرة كتابة مئات من رسائل البريد الإلكتروني المحاكية. صُمم بعض هذه الرسائل لتبدو كرسائل عمل مشروعة، بينما صُمم البعض الآخر ليبدو كعمليات احتيال، تطلب إجراءً عاجلاً أو معلومات حساسة. ثم طلب الباحثون من ثلاثة نماذج حاسوبية أخرى ومجموعة من المتطوعين البالغ عددهم خمسة وأربعين شخصاً قراءة هذه الرسائل وتحديد أي منها كان حقيقياً وأيها كان مزيفاً.
كشفت النتائج عن تحول مفاجئ في قصة الخداع الرقمي. فقد كانت البرامج الحاسوبية بارعة بشكل ملحوظ في كتابة عمليات الاحتيال؛ إذ نجحت جميع النماذج الثلاثة التي اختبروها في توليد رسائل بريد إلكتروني باللغة العربية للتصيد الاحتيالي تجاوزت مرشحات الأمان الخاصة بها عند تقديم طلب أكاديمي محدد. والأهم من ذلك، أن المحتوى الذي أنتجته لم يكن صحيحاً لغوياً فحسب، بل كان مقنعاً ثقافياً أيضاً. أحد النماذج، وهو نموذج أصغر تم تطويره خصيصاً مع التركيز على منطقة الخليج، أنشأ رسائل بريد إلكتروني بدت الأكثر أصالة للقراء المحليين. استخدمت هذه الرسائل لغة ونبرة المؤسسات المالية المحلية بدقة شديدة، مما جعلها الأصعب على البشر في تحديد كونها مزيفة. ويتحدى هذا الاكتشاف الافتراض الشائع بأن النماذج الحاسوبية الأكبر والأقوى هي الوحيدة القادرة على خلق تهديدات خطيرة؛ ففي هذه الحالة، أثبت نموذج أصغر ومعدل إقليمياً أنه الأكثر خداعاً.
وعندما تعلق الأمر بكشف الفخاخ، تفوقت النماذج الحاسوبية على البشر بفارق كبير. فقد نجح المتطوعون البشريون، الذين مثلوا مزيجاً من المهن والخلفيات المختلفة، في تحديد رسائل التصيد الاحتيالي بدقة بلغت حوالي ثمانية وستين بالمائة فقط. وهذا يعني أن أكثر من واحد من كل خمس عمليات احتيال تم إنشاؤها بواسطة الحاسوب قد نجحت في خداع الأشخاص الذين قرأوها. غالباً ما غفل البشر عن عمليات الاحتيال لأن الرسائل بدت احترافية للغاية وافتقرت إلى علامات التحذير الواضحة، كما ارتكبوا أخطاءً عبر تصنيف رسائل مشروعة على أنها عمليات احتيال، عادةً بسبب ظهور عنوان البريد الإلكتروني للمرسل بشكل مختلف قليلاً عما توقعوه.
في المقابل، كانت النماذج الحاسوبية المستخدمة للكشف عن عمليات الاحتيال أكثر دقة بكراثير. فقد حقق أحد نماذج الكشف درجة مثالية، حيث حدد كل رسالة تصيد وكل رسالة مشروعة بدقة. بينما أدى نموذج آخر بدقة عالية جداً، بينما عانى نموذج ثالث من خلال تصنيف الكثير من الرسائل الآمنة على أنها خطيرة. لاحظ الباحثون فرقاً واضحاً في كيفية تفكير المجموعتين تجاه المشكلة؛ فقد اعتمد البشر بشكل كبير على فحص عنوان البريد الإلكتروني للمرسل، والبحث عن أخطاء صغيرة في اسم النطاق. ومع ذلك، قامت النماذج الحاسوبية بتحليل النص بأكمله بحثاً عن أنماط الاستعجال، وطلبات الحصول على المعلومات الشخصية، والنبرة العامة للرسالة. ولأن البشر فاتهم الكثير من عمليات الاحتيال بينما نادراً ما أخطأت الحواسيب، يقترح الباحثون أن أفضل دفاع هو الشراكة بين الاثنين؛ حيث يعمل نموذج حاسوبي كخط دفاع أول لالتقاط التهديدات الواضحة، تاركاً الحالات الصعبة والمثيرة للجدل فقط للمراجعة البشرية، وهو ما سيكون أكثر فعالية من الاعتماد على أحدهما بمفرده.
كما سلطت الدراسة الضوء على فجوة حرجة في التدريب الأمني الحالي. فلم تعتمد القدرة على رصد رسائل التصيد الاحتيالي على مستوى التعليم الذي يحمله الشخص، بل على مهنته؛ فقد كان الأشخاص العاملون في مجالات التمويل والتكنولوجيا والأمن أكثر قدرة على كشف عمليات الاحتيال مقارنة بغيرهم من المجالات. وهذا يشير إلى أن التدريب العام على السلامة قد لا يكون كافياً، وبدلاً من ذلك، تحتاج المؤسسات إلى تخصيص تحذيراتها لتناسب المخاطر المحددة التي تواجهها الأدوار الوظيفية المختلفة. علاوة على ذلك، وجد الباحثون أن الدفاع الأكثر فعالية ضد هذه الأكاذيب المتطورة والمولدة حاسوبياً هو فحص تقني بسيط: وهو التحقق من عنوان المرسل. وبما أن المشاركين البشريين قد خُدعوا غالباً برسائل تبدو حقيقية ولكنها تأتي من عناوين خاطئة قليلاً، فإن فرض قواعد صارمة على توثيق البريد الإلكتروني يمكن أن يوقف العديد من هذه الهجمات قبل حتى أن تُرى.
في الختام، تقدم هذه الأبحاث أول دليل واضح على كيفية إعادة الذكاء الاصطناعي تشكيل مشهد الجريمة السيبرانية في اللغة العربية. وهي تظهر أن التهديد لم يعد مقتصرًا على القراصنة البشريين المهرة، بل أصبح قدرة مؤتمتة ومتاحة يمكنها إنتاج محتوى محلي مقنع للغاية. وتؤكد الدراسة أنه بينما تتفوق الحواسيب حالياً في كل من إنشاء وكشف عمليات الاحتيال هذه مقارنة بالبشر، فإن الجانب الأكثر خطورة ليس حجم البرنامج الحاسوبي، بل قدرته على محاكة الفروق الثقافية واللغوية الدقيقة لمنطقة معينة. ومع استمرار تطور هذه الأدوات، فإن الدفاع ضدها سيتطلب مزيجاً من التكنولوجيا المتقدمة والتقدير البشري، مع تركيز حاد على التفاصيل المحددة التي تجعل الرسالة تبدو حقيقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.