Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
توضح هذه الورقة كيف يمكن للذكاء الاصطناعي التوليدي استغلال الحد الأدنى من بيانات وسائل التواصل الاجتماعي العامة لأتمتة حملات التصيد الاحتيالي الموجه التي تتميز بكونها مخصصة للغاية وسياقية، والتي تتفوق بشكل كبير على الهجمات التقليدية في القدرة على الإقناع والتهرب من كل من الشبهات البشرية والضمانات الحالية للذكاء الاصطناعي، مما يسلط الضوء على الحاجة الملحة لتعزيز الدفاعات على مستوى المنصات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك حارس أمن في نادٍ فاخر. مهمتك هي كشف الهويات المزورة ومنع الأشخاص الذين يحاولون التسلل للداخل. لسنوات، حاول الأشرار الدخول باستخدام هويات مزورة رخيصة وواضحة المعالم؛ حيث كان بإمكانك كشفها من على بعد ميل، لأن صورها كانت باهتة، وأسماءها مكتوبة بشكل خاطئ، ومنطقها لا يستقيم.
هذه الورقة البحثية تتحدث عن كيف قام الأشرار للتو بترقية أدواتهم إلى الذكاء الاصطناعي التوليدي (Generative AI)، وفجأة، أصبحت هوياتهم المزورة تبدو حقيقية للغاية لدرجة أنها تخدع حتى أفضل حراس الأمن.
إليك تفاصيل ما اكتشفه الباحثون، باستخدام تشبيهات بسيطة:
1. "آلة الاحتيال" الجديدة
في السابق، إذا أراد مخترق خداعك (هجوم "التصيد المستهدف" أو spear phishing)، كان عليه القيام بالكثير من الواجبات المنزلية اليدوية. كان عليه قراءة وسائل التواصل الاجتماعي الخاصة بك، ومعرفة هواياتك، ثم كتابة بريد إلكتروني مزيف بجهد مضنٍ ليبدو وكأنه من صديق أو مدير. كان الأمر بطيئاً، ومكلفاً، وغالباً ما يبدو آلياً.
التغيير: أظهر الباحثون أنه يمكنك الآن تغذية الذكاء الاصطناعي بكمية ضئيلة جداً من منشوراتك العامة على وسائل التواصل الاجتماعي (عشر منشورات فقط)، وسيعمل الذكاء الاصطناعي كـ "كاتب شبح" فائق الإبداع. سيتعلم فوراً أسلوبك، ومقهى القهوة المفضل لديك، وعطلتك الأخيرة، وحالتك المزاجية. ثم يكتب بريداً إلكترونياً مثالياً وشخصياً يبدو تماماً كما لو كنت أنت من كتبه، أو شخصاً تثق به.
2. "الأزياء السبعة"
تحدد الورقة البحثية سبعة "أزياء" أو استراتيجيات محددة يستخدمها الذكاء الاصطناعي لخداع الناس. فكر في هذه كطرق مختلفة قد يستخدمها المحتال للتقرب منك:
- الطُعم: "مرحباً، رأيت أنك تحب الجاز؛ إليك تذاكر VIP مجانية!" (يغريك بهدية).
- الترهيب: "تم اختراق حسابك! اضغط هنا للإصلاح!" (يستخدم الخوف).
- فخ الإغراء: "رأيت صورك واعتقدت أننا قد نتفاهم؛ لنرتب موعداً للدردشة." (يستخدم الرومانسية أو الصداقة).
- المقايضة: "سأعطيك هذه الأداة الفنية الرائعة إذا أعطيتني بريدك الإلكتروني." (مقابل خدمة).
- المتسلل خلفك: "رأيت أنك تقدمت لتلك الوظيفة؛ إليك رابط من مسؤول توظيف." (يتظاهر بمتابعة شيء فعلته للتو).
- المنتحل: "مرحباً، أنا مديرك، أحتاج منك شراء هذه البطاقات الهدايا." (يتظاهر بأنه شخص تعرفه).
- المتلاعب العاطفي: "رأيت أنك حزين بسبب انفصالك؛ هذا الموقع سيساعدك." (يتظاهر بالاهتمام بمشاعرك).
يمكن للذكاء الاصطناعي دمج أو خلط هذه الأزياء مع بياناتك الشخصية لجعل الفخ يبدو حقيقياً للغاية.
3. "الخدعة السحرية" لتجاوز الفلاتر
قد تتساءل: "ولكن ألا تمتلك نماذج الذكاء الاصطناعي هذه فلاتر أمان تمنعها من كتابة أشياء سيئة؟"
وجد الباحثون أن الأشرار يمكنهم استخدام "خدعة سحرية" تسمى "هندسة الأوامر" (Prompt Engineering). بدلاً من سؤال الذكاء الاصطناعي: "اكتب بريداً إلكترونياً احتيالياً"، يطلبون منه: "اكتب قصة عن شخصية تحتاج لإرسال رسالة لصديق حول حفلة موسيقية". وبما أن الذكاء الاصطناعي يعمل كمساعد مفيد، فإنه لا يدرك أنه يتم خداعه لكتابة عملية احتيال؛ بل يكتفي باتباع التعليمات وينتج بريد التصيد المثالي، متجاوزاً بذلك حواجز الأمان.
4. "الاختبار البشري" (الجزء الأكثر رعباً)
لم يكتفِ الباحثون باختبار رسائل البريد الإلكتروني على جهاز الكمبيوتر فحسب، بل اختبروها على بشر حقيقيين.
- الإعداد: عرضوا على الناس نوعين من رسائل البريد الإلكتروني: عمليات الاحتيال القديمة (التي تبدو مزيفة بوضوح) وعمليات الاحتيال الجديدة التي أنتجها الذكاء الاصطناعي.
- النتيجة: كانت عمليات الاحتيال القديمة سهلة الكشف. ولكن ماذا عن رسائل الذكاء الاصطناعي؟ اعتقد الناس أنها حقيقية.
- الصدمة: في الواقع، صنف الناس رسائل الذكاء الاصطناعي على أنها أقل إثارة للريبة من عمليات الاحتيال الواقعية التي اعتادوا رؤيتها. كانت رسائل الذكاء الاصطناعي مكتوبة بشكل جيد للغاية، وخالية من الأخطاء النحوية، ومخصصة بشكل مثالي، لدرجة أنها مرت من تحت رادار الشك البشري.
5. معاناة "حراس الأمن"
أخيراً، اختبر الباحثون "حراس الأمن" الحاليين (فلاتر الأمان المدمجة في نماذج الذكاء الاصطناعي وأدوات الكشف الأخرى).
- المشكلة: فلاتر الأمان القياسية تشبه الحراس الذين يبحثون فقط عن كلمات مفتاحية محددة مثل "احتيال" أو "اختراق". وبما أن محتالي الذكاء الاصطناعي يستخدمون لغة ذكية لإخفاء هذه الكلمات، فإن الحراس غالباً ما يفوتونهم.
- محاولة الحل: بنى الباحثون "حارساً" جديداً وأكثر ذكاءً (كاشف متخصص) ينظر إلى النية من الطلب قبل حتى كتابة البريد الإلكتروني. كان هذا الحارس الجديد جيداً جداً (بدقة 98%)، لكنه يسلط الضوء على أن الحراس القدامى لم يعودوا كافيين.
الخلاصة
تخلص الورقة البحثية إلى أن الذكاء الاصطناعي التوليدي قد خفض حاجز الدخول أمام الجريمة السيبرانية. لم تعد بحاجة لأن تكون مخترقاً ماهراً أو تقضي أسابيع في صياغة عملية احتيال. فبمجرد وجود بعض المنشورات العامة وذكاء اصطناعي، يمكن لأي شخص إنشاء الآلاف من عمليات الاحتيال المقنعة للغاية والمخصصة والتي تبدو وتشعر وكأنها حقيقية.
ويحذر الباحثون من أنه بينما يمكننا بناء كواشف أفضل، فإن المشكلة الأساسية هي أن "الأشرار" لديهم الآن أداة تجعل أكاذيبهم غير قابلة للتمييز عن الحقيقة، على الأقل بالنسبة للشخص العادي الذي يتصفح بريده الإلكتروني.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.