How Generative AI Empowers Attackers and Defenders Across the Trust & Safety Landscape

تخيل الإنترنت كمدينة ضخمة وصاخبة. في هذه المدينة، يوجد حراس (فرق الثقة والأمان) مهمتهم هي الحفاظ على سلامة الشوارع، وأشرار (محتالون، مضايقون، وعناصر سيئة) يحاولون إثارة الفوضى.

لسنوات، كانت هذه اللعبة تشبه لعبة "ضرب الخلد" (whack-a-mole). كان الحراس يبنون الجدران وينصبون الكاميرات للإيقاع بالأشرار. ولكن الآن، دخلت تقنية جديدة تسمى الذكاء الاصطناعي التوليدي (GenAI) إلى المدينة، وهي تغير قواعد اللعبة للجميع.

هذه الورقة البحثية تشبه "تقرير درجات" من 43 حارساً خبيراً اجتمعوا لمناقشة كيف تقوم هذه التقنية الجديدة بزعزعة عالمهم. إليكم القصة التي يروونها، مقسمة ببساطة.

السلاح ذو الحدين: أداة خارقة للجميع

فكر في الذكاء الاصطناعي التوليدي كـ أداة طاقة عالمية، مثل طابعة ثلاثية الأبعاد يمكنها طباعة أي شيء تطلبه منها.

• بالنسبة للأشرار: هو سلاح فائق. يمكنهم استخدامه لطباعة كميات لا نهائية من الأموال المزيفة، أو تزوير جوازات السفر، أو إنشاء فيديوهات مزيفة لسياسيين يقولون أشياء لم يقولوها أبداً.
• بالنسبة للحراس: هو درع فائق. يمكنهم استخدام نفس الأداة لكشف جوازات السفر المزيفة فوراً، أو ترجمة التحذيرات إلى 50 لغة في وقت واحد، أو كتابة رسائل مقنعة للتحدث مع شخص تعرض للاستقطاب لثنيه عن اتخاذ قرارات خاطئة.

الخلاصة الكبرى؟ الذكاء الاصطناعي التوليدي لا يساعد الأشرار فحسب، بل يساعد الأخيار أيضاً. ولكن في الوقت الحالي، يحصل الأشرار على بداية متقدمة.

كيف يفوز الأشرار (في الوقت الحالي)

يقول الخبراء إن الأشرار يستخدمون الذكاء الاصطناعي التوليدي لكسر قواعد اللعبة بثلاث طرق مخيفة:

1. تأثير "المصنع" (النطاق والسرعة)
في السابق، إذا أراد محتال إرسال 1,000 رسالة مزيفة، كان عليه توظيف 10 أشخاص لكتابتها. كان ذلك يستغرق وقتاً ومالاً.

• الآن: الذكاء الاصطناعي التوليدي يشبه مطبعة للأكاذيب. يمكن لشخص واحد الجلوس أمام الكمبيوتر وجعل الذكاء الاصطناعي يرسل 10,000 رسالة مخصصة ومقنعة في ساعة واحدة. الحراس يغرقون في فيضان من المحتوى السيئ الذي لا يمكنهم قراءته بالسرعة الكافية.

2. تأثير "الهواة" (خفض الحواجز)
في الماضي، لكي تصنع فيديو "تزييف عميق" (deepfake) مرعباً أو حملة دعائية متطورة، كنت بحاجة لتكون عبقرياً تقنياً تمتلك برمجيات باهظة الثمن.

• الآن: الذكاء الاصطناعي التوليدي يشبه تطبيقاً على الهاتف الذكي. لا تحتاج لأن تكون خبيراً؛ كل ما تحتاجه هو معرفة ما تكتبه. هذا يعني أن "الذئاب المنفردة"، أو المراهقين، أو المجموعات الإجرامية الصغيرة يمكنهم الآن إحداث أضرار جسيمة. الأمر لم يعد مقتصرًا على نقابات الجريمة الكبيرة؛ بل أصبح بإمكان أي شخص يمتلك حاسوباً محمولاً الانضمام إلى الحفلة.

3. تأثير "الحرباء" (براعة التخفي)
يستخدم الأشرار الذكاء الاصطناعي التوليدي لجعل محتواهم السيئ يبدو كأنه أشياء ممتعة وغير ضارة.

• الخدعة: بدلاً من نشر فيديو إرهابي مخيف (الذي يتم حظره)، يستخدمون الذكاء الاصطناعي لصنع "ميم" (meme) أنمي مضحك أو أغنية جذابة تروج للعنف بشكل ضمني. إنه يشبه الذئب في ثوب حمل. ترى الفلاتر الآلية لدى الحراس "فيديو قطة مضحك" وتسمح بمروره، لكن الرسالة بداخله خطيرة.

كيف يمكن للحراس المقاومة

على الرغم من الأخبار المخيفة، إلا أن الخبراء متفائلون. يعتقدون أن الذكاء الاصطناعي التوليدي يمكن أن يكون أعظم حليف للحراس إذا تعلموا استخدامه بشكل صحيح.

1. "الماسح الخارق"
تخيل حارساً لا ينام ويمكنه قراءة كل كتاب في المكتبة في ثانية واحدة. يمكن للذكاء الاصطناعي التوليدي أن يعمل كـ فلتر خط أول. يمكنه مسح ملايين المنشورات، وتحديد المحتوى الرديء الواضح، وإظهار الأشياء المعقدة التي تحتاج لعقل بشري لفهمها فقط للحراس البشر. هذا يحمي الحراس من الاحتراق النفسي والصدمات.

2. "مساعد المحقق"
عند وقوع جريمة، يتعين على الحراس تتبع الأموال، وتتبع الآثار الرقمية، وربط النقاط عبر العالم.

• المساعدة: يمكن للذكاء الاصطناعي التوليدي أن يعمل مثل عدسة مكبرة لشارلوك هولمز. يمكنه فوراً ربط حساب مصرفي لمحتال في بلد ما بملف شخصي مزيف في بلد آخر، أو التنبؤ بمكان تخطيط مجموعة إرهابية لشن هجوم، مما يسمح للحراس بإيقاف الهجوم قبل وقوعه.

3. "بوت المعالج النفسي"
أحياناً، يكون أفضل دفاع هو المحادثة الجيدة.

• المساعدة: تخيل "بوت" يلاحظ مراهقاً وحيداً يتحدث مع مجموعة متطرفة عبر الإنترنت. بدلاً من مجرد حظره (مما قد يجعله غاضباً)، يمكن لبوت الذكاء الاصطناعي التوليدي أن يتحدث معه بلطف، أو يقدم له وجهة نظر مختلفة، أو يقترح عليه هواية صحية أكثر. إنه يشبه الحارس الشخصي الرقمي الذي يتحدث معك ليمنعك من اتخاذ قرار سيء.

الأحياء المختلفة (المجالات)

تشير الورقة إلى أن هذه "الحرب" تبدو مختلفة في أجزاء مختلفة من المدينة:

• سلامة الأطفال: هذا هو الأمر الأكثر إلحاحاً. يستخدم الأشراء الذكاء الاصطناعي لإنشاء صور مزيفة لأطفال حقيقيين يتعرضون للإساءة. الطريقة القديمة للإمساك بهذه الصور (البحث عن بصمات مطابقة للصور) قد انكسرت لأن الذكاء الاصطناعي يمكنه صنع صور جديدة لا تتطابق مع أي بصمات قديمة. يحتاج الحراس إلى نظام جديد تماماً.
• الانتخابات: المدينة مليئة بالشائعات بالفعل. الذكاء الاصطناعي يجعل الشائعات تبدو أكثر واقعية (مثل فيديو "تزييف عميق" لمرشح). المشكلة ليست فقط في الأخبار المزيفة؛ بل في أن الناس يتوقفون عن تصديق أن أي شيء حقيقي.
• عمليات الاحتيال: هذه تجارة. يستخدم المحتالون الذكاء الاصطناعي لإدارة مصانع ضخمة وعالمية للاحتيال. يحتاج الحراس إلى التكاتف مع البنوك والشرطة لوقف تدفق الأموال، وليس فقط الرسائل.

الخلاصة

تخلص الورقة إلى أننا في سباق.

• الأشرار يفوزون بالسباق حالياً لأنهم يستخدمون الذكاء الاصطناعي لخلق الفوضى بشكل أسرع مما يستطيع الحراس بناء الجدران.
• الحراس لديهم الأدوات للحاق بهم، لكنهم بحاجة للتوقف عن لعب الدور الدفاعي والبدء في لعب الدور الهجومي. عليهم استخدام الذكاء الاصطناعي لبناء جدران أذكى، وتدريب محققين أفضل، وخلق مدينة أكثر أماناً.

التشبيه:
فكر في الأمر كحريق.

• قبل الذكاء الاصطناعي التوليدي: يبدأ حريق، ويضطر رجال الإطفاء للركض لإخماده.
• مع الذكاء الاصطناعي التوليدي: يمتلك الأشرار آلة يمكنها إشعال مليون حريق في وقت واحد، في كل مكان، وفي نفس اللحظة.
• الحل: يحتاج رجال الإطفاء للحصول على آلاتهم الخاصة أيضاً — طائرات بدون طيار ورشاشات آلية — لإخماد تلك الملايين من الحرائق قبل أن تحرق المدينة.

يقول الخبراء: "لا يمكننا منع الأشرار من استخدام الآلة، لذا يجب علينا أن نصبح أفضل في استخدام الآلة بأنفسنا."