Large Language Models in the Abuse Detection Pipeline
تحلل هذه الورقة البحثية دمج النماذج اللغوية الكبيرة في المراحل الأربع لدورة حياة كشف الإساءة —توليد الملصقات والميزات، والكشف، والمراجعة والاستئناف، والتدقيق والحوكمة— مع تلخيص الممارسات الحالية، والاعتبارات الهيكلية، والتحديات الرئيسية مثل زمن الاستجابة والعدالة لتوجيه نشر أنظمة سلامة موثوقة واسعة النط scale.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمدينة ضخمة وصاخبة. في هذه المدينة، هناك الملايين من الناس يتحدثون، ويشاركون الصور، وينشرون الأخبار في كل ثانية. ولكن مثل أي مدينة كبيرة، هناك أيضًا مثبطون: أشخاص ينشرون الأكاذيب، أو يتنمرون على الآخرين، أو يديرون عمليات احتيال، أو يحاولون خداع النظام.
لفترة طويلة، استخدمت "حرس المدينة" (المنصات مثل جوجل، فيسبوك، أو إكس) طريقة بسيطة للغاية للإمساك بهؤلاء المثبطين. كان لديهم قائمة من "الكلمات السيئة" (مثل شتائم محددة). إذا احتوى المنشور على كلمة سيئة، يقوم الكمبيوتر بوضع علامة عليه. وإذا لم يحتوِ عليها، فهو آمن.
المشكلة: أصبح المثبطون أكثر ذكاءً. توقفوا عن استخدام الكلمات السيئة الواضحة، وبدلاً من ذلك، استخدموا السخرية، والنكات الداخلية، واللغة المشفرة، أو التهديدات المبطنة. قائمة "الكلمات السيئة" القديمة لم تعد قادرة على الإمساك بهم. وأيضًا، أصبحت المدينة كبيرة جدًا بحيث لا يستطيع الحراس البشر قراءة كل منشور.
الحل الجديد: ادخلوا عالم "نماذج اللغات الكبيرة" (LLMs). لا تنظروا إليها كمجرد أدوات لتصحيح الأخطاء الإملائية، بل كـ محققين فائقي الذكاء، واسعي الاطلاع يفهمون السياق، والثقافة، والدقة. يمكنهم قراءة منشور ما، وفهم نبرته، وقول: "هذه ليست مجرد دعابة؛ إنها في الواقع تهديد".
هذه الورقة هي دليل إرشادي حول كيفية استخدام هؤلاء المحققين الفائقين لإدارة عملية "حرس المدينة" بأكملها. يقسم المؤلفون المهمة إلى أربع مراحل رئيسية، مثل خط تجميع في مصنع للسلامة.
المراحل الأربع لمصنع السلامة
1. غرفة التدريب (توليد الملصقات والميزات)
التحدي: قبل أن يتمكن المحقق من الإمساك بمجرم، يحتاج إلى دراسة القضايا الماضية. ولكن في مدينة الإنترنت، تظهر أنواع جديدة من الجرائم يوميًا (مثل لغة عامية جديدة للتنمر). البشر بطيئون جدًا في كتابة أمثلة لهذه الجرائم الجديدة.
حل النماذج اللغوية الكبيرة (LLM): يعمل النموذج هنا كـ مدرب كتابة إبداعية. يمكنه ابتكار آلاف الأمثلة الوهمية لأنواع جديدة من التنمر أو الاحتيال لتدريب الحراس الآخرين. كما يمكنه مساعدة البشر في تصنيف المنشورات القديمة بشكل أسرع.
- العقبة: أحيانًا يخطئ مدرب الذكاء الاصطناعي أو يكون متحيزًا. إذا كان الذكاء الاصطناعي خائفًا جدًا من قول أي شيء سيء، فقد يغفل عن جرائم حقيقية. وإذا كان عدوانيًا للغاية، فقد يعتقد أن دعابة بريئة هي جريمة. لذا، لا يزال يتعين على البشر مراجعة واجبات الذكاء الاصطناعي.
2. البوابة الأمامية (الكشف)
التحدي: بوابة المدينة تغص بالملايين من الناس الذين يدخلون كل ثانية. لا يمكنك إيقاف كل شخص لسؤاله أسئلة فلسفية عميقة؛ لأن الطابور لن يتحرك أبدًا.
حل النماذج اللغوية الكبيرة (LLM): تستخدم نظام أمن مكون من مستويين.
- الحراس (النماذج الصغيرة): سريعون، رخيصون، وجيدون في رصد الأشرار الواضحين. يقومون بفحص 99% من حركة المرور.
- المحققون (النماذج اللغوية الكبيرة): عندما يرتبك الحارس (مثلاً: "هل هذه دعابة أم تهديد؟")، يسلم القضية للمحقق (النموذج اللغوي الكبير). يأخذ المحقق لحظة للتفكير: "هممم، هذا الشخص يستخدم السخرية للإساءة إلى مجموعة معينة. هذا انتهاك".
- العقبة: المحقق بطيء ومكلف. لا يمكنك استخدامهم للجميع. كما أن الأشرار يستخدمون الآن الذكاء الاصطناعي لكتابة نصوص "اختراق الحماية" (Jailbreak) الخاصة بهم لخداع المحقق.
3. قاعة المحكمة (المراجعة والاستئناف)
التحدي: عندما يتم حظر شخص ما، غالبًا ما يقول: "لكنني لم أفعل أي شيء خاطئ!". القضاة البشر مرهقون ومتعبون، وقد يرتكبون أخطاء أو يعطون أسبابًا غامضة مثل "لقد انتهكت السياسة".
حل النماذج اللغوية الكبيرة (LLM): يعمل النموذج كـ مساعد قانوني. يقرأ المحادثة بأكملها، ويلخص الأدلة، ويكتب رسالة واضحة ومهذبة للمستخدم المحظور يشرح له فيها بالضبط سبب الإمساك به. إنه يساعد القاضي البشري على اتخاذ قرار أكثر عدلًا وسرعة.
- العقبة: أحيانًا يكتب مساعد الذكاء الاصطناعي تفسيرًا مقنعًا للغاية يبدو منطقيًا ولكنه في الواقع خاطئ (ما يسمى بـ "الهلوسة"). يجب على البشر التأكد من أن الذكاء الاصطناعي لا يختلق الأمور لمجرد أن يبدو ذكيًا.
4. المفتش العام (التدقيق والحوكمة)
التحدي: بمرور الوقت، تتغير القواعد وتتغير ثقافة المدينة. النظام الذي كان عادلاً العام الماضي قد يكون غير عادل اليوم. أيضًا، قد يبدأ الذكاء الاصطناعي في معاملة مجموعات مختلفة من الناس بشكل مختلف (التحيز).
حل النماذج اللغوية الكبيرة (LLM): يعمل النموذج كـ مختبر للضغط. يحاول خداع النظام عن قصد. يسأل نفسه: "هل يمكنني قول هذا الشيء العنصري دون أن يتم الإمساك بي؟" أو "هل يعامل النظام الرجال والنساء بشكل مختلف؟". إنه يتحقق باستمرار من وجود ثغرات وتحيزات في النظام لضمان أن "حرس المدينة" عادلون ونزيهون.
المفارقة الكبرى: السيف والدرع
تشير الورقة إلى تحول مخيف: نفس الأداة التي تساعد الشرطة تساعد أيضًا المجرمين.
- الدرع: يستخدم المدافعون الذكاء الاصطنانا للإمساك بالأشرار.
- السيف: يستخدم الأشرار الذكاء الاصطناعي لكتابة عمليات احتيال أفضل، وإنشاء أخبار كاذبة، وكتابة رسائل تبدو مثالية لخداع حراس الذكاء الاصطناعي.
المستقبل: ما الذي يجب القيام به؟
يقول المؤلفون إننا لا نستطيع مجرد تشغيل الذكاء الاصطناعي والأمل في الأفضل. نحن بحاجة إلى حل ثلاث مشكلات كبيرة:
- السرعة مقابل الذكاء: نحتاج إلى جعل الذكاء الاصطناعي أسرع وأرخص حتى لا يبطئ حركة الإنترنت.
- الصدق: يجب أن يكون الذكاء الاصطناعي صادقًا بشأن سبب اتخاذه لقرار ما، وليس مجرد تقديم سبب زائف يبدو جيدًا.
- السيطرة البشرية: لا يمكننا ترك الذكاء الاصطناعي يدير المشهد وحده. يجب أن يظل البشر في الحلقة للتحقق من عمل الذكاء الاصطناعي، وإصلاح تحيزاته، وتحديث القواعد عندما يصبح الأشرار أكثر ذكاءً.
باختصار: نماذج اللغات الكبيرة تشبه منح حراس السلامة في الإنترنت قدرات خارقة. يمكنهم القراءة ما بين السطور وفهم المواقف المعقدة. ولكن إذا لم نكن حذرين، يمكن أيضًا استخدام تلك القدرات الخارقة لكسر النظام. المفتاح هو استخدامهم كمساعدين أقوياء، وليس كمديرين وحيدين، وإبقاء البشر في موقع القيادة لضمان العدالة والسلامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.