Open-Domain Safety Policy Construction
تقدم هذه الورقة البحثية نظام "Deep Policy Research" (DPR)، وهو نظام وكيل أدنى (minimal agentic system) يقوم بصياغة سياسات الإشراف على المحتوى الشاملة ذاتياً من معلومات مجال أولية عبر البحث المتكرر في الويب واستخلاص القواعد، مما يظهر أداءً يتفوق على النماذج المرجعية الحالية وينافس السياسات التي يكتبها الخبراء عبر معايير قياسية متنوعة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير ساحة رقمية عامة ضخمة ومزدحمة. في هذه الساحة، ينشر الناس الإعلانات، ويشاركون القصص، ويتحدثون. ولكن أحياناً، يقول بعض الناس أشياء مسيئة، أو يعرضون صوراً مخيفة، أو يحاولون خداع الآخرين. وللحفاظ على سلامة الساحة، تحتاج إلى "كتيب قواعد" (سياسة سلامة) يخبر حراس الأمن لديك بالضبط ما هو مسموح به وما هو غير مسموح به.
عادةً ما تكون كتابة هذا الكتيب صداعاً كبيراً ومكلفاً. عليك توظيف خبراء يعرفون كل "الحالات الاستثنائية" الممكنة (مثل: "هل السكين الكرتونية مسموحة؟ ماذا عن مزحة تبدو وكأنها تهديد؟"). يتعين عليهم كتابة آلاف القواعد، وتحديثها باستمرار، والجدال حول صياغتها.
تقدم هذه الورقة البحثية مساعداً آلياً جديداً يسمى "البحث العميق في السياسات" (DPR) ليكتب لك هذا الكتيب.
إليك كيف يعمل، باستخدام تشبيه بسيط:
🕵️♂️ المحقق مقابل أمين المكتبة
فكر في الطريقة القديمة لصنع القواعد على أنها توظيف لـ أمين مكتبة يجلس في غرفة هادئة، يحاول تذكر كل قاعدة قرأها من قبل، ويكتب قائمة بناءً على ذاكرته. وأحياناً ينسى التفاصيل الدقيقة.
إن نظام DPR يشبه "التحري الخارق".
تعطي للمحقق دليلاً من جملة واحدة، مثل: "نحن بحاجة إلى قواعد بشأن 'العنف'".
بدلاً من التخمين، يقوم المحقق بما يلي:
- يذهب إلى المكتبة (الإنترنت): هو لا يخمن فحسب؛ بل يبحث فعلياً في الويب. إنه يطلع على المواقع الإخبارية، والوثائق الحكومية، والمنتديات ليرى كيف يعرّف الناس الحقيقيون العنف.
- يطرح أسئلة محددة: يسأل أشياء مثل: "ما الذي يُحتسب عنفاً في الرسوم المتحركة؟" أو "كيف نتعامل مع النكات المتعلقة بالقتال؟".
- يدون الملاحظات: يقرأ الإجابات ويحولها إلى قواعد واضحة وبسيطة.
- ينظم خزانة الملفات: هو لا يلقي بمجرد كومة من الملاحظات على مكتبك. بل يصنفها في مجلدات مرتبة (مثل "العنف الجسدي"، "التهديدات اللفظية"، "المشاهد الدموية") حتى يتمكن حراس الأمن من العث lập القاعدة الصحيحة بسرعة.
🏗️ كيف يبني الروبوت كتيب القواعد
تصف الورقة البحثية حلقة مكونة من ثلاث خطوات يكررها الروبوت عدة مرات:
- البحث: ينظر الروبوت إلى ما لديه حتى الآن ويسأل: "ما الذي ينقصني؟" ثم يبحث في الويب عن تلك الأجزاء المفقودة.
- الترجمة: يجد مقالات طويلة ومعقدة على الويب ويترجمها إلى قواعد قصيرة وموجزة.
- مقال من الويب: "هناك العديد من الفروق الدقيقة المتعلقة بـ خطاب الكراهية المرتبط بانتحال الهوية..."
- قاعدة الروبوت: "لا تسمح بالمحتوى حيث يتظاهر شخص بأنه جزء من مجموعة لا ينتمي إليها، فقط للسخرية منهم."
- التنظيم: يأخذ كل هذه القواعد الجديدة ويجمعها في مجموعات، ويعطي كل مجموعة عنواناً واضحاً بحيث يكون المستند النهائي سهل القراءة.
🧪 هل نجح الأمر؟
اختبر الباحثون هذا الروبوت بطريقتين:
اختبار النص: طلبوا من الروبوت كتابة قواعد لخمسة مواضيع شائكة: الجنس، الكراهية، العنف، المضايقة، وإيذاء النفس. ثم أعطوا هذه القواعد التي كتبها الروبوت لـ "حارس أمن" (ذكاء اصطناعي قياسي) ليروا ما إذا كان بإمكانه رصد المحتوى السيئ بشكل أفضل.
- النتيجة: جعلت القواعد التي كتبها الروبوت "حارس الأمن" أكثر ذكاءً بكثير. لقد رصد المزيد من الأشياء السيئة مما لو تم إعطاء الحارس تعريفاً غامضاً أو بضعة أمثلة فقط. في الواقع، أدى الروبوت تقريباً بنفس مستوى فريق من الخبراء البشر.
اختبار الإعلانات: اختبروه على شركة إعلانات حقيقية (Taboola) يتعين عليها فحص آلاف الإعلانات التي تحتوي على صور ونصوص.
- النتيجة: عندما استبدلوا قسماً من كتيب القواعد الخاص بهم (والذي كتبه بشر) بنسخة الروبوت، عمل النظام بشكل جيد تقريباً مثل النسخة البشرية! كان الروبوت بارعاً بشكل خاص في رصد الخدع البصرية المعقدة (مثل الإعلانات التي تستخدم صوراً صادمة لبيع المنتجات).
🌟 الخلاصة الكبرى
الجزء الأكثر إثارة ليس فقط أن الروبوت ذكي؛ بل أنه بسيط.
- هو لا يحتاج إلى عقل فائق التعقيد أو ملايين الأدوات.
- يحتاج فقط إلى أداة واحدة (البحث في الويب) وخطة بسيطة (بحث -> تلخيص -> تنظيم).
التشبيه:
تخيل أنك تحاول بناء سياج حول حديقة.
- الطريقة القديمة: توظف بانيًا ماهرًا لتصميم السياج من الصفر. يستغرق الأمر أسابيع ويكلف ثروة.
- طريقة DPR: تعطي روبوتاً ذكياً مجرفة وخريطة. يركض الروبوت حول الحديقة، يتفحص التضاريس، يجد أفضل الأماكن لأعمدة السياج، ويبني سياجاً متيناً يناسب الحديقة تماماً.
تظهر هذه الورقة البحثية أننا لم نعد بحاجة لأن نكون خبراء لكتابة القواعد. نحن فقط بحاجة لبناء روبوت يعرف كيف يبحث كخبير. يمكن لهذا أن يوفر للشركات ملايين الدولارات ويجعل الإنترنت أكثر أماناً بشكل أسرع بكثير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.