What Are They Filtering Out? An Experimental Benchmark of Filtering Strategies for Harm Reduction in Pretraining Datasets
تقدم هذه الورقة دراسة مرجعية تكشف أنه في حين تنجح استراتيجيات تصفية البيانات في تقليل المحتوى الضار في مجموعات بيانات ما قبل التدريب للنماذج اللغوية الكبيرة، إلا أنها تؤدي دون قصد إلى زيادة نقص التمثيل للفئات المستضعفة، مما يؤدي بالتالي إلى تفاقم التمييز.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول بناء أذكى أمين مكتبة في العالم. هذا الأمين (الذكاء الاصطناعي) يحتاج إلى قراءة ملايين الكتب، والمواقع الإلكترونية، والمقالات ليتعلم كيف يتحدث ويفكر مثل البشر. ولكن، الإنترنت مكان فوضوي؛ فهو مليء بالقصص الرائعة، ولكنه مليء أيضاً بخطاب الكراهية، والعنف، والقوالب النمطية السيئة.
للتأكد من أن هذا الأمين لن يكتسب عادات سيئة، يحاول البناؤون "تصفية" الكتب قبل إعطائها له. إنهم يريدون التخلص من الكتب "السيئة".
هذه الورقة البحثية تشبه تقرير محقق يحقق فيما يحدث عندما نحاول تنظيف المكتبة. لقد طرح الباحثون سؤالين كبيرين:
- كيف يحاول الناس حالياً تنظيف المكتبة؟
- من هم الأشخاص الذين يتم طردهم من المكتبة بالخطأ بينما نحاول إزالة الأشياء السيئة؟
إليك تفصيل نتائجهم، باستخدام تشبيهات بسيطة:
1. "فريق التنظيف" (الاستراتيجيات)
نظر الباحثون في 55 دليلاً مختلفاً من الشركات التي تبني هؤلاء الأمناء للذكاء الاصطناعي. وجدوا أن الجميع يستخدم أدوات تنظيف مختلفة، لكنهم نادراً ما يخبرون الجمهور بكيفية استخدامها بالضبط.
فكر في أدوات التنظيف هذه كأنها أنواع مختلفة من المكنسات:
- مكنسة "الكلمات السيئة" (القائمة على القواعد): هذه المكنسة تكنس أي شيء يحتوي على كلمات "قذرة" محددة (مثل الشتائم أو الألفاظ النابية).
- مكنسة "اختبار الرائحة" (مصنفات السمية): هذا عبارة عن أنف آلي يشم الصفحة. إذا شم رائحة "سامة"، فإنه يرمي الصفحة بعيداً.
- مكنسة "الجودة" (تشابه المستندات): هذه المكنسة تقارن الصفحة بصفحة "مثالية" (مثل مقال في ويكيبيديا). إذا لم تكن الصفحة الجديدة مشابهة بما يكفي للصفحة المثالية، يتم التخلص منها.
- مكنسة "القائمة السوداء": هذه تقوم فقط بحظر مواقع إلكترونية كاملة معروفة بكونها مثيرة للمشاكل.
المشكلة: وجد الباحثون أن معظم الشركات سرية للغاية. يقولون: "لقد نظفنا المحتوى!"، لكنهم يرفضون إظهار عملهم. الأمر يشبه طباخاً يقول: "هذا الحساء آمن للأكل"، لكنه يرفض أن يريك الوصفة أو المكونات.
2. المفاجأة الكبرى: "الأضرار الجانبية"
الجزء الأهم من الورقة هو التجربة. أخذ الباحثون كومة ضخمة من النصوص من الإنترنت وأجروا عليها هذه "المكانس" المختلفة ليروا ما الذي سيتم رميه.
اكتشفوا أثراً جانبياً مخيفاً: في محاولتنا لإزالة الأشياء "السيئة"، نقوم بالخطأ برمي قصص الأشخاص المستضعفين، وخاصة النساء.
إليك التشبيه:
تخيل أنك تنظف حديقة لإزالة الأعشاض الضارة (المحتوى الضار).
- الهدف: إزالة الأعشاض السامة.
- الخطأ: مكنسة "الجودة" عدوانية جداً لدرجة أنها تعتقد أن أي زهرة تبدو مختلفة قليلاً عن الوردة "المثالية" هي عشب ضار.
- النتيجة: ينتهي بك الأمر بحديقة مليئة بالنباتات القوية والنمطية (التي تمثل غالباً الرجال أو وجهات النظر الغربية)، لكنك سحبت بالخطأ معظم الزهور النادرة والجميلة التي تمثل النساء والناس من خلفيات ما بعد الاستعمار.
3. ماذا وجدوا تحديداً؟
- يتم استبعاد النساء بشكل أكبر: عندما تستخدم الفلاتر "الكلمات السيئة" أو روبوتات "اختبار الرائحة"، تختفي الإشارات إلى النساء من البيانات بسرعة أكبر بكثير من الإشارات إلى الرجال.
- المكانس المختلفة تصطاد أشياء مختلفة:
- مكنسة واحدة تصطاد كلمات الإباحية.
- وأخرى تصطاد الألفاظ العنصرية.
- وأخرى تصطاد الكتابة "منخفضة الجودة".
- الدرس المستفاد: إذا اخترت مكنسة واحدة، فأنت لا تصطاد إلا نوعاً واحداً من الأشياء السيئة، ولكن قد تفوتك أنواع أخرى من الأشياء السيئة، أو قد ترمي بالخطأ أشياء جيدة تشبه الأشياء السيئة.
- فخ "الجودة": وجد الباحثون أن مكنسة "الجودة" (التي تقارن النص بويكيبيديا) سيئة جداً في العث على خطاب الكراهية. فهي تحتفظ بالكثير من المحتوى السام ولكنها ترمي الكثير من الأصوات الفريدة. إنه يشبه الحكم على كتاب من غلافه ورمي قصة رائعة لمجرد أن الخط يبدو غريباً.
4. دليل "المهنة"
نظر الباحثون في ما الذي يتم رميه.
- عندما قاموا بتصفية المحتوى "السيئ"، وجدوا أن الإشارات إلى النساء اللواتي يعملن كـ ممثلات أو ممثلات في أفلام إباحية تمت إزالتها بمعدل مرتفع جداً.
- بينما الإشارات إلى الرجال الذين يعملون كـ سياسيين أو كُتّاب تم الاحتفاظ بها في كثير من الأحيان.
- هذا يعني أن الذكاء الاصطناعي يتعلم رؤية مشوهة للعالم حيث يُنظر إلى النساء غالباً في سياقات جنسية أو يتم استبعادهن، بينما يُنظر إلى الرجال كقادة ومبدعين.
الخلاصة
تخلص الورقة إلى أننا نحاول إصلاح الذكاء الاصطناعي، لكننا نكسر التوازن.
من خلال محاولة جعل الذكاء الاصطناعي "آمناً" عبر تصفية المحتوى الضار، نحن نتسبب دون قصد في جعل الذكاء الاصطناعي أقل تمثيلاً للواقع. نحن نخلق عالماً رقمياً تصبح فيه النساء والأقليات غير مرئيات لأن "فلاتر السلامة" بدائية وغير دقيقة.
الخلاصة المستفادة: لا يمكننا استخدام مطرقة ثقيلة لتنظيف الإنترنت. نحن بحاجة إلى نهج أكثر دقة وجراحة يعرف الفرق بين "العشب الضار" (خطاب الكراهية) وبين "الزهرة النادرة" (وجهة نظر فريدة لمجموعة مستضعفة). إذا لم نصلح هذا، فإن أمناء المكتبة لدينا (الذكاء الاصطناعي) لن يعرفوا سوى كيفية التحدث عن نصف العالم فقط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.