ملخص تقني: يجب أن يقيس كشف السمية الضرر السياقي، لا السوء المتأصل في النص

1. بيان المشكلة

تعتمد أنظمة كشف السمية الحالية على تجريد معيب: فهي تعامل السمية كخاصية متأصلة في سلاسل نصية معزولة ($y = f(x)$). هذا النهج يدمج المحددات الحاسمة للضرر التواصلي — مثل المتحدث، والجمهور، وسجل التفاعل، والإطار المعياري، والاستقبال — في تنبؤ واحد مجرد من السياق.

تحدد الورقة مشكلتين جوهريتين ناتجان عن هذا التجريد:

• مشكلة الكائن (The Object Problem): لا يوجد تعريف مستقر للسمية. تستخدم المجتمعات القانونية والمنصات والأكاديمية مفاهيم متداخلة ولكنها غير متكافئة (مثل "كراهية"، "إساءة"، "عدم تهذيب"). وبناءً عليه، يمكن لنفس العبارة أن تكون محمية قانونًا، أو قابلة للإزالة بموجب السياسة، أو تُصنف كسامة وغير سامة في آن واحد اعتمادًا على مجموعة البيانات، مما يجعل التقدم في الاختبارات المعيارية مؤشرًا مضللاً للأمان.
• مشكلة الوكيل (The Proxy Problem): من خلال صياغة السمية كخريطة من "النص إلى الملصق"، تفشل أدوات الكشف في استيعاب الضرر التواصلي الموقفي. يؤدي هذا إلى أخطاء منهجية: الإفراط في وسم اللغات اللهجوية أو اللغة المستعادة (النتائج الإيجابية الكاذبة) وتجاهل الإساءات المشفرة أو البراغماتية أو المعتمدة على السياق (النتائج السلبية الكاذبة). علاوة على ذلك، فإن هذه الأنظمة هشة أمام التحولات التي تحافظ على المعنى والهجمات العدائية.

يجادل المؤلفون بأن دقة الاختبارات المعيارية على الملصقات المجردة من السياق غالبًا ما تعكس قدرة النموذج على تعلم اصطلاحات التوسيم الخاصة بمجموعة البيانات، بدلاً من قدرته على تقليل الضرر في البيئات الواقعية والموقعية.

2. المنهجية والإطار العملي: إطار الإجهاد السياقي (CSF)

لمعالجة هذه القضايا، يقترح المؤلفون إطار الإجهاد السياقي (CSF)، الذي يعيد صياغة السمية ليس كخاصية للنص، بل كعلاقة سياقية.

التعريفات الجوهرية

• السمية: تُعرف بأنها علاقة بين فعل تواصلي، وجمهور مُفسِّر، وإطار معياري، حيث يؤدي انتهاك المعايير المُدرك إلى إجهاد أو تعطيل.
• الكلام السام: هو الكلام الذي يسبب إجهادًا أو تعطيلًا من خلال انتهاك مُدرك للمعايير الأخلاقية أو التواصلية المقبولة ضمن السياق المحدد للتفسير.

الصياغة الرياضية

يصيغ الإطار الحدث التواصلي كـ $e = (x, C, A)$، حيث $x$ هو الفعل، و$C$ هو السياق، و$A$ هو الجمهور.

1. انتهاك المعايير المُدرك ($\nu$): درجة إدراك عضو الجمهور للحدث كانتهاك للمعايير ذات الصلة. ويُعرف بأنه انتهاك مُدرك، وليس حقيقة أخلاقية موضوعية.
2. استجابة الإجهاد ($\sigma$): الإجهاد أو التعطيل الناجم في عضو الجمهور.
3. السمية الفردية ($\tau$): دالة $g(\nu, \sigma)$ تجمع بين الانتهاك المُدرك والإجهاد. الدالة رتيبة في كلا الوسيطين وتخصص سمية تقترب من الصفر إذا غاب أي من المكونين.
4. السمية على مستوى الحدث ($T$): تجميع للسميات الفردية عبر الجمهور المعني، موازنة بعوامل مثل التعرض، أو الصلة، أو الضعف.

استراتيجية القياس

تميز الورقة بين المخاطر المتأصلة في النص (الإشارات المعجمية) والتعطيل القائم على الاستقبال (الإجهاد الملحوظ). بالنسبة لأنظمة معالجة اللغات الطبيعية عبر الإنترنت، حيث لا تتوفر بيانات فسيولوجية، يقترح الإطار استخدام الوكلاء السلوكيين للإجهاد، مثل تصاعد الردود، أو الانسحاب، أو تغير النبرة، أو اللغة العاطفية في الردود.

3. المساهمات الرئيسية

أ. إعادة الصياغة النظرية

تنقل الورقة تركيز المجال من تصنيف النص إلى قياس الضرر السياقي. ويجادلون بأن السياق ليس مجرد ميزة مساعدة لتحسين دقة التنبؤ، بل هو مكون جوهري للمتغير المستهدف. السمية هي خاصية ناشئة عن التفاعل بين النص والجمهور والمعايير.

ب. إطار الإجهاد السياقي (CSF)

يوفر CSF هيكلًا رسميًا للفصل بين:

• الإشارات المتأصلة في النص.
• الافتراضات السياقية.
• خصائص الجمهور.
• انتهاك المعايير المُدرك.
• إشارات الاستقبال/الإجهاد.
• عدم اليقين.
• قواعد السياسة.

ج. CSF-Eval: أجندة تقييم جديدة

يقترح المؤلفون CSF-Eval، وهو إطار تقييم يتجاوز دقة الملصق الواحد. فهو يتطلب من الأنظمة إخراج متجه قياس $M(e) = (r_{text}, \hat{\nu}, \hat{\sigma}, u, \pi)$، والذي يمثل:

• $r_{text}$: المخاطر المتأصلة في النص.
• $\hat{\nu}$: انتهاك المعايير المُدرك المُقدر.
• $\hat{\sigma}$: الإجهاد/التعطيل المُقدر.
• $u$: عدم اليقين في ظل الملاحظة الجزئية.
• $\pi$: توصية السياسة (المفصولة صراحةً عن القياس).

يقيم CSF-Eval الأنظمة عبر خمس شرائح متباينة:

1. نفس النص، سياق مختلف: اختبار ما إذا كان النظام يدرك أن نفس الكلمات تعمل بشكل مختلف بناءً على الجمهور والإطار.
2. شكل مختلف، ضرر متماثل: اختبار ما إذا كان النظام يكتشف الإساءات المشفرة أو البراغماتية دون الاعتماد على علامات سامة صريحة.
3. سياق مفقود: اختبار ما إذا كان النظام يعبر عن عدم اليقين أو يمتنع عندما يكون السياق ناقصًا، بدلًا من فرض ملصق واثق.
4. إشارات الاستقبال والتعطيل: اختبار ما إذا كان النظام يستخدم الأدلة السلوكية (مثل التصاعد) كدليل ضوضائي على التعطيل.
5. الفصل بين القياس والسياسة: اختبار ما إذا كان النظام يميز بين تقدير الضرر وإنفاذ السياسة.

4. النتائج التجريبية

يقدم المؤلفون فحصًا توضيحيًا باستخدام بيانات من subreddit r/BlackPeopleTwitter لإظهار التباين بين السمية المتأصلة في النص والتعطيل القائم على الاستقبال.

• المنهجية: قارنوا بين واجهة برمجة تطبيقات OpenAI Moderation وGoogle Perspective (كاشفات السمية المتأصلة في النص) مقابل PONOS (نسبة الإشارات السلبية الملحوظة)، وهو مقياس يقيس نسبة الردود التي تعبر عن ردود فعل سلبية.
• النتائج:
  • كان هناك ارتباط ضعيف بين درجات السمية المتأصلة في النص وPONOS ($\rho \approx 0.20$).
  • على العكس من ذلك، ارتبطت واجهتا برمجة التطبيقات (المتأصلة في النص) بقوة مع بعضهما البعض ($\rho \approx 0.87$).
  • تحليل الأرباع:
    • LH (PONOS منخفض، سمية نصية عالية): تم وسم 14.5% من المنشورات بشكل مفرط. تضمنت هذه غالبًا التضامن داخل المجموعة، أو اللغة المستعادة، أو الفكاهة اللهجوية (مثل "!That's my n***a").
    • HL (PONOS مرتفع، سمية نصية منخفضة): تم تفويت 14.4% من المنشورات. تضمنت هذه السخرية، أو العدائية البراغماتية، أو انتهاكات المعايير المحددة للسياق التي تفتقر إلى الشتائم الصريحة.
• الاستنتاج: المخاطر المتأصلة في النص والتعطيل القائم على الاستقبال هما كميتان متمايزتان. تفشل أدوات الكشف الحالية بشكل منهجي في التوافق مع التعطيل الفعلي للمجتمع، لا سيما في سياقات اللغة الغنية باللهجات أو اللغة المستعادة.

5. الأهمية والادعاءات

تدعي الورقة أن كشف السمية يجب أن يتطور من التنبؤ بملصقات مجموعات البيانات إلى قياس الضرر التواصلي الموقعي. تكمن أهميتها في:

1. تصحيح هدف القياس: يجادلون بأن الأنظمة الحرجة للأمان لا يمكنها التظاهر بأن النص المعزول كافٍ. من خلال الفصل بين خطر النص والاستقبال، يفسر CSF سبب الإفراط في وسم اللهجات وتفويت الإساءة البراغماتية.
2. تشغيل عدم اليقين: يقترحون أن "السياق المفقود" يجب أن يُعامل كحالة فشل، مما يتطلب من الأنظمة التعبير عن عدم اليقين أو الامتناع بدلًا من توليد ملصقات واثقة للغاية وقد تكون ضارة.
3. فك الارتباط بين القياس والإنفاذ: يدعون إلى فصل تقدير الضرر (القياس) عن قرار إزالة أو خفض ترتيب المحتوى (السياسة)، مما يسمح بمراقبة أكثر شفافية ومساءلة.
4. إصلاح الاختبارات المعيارية: يدعون المجتمع لتبني معايير CSF-Eval، مما يتطلب من الاختبارات المعيارية تقديم أداء على مستوى الشرائح (مثل تغير السياق، البيانات المفقودة) بدلاً من الدقة الإجمالية، وتوثيق منظور ومنبهات السياق الممثلة صراحةً.

يحافظ المؤلفون على موقف متواضع، معترفين بأن السمية لا يمكن قياسها بشكل مثالي وأن السياق الكامل غالبًا ما يكون غير متاح في النشر في الوقت الفعلي. ومع ذلك، يجادلون بأن الاعتراف بالملاحظة الجزئية ونمذجة عدم اليقين هو خطوة ضرورية نحو أنظمة مراقبة أكثر أمانًا ومتانة.