💬 NLP

Mimicking How Humans Interpret Out-of-Context Sentences Through Controlled Toxicity Decoding

تقترح هذه الورقة استراتيجية فك تشفير للسمية محكومة تولد تفسيرات متنوعة للجمل الخارجة عن السياق لمحاكاة الإدراك البشري لمستويات السمية المتفاوتة، مما يؤدي إلى تحسين التوافق مع التفسيرات المكتوبة بشرياً وتقليل عدم اليقين في النموذج.

المؤلفون الأصليون: Maria Mihaela Trusca, Liesbeth Allein

نُشر 2026-04-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Maria Mihaela Trusca, Liesbeth Allein

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك في حفلة، وقال لك أحدهم نكتة. إذا سمعت النكتة مع القصة الكاملة وراءها، فقد تضحك. ولكن إذا سمعت فقط "قفشة" النكتة دون التمهيد لها، فقد تشعر بالإهانة، أو تعتقد أن الشخص يتصرف بلؤم. هذا هو بالضبط ما يحدث عبر الإنترنت طوال الوقت: تُنتزع الجمل من سياقها، ويفسرها الناس بطرق مختلفة تماماً.

هذه الورقة البحثية تشبه محاكياً نفسياً للحواسيب. أراد الباحثون تعليم الذكاء الاصطناعي التوقف عن تخمين معنى واحد والبدال في تخمين معانٍ عديدة محتملة، تماماً كما يفعل البشر الحقيقيون عندما يقرأون جملة مربكة أو قد تكون فظة دون معرفة القصة الكاملة.

إليك تفصيل "وصفة" عملهم باستخدام بعض التشبيهات اليومية:

المشكلة: لغز "السياق المفقود"

عندما تُؤخذ جملة خارج سياقها (مثل تغريدة تمت مشاركتها دون الخيط الأصلي للمحادثة)، فإن عقول الناس تعمل بأقصى طاقتها. البعض يفكر: "أوه، هذه مجرد دعابة!" بينما يفكر آخرون: "هذا خطاب كراهية!".

أراد الباحثون ذكاءً اصطناعياً يمكنه محاكاة هذه الفوضى البشرية. لم يريدوا من الذكاء الاصطناعي أن يقول فقط: "هذا لئيم". بل أرادوه أن يولد قائمة كاملة من التفسيرات: بعضها بريء، وبعضها ساخر، وبعضها سام (عدائي) حقاً، ليروا كيف سيتفاعل الذكاء الاصطناعي معها.

الحل: "منظم حرارة السمية" (Toxicity Thermostat)

بنى الفريق مفتاح تحكم خاص للذكاء الاصطناعي يسمى استراتيجية فك التشفير (Decoding Strategy). فكر في الذكاء الاصطناعي كطاهٍ يطبخ وجبة (يولد نصاً). عادةً، يتبع الطاهي الوصفة فقط. لكن هنا، أضافوا منظم حرارة للسمية يضبط "نكهة" الطبخة أثناء طهيها.

لقد وضعوا ثلاث قواعد لهذا المنظم:

1. "قاعدة المرآة" (مطابقة المدخلات)

الفكرة: إذا كانت الجملة الأصلية "حريفة" (لاذعة) قليلاً، فيجب أن تكون تخمينات الذكاء الاصطناعي لاذعة أيضاً. إذا كانت الأصلية هادئة، يجب أن تكون التخمينات هادئة.
التشبيه: تخيل أنك تمسك بمرآة. إذا رفعت كرة حمراء، ستظهر المرآة لوناً أحمر. إذا رفعت كرة زرقاء، ستظهر زرقاء. يُجبر الذكاء الاصطناعي على "عكس" نبرة الجملة الأصلية حتى لا يحول بالخطأ تعليقاً بسيطاً إلى مشاجرة صاخبة، أو تهديداً خطيراً إلى دعابة لطيفة.

2. "قاعدة القبضة الرخوة" (تخفيف السيطرة للمدخلات الحارة)

الفكرة: لاحظ الباحثون شيئاً مثيراً للاهتمام حول البشر: عندما تكون الجملة سامة جداً، يميل البشر إلى امتلاك آراء مختلفة جذرياً حولها. البعض يرى أنها أسوأ شيء على الإطلاق؛ والبعض الآخر يراها مجرد مبالغة.
التشبيه: فكر في لاعب السيرك الذي يمشي على الحبل.
- إذا كانت الأرض مستوية (سمية منخفضة)، يظل اللاعب ثابتاً ومتوقعاً جداً.
- إذا كانت الأرض مهتزة وخطيرة (سمية عالية)، يبدأ اللاعب في التمايل أكثر. يُقال للذكاء الاصطناعي: "إذا كانت جملة المدخلات سامة حقاً، فدع تخمينات الذكاء الاصطناعي تتمايل أكثر". هذا يسمح للذكاء الاصطناعي بتوليد نطاق أوسع من التفسيرات، تماماً كما يفعل البشر عندما تشتد الأمور.

3. "قاعدة كرة الطاولة" (تعزيز التنوع)

الفكرة: لم يريدوا من الذكاء الاصطناعي أن يكرر نفس التفسير مراراً وتكراراً. أرادوا تنوعاً.
التشبيه: تخيل أنك تلعب كرة الطاولة (بينج بونج). إذا جاءت الكرة منخفضة، تضربها عالياً. إذا جاءت عالية، تضربها منخفضة. يُقال للذكاء الاصطناٍ: "إذا كان آخر تفسير صنعته ساماً جداً، فاجعل التفسير التالي معتدلاً. إذا كان التفسير الأخير معتدلاً، فاجعل التالي أكثر حدة قليلاً". هذا يضمن أن ينتج الذكاء الاصطناً مجموعة متنوعة من سيناريوهات "ماذا لو".

لماذا يهم هذا؟

اختبر الباحثون هذا على ثلاثة نماذج مختلفة من الذكاء الاصطناعي (BART، T5، وLLAMA). وإليكم ما وجدوه:

فهم أفضل: عندما استخدم الذكاء الاصطناً هذه القواعد الثلاث، بدت تخميناته تشبه إلى حد كبير ما قد يكتبه البشر. لقد أصاب "الجو العام" (Vibe) بشكل صحيح.
ارتباك أقل: شعر الذكاء الاصطناعي بثقة أكبر (انخفاض "الارتباك" أو Perplexity) عند استخدام هذه القواعد. لم يعد يخمن في الظلام؛ بل أصبح لديه خريطة.
الأمان مقابل الواقع: عادةً، نطلب من الذكاء الاصطناعي أن يكون "آمناً" وألا يقول أي شيء سيء أبداً. لكن هذه الورقة تجادل بأننا أحياناً، لكي نفهم الصراع البشري، نحتاج من الذكاء الاصطناعي أن يحاكي السمية.
- الملاحظة: أنت لا تريد لـ "بوت" خدمة العملاء أن يكون ساماً. لكنك تريد لـ "بوت" مراقبة المحتوى أن يكون قادراً على قول: "مهلاً، هذه الجملة يمكن تفسيرها كخطاب كراهية من قبل البعض"، لكي يتمكن من رفع علم للمراجعة.

الصورة الكبيرة

هذه الورقة تشبه بناء دمية اختبار التصادم للغة. من خلال تعليم الذكاء الاصطناعي توليد تفسيرات مختلفة للجمل الخارجة عن سياقها، يمكننا فهم كيف تحدث سوء الفهم عبر الإنترنت.

الأمر لا يتعلق بجعل الذكاء الاصطناعي لئيماً؛ بل يتعلق بجعل الذكاء الاصطناعي واعياً. يتعلق الأمر بمنح الذكاء الاصطناعي نظارات تسمح له برؤية الطرق العديدة التي يمكن بها تحريف جملة واحدة، أو إساءة فهمها، أو استخدامها كسلاح، مما يساعدنا في بناء أدوات أفضل للحفاظ على سلامة ووضوح محادثاتنا عبر الإنترنت.

إليك ملخص تقني مفصل لورقة البحث بعنوان "محاكاة كيفية تفسير البشر للجمل الخارجة عن السياق من خلال فك التشفير المتحكم في السمية".

1. بيان المشكلة

تتناول الورقة تحدي سوء فهم النصوص عبر الإنترنت، لا سيما عندما تُجرد الجمل من سياقها الأصلي (وهو أمر شائع على وسائل التواصل الاجتماعي).

القضية الجوهرية: عند فقدان السياق، يفسر القراء نفس الجملة بطرق متفاوتة للغاية، مما يؤدي غالباً إلى الإحباط أو النقاشات الحادة. والأهم من ذلك، أن هذه التفسيرات تتباين في مستويات السمية؛ فقد يرى بعض القراء جملة ما كجملة محايدة، بينما يفسرها آخرون على أنها عدائية أو ضارة.
الفجوة: تفتقر نماذج توليد النصوص الحالية غالباً إلى القدرة على محاكاة هذا التباين البشري. فهي عادةً ما تولد تفسيراً واحداً "متوسطاً" أو تفشل في التحكم في مستوى سمية المخرجات، مما يجعل من الصعب توقع سوء الفهم أو استعادة العدائية الضمنية الكامنة.
الهدف: يهدف المؤلفون إلى تطوير طريقة لمحاكاة سلوك التفسير البشري من خلال توليد مجموعة متنوعة من التفسيرات لجملة واحدة خارجة عن السياق، مع التحكم صراحةً في مستوى سمية كل تفسير مولد ليتناسب مع التباين الملحوظ لدى القراء البشر.

2. المنهجية

يقترح المؤلفون استراتيجية فك تشفير نمطية قابلة للتشغيل المباشر (plug-and-play) تعمل أثناء مرحلة الاستنتاج (inference) لنموذج لغوي (LM) مدرب مسبقاً. لا تتطلب هذه الطريقة إعادة هيكلة النموذج، بل تقوم بدلاً من ذلك بالتلاعب بتوزيعات احتمالات الرموز (logits) قبل عملية أخذ العينات (sampling).

المكونات الرئيسية:

تقدير السمية: يستخدم النظام نموذج BERT-HateXplan لحساب درجات السمية ( $tox(\cdot) \in [0, 1]$ ) لكل من الجملة المدخلة ( $s$ ) والرموز المرشحة ( $y_t$ ).
معايرة فك التشفير: قبل تطبيق خوارزميات فك التشفير القياسية (مثل أخذ عينات النواة - Nucleus Sampling)، يقوم المؤلفون بمعايرة درجات "softmax" للنموذج اللغوي بناءً على ثلاثة أهداف محددة.

الأهداف الثلاثة:

الهدف 1: مطابقة مستويات السمية (المحاذاة - Alignment)
- الهدف: ضمان تقارب سمية التفسير المولد مع سمية الجملة المدخلة.
- الآلية: في كل خطوة زمنية $t$ ، إذا كانت السمية التراكمية للتسلسل المولد ( $tox(y_{<t})$ ) أقل من المدخل ($tox(s)$)، يتم تعزيز درجة الرمز التالي إذا كان ساماً. وعلى العكس، إذا كان التسلسل شديد السمية، يتم فرض عقوبة (تقليل الدرجة).
- الصيغة: $score(y_t|y_{<t}) = score(y_t|y_{<t}) \pm \lambda \cdot tox(y_t)$ .
الهدف 2: التخفيف التدريجي للتحكم (القدرة على التكيف - Adaptability)
- الهدف: الإقرار بأن الجمل المدخلة شديدة السمية تستدعي طبيعياً نطاقاً أوسع من التفسيرات البشرية (تباين أعلى) مقارنة بالجمل المحايدة.
- الآلية: يتم تعديل وزن التحكم $\lambda$ ديناميكياً بناءً على سمية المدخلات. بالنسبة للمدخلات شديدة السمية، يتم تقليل $\lambda$ ( $\lambda = 1/(tox(s) \cdot 100)$ )، مما يمنح النموذج حرية أكبر لتوليد تفسيرات متنوعة (وقد تكون أكثر سمية). أما بالنسبة للمدخلات المحايدة، فتظل $\lambda$ مرتفعة (1.0) لفرض محاذاة صارمة.
الهدف 3: تعزيز التنوع (التبادل - Alternation)
- الهدف: توليد مجموعة من التفسيرات تغطي طيفاً من السمية (بعضها أخف، وبعضها أقسى) بدلاً من التكتل حول متوسط واحد.
- الآلية: تقوم قاعدة استدلالية بتحديث درجة السمية المستهدفة لـ التفسير التالي بناءً على التفسير السابق. إذا كان التفسير السابق أقل سمية من المدخل، يتم رفع الهدف للتفسير التالي، والعكس صحيح. هذا يجبر النظام على توليد مخرجات متنوعة عبر عمليات تشغيل متعددة.

3. المساهمات الرئيسية

استراتيجية فك تشفير مبتكرة: تقديم خوارزمية فك تشفير متحكم في السمية تعمل دون تعديل بنية النموذج الأساسية، مما يجعلها متوافية مع نماذج اللغات الكبيرة (LLMs) الحالية بنظام "التركيب والتشغيل".
نمذجة متمحورة حول الإنسان: صُممت الطريقة صراحةً لمحاكاة التباين في التفسير البشري، وليس مجرد المتوسط. فهي تلتقط الظاهرة التي تجعل القراء المختلفين يدركون النص نفسه بمستويات مختلفة من العدائية.
آلية تحكم ديناميكية: يسمح استخدام $\lambda$ المتغير (الهدف 2) والأهداف المتبادلة (الهدف 3) بتحكم دقيق في المقايضة بين الدقة تجاه المدخلات وتنوع التفسيرات المولدة.
فائدة في الإشراف على المحتوى: تتيح القدرة على استبدال درجة سمية المدخل بقيمة أقل عشوائياً للنظام توليد تفسيرات "منقحة" للنصوص السامة، وهو أمر مفيد لأدوات الإشراف على المحتوى.

4. النتائج التجريبية

تم تقييم الطريقة باستخدام مجموعة بيانات OrigamIM (9,851 تفسيراً كتبها بشر لمنشورات Reddit) عبر ثلاثة نماذج: BART و T5 و LLaMA 7B.

المقاييس:
- METEOR: التشابه التركيبي.
- COMET: التشابه الدلالي (مدرب على التفضيلات البشرية).
- Perplexity (الارتباك): عدم اليقين في النموذج.
- ارتباط Spearman: المحاذاة بين السمية المولدة والسمية البشرية.
النتائج الرئيسية:
- تحسين المحاذاة: أدى تطبيق جميع الأهداف الثلاثة باستمرار إلى تحسين كل من التشابه التركيبي (METEOR) والدلالي (COMET) مقارنة بالنماذج الأساسية.
  - مثال: أدى الجمع بين (LLaMA + Obj1,2,3) إلى تحسين درجات COMET بنسبة 5.54% مقارنة بالنموذج الأساسي.
- تقليل عدم اليقين: أدت استراتيجية فك التشفير المتحكم فيها إلى خفض قيمة Perplexity، مما يشير إلى أن النموذج كان أكثر ثقة في تنبؤاته عندما يتم توجيهه بهذه الأهداف.
- تفوق $\lambda$ المتغير: أظهرت التجارب أن استخدام $\lambda$ ديناميكي (الهدف 2) أعطى نتائج أفضل من القيم الثابتة، مما يؤكد أن المدخلات عالية السمية تتطلب قيوداً أقل لتقليد التنوع البشري.
- النجاح النوعي: أظهرت دراسات الحالة أن النموذج يمكنه توليد تفسيرات غير سامة للمدخلات المحايدة، وطيف من التفسيرات (من الخفيفة إلى القاسية) للمدخلات السامة، مما يحاكي الخلاف البشري بفعالية.

5. الأهمية والآثار المترتبة

توقع سوء الفهم: من خلال توليد تفسيرات متنوعة، يمكن للمنصات التنبؤ بشكل أفضل بكيفية إساءة تفسير منشور ما أو إدراكه كأنه سام من قبل مجموعات مستخدمين مختلفة، مما يسمح بالإشراف الاستباقي.
استعادة العدائية الضمنية: تساعد الطريقة في كشف المعاني السامة "الخفية" التي قد تغفل عنها مصنفات السمية الثنائية القياسية، والتي غالباً ما تفشل في اكتشاف العدائية المعتمدة على السياق.
الدقة الأخلاقية: يجادل المؤلفون بأنه بينما يبدو تعزيز السمية في التوليد أمراً منافياً للمنطق، إلا أنه ضروري أخلاقياً للبحث وأنظمة السلامة. لبناء فلاتر أفضل، يجب أن تكون الأنظمة قادرة على توليد واكتشاف الطيف الكامل للغة السامة.
التوجهات المستقبلية: تقر الورقة بأن السمية ليست العامل الوحيد في التفسير (الخلفية الثقافية، التجربة الشخصية مهمة أيضاً)، وتدعو إلى عمل مستقبلي لدمج هذه العوامل السياقية الأوسع.

باختصار، تقدم هذه الورقة إطاراً قوياً للتحكم في سمية النص المولد لمحاكاة التنوع المعرفي البشري بشكل أفضل، مما يوفر أداة عملية لفهم وتخفيف حدة النزاعات عبر الإنترنت.