🤖 AI

Obfuscation Rules for Detecting and Detoxifying Korean Toxicity

تقدم هذه الورقة KOTOX، وهي أول مجموعة بيانات وإطار عمل تحويلي مفتوح كوري مصمم للكشف عن المحتوى السام المموّه وتطهيره في آن واحد من خلال تصنيف أنماط التمويه القائمة على الأسس اللغوية وتدريب النماذج على التعامل مع التعبيرات المتنكرة دون المساس بالأداء على النصوص القياسية.

المؤلفون الأصليون: Yejin Lee, Su-Hyeon Kim, Hyundong Jin, Dayoung Kim, Yeonsoo Kim, Yo-Sub Han

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yejin Lee, Su-Hyeon Kim, Hyundong Jin, Dayoung Kim, Yeonsoo Kim, Yo-Sub Han

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "قواعد التمويه للكشف عن السمية في اللغة الكورية وتطهيرها" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة: "المصافحة السرية" للسمية

تخيل ملعباً يحاول فيه متنمر قول شيء مسيء ليتسبب في إيقاع طفل في مشكلة. لكن، هناك قاعدة صارمة في الملعب: "لا يُسمح بالكلمات المسيئة". لذا، يقوم المتنمر بتغيير كلماته قليلاً ليتسلل من أمام المعلم. فبدلاً من قول "أنت غبي"، قد يقول "أنت غـ ـبـ ـي" أو يغير طريقة الكتابة ليخفي الكلمة.

في العالم الرقمي، يسمى هذا التمويه (Obfuscation). يتعمد الناس تخريب الإملاء، أو استبدال الحروف برموز (مثل استخدام @ بدلاً من a)، أو إعادة ترتيب الكلمات لإخفاء المحتوى السام (المؤذي/المسيء) عن الفلاتر الآلية.

تشير الورقة البحثية إلى مشكلة كبيرة: معظم البرامج الحاسوبية المصممة لكشف اللغة السيئة تتدرب على نصوص "نظيفة". إنها تشبه حراس الأمن الذين يعرفون فقط كيفية رصد شخص يرتدي قبعة حمراء؛ إذا ارتدى المتنمر قبعة زرقاء مع خط أحمر، فسوف يفوته الحارس. وهذا أمر صعب للغاية في اللغة الكورية، لأن هذه اللغة مبنية مثل قطع "الليغو" (لغة إلصاقية). يمكنك بسهولة استبدال أو إضافة أو إعادة ترتيب هذه القطع دون تغيير المعنى، مما يجعل من الصعب جداً على الحواسيب رصد الإهانات المخفية.

الحل: KOTOX ( "صالة التدريب الرياضي")

قام الباحثون من جامعة يونسي بإنشاء أداة جديدة تسمى KOTOX. فكر في KOTOX كأنها صالة تدريب رياضية متخصصة لنماذج الذكاء الاصطائي.

بدلاً من عرض جمل عادية فقط على الذكاء الاصطناعي، توفر KOTOX "تمريناً مزدوجاً":

الأصل: جملة محايدة وجملة سامة.
التنكر: نفس الجمل، ولكن "مموهة" (مخربة) بطرق محددة.

لم يكتفِ الباحثون بالتخمين حول كيفية إخفاء الناس للكلمات السيئة، بل درسوا أمثلة حقيقية من الإنترنت وابتكروا خمس فئات محددة من "التنكرات" بناءً على كيفية عمل اللغة الكورية:

الصوتيات (تشابه الأصوات): تغيير الحروف لتبدو متشابهة في النطق ولكن مختلفة في الشكل (مثل استبدال حرف ساكن بآخر يشبهه في الصوت). التشبيه: تغيير كلمة "cat" إلى "kat".
الشكلانية (تشابه المظهر): استبدال الحروف برموز تشبهها في الشكل (مثل استخدام الرقم 3 بدلاً من حرف E أو حرف من أبجدية أخرى). التشبيه: كتابة "H@te" بدلاً من "Hate".
النقل الصوتي (عبر اللغات): دمج حروف من لغات أخرى (مثل الإنجليزية أو الحروف الصينية) التي لها نفس النطق. التشبيه: كتابة "Gongbu" (دراسة) بدلاً من الكلمة الكورية الأصلية.
النحوية (تلاعب بالبنية): العبث بالمسافات أو ترتيب المقاطع. التشبيه: كتابة "st up id" بدلاً من "stupid".
البراغماتية (تشتيت الرموز التعبيرية): إضافة رموز تعبيرية (Emojis) أو رموز غريبة لتشتيت انتباه الحاسوب. التشبيه: إضافة رمز قلب ❤ بجانب كلمة مسيئة لإرباك الفلتر.

كيف بنوا ذلك؟

بدأ الفريق بمجموعة بيانات موجودة من الجمل الكورية (بعضها لطيف وبعضها سيء). لقد عملوا كمحررين صارمين:

قاموا بتنقية الأمثلة السيئة (مثل الجمل التي تحتوي على أسماء أشخاص أو قواعد لغوية مربكة).
طبقوا "قواعد التنكر" الجديدة الخاصة بهم لإنشاء آلاف الأزواج الجديدة.
النتيجة هي مجموعة بيانات ضخمة حيث يكون لكل جملة نسخة "نظيفة" ونسخة "مموهة".

النتائج: تدريب الذكاء الاصطناعي

اختبر الباحثون صالة التدريب الجديدة هذه (KOTOX) على عدة نماذج للذكاء الاصطناعي. وإليك ما حدث:

قبل التدريب: كانت نماذج الذكاء الاصطناعي سيئة جداً في رصد النصوص السامة المموهة. إذا كان النص مخرباً، كانوا يعتقدون أنه آمن.
بعد التدريب: عندما تم تدريب النماذج على KOTOX، أصبحت أفضل بكثير في شيئين:
1. إزالة التمويه (Deobfuscation): استطاعت النظر إلى النص الفوضوي والمموه و"إلغاء" التغييرات لرؤية المعنى الأصلي.
2. تطهير السمية (Detoxification): استطاعت أخذ النص السام المموه وإعادة كتابته في نسخة مهذبة وآمنة.

النتيجة الرئيسية: التدريب على بيانات "التنكر" هذه لم يساعد فقط في التعامل مع النصوص الفوضوية، بل جعل النماذج أفضل أيضاً في رصد النصوص السامة العادية والنظيفة. الأمر يشبه حارس الأمن الذي، بعد تدريبه على رصد الأشخاص المختبئين في الشجيرات، يصبح أفضل في رصد أي شخص يتصرف بشكل مريب، حتى لو لم يكن مختبئاً.

لماذا هذا مهم؟

هذه هي أول مجموعة بيانات من نوعها مخصصة للغة الكورية. وهي توضح أنه لإيقاف المحتوى السام، لا يمكننا فقط تعليم الذكاء الاصطناعي التعرف على "الكلمات السيئة"، بل يجب أن نعلمه التعرف على "الكلمات السيئة في تنكر". من خلال فهم الطرق المحددة التي يخفي بها المتحدثون باللغة الكورية سميتهم، يمكننا بناء فلاتر أذكى وأكثر قوة لا يمكن خداعها بحيل الإملاء البسيطة.

ملخص تقني: KOTOX – مجموعة بيانات كورية للسمية (KOTOX) من أجل إزالة التمويه وإزالة السموم

بيان المشكلة

مع تزايد نشر النماذج اللغوية الكبيرة (LLMs) في البيئات عبر الإنترنت، أصبح اكتشاف المحتوى السام وإزالته (إزالة السموم) أمراً بالغ الأهمية. ومع ذلك، تركز الأبحاث ومجموعات البيانات الحالية بشكل أساسي على النصوص غير المموهة. هذا القصور يقلل من متانة النماذج عندما يتعمد المستخدمون تمويه التعبيرات السامة للتهرب من الرقابة الآلية.

هذا التحدي حاد بشكل خاص في اللغة الكورية نظراً لطبيعتها الصرفية الإلصاقية والخصائص المحددة لنظام كتابة الهانغل (Hangeul). تسمه هذه السمات اللغوية بإنتاج تنوعات سطحية متنوعة — مثل التحولات الفونولوجية، والاستبدالات البصرية، واضطرابات المسافات — التي تحافظ على القصد السام الأصلي مع تغيير مظهر النص. تعتمد أساليب التمويه الحالية غالباً على تقنيات بسيطة (مثل استبدال الكلمات المتشابهة صوتياً أو إدراج الرموز التعبيرية) وتفتقر إلى تصنيفات قائمة على أسس لغوية خاصة باللغة الكورية. علاوة على ذلك، لا توفر الموارد الحالية محتوى محايداً وساماً متوافقاً بشكل مشترك مع متغيراته المموهة، مما يعيق التجريب الموحد لكل من إزالة التمويه وإزالة السموم.

المنهجية

1. بناء قواعد التمويه

قام المؤلفون ببناء تصنيف قائم على أسس لغوية لأنماط التمويه الكورية بناءً على حالات واقعية جُمعت من منصات عبر الإنترنت (مثل Agoda وGoogle Maps). وقد حددوا خمس فئات من قواعد التحويل:

الفونولوجية (الصوتية): تعدل النص مع الحفاظ على النطق (على سبيل المثال، استبدال الحروف الساكنة/المتحركة بوحدات مشابهة صوتياً، إعادة المقطع الصوتي، والوصل).
الأيقونية (البصرية): تولد التمويه من خلال التشابه البصري، باستبدال الحروف برموز أو أرقام أو نصوص مشابهة بصرياً (مثل تحويل الهانغل إلى رموز CJK أو الحروف اللاتينية، وتدوير الرموز).
نقل الحروف (Transliteration): تحويلات عبر النصوص تحافظ على النطق أو المعنى. ويشمل ذلك استبدال التعبيرات الكورية بنصوص أجنبية مكافئة صوتياً (لاتينية/CJK) أو ترجمة الكلمات إلى لغات أجنبية وإعادة كتابتها بالهانغل.
النحوية: تشوه بنية الجملة بدلاً من أشكال الحروف، وتحديداً من خلال تغييرات المسافات وإعادة ترتيب المقاطع (التبديل).
البراغماتية (التداولية): إدراج الرموز أو الرموز التعبيرية لتغيير النبرة المدركة وتشتيت التفسير الآلي دون تغيير المحتوى الدلالي.

2. بناء مجموعة البيانات (KOTOX)

قدم المؤلفون KOTOX، وهي أول مجموعة بيانات عالية الجودة مقترنة للنصوص الكورية السامة المموهة. تضمنت عملية البناء ما يلي:

البيانات المصدرية: استخدام مجموعة بيانات K/DA (أزواج كورية محايدة-سامة) كأساس.
التصفية: عملية تصفية يدوية صارمة من قبل خبراء في اللغويات الكورية قلصت 7,555 زوجاً إلى 2,294 زوجاً عالي الجودة، لمعالجة مشكلات مثل سوء التصنيف، وعدم السلامة الدلالية، والمعلومات الشخصية المحددة للهوية (PII).
التحويل: تطبيق قواعد التحويل المحددة لتوليد النظراء المموهين. لكل زوج مصدر $(x_n, x_t)$ ، توفر مجموعة البيانات رباعية متوافقة $(x_n, x_t, \tilde{x}_n, \tilde{x}_t)$ ، حيث يمثل $\tilde{x}$ النسخة المموهة.
التعزيز (Augmentation): تولد العملية ثلاثة أزواج معززة لكل مصدر من خلال تطبيق $k \in \{2, 3, 4\}$ من فئات التحويل، مما يخلق مستويات صعوبة "سهلة"، "عادية"، و"صعبة".
التحقق: تضمن آلية التحقق من السلامة أن النص المولد يحافظ على القابلية للقراءة والاتساق الدلالي، مع استبعاد التحويلات غير الصالحة.

تحتوي مجموعة البيانات النهائية على 6,882 عينة (5,505 للتدريب، 687 للتحقق، 690 للاختبار) مقسمة إلى محايد-سام ونظائرهما المموهة.

3. مهام التقييم

تحدد الورقة ثلاث مهام تقييم لاختبار متانة النموذج:

تصنيف النص السام المموه: تصنيف ما إذا كان النص المموه ساماً أم لا.
إزالة التمويه من النص المحايد: استعادة النص المحايد الأصلي من مدخل محايد مموه.
تطهير النص السام المموه: توليد نسخة غير سامة وغير مموهة من مدخل سام مموه (الجمع بين إزالة التمويه وإزالة السموم).

أُجريت التجارب باستخدام مصنفات سمية متعددة (HateBERT، offensiveRoBERTa، toxicity-xlmr-v2) ونماذج لغوية كبيرة مضبوطة بالتعليمات (Qwen2.5، EXAONE 3.5، Bllossom، GPT-4.1) في إعدادات التعلم من الصفر (zero-shot)، والتعلم من أمثلة قليلة (few-shot)، والضبط الدقيق تحت الإشراف (SFT).

النتائج الرئيسية

متانة التصنيف

ضعف خط الأساس: أظهرت النماذج المدربة على البيانات الأصلية (غير المموهة) تدهوراً كبيراً في الأداء عند تقييمها على النصوص المموهة. على سبيل المثال، انخفضت درجة F1 لنموذج XLM-R من 95.06 (على البيانات الأصلية) إلى 53.66 (على البيانات المموهة).
فعالية KOTOX: أظهرت النماذج التي تم ضبطها بدقة باستخدام KOTOX تحسينات مستمرة. حقق الضبط الدقيق (SFT) على KOTOX أعلى أداء في الإعدادات المموهة لـ HateBERT (71.65 F1) و XLM-R (89.57 F1).
التعميم: أدى التدريب على KOTOX إلى تحسين الأداء على المدخلات غير المموهة أيضاً، مما يشير إلى أن تعلم أنماط التمويه يعزز المتانة العامة. اقتربت النماذج الصغيرة القائمة على المشفرات (encoder-based) التي تم ضبطها على KOTOX من أداء GPT-4.1 أو تجاوزته في إعدادات التعلم من الصفر.

إزالة التمويه والتطهير

محدودية التعلم من الصفر/الأمثلة القليلة: أظهرت النماذج اللغوية الكبيرة المدربة مسبقاً قدرة محدودة على إزالة التمويه أو التطهير للنصوص المموهة في إعدادات التعلم من الصفر وخمسة أمثلة. وبينما حسنت التلميحات (prompting) ذات الخمسة أمثلة المقاييس قليلاً، فشلت النماذج غالباً في تخفيف المحتوى السام أثناء استعادة شكل النص.
نجاح الضبط الدقيق تحت الإشراف: حقق الضبط الدقيق تحت الإشراف (SFT) على KOTOX أفضل النتائج لكل من إزالة التمويه والتطهير. أظهرت النماذج التي تم ضبطها دقة كبيرة في إعادة البناء الدلالي (BERTScore) واستعادة السطح (chrF).
تحدي التطهير: أثبتت مهمة التطهير أنها الأكثر صعوبة؛ حيث نجحت النماذج غالباً في إزالة التمويه لكنها احتفظت بالمعنى السام في إعدادات الأمثلة القليلة. كان الضبط الدقيق (SFT) ضرورياً لتوليد مخرجات غير سامة.

تحليل القواعد

معدلات الخطأ: كانت التحويلات الفونولوجية هي الأسهل في التعامل معها من قبل النماذج (أدنى نسبة خطأ: 0.27). بينما أنتجت التحويلات النحوية والبراغماتية أعلى نسب خطأ (0.35 و 0.36)، مما يشير إلى أن الاضطرابات الهيكلية واضطرابات الإشارات على مستوى الخطاب أكثر صعوبة بالنسبة للنماذج الحالية من التباينات السطحية.
الإنسان مقابل النموذج: حقق المقيمون البشريون درجات أعلى بكثير في إزالة التمويه (BERTScore ~95.64) مقارنة بنموذج Qwen2.5 المضبوط بدقة (77.90)، مما يؤكد أنه بينما تحافظ القواعد على القابلية للتفسير البشري، فإنها تظل صعبة على النماذج اللغوية الكبيرة الحالية.

الأهمية والادعاءات

يزعم المؤلفون أن KOTOX هي أول مجموعة بيانات تدعم في آن واحد إزالة التمويه وإزالة السموم للغة الكورية، حيث توفر أزواجاً من المحتوى المحايد والسام، ونظراءهما المموهين.

الأساس اللغوي: على عكس الأعمال السابقة التي اعتمدت على الاضطراب البسيط، بُنيت KOTOX على تصنيف مشتق من الخصائص الإلصاقية والخطية المحددة للغة الكورية والهانغل.
المتانة: تمكن مجموعة البيانات من تدريب نماذج متينة تجاه المحتوى السام المموه دون التضحية بالأداء على المدخلات النظيفة.
توافر الموارد: يوفر المؤلفون حزمة تحويل التمويه كأداة مفتوحة المص المصدر، مما يسهل التوليد القابل لإعادة الإنتاج للنصوص المموهة للأبحاث المستقبلية.
القيود: تقتصر الدراسة صراحةً على اللغة الكورية والهانغل. ويقر المؤلفون بأن القواعد المحددة قد لا تعمم مباشرة على السياقات اللغوية الأخرى، رغم إمكانية توسيع الإطار.

في الختام، توضح الورقة أن النماذج اللغوية الكبيرة الحالية معرضة بشدة لأنماط التمويه الخاصة باللغة الكورية، وأن التدريب على مجموعات بيانات مموهة ومزدوجة قائمة على أسس لغوية أمر ضروري لبناء تقنيات لغوية أكثر أماناً ومتانة للبيئات عبر الإنترنت الكورية.