💬 NLP

A New Semisupervised Technique for Polarity Analysis using Masked Language Models

تقدم هذه الورقة تقنية محسنة لتحليل القطبية شبه الموجهة تستخدم نموذج word2vec كنموذج لغوي مقنع لتعيين درجات قطبية احتمالية أكثر دقة وقابلية للتفسير، مما يثبت تفوقها على النماذج المكانية التقليدية من خلال تحليل تغطية صحيفة "تشاينا ديلي" لجائحة كوفيد-19.

المؤلفون الأصليون: Kohei Watanabe

نُشر 2026-04-30

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kohei Watanabe

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول فهم "المزاج" أو "التركيز" لآلاف المقالات الإخبارية. هل تبدو فخورة؟ هل تبدو قلقة؟ هل تتحدث عن النجاح أم الفشل؟

لفترة طويلة، كان لدى الباحثين طريقتان رئيسيتان للقيام بذلك:

طريقة القاموس: تقوم بإعداد قائمة ضخمة من الكلمات "الجيدة" والكلمات "السيئة". إذا استخدم المقال العديد من الكلمات من قائمتك، فإنه يحصل على درجة عالية. المشكلة: أنت بحاجة إلى قائمة ضخمة ومثالية للحصول على نتائج جيدة، وإعداد هذه القائمة يستغرق وقتاً طويلاً جداً.
طريقة الكمبيوتر القديمة (النماذج المكانية): تعلم الكمبيوتر كيفية تجميع الكلمات بناءً على مدى تكرار ظهورها معاً. إذا ظهرت كلمتا "فوز" و"انتصار" بالقرب من بعضهما البعض، فإن الكمبيوتر يعتقد أنهما صديقان مقربان. ثم يخمن مزاج المقال بناءً على مدى "قرب" الكلمات الموجودة في هذا المقال من "الكلمات البذرية" (seed words) التي بدأت بها. المشكلة: هذه الطريقة غالباً ما تكون فوضوية، وصعبة التفسير، وحساسة جداً للكلمات البداية التي تختارها.

الفكرة الجديدة: لعبة "ملء الفراغات"

يقترح المؤلف، كوهي واتانابي، طريقة جديدة وأكثر ذكاءً للقيام بذلك باستخدام تقنية تسمى التحجيم الدلالي الكامن (LSS)، ولكن بعد تطويرها باستخدام أداة تسمى word2vec.

فكر في الطريقة القديمة كأنها خريطة. تضع دبوساً عند "النجاح" ودبوساً آخر عند "الفشل". يقيس الكمبيوتر المسافة بين كل كلمة وهذين الدبوسين. إذا كانت كلمة ما تقع في منتصف المسافة بينهما، فهي محايدة. لكن الخرائط قد تكون مخادعة؛ فإذا حركت الدبابيس قليلاً، تتغير الخريطة بأكملها، ولا تصبح المسافات منطقية دائماً.

أما الطريقة الجديدة فهي تشبه لعبة "الكلمات الناقصة" أو "ملء الفراغات".

بدلاً من قياس المسافة على الخريطة، يلعب الكمبيوتر لعبة تخمين. ينظر إلى جملة ما ويتساءل: "إذا أخفيت كلمة 'نجاح' هنا، ما مدى احتمالية أن تناسب هذه الكلمة السياق؟"

الكلمات البذرية (Seed Words): تعطي الكمبيوتر بعض الكلمات البداية، مثل "فوز" أو "هدف" أو "بطل".
اللعبة: يقرأ الكمبيوتر المقالات الإخبارية ويحاول التنبؤ ما إذا كانت تلك الكلمات البذرية ستظهر بشكل طبيعي في سياق كلمات أخرى.
الدرجة: إذا كان الكمبيوتر واثقاً جداً من أن كلمة "انتصار" تناسب المكان الذي تم فيه إخفاء كلمة "نجاح"، فإنه يعطي كلمة "انتصار" "درجة قطبية" عالية (درجة توضح مدى ارتباطها بالمفهوم).

لماذا هذه الطريقة أفضل؟

إنها احتمالية، وليست مسافة: بدلاً من قول "هذه الكلمة تبعد 5 أميال عن النجاح"، يقول الكمبيوتر "هناك احتمال بنسبة 90% أن تنتمي هذه الكلمة إلى جملة عن النجاح". هذا أسهل بك كثيراً في الفهم والمقارنة.
أقل تطلباً: في طريقة "الخريطة" القديمة، كان يجب أن تكون كلماتك البداية هي الأمثلة الأكثر تطرفاً (مثل "تتويج" بدلاً من مجرد "فوز"). أما في لعبة "التخمين" الجديدة هذه، يمكنك استخدام كلمات أكثر اعتدالاً، وسيقوم الكمبيوتر باستنتاج الكلمات المتطرفة بنفسه.
تصحح نفسها ذاتياً: لدى الكمبيوتر "بطاقة تقييم" مدمجة تسمى الارتباك (perplexity). فكر في هذا كدرجة اختبار. إذا كان الكمبيوتر جيداً في التنبؤ بالكلمات، فإن درجة "الارتباك" لديه تكون منخفضة (أي أنه ليس مرتبكاً). وإذا كان سيئاً، تكون الدرجة عالية. وهذا يسمح للباحثين بضبط إعدادات الكمبيوتر تلقائياً للحصول على أفضل النتائج دون الحاجة إلى مراجعة بشرية لكل إجابة.

الاختبار: "تشاينا ديلي" والجائحة

لإثبات نجاح هذه الطريقة، اختبرها المؤلف على صحيفة China Daily، وهي صحيفة تسيطر عليها الحكومة الصينية، خلال جائحة كوفيد-19.

الهدف: معرفة كيف تحدثت الصحيفة عن "الإنجاز" و"الصحة" فيما يتعلق بالصين مقابل الدول الأخرى.
المقارنة: قارن المؤلف طريقة "لعبة التخمين" الجديدة بطريقة "الخريطة" القديمة وبقاموس ضخم تم إنشاؤه يدوياً.
النتيجة: كانت الطريقة الجديدة هي الفائزة. فقد طابقت القاموس الضخم بشكل أفضل من طريقة الكمبيوتر القديمة. كما كانت أكثر اتساقاً؛ فبغض النظر عن الكلمات البداية التي تم اختيارها، ظلت النتائج موثوقة.

ما وجده التحليل

باستخدام هذه الأداة الجديدة، وجد المؤلف بعض الأنماط المثيرة للاهتمام في الأخبار:

التركيز على الصحة: في بداية الجائحة (أوائل عام 2020)، ركزت الصحيفة بشدة على القضايا الصحية داخل الصين. ومع مرور الوقت، تحول التركيز إلى التحدث عن القضايا الصحية في البلدان الأخرى.
التركيز على الإنجاز: انخفض فخر الصحونة بـ "إنجازات" الصين عند بداية الأزمة، ولكنه عاد ليقوى مرة أخرى بحلول نهاية عام 2023.
"النقطة المثالية": عندما جمع المؤلف بين هاتين الفكرتين (الإنجاز + الصحة)، لم تبدُ الصحيفة فخورة حقاً بإنجازات الصين الصحية إلا خلال فترتين محددتين: في بداية الأزمة تماماً، وبعد انتهاء عمليات الإغلاق الصارمة في أواخر عام 2022. وهذا يشير إلى أن الحكومة كانت تحاول صياغة نهاية الإغلاق كقصة نجاح.

الخلاصة

تقدم هذه الورقة طريقة جديدة لقراءة الكمبيوتر للنصوص تشبه لعبة التخمين البشري أكثر من كونها خريطة جامدة. إنها أكثر دقة، وأسهل في الفهم، وتتطلب جهداً يدوياً أقل للإعداد. وتوضح أنه من خلال استخدام نماذج "اللغة المقنعة" (التي تعمل كألعاب ملء الفراغات)، يمكننا الحصول على رؤى أكثر وضوحاً وموضوعية حول كيفية تصوير وسائل الإعلام لمواضيع مختلفة.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تقنية جديدة شبه خاضعة للإشراف لتحليل القطبية باستخدام نماذج اللغة المقنعة" للباحث كوهي واتانابي.

1. بيان المشكلة

يعد تحليل القطبية (قياس التأكيد أو الشعور تجاه مفهوم معين في نص ما) أمراً بالغ الأهمية في أبحاث العلوم الاجتماعية والاتصال. وتواجه الطرق الحالية قيوداً كبيرة:

مطابقة الكلمات المفتاحية: تتطلب قواميس موسعة ومنسقة يدوياً، والتي غالباً ما تكون غير متوفرة للمجالات المتخصصة أو اللغات المحددة.
التعلم الآلي الخاضع للإشراف: يتطلب مجموعات بيانات ضخمة وموسومة، والتي تكون مكلفة وتستغرق وقتاً طويلاً لإنشائها.
التعلم الآلي غير الخاضع للإشراف: غالباً ما يفشل في التقاط المفاهيم النظرية المحددة مسبقاً دون توجيه.
الطرق الحالية شبه الخاضعة للإشراف (التحجيم الدلالي الكامن - LSS): يعتمد نموذج LSS الأصلي على النمذجة المكانية (باستخدام تحليل القيم المفردة - SVD لإنشاء ناقلات الكلمات). ويواجه هذا النهج أربعة عيوب جوهرية:
1. خطأ قياس مرتفع: غالباً ما تعاني درجات المستندات من أخطاء كبيرة ما لم يتم تجميعها بواسطة متغيرات أخرى.
2. نقص التفسير: الدرجات نسبية ضمن فضاء دلالي وتفتقر إلى المعنى الجوهري (على سبيل المثال، يمكن أن تكون سالبة في النماذج أحادية القطب).
3. الحساسية للكلمات البذرية: يجب أن تكون الكلمات البذرية "متطرفة" (شديدة الاستقطاب) لتوليد نطاق درجات مفيد؛ فالكلمات البذرية المتوسطة تفشل في إنتاج نتائج ذات معنى.
4. صعوبة التحسين: لا يمكن تحسين المعلمات الفائقة (مثل حجم الناقل) بسهء لأن الخوارزمية الأساسية (SVD) تفتقر إلى مقياس قياسي لجودة المطابقة مثل "الحيرة" (perplexity).

2. المنهجية

يقترح المؤلف نسخة جديدة من التحجيم الدلالي الكامن (LSS) تستبدل النمذجة المكانية بـ النمذجة الاحتمالية باستخدام word2vec كنموذج لغة مقنع.

التحول الخوارزمي الجوهري

من المكاني إلى الاحتمالي:
- الأصلي (المكاني): يحسب القطبية بناءً على تشابه جيب التمام بين ناقل الكلمة وناقلات الكلمات البذرية.
- المقترح (الاحتمالي): يحسب القطبية كـ احتمالية متوقعة لظهور كلمة بذرية في سياق كلمة مستهدفة.
بنية النموذج:
- يستخدم word2vec (تحديداً خوارزميات Skip-gram و Continuous Bag-of-Words) المدربة على المتن المستهدف.
- على عكس استخدام word2vec القياسي (الذي يستخدم فقط أوزان طبقة الإدخال $V$ للناقلات)، يستخدم هذا الأسلوب كل من أوزان طبقة الإدخال ( $V$ ) وأوزان طبقة الإخراج ( $W$ ) لحساب الاحتمالية $q_{ij}$ لكلمة مستهدفة $j$ في سياق الكلمة $i$ .
- تُحسب الاحتمالية عبر دالة سيجمويد (sigmoid): $q_{ij} = \text{sigmoid}(\sum H_k W_{jk})$ .
تقدير القطبية:
- درجة قطبية الكلمة ( $\hat{g}_i$ ) هي المتوسط المرجح لاحتمالات ظهور الكلمات البذرية في سياق تلك الكلمة.
- الميزة: يسمح هذا للنموذج بتعيين درجات قطبية قصوى للكلمات ذات الصلة حتى لو لم تكن الكلمات البذرية نفسها "متطرفة"، مما يقلل من الحساسية لاختيار المستخدم للكلمات البذرية.
التحسين:
- نظرًا لأن النموذج احتمالي، يمكن استخدام الحيرة (perplexity) (الاعتلاج بين الاحتمالات المتوقعة والترددات المرصودة) لتحسين المعلمات الفائقة (مثل أبعاد المتجه، خوارزمية التدريب) دون الحاجة إلى مجموعة بيانات "معيار ذهبي" موسومة.

تصميم التقييم

المتن (Corpus): 91,709 مقالاً باللغة الإنجليزية من صحيفة China Daily (2019-2023) تغطي جائحة كوفيد-19.
المفاهيم المستهدفة: "الإنجاز" (Achievement) و"الصحة" (Health).
المعيار المرجعي: قواميس LIWC الكاملة (منسقة يدوياً، تحتوي على حوالي 200-300 كلمة لكل مفهوم).
الإعداد التجريبي:
1. أخذ عينات عشوائية من 10 مجموعات مكونة من 10 كلمات بذرية أحادية القطب من قواميس LIWC (لمحاكاة مدخلات المستخدم غير المثالية).
2. تدريب أربعة أنواع من النماذج: Spatial LSS (SVD)، و Spatial LSS (word2vec)، و Probabilistic LSS (word2vec)، و Mini-dictionaries (الكلمات البذرية فقط).
3. ربط مخرجات النماذج مع درجات قاموس LIWC الكامل.
4. تحليل العلاقة بين الحيرة (perplexity) ومعاملات الارتباط.

3. المساهمات الرئيسية

إطار عمل LSS الاحتمالي: يقدم طريقة لتحويل LSS من مقياس تشابه مكاني إلى نموذج لغة احتمالي، مما يجعل الدرجات قابلة للتفسير كاحتمالات (محصورة بين 0 و1) بدلاً من مسافات متجهة تعسفية.
المتانة تجاه اختيار الكلمات البذرية: يثبت أن النماذج الاحتمالية أقل حساسية لـ "تطرف" الكلمات البذرية. حيث يمكنها إنتاج نتائج قابلة للمقارنة مع القواميس الكبيرة حتى مع وجود كلمات بذرية متوسطة الصلة.
تحسين المعلمات الفائقة: يوفر آلية لتحسين المعلمات الفائقة للنموذج (مثل حجم المتجه) باستخدام درجات الحيرة، مما يحل مشكلة رئيسية في LSS القائم على SVD.
التنفيذ مفتوح المصدر: تم تنفيذ الطريقة في حزم R وهي LSX و wordvector لضمان قابلية التكرار والشفافية دون الاعتماد على نماذج "الصندوق الأسود" المملوكة لجهات أخرى.

4. النتائج

ارتباط الأداء:
- حققت النماذج الاحتمالية القائمة على Word2vec أقوى ارتباط مع قواميس LIWC الكاملة ( $r=0.51$ للإنجاز، $r=0.66$ للصحة).
- أظهر تدريب Skip-gram (SG) تفوقاً عاماً على Continuous Bag-of-Words (CBOW)، وإن كان الفارق أصغر في النماذج الاحتمالية مقارنة بالمكانية.
- سجلت النماذج القائمة على SVD أسوأ أداء ( $r \approx 0.34–0.48$ )، وغالباً ما كان أداؤها أقل حتى من "القواميس الصغيرة" (الكلمات البذرية فقط).
التباين والموثوقية:
- أظهرت النماذج الاحتمالية أدنى تباين في معاملات الارتباط عبر عينات الكلمات البذرية المختلفة، مما يشير إلى موثوقية عالية.
- أظهرت النماذج المكانية ونماذج SVD تبايناً عالياً، مما يعني أن نتائجها تذبذبت بشكل كبير بناءً على الكلمات البذرية المحددة.
الحيرة كمقياس:
- وُجد ارتباط سلبي قوي بين الحيرة (perplexity) والارتباط. تنبأت درجات الحيرة المنخفضة بشكل موثوق بارتفاع الدقة مقابل المعيار المرجعي، مما يؤكد صلاحية الحيرة كأداة لاختيار النموذج في غياب الحقيقة المطلقة.
دراسة حالة (China Daily):
- نجح النموذج في تحديد التحولات في تأطير China Daily. فقد رصد تحولاً من التركيز على إنجازات الصين الصحية في بداية الجائحة إلى التركيز على دول أخرى لاحقاً.
- من خلال الجمع بين درجات "الإنجاز" و"الصحة"، سلط النموذج الضوء على فترات محددة (بداية ونهاية سياسة "صفر كوفيد") حيث أطرت وسائل الإعلام الرسمية عمليات الإغلاق الصارمة كنجاح، وهو تفصيل فات تحليله عند دراسة المفاهيم بشكل منفصل.

5. الأهمية

التقدم المنهجي: تجسر هذه الدراسة الفجوة بين تحليل القواميس التقليدي والتعلم العميق الحديث. فهي تقدم نهجاً "يجمع بين أفضل ما في العالمين": قابلية تفسير القواميس (الدرجات الاحتمالية) مع أتمتة التعلم الآلي.
سهولة الوصول للباحثين: تخفض هذه الدراسة حاجز الدخول لتحليل النصوص شبه الخاضع للإشراف. فلم يعد الباحثون بحاجة إلى مجموعات بيانات ضخمة موسومة أو كلمات بذرية مثالية؛ بل يمكنهم استخدام مجموعات بذرية صغيرة وتحسين النموذج باستخدام الحيرة.
الشفافية: من خلال استخدام تطبيق word2vec محلي وشفاف بدلاً من نماذج اللغات الكبيرة (LLMs) المملوكة لجهات تجارية، تضمن الدراسة بقاء أبحاث العلوم السياسية والاتصال قابلة للتكرار وخالية من التحيزات الخفية المتأصلة في نماذج الذكاء الاصطناعي التجارية.
الإمكانات المستقبلية: تجادل الورقة بأن هذا الإطار الاحتمالي يمكن توسيعه ليشمل نماذج لغة مقنعة أكثر تعقيداً (مثل BERT أو RoBERTa) لتعزيز التقاط المفاهيم الدقيقة في تحليل النصوص.