UKP_Psycontrol at SemEval-2026 Task 2: Modeling Valence and Arousal Dynamics from Text

1. تعريف المشكلة

تتناول الورقة البحثية SemEval-2026 Task 2، والتي تركز على نمذجة الديناميكيات العاطفية في النصوص المرتبة زمنياً، والمبلغ عنها ذاتياً (المقالات وقوائم كلمات الشعور) من عمال قطاع الخدمات في الولايات المتحدة. الهدف هو التنبؤ ببعدين عاطفيين مستمرين بناءً على نموذج الدائرة العاطفية (affective circumplex model):

• التكافؤ (Valence): إيجابية أو سلبية العاطفة (مقياس من 0 إلى 4).
• الاستثارة (Arousal): شدة أو مستوى تنشيط العاطفة (مقياس من 0 إلى 2).

تنقسم المهمة إلى مهمتين فرعيتين:

• المهمة الفرعية 1 (التقييم الطولي للعواطف): التنبؤ بالتكافؤ والاستثارة الحاليين لكل نص في تسلسل ما، لكل من المستخدمين المعروفين (في التدريب) والمستخدمين الجدد (غير المعروفين).
• المهمة الفرعية 2A (التنبؤ بالتباين المستقبلي): التنبؤ بـ التغير ($\Delta$) في التكافؤ والاستثارة للخطوة الزمنية التالية بناءً على النصوص السابقة والحالات العاطفية.

تتميز مجموعة البيانات بحجم عينات صغير (137 مستخدماً، حوالي 2,764 مدخلاً)، وتباين عالٍ بين المستخدمين، ومزيج من المقالات الحرة وقوائم كلمات الشعور القصيرة.

2. المنهجية

اقترح المؤلفون ثلاثة نهج متكاملة لمعالجة المهام الفرعية، وذلك عبر الاستفضاء من النماذج اللغوية الكبيرة (LLMs)، والنماذج الرسومية الاحتمالية، والانحدار العصبي.

أ. التلقين القائم على النماذج اللغوية الكبيرة (LLM-Based Prompting)

استخدم الفريق نموذج GPT-OSS 120B للتطوير ونموذج GPT-5 للتقديمات النهائية. واستكشفوا عدة استراتيجيات للتلقين:

• الوعي بالمستخدم مقابل عدم الوعي بالمستخدم:
  • الوعي بالمستخدم (User-Aware): تتضمن التلقينات أمثلة مرتبة زمنياً للمستخدم المستهدف نفسه لالتقاط أنماط التعبير الفردية.
  • عدم الوعي بالمستخدم (User-Agnostic): تستخدم التلقينات أمثلة عشوائية متوازنة في التصنيفات من مستخدمين مختلفين.
• تنسيقات المخرجات:
  • الملصقات النصية: يولد النموذج ملصقات عاطفية (مثل "سعيد جداً")، والتي يتم ربطها بدرجات عددية عبر شبكة محددة مسبقاً.
  • التنبؤ العددي المباشر: يتنبأ النموذج بالأرقام مباشرة (بشكل منفصل أو مشترك للتكافؤ/الاستثارة).
• السياق الديناميكي: تم اختبار استراتيجية النافذة المنزلقة (بحد أقصى $N=15$) لدمج التنبؤات الأخيرة، ولكن تبين أنها تؤدي إلى تراكم الأخطاء مقارنة بالتلقين ذي الدفعة الثابتة (fixed-shot prompting).
• التعامل الخاص: استُخدمت تلقينات منفصلة لـ "كلمات الشعور" (القوائم) و"المقالات" (النصوص الطويلة) لمراعاة الاختلاف في الغنى السياقي.

ب. نموذج الحد الأقصى للإنتروبيا (MaxEnt) مع تفاعلات إيسينج (Ising)

تم تطوير نموذج الحد الأقصى للإنتروبيا (MaxEnt) مع تفاعلات زوجية من نوع إيسينج لالتقاط التبعيات الهيكلية بين الحالات العاطفية والسمات الدلالية.

• الآلية: يحدد النموذج توزيع الاحتمالات $P(x) = \frac{1}{Z} \exp(-E(x))$ على متجهات الحالة الثنائية.
• المكونات:
  • حدود الانحياز ($h$): تمثل التأثيرات الفردية للتكافؤ، والاستثارة، والسمات الدلالية.
  • حدود التفاعل ($J$): تلتقط كيفية حدوث التعايش بين المتغيرات أو تأثيرها على بعضها البعض (على سبيل المثال، كيف يرتبط عنقود دلالي معين بتحول عاطفي محدد).
• الضغط الدلالي: لجعل المعايرة الدقيقة قابلة للحساب، تم ضغط المتجهات الدلالية عالية الأبعاد (المستمدة من تجميع LLM لكلمات العاطفة) عبر مشفر تلقائي (autoencoder)، ثم تحويلها إلى صيغة ثنائية وإلحاقها بمتجه الحالة.
• الاستدلال: تُشتق التنبؤات عبر التوقعات الشرطية، مما ينتج تقديرات مستمرة تتماشى مع مقاييس التقييم.

ج. نموذج الانحدار العصبي (المهمة الفرعية 2A)

تم تصميم نموذج انحدار عصبي خفيف الوزن خصيصاً للتنبؤ بالتغيرات العاطفية.

• المدخلات: نافذة منزلقة من تضمينات النصوص الأخيرة (RoBERTa-base)، والتكافؤ/الاستثارة الحاليين، وتغير الحالة السابق، وتضمين مستخدم قابل للتدريب.
• تحليل السمات: قارن الفريق بين ثلاثة إعدادات للمدخلات:
  1. الأساس بدون نص: فقط السمات العاطفية وتضمينات المستخدم.
  2. المعزز بالنص: تضمينات نصية سياقية.
  3. العناقيد الدلالية: تضمينات أسماء العناقيد العاطفية.
• البنية: شبكة أمامية (feed-forward) مع تطبيع الطبقة (Layer Normalization)، وتنشيطات ReLU، وإسقاط (dropout).

3. النتائج الرئيسية

المهمة الفرعية 1: التقييم الطولي

• الأداء: حقق النظام المركز الأول إجمالاً من بين 25 فريقاً.
  • الاستثارة: أفضل أداء ($r=0.554$ في الاختبار).
  • التكافؤ: المركز السادس ($r=0.667$ في الاختبار).
• هيمنة النماذج اللغوية الكبيرة (LLM): تفوق التلقين القائم على LLM بشكل كبير على نموذج MaxEnt وخط الأساس BERT.
  • الوعي بالمستخدم مقابل عدم الوعي: كان التلقين الواعي بالمستخدم أفضل قليلاً، مما يشير إلى قدرة LLMs على التكيف مع الأساليب الفردية، لكن النماذج غير الواعية بالمستخدم استخلصت معظم الإشارة أيضاً.
  • النصي مقابل العددي: توليد الملصقات العاطفية النصية وربطها بالأرقام تفوق على التنبؤ العددي المباشر، ويرجع ذلك على الأرجح إلى أن LLMs أكثر توافقاً مع الواصفات اللغوية الطبيعية من توليد القيم القياسية الخام.
  • التحديثات الديناميكية: تفوق التلقين ذو الدفعة الثابتة على النوافذ المنزلقة الديناميكية، لأن الأخيرة تسبب انتشار الخطأ.

المهمة الفرعية 2A: التنبؤ بالتباين

• الأداء: حقق النظام المركز الأول إجمالاً من بين 14 فريقاً.
  • التكافؤ: $r=0.675$ (الاختبار).
  • الاستثارة: $r=0.683$ (الاختبار).
• رؤية رئيسية: بالنسبة للتنبؤ بـ التغيير، كانت مسارات الحالة العددية الأخيرة أكثر قدرة تنبؤية من الدلالات النصية.
  • النموذج الأفضل أداءً استخدم فقط التكافؤ السابق، والاستثارة، وتغير الحالة، وتضمينات المستخدم (بدون مدخلات نصية).
  • إضافة السمات النصية أو العناقيد الدلالية لم يحسن الأداء بل أدى أحياناً إلى تدهوره.
• مقارنة النماذج: تفوق نموذج الانحدار العصبي على نموذج MaxEnt والتلقين القائم على LLM لهذه المهمة المحددة. أظهر نموذج MaxEnt نتائج تنافسية للاستثارة ولكنه واجه صعوبة في التكافؤ بسبب صغر حجم العينات وتعقيد التفاعلات الزوجية.

4. المساهمات الرئيسية

1. أداء حالة الفن (SOTA): تحقيق المركز الأول في كلتا المهمتين الفرعيتين لـ SemEval-2026 Task 2.
2. الاكتشاف التجريبي للديناميكيات: إثبات أن بينما تتفوق النماذج اللغوية الكبيرة في التقييم العاطفي الساكن (التقاط "ماهية" العاطفة من النص)، فإن الديناميكيات العاطفية قصيرة المدى (التقاط "التغيير") يمكن نمذجتها بشكل أفضل عبر المسارات العددية وتضمينات المستخدم.
3. المنهجية الهجينة: النجاح في دمج التلقين باستخدام LLM للمهام الساكنة مع النماذج الاحتمالية المهيكلة (MaxEnt) ونماذج الانحدار للتنبؤ الديناميكي، مما يوفر مجموعة أدوات شاملة للتحليل الطولي للعواطف.
4. فعالية تضمين المستخدم: تسليط الضوء على الدور الحاسم لتضمينات المستخدم القابلة للتدريب في التقاط الخطوط الأساسية والديناميكيات العاطفية الفردية، خاصة في ظل ندرة البيانات.

5. الأهمية والقيود

• الأهمية: يطور هذا العمل مجال تحليل العواطف الحوسبي من خلال التمييز بين قدرات LLMs في التفسير الساكن مقابل الحاجة إلى النمذجة القائمة على المسار للتنبؤ الزمني. ويشير إلى أن تتبع الاتجاهات العددية قد يكون أكثر قوة من إعادة تحليل النص لكل تنبؤ جديد في سياق مراقبة الصحة النفسية.
• القيود:
  • ندرة البيانات: 92% من المستخدمين لديهم بيانات من فترة أسبوعين واحدة فقط، مما يحد من القدرة على نمذجة مسارات الصحة النفسية طويلة المدى.
  • النماذج المملوكة: الاعتماد على GPT-5 و GPT-OSS يثير مخاوف تتعلق بإعادة الإنتاج والخصوصية فيما يخص البيانات المبلغ عنها ذاتياً والحساسة.
  • الاستقرار: أظهر أداء LLM حساسية تجاه إعدادات درجة الحرارة (temperature)، ولوحظ أن الفروق الطفيفة في لوحة الصدارة في المهمة 2A كانت غير مستقرة تحت تأثير تغييرات طفيفة في البيانات.

في الختام، نجح فريق UKP_Psycontrol في إثبات أن النهج الهجين — الذي يستفيد من الفهم الدلالي للنماذج اللغوية الكبيرة للتقييم الساكن ومن كفاءة الانحدار الإحصائي للتنبؤ الديناميكي — يحقق النتائج الأكثر قوة لنمذجة الديناميكيات العاطفية في البيئات الواقعية.