Structured Semantic Prototype-Guided Multi-Source Multimodal Sentiment Analysis with Fine-Grained Gating and Disagreement Decomposition
تقترح الورقة البحثية إطار عمل SPG-MSA، وهو إطار جديد لتحليل المشاعر متعدد الوسائط يستفيد من النماذج الدلالية الهيكلية، وآلية بوابات مدركة للجودة، وفروع محددة العلاقات لنمذجة الأدلة المتوافقة والمكملة والمتعارضة بفعالية عبر الوسائط النصية والبصرية والتعرف الضوئي على الحروف (OCR)، محققاً أداءً هو الأفضل في فئته على مجموعات البيانات المرجعية.
نادرًا ما تكون منشورات وسائل التواصل الاجتماعي مجرد كلمات أو مجرد صور؛ بل هي مزيج معقد من كليهما، غالبًا ما يكون مغلفًا بنصوص مخفية داخل الصور، أو لقطات شاشة لمحادثات أخرى، ومشاهد بصرية تروي قصة لا يذكرها الوصف المكتوب. فعندما ينشر شخص ما صورة لمنتج مع جملة محايدة، أو صورة سعيدة مع تعليق ساخر، فإن الشعور الحقيقي وراء المنشور يكون مشتتًا عبر هذه الأجزاء المختلفة. ولكي تفهم الحواسيب ذلك، يجب عليها أن تفعل أكثر من مجرد النظر إلى الصورة وقراءة النص بشكل منفصل؛ إذ يتعين عليها اكتشاف أي جزء محدد من الصورة أو أي كلمة معينة تحمل العاطة الحقيقية، وكيف تتناسب تلك القطع مع بعضها البعض عندما تتفق أو عندما تتعارض. هذا هو تحدي تحليل المشاعر متعدد الوسائط: تعليم الآلات قراءة السياق الكامل للمنشور الرقمي، وليس مجرد سماته السطحية.
لقد طور أحد الباحثين طريقة جديدة لمعالجة هذه المشكلة، حيث ابتكر نظامًا يعمل كـ "محرر دقيق" بدلاً من كونه أداة فظة. فبدلاً من معاملة كل كلمة في التعليق وكل بكسل في الصورة كأجزاء متساوية في الأهمية، يتعلم أسلوبهم، المسمى SPG-MSA، كيفية اختيار القرائن الأكثر صلة. ويقوم بذلك باستخدام مجموعة من ثمانية مفاهيم توجيهية، أو "نماذج أولية"، تمثل أسبابًا شائعة تجعل الناس يشعرون بقوة تجاه الأشياء، مثل الثقة، أو جودة الحرفية، أو الشعور بالحنين إلى الماضي. تعمل هذه المفاهيم كمرشح (فلتر)، مما يساعد الحاسوب على تحديد الأجزاء ذات الصلقة الفعلية بالشعور الذي يتم التعبير عنه. فعلى سبيل المثال، إذا كان المنشور حول قطعة مصنوعة يدويًا، فإن النظام يعرف كيف يبحث عن دليل على "الحرفية" في الصورة والنص، متجاهلًا التفاصيل الخلفية غير المتعلقة بها.
كما أدرك الباحث أن ليست كل المعلومات موثوقة بنفس القدر. فمنشورات وسائل التواصل الاجتماعي غالبًا ما تتضمن نصوصًا تمت قراءتها آليًا من صورة أو أوصافًا تم إنشاؤها بواسطة برامج حاسوبية أخرى. وأحيانًا تكون هذه المصادر الإضافية مفيدة، ولكنها أحيانًا تكون خاطئة أو غير ذات صلة. وللتعامل مع هذا، يتضمن النظام الجديد فحصًا للجودة يزن مدى موثوقية كل قطعة من المعلومات قبل استخدامها. إذ يمكنه اختيار الاعتماد بشدة على علامة واضحة وسهلة القراءة في صورة ما، بينما يتجاهل علامة أخرى ضبابية ومربكة. علاوة على ذلك، تم تصميم النظام لملاحظة الحالات التي يبدو فيها النص والصورة كأنهما يقولان أشياء مختلفة. فإذا كتب مستخدم جملة حزينة ونشر صورة لاحتفال، فإن النظام لا يجبرهما على الاتفاق؛ بل يقوم بإنشاء تمثيل خاص لهذا التناقض، مما يسمح للحكم النهائي بأن يعكس هذا التوتر بدلاً من تسويته وتنعيمه.
ولاختبار ما إذا كان هذا النهج قد نجح بالفعل، طبق الباحث أسلوبه على مجموعتين كبيرتين من منشورات وسائل التواصل الاجتماعي الواقعية. وقارن نظامه بعدة طرق متقدمة أخرى تم تطويرها مؤخرًا. وأظهرت النتائج أن طريقته الجديدة كانت أكثر دقة في تخمين العاطفة أو الشعور الصحيح. ففي إحدى مجموعات البيانات، حقق دقة تبلغ حوالي 82.5 بالمائة، وفي مجموعة أخرى، وصل إلى ما يقرب من 73 بالمائة. والأهم من ذلك، أثبت الباحث أن هذا التحسن لم يأتِ ببساطة لأن الحاسوب كان لديه المزيد من البيانات للنظر إليها أو لأنه كان أكبر حجمًا وأكثر تعقيدًا؛ فقد أجروا اختبارات محددة حيث أعطوا الأنظمة الأخرى نفس المعلومات الإضافية تمامًا ولكن بدون أدوات التصفية ومعالجة التناقض الخاصة بهم. ولم تحقق تلك الأنظمة الأخرى أداءً جيدًا، مما يشير إلى أن الطريقة التي نظم بها الأسلوب الجديد المعلومات واختارها كانت هي مفتاح نجاحه.
كما بحثت الدراسة عن كثب في كيفية تعامل النظام مع الأخطاء والحالات الصعبة. فعندما قام الباحث عمدًا بخلط الصور والنصوص لخلق منشورات مربكة، ظل النظام الجديد أكثر استقرارًا من غيره، مما أظهر قدرته على التعامل بشكل أفضل مع المواقف التي لا تتطابق فيها القرائن البصرية والمكتوبة. ومع ذلك، فقد كان الباحث حريصًا على ملاحظة أن هذا التطور يأتي بتكلفة؛ إذ يتطلب النظام قوة حوسبة أكبر ويستغرق وقتًا أطول لمعالجة كل منشور مقارنة بالنماذج الأبسط. فهو ليس مصممًا لاتخاذ قرارات فورية في أجزاء من الثانية، بل هو أفضل حالًا للمواقف التي تتطلب تحليلًا أعمق وأكثر موثوقية للمنشور.
في الختام، يشير هذا العمل إلى أن مستقبل فهم العاطفة عبر الإنترنت يكمن في الهيكلية والدقة. فمن خلال تعليم الحواسيب البحث عن أنواع محددة من المعنى، والتحقق من موثوقية مصادرها، واحترام الحالات التي تتعارض فيها أجزاء المنشور، يحقق النظام فهمًا أكثر شبهاً بالبشر للتعبير الرقمي. وتشير النتالئج إلى أنه بينما لا يمكننا بعد فك رموز كل تفاصيل المشاعر البشرية بدقة مثالية، فإن إضافة طبقة من الاستدلال المنظم تساعد الآلات على التنقل في واقع وسائل التواصل الاجتماعي الفوضوي والمتناقض والغني بمهارة أكبر بكثير.
ملخص تقني: تحليل المشاعر متعدد الوسائط متعدد المصادر الموجه بالنماذج الأولية الدلالية المهيكلة (SPG-MSA)
1. بيان المشكلة
تعتمد نماذج تحليل المشاعر متعدد الوسائط (MSA) الحالية غالبًا على أوزان وسائط خشنة وآليات دمج موحدة. وتواجه هذه النهج صعوبة في التمييز بين الأدلة المتوافقة، والمتكاملة، والمتعارضة عبر المصادر المختلفة (مثل نص المستخدم، والصور، والنصوص داخل الصور، والتعليقات السياقية). علاوة على ذلك، تفتقر الطرق الحالية بشكل متكرر إلى طبقة دلالية قابلة للتفسير لتوجيه استخراج الأدلة، حيث تعامل التباين في الوسائط مجرد معلومات مشتركة مقابل معلومات خاصة أو ضوضاء. حددت الورقة ثلاثة قصور محددة في هذا المجال:
الإشراف الخشن: تشرف معظم النماذج على فئات مشاعر عامة دون نمذجة الأساس الدلالي (مثل الثقة، الأصالة، تجربة الاستهلاك) للحكم الصادر.
الدمج العالمي: يستخدم الدمج التكيفي غالبًا معاملًا واحدًا للوسيط بأكمله، مما يفشل في التمييز بين العناصر المحلية المعلوماتية (مثل علامة تحمل شعورًا معينًا) والعناصر غير ذات الصلة (مثل الخلفية).
التبسيط في حالات عدم الاتفاق: غالبًا ما يتم اختزال التباين عبر الوسائط إلى تقسيمات (مشترك/خاص)، مع تجاهل حقيقة أن عدم الاتفاق بين التنبؤات أحادية الوسائط يمكن أن يشير إلى أدلة ذات ص relevance، وإن كانت غير متسقة.
2. المنهجية: إطار عمل SPG-MSA
يعالج إطار العمل المقترح (SPG-MSA) هذه المشكلات من خلال نمذجة أربعة مصادر بشكل مشترك: نص المستخدم (T)، والقطع المرئية (I)، والنص المستخرج عبر التعرف الضوئي على الحروف (O)، والتعليقات الوصفية الواقعية للصور (C). يعمل الإطار عبر خمس مراحل:
2.1 الاستخراج والترميز متعدد المصادر
المصادر المساعدة: يتم اشتقاق مصدرين مساعدين من الصورة الأصلية: نص الـ OCR (باستخدام PP-OCRv4) والتعليقات الوصفية الواقعية للصور (باستخدام نموذج BLIP-2 مجمد مع أمر (prompt) يمنع صراحةً استنتاج المشاعر).
الوعي بالجودة: يتم تخصيص درجة جودة (q) لكل مصدر. تُحسب درجات الـ OCR والتعليقات بناءً على ثقة التعرف والتشابه الدلالي مع الصورة، على التوالي، بينما تُخصص للمصادر الأساسية (T,I) أولويات موحدة.
الترميز: يتم ترميز جميع المصادر في مساحة لغوية-بصرية مشتركة باستخدام نموذج CLIP ViT-B/16 مدرب مسبقًا، معزز بتضمينات نوع المصدر والموضع.
2.2 التكييف الدلالي المهيكل
مخزن النماذج الأولية: يستخدم النموذج ثمانية نماذج أولية تقييمية مهيكلة (مثل الاستمرارية الزمنية، الهوية الثقافية، جودة الإنتاج، الأصالة المدركة، الحنين، الثقة، التجديد، تجربة الاستهلاك). تعمل هذه كأولويات كامنة لتوجيه استخراج الأدلة.
التكييف: تعمل آليات الانتباه من النموذج الأولي إلى المصدر على تكييف الميزات المرمزة. وتضمن دوال الخسارة (Lanchor و Ldiv) بقاء النماذج الأولية مرتبطة دلاليًا بتعريفاتها الأولية مع الحفاظ على تنوعها.
2.3 البوابة دقيقة التفاصيل الواعية بجودة المصادر المساعدة
البوابة المحلية: يتم تخصيص بوابة قياسية لكل رمز (token) وقطعة صورة (patch). تُحسب هذه البوابة باستخدام محتوى المصدر، والسياق عبر المصادر (عبر الانتباه متعدد الرؤوس)، وسياق النموذج الأولي.
تكامل الجودة: تتضمن آلية البوابة درجات الجودة المساعدة (qO,qC)، مما يسمح للنموذج بخفض وزن محتوى الـ OCR منخفض الثقة أو التعليقات الوصفية التي تعاني من الهلوسة.
التنظيم: تضمن خسارة انهيار البوابة (Lgate) عدم قيام البوابات برفض أو اختيار جميع الرموز بشكل بديهي، مما يحافظ على نسبة تنشيط مستهدفة.
2.4 التمثيل الخاص بالعلاقات
يقوم النموذج بتفكيك المعلومات المدمجة إلى ثلاثة فروع متميزة:
الفرع المشترك: يلتقط المعلومات المتوافقة عبر النصوص الأساسية والصور عبر الانتباه المتبادل ثنائي الاتجاه.
الفرع المتكامل: يحتفظ بالبقايا الخاصة بكل وسيط بعد طرح المحتوى المشترك المسقط.
الفرع الموزون بعدم الاتفاق: يقيس التباين بين التنبؤات الأولية أحادية الوسائط باستخدام تباعد جينسن-شانون (JS) المعياري. يقوم هذا الفرع بوزن ميزات التفاعل بناءً على درجة عدم الاتفاق، مما يسمح للنموذج باستخدام الأدلة المتضاربة بدلاً من التخلص منها.
2.5 الدمج الهرمي والتصنيف
تُجمع مخرجات الفروع الثلاثة مع ناقلات النص المعززة (عبر OCR) والناقلات البصرية (عبر التعليق الوصفي). تنتج طبقة دمج نهائية مشروطة بالنموذج الأولي توزيع المشاعر. هدف التدريب (L) يحسن بشكل مشترك التصنيف، والمحاذاة التباينية على مستوى المثال ومستوى التسمية، والتعامد بين الفروع، والإشراف أحادي الوسائط، وترتيب عدم الاتفاق، وتنظيم النموذج الأولي.
3. المساهمات الرئيسية
النماذج الأولية الدلالية المهيكلة: تقديم آلية قابلة للتفسير تقوم بتكييف استخراج الأدلة متعددة الوسائط بناءً على مفاهيم تقييمية محددة بدلاً من فئات المخرجات فقط.
البوابة دقيقة التفاصيل: تطوير وحدة بوابة دقيقة التفاصيل واعية بجودة المصادر المساعدة، والتي تختار الرموز والقطع ذات الصلة بناءً على كل من صلة المحتوى وموثوقية المصادر المولدة تلقائيًا (OCR/التعليقات).
تفكيك التمثيل الخاص بالعلاقات: إطار عمل ينمذج صراحةً المعلومات المشتركة، والمتكاملة، والموزونة بعدم الاتفاق، وهو ما تم التحقق منه من خلال المقارنات المنضبطة واختبارات اضطراب المصادر.
4. النتائج التجريبية
تم تقييم النموذج على مجموعتي بيانات MVSA-Single (المشاعر: إيجابي، محايد، سلبي) و TumEmo (العواطف: 7 فئات).
الأداء: حقق SPG-MSA دقة بلغت 82.47% (MVSA-Single) و 72.96% (TumEmo)، مع درجات F1 كلي (macro-F1) بلغت 81.72% و 72.41% على التوالي.
المقارنات: تفوق النموذج على أقوى خط أساس مُعاد إنتاجه مؤخرًا (CLIP-MoE-R) بمقدار 0.84 و 0.85 نقطة مئوية في مقياس macro-F1، مع تأكيد التحسينات ذات الدلالة الإحصائية عبر إعادة أخذ عينات bootstrap الهرمية.
دراسات الاستئصال (Ablation Studies):
أدى إزالة البوابة دقيقة التفاصيل إلى انخفاض الأداء بنحو 2.5 نقطة، مما يؤكد ضرورة اختيار الأدلة المحلية.
أدى إزالة فرع عدم الاتفاق إلى انخفاض الأداء بنحو 1.5 نقطة.
أدى الدمج البسيط للمصادر الأربعة إلى أداء أسوأ بكثير من الدمج المهيكل، مما يثبت أن المكاسب ليست ناتجة عن البيانات الإضافية وحدها.
المتانة: في ظل اضطرابات محكومة (مثل عدم تطابق النص والصورة، أو فساد الـ OCR)، حافظ SPG-MSA على دقة أعلى من خطوط الأساس، لا سيما عندما كان فرع عدم الاتفاق نشطًا.
الكفاءة: تحمل النموذج زيادة بنسبة 8.6% في المعلمات القابلة للتدريب وزيادة بنسبة ~30% في وقت التدريب مقارنة بـ MFN، مع زيادة زمن الانتقال (latency) في النهاية إلى النهاية عند عدم تخزين عمليات الـ OCR/التعليقات في ذاكرة التخزين المؤقت.
5. الأهمية والادعاءات
تدعي الورقة أن SPG-MSA يوفر نهجًا مهيكلاً لتحليل المشاعر متعدد الوسائط يحسن المتانة تحت الاضطرابات المحكومة ويقدم إسنادًا للأدلة عالي الدقة.
ما وراء السعة: يؤكد المؤلف أن مكاسب الأداء لا تعزى فقط إلى مصادر المدخلات الإضافية أو زيادة سعة النموذج، كما هو موضح من خلال ضوابط المعلومات المتساوية وخطوط الأساس المتطابقة في المعلمات.
القابلية للتفسير: تسمح النماذج الأولية المهيكلة بتحليل أكثر قابلية للتفسير لسبب التنبؤ بمشاعر معينة (على سبيل المثال، بناءً على "الثقة" أو "تجربة الاستهلاك")، بدلاً من مجرد معرفة "ماهية" الشعور.
التعامل مع عدم الاتفاق: نجح النموذج في إثبات أن نمذجة التباين العاطفي (عدم الاتفاق) كفرع تمثيل متميز يحسن المتانة عندما تنقل النصوص والصور إشارات عاطفية متضاربة.
القيود: يشير المؤلف بتواضع إلى أن مخزون النماذج الأولية المختار ليس مثاليًا عالميًا لجميع المجالات (مثل طبيعة التركيز على العواطف في TumEmo)، وأن الطريقة تعتمد على نماذج مساعدة مكلفة حاسوبيًا (OCR، التعليقات الوصفية)، مما يجعلها مناسبة أكثر للتحليل في وضع عدم الاتصال (offline) أو التحليل القريب من الوقت الفعلي بدلاً من التطبيقات ذات القيود العالية للتدفق المستمر. يُقدم الإطار كتحسين تدريجي لدمج الوسائط المتعددة وليس كبديل جذري لميزات اللغة والرؤية القوية الموجودة حاليًا.