Class-Aware Semantic Hybrid Data Augmentation for Imbalanced Sentiment Classification Using Multiple Transformer Models
تقترح هذه الورقة إطار عمل لتعزيز البيانات الهجين ذو الدلالة والوعي بالفئات (CSHDA)، والذي يطبق بشكل انتقائي تقنيات تعزيز متنوعة ومحققة دلالياً على الفئات الأقلية، مما يقلل بفعالية من عدم توازن الفئات ويحسن بشكل كبير أداء ومتانة نماذج متعددة قائمة على المحولات في مهام تصنيف المشاعر غير المتوازنة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المشهد الرقمي الشاسع للإنترنت، يشارك الناس باستمرار آراءهم، من تقييمات لمطعم محلي إلى شكاوى حول رحلة طيران متأخرة. لقد أصبحت الحواسيب بارعة بشكل ملحوظ في قراءة هذه النصوص وتحديد ما إذا كان الشعور الكامن وراءها سعيداً، أو حزيناً، أو شيئاً بينهما. هذه القدرة، المعروفة باسم تحليل المشاعر، تساعد الشركات على فهم عملائها والمؤسسات على تتبع المزاج العام. ومع ذلك، لكي يتعلم الكمبيوتر هذه المهارة، فإنه يحتاج إلى التدرب على كمية هائلة من الأمثلة. ويبرز عائق كبير عندما لا تكون هذه الأمثلة موزعة بالتساوي. تخيل فصلاً دراسياً حيث يتعلم تسعون طالباً تحديد الأشياء الحمراء، بينما يتعلم عشرة طلاب فقط تحديد الأشياء الزرقاء. المعلم، المثقل بالأمثلة الحمراء، قد يبدأ في التخمين بأن كل شيء أحمر، ببساطة لأن هذا هو ما يراه في أغلب الأحيان. وفي عالم البيانات، يسمى هذا "عدم توازن الفئات"، وهو ما يجعل نماذج الكمبيوتر تتجاهل الآراء الأقلية، مثل المشاعر المحايدة أو السلبية، لصالح رأي الأغلبية.
ولإصلاح ذلك، يحاول الباحثون غالباً إنشاء المزيد من الأمثلة للمجموعات الأقلية، وهي عملية تُعرف باسم "تعزيز البيانات". إنهم يأخذون الجمل الموجودة ويجرون عليها تغييرات صغيرة، مثل استبدال كلمة بمرادف لها أو حذف بعض الحروف، آملين في توليد بيانات تدريب جديدة وصالحة. وبينما ساعد هذا في الماضي، تشير دراسة جديدة إلى أن مجرد صنع المزيد من النسخ ليس كافياً إذا تمت التغييرات بشكل عشوائي. فقد وجد الباحثون أن تطبيق نفس التغييرات العشوائية على كل نوع من أنواع الجمل يمكن أن يربك الكمبيوتر، مما يخلق أمثلة لا تشبه الشعور الأصلي في شيء، أو والأسوأ من ذلك، تكرار نفس الجملة مراراً وتكراراً.
قام فريق من الباحثين بقيادة براشانت أوبادهيايا، وجي إل سيني، وأتول ماكراريا، باقتراح طريقة أكثر ذكاءً للتعامل مع هذه المشكلة. فقد طوروا نظاماً يطلقون عليه اسم "تعزيز البيانات الهجين دلالياً والمدرك للفئات" (Class-Aware Semantic Hybrid Data Augmentation). وبدلاً من معاملة جميع الآراء على حد سواء، يعمل هذا النظام مثل محرر دقيق يفهم الاحتياجات المحددة لكل مجموعة. فعندما يواجه النظام شعوراً من الأقلية، مثل رأي محايد نادر في بحر من المراجعات الإيجابية، فإنه لا يقوم بمجرد قطع الكلمات أو استبدالها عشوائياً. بدلاً من ذلك، يختار تقنيات محددة بناءً على ما تحتاجه تلك الجملة تحديداً للحفاظ على معناها. فبالنسبة لبعض الجمل، قد يستخدم نموذج لغة قوياً لإعادة كتابة الجملة بطريقة مختلفة مع الحفاظ على نفس الشعور تماماً. وبالنسبة لأخرى، قد يكتفي ببساء بحذف كلمة أو إدراج كلمة جديدة. والأهم من ذلك، أن النظام يتحقق من كل جملة جديدة ينشئها مقابل الجملة الأصلية لضمان عدم انحراف المعنى. فإذا بدت الجملة الجديدة مختلفة جداً عن الأصل أو كانت مجرد نسخة مكررة مما صنعه بالفعل، فإن النظام يستبعدها.
اختبر الباحثون هذا النهج على مجموعتين مختلفتين تماماً من البيانات الواقعية: مجموعة من مراجعات ساحات الطعام في إحدى الجامعات، ومجموعة بيانات ضخمة من التغريدات حول شركات الطيران. في كلتا الحالتين، كانت البيانات منحازة بشدة، حيث هيمن شعور واحد على الآخرين. وقاموا بتدريب أربعة نماذج كمبيوتر متقدمة مختلفة، تُعرف باسم "المحولات" (transformers)، وهي الأدوات الأكثر تطوراً حالياً لفهم اللغة. أولاً، قاموا بتدريب هذه النماذج على البيانات الأصلية غير المتوازنة لمعرفة كيفية أدائها. وكما كان متوقعاً، عانت النماذج في التعرف بشكل صحيح على آراء الأقلية، وغالباً ما صنفت التعليقات السلبية أو المحايدة على أنها إيجابية. ثم، طبقوا طريقة التعزيز الجديدة الخاصة بهم على بيانات التدريب، مولدين أمثلة متنوعة وعالية الجودة فقط للمجموعات الأقلية.
كانت النتائج مذهلة. فعندما أعيد تدريب النماذج على هذه البيانات المحسنة، قفزت قدرتها على التعرف على مشاعر الأقلية بشكل كبير. وفي مجموعة مراجعات الطعام، تحسنت دقة النماذج الإجمالية بهامش كبير، حيث ارتفعت القدرة على رصد المراجعات السلبية من مستوى منخفض جداً إلى أغلبية قوية. أما في مجموعة تغريدات شركات الطيران، والتي تُعد صعبة للغاية بسبب طبيعتها القصيرة وغير الرسمية، فقد كان التحسن أكثر دراماتيكية لبعض النماذج. فأحد النماذج، الذي فشل سابقاً في التعرف على التغريدات المحايدة بشكل شبه كامل، بدأ في تحديدها بشكل صحيح أكثر من نصف الوقت. وأكد الباحثون أن هذه التحسينات لم تكن مجرد تخمينات محظوظة، بل كانت ذات دلالة إحصائية، مما يعني أن النتائج موثوقة وقابلة للتكرار.
وما يجعل هذا العمل قيماً بشكل خاص هو أنه لا يتطلب تغيير نماذج الكمبيوتر نفسها؛ بل يعمل كخطوة تحضيرية لتنظيف وإثراء البيانات قبل بدء عملية التعلم. كما أظهرت الدراسة أن هذه الطريقة تعمل جيداً عبر أنواع مختلفة من النماذج، من النماذج الضخمة والمعقدة إلى النماذح الأصغر والأسرع. ومن خلال الموازنة بعناية بين إنشاء بيانات جديدة والتحقق الصارم لضمان بقاء المعنى سليماً، أثبت الباحثون أن الجودة أهم بكثير من الكمية. لقد أثبتوا أنه من خلال إعطاء الكمبيوتر عدداً أكبر قليلاً، ولكن أفضل بكماً، من الأمثلة على الآراء النادرة، يمكنه تعلم الاستماع إلى الجميع، وليس فقط للأصوات الأعلى في الغرفة. ويقدم هذا النهج مساراً عملياً لجعل الذكاء الاصطناعي أكثر عدلاً ودقة في فهم الطيف الكامل للعاطفة البشرية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.