From Baselines to Preferences: A Comparative Study of LoRA/QLoRA and Preference Optimization for Mental Health Text Classification

إليك ملخص تقني مفصل لورقة البحث بعنوان: "من النماذج المرجعية إلى تفضيلات المستخدم: دراسة مقارنة لتقنيات LoRA/QLoRA وتحسين التفضيلات لتصنيف النصوص في مجال الصحة النفسية."

1. بيان المشكلة

يعد تصنيف نصوص الصحة النفسية تطبيقاً عالي التأثير في معالجة اللغات الطبيعية (NLP)، وهو أمر بالغ الأهمية لتحديد المخاطر وتحديد الأولويات في مسارات الرعاية الرقمية. ومع ذلك، يفتقر المجال إلى إرشادات عملية حول استراتيجية التحسين التي يجب استخدامها. تقدم الأدبيات الحالية مسارات نمذجة متباهمة (الأشجار الكلاسيكية، المشفرات، الضبط الدقيق الفعال للمعلمات، وتحسين التفضيلات) والتي غالباً ما يتم الإبلااب عنها في سياقات تجريبية معزولة ذات مستويات ضبط مختلفة. وهذا يجعل من الصعب التمييز ما إذا كانت مكاسب الأداء ناتجة عن البنية الهيكلية (بسبب بنية النموذج) أم أنها نتاج خيارات إعداد محددة (مثل عدم توازن البيانات، أو صياغة الهدف، أو ضبط المعلمات الفائقة).

تعالج الورقة الحاجة إلى دراسة مقارنة منهجية ومنضبطة لتحديد:

• كيف يتغير الأداء مع صياغة الهدف، واختيار المهايئ (Adapter)، وسلوك المحسن (Optimizer).
• ما إذا كان تحسين التفضيلات (DPO، ORPO، KTO) يقدم مكاسب قوية مقارنة بالضبط الدقيق الخاضع للإشراف (SFT) في سياقات الصحة النفسية.
• كيف يؤثر عدم توازن الفئات على مسارات التحسين المختلفة هذه.

2. المنهجية

تستخدم الدراسة بروتوكولاً تجريبياً موحداً عبر ثلاث مراحل تصاعدية، تنتقل من النماذج المرجعية البسيطة إلى استراتيجيات التكيف المتخصصة. تستخدم عملية التقييم مجموعة بيانات DAIC-WOZ (مقابلات سريرية بأسلوب Wizard-of-Oz) مع أهداف مشتقة بناءً على إطار عمل PHQ-4 (الذي يجمع بين PHQ-2 للاكتئاب وGAD-2 للقلق).

المراحل التجريبية

1. تأسيس النماذج المرجعية (Baselines):

   • الكلاسيكية: نموذج XGBoost المدرب على ميزات نصية متفرقة.
   • المشفرات (Encoders): نماذج من عائلة BERT (bert-base-uncased ،distilbert-base-uncased ،roberta-base).
   • الحالات: تم اختبارها تحت ملفات تعريف "النموذج الخام" (Vanilla - التدريب القياسي) و"النموذج المُحسّن" (Optimized - الاستدلال بمقياس درجة الحرارة) عبر نوافذ سياقية متنوعة (94–512 رمزاً).

2. الضبط الدقيق الخاضع للإشراف والفعال للمعلمات (SFT):

   • الطرق: LoRA و QLoRA.
   • المتغيرات:
     • الأهداف: تمييزية (تصنيف مباشر) مقابل توليدية (توليد نص مقيد).
     • المخططات (Schemas): التسمية فقط، ثقة التسمية، تعليل التسمية.
     • المحسنات (Optimizers): AdamW، Adafactor، Adam8bit.
   • الهدف: عزل آثار الهدف، والمخطط، والمحسن على الاستقرار وذروة الأداء.

3. تحسين التفضيلات (Preference Optimization):

   • الطرق: تحسين التفضيل المباشر (DPO)، تحسين نسبة الأرجحية (ORPO)، وتحسين كانمان-تفيرسكي (KTO).
   • الملفات التعريفية: التدريب "الخام" (Vanilla) مقابل التدريب "المعاد توازنه" (Rebalanced) (تعديل عدم توازن الفئات صراحةً).
   • النماذج الأساسية (Backbones): تم التقييم باستخدام مهايئات LoRA و QLoRA.

مقايات التقييم

• الأساسية: Macro-F1، Weighted-F1، Macro-Precision، Macro-Recall.
• الثانوية: أهداف ثنائية مشتقة لـ القلق و الاكتئاب لاختبار اتساق الانتقال.
• الإبلاغ: يتم الإبلاغ عن كل من "أفضل تشغيل" (ذروة الأداء) و "المتوسط" (الاستقرار عبر التشغيلات) للتمييز بين القمم المعزولة والأنماط القوية.

3. المساهمات الرئيسية

• سرد موحد للتحسين: بدلاً من تقديم مجموعة بيانات جديدة، توفر الورقة إطاراً قابلاً لإعادة الإنتاج لمقارنة استراتيجيات التحسين، مما يعزل تأثير البنية مقابل الضبط مقابل توازن البيانات.
• تحليل الحساسية التفصيلي: تفصل الدراسة آثار صياغة الهدف (توليدية مقابل تمييزية)، ومخطط المخرجات، واختيار المحسن، ونوافذ السياق، والتي غالباً ما يتم دمجها في الاختبارات المعيارية.
• رؤى تحسين التفضيلات: توضح أن تحسين التفضيلات ليس "ترقية" متجانسة بل يعتمد بشدة على الطريقة المستخدمة. وتحدد ORPO كطريقة التفضيل المتفوقة، وتبرز أن إعادة توازن الفئات عامل حاسم لـ DPO و ORPO ولكنه غير فعال لـ KTO في هذا المجال.
• إرشادات عملية: تقدم شجرة قرار للممارسين: ابدأ بالنماذج المرجعية الشفافة، ثم طبق الضبط المتحكم فيه، وانشر تحسين التفضيلات بشكل انتقائي فقط حيث تكون المكاسب مثبتة ومتسقة.

4. النتائج الرئيسية

أ. النماذج المرجعية والمشفرات

• الأداء الأقوى: نموذج bert-base-uncased مع الاستدلال بمقياس درجة الحرارة عند نافذة 384 رمزاً حقق أفضل نتيجة مرجعية (Macro-F1: 0.3518).
• التنافسية: ظل XGBoost منافساً قوياً (Macro-F1: 0.3375)، متفوقاً على العديد من تكوينات DistilBERT و RoBERTa، مما يثبت أن نمذجة الأشجار المعززة القوية لا تزال قابلة للتطبيق.
• حساسية النافذة: كان الأداء حساساً للغاية لحجم نافذة السياق؛ حيث بلغ bert-base ذروته عند النوافذ المتوسطة إلى الكبيرة، بينما تراجع أداء distilbert بشكل كبير عند النوافذ الكبيرة.

ب. الضبط الدقيق الخاضع للإشراف (SFT - LoRA/QLora)

• هيمنة الهدف: تفوقت الأهداف التوليدية باستمرار على الأهداف التمييزية في كل من ذروة الأداء والمتوسط.
  • أفضل توليدي: Vanilla QLoRA + Adam8bit (Macro-F1: 0.3399).
  • أفضل تمييزي: Optimized QLoRA + AdamW (Macro-F1: 0.3072).
• تأثير المخطط (Schema): كانت مخططات "التسمية فقط" هي الأكثر استقراراً. أظهرت "ثقة التسمية" تبايناً عالياً، بينما كان "تعليل التسمية" هو الأضعف.
• استقرار المحسن: وفر Adafactor أكثر متوسط أداء استقراراً، بينما أنتج Adam8bit قمم أداء عالية ولكن بمتوسطات أقل (أقل استقراراً).

ج. تحسين التفضيلات

• تباين الطرق: كان هناك تفاوت هائل في الأداء بين الطرق.
  • ORPO: هو الفائز الواضح. تحت التدريب المعاد توازنه، حقق أعلى درجة إجمالية (Macro-F1: 0.3798)، متفوقاً على جميع نماذج SFT والنماذج المرجعية.
  • DPO: أظهر حساسية كبيرة لإعادة توازن الفئات (تحسن من 0.2474 إلى 0.3493 مع إعادة التوازن).
  • KTO: كان أضعف طريقة باستمرار (Macro-F1 ~0.12) ولم يظهر أي تحسن مع إعادة التوازن، مما يشير إلى قيود جوهرية لهذه المهمة.
• تأثير إعادة التوازن: كان تدخل إعادة توازن الفئات عالي التأثير لـ ORPO و DPO، ولكنه لم يكن ذا صلة لـ KTO.

د. النتائج الثانوية (القلق والاكتئاب)

• ظلت أنماط التصنيف الملاحظة في مهمة الـ 4 فئات الأساسية قائمة في المهام الثنائية المشتقة (القلق والاكتئاب).
• ظل نموذج BERT المُحسّن هو أقوى نموذج مرجئي للمهام الثانوية.
• حافظ ORPO (المعاد توازنه) على صدارته بين طرق التفضيل، مما يؤكد أن المكاسب قابلة للانتقال عبر النهايات السريرية ذات الصلة.

5. الأهمية والخاتمة

تنقل هذه الورقة التركيز من "أي نموذج هو الأفضل" إلى "كيف يجب علينا تحسين النموذج". الاستنتاج المركزي هو أن تأثيرات التحسين تعتمد بشدة على الطريقة المستخدمة.

• للممارسين: لا تفترضوا أن تحسين التفضيلات هو ترقية عالمية. إذا كنتم تستخدمون تعلم التفضيلات، فإن ORPO هو الخيار الأكثر موثوقية، وإعادة توازن الفئات ضرورية لنجاحه.
• من أجل الاستقرار: يوفر الضبط الدقيق التوليدي (Generative SFT) باستخدام LoRA/QLoRA مع Adafactor حلاً وسطاً قوياً مع أداء مستقر.
• بالنسبة للنماذج المرجعية: تظل نماذج المشفرات (Encoders) الجيدة والمضبوطة جيداً مثل BERT تنافسية للغاية، ويجب أن تكون نقطة الانطلاق لأي استراتيجية تحسين جديدة.

توفر الدراسة إطاراً قابلاً لإعادة الإنتاج وقائماً على الأدلة لاختيار استراتيجيات التدريب، مع التأكيد على أن المكاسب تأتي من الضبط المتحكم فيه وتدخلات توازن البيانات بدلاً من مجرد تغيير عائلات النماذج.