ملخص تقني: قياس وتحسين متانة النماذج اللغوية الكبيرة (LLMs) في التوليد المخصص

تعريف المشكلة

تعالج الورقة البحثية فجوة حرجة في تقييم النماذج اللغوية الكبيرة فيما يتعلق بـ التخصيص (Personalization). فبينما تركز الأبحاث والمقاييس الحالية (مثل LaMP وPrefEval) بشكل أساسي على ما إذا كان استجابة النموذج تتوافق مع تفضيلات المستخدم، فإنها تغفل إلى حد كبير الصحة الواقعية (Factual Correctness). ويرى المؤلفون أن الاستجابة يمكن أن تكون مخصصة تماماً ومع ذلك تكون غير دقيقة واقعياً، مما يؤدي إلى أنظمة ذكاء اصطناعي غير موثوقة.

تتمثل المشكلة الجوهرية في المتانة في التخصيص (Robustness in Personalization): وهي قدرة النموذج اللغوي الكبير على الحفاظ على الدقة الواقعية أثناء دمج تفضيلات المستخدم ذات الصلة وتجاهل التفضيلات غير ذات الصلة. وقد صاغ المؤلفون ذلك من خلال تعريف النموذج بأنه متين فقط إذا استوفى معيارين في آن واحد:

1. التعامل مع الصلة (Relevance Handling): الحفاظ على الدقة الواقعية عند التكييف مع تفضيلات المستخدم ذات الصلة (مثل "قدم إجابة موجزة").
2. تصفية عدم الصلة (Irrelevance Filtering): تجاهل تفضيلات المستخدم غير المرتبطة دلالياً (مثل "أنا نباتي" عند الإجابة على سؤال رياضي) دون تدهور في الأداء.

وتطرح الورقة سؤال البحث التالي: "عند توفير تفضيلات المستخدم، هل يضحي النموذج بالدقة الواقعية في استجابته لتلبية متطلبات التخصيص؟"

المنهجية

1. إطار عمل PERG ومجموعة البيانات

لتقييم هذه المقايضة بشكل منهجي، قدم المؤلفون PERG (التقييم المخصص للمتانة في التوليد)، وهو مسار تقييم وقاعدة بيانات قابلة للتوسع.

• البيانات المصدرية: تم بناء مجموعة البيانات من ثلاث مقاييس مرجعية واقعية مستقرة: MMLU (فهم المهام متعددة المستويات الضخمة)، وTruthfulQA، وCommonsenseQA. توفر هذه المقاييس أسئلة مع إجابات موضوعية وحقيقية.
• بناء التفضيلات:
  • التفضيلات ذات الصلة: تم إنشاؤها باستخدام GPT-4o-mini بناءً على أمثلة داخل السياق، لضمان ارتباطها بالاستعلام (مثل طلب شروحات "موجزة" أو "مفصلة") دون تغيير الحقيقة الواقعية.
  • التفضيلات غير ذات الصلة: تم استخراجها من مجموعة بيانات PrefEval (Zhao et al., 2025)، والتي تغطي مجالات مثل نمط الحياة، والسفر، والتسوق التي لا علاقة لها دلالياً بمهام الأسئلة والأجوبة الواقعية.
• حجم مجموعة البيانات: تحتوي PERGData النهائية على 7,200 مثال، يتكون كل منها من استعلام، وإجابة حقيقية، وتفضيلات مرتبطة.

2. مقاييس التقييم

اقترح المؤلفون أربعة مقاييس تكميلية لقياس المتانة، حيث تشير القيم الأقل إلى أداء أفضل:

• معدل الانكسار (Breakage Rate): يقيس عدد المرات التي يتسبب فيها التخصيص في فشل النموذج في مدخلات كان يجيب عليها بشكل صحيح سابقاً بدون التفضيلات ($1 - \text{Accuracy}_{\text{pref}}$ بالنظر إلى $\text{Accuracy}_{\text{no-pref}} = 1$).
• فشل المواءمة (Alignment Failure): يقيس عدد المرات التي يفشل فيها النموذج في اتباع تفضيلات المستخدم رغم إجابته بشكل صحيح.
• خطأ المتانة (Robustness Error): هو اتحاد انكسار الملاءمة وفشل المواءمة، ويمثل المعدل الإجمالي للفشل في إما الدقة الواقعية أو المواءمة.
• تباين الأداء (Performance Variation): يقيس التباعد في الصحة بين الإعدادات المخصصة وغير المخصصة (مشابه لمسافة جاكارد).

3. الإعداد التجريبي

• النماذج: تم تقييم 14 نموذجاً من 5 عائلات، بما في ذلك النماذج مفتوحة الأوزان (Mistral-7B, LLaMA-3-8B/70B, Gemma-2-9B/27B, Qwen3, Janus-7B) والواجهات البرمجية التجارية (GPT-4.1, GPT-4o-mini, DeepSeek-R1).
• طرق التلقين (Prompting Methods): شملت التجارب التلقين من الصفر (Zero-Shot)، وسلسلة الأفكار (CoT)، والتعلم داخل السياق (ICL)، وتلقين النقد الذاتي (Self-Critic).
• التقييم: تم استخدام نموذج Mistral-7B مضبوط بدقة كـ "محدد خيارات" لاستخراج الإجابات من استجابات الاختيار من متعدد، كما استخدم GPT-4o-mini كحكم لتقييم المواءمة مع التفضيلات (تم التحقق من صحته مقابل المقيمين البشر بمعامل كوهين كابا قدره 0.85).

4. الحل المقترح: Pref-Aligner

للتخفيف من حالات فشل المتانة، يقترح المؤلفون Pref-Aligner، وهو إطار عمل وكيل (agentic framework) مكون من مرحلتين يفصل بين عملية التوليد وعملية التخصيص:

• المرحلة 1 (المولد - Generator): يقوم وكيل بتوليد استجابة لاستعلام المستخدم دون النظر في التفضيلات، لضمان أن المحتوى الأساسي دقيق واقعياً.
• المرحلة 2 (الموائم - Aligner): يأخذ وكيل ثانٍ الاستجابة غير المشروطة وتفضيلات المستخدم. يقوم بإجراء تعديلات خفيفة فقط إذا كان التفضيل ذا صلة (مثل تقصير الاستجابة). إذا كان التفضيل غير ذي صلة، فإنه يعيد الاستجابة الأصلية دون تغيير.
• المنطق: يستفيد هذا النهج من حقيقة أن المسافة الدلالية بين الاستجابة غير الموائمة والاستجابة الموائمة أصغر من المسافة بين الاستعلام الخام والاستجابة الموائمة، مما يقلل من خطر الهلوسة.

النتائج الرئيسية

1. النماذج الحالية تفتقر إلى المتانة

• الانكسار: حتى أقوى النماذج تفشل في الحفاظ على الصحة في الإعدادات المخصصة. تُظهر نماذج GPT-4.1 وLLaMA-3-70B معدل انكسار بنسبة 5%، مما يعني أنها تفشل في أسئلة كانت ستجيب عليها بشكل صحيح بدون التفضيلات. وتُظهر النماذج الأصغر مثل Mistral-7B وJanus-7B معدلات انكسار تصل إلى 26%.
• المواءمة مقابل الواقعية: هناك مقايضة؛ فغالباً ما تعطي النماذج الأولوية للمواءمة على حساب الدقة الواقعية. على سبيل المثال، يمتلك Janus-7B معدل فشل مواءمة عالٍ (16%) ولكن لديه أيضاً معدل انكسار مرتفع.
• التوسع (Scaling): تتحسن المتانة مع حجم النموذج. يُظهر LLaMA-3-70B معدلات خطأ أقل بكثير من LLaMA-3-8B.
• محدودية التلقين: تعطي تقنيات التلقين القياسية (CoT, ICL, Self-Critic) نتائج مختلطة ولا تحسن المتانة الإجمالية باستمرار. وفي بعض الحالات، يحسن CoT معدلات الانكسار ولكنه يفاقم فشل المواءمة.

2. تأثير أنواع التفضيلات

• التفضيلات غير ذات الصلة: يؤدي وجود تفضيلات غير ذات صلة إلى تضخيم أخطاء المتانة بشكل كبير، وخاصة حالات فشل المواءمة، حيث تجد النماذج صعوبة في التمييز بين الإشارات ذات الصلة وغير ذات الصلة.
• فئات التفضيلات: التفضيلات التي تتطلب "التفكير" (الاستنتاج خطوة بخطوة) أو "السياق" غالباً ما تؤدي إلى معدلات انكسار أعلى، خاصة في TruthfulQA، مما يشير إلى أن الإفراط في التكييف مع خطوات الاستنتاج يمكن أن يجعل النماذج "تفرط في التفكير" وتفقد الدقة الواقعية. وعلى العكس من ذلك، فإن تفضيلات "الوضوح" (الإيجاز) تؤدي عموماً إلى معدلات انكسار أقل.

3. فعالية Pref-Aligner

• مكاسب الأداء: يقلل Pref-Aligner باستمرار من خطأ المتانة عبر جميع النماذج المختبرة.
• التحسن الكمي: يحقق إطار العمل تحسناً متوسطاً بنسبة 25% في المتانة عبر النماذج.
  • بالنسبة لـ LLaMA-3-70B، انخفض خطأ المتانة من 9.0% (التلقين القياسي) إلى 6.5%.
  • بالنسبة لـ Gemma-2-9B، انخفض الخطأ من 12.6% إلى 6.8% (أي انخفاض نسبي بنسبة 46%).
  • انخفض معدل الانكسار لـ LLaMA-3-70B في إعدادات التفضيلات ذات الصلة من 5.6% إلى 1.1%.
• التعميم: تم اختبار الإطار أيضاً على التوليد الحر (مجموعة بيانات MATH)، حيث قلل الانكسار بأكثر من 60% وفشل المواءمة بأكثر من 70%، مما يؤكد قابليته للنقل لما وراء أسئلة الاختيار من متعدد.

الأهمية والادعاءات

تدعي الورقة أنها الأولى التي تصيغ وتعرف المتانة صراحةً في سياق تخصيص النماذج اللغوية الكبيرة، متجاوزةً مجرد مقاييس المواءمة البسيطة.

• تحديد الفجوة الحرجة: يسلط العمل الضوء على أن ممارسات التقييم الحالية تخاطر بالمبالغة في تقدير موثوقية النماذج من خلال تجاهل المقايضة بين التخصيص والواقعية.
• الفائدة العملية: يقدم المؤلفون PERGData وPref-Aligner كأدوات مفتوحة المصدر لدعم عمليات نشر أكثر موثوقية للذكاء الاصطناعي المتوافق مع المستخدم.
• رؤى اختيار النماذج: تقدم النتائج رؤى عملية للممارسين، مشيرة إلى أن النماذج الأكبر هي الأكثر متانة، ولكن حتى النماذج رفيعة المستوى تتطلب تدخلات معمارية أو مسارات عمل (مثل Pref-Aligner) للتعامل مع التخصيض بأمان.
• الاتجاهات المستقبلية: يشير المؤلفون بتواضع إلى أنه بينما إطار عملهم قابل للتوسع، فإنه يركز حالياً على التفضيلات الصريحة وإعدادات الاختيار من متعدد. ويقترحون أن العمل المستقبلي يجب أن يستكشف استخراج التفضيلات الضمنية، ومحاور التخصيص الأوسع (القيم، الديموغرافيا)، واستراتيجيات التدريب التي تعمل صراحةً على تحسين المتانة.

تخلص الورقة إلى أنه بينما يعد التخصيص أمراً قيماً، فإن النماذج اللغوية الكبيرة الحالية ليست متينة تماماً، وأن النهج المنفصل مثل Pref-Aligner هو خطوة ضرورية نحو ذكاء اصطناعي موثوق ومتكيف مع المستخدم.