Mind the Gap: How Elicitation Protocols Shape the Stated-Revealed Preference Gap in Language Models

ملخص تقني: انتبه للفجوة: كيف تشكل بروتوكولات الاستنباط فجوة التفضيل المعلن والمُظهَر في النماذج اللغوية

1. بيان المشكلة

حددت الأدبيات الحديثة وجود فجوة بين التفضيل المعلن والمُظهَر (SvR) في النماذج اللغوية الكبيرة (LLMs): وهي التباين بين القيم التي تؤيدها النماذج صراحةً في السياقات المجردة والخيارات التي تتخذها في السيناريوهات السياقية (Gu et al., 2025; Liu et al., 2025; Chiu et al., 2025). تعتمد التقييمات الحالية لهذه الفجوة بشكل كبير على التحفيز القائم على الاختيار الثنائي الإجباري. هذه المنهجية تدمج قوة التفضيل، والحياد، وعدم اليقين في نتيجة ثنائية واحدة، مما قد يؤدي إلى خلط التفضيلات الحقيقية مع الآثار الناتجة عن بروتوكول الاستنباط (Khan et al., 2025; Balepur et al., 2025). المشكلة المركزية التي يتناولها البحث هي ما إذا كان ارتباط (SvR) المقاس يعكس محاذاة حقيقية للنموذج أم أنه مجرد نتاج ثانوي لإجبار النماذج على اتخاذ خيارات حاسمة عندما قد تحمل تفضيلات غير محددة.

2. المنهجية

يقوم المؤلفون بتقييم كيفية تأثير بروتوكولات الاستنباط على ارتباط (SvR) عبر 24 نموذجاً لغوياً. يبني البحث على إطار عمل LitOpsValues ومجموعة بيانات AIRiskDilemmas (Chiu et al., 2025)، مع توسيع المنهجية لتسمح صراحةً بالحياد والامتناع.

• بروتوكولات الاستنباط:
  • الاختيار الإجباري: يجب على النماذج اختيار قيمة أو إجراء واحد من اثنين.
  • الاختيار الموسع: يمكن للنماذج أيضاً الرد بـ "تفضيل متساوٍ" أو "يعتمد على السياق"، مما يسمح بالتعبير عن عدم الاكتراث أو عدم اليقين السياقي.
• إعدادات الاستنباط:
  • التفضيلات المعلنة: يتم استنباطها عبر مقارنات قيم مجردة زوجية (16 قيمة مشتركة للذكاء الاصطوي).
  • التفضيلات المُظهَرة: يتم استنباطها باستخدام 3,000 معضلة أخلاقية سياقية من مجموعة بيانات AIRiskDilemmas.
• بناء التصنيف:
  • تُشتق التصنيفات المعلنة من معدلات الفوز في المقارنات الثنائية الحاسمة.
  • تُستخدم تصنيفات Elo (المحولة إلى مقياس من 1 إلى 16) للتصنيفات المُظهَرة بناءً على حالات الفوز/الخسارة عبر المعضلات.
  • خيار منهجي حاسم: يتم استبعاد الردود المحايدة (متساوٍ/يعتمد على السياق) من بناء التصنيف لعزل الأولويات الاتجاهية الصارمة. هذا الاستبعاد ضروري لإنشاء تصنيفات كثيفة مطلوبة لترابط سبيرمان، لكن له تداعيات كبيرة على النتائج.
• التدخل: يختبر البحث توجيه نص النظام (System Prompt Steering)، حيث يتم إدراج هرم القيم المعلن الخاص بالنموذج (المستمد من الاستنباط عبر الاختيار الموسع) في نص النظام أثناء استنباط التفضيل المُظهر لمعرفة ما إذا كان ذلك يقلل من فجوة (SvR).
• المقاييس: يُقاس ارتباط (SvR) باستخدام معامل ارتباط رتب سبيرمان ($\rho$) بين تصنيفات الـ 1–16 المعلنة والمُظهَرة.

3. النتائج الرئيسية

أ. معدلات الحياد مرتفعة ومتفاوتة
تحت استنباط الاختيار الموسع، تتباين معدلات الحياد (الردود بـ "تفضيل متساوٍ" أو "يعتمد على السياق") بشكل كبير حسب عائلة النموذج ونمط الاستنباط.

• في استنباط التفضيلات المعلنة، يتراوح الحياد من 48.2% إلى 100% (على سبيل المثال، يختار Qwen-3-8B بشكل مهيمن "يعتمد على السياق").
• في استنباط التفضيلات المُظهَرة، تختار بعض النماذج (مثل متغيرات Mistral-3-8B) ردوداً محايدة في جميع السيناريوهات تقريباً، بينما يختار البعض الآخر (مثل Gemma-3-4B) "تفضيل متساوٍ" في حوالي 70% من الحالات.
• يشير هذا إلى أن المقارنات الثنائية الإجبارية غالباً ما تحجب عدم اليقين أو عدم الاكتراث الكامن.

ب. تأثير البروتوكول على ارتباط (SvR)
يقيم البحث ثلاث تكوينات:

1. الإجباري–الإجباري (الأساس): بتكرار منهجية Chiu et al. (2025)، يظهر هذا التكوين تبايناً كبيراً عبر النماذج في ارتباط (SvR)، مما يشير إلى الحساسية تجاه أنماط اتخاذ القرار الخاصة بكل نموذج.
2. المعلن الموسع / المُظهر الإجباري: السماح بالحياد فقط في التفضيلات المعلنة (تصفية المقارنات الضعيفة) يؤدي إلى زيادة ملحوظة في ارتباط (SvR). على سبيل المثال، تحسن LLaMA-3.1-405B-Instruct من $\rho \approx 0.2$ إلى $\rho \approx 0.7$. تحت هذا الشرط، يرتبط (SVR) طردياً مع قدرة النموذج (مؤشر قدرات Epoch).
3. الموسع–الموسع: السماح بالحياد في كلا التفضيلين المعلن والمُظهر يؤدي إلى انخفاض ارتباط (SVR) إلى قيم تقترب من الصفر أو قيم سالبة للعديد من النماذج. يحدث هذا لأن معدلات الحياد العالية في التفضيلات المُظهَرة تمنع بناء تصنيف كثيف ومستقر؛ إذ توفر الخيارات الثنائية المتبقية إشارة ضعيفة جداً للمقارنة القائمة على الارتباط.

ج. توجيه نص النظام غير موثوق
إن تطبيق توجيه نص النظام (حقن هرم القيم المعلن للنموذج في نافذة السياق) أثناء استنباط التفضيل المُظهر لا يحسن ارتباط (SVR) بشكل موثوق في نطاق الـ 16 قيمة.

• التأثيرات غير متسقة: بينما يظهر عدد صغير من النماذج تحسناً طفيفاً، فإن العديد من النماذج (بما في ذلك عائلة Claude) تظهر انخفاضاً في الارتباط بعد التوجيه.
• يتوافق هذا مع النتائج السابقة التي تشير إلى أن توجيه النص أكثر فعالية لمجموعات القيم الصغيرة (مثل 3 قيم) مقارنة بالمجموعات الأكبر (Liu et al., 2025). ومع وجود 16 قيمة، غالباً ما يؤدي التوجيه إلى حدوث تداخل يضعف اتساق القرار.

4. المساهمات الرئيسية

• حساسية البروتوكول: يثبت أن ارتباط (SVR) يعتمد بشدة على البروتوكول. إن اختيار السماح بالحياد أو منعه يغير جوهرياً عملية قياس المحاذاة.
• تصفية الإشارات الضعيفة: يوضح أن السماح للنماذج بالتعبير عن الحياد في التفضيلات المعلنة يعمل على تصفية المقارنات غير المحددة، مما ينتج تصنيفات ترتبط بقوة أكبر مع السلوك المُظهر القائم على الاختيار الإجباري.
• محدودية التوجيه: يقدم دليلاً على أن توجيه نص النظام البسيط غير كافٍ لسد فجوة (SVR) في نطاقات القيم الكبيرة (16 قيمة) وقد يكون ضاراً.
• الحياد كميزة: يسلط الضوء على أن معدلات الحياد العالية في التفضيلات المُظهَرة ليست مجرد ضجيج، بل تشير إلى أن العديد من النماذج تفتقر إلى ترتيب كلي واضح ومستقل عن السياق للقيم.

5. الأهمية والادعاءات

يخلص البحث إلى أن ارتباط (SVR) ليس خاصية ذاتية مستقرة للنموذج، بل يتشكل بشدة بواسطة بروتوكول الاستنباط.

• الأثر المنهجي: يجب أن يأخذ تقييم التفضيل في الاعتبار الحياد وعدم التحديد صراحةً، بدلاً من فرض خيارات ثنائية قد تخلق حزماً اصطناعياً.
• أثر المحاذاة: سد فجوة (SVR) يتطلب على الأرجح تدخلات أقوى من مجرد توجيه نص النظام للقيم المعلنة، خاصة عندما تكون العديد من القيم قيد التشغيل.
• تفسير الحياد: تشير معدلات "يعتمد على السياق" و"تفضيل متساوٍ" العالية في السيناريوهات المُظهَرة إلى أن العديد من النماذج لا تمتلك هرمية قيم صارمة ومستقلة عن السياق، مما يتحدى افتراض وجود "نظام قيم" واحد ومستقر يمكن توجيهه بسهولة.

يؤكد المؤلفون أن نتائجهم تشير إلى الحاجة إلى طرق تقييم لا تستبعد الحياد بل تعمل على نمذجته، حيث إن فرض ترتيب كلي على تفضيلات غير محددة قد يؤدي إلى مقاييس مضللة للمحاذاة.