🤖 AI

CriterAlign: Criterion-Centric Rationale Alignment for Code Preference Judging

تقدم الورقة البحثية CriterAlign، وهو إطار عمل يرتكز على المعايير يعمل على تعزيز التنبؤ بالتفضيلات الثنائية للأكواد من خلال استبدال التقييم المستقل بالمقارنات المباشرة على مستوى المعايير ودمج التوجيه المتوافق مع التفضيل البشري (HPAG) ليتفوق بشكل كبير على الأحكام المتجانسة الحالية.

المؤلفون الأصليون: Zhenyu Li, Aleksandar Cvejic, Zehui Chen, Peter Wonka

نُشر 2026-05-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhenyu Li, Aleksandar Cvejic, Zehui Chen, Peter Wonka

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك مدير يحاول اتخاذ قرار بشأن أي من موظفين (لنسمهما أليس وبوب) قد أدى عملاً أفضل في مشروع برمجي. لديك كود كل منهما، والنتائج التي أنتجاها، وقائمة من القواعد لاتباعها.

لفترة طويلة، كانت نماذج الذكاء الاصطوي التي تحاول القيام بهذه المهمة تعمل مثل مشرف واحد مجهد. حيث تنظر إلى عمل أليس، وتعطيه درجة من 10. ثم تنظر إلى عمل بوب، وتعطيه درجة من 10. وأخيراً تقارن بين الرقمين وتختار الفائز.

تجادل ورقة بحثية بعنوان "CriterAlign" بأن نهج "التقييم أولاً" هذا معيب في مجال البرمجة. الأمر يشبه الحكم في مسابقة طبخ عبر إعطاء كل طباخ درجة لـ "المذاق"، و"التقديم"، و"السرعة" بشكل منفصل، ثم جمعها معاً. المشكلة هي أن الذكاء الاصطناعي غالباً ما يتشتت بأشياء سطحية (مثل من كتب كلمات أكثر أو استخدم تنسيقاً أفخم) ويفقد التركيز على الفروقات الحقيقية والدقيقة التي يهتم بها البشر.

CriterAlign هو طريقة جديدة للتحكيم تغير قواعد اللعبة من "التسجيل الرقمي" إلى "المقارنة المباشرة". وإليك كيف يعمل، باستخدام تشبيهات بسيطة:

1. "المواجهة المباشرة" (الحكم الثنائي)

بدلاً من تقييم أليس وبوب بشكل منفصل، يضعهم CriterAlign في حلبة واحدة لكل قاعدة.

الطريقة القديمة: "أليس تحصل على 8/10 في السرعة. بوب يحصل على 7/10 في السرعة."
طريقة CriterAlign: "بين أليس وبوب، من هو الأسرع فعلياً؟"
يُجبر الذكاء الاصطنا هنا على النظر إليهما جنباً إلى جنب ليقول: "أليس تفوز في هذه النقطة المحددة"، أو "إنه تعادل"، أو "بوب يفوز". هذا يحاكي الطريقة التي يفكر بها البشر فعلياً عند مقارنة خيارين.

2. "مجهر الحكم" (التحسين القائم على التعادل)

أحياناً، ينظر الذكاء الاصطناعي إلى قاعدة (مثل "هل الكود فعال؟") ويقول: "كلاهما متعادلان، لا يمكنني تمييز الفرق".
في النظام القديم، كان الذكاء الاصطناعي يقبل هذا التعادل ويمضي قدماً. لكن CriterAlign يعامل "التعادل" كإشارة إلى أن القاعدة كانت غامضة للغاية.

التشبيه: تخيل عداءين أنهيا السباق في نفس الوقت تماماً. الحكم السيئ يقول: "إنه تعادل". أما الحكم الجيد فيقول: "انتظر، دعونا ننظر إلى حركة أقدامهما. هل تعثر أحدهما قليلاً؟".
يأخذ CriterAlign هذا "التعادل" ويقوم بتفكيك القاعدة إلى أسئلة أصغر وأكثر دقة (مثلاً: "من تعامل مع الحالات الاستثنائية بشكل أفضل؟") حتى يتمكن من إيجاد فرق حقيقي.

3. "فحص العدالة" (اتساق التبديل)

نماذج الذكاء الاصطناعي معروفة بانحيازها للترتيب. إذا عرضت كود أليس أولاً، فقد يحبها الذكاء الاصطناعي أكثر لمجرد أنها ظهرت أولاً.

التشبيه: تخيل اختبار تذوق حيث يفضل الحكم دائماً كوب الماء الأول الذي يشربه.
يقوم CriterAlign بإجراء "فحص للعدالة". فهو يطلب من الذكاء الاصطناعي الحكم على الزوج مرة أخرى، ولكن هذه المرة يقوم بتبديل الترتيب (بوب أولاً، ثم أليس). إذا غير الذكاء الاصطناعي رأيه لمجرد أن الترتيب تغير، فإن CriterAlign يرمي هذا الدليل المحدد في سلة المهملات. إنه يحتفظ فقط بالأحكام التي كانت مستقرة وعادلة، بغض النظر عمن جاء أولاً.

4. "همس البشر" (HPAG)

حتى مع وجود قواعد أفضل، قد يظل للذكاء الاصطناعي "شخصية" مختلفة عن البشر. قد يولي أهمية لـ "الكود النظيف" بينما يفضل البشر "التأثيرات البصرية الرائعة"، أو العكس.

التشبيه: تخيل حكماً آلياً لم يقابل بشراً قط. يحتاج إلى "ورقة غش" كتبها البشر تقول له: "مهلاً، عندما ترى تصميماً لموقع ويب، تذكر أن البشر يهتمون بكيفية مظهره أكثر من كيفية تنظيم الكود".
يقوم CriterAlign بإنشاء ورقة الغش هذه (المسماة HPAG) من خلال دراسة الآلاف من الأمثلة السابقة التي أخطأ فيها الذكاء الاصطناي مقارنة بالبشر. إنه يستخرج "الفجوات" في التفكير ويحقن هذه الدروس في عقل الذكاء الاصطناعي قبل أن يبدأ في التحكيم. هذا يعلم الذكاء الاصطناعي كيف يفكر كالبشر دون الحاجة لإعادة تدريب النموذج بالكامل.

النتيجة

عندما اختبر الباحثون هذا النظام الجديد على اختبار مرجعي كبير لمهام البرمجة:

حصل ذكاء اصطناعي "المشرف الواحد" القديم على حوالي 60% من الإجابات الصحيحة (مطابقة لتفضيلات البشر).
أنظمة معايير "التقييم الرقمي" القديمة كانت في الواقع تؤدي بشكل أسوأ من "المشرف الواحد".
قفز CriterAlign إلى دقة بلغت 66%.

باخت de المختصر: يتوقف CriterAlign عن جعل الذكاء الاصطناعي يحاول تصحيح الأوراق بشكل فردي. بدلاً من ذلك، يجبر الذكاء الاصطناعي على التصرف كحكم بشري: يقارن بين إجابتين وجهاً لوجه، ويدقق في حالات التعادل لإيجاد الفائز الحقيقي، ويتجاهل انحياز الترتيب، ويتبع "ورقة غش بشرية" لضمان تقدير الأشياء الصحيحة.

ملخص تقني: CriterAlign

بيان المشكلة

انتقل تقييم أنظمة توليد الكود من مجرد الصحة الوظيفية البسيطة إلى التنبؤ بالتفضيل البشري الزوجي (pairwise human preference prediction)، حيث يكون الهدف هو تحديد أي من حلين مرشحين يلبي المقايضات الخاصة بالمهمة بشكل أفضل (مثل: الدقة البصرية مقابل هيكلية الكود). وبينما تُستخدم النماذج اللغوية الكبيرة (LLMs) بشكل متزايد كأحكام تلقائية، فإن الأحكام المتجانسة (monolithic judges) (التي تتنبأ بالتفضيل في خطوة واحدة) غالبًا ما تفشل في التوافق مع التفضيلات البشرية. فهي تميل إلى أن تكون هشة، وحساسة لترتيب الاستجابات، ومعرضة للمبالغة في التركيز على الإشارات السطحية مثل الإطناب أو التنسيق مع التقليل من استخدام أدلة التنفيذ.

تحاول البدائل الحالية، وهي الأحكام القائمة على المعايير (rubric-based judges)، تحسين القابلية للتفسير من خلال تفكيك التقييم إلى معايير صريحة. ومع ذلك، تظل معظم المسارات الحالية نقطية (pointwise): فهي تقوم بتقييم كل استجابة بشكل مستقل تحت كل معيار وتستنتج تفضيلاً عبر مقارنة الدرجات المجمعة. ويجادل المؤلفون بأن هذا التصميم لا يتناسب مع طبيعة التفضيل البشري الزوجي، حيث تكون الأدلة الرئيسية غالبًا مقارنة وليست مطلقة. وتظهر النتائج التجريبية أن مجرد تطبيق مسارات المعايير النقطية يمكن أن يؤدي إلى أداء أقل حتى من الأحكام المتجانسة القوية.

المنهجية: CriterAlign

يقترح البحث إطار عمل CriterAlign، وهو إطار مركزي المعايير مصمم خصيصًا لـ التنبؤ بالترجيح الزوجي للكود. وهو يكيف الحكم القائم على المعايير ليتناسب مع الإعداد الزوجي من خلال أربع آليات أساسية ويقدم مكونًا لتوليد التوجيه.

1. الحكم على المعايير بشكل زوجي (Pairwise Criterion Judging)

بدلاً من تعيين درجات نقطية مستقلة لكل استجابة، يطلب CriterAlign من حكم المعيار إنتاج حكم زوجي مباشر لكل معيار مُولد: $v \in \{A, B, \text{tie}, \text{insufficient}\}$ . وهذا ينقل التقييم من "هل تلبي الاستجابة A المعيار X؟" إلى "أي استجابة تلبي المعيار X بشكل أفضل؟". يتم تركيب التفضيل النهائي بواسطة حكم (LLM) يجمع هذه الأحكام المقارنة، مما يسمح بمقايضات غير موحدة عبر المعايير (على سبيل المثال: فجوة الصحة قد تهيمن على مزايا الأسلوب الطفيفة).

2. صقل المعايير المدفوع بالتعادل بنظام الدفعات (BTCR)

عندما يؤدي معيار ما إلى "تعادل"، فإن ذلك يشير غالبًا إلى أن المعيار فضفاض للغاية بحيث لا يستطيع التمييز بين الاستجابات. يستخدم CriterAlign تقنية BTCR لصقل هذه المعايير المتعادلة.

العملية: لكل معيار أب متعادل، يقوم النظام بتوليد معايير فرعية أكثر دقة مشروطة بالاستجابات المحددة ومنطق التعادل.
التصفية: يتم تصفية المعايير الفرعية المولدة بحثًا عن التكرار والتعارض مع المعايير الموجودة بطريقة دفعات لضمان الكفاءة.
إعادة الحكم: يتم إعادة تقييم المعايير الفرعية المقبولة باستخدام الحكم الزوجي. إذا كانت المعايير الفرعية تفضل استجابات مختلفة، يتم الاحتفاظ بكلتا النتيجتين كأدلة مقايضة دقيقة للتركيب النهائي.

3. تصفية معايير اتساق التبديل (SCF)

لمعالجة الحساسية المعروفة للأحكام الزوجية تجاه ترتيب المرشحين (انحياز الموضع)، يقدم CriterAlign تقنية SCF.

الآلية: بعد الصقل، يعيد النظام الحكم على نفس المعايير مع تبديل ترتيب المرشحين ( $b, a$ بدلاً من $a, b$ ).
التصفية: يتم الاحتفاظ بالحكم على مستوى المعيار فقط إذا كان الحكم متسقًا تحت التبديل (على سبيل المثال، إذا فازت $A$ في $(a, b)$ ، يجب أن تظل $A$ هي الفائزة في $(b, a)$ بعد رسم الخرائط للنتيجة).
النتيجة: يعمل هذا على إزالة الأدلة غير المستقرة والحساسة للموضع على مستوى المعيار بدلاً من التخلص من المثال بأكمله، مما يعمل كآلية لإزالة الانحياز وكمرشح للجودة في آن واحد.

4. التوجيه المتوافق مع التفضيل البشري (HPAG)

للمواءمة مع المنطق البشري، يقدم المؤلفون HPAG، الذي يتم تركيبه خارج الخط (offline) من مجموعة التدريب.

التركيب: يقارن مُركب التوجيه بين قرارات التفضيل البشرية وتوقعات الحكم المتجانس على أمثلة التدريب. ويستخرج فجوات المنطق المتكررة—وهي الأبعاد التي يهتم بها البشر والتي يغفل عنها الحكم أو يبالغ في التأكيد عليها أو يقلل من أهميتها.
الحقن: يتم تقطير التوجيه الناتج إلى مبادئ عامة ومبادئ على مستوى الفئة (مثل: تطوير الويب، تطوير الألعاب). يتم حقن هذه المبادئ في ثلاث مراحل من المسار: مولد المعايير، حكم المعايير، والحكم النهائي. يضمن ذلك أن النظام يولد معايير ذات صلة بشرية، ويحكم عليها بمنطق متوافق مع البشر، ويركبها وفقًا للأولويات البشرية.

المساهمات الرئيسية

تحديد عدم التطابق: يثبت المؤلفون تجريبيًا أن مسارات توليد المعايير النقطية غير متوافقة مع التنبؤ بالترجيح الزوجي للكود، وغالبًا ما تؤدي إلى أداء أسوأ من الأحكام المتجانسة القوية.
إطار عمل CriterAlign: إطار عمل جديد مركزي المعايير للترجيح الزوجي يتميز بـ:
- أحكام معايير زوجية مباشرة.
- صقل التعادل المدفوع بالدفعات (BTCR) لحل حالات التعادل الفضفاضة.
- تصفية اتساق التبديل (SCF) لإزالة الأدلة الحساسة للترتيب.
- توجيه متوافق مع التفضيل البشري (HPAG) مستخلص من فجوات المنطق بين الحكم البشري والحكم الآلي.
التحقق التجريبي: تحقيق مكاسب ثابتة في اختبار BigCodeReward، مع دراسات استئصال (ablation studies) تعزل مساهمات التكيف الزوجي، والتصفية، والتوجيه.

النتائج

تم التقييم على مجموعة التحقق من BigCodeReward (3,785 مثالاً):

الأساس (Baseline): حقق حكم Qwen2.5-VL-32B المتجانس دقة بنسبة 60.4%.
المعايير النقطية (Pointwise Rubrics): أدت الأسس النقطية الحالية (مثل RRD، LLM Rubrics) إلى أداء أسوأ بكثير، تراوح بين 48.1% و55.0%، مما يؤكد عدم التطابق.
CriterAlign: حسن الإطار الكامل الدقة إلى 66.3%، بزيادة قدرها +5.9 نقطة عن الأساس المتجانس و +11.3 نقطة عن أقوى أساس معياري تمت إعادة إنتاجه.
دراسة الاستئصال (Ablation):
- الانتقال من الحكم النقطي إلى الحكم الزوجي وحده استعاد الأداء إلى 61.8%.
- إضافة BTCR و SCF و HPAG قدمت تحسينات تراكمية، حيث وفر HPAG على مستوى الفئة الدفعة النهائية لتصل إلى 66.3%.
التعميم: أظهرت الطريقة متانة عبر مختلف نماذج الحكم (Kimi-VL, Gemma-4) ومُركبات التوجيه، مع ملاحظة أكبر المكاسب النسبية في الأحكام الأضعف.

الأهمية والادعاءات

يدعي البحث أنه بالنسبة للتنبؤ بتفضيل الكود، فإن توليد المزيد من المعايير ليس كافيًا؛ بل إن مواءمة كيفية مقارنة المعاي وتركيبها مع التفضيلات البشرية الزوجية أمر بالغ الأهمية. يثبت CriterAlign أن:

التكيف الزوجي ضروري لجعل الحكم القائم على المعاي فعالًا لمهام التفضيل.
تصفية الأدلة غير المستقرة (عبر SCF) و صقل التعادلات غير المميزة (عبر BTCR) أمران أساسيان للمتانة.
تركيب التوجيه خارج الخط (HPAG) يمكن أن يسد الفجوة بين توقعات الحكم المتجانس والمنطق البشري دون الحاجة لضبط دقيق (fine-tuning) لنموذج الحكم، مما يسمح للنماذج المجمدة بالتوافق مع أنماط التفضيل البشري المحددة.

يضع هذا العمل نفسه كخطوة نحو تقييم أكثر شفافية وقابلية للتفسير وموثوقية لتوليد الكود، متجاوزًا الأحكام السوداء أحادية الخطوة نحو استدلال تفضيلي مهيكل وقائم على الأدلة.