🤖 machine learning

Procedural-skill SFT across capacity tiers: A W-Shaped pre-SFT Trajectory and Regime-Asymmetric Mechanism on 0.8B-4B Qwen3.5 Models

تُظهر هذه الورقة أنه بينما يحقق الضبط الدقيق (SFT) للمهارات الإجرائية مكاسب مطلقة موحدة عبر نماذج Qwen3.5 ذات الأحجام من 0.8 إلى 4 مليارات معلمة، فإن مسار الأداء الناتج يتبع نمطاً على شكل حرف W مدفوعاً بتباين القدرات الأساسية بين الأنظمة، حيث يوفر الضبط الدقيق (SFT) التحسن المطلق الأكثر أهمية للنماذج التي تعاني في البداية مع الإجراء.

المؤلفون الأصليون: Igor Strozzi

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC0 1.0

المؤلفون الأصليون: Igor Strozzi

البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: تعليم وصفة لطهاة مختلفين

تخيل أن لديك ثلاثة طهاة بمستويات خبرة مختلفة:

المبتدئ (0.8B): مساعد مطبخ متحمس ولكنه يتشتت بسهولة.
المتدرب (2B): طباخ يعرف الأساسيات ولكنه يتقاعس أحياناً أو يتخطى بعض الخطوات.
مساعد الشيف (4B): طباخ كفء جداً ويمكنه عادةً تدبر أموره بنفسه.

أراد الباحثون معرفة ما سيحدث إذا أعطوا الطهاة الثلاثة وصفة مكتوبة محددة مكونة من 5 خطوات (مهارة إجرائية) لاتباعها في 200 تحدٍ مختلف للطهي. أرادوا معرفة: هل إعطاؤهم الوصفة يساعدهم حقاً على الطبخ بشكل أفضل، أم أنهم يتظاهرون فقط باتباعها؟

الاكتشاف الرئيسي: شكل حرف "W"

وجد الباحثون شيئاً مفاجئاً. قبل إعطاء أي شخص الوصفة، كان قدرة الطهاة على التعامل مع المهمة تتبع شكلاً غريباً يشبه حرف "W" عند النظر إليهم من الأصغر إلى الأكبر:

المبتدئ (0.8B): عندما أُعطي الوصفة قبل التدريب، أدى أداءً أسوأ. كانت الخطوات الخمس معقدة للغاية؛ فقد ارتبك عند الخطوة الأولى وأفسد الطبق بأكمله. كانت الوصفة عبئاً عليه.
المتدرب (2B): عندما أُعطي الوصفة، أدى أداءً أفضل. لقد كان في "المنطقة المثالية". عملت الوصفة مثل عجلات التدريب، مما ساعده على مراجعة عمله وتجنب الأخطاء التي كان يرتكبها عادةً.
مساعد الشيف (4B): عندما أُعطي الوصفة قبل التدريب، كان أداؤه أسوأ قليلاً (أو ظل كما هو). كان بارعاً جداً في الطبخ لدرجة أن قراءة الوصفة بدت له وكأنها مجرد أعمال ورقية إضافية. لقد أبطأت من سرعته دون إضافة قيمة.

التحول المفاجئ: بعد أن قام الباحثون بتدريب الطهاة باستخدام الوصفة (عملية تسمى SFT)، حدث شيء سحري. كان مقدار التحسن متساوياً تقريباً لجميع الطهاه الثلاثة.

تعلم المبتدئ اتباع الخطوات دون ارتباك.
أصبح المتدرب أكثر دقة.
تعلم مساعد الشيف التوقف عن معاملة الوصفة كأوراق روتينية مزعجة والبدء في استخدامها كأداة مفيدة.

الدرس المستفاد: التدريب (SFT) يعمل بقوة أكبر حيث يعاني الطاهي أكثر. فهو يعالج ارتباك المبتدئ ويصقل مهارة الكفء، مما يؤدي إلى "دفعة" متشابهة للجميع، رغم أنهم بدأوا من أمابكن مختلفة تماماً.

فخ "التنسيق" (خطأ فادح قاموا بإصلاحه)

يسلط البحث الضوء على خطأ كبير كادوا أن يقعوا فيه.

تخيل حكماً صارماً لا يقبل إلا الإجابات المكتوبة على سطر محدد: "الإجابة: [اسم الطبق]".

المبتدئ ومساعد الشيف غالباً ما كتبوا الإجابة في جملة مثل: "أستنتج أن الطبق هو بيتزا."
لم يستطع الحكم الصارم (السكربت البرمجي) العثور على كلمة "الإجابة" واعتبرهم راسبين، رغم أنهم قدموا الإجابة الصحيحة.
المتدرب صدف أنه كتب بالتنسيق الذي أراده الحكم تماماً، فبدا وكأنه الفائز.

أدرك الباحثون أن "الحكم" الخاص بهم كان منحازاً. لم يكن يقيس مهارة الطبخ؛ بل كان يقيس مهارة الكتابة.

الإصلاح: استبدلوا الحكم بـ "حكم بشري" (ذكاء اصطناعي يقرأ الجملة كاملة).

النتيجة: قفزت درجات المبتدئ ومساعد الشيف!
التحيز: كان الحكم الصارم يعاقب بشكل غير عادل الطهاة الذين كتبوا في "صيغة حرة"، حيث وجد الباحثون أن المجموعة "المنظمة" (التي تتبع الوصفة) تعرضت للعقاب أكثر من قبل الحكم الصارم لأن شروحاتهم التفصيلية غالباً ما كانت تدفن الإجابة النهائية داخل النص.

"السقف" و "الحدود القصوى"

قارن الباحثون مساعد الشيف (4B) المدرب بـ شيف عالمي مشهور (يُدعى "Haiku-4-5").

قبل التدريب، كان مساعد الشيف جيداً، لكنه لم يكن بمستوى الشيف المشهور.
بعد التدريب باستخدام الوصفة، تعادل مساعد الشيف مع الشيف المشهور. كلاهما حقق 197 من أصل 200 طبق بشكل مثالي.
يثبت هذا أن التدريب لم يجعل مساعد الشيف "يبدو" فقط وكأنه يتبع الخطوات؛ بل جعله بالفعل بمستوى الأفضل في العالم لهذه المهام المحددة.

ما لم ينجح (النتائج "السلبية")

حاول الباحثون جعل المبتدئ (0.8B) أفضل عن طريق تغيير وصفة التدريب (تغيير النص، حذف أجزاء من الخطوات، إل�خ).

النتيجة: لم يفلح أي شيء. ظل المبتدئ غير قادر على طبخ الأطباق بشكل مثالي.
السبب: ببساطة، لم يمتلك المبتدئ القدرة الذهنية (السعة) لاستيعاب جميع الخطوات في ذهنه في وقت واحد. مهما حاولوا تعليمه، كان "السقف" هو حدود المبتدئ نفسه، وليس طريقة التدريس.

ملخص النقاط الرئيسية

التدريب يساعد الجميع، ولكن لأسباب مختلفة: فهو ينقذ المرتبك، ويصقل مهارة الكفء، ويعيد دمج الواثق أكثر من اللازم. "الدفعة" متشابهة بشكل مفاجئ عبر الجميع.
لا تثق في الأحكام الجامدة: إذا كنت تتحقق فقط من تنسيق معين (مثل "الإجابة: X")، فقد تفوتك حقيقة أن النموذج قد حل المشكلة بشكل صحيح بالفعل.
الحجم مهم، ولكن ليس بالطريقة التي تظنها: يمكن للنموذج الصغير أن يتعلم استخدام إجراء ما بنفس جودة النموذج الكبير، لكنه لا يستطيع بالضرورة تنفيذ المهمة بأكمل تها بشكل مثالي إذا كانت المهمة صعبة جداً على حجم دماغه.
منحنى "W": النماذج الصغيرة ترتبك من الإجراءات؛ النماذج المتوسطة تحبها؛ والنماذج الكبيرة تجدها مزعجة حتى يتم تدريبها على رؤية قيمتها.

باختاً: يوضح البحث أن تعليم عملية خطوة بخطوة هو أداة قوية، ولكن يجب عليك قياسها بإنصاف (تجاهل قواعد التنسيق الجامدة) وفهم أن حجم النموذج يحدد مدى جودة قدرته على تنفيذ الخطوات، حتى لو تعلم اتباعها بنفس جودة نموذج أكبر.

ملخص تقني: الضبط الدقيق للمهارات الإجرائية عبر مستويات السعة

بيان المشكلة
تبحث الورقة فيما إذا كانت التعليمات الإجرائية الصريحة أثناء الضبط الدقيق الخاضع للإشراف (SFT) تُعلّم النماذج اللغوية الصغيرة كيفية استخدام الإجراءات الاستدلالية بفعالية وقت الاستدلال، أم أنها مجرد حث للنماذج على محاكة شكل الاستجابة (تعلم التنسيق). وتحديداً، تبحث الورقة في مساهمة الضبط الدقيق للمهارات الإجرائية عبر مستويات مختلفة من سعة النماذج (0.8 مليار، 2 مليار، و4 مليارات بارامتر) باستخدام سلسلة نماذج Qwen3.5 الكثيفة. والتحدي المركزي الذي تمت معالجته هو احتمال وجود عيوب في التقييم، لا سيما انحياز الامتثال للتنسيق في الأحكام الحتمية، مما قد يخلط بين تعلم التنسيق والتطبيق الإجرائي الفعلي.

المنهجية
تستخدم الدراسة مسار عمل متكامل يتضمن:

بناء البيانات: كتالوج مُعد يدوياً لـ 40 مهارة تقريرية (تغطي المغالطات المنطقية، الأشكال الاستنتاجية، الانحيازات المعرفية، إلخ) تمت إعادة كتابتها في أشكال إجرائية بواسطة Opus 4.7. قام مُجمِّع (Synthesizer) بتوليد 600 مهمة (400 للتدريب، 200 للاختبار)، مما ضمن علاقة 1:1 بين المهمة والمهارة.
مجموعة بيانات SFT: مجموعة بيانات دردشة منسقة مكونة من 353 صفاً تم توليدها عبر تتبع استجابات Opus 4.7 مع حقن كتل المهارات الإجرائية. تتكون المجموعة من (مطالبة النظام مع كتلة المهارة، مهمة المستخدم، سلسلة أفكار المساعد + سطر الإجابة النهائي) كأمثلة توضيحية.
النماذج: ثلاثة نماذج Qwen3.5 كثيفة (0.8B، 2B، 4B) تم ضبطها بدقة باستخدام تقنية LoRA. كما تم تضمين نموذج مرجعي رائد، Claude Haiku 4.5، للمقارنة.
بروتوكول التقييم:
- الحالات: الأساس (مطالبة الحل بدون كتلة المهارة) مقابل المنسق (مطالبة الحل مع كتلة المهارة الإجرائية المطابقة).
- التسجيل (Scoring): تم استخدام مسارين: (1) المختلط الحتمي (استخدام dispatch الخاص بالمنصة الأصلية مع مستخرجات regex للإجابات المهيكلة وOpus 4.7 للنصوص الحرة)، و(2) المسار المعتمد على LLM فقط (استخدام Opus 4.7 كحكم لجميع أنواع المهام لتجاوز بوابات الامتثال للتنسيق).
- المقاييس: معدلات النجاح، والرفع التفاضلي ( $\Delta = \text{pass\_rate}_{\text{curated}} - \text{pass\_rate}_{\text{baseline}}$ ).
- التحقق: التحقق عبر العائلات المختلفة باستخدام GPT-5.4 على 2,800 حلقة مزدوجة للحد من انحياز تداخل الحكم.

النتائج الرئيسية

المساهمة الموحدة لـ SFT (الرفع $\Delta$ ): تحت نظام التسجيل المعتمد على LLM فقط (المسار المتطابق)، يكون الرفع الإجرائي المنسوب لـ SFT موحداً تقريباً عبر أحجام النماذج: +0.070 (0.8B)، +0.040 (2B)، و+0.075 (4B). يشير هذا إلى أن العمل التفاضلي الذي يقوم به SFT (تعليم النموذج استخدام الإجراء مقابل عدم استخدامه) ثابت بالنسبة للسعة ضمن نطاق 4 نقاط مئوية.
مسار ما قبل SFT على شكل حرف W: يتأثر التباين في أداء ما بعد SFT بالمسار غير الرتيب لما قبل SFT.
- 0.8B: انخفاض عميق ( $\Delta = -0.075$ ). تفتقر القاعدة إلى السعة لاتباع الإجراء المكون من 5 خطوات، مما يؤدي إلى أخطاء تراكمية.
- 2B: ذروة إيجابية ( $\Delta = +0.060$ ). تقع القاعدة في "نقطة مثالية" حيث تعمل الإجراءات كركيزة (scaffolds) تدقق في العمليات التي قد يتجاهلها النموذج لولا ذلك.
- 4B: انخفاض ضحل ( $\Delta = -0.010$ ). القاعدة كافية لحل المهام مباشرة؛ الإجراء يضيف عبئاً دون إشارة مفيدة، مما يؤدي أحياناً إلى استنتاجات أقل دفاعاً عن النفس.
- النموذج الرائد (Haiku-4-5): إيجابي طفيف ( $\Delta = +0.030$ ).
آلية عدم التماثل في الأنظمة (Regime-Asymmetric): يعمل SFT بأقصى قدرة له في المصطلحات المطلقة حيث تعاني القاعدة من عدم القدرة على اتباع الإجراء. فهو ينقذ نموذج 0.8B من نظام غير قادر إجرائياً إلى وضع محايد، ويحول نموذج 4B من نظام عبء إجرائي إلى نظام مفيد إجرائياً. الآلية هي عدم تماثل في الأنظمة وليست مرتبطة حصراً بالسعة.
عيب الامتثال للتنسيق: حددت الدراسة انحيازاً منهجياً في مستخرج سطر الإجابة (ANSWER) الحتمي المستخدم في 83.5% من المنصة. هذا المستخرج يقلل من عدّ الاستنتاجات النثرية الحرة، مما يعاقب بشكل منهجي الحالة المنسقة (حيث غالباً ما تكون الاستنتاجات مدمجة في السرد الإجرائي) والمرجع الرائد (Haiku). كشف إعادة التقييم المعتمد على LLM فقط عن هذا الانحياز، حيث أظهر أن أداء Haiku تحسن بمقدار +18.5 نقطة مئوية في الحالة المنسقة عند إزالة قيود التنسيق.
سقف سعة 0.8B: فشلت تنويعات الوصفات التكرارية عند 0.8B (تكوين المجموعة، الضبط الجزئي، تجريد كتلة المهارة) في رفع معدل النجاح المطلق بما يتجاوز نطاق 2 نقطة مئوية. هذا يؤكد أن السقف المطلق لـ 0.8B مرتبط بسعة الاستدلال الأساسية، وليس بوصفة SFT. ومع ذلك، ظل الرفع التفاضلي ( $\Delta$ ) متسقاً مع النماذج الأكبر.
التكافؤ مع النماذج الرائدة: يتساوى نموذج 4B مع SFT (الإصدار 2.0) مع المرجع Haiku-4-5 عند السقف الفعال للمنصة (0.985 معدل نجاح) تحت التسجيل العادل. يُعزى هذا إلى SFT بالإضافة إلى توسيع القاعدة، حيث أن قاعدة 4B قبل SFT (0.840) لم تكن تضاهي Haiku.

الأهمية والادعاءات
تدعي الورقة أنها تتجاوز إطارين سابقين: "تعلم التنسيق فقط عند 0.8B" (الذي كُشف أنه خطأ ناتج عن عدم تطابق المسار) و"تقل مساهمة SFT عند 4B" (الذي كُشف أنه سوء فهم لمسار ما قبل SFT).

المساهمة التجريبية: تقدم دليلاً على أن SFT للمهارات الإجرائية يقدم رفعاً تفاضلياً ثابتاً عبر المقاييس، لكن الفائدة الصافية تعتمد بشدة على النظام الإجرائي المسبق للنموذج الأساسي.
المساهمة المنهجية: تسلط الضوء على عيب حرج في الامتثال للتنسيق في المعايير القياسية، مما يحيز ادعاءات SFT ضد الحالات المنسقة والنماذج الرائدة. وتثبت ضرورة التقييم المتسامح مع التنسيق (التقييم المعتمد على LLM فقط) للفصل بين تعلم التنسيق والتطبيق الإجرائي.
التنبؤ القابل للفحص: تتنبأ الورقة أنه عند المقاييس الأكبر (8B/14B)، سيعود مسار ما قبل SFT نحو القيم الإيجابية (على غرار Haiku)، وسينكمش الرفع التفاضلي ( $\Delta$ ) لـ SFT نحو مستويات نموذج 2B مع تصبح القاعدة أكثر ملاءمة للإجراءات بشكل طبيعي.

القصور
تشير المؤلفات صراحة إلى عدة قصور:

تقييم البذرة الواحدة: النتائج هي تقديرات نقطية بدون تكرار عبر بذور متعددة.
تداخل المجموعة والتحكيم: تم استخدام Opus 4.7 لتخليق المهام، وتوليد المسارات، والتحكيم. وبينما يحد التحقق عبر العائلات (GPT-5.4) من انحياز مرحلة التحكيم، فإن التداخل الهيكلي بين توليد المجموعة والتحكيم يظل غير محدود.
توافق المهام: تقيس المنصة التطبيق الإجرائي على مهام متوافقة إجرائياً، وليس على التوجيه العام للمهارات أو الاستخدام التركيبي للمهارات.
غياب التحكم العام: لم تتضمن الدراسة مجموعة تحكم للتدريب على بيانات الضبط الدقيق للتعليمات العامة لتفكيك مساهمة التنسيق مقابل الإجراء كمياً، رغم أن الرفع التفاضلي يُعتبر دليلاً على ذلك.