📊 statistics

ScheduleFree+: Scaling Learning-Rate-Free & Schedule-Free Learning to Large Language Models

تقدم هذه الورقة البحثية ScheduleFree+، وهي طريقة خالية من معدل التعلم وخالية من الجدولة، نجحت في توسيع نطاق التعلم الخالي من الجدولة (Schedule-Free Learning) ليشمل النماذج اللغوية الكبيرة، متفوقة بشكل كبير على جداول التدريب المتطورة مثل Warmup-Stable-Decay، لا سيما في سيناريوهات التدريب طويلة الأمد.

المؤلفون الأصليون: Aaron Defazio

نُشر 2026-05-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Aaron Defazio

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت عملاق، فائق الذكاء (نموذج لغوي كبير)، كيف يتحدث اللغة البشرية. للقيام بذلك، تعرض عليه مليارات الجمل وتجعله يخمن الكلمة التالية، مع تصحيح أخطائه مراراً وتكرارًا.

لفترة طويلة، كانت الطريقة القياسية لتعليم هذا الروبوت هي استخدام جدول معدل التعلم (Learning Rate Schedule). فكر في هذا الأمر كمعلم صارم يبدأ الفصل الدراسي بصوت عالٍ وحيوي للغاية (معدل تعلم مرتفع) لجذب انتباه الروبوت، ثم يبدأ تدريجيًا بالهمس ويتلاشى صوته (معدل تعلم منخفض) مع نهاية الحصة. المشكلة هي أنك تضطر لتخمين متى تبدأ بالهمس ومتى تتلاشى السرعة بالضبط. إذا أخطأت في التخمين، فسوف يتعلم الروبوت بشكل سيء.

تقدم هذه الورقة البحثية طريقة جديدة تسمى +ScheduleFree. بدلاً من معلم يغير مستوى صوته بمرور الوقت، تستخدم هذه الطريقة تقنية "التوسيط الذكي" التي تسمح للروبوت بالتعلم بوتيرة ثابتة وواثقة دون الحاجة إلى جدول معقد.

إليك كيف تشرح الورقة السحر الكامن وراء +ScheduleFree، باستخدام تشبيهات بسيطة:

1. خدعة "التوسيط الذكي" (الفكرة الجوهرية)

في التدريب التقليدي، يقوم الروبوت بتحديث دماغه بناءً على آخر شيء رآه. هذا يشبه طالباً لا يتذكر سوى آخر سؤال طُرح في الفصل.

تغير طريقة Schedule-Free هذا الأمر. فهي تحتفظ بنسختين من دماغ الروبوت:

الدماغ "النشط" ( $z$ ): وهو الدماغ الذي يحدّث نفسه في الوقت الفعلي، ويتعلم من أخطائه الأخيرة.
الدماغ "المتوسط" ( $x$ ): وهو نسخة هادئة ومستقرة تتذكر متوسط كل ما تعلمه الروبوت حتى الآن.

يحدث السحر لأن الروبوت لا ينظر فقط إلى الدماغ "النشط" ليقرر ماذا سيفعل بعد ذلك، بل ينظر إلى مزيج من الدماغ "النشط" والدماغ "المتوسط".

تشبيه: تخيل أنك تقود سفينة. الدماغ "النشط" هو القبطان الذي يراقب الأمواج في اللحظة الحالية (سريع الاستجابة جداً). أما الدماغ "المتوسط" فهو الملاح الذي ينظر إلى خريطة الرحلة بأكملها (مستقر جداً). الطريقة الجديدة تخبر القبطان أن يقود السفينة بناءً على مزيج من كليهما. هذا يمنع السفينة من الانحراف بجنون عند اصطدامها بموجة صغيرة، مما يؤدي إلى رحلة أكثر سلاسة وسرعة.

2. لماذا فشلت سابقاً (مشكلة "الدفعة الكبيرة")

وجد المؤلفون أنه بينما نجحت عملية "التوسيط الذكي" هذه مع الروبوتات الصغيرة، إلا أنها تعطلت عندما حاولوا تدريب روبوتات عملاقة مع دفعات ضخمة من البيانات.

المشكلة: عندما تغذي الروبوت بالكثير من البيانات دفعة واحدة (دفعة كبيرة أو "Batch")، يصاب الدماغ "النشط" بالارتباك ويبدأ في التذبذب، مما يؤدي إلى انهيار التدريب.
الحل: أضافوا الزخم الداخلي (Inner Momentum). فكر في هذا كإعطاء الروبوت نوعاً من "القصور الذاتي" أو "الزخم". تماماً كما أن الشاحنة الثقيلة يصعب إيقافها أو تغيير اتجاهها مقارنة بالدراجة الهوائية، فإن إضافة الزخم تساعد الروبوت على البقاء في مساره الصحيح حتى عندما تكون البيانات ضخمة ومليئة بالضجيج. سمح هذا بتوسيع نطاق هذه الطريقة لتصل إلى النماذج الضخمة.

3. السرعة "ذاتية الضبط" (لا مزيد من التخمين)

عادةً ما يتعين على البشر ضبط سرعة تعلم الروبوت يدوياً. تقدم الورقة البحثية خطوة بولياك (Polyak Step Size)، وهي تشبه عداد سرعة ذاتي القيادة.

كيف تعمل: بدلاً من أن يحدد الإنسان سرعة التعلم، ينظر الروبوت إلى مدى "ارتباكه" (حجم أخطائه) ويضبط سرعته تلقائياً. إذا كانت الأخطاء كبيرة، فإنه يبطئ ليفكر بعمق. وإذا كانت الأخطاء صغيرة، فإنه يسرع.
النتيجة: لم تعد بحاجة لتخمين معدل التعلم بعد الآن. هذه الطريقة "خالية من معدل التعلم"، مما يعني أنها تكتشف السرعة المثالية بنفسها.

4. إصلاح "الأوزان المنحرفة"

اكتشفت الورقة البحثية أثراً جانبياً غريباً: عندما تستخدم هذه الطريقة الجديدة، فإن "أوزان" الروبوت الداخلية (قوة روابطه) قد تصبح أحياناً كبيرة جداً أو صغيرة جداً، مما يجعل الروبوت غير مستقر.

التشبيه: تخيل أن خلايا دماغ الروبوت تكبر في الحجم، مما يؤدي إلى تمدد الأسلاك حتى تنقطع.
الحل: طبقوا تصحيحاً خاصاً بـ "الميل العكسي" (inverse-gradient). فكر في هذا كمنظم ذكي يشد البراغي كلما حاولت خلايا دماغ الروبوت أن تصبح كبيرة جداً، مما يحافظ على استقرار كل شيء ويمنع انقطاع الأسلاك. هذا يسمح للروبوت بالتدريب لفترة أطول بكثير دون أن ينكسر.

5. لمسات "البداية الدافئة" و"التبريد"

لجعل هذا يعمل بشكل مثالي في جلسات التدريب الطويلة، أضافوا لمستين أخريين:

البداية الدافئة (Warm-Start): في البداية تماماً، يترك الروبوت يتعلم بشكل طبيعي دون خدعة "التوسيط" لفترة قصيرة. هذا يشبه ترك العداء يركض بضع دورات قبل بدء السباق، حتى لا يتعثر عند خط البداية.
تخميد بيتا (Beta Annealing): مع استمرار التدريب، يغيرون "المزيج" بين الدماغ النشط والدماغ المتوسط ببطء. في البداية، يستمعون أكثر للدماغ النشط (للتعلم بسرعة). وفي النهاية، يستمعون أكثر للدماغ المتوسط (للدقة). هذا يشبه الطالب الذي يبدأ بتدوين الملاحظات بهياج، ولكن بحلول نهاية الفصل الدراسي، يعتمد أكثر على دليل دراسته المنظم جيداً.

النتيجة الكبرى

عندما اختبروا +ScheduleFree على نماذج لغوية ضخمة:

كانت أسرع: للوصول إلى نفس المستوى من الذكاء، استغرقت 31% وقتاً أقل من أفضل الطرق الموجودة حالياً.
كانت أكثر استقراراً: كان منحنى التعلم سلساً ومتوقعاً، على عكس المنحنيات المتعرجة والمضطربة للطرق القديمة.
تعمل للتدريب "في أي وقت": يمكنك إيقاف التدريب في أي ثانية، وسيكون الروبوت في أفضل حالة ممكنة لتلك اللحظة. لست مضطراً لانتظار "نهاية الجدول" للحصول على نموذج جيد.

باخت ملخص: توضح الورقة البحثية أنه من خلال خلط أفكار الروبوت الحالية مع متوسط أفكاره، وإضافة القليل من الزخم للاستقرار، والسمامح للروبوت بضبط سرعته الخاصة، يمكننا تدريب نماذج ذكاء اصطناي ضخمة بشكل أسرع، وأكثر سلاسة، ودون الحاجة إلى تدخل البشر المستمر لتعديل الإعدادات.

ملخص تقني: ScaleFree+ - توسيع نطاق التعلم الخالي من الجداول الزمنية والتعلم الخالي من معدل التعلم إلى النماذج اللغوية الكبيرة

1. بيان المشكلة

تعتمد عملية تحسين التعلم الآلي التقليدية بشكل كبير على جداول معدل التعلم (مثل التضاؤل الخطي، أو جيب التمام، أو الإحماء-الاستقرار-التضاؤل) لضمان التقارب. ورغم فعاليتها، إلا أن هذه الطرق تتطلب ضبطاً كبيراً وغالباً ما تؤدي إلى منحنيات تدريب غير مستقرة أو غير متوقعة. أظهرت طرق التعلم "الخالية من الجداول الزمنية" (Schedule-Free) الحديثة، التي تستبدل الجداول الزمنية بمتوسط تكراري عدواني، وعوداً في الاختبارات المعيارية صغيرة النطاق، لكنها فشلت تاريخياً في التوسع لتشمل تدريب النماذج اللغوية الكبيرة (LLMs). وتحديداً، عانت تطبيقات Schedule-Free السابقة من:

التباعد عند أحجام الدفعات الكبيرة: تدهور الأداء بشكل كبير مع زيادة أحجام الدفعات بما يتجاوز حدود النطاق الصغير.
انحراف معيار التدرج (Gradient norm drift): تطلبت الطريقة قيم "تضاؤل وزن" (weight decay) صغيرة بشكل غير عادي لتعمل، مما أدى إلى عدم استقرار معايير الأوزان وضعف الأداء في التدريب طويل الأمد.
تقارب دون المستوى الأمثل في الدورات الطويلة: لم تستغل الطريقة بشكل كامل فوائد المتوسط عبر آفاق تدريب ممتدة (على سبيل المثال، 1000 توكن لكل معلمة).

تعالج الورقة تحدي توسيع نطاق تعلم Schedule-Free ليتناسب مع أو يتجاوز أداء الطرق القائمة على الجداول الزمنية في تدريب النماذج اللغوية الكبيرة، بهدف الوصول إلى إجراء تدريب مستقر و"في أي وقت" (anytime) لا يتطلب ضبطاً لمعدل التعلم.

2. المنهجية: +ScheduleFree

يقترح المؤلفون +Schedule-Free، وهو طريقة مركبة تدمج عدة تعديلات محددة على خوارزمية Schedule-Free الأساسية لجعلها قوية ومناسبة للنماذج اللغوية الكبيرة. المكونات الأساسية هي:

أ. إعادة إدخال الزخم الداخلي (Inner Momentum)

بينما قامت أعمال Schedule-Free الأصلية بإزالة الزخم الداخلي (مثل $\beta_1$ في Adam) لتوفير الذاكرة، وجد المؤلفون أن هذا كان ضاراً بأحجام الدفعات الكبيرة.

الإصلاح: إعادة إدخال الزخم الداخلي (على سبيل المثال، $\beta_1 = 0.75$ أو $0.9$) في المحسن الأساسي.
الأثر: يعيد هذا استعادة القوة لأحجام الدفعات الأكبر ويسمح بمعدلات تعلم أعلى دون تباعد، مما يعالج "منحدر التوسع" (scaling cliff) الملاحظ في AdamW القياسي الخالي من الجداول الزمنية.

ب. وزن التدرج العكسي (خطوة بولياك - Polyak Step Size)

غالباً ما تطلبت طريقة Schedule-Free القياسية تضاؤلاً صغيراً للوزن للتعويض عن تزايد معايير التدرج، مما تسبب في عدم الاستقرار. اشتق المؤلفون تصحيحاً نظرياً بناءً على خطوة بولياك.

الآلية: يتم تغيير حجم الخطوة $\gamma_t$ بشكل عكسي مع معيار L1 للتدرج ( $\gamma_t \propto 1/\|g_t\|_1$ ).
التنفيذ: يُستخدم المتوسط المتحرك الأسي (EMA) لمعيار L1 للتدرج لتقدير المقام، مما يقرب الوزن الأمثل المشتق من حدود الندم المحدب (convex regret bounds).
النتيجة: يعمل هذا التصحيح على مواجهة انحراف معدل التعلم الفعال الناتج عن طبقات التطبيع (normalization layers)، مما يسمح باستخدام قيم تضاؤل وزن قياسية وأكبر (مثل 0.05–0.5) والتي تعمل على تثبيت معايير الأوزان ومنع ظاهرة "تقلص معيار الوزن" التي تزعزع استقرار الدورات الطويلة.

ج. التحسين الخالي من معدل التعلم عبر خطوة بولياك

بناءً على وزن التدرج العكسي، نفذ المؤلفون نسخة كاملة خالية من معدل التعلم باستخدام خطوة بولياك معدلة:
$\gamma_t = \frac{f(y_t) - f^* + \beta \langle \nabla f(y_t), z_t - x_t \rangle}{\sqrt{\pi/2} \| \nabla f(y_t) \|_1}$

الاستقرار: تستخدم البسط تقديراً لفجوة قيمة الدالة ( $f(z_t) - f^*$ ) بدلاً من التكرار الحالي المليء بالضجيج، ويستخدم المقام معيار L1 الممهد، مما يتجنب مشاكل المقام المتلاشي الشائعة في خطوات بولياك العشوائية.
التكيف: يقوم هذا النهج تلقائياً بتغيير حجم معدل التعلم مع حجم الدفعة (باتباع مقياس $\sqrt{b}$ لـ AdamW) ويلغي الحاجة إلى البحث اليدوي عن شبكات معدل التعلم.

د. استراتيجيات البدء الدافئ (Warm-Start) والتخميد (Annealing)

الإحماء C-Warmup: لمنع استنزاف مرحلة التقارب السريع في البداية، أخر المؤلفون تحديث المتوسط ( $c_t = 1$ ) لفترة أولية (على سبيل المثال، ضعف مدة إحماء معدل التعلم).
تخميد بيتا (Beta Annealing): يتم تخميد معامل الاستيفاء $\beta$ (الذي يمزج بين التكرار الحالي $z_t$ والمتوسط $x_t$ ) من قيمة منخفضة (مثل 0.9) إلى قيمة أعلى (مثل 0.965) عبر دورة التدريب. وهذا يلتقط التقارب السريع في البداية مع التحسين للتقليل من الخسارة على المدى الطويل.
المتوسط الموزون ( $r=1$ ): بالنسبة للدورات الطويلة، يتم ضبط أوزان المتوسط على $r=1$ (أوزان تزداد خطياً) بدلاً من القيمة الافتراضية $r=0$ ، مما يسرع التقارب للمشكلات غير المحدبة بقوة.

3. النتائج الرئيسية

أجرى المؤلفون تجارب توسيع واسعة النطاق على نماذج لغوية تتراوح من 120 مليون إلى 1 مليار معلمة، تم تدريبها على ما يصل إلى 1000 توكن لكل معلمة.

التدريب طويل الأمد (1000 TPP): عند هذا النطاق، يتفوق +ScheduleFree بشكل كبير على كل من جداول (WSD) والتضاؤل الخطي.
- الكفاءة: يحقق نفس الخسارة النهائية لجدول التضاؤل الخطي في وقت تدريب أقل بنسبة 31% (أي تقليل بنسبة 45% في عدد التوكنات المطلوبة للوصول إلى الخسارة المستهدفة).
- الاستقرار: تنتج الطريقة منحنيات خسارة سلسة ومتوقعة تتبع معدل اضمحلال $1/\sqrt{t}$ نظري، مما يسمح بالتنبؤ بالخسارة النهائية من بيانات التدريب المبكرة.
التدريب قصير الأمد (20–100 TPP): يتفوق +ScheduleFree على جداول WSD عبر جميع أحجام النماذج. وضد التضاؤل الخطي، فإنه يماثل أو يتراجع قليلاً في الآفاق القصيرة جداً (20 TPP) بسبب الوقت المطلوب للوصول إلى حالة الاستقرار، ولكنه يعمل بشكل تنافسي بشكل عام.
توسيع حجم الدفعة: مع وجود الزخم الداخلي، يتوسع +ScheduleFree بقوة ليصل إلى أحجام دفعات تبلغ 8 ملايين، محققاً أداء AdamW القياسي مع التضاؤل الخطي.
استقرار معيار الوزن: من خلال استخدام خطوة بولياك وقيم تضاؤل وزن أكبر، تحافظ الطريقة على معايير أوزان مستقرة، متجنبة التباعد ومشكلات التكميم المرتبطة بقيم تضاؤل الوزن الصغيرة المطلوبة من طرق Schedule-Free غير المعدلة.

4. الأهمية والادعاءات

تدعي الورقة أن +ScheduleFree توفر أساساً نظرياً لمتوسط النماذج ودمج النقاط (checkpoint merging) أثناء التدريب المسبق، مما يسد الفجوة بين التحسين عبر الإنترنت (online optimization) ودمج النماذج خارج الإنترنت (offline model souping).

التدريب في أي وقت (Anytime Training): على عكس جداول WSD، التي تتطلب مرحلة تضاؤل محددة في نهاية التدريب لتحقيق المكاسب، يوفر +ScheduleFree قدرة حقيقية "في أي وقت". النموذج يكون قابلاً للاستخدام ومثالي عند أي نقطة توقف دون الحاجة لمرحلة تضاؤل مخصصة.
إلغاء الضبط: تزيل الطريقة الحاجة إلى عمليات البحث في شبكة معدل التعلم، معتمدة بدلاً من ذلك على خطوة بولياك ووزن التدرج العكسي للتكيف تلقائياً مع حجم الدفعة ومدة التدريب.
القدرة على التنبؤ: يجادل المؤلفون بأن منحنيات الخسارة لـ Schedule-Free ليست مستقرة تجريبياً فحسب، بل هي قائمة على أسس نظرية، حيث تتبع عن كثب معدل التقارب $1/\sqrt{t}$ المتوقع من نظرية التحسين المحدب، حتى في سياق النماذج اللغوية الكبيرة غير المحدبة.

باختصار، تثبت الورقة أنه من خلال تعديلات محددة —الزخم الداخلي، ووزن التدرج العكسي، والتخميد التكيفي— يمكن توسيع نطاق تعلم Schedule-Free ليصبح بديلاً متفوقاً، مستقراً، وخالياً من الضبط للجداول الزمنية التقليدية لمعدل التعلم المستخدمة في تدريب النماذج اللغوية الكبيرة.