💬 NLP

Progressive Residual Warmup for Language Model Pretraining

تقترح الورقة البحثية طريقة "التحمية المتبقية التدريجية" (ProRes)، وهي طريقة تعمل على استقرار وتسريع عملية ما قبل التدريب للنماذج اللغوية القائمة على بنية "ترانسفورمر" عبر تطبيق فلسفة "الطبقات الأولى تتعلم أولاً"، حيث لا يتم تفعيل الطبقات الأعمق تدريجياً إلا بعد استقرار الطبقات الأقل عمقاً، مما يؤدي إلى تقارب أسرع وتحسين الأداء في المهام اللاحقة.

المؤلفون الأصليون: Tianhao Chen, Xin Xu, Lu Yin, Hao Chen, Yang Wang, Shizhe Diao, Can Yang

نُشر 2026-03-06

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Tianhao Chen, Xin Xu, Lu Yin, Hao Chen, Yang Wang, Shizhe Diao, Can Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تبني ناطحة سحاب ضخمة مكونة من 100 طابق (نموذج لغوي كبير - LLM). في الأيام الخوالي للذكاء الاصطناعي، كان المهندسون يطلبون من كل طابق من طوابق المبنى البدء في الترميم ونقل الأثاث في نفس اللحظة تماماً، ومنذ اليوم الأول.

المشكلة هي أن الطوابق العليا (الطبقات العميقة) تحاول نقل أثاث ثقيل، بينما لا يزال الطابق الأرضي (الطبقات الضحلة) يصب الخرسانة ولم ينتهِ حتى من تسوية الأساسات. هذا يجعل الطوابق العليا تشعر بالارتباك، مما يؤدي إلى اهتزاز المبنى ويصبح الهيكل بأكمله غير مستقر.

تقدم هذه الورقة البحثية طريقة بناء جديدة تسمى ProRes (التحمية المتبقية التدريجية - Progressive Residual Warmup). إنها قاعدة بسيطة تغير طريقة بناء ناطحات السحاب الخاصة بالذكاء الاصطناعي: "دع الطابق الأرضي ينتهي أولاً، ثم الطابق الذي يليه، وهكذا."

إليك كيف يعمل ذلك، مقسماً إلى مفاهções بسيطة:

1. المشكلة: "موقع بناء فوضوي"

في التدريب القياسي للذكاء الاصطناعي، تحاول كل طبقة من طبقات الشبكة العصبية التعلم والتغير في وقت واحد.

التشبيه: تخيل سباق تتابع حيث لم يغادر العداء الأول خط البداية بعد، لكن العداء الأخير بدأ بالفعل بالركض بأقصى سرعة. العداء الأخير يركض على مضمار لم يُبنَ بعد.
النتيجة: الطبقات الأعمق تخلق "ضجيجاً" وارتباكاً للطبقات الأولى. يصبح النموذج غير مستقر، ويستغرق وقتاً أطول للتعلم، وأحياناً ينهار النظام بأكمله (يفشل في التدريب).

2. الحل: "التحمية المرحلية"

يقترح المؤلفون ProRes، والذي يعمل مثل نظام إشارات المرور لطوابق المبنى.

كيف يعمل: في بداية التدريب، يتم إيقاف تشغيل "الاتصالات المتبقية" (المسارات التي تسمح بتدفق المعلومات بين الطبقات) - أي ضبطها على صفر - للطوابق العميقة.
العملية:
- المرحلة 1: يُسمى الطوابق السفلية فقط (الطبقات 1-5) بالتحرك والتعلم. يحصلون على فرة للاستقرار وبناء أساس متين.
- المرحلة 2: بمجرد استقرار الطوابق السفلية، تتحول إشارة المرور إلى اللون الأخضر للمجموعة التالية من الطوابق.
- المرحلة 3: تستمر هذه العملية صعوداً في المبنى حتى يُسمح للطابق الأخير أخيراً بالانضمام إلى الحفلة.
الاستعارة: الأمر يشبه تأثير الدومينو. أنت لا تدفع آخر قطعة دومينو حتى تسقط القطعة الأولى. أنت تترك موجة التعلم تنتقل بشكل طبيعي من الأسفل إلى الأعلى، بدلاً من محاولة دفع الجدار بأكره دفعة واحدة.

3. لماذا يعد هذا أمراً هاماً

اختبرت الورقة هذه الطريقة على نماذج تتراوح من صغيرة (130 مليون معلمة) إلى ضخمة (7 مليارات معلمة). وإليكم ما وجدوه:

الاستقرار: يتوقف المبنى عن الاهتزاز. من خلال انتظار استقرار الأساس، لا ترتبك الطوابق العليا بسبب الإشارات الفوضوية المبكرة.
السرعة: بما أن النموذج لا يحارب نفسه، فإنه يتعلم بشكل أسرع. إنه يصل إلى إجابة جيدة (التقارب) بسرعة أكبر.
العمق: هذا هو الفوز الأكبر. في السابق، كان جعل نماذج الذكاء الاصطناعي "أعمق" (إضافة المزيد من الطبقات) أمراً صعباً للغاية لأنها تصبح غير مستقرة. مع ProRes، يمكنك بناء "ناطحات سحاب" أكثر طولاً (120 طبقة!) دون أن تنهار.
ذكاء اصطناعي أذكى: النماذج الناتجة أفضل في الاستنتاج وفهم اللغة، ليس فقط لأنها أكبر، بل لأنها تعلمت بكفاءة أكبر.

4. "الخلطة السرية" (الجدول الزمني)

اختبرت الورقة أيضاً طرقاً مختلفة لتوقيت عملية "التحمية" هذه.

الفائز: الجدول الزمني الخطي هو الأفضل. وهذا يعني أنه كلما كنت أعمق، زاد وقت الانتظار. إذا انتظر الطابق الأول 10 دقائق، فإن الطابق العاشر ينتظر 100 دقيقة. هذا يطابق تماماً الترتيب الطبيعي للتعلم: المفاهيم البسيطة أولاً، والمفاهيم المعقدة لاحقاً.

الملخص

فكر في ProRes كـ مدرب صبر للذكاء الاصطناعي. بدلاً من استعجال الذكاء الاصطناعي لتعلم كل شيء في وقت واحد، يقول له: "خذ وقتك. دع الأساسيات تستقر أولاً. بمجرد أن يصبح الأساس صلباً كالصخر، سنسمح للأجزاء المعقدة بالانضمام."

هذا التغيير البسيط في التوقيت يجعل نماذج الذكاء الاصطناعي أكثر استقراراً، وأسرع في التدريب، وقادرة على الوصول إلى آفاق جديدة من الذكاء.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التحمية المتبقية التدريجية للنماذج اللغوية المسبقة" (ProRes).

1. بيان المشكلة

تُعد بنيات "ترانسفورمر" (Transformer) هي العمود الفق فقري للنماذج اللغوية الكبيرة الحديثة، ولكن توسيع نطاقها لتصبح أكثر عمقاً وأكبر في عدد المعلمات (parameters) يفرض تحديات تحسين كبيرة.

التحديثات المتزامنة: في نماذج "ترانسفورمر" القياسية، يتم تحديث جميع الطبقات للتمثيلات بشكل متزامن منذ البداية. يمكن أن يؤدي هذا إلى تحديثات غير فعالة أو إشارات تعلم متضاربة، خاصة عندما تحاول الطبقات العميقة تعديل التمثيلات قبل استقرار الطبقات العليا (الضحلة).
ديناميكيات التدريب: يظهر التدريب مراحل متميزة (التحمية، الاستقرار، التضاؤل). خلال مرحلة التحمية الفوضوية، تحدث تحديثات ضخمة للنموذج. إن طرق الاستقرار الحالية (مثل Pre-LN، وDeepNorm، وطرق التهيئة المحددة) هي عادةً ثابتة؛ حيث تُطبق عند التهيئة وتظل ثابتة، مما يترك للمُحسّن (optimizer) مهمة التكيف طوال فترة التدريب دون تنسيق صريح لتعلم الطبقات.
مشكلات توسيع العمق: مع زيادة عمق النماذج، تظهر مشكلات مثل النمو الأسي للتنشيط (في Pre-LN) وعدم استقرار التدرجات، مما يؤدي غالباً إلى سيطرة الطبقات العميقة على التحديثات أو معاناة الطبقات الضحلة من تلاشي التدرجات.

2. المنهجية: التحمية المتبقية التدريجية (ProRes)

يقترح المؤلفون ProRes، وهو آلية بسيطة وقابلة للتوسع تنسق التعلم المتبقي للطبقات من خلال احترام الطبيعة الزمنية والتسلسلية لتدريب "ترانسفورمر".

الآلية الجوهرية: يقوم ProRes بتعديل الاتصال المتبقي (residual connection) عبر إدخال عامل قياس (scalar factor) قابل للتعلم (أو محدد مسبقاً)، يُرمز له بـ $\alpha(l, t)$ $α (l, t)$ ، والذي يقوم بتغيير حجم مخرجات الفرع المتبقي (الانتباه/FFN) للطبقة $l$ $l$ عند خطوة التدريب $t$ $t$ .
- المعادلة: $x_{l+1} = x_l + \alpha(l, t) \cdot F(\text{Norm}(x_l))$
- التهيئة: عند $t=0$ ، تكون $\alpha(l, t) = 0$ لجميع الطبقات، مما يجعل الشبكة تعمل كخريطة هوية (identity mapping) في البداية.
- جدول التحمية: تزداد قيمة $\alpha(l, t)$ تدريجياً من 0 إلى 1 مع تقدم التدريب.
التنشيط التدريجي: من الضروري أن تكون مدة التحمية مرتبطة بالطبقة. تمتلك الطبقات العميقة فترة تحمية أطول من الطبقات الضحلة.
- الجدول الافتراضي (خطي): $\alpha(l, t) = \min(\frac{t}{T \times l}, 1)$ ، حيث $T$ هي طول التحمية للطبقة الأولى و $l$ هو مؤشر الطبقة.
- الفلسفة: يفرض هذا مبدأ "الطبقات الأولى تتعلم أولاً". تستقر التمثيلات في الطبقات الضحلة أولاً؛ ثم تبدأ الطبقات العميقة في المساهمة بشكل كبير فقط بمجرد نضوج التمثيلات العليا.
القابلية للتطبيق: ProRes مستقل عن بنية مخططات التقييس (normalization schemes) (مثل Pre-LN، وPost-LN، وSandwich-LN، وDeepNorm) وطرق التهيئة، لأنه ببساطة يقوم بتغيير حجم الفرع المتبقي.

3. المساهمات الرئيسية

مخطط ProRes: نظام تعلم متبقي مبتكر ينسق مساهمات الطبقات صراحةً عبر الزمن، معالجاً غياب الوعي بمرحلة التدريب في الطرق الموجودة.
المبادئ النظرية:
- الهوية عند التهيئة: يفرض صراحةً خريطة الهوية عند التهيئة للتحكم في نمو التنشيط.
- التحديثات المحدودة: يوسع مبدأ التحديثات المحدودة للنموذج من مرحلة التهيئة إلى مسار التدريب بأكه، حيث يخفف القيود ديناميكياً مع استقرار التدريب.
- التعلم التسلسلي: يحترم ترتيب الاعتماد المكدس للطبقات، مما يمنع الطبقات العميقة من حقن الضجيج في التمثيلات الضحلة غير المستقرة.
التقييم الشامل: تجارب مكثفة عبر مقاييس النماذج المختلفة (من 71 مليون إلى 7 مليار معلمة)، ومخططات التقييس المختلفة، واستراتيجيات التهيئة.
تحليل الديناميكيات: تحليل مفصل يوضح كيف يخفف ProRes من النمو الأسي للتنشيط وينعم تطور تمثيلات الطبقات.

4. النتائج التجريبية

قيم المؤلفون ProRes في مهام التدريب المسبق باستخدام مجموعة بيانات C4-en (وClimbMix لضمان المتانة) واختبروه على معايير الاستدلال.

تقليل الارتياب (Perplexity Reduction):
- قلل ProRes باستمرار من الارتياب عبر جميع مقاييس النماذج (130M، 350M، 1.3B) والبنيات.
- استفاد Post-LN بشكل أكبر، حيث صحح ProRes الانحياز المتأصل في Post-LN نحو الطبقات العميقة عبر تفعيل المتبقيات الضحلة بالتتابع.
- التعميم: أظهر ProRes مكاسب أكبر بكثير في مجموعات البيانات خارج التوزيع (WikiText، LAMBADA) مقارنة بمتن التدريب، مما يشير إلى تعميم أفضل ونمذجة أفضل للاعتماد طويل المدى (على سبيل المثال، +2.89% دقة في LAMBADA).
معايير الاستدلال:
- في نماذج 1.3B، حققت متغيرات ProRes أعلى متوسط درجات عبر 10 معايير استدلال (PIQA، SIQA، MMLU، إلخ)، مع تحسن متوسط قدره +1.27% عن النماذج المرجعية.
توسيع العمق:
- في التجارب التي توسعت من 12 إلى 120 طبقة، مكن ProRes النماذج الأكثر عمقاً من تحقيق ارتياب أفضل دون المساس بالاستقرار.
- الاستقرار: حافظ ProRes على مستويات قريبة من الصفر في "طفرات الخسارة" (loss spikes) و"طفرات التدرج" (gradient spikes) حتى عند 120 طبقة، بينما أظهرت النماذج المرجعية (مثل Pre-LN القياسي) عدم استقرار.
دراسات الاستبعاد (Ablation Studies):
- الترتيب مهم: الجداول التي تفعل الطبقات بالتتابع (من الضحلة إلى العميقة) تفوقت بشكل كبير على تلك التي تفعل جميع الطبقات في وقت واحد أو من العميقة إلى الضحلة.
- الديناميكي مقابل الثابت: تفوقت جداول التحمية الديناميكية (حيث تخف القيود بمرور الوقت) على طرق القياس الثابتة (مثل القياس الثابت للعمق)، مما يشير إلى أن القيود الثابتة تكون متحفظة للغاية في مرحلة التدريب المستقرة.

5. الأهمية والأثر

استقرار التدريب: يقدم ProRes حلاً قوياً لتدريب نماذج "ترانسفورمر" العميقة للغاية (تصل إلى 120+ طبقة) من خلال منع ظاهرة "طفرة الخسارة" الشائعة في الشبكات العميقة.
الكفاءة: من خلال تنسيق ترتيب التعلم، يقلل ProRes من التداخل غير الضروري بين الطبقات، مما يؤدي إلى تقارب أسرع واستخدام أفضل لقدرات الحوسبة أثناء التدريب.
القابلية العامة للتطبيق: على عكس الطرق التي تتطلب تغييرات معمارية محددة (مثل تغيير مكان التقييس)، يعد ProRes تعديلاً بسيطاً (drop-in modification) للاتصال المتبقي، مما يجعله عملياً للغاية لمسارات تدريب LLM الحالية.
مسار تحسين جديد: توضح الورقة أن جدولة وقت مساهمة الطبقات في التعلم بشكل صريح يخلق مسار تحسين فريداً وأكثر كفاءة، مما يتحدى الافتراض بأن جميع الطبقات يجب أن تتعلم بالتزامن منذ البداية.

في الختام، يمثل ProRes تحولاً من الإصلاحات المعمارية الثابتة إلى التحسين الديناميكي الواعي بمرحلة التدريب، مما يثبت أن احترام التبعية التسلسلية للطبقات خلال مرحلة التحمية أمر بالغ الأهمية لتوسيع نطاق النماذج اللغوية بفعالية.