ملخص تقني: استقرار المحولات (Transformers) تحت تأثير تطبيع الطبقة (Layer Normalization)

بيان المشكلة

على الرغم من هيمنة نماذج المحولات (Transformers) في التعلم العميق الحديث، إلا أن تدريب النماذج العميقة يظل عرضة لعدم الاستقرار، لا سيما مع زيادة عمق النموذج. وتتجلى حالات عدم الاستقرار هذه في منطقتين حرجتين: عدم الاستقرار الأمامي (النمو غير المنضبط للحالات المخفية مما يؤدي إلى مشكلات عددية) وعدم الاستقرار الخلفي (انفجار التدرجات أثناء الانتشار العكسي).

المكون المعماري الأساسي المستخدم للتخفيف من هذه المشكلات هو تطبيع الطبقة (Layer Normalization - LN). ومع ذلك، فإن وضعية LN داخل كتل المحول قد تطورت عبر الاستدلالات التجريبية بدلاً من التبرير النظري الصارم. تحدد الورقة ثلاث تكوينات رئيسية:

• ما بعد التطبيع (Post-LN): حيث يتم تطبيق LN بعد الروابط المتبقية (residual connections). غالباً ما يتطلب جدولة تحسين دقيقة ويظهر أداءً دون المستوى الأمثل.
• ما قبل التطبيع (Pre-LN): حيث يتم تطبيق LN قبل وحدات الانتباه ووحدات التغذية الأمامية. وبينما يعد هذا التكوين معيارياً لاستقراره في التدريب مقارنة بـ Post-LN، فقد لوحظ تجريبياً أنه ينتج حالات مخفية كبيرة بشكل مفرط، مما يؤدي إلى عدم استقرار عددي محتمل وانفجار التدرجات في الشبكات العميقة.
• التطبيع المحيطي (Peri-LN): وهو تكوين أحدث يطبق LN على كل من مدخل ومخرج الوحدات. تشير الدراسات التجريبية إلى أنه يوفر استقراراً فائقاً وحالات مخفية أكثر انتظاماً مقارنة بـ Pre-LN، لكن خصائصه النظرية لا تزال غير مفهومة جيداً.

تتمثل المشكلة الجوهرية التي تعالجها الورقة في غياب إطار نظري مبدئي لتفسير لماذا تؤدي هذه التوضعات المختلفة إلى ديناميكيات تدريب وملفات استقرار متباينة، وما إذا كان التدريب يدفع النماذج نحو حلول منتظمة أو سلوكيات مرضية.

المنهجية

يقترح المؤلفون إطاراً نظرياً جديداً يرتكز على نظرية التحكم الأمثل للزمن المنفصل لتحليل ديناميكيات تدريب المحولات.

1. الصياغة كتحكم أمثل: تم صياغة مشكلة تدريب المحول كمسألة تحكم مجال متوسط (mean-field control) في زمن منفصل. يمثل مؤشر الطبقة $i$ الزمن المنفصل، وتمثل الحالة المخفية $X_i$ حالة النظام. تعمل الروابط المتبقية كسرعة للديناميكيات.
2. تحليل هاميلتون-جاكوبي-بيلمان (HJB): يحلل المؤلفون شروط الأمثلية لمشكلة التدريب باستخدام معادلة HJB الجزئية المرتبطة بمعادلات نقل الكتلة.
   • يقومون بفحص الهاميلتوني (Hamiltonian)، الذي يعمل كآلية تحكم تغذية راجعة تحدد حقل السرعة الأمثل للحالات المخفية.
   • بالنسبة لـ Pre-LN، يثبتون أن الهاميلتوني غير محدود، مما يؤدي إلى شروط أمثلية سيئة التحديد حيث يمكن للحالات المخفية أن تنمو بشكل تعسفي كبير.
   • بالنسبة لـ Peri-LN، يعمل تطبيع المخرجات على تقييد حقل السرعة ضمن شكل إهليلجي (بناءً على Lemma 1)، مما يضمن أن يكون الهاميلتوني محدوداً والمشكلة جيدة التحديد.
3. تحليل التدرج: تحلل الورقة الاستقرار الخلفي من خلال فحص انتشار التدرجات عبر حاصل ضرب الحساسيات المحلية (مصفوفات جاكوبي) عبر الطبقات.
4. تدرج المقياس المتبقي (Residual Scaling): تم توسيع الإطار ليشمل معامل زيادة زمنية $\Delta t < 1$، مما يؤدي فعلياً إلى تغيير حجم خطوات المتبقي للتحكم في انتشار الإشارة.

المساهمات الرئيسية

1. الإطار النظري للنماذج المدربة

على عكس الأعمال السابقة التي غالباً ما تركز على تهيئة النموذج أو تعتمد على الأدلة التجريبية، يحلل هذا الإطار النماذج المدربة عند التقارب. فهو يوفر تقييماً منهجياً لما إذا كانت ديناميكيات التدريب تؤدي إلى حلول منتظمة أو حالات مرضية.

2. التحليل الصارم لتموضعات LN

• عدم استقرار Pre-LN: تثبت الورقة أنه بالنسبة لـ Pre-LN، فإن الحل الأمثل لمشكلة التدريب غير محدود المقدار. حتى مع وجود تلاشي الوزن (weight decay)، يمكن للحالات المخفية أن تنمو أسياً ($O(e^D)$)، وتنمو التدرجات بما يتناسب مع التنشيطات، مما يؤدي إلى عدم استقرار التدريب.
• استقرار Peri-LN: يستنتج المؤلفون حدوداً صريحة تظهر أن Peri-LN يضمن نمواً خطياً لمتوسط القيمة المطلقة للحالات المخفية ($O(D)$) ونمواً تربيعياً للتباين ($O(D^2)$). والأهم من ذلك، أُثبت أن الحساسية المحلية لـ Peri-LN ثابتة تجاه مقدار التنشيط، مما يمنع انفجار التدرجات حتى عندما تكون التنشيطات كبيرة.

3. تقدير عدم اليقين

يؤكد التحليل أن Peri-LN يوفر انتشاراً محكوماً لعدم اليقين (مقاساً عبر مسافة واسرستاين) من المدخلات إلى الحالات المخفية النهائية، بينما يمكن لـ Pre-LN أن يضخم عدم يقين المدخلات إلى مستويات غير محدودة.

4. تدرج خطوة المتبقي (Residual Step Scaling)

بناءً على تحليل الاستقرار، قدم المؤلفون آلية تدرج خطوة المتبقي ($\Delta t < 1$). ويثبتون نظرياً أن هذا التدرج:

• يعمل على تشديد الحدود الخاصة بنمو الحالة المخفية وعدم يقين المخرجات.
• يخفف من انفجار التدرجات عن طريق تغيير مقياس الحساسية المحلية.
• يحسن الاستقرار الأمامي والخلفي دون تكلفة حسابية إضافية.

النتائج التجريبية

تحقق المؤلفون من نتائجهم النظرية باستخدام متغيرات GPT-2 (من 124 مليون إلى 1.5 مليار معلمة) مدربة على مجموعة بيانات OpenWebText.

• استقرار التدريب: في تجارب مع 5 محاولات، انحرفت نماذج Pre-LN في محاولة واحدة عندما تم تفعيل تلاشي الوزن، وفي 3 محاولات عندما تم تعطيله. في المقابل، ظلت نماذج Peri-LN مستقرة في جميع المحاولات الخمس تحت كلا الإعدادين لتلاشي الوزن.
• الأداء: حقق Peri-LN أداءً مقارباً لـ Pre-LN حتى عندما تم ضبط المعلمات الفائقة لـ Pre-LN.
• تأثير التدرج (Scaling): أدى الجمع بين Peri-LN وتدرج الخطوة المتبقية ($\Delta t = 0.1$) باستمرار إلى تحقيق أفضل أداء عبر جميع المقاييس (Val Loss, Perplexity, ROUGE, BERT scores) وتحكم بفعالية في نمو عزم الحالات المخفية (المتوسط المطلق والتباين) عبر الطبقات، بما يتماشى مع التوقعات النظرية.

الأهمية والادعاءات

تدعي الورقة أنها تقدم أول تبرير نظري صارم للملاحظات التجريبية المتعلقة بتموضعات تطبيع الطبقة في المحولات.

• تفسير عدم الاستقرار: تشرح لماذا يؤدي Pre-LN إلى حالات مخفية غير محدودة وانفجار التدرجات عبر سوء تحديد معادلة HJB الجزئية.
• تبرير Peri-LN: توفر أساساً نظرياً لاستقرار Peri-LN، وتوضح قدرته على الحفاظ على نمو محكوم وحساسية ثابتة.
• توجيه التصميم: يوفر الإطار طريقة مبدئية لـ "التحقق من سلامة" التعديلات المعمارية الجديدة قبل التدريب التجريبي المكلف.
• التحسين العملي: يُقدم تقديم "تدرج خطوة المتبقي" كإضافة بسيطة وخالية من التكلفة تعزز الاستقرار والأداء بشكل كبير، وهو ما أكدته التجارب التي أظهرت أن Peri-LN مع التدرج يتفوق على التكوينات القياسية.

يؤكد المؤلفون أن عملهم يسد الفجوة بين الاستدلالات التجريبية والفهم النظري، مما يقدم منظوراً مستمراً (continuous-time) يثمر عن رؤى نظرية وتحسينات معمارية عملية.