Pretraining large language models with MXFP4
تحدد هذه الورقة أن تكميم تدرجات الأوزان (Wgrad) هو السبب الرئيسي لعدم الاستقرار في تدريب النماذج اللغوية الكبيرة بنظام FP4 عبر المسار الكامل، وتثبت أن تدويرات هادامارد الحتمية، بدلاً من التدوير العشوائي، ضرورية لاستعادة استقرار التقارب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم طالب عملاق وعبقري (نموذج لغوي كبير) كيف يكتب القصص. عادةً، وللحفاظ على فعالية تعلم هذا الطالب، تعطيه ملاحظات مكتوبة بحبر عالي الجودة وتفصيلي (يُسمى دقة FP8). هذا يعمل بشكل جيد، لكن الملاحظات ثقيلة، فهي تشغل مساحة كبيرة في حقيبة ظهر الطالب وتُبطئ سرعة قراءته لها.
أراد الباحثون معرفة ما إذا كان بإمكانهم استبدالها بملاحظات خفيفة للغاية مكتوبة بـ 4 بت فقط من المعلومات (MXFP4). هذه الملاحظات صغيرة وسريعة، وتعد بجعل الطالب يتعلم بسرعة أكبر بكما. ومع ذلك، هناك عقبة؛ فعندما حاولوا استخدام هذه الملاحظات الخفيفة لعملية التعلم بأكملها، غالباً ما ارتبك الطالب، وبدأ في تقديم تخمينات جامحة، وفشل في تعلم أي شيء (أي أن عملية التدريب "انحرفت" أو Diverged).
السؤال الذي يطرحه البحث هو: لماذا يحدث هذا، وكيف نصلحه؟
التجربة: اختبار من ثلاث خطوات
وضع الباحثون تجربة منضبطة لمعرفة مكان المشكلة بالضبط. قاموا بتقسيم عملية التعلم إلى ثلاث مراحل واستبدلوا الملاحظات الثقيلة بالخفيفة تدريجياً، مرحلة تلو الأخرى:
- التمرير الأمامي (Fprop): الطالب يقرأ السؤال.
- تدرجات التنشيط (Dgrad): الطالب يدرك مقدار سوء فهمه للسؤال.
- تدرجات الأوزان (Wgrad): الطالب يُحدث دماغه (الأوزان) ليتذكر الدرس في المرة القادمة.
النتائج:
- المرحلة 1 و2: عندما استخدموا الملاحظات الخفيفة فقط للقراءة وفهم سوء الفهم، سار الطالب بشكل جيد. لقد تعلم بنفس جودة الملاحظات الثقيلة تقريباً، مع حاجته لبعض أسئلة التدريب الإضافية فقط.
- المرحلة 3 (المشكلة): في اللحظة التي انتقلوا فيها لاستخدام الملاحظات الخفيفة لتحديث الدماغ (Wgrad)، بدأ الطالب في الخروج عن السيطرة. وجد الباحثون أن هذه الخطوة تحديداً هي "الحلقة الأضعف". الأمر يشبه محاولة كتابة تصحيح رياضي معقد على ورقة صغيرة مجعدة؛ حيث تضيع التفاصيل، ويتعلم الطالب الدرس بشكل خاطئ.
الحلول الفاشلة: إضافة العشوائية
عندما بدأ الطالب في الفشل، جرب الباحثون حيلة شائعة وهي: العشوائية (Stochasticity).
- التشبيه: تخيل أن الطالب مرتبك، فتقول له: "فقط خمن عشوائياً!" أو "أدر عجلة لتحدد إجابتك".
- النتيجة: لم يفلح هذا الأمر. في الواقع، أدت إضافة العشوائية إلى الملاحظات الصغيرة إلى جعل الأخطاء أسوأ. فقد تسببت "ضوضاء" التخمينات العشوائية في تضخيم الأخطاء الصغيرة الموجودة بالفعل في الملاحظات الخفيفة، مما أدى إلى انهيار التدريب تماماً.
الحل الفائز: الترتيب الحتمي (The Deterministic Shuffle)
جرب الباحثون نهجاً مختلفاً وهو: دوران هادامارد الحتمي (Deterministic Hadamard Rotations).
- التشبيه: بدلاً من التخمين العشوائي، تخيل أن الطالب لديه مسطرة صلبة خاصة تعيد ترتيب الملاحظات الصغيرة بشكل مثالي قبل كتابتها. هذه المسطرة لا تضيف عشوائية، بل تقوم ببساطة بتنظيم المعلومات بطريقة محددة ومتوقعة حتى لا تصبح الملاحظات الخفيلة مجعدة أو مفقودة.
- النتيجة: نجح هذا الأمر بشكل مثالي. فمن خلال استخدام طريقة "إعادة الترتيب" المحددة والمتوقعة هذه، استطاع الطالب استخدام الملاحظات الصغيرة والسريعة للعملية بأكملها (القراءة، التحليل، والتحديث) دون أن يرتبك.
الخلاصة
يخلص البحث إلى نتيجتين رئيسيتين:
- عنق الزجاجة: السبب الرئيسي لفشل التدريب بـ 4 بت ليس لأن الملاحظات صغيرة بشكل عام؛ بل لأن خطوة تحديث الدماغ (Wgrad) حساسة جداً للأخطاء الصغيرة في تلك الملاحظات.
- الحل: لجعل التدريب بـ 4 بت يعمل، لا تحتاج إلى إضافة المزيد من العشوائية. أنت بحاجة إلى الهيكلية. فمن خلال استخدام عملية إعادة ترتيب رياضية محددة ومتوقعة (دوران هادامارد)، يمكنك تثبيت العملية.
العائد:
عندما أصلحوا المشكلة باستخدام "مسطرة إعادة الترتيب" هذه، أصبح النظام أسرع بنسبة 20% في كل خطوة من خطوات التعلم. ولأن الطالب تعلم باستقرار دون الحاجة لأسئلة تدريب إضافية، فقد انتهت العملية برمتها بسرعة أكبر بنسبة 10% تقريباً مقارنة بالطريقة القديمة ذات الحبر الثقيل.
باختصار: يمكنك استخدام الملاحظات الصغيرة والسريعة، ولكن فقط إذا نظمتها بشكل مثالي قبل كتابتها. أما إذا ألقيت بها عشوائياً، فسوف ينهار كل شيء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.