Runtime-Orchestrated Second-Order Optimization for Scalable LLM Training
تقدم الورقة البحثية "أستيريا" (Asteria)، وهو نظام وقت تشغيل يتيح تحسيناً من الدرجة الثانية عملياً وقابلاً للتوسع للنماذج اللغوية الكبيرة عبر توزيع حالات المُحسِّن ديناميكياً عبر تدرجات هرمية متباينة للذاكرة، وفصل حسابات الممهدات المكلفة عن مسار تدريب وحدة معالجة الرسومات الحرج لتقليل العبء وتسريع التقارب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت عملاق وذكي للغاية (نموذج لغوي كبير) كيف يكتب القصص. للقيام بذلك، تحتاج إلى "معلم" (مُحسِّن/Optimizer) ينظر إلى أخطاء الروبوت ويخبره بكيفية التحسن.
حالياً، يستخدم معظم المعلمين طريقة بسيطة تسمى AdamW. إنها تشبه طالباً يراجع واجباته المنزلية، ويرى بعض الإجابات الخاطئة، ثم يقوم بتصحيحات صغيرة وسريعة. هي سريعة وتعمل بشكل جيد، لكنها تتطلب الكثير من الممارسة (ملايين الأمثلة) لتصبح جيدة حقاً.
هناك طريقة معلم أكثر ذكاءً وتطوراً تسمى تحسين الدرجة الثانية (Second-Order Optimization) (مثل SOAP أو Shampoo). هذا المعلم لا يكتفي فقط بالنظر إلى ما كان خاطئاً؛ بل يحلل شكل الأخطاء لفهم المشكلة بعمق. إنه يتعلم بشكل أسرع ويحتاج إلى أمثلة أقل. ومع ذلك، هناك عقبة ضخمة: هذا المعلم الذكي ثقيل للغاية. فهو يتطلب كميات هائلة من الذاكرة وقوة حوسبة للقيام بمسائل رياضية معقدة، مما يؤدي غالباً إلى تعطل الكمبيوتر أو بطئه الشديد لدرجة أن المعلم البسيط قد ينهي المهمة أولاً.
إليك "أستيريا" (Asteria): "مدير اللوجستيات الذكي"
قام الباحثون في جامعة أكسفورد ببناء نظام جديد يسمى Asteria. فكر في Asteria ليس كمعلم جديد، بل كـ مدير لوجستي بارع يعيد تنظيم الفصل الدراسي بأكتها لكي يتمكن المعلم الذكي أخيراً من أداء عمله دون كسر المدرسة.
إليك كيف يحل Asteria أكبر ثلاث مشكلات، باستخدام تشبيهات بسيطة:
1. مشكلة "الأثاث في غرفة ضيقة" (الذاكرة)
المشكلة: يحتاج المعلم الذكي إلى الاحتفاظ بمخططات ضخمة ومعقدة (مصفوفات) في رأسه (ذاكرة الـ GPU). على جهاز كمبيوتر قياسي، لا توجد مساحة كافية. الأمر يشبه محاولة وضع سرير بحجم ملكي، وطاولة طعام، وخزانة ملابس في شقة استوديو صغيرة. تمتلئ الغرفة، ويضطر المعلم للاستسلام.
حل Asteria: يعمل Asteria كـ خبير في طي الأثاث. فهو يدرك أن المعلم لا يحتاج إلى الإمساك بكل شيء في يديه في وقت واحد.
- هو يبقي الأجزاء الأكثر نشاطاً من المخططات على الـ GPU (المكتب).
- وينقل الأجزاء الثقيلة والأقل استخداماً إلى الـ CPU (الرواق) أو حتى إلى القرص الصلب (المرآب).
- والأهم من ذلك، أنه لا يستعيد الأجزاء الثقيلة إلى المكتب إلا عند الحاجة إليها تماماً. هذا يسمح للمعلم الذكي بالعمل على كمبيوتر محمول صغير بنفس كفاءة العمل على كمبيوتر خارق.
2. مشكلة "الازدحام المروري" (السرعة)
المشكلة: كل بضع خطوات، يتعين على المعلم الذكي إجراء عملية حسابية ضخمة ومعقدة (مثل حل لغز عملاق) لتحديث مخططاته. هذا يستغرق وقتاً طويلاً ويوقف الفصل بأكمله عن العمل. الأمر يشبه شاحنة توصيل تغلق الطريق السريع بالكامل أثناء تفريغ طرد واحد. هنا يظل الـ GPU (عقل الكمبيوتر) خاملاً، ينتظر.
حل Asteria: يقدم Asteria خط تجميع متوازي.
- بدلاً من إيقاف الفصل الرئيسي للقيام بالعمليات الحسابية الثقيلة، يرسل Asteria "الأعمال الشاقة" إلى فريق من العمال في المكتب الخلفي (الـ CPU).
- بينما يستمر الفصل الرئيسي (الـ GPU) في تعليم الروبوت، يقوم عمال المكتب الخلفي بهدوء بحل الألغاز المعقدة في الخلفية.
- وبحلول الوقت الذي يحتاج فيه الفصل إلى المخططات الجديدة، يكون المكتب الخلفي قد انتهى بالفعل من تجهيزها ومررها إليهم. لا يضطر الفصل الرئيسي للتوقف أبداً. وهكذا يختفي "الازدحام المروري".
3. مشكلة "دردشة المجموعة" (التدريب الموزع)
المشكلة: عند التدريب باستخدام أجهزة كمبيوتر متعددة في آن واحد، يتعين على الجميع عادةً التوقف والاتفاق على نفس المعلومات بالضبط قبل الانتقال إلى الخطوة التالية. هذا يشبه دردشة جماعية حيث يتعين على الجميع الانتظار حتى يرد أبطأ شخص قبل أن يتمكن أي شخص من الكتابة مرة أخرى.
حل Asteria: يستخدم Asteria "سياسة الكفاية" (Good Enough policy).
- بدلاً من انتظار الجميع ليكونوا متزامنين تماماً، فإنه يسمح لأجهزة الكمبيوتر بالعمل بمعلومات "قديمة" قليلاً (outdated) لفترة قصيرة.
- هو يرسل التحديثات فقط عندما تكون ضرورية حقاً.
- هذا يجعل المجموعة تتحرك بسرعة، مثل فريق يثق ببعضه البعض لمواصلة العمل أثناء اللحاق بالتحديثات لاحقاً، بدلاً من إيقاف المشروع بأكمله كل خمس دقائق.
النتائج: ماذا وجدوا؟
اختبر الباحثون Asteria على أجهزة حقيقية، بما في ذلك جهاز كمبيوتر واحد قوي (Nvidia DGX Spark) ومجموعة كبيرة من أجهزة الكمبيوتر (Nvidia GH200).
- يعمل على الأجهزة الصغيرة: تمكنوا من تدريب نموذج لغوي كبير (1 مليار بارامتر) على جهاز واحد لم يكن قادراً سابقاً على تحمل متطلبات الذاكرة لهذا المعلم الذكي.
- أسرع في الوقت الفعلي: لأنه يخفي "الازدحامات المرورية"، ينتهي التدريب في وقت فعلي أقل، رغم أن الرياضيات المستخدمة أصعب.
- يوفر الطاقة: من خلال إبقاء عقل الكمبيوتر (الـ GPU) مشغولاً وعدم تركه خاملاً بانتظار الحسابات، يستخدم Aster actually في الواقع طاقة إجمالية أقل لتحقيق نفس النتيجة مقارنة بالطرق القديمة المترهلة.
- لا يفقد الجودة: يتعلم النموذج بنفس جودة تعلمه مع المعلم الذكي "الأصلي" (غير المحسّن)، لكنه يصل إلى تلك النتيجة بشكل أسرع وأرخص.
باختصار:
Asteria لا يخترع صيغة رياضية جديدة. بدلاً من ذلك، هو يعيد التفكير في كيفية تشغيل الكمبيوتر لتلك الصيغة الرياضية. إنه يفصل الأعمال الشاقة عن العمل الرئيسي، ويستخدم جميع مساحات التخزين المتاحة بذكاء، ويسمح لأجهزة الكمبيوتر بالعمل بشكل غير متزامن. هذا يحول الطريقة التي كانت "عظيمة نظرياً ولكن مستحيلة عملياً" إلى أداة عملية لتدريب الجيل القادم من الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.