Anytime Pretraining: Horizon-Free Learning-Rate Schedules with Weight Averaging
تُثبت هذه الورقة أن الجمع بين متوسط الأوزان وجداول معدل التعلم البسيطة الخالية من الأفق (مثل الاضمحلال متعدد الحدود أو ) يحقق أداءً نهائيًا مماثلاً لجداول جيب التمام المضبوطة للنماذج اللغوية الكبيرة، مما يقدم بديلًا عمليًا ومرتكزًا على أسس نظرية للتدريب في الإعدادات مفتوحة النهايات حيث يكون الأفق الإجمالي غير معروف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، تُعد النماذج اللغوية الكبيرة هي المحركات التي تشغل كل شيء، من المساعدات الكتابية إلى أدوات الاستدلال المعقدة. ولجعل هذه المحركات تعمل، يجب على الباحثين تعليمها عن طريق تغذيتها بكميات هائلة من النصوص، وهي عملية تُعرف باسم "التدريب المسبق". يتطلب هذا التعليم توازناً دقيقاً بين السرعة والدقة، يتم التحكم فيه من خلال إعداد يُسمى "معدل التعلم". فكر في هذا المعدل كوتيرة تعديل المعرفة الداخلية للنموذج بناءً على المعلومات الجديدة. إذا كانت الوتيرة سريعة جداً، فإن النموذج يتجاوز الحقيقة؛ وإذا كانت بطيئة جداً، فإنه لا يتعلم شيئاً. لسنوات، كانت الطريقة القياسية لإدارة هذه الوتيرة هي جدول زمني يُعرف باسم "تلاشي جيب التمام" (cosine decay). تبدأ هذه الطريقة النموذج بسرعة معتدلة، ثم تبطئها تدريجياً في منحنى سلس، وتتوقف عند لحظة دقيقة. ومع ذلك، فإن هذا النهج القياسي يعيبه عيب جوهري: فهو يتطلب معرفة المدة التي سيستغرقها التدريب بالضبط قبل اتخاذ الخطوة الأولى. وفي عالم تصل فيه البيانات باستمرار ويكون إجمالي المعلومات فيه غير معروف، فإن هذا المتطلب يشبه محاولة قيادة سيارة بخريطة تظهر الوجهة فقط، وليس المسافة للوصول إليها.
لقد تصدى الباحثون في جامعة هارفارد ومعهد كيمبنر لهذه المشكلة من خلال تطوير طريقة جديدة لتدريب هذه النماذج لا تتطلب تاريخ انتهاء محدداً مسبقاً. ويُظهر عملهم، الذي يجمع بين النظرية الرياضية والتجارب واسعة النطاق، أنه يمكن تدريب النماذج بفعالية دون معرفة متى سيتوقف التدريب أبداً. وقد وجدوا أنه من خلال استخدام وتيرة بسيطة وثابتة تتباطأ طبيعياً بمرور الوقت، ومن خلال متوسط تقدم النموذج طوال الرحلة، يمكنهم تحقيق نتائج جيدة تماماً مثل الطريقة التقليدية. يشير هذا الاكتشاف إلى أن الجداول الزمنية الصارمة والمخطط لها مسبقاً لم تعد ضرورية لبناء الذكاء الاصطناعي الأكثر تقدماً، مما يفتح الباب لتدريب أنظمة يمكنها التعلم باستمرار مع توفر بيانات جديدة.
يكمن جوهر المشكلة في طبيعة البيانات الحديثة. فخلافاً لمجموعات البيانات الثابتة في الماضي، تتدفق معلومات اليوم بلا نهاية. قد يتم تدريب نموذج لمدة أسبوع، أو شهر، أو ربما لسنوات، اعتماداً على كمية البيانات المتاحة. إن جدول "تلاشي جيب التمام" التقليدي هو جدول "يعتمد على الأفق" (horizon-dependent)، مما يعني أنه يجب ضبطه خصيصاً لفترة زمنية معروفة. فإذا قام باحث بضبط جدول زمني لجولة مدتها شهر واحد ولكن المشروع امتد لثلاثة أشهر، فإن أداء النموذج سيتضرر لأن معدل التعلم صُمم ليتباطأ في وقت مبكر جداً. لقد سعى الباحثون لإيجال بديل "خالٍ من الأفق" (horizon-free)، وهو أسلوب يعمل جيداً بغض النظر عما إذا كان التدريب سيتوقف غداً أو العام المقبل. واقترحوا أنه بدلاً من المنحنى المعقد، يمكن لجدول بسيط يتلاشى ببطء بمرور الوقت، مقترناً بتقنية تُسمى "متوسط الأوزان" (weight averaging)، أن يحل هذه المشكلة. ومتوسط الأوزان هو عملية لا يكون فيها النموذج النهائي مجرد النسخة الأخيرة التي تم إنشاؤها، بل هو مزيج من نسخ عديدة من جميع مراحل عملية التدريب، مما يعمل على تنعيم الضجيج وتثبيت النتيجة.
لاختبار هذه الفكرة، لجأ الفريق أولاً إلى النظرية الرياضية. فقد حللوا سلوك نموذج مبسط للتعلم، باستخدام الانحدار الخطي على بيانات تحاكي الأنماط المعقدة الموجودة في اللغة. وأظهر تحليلهم أنه بالنسبة لأنواع معينة من البيانات، فإن معدل التعلم الذي يتناقص ببطء بمرور الوقت، وتحديداً باتباع نمط ينخفض مع زيادة الجذر التربيعي للزمن، هو الأمثل نظرياً. والأهم من ذلك، أنهم أثبتوا أنه عندما يقترن هذا التلاشي المحدد بمتوسط الأوزان، فإن الطريقة تحقق أفضل سرعة ممكنة للتعلم دون الحاجة لمعرفة إجمالي وقت التدريب مسبقاً. وفر هذا الاكتشاف النظري أساساً قوياً، مشيراً إلى أن نهجاً بسيطاً وثابتاً يمكن أن يتفوق على المنحنيات المعقدة والمخطط لها مسبقاً في الإعدادات مفتوحة النهاية.
ثم انتقل الباحثون من النظرية إلى التطبيق، حيث قاموا بتدريب نماذج لغوية كبيرة تحتوي على 150 مليون و300 مليون معلمة (parameter). وقاموا بتدريب هذه النماذج على مجموعة ضخمة من النصوص، مما دفعها لتعلم ما يصل إلى 32 ضعف كمية البيانات المستخدمة عادةً لنماذج بهذا الحجم. وهذا النطاق مهم لأنه يحاكي الظروف التي تُبنى فيها أكثر أنظمة الذكاء الاصطناعي تقدماً في العالم. وقارنوا جداولهم الجديدة "الخالية من الأفق" مقابل جدول "تلاشي جيب التمام" القياسي، الذي تم ضبطه بعناية لكل مدة تدريب محددة. وكانت النتائج مذهلة؛ إذ تتبعت الطرق الجديدة، التي استخدمت إما معدل تعلم ثابت مع المتوسط أو معدل يتلاشى ببطء مع المتوسط، أداء أفضل جداول جيب التمام المضبوطة بدقة تقريباً. وعبر النطاق الكامل للتدريب، من الجولات القصيرة إلى أطول المدد الممكنة، حققت الطرق الخالية من الأفق نتائج نهائية لا يمكن تمييزها عن النهج التقليدي.
إن أحد أكثر جوانب هذا العمل إقناعاً هو واقعيته العملية. فقد أظهر الباحثون أن مجموعة واحدة من الإعدادات، المختارة في وقت مبكر من التدريب، يمكن استخدامها طوال مدة المشروع، حتى لو توسع المشروع فجأة. وقد أثبتوا أنه إذا تم ضبط نموذج لنقطة وسيطة محددة، مثل أربعة أضعاف كمية البيانات القياسية، فإن تلك الإعدادات نفسها ستستمر في الأداء بشكل جيد مع امتداد التدريب إلى 32 ضعف تلك الكمية. وهذا يلغي الحاجة إلى إيقاف النموذج وإعادة ضبطه في كل مرة يتغير فيها أفق التدريب. علاوة على ذلك، اختبروا طريقة بديلة شائعة تُعرف باسم "الإحماء-الاستقرار-التلاشي" (warmup-stable-decay)، والتي تحاول محاكاة أفضل ما في العالمين من خلال إبقاء المعدل ثابتاً لمعظم فترة التدريب ثم تلاشيه في النهاية. وبينما قدمت هذه الطة أداءً جيداً، إلا أنها لا تزال تتطلب معرفة متى يبدأ مرحلة التلاشي، مما يجعلها أقل مرونة من النهج الخالي من الأفق حقاً الذي اقترحه المؤلفون.
كما استكشفت الدراسة كيفية سلوك هذه الأساليب عندما تكون بيانات التدريب كبيرة جداً، وهو سيناريو يكون فيه الضجيج في عملية التعلم أقل بطبيعته. وفي هذه الظروف، وجد الباحثون أن معدل التعلم لا يحتاج إلى التلاشي على الإطلاق. فالمعدل الثابت، مقترناً بمتوسط الأوزان، كان كافياً لتحقيق الأداء العالي. ويتماشى هذا مع توقعهم النظري بأنه عندما يكون التباين، أو الضجيج، في البيانات صغيراً، يستفيد النموذج أكثر من الحفاظ على وتيرة ثابتة لتقليل التحيز، أو الخطأ، بدلاً من التباطؤ. تشير هذه الرؤية إلى أنه مع نمو القدرة الحوسبية وقدرة النماذج على معالجة دفعات أكبر من البيانات، قد يتضاءل الاحتياج لجداول التلاشي المعقدة تماماً، ليحل محلها استراتيجيات أبسط وأكثر متانة.
في الختام، يوفر هذا البحث مساراً واضحاً لمستقبل تدريب الذكاء الاصطناعي. فهو يشير إلى أن الجداول الزمنية الصارمة والمحسوبة مسبقاً، والتي هيمنت على المجال لسنوات، ليست هي الطريقة الوحيدة، وربما ليست حتى الطريقة الأفضل، لتدريب النماذج في عصر البيانات المستمرة. ومن خلال إثبات أن الجداول البسيطة الخالية من الأفق المقترنة بمتوسط الأوزان يمكن أن تضاهي أداء الطرق التقليدية الأكثر ضبطاً، قدم المؤلفون حلاً عملياً للتعلم مفتوح النهاية. يسمح هذا النهج للنماذج بالتكيف مع أي كمية من البيانات متاحة، مما يجعل عملية التدريب أكثر مرونة وكفاءة. وتشير النتائج إلى أن مستقبل تدريب النماذج اللغوية الكبيرة قد لا يكمن في خوارزميات الجدولة الأكثر تعقيداً، بل في استراتيجيات أبسط وأكثر مرونة يمكنها التعلم باستمرار دون نهاية محددة مسبقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.