ScheduleFree+: Scaling Learning-Rate-Free & Schedule-Free Learning to Large Language Models
تقدم هذه الورقة البحثية ScheduleFree+، وهي طريقة خالية من معدل التعلم وخالية من الجدولة، نجحت في توسيع نطاق التعلم الخالي من الجدولة (Schedule-Free Learning) ليشمل النماذج اللغوية الكبيرة، متفوقة بشكل كبير على جداول التدريب المتطورة مثل Warmup-Stable-Decay، لا سيما في سيناريوهات التدريب طويلة الأمد.