BOOST: BOttleneck-Optimized Scalable Training Framework for Low-Rank Large Language Models
تقدم الورقة البحثية إطار عمل BOOST، وهو إطار تدريب فعال يتميز بالتوازي التنسوري المدرك لعنق الزجاجة (Bottleneck-aware Tensor Parallelism) وتحسينات متنوعة تسرع بشكل كبير تدريب بنيات عنق الزجاجة منخفضة الرتبة واسعة النطاق من خلال التغلب على قيود الاتصال والاستخدام التي تفرضها تقنية التوازي ثلاثي الأبعاد القياسية.