Reducing the GPU Memory Bottleneck with Lossless Compression for ML -- Extended
تقدم هذه الورقة البحثية تقنية "تعبئة البتات الثابتة" (Invariant Bit Packing - IBP)، وهي خوارزمية ضغط غير فقدانية مبتكرة تتكامل بسلاسة مع مسارات تعلم الآلة (ML pipelines) للقضاء على اختناقات ذاكرة وحدة معالجة الرسومات (GPU) وتسريع تدريب الشبكات العصبية الرسومية (GNN)، وعمليات البحث عن التضمينات في نماذج التعلم العميق للترشيح والتوصية (DLRM)، واستنتاج النماذج اللغوية الكبيرة (LLM) بشكل كبير، دون التضحيات بالدقة المرتبطة بالضغط الفقداني.