Float8@2bits: Entropy Coding Enables Data-Free Model Compression
تقدم الورقة البحثية EntQuant، وهو إطار عمل لضغط ما بعد التدريب بدون بيانات يستفيد من ترميز الإنتروبيا لتحقيق ضغط بمعدل بتات فائق (أقل من 4 بت) يصل إلى أحدث المستويات في النماذج الكبيرة مثل نماذج الـ 70 مليار بارامتر في أقل من 10 دقائق، حيث ينجح في توحيد سرعة وعالمية الطرق التي لا تعتمد على البيانات مع الدقة العالية التي تتطلب عادةً بيانات معايرة.