On-Device Fine-Tuning via Backprop-Free Zeroth-Order Optimization
تُثبت هذه الورقة أن التحسين من الدرجة الصفرية الموفر للذاكرة (MeZO) يُمكّن من الضبط الدقيق للنماذج الأكبر حجماً بكثير من النماذج التقليدية عبر الانتشار العكسي من خلال إجراء الضبط الدقيق على الأجهزة، وذلك عبر إلغاء الحاجة إلى تخزين التنشيطات وحالات المُحسِّن، وبالتالي المقايضة بزيادة في وقت التنفيذ الفعلي مقابل دقة فائقة في ظل قيود الذاكرة الصارمة.