Accelerating RL Post-Training Rollouts via System-Integrated Speculative Decoding
تقدم هذه الورقة إطار عمل لفك التشفير التخميني متكامل مع النظام ضمن NeMo-RL، والذي يعمل كأداة تسريع غير فاقدة للمعلومات لعمليات التدفق (rollouts) في مرحلة ما بعد التدريب للتعلم التعزيزي، محققاً تحسناً في الإنتاجية بنسبة 1.8 ضعف عند مقياس 8B، ومتوقعاً تسريعاً يصل إلى 2.5 ضعف في نهاية العملية عند مقياس 235B عند دمجه مع التنفيذ غير المتزامن.