Beyond GRPO and On-Policy Distillation: An Empirical Sparse-to-Dense Reward Principle for Language-Model Post-Training
تقترح هذه الورقة وتثبت تجريبياً مبدأ مكافأة "من الشحيح إلى الكثيف" لمرحلة ما بعد التدريب للنماذج اللغوية، مظهرةً أن تخصيص البيانات القابلة للتحقق النادرة لتدريب نموذج معلم قوي بمكافآت شحيحة قبل نقل سلوكه إلى نموذج طالب أصغر عبر إشراف كثيف يتفوق على التعلم المعزز المباشر الشحيح على النموذج الطالب.