Nucleus-Image: Sparse MoE for Image Generation
يُعد Nucleus-Image نموذج محول انتشار (diffusion transformer) من نوع خليط الخبراء المتناثر (Mixture-of-Experts) مفتوح المصدر بالكامل، يمتلك 17 مليار معلمة ويحقق جودة توليد صور هي الأفضل في فئتها باستخدام 2 مليار معلمة نشطة فقط لكل تمريرة أمامية من خلال ابتكارات معمارية مثل توجيه اختيار الخبراء (Expert-Choice Routing) وتعديل الخطوات الزمنية المنفصل (decoupled timestep modulation)، وكل ذلك دون الاعتماد على تحسين ما بعد التدريب.