REAP the Experts: Why Pruning Prevails for One-Shot MoE compression
L'article présente REAP, une méthode de compression par élagage des experts qui, contrairement aux techniques de fusion, préserve le contrôle de routage fin et surpasse les approches existantes pour la compression des modèles MoE dans les tâches génératives, notamment avec une réduction de 50 % des paramètres.