REAP the Experts: Why Pruning Prevails for One-Shot MoE compression
O artigo propõe o método REAP, que demonstra que a poda de especialistas é superior à fusão para a compressão de modelos MoE em tarefas generativas, alcançando compressão quase sem perdas ao preservar o controle de roteamento e minimizar o erro de reconstrução.