REAP the Experts: Why Pruning Prevails for One-Shot MoE compression
El artículo presenta REAP, un método de poda de expertos que supera a las técnicas de fusión en tareas generativas al preservar el control de enrutamiento fino, logrando una compresión casi sin pérdidas en modelos MoE masivos.