Decomposing Evolutionary Mixture-of-LoRA Architectures: The Routing Lever, the Lifecycle Penalty, and a Substrate-Conditional Boundary
本論文は、1 億 5000 万パラメータの基盤における進化的 LoRA 混合システムの分解を行い、特定のルーター書き換えが性能向上を駆動する一方で、進化的ライフサイクル成分は純粋な性能ペナルティとして作用し、探索メカニズムは特定の事前整合条件の下でのみ有益であることを明らかにする。