How Portable Are LLM-Serving Scheduler Rankings Across Workloads, Operating Regions, and Metrics?
Este artículo presenta el LLM-Serving Scheduler Portability Benchmark (LSSP) para demostrar que, si bien las clasificaciones de las políticas de planificación muestran una fuerte concordancia entre algunas fuentes de carga de trabajo, exhiben una variabilidad significativa y una portabilidad limitada a través de diferentes regiones operativas y métricas de evaluación, lo que requiere que las comparaciones de planificadores se interpreten como condicionales a su contexto experimental específico.