Think Before You Grid-Search: Floor-First Triage for LLM Serving
Dit artikel stelt "Floor-First Triage" voor, een compositionele, op schatting gebaseerde workflow die LLM-decodering modelleert als een vijfdimensionale resourcevector om analytisch prestatiegrenzen te bepalen en beperkende factoren te identificeren voordat er wordt teruggevallen op zware profilering of grid search, waardoor berekenbare layout-beslissingen voor diverse werkpunten mogelijk worden.