Target-Workload Auditing for Quality-Constrained LLM Routing
Dit artikel stelt een target-workload audit-framework voor voor kwaliteit-beperkte LLM-routing dat fouten van referentiemodellen benut om economische "cheap-only" reddingen mogelijk te maken, waarbij door middel van uitgebreide experimenten wordt aangetoond dat target-gecertificeerde willekeurige routing en gepaarde certificering bestaande methoden aanzienlijk overtreffen in het balanceren van kostenbesparingen met strikte kwaliteits- en schadebeperkingen.