Rethinking Predictive Modeling for LLM Routing: When Simple kNN Beats Complex Learned Routers
यह शोधपत्र प्रदर्शित करता है कि एक अच्छी तरह से ट्यून किया गया k-निकटतम पड़ोसी (kNN) दृष्टिकोण विविध कार्यों के लिए LLM रूटिंग हेतु जटिल सीखे गए राउटरों के बराबर या उनसे बेहतर प्रदर्शन कर सकता है, जिसे नए मानकीकृत बेंचमार्क द्वारा समर्थित किया गया है जिसमें पहला मल्टी-मोडल रूटिंग डेटासेट भी शामिल है।