Switchcraft: AI Model Router for Agentic Tool Calling
यह शोधपत्र Switchcraft को प्रस्तुत करता है, जो विशेष रूप से एजेंटिक टूल कॉलिंग (agentic tool calling) के लिए अनुकूलित पहला मॉडल राउटर है, जो कार्य की शुद्धता सुनिश्चित करने वाले सबसे कम लागत वाले मॉडल का गतिशील रूप से चयन करके 84% अनुमान लागत (inference costs) को कम करते हुए 82.9% सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक व्यस्त रेस्टोरेंट की रसोई चला रहे हैं। आपके पास शेफ की एक टीम है: एक विश्व प्रसिद्ध, बेहद महंगा 'मास्टर शेफ' जो कुछ भी पूरी तरह से बना सकता है, और कुछ प्रतिभाशाली लेकिन सस्ते जूनियर शेफ जो साधारण व्यंजन बनाने में माहिर हैं।
AI की दुनिया में, "एजेंटिक AI" (Agentic AI) एक रोबोट वेटर की तरह है जो केवल ऑर्डर नहीं लेता; बल्कि वह रसोई में जाता है, सामग्री उठाता है, ओवन की जांच करता है, और एक जटिल भोजन पकाने के लिए शेफ को बुलाता है। समस्या यह है कि अधिकांश रेस्टोरेंट स्वचालित रूप से हर ऑर्डर को मास्टर शेफ के पास भेज देते हैं। यह पैसे की बर्बादी है। "मौसम की जांच करने" जैसे अनुरोध के लिए मास्टर शेफ को नियुक्त करना वैसा ही है जैसे एक अंडा उबालने के लिए मिशलिन-स्टार वाले शेफ को काम पर रखना।
स्विचक्राफ्ट (Switchcraft) एक नया, स्मार्ट हेड शेफ (या मैनेजर) है जो ग्राहकों और रसोई के बीच खड़ा होता है। इसका काम हर ऑर्डर को देखना और यह तय करना है: "क्या हमें इसके लिए मास्टर शेफ की जरूरत है, या क्या एक जूनियर शेफ इसे संभाल सकता है?"
स्विचक्राफ्ट कैसे काम करता है, इसे सरल शब्दों में यहाँ दिया गया है:
1. समस्या: "एक ही आकार सबके लिए" वाली गलती
पेपर बताता है कि जब AI एजेंट टूल्स (जैसे स्टॉक की कीमत देखना या फ्लाइट बुक करना) का उपयोग करने की कोशिश करते हैं, तो उन्हें अत्यंत सटीक होने की आवश्यकता होती है। यदि AI गलत कीमत का अनुमान लगाता है या "खरीदें" (Buy) और "बेचें" (Sell) के बीच भ्रमित हो जाता है, तो परिणाम एक वित्तीय आपदा होती है।
- पुराना तरीका: डेवलपर्स सुरक्षा के लिए हर चीज़ के लिए सबसे बड़े, सबसे महंगे AI मॉडल को चुन लेते थे। यह हमेशा मास्टर शेफ को काम पर रखने जैसा था, यहाँ तक कि साधारण कार्यों के लिए भी, जिससे भारी बिल आता था।
- जाल: कभी-कभी, "सस्ते" मॉडल वास्तव में लंबे समय में अधिक महंगे होते हैं क्योंकि वे बहुत अधिक बातें करते हैं (लंबी, अनावश्यक व्याख्याएँ उत्पन्न करते हैं) या ऐसी गलतियाँ करते हैं जिन्हें ठीक करने के लिए महंगे सुधारों की आवश्यकता होती है।
2. समाधान: एक स्मार्ट "ट्रैफिक पुलिस"
स्विचक्राफ्ट एक छोटा, सुपर-फास्ट AI मॉडल (जिसे राउटर कहा जाता है) है जो एक ट्रैफिक पुलिस की तरह काम करता है।
- यह ऑर्डर को पढ़ता है: यह देखता है कि उपयोगकर्ता क्या करना चाहता है।
- यह मेनू की जांच करता है: यह आठ अलग-अलग AI मॉडलों (छोटे, सस्ते मॉडलों से लेकर विशाल, महंगे मॉडलों तक) की ताकत और कमजोरियों को जानता है।
- यह निर्णय लेता है: यह उस सबसे सस्ते मॉडल को चुनता है जिसे वह विश्वास है कि वह काम को सही ढंग से पूरा कर सकता है।
3. इसने स्मार्ट बनना कैसे सीखा
स्विचक्राफ्ट को प्रशिक्षित करने के लिए, शोधकर्ताओं ने केवल इसे "अनुमान लगाने" के लिए नहीं कहा; उन्होंने पांच अलग-अलग वास्तविक दुनिया के उदाहरणों (जैसे अलग-अलग इलाकों के साथ एक ड्राइविंग स्कूल) का उपयोग करके एक विशाल प्रशिक्षण मैदान बनाया।
- "AST" चेकर: एक सख्त खाद्य निरीक्षक की कल्पना करें। जब एक मॉडल व्यंजन बनाता है (टूल कॉल उत्पन्न करता है), तो यह निरीक्षक केवल स्वाद नहीं चखता; वह रेसिपी की चरण-दर-चरण जांच करता है। क्या उन्होंने सही सामग्री का उपयोग किया? क्या तापमान सटीक था? क्या संचालन का क्रम सही था?
- प्रशिक्षण: स्विचक्राफ्ट ने हजारों ऐसे निरीक्षणों को देखा। इसने सीखा कि "स्टॉक चेक करें" जैसे सरल अनुरोध के लिए, एक छोटा मॉडल एकदम सही है। लेकिन "मार्केट प्राइस पर 150 शेयर खरीदें" जैसे जटिल अनुरोध के लिए, यह जानता है कि इसे एक मजबूत मॉडल के पास भेजना है।
4. परिणाम: गुणवत्ता खोए बिना पैसे बचाना
पेपर का दावा है कि स्विचक्राफ्ट एक गेम-चेंजर है:
- सटीकता: यह 82.9% बार काम को सही ढंग से करता है। यह पूल में मौजूद सबसे महंगे मास्टर शेफ के बराबर या उससे भी थोड़ा बेहतर है।
- लागत: यह इन AI एजेंटों को चलाने की लागत को 84% तक कम कर देता है।
- बचत: यदि आप इनके दस लाख (एक मिलियन) क्वेरी चलाते हैं, तो आप $3,600 से अधिक बचाते हैं।
- गति: हेड शेफ (स्विचक्राफ्ट) अपना निर्णय 20 मिलीसेकंड से भी कम समय में लेता है। यह इतना तेज़ है कि ग्राहक के ऑर्डर में लगभग कोई प्रतीक्षा समय नहीं जुड़ता।
5. आश्चर्यजनक खोजें
शोधकर्ताओं ने कुछ ऐसी चीजें पाईं जिन्होंने उन्हें आश्चर्यचकित कर दिया:
- महंगा हमेशा बेहतर नहीं होता: कभी-कभी नया, सबसे महंगा मॉडल वास्तव में एक थोड़े पुराने, सस्ते मॉडल की तुलना में खराब काम करता है क्योंकि वह बहुत अधिक बातें करने लगता है या भ्रमित हो जाता है।
- चैट बनाम एक्शन: जो मॉडल एक बेहतरीन "चैटर" (जैसे एक मिलनसार बॉट) के रूप में प्रशिक्षित है, वह वास्तव में "करने" (टूल्स का उपयोग करने) में बुरा होता है। स्विचक्राफ्ट विशेष रूप से "करने" के कार्यों के लिए सीखा गया है, न कि केवल बातचीत करने के लिए।
- "बातूनीपन" का टैक्स: कुछ सस्ते मॉडल प्रति शब्द सस्ते होते हैं, लेकिन वे इतनी अधिक बातें करते हैं कि वे एक संक्षिप्त, मध्यम-मूल्य वाले मॉडल की तुलना में अधिक महंगे साबित होते हैं। स्विचक्राफ्ट ने इसे पहचानना और इससे बचना सीख लिया।
निचोड़
स्विचक्राफ्ट AI के लिए एक स्मार्ट शॉपिंग असिस्टेंट की तरह है। आँख बंद करके सबसे महंगी वस्तु खरीदने के बजाय, यह आपकी जरूरतों की जांच करता है, विकल्पों की तुलना करता है, और सबसे अच्छा मूल्य चुनता है। यह साबित करता है कि आपको हर कार्य के लिए "मास्टर शेफ" के लिए भुगतान करने की आवश्यकता नहीं है; सही मैनेजर के साथ, आप बहुत कम कीमत में वही सटीक परिणाम प्राप्त कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।