Compiling Agentic Workflows into LLM Weights: Near-Frontier Quality at Two Orders of Magnitude Less Cost
यह शोध पत्र यह तर्क देता है कि एजेंटिक वर्कफ़्लो को सीधे छोटे, फाइन-ट्यून्ड मॉडल्स के वेट्स (weights) में संकलित करना ("सबटेरेनियन एजेंट्स"), प्रचलित बाहरी ऑर्केस्ट्रेशन फ्रेमवर्क्स के मुकाबले एक लागत प्रभावी, निजी और संदर्भ-कुशल विकल्प प्रदान करता है, जो विविध जटिल कार्यों में फ्रंटियर-स्तर की गुणवत्ता प्रदर्शित करते हुए प्रमुख अंगीकरण बाधाओं को दूर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर की व्याख्या दी गई है।
मुख्य विचार: रेसिपी को शेफ के भीतर ही पकाना (Baking the Recipe into the Chef)
कल्प-ना कीजिए कि आप कोई जटिल कार्य करने की कोशिश कर रहे हैं, जैसे कि एक पेचीदा यात्रा बुक करना या किसी टूटी हुई मशीन को ठीक करना। वर्तमान में, अधिकांश कंपनियाँ एक "मैनेजर और वर्कर" सिस्टम (जिसे एजेंट ऑर्केस्ट्रेशन कहा जाता है) का उपयोग करती हैं।
- वर्तमान तरीका (मैनेजर): आपके पास एक बहुत ही स्मार्ट, महंगा "मैनेजर" (एक फ्रंटियर एआई मॉडल) है। हर बार जब "वर्कर" (वह एआई जो आपसे बात कर रहा है) को कोई निर्णय लेने की आवश्यकता होती है, तो मैनेजर रुक जाता है, एक विशाल नियम पुस्तिका पढ़ता है, वर्कर को बताता है कि आगे क्या करना है, और फिर वर्कर के जवाब का इंतज़ार करता है। यह बार-बार होता है। यह धीमा है, महंगा है, और मैनेजर को हर बार पूरी नियम पुस्तिका पढ़नी पड़ती है।
- नया तरीका (सबटेरेनियन एजेंट): लेखक एक अलग दृष्टिकोण का प्रस्ताव करते हैं: प्रक्रिया को सीधे 'वेट्स' (weights) में पका लें (Compile)। कल्पना कीजिए कि आप उस विशाल नियम पुस्तिका को सीधे वर्कर के दिमाग में ही पका देते हैं। अब, वर्कर खुद एक विशेषज्ञ है। उसे यह बताने के लिए मैनेजर की ज़रूरत नहीं है कि आगे क्या करना है; वह स्वाभाविक रूप से प्रवाह को जानता है। वे एक "सबटेरेनियन एजेंट" बन जाते हैं—एक ऐसा विशेषज्ञ जो अंदर से बाहर की ओर काम करता है।
पेपर यह सवाल पूछता है: क्या एक छोटे, सस्ते एआई में नियमों को पकाना वास्तव में एक विशाल, महंगे मैनेजर का उपयोग करने जितना ही अच्छा है?
तीन बाधाएं (और उन्होंने उन्हें कैसे पार किया)
लेखकों को लगा कि लोग ऐसा इसलिए नहीं कर रहे थे क्योंकि उन्हें तीन बड़े डर थे। उन्होंने इन डरों का तीन वास्तविक दुनिया के परिदृश्यों में परीक्षण किया: ट्रैवल बुकिंग, ज़ूम टेक सपोर्ट, और इंश्योरेंस क्लेम।
1. गुणवत्ता का डर: "क्या एक छोटा दिमाग एक बड़े दिमाग जितना स्मार्ट होगा?"
- डर: लोगों को लगा कि एक छोटा, सस्ता एआई (3 बिलियन या 8 बिलियन पैरामीटर्स वाला) एक विशाल, महंगे एआई (जैसे कि बड़ी टेक कंपनियों द्वारा उपयोग किए जाने वाले) की तरह जटिल चरणों को उतनी अच्छी तरह से नहीं संभाल पाएगा।
- परिणाम: आश्चर्यजनक रूप से, छोटा एआई लगभग बड़े एआई के बराबर ही प्रदर्शन कर पाया।
- ट्रैवल में, छोटा एआई बड़े एआई की तुलना में थोड़ा कम "विनम्र" या "शिष्ट" था, लेकिन उसने काम सही ढंग से पूरा किया।
- ज़ूम सपोर्ट और इंश्योरेंस (जो बहुत कठिन हैं) में, हमने छोटे एआई को एक थोड़े बड़े संस्करण (8 बिलियन) में अपग्रेड किया। इस संस्करण ने लगभग हर मानक पर बड़े, महंगे एआई की बराबरी की।
- उपमा: यह एक स्थानीय, अनुभवी मैकेनिक (छोटा एआई) बनाम एक विश्व प्रसिद्ध रेसिंग टीम (बड़ा एआई) को बुलाने जैसा है। आपकी कार की रोज़मर्रा की समस्या को ठीक करने के लिए, स्थानीय मैकेनिक 90-98% उतना ही अच्छा है, लेकिन उसकी लागत बहुत कम है।
2. लागत का डर: "क्या इसे चलाना वास्तव में सस्ता है?"
- डर: लोगों ने सोचा कि भले ही छोटा एआई प्रशिक्षित करना सस्ता हो, लेकिन इसे चलाने में अभी भी महंगा हो सकता है क्योंकि आपको कंप्यूटर पावर के लिए भुगतान करना होगा।
- परिणाम: यह बेहद सस्ता है।
- "मैनेजर" सिस्टम को एआई द्वारा बोले गए हर एक वाक्य के लिए एक बहुत ही महंगे API को कॉल करना पड़ता है।
- "बेक्ड-इन" (Baked-in) सिस्टम एक मानक कंप्यूटर सर्वर (सेल्फ-होस्टेड) पर चलता है।
- गणित: नया तरीका प्रति बातचीत 128 से 462 गुना सस्ता है।
- उपमा: पुराना तरीका एक टैक्सी ड्राइवर को हर बार पहिया घुमाने के लिए 1,000 में कार खरीदने और उसे खुद चलाने जैसा है। आप जितना अधिक चलाते हैं (कार्य जितना जटिल होता है), उतना ही अधिक पैसा बचाते हैं।
3. लचीलेपन का डर: "अगर नियम बदल गए तो क्या होगा? क्या मुझे महीनों तक फिर से ट्रेनिंग देनी होगी?"
- डर: लोगों ने सोचा कि यदि बीमा कंपनी एक फॉर्म बदल देती है या ट्रैवल एजेंसी एक नीति बदल देती है, तो आपको एआई को फिर से प्रशिक्षित करने के लिए हफ्तों इंतजार करना होगा।
- परिणाम: यह तेज़ है।
- नियमों को बदलना और एआई को फिर से प्रशिक्षित करना मानक हार्डवेयर पर 30 से 50 मिनट लेता है।
- उपमा: यह घर को फिर से बनाने जैसा नहीं है; यह आपके फोन पर सॉफ्टवेयर अपडेट करने जैसा है। आप इसे एक कप कॉफी बनाने के समय में कर सकते हैं।
यह कैसे काम करता है (द "सबटेरेनियन" पाइपलाइन)
प्रक्रिया आश्चर्यजनक रूप से सरल है:
- नक्शा बनाएं: आप एक फ्लोचार्ट बनाएं कि बातचीत कैसे आगे बढ़ेगी (जैसे, "तारीख पूछें" -> "बजट जांचें" -> "विकल्प दिखाएं")।
- अभ्यास रन: एक सुपर-स्मार्ट एआई ("टीचर") इस नक्शे के माध्यम से हजारों बार खेलता है, जिससे नकली बातचीत (fake conversations) बनती हैं।
- दिमाग को पकाना (Bake the Brain): आप एक छोटे एआई को ये नकली बातचीत सिखाते हैं। एआई बातचीत के पैटर्न को सीखता है, न कि केवल शब्दों को।
- लाइव जाएं: आप छोटे एआई को तैनात करते हैं। अब उसे फ्लोचार्ट की आवश्यकता नहीं है; फ्लोचार्ट अब उसकी याददाश्त का हिस्सा है। वह सीधे आपसे बात करता है।
निष्कर्ष
पेपर निष्कर्ष निकालता है कि स्पष्ट चरणों वाले कार्यों (जैसे बुकिंग, सपोर्ट, या क्लेम) के लिए, आपको मैनेजर की आवश्यकता नहीं है।
- स्थिर संरचना (Persistent Structure) वेट्स में होनी चाहिए: खेल के नियम एआई के दिमाग में पके होने चाहिए।
- अस्थायी स्थिति (Transient State) प्रॉम्प्ट में होनी चाहिए: आपकी यात्रा या आपके टूटे हुए ज़ूम कॉल के विशिष्ट विवरण एआई को बातचीत के दौरान बताए जाने चाहिए।
नियमों को "मैनेजर" से हटाकर "वर्कर के दिमाग" में ले जाकर, आप दो ऑर्डर ऑफ मैग्नीट्यूड (100x) कम लागत के साथ लगभग पूर्ण गुणवत्ता प्राप्त करते हैं, और एक घंटे के भीतर नियमों को अपडेट करने की क्षमता रखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।