GenesisFunc: Multi-Agent Data Generation for Accurate and Generalizable Function-Calling
यह शोध पत्र GenesisFunc को पेश करता है, जो एक मल्टी-एजेंट स्वचालित पाइपलाइन है जो एक 8B LLM को प्रशिक्षित करने के लिए उच्च-गुणवत्ता वाला, विविध सिंथेटिक फंक्शन-कॉलिंग डेटा उत्पन्न करता है, जो समान आकार के ओपन-सोर्स मॉडलों की तुलना में बेहतर इन-डोमेन प्रदर्शन और आउट-ऑफ-डोमेन सामान्यीकरण प्राप्त करता है और उन्नत API-आधारित प्रणालियों का मुकाबला करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान लेकिन अनुभवहीन सहायक है (एक लार्ज लैंग्वेज मॉडल, या LLM)। आप चाहते हैं कि यह सहायक उपकरणों (tools) का उपयोग कर सके—जैसे मौसम की जाँच करना, उड़ान बुक करना, या बजट बनाना—ठीक वैसे ही जैसे एक इंसान करता है। लेकिन एक समस्या है: इस सहायक को उपकरण उपयोग करना सिखाने के लिए, आपको इसे हजारों उदाहरण दिखाने होंगे जहाँ लोग मदद मांग रहे हों और सहायक सही उपकरण चुनकर उसमें विवरण भर रहा हो।
वास्तविक दुनिया में, इन उदाहरणों को इकट्ठा करना घास के ढेर में सुई खोजने जैसा है। यह महंगा है, धीमा है, और जो उदाहरण आपको मिलते हैं वे अक्सर बिखरे हुए या अधूरे होते हैं। पहले के प्रयास (सिंथेटिक डेटा बनाने के लिए) अक्सर ऐसे "नकली" उपकरण पैदा करते थे जो काम नहीं करते थे या ऐसी बातचीत जो रोबोटिक और दोहराव वाली लगती थी।
पेश है GENESISFUNC। इसे अपने AI सहायक के लिए एक हाई-टेक, स्वचालित "ट्रेनिंग कैंप" के रूप में समझें। हर एक उदाहरण लिखने के लिए इंसानों की एक टीम को काम पर रखने के बजाय, लेखकों ने एक ऐसा सिस्टम बनाया है जहाँ AI एजेंटों की एक टीम मिलकर बेहतरीन प्रशिक्षण डेटा तैयार करती है।
यहाँ GENESISFUNC "ट्रेनिंग कैंप" कैसे काम करता है, इसे सरल चरणों में समझाया गया है:
1. विश्वसनीय टूलबॉक्स (द टूल पूल)
प्रशिक्षण शुरू होने से पहले, सिस्टम को अभ्यास करने के लिए उपकरणों के एक सेट की आवश्यकता होती है। नकली उपकरण बनाने के बजाय, GENESISFUNC वास्तविक दुनिया के उपकरणों के एक भरोसेमंद, सार्वजनिक पुस्तकालय (जिसे BFCL बेंचमार्क कहा जाता है) के पास जाता है।
- उपमा: कल्पना कीजिए कि एक शेफ खाना बनाना सीखना चाहता है। नकली सामग्री बनाने के बजाय, वह ताजी, असली सब्जियों को चुनने के लिए एक उच्च-गुणवत्ता वाले, सत्यापित ग्रोसरी स्टोर में जाता है। यह सुनिश्चित करता है कि प्रशिक्षण कल्पना पर नहीं, बल्कि वास्तविकता पर आधारित है।
2. डायरेक्टर का कट (मल्टी-एजेंट डायलॉग जनरेशन)
यह इस प्रणाली का हृदय है। लेखकों ने चार AI "एजेंटों" (विशेषज्ञ प्रोग्रामों) की एक टीम स्थापित की है जो बातचीत के स्क्रिप्ट (संवाद) लिखने के लिए एक मूवी प्रोडक्शन क्रू की तरह काम करती है:
- कास्टिंग डायरेक्टर (सैंपल एजेंट): दृश्य के लिए उपकरणों का मिश्रण चुनता है। यह "मुख्य अभिनेताओं" (कार्य के लिए आवश्यक उपकरण) और "एक्स्ट्रा कलाकारों" (ऐसे भटकाने वाले उपकरण जो दिखने में समान हैं लेकिन सही चुनाव नहीं हैं) को चुनता है ताकि AI सही अंतर करना सीख सके।
- स्क्रिप्ट डॉक्टर (मेमोरी एजेंट): अब तक लिखे गए सभी दृश्यों का हिसाब रखता है। यदि टीम बार-बार "उड़ान बुक करने" के बारे में लिख रही है, तो यह एजेंट कहता है, "हे, हमने यह काफी कर लिया है; चलिए 'यात्रा की योजना बनाने' के बारे में एक दृश्य लिखते हैं।" यह सुनिश्चित करता है कि प्रशिक्षण डेटा विविध हो और दोहराव वाला न हो।
- एक्टर (फंक्शन एजेंट): वास्तविक संवाद लिखता है। यह एक उपयोगकर्ता बनाता है जो प्रश्न पूछता है और सहायक जो सही उपकरण चुनकर और खाली जगहों को भरकर (जैसे तारीखें या स्थान) उत्तर देता है। यह सुनिश्चित करता है कि विवरण वास्तविक हों, कभी-कभी वास्तविक मानवीय बातचीत की नकल करने के लिए कुछ वैकल्पिक विवरण छोड़ देता है।
- क्रिटिक (जज एजेंट): ड्राफ्ट को पढ़ता है और सबसे अच्छे को चुनता है। यह कमजोर स्क्रिप्ट को हटा देता है और केवल उन्हें रखता है जहाँ AI सहायक ने काम को पूरी तरह से सफलतापूर्वक पूरा किया हो।
3. गुणवत्ता नियंत्रण जांच (मल्टी-स्टेज इवैल्यूएशन)
एक बेहतरीन टीम होने के बावजूद, गलतियाँ होती हैं। डेटा का उपयोग मॉडल को प्रशिक्षित करने के लिए करने से पहले, इसे तीन-चरणीय निरीक्षण से गुजरना पड़ता है:
- ग्रामर पुलिस (रूल चेकर): एक कंप्यूटर प्रोग्राम यह जाँचता है कि क्या फॉर्मेट सही है (जैसे, "क्या उन्होंने सही ब्रैकेट का उपयोग किया?")।
- लॉजिक जज (मॉडल चेकर): एक अधिक स्मार्ट AI बातचीत को पढ़ता है कि क्या तर्क समझ में आता है (जैसे, "क्या सहायक ने वास्तव में उपयोगकर्ता की समस्या को हल किया?")।
- ह्यूमन एडिटर (मानवीय सत्यापन): विशेषज्ञों की एक छोटी टीम कठिन मामलों की समीक्षा करती है। वे कुल मिलाकर केवल लगभग 15 घंटे ही खर्च करते हैं क्योंकि कंप्यूटर पहले ही 95% त्रुटियों को फ़िल्टर कर चुका होता है।
परिणाम: एक सुपर-हेल्पर
इस विशाल, उच्च-गुणवत्ता वाले डेटासेट को बनाने के बाद, लेखकों ने इसका उपयोग 8-बिलियन-पैरामीटर वाले एक AI मॉडल (एक मध्यम आकार के मॉडल) को प्रशिक्षित करने के लिए किया।
- परिणाम: यह प्रशिक्षित मॉडल उपकरणों का उपयोग करने में माहिर हो गया। इसने अपने आकार के अन्य ओपन-सोर्स मॉडलों से बेहतर प्रदर्शन किया और बड़ी टेक कंपनियों के बहुत बड़े, महंगे मॉडलों को भी टक्कर दी।
- "जनरलाइजेशन" का जादू: क्योंकि प्रशिक्षण डेटा इतना विविध था (कई अलग-अलग प्रकार के उपकरणों और जटिल बातचीत को कवर करता था), मॉडल ने केवल उदाहरणों को रटा नहीं। इसने उपकरण उपयोग का कौशल सीखा। उन उपकरणों पर परीक्षण करने पर जिन्हें उसने पहले कभी नहीं देखा था, इसने अभी भी अविश्वसनीय रूप से अच्छा प्रदर्शन किया।
यह क्यों महत्वपूर्ण है
पेपर का दावा है कि यह तरीका AI को उपकरण उपयोग सिखाने में सबसे बड़ी बाधा को हल करता है: अच्छे डेटा की कमी। डेटा उत्पन्न करने, उसे विविध बनाने और सत्यापित करने के लिए AI एजेंटों की एक टीम का उपयोग करके, उन्होंने एक ऐसा पाइपलाइन बनाया है जो है:
- विश्वसनीय: वास्तविक, काम करने वाले उपकरणों पर आधारित।
- विविध: सरल एक-चरणीय अनुरोधों से लेकर जटिल, बहु-चरणीय बातचीत तक कई परिदृश्यों को कवर करता है।
- स्केलेबल: इसे मानव एनोटेटरों की एक बड़ी टीम की आवश्यकता के बिना नए उपकरणों को शामिल करने के लिए आसानी से विस्तारित किया जा सकता है।
संक्षेप में, GENESISFUNC एक ऐसी फैक्ट्री की तरह है जो स्वचालित रूप से AI सहायकों को उपकरण उपयोग करना सिखाने के लिए एकदम सही "पाठ्यपुस्तक" बनाती है, जिसके परिणामस्वरूप एक स्मार्टर, अधिक सक्षम डिजिटल हेल्पर प्राप्त होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।