Mosaic: Modular Orchestration of Specialised AI Components
यह शोध पत्र MOSAIC का प्रस्ताव करता है, जो एक मॉड्यूलर आर्किटेक्चर है जो मॉडल-स्केल प्रतिस्थापन, अर्ली टर्मिनेशन (शीघ्र समाप्ति), और संचयी आंशिक समाधान जैसे तंत्रों के माध्यम से काफी कम अनुमान लागत पर तुलनीय सटीकता प्राप्त करने के लिए हार्डकोडेड ऑर्केस्ट्रेशन लॉजिक और विशिष्ट छोटे घटकों के एक सख्त पदानुक्रम के साथ महंगे फ्रंटियर लैंग्वेज मॉडल्स को प्रतिस्थापित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया हाल ही में एक एकल, शक्तिशाली विचार से नियंत्रित होती रही है: मॉडल्स को बड़ा बनाना। अधिक से अधिक डिजिटल "न्यूरॉन्स" जोड़कर, शोधकर्ताओं ने ऐसी प्रणालियाँ बनाई हैं जो कविता लिखने से लेकर जटिल भौतिकी समस्याओं को हल करने तक, लगभग किसी भी प्रश्न का उत्तर देने में सक्षम हैं। ये बड़ी प्रणालियाँ, जिन्हें अक्सर फ्रंटियर मॉडल्स कहा जाता है, अविश्वसनीय रूप से सक्षम हैं, लेकिन इनके साथ एक भारी कीमत भी आती है। इन्हें चलाने के लिए भारी मात्रा में कंप्यूटर पावर और ऊर्जा की आवश्यकता होती है, जिससे उन्हें हर एक कार्य के लिए उपयोग करना महंगा हो जाता है, चाहे वह कितना भी सरल क्यों न हो। इसने वैज्ञानिकों को एक मौलिक प्रश्न पूछने पर मजबूर कर दिया है: क्या हमेशा उपलब्ध सबसे शक्तिशाली इंजन का उपयोग करना आवश्यक है, या क्या छोटे, विशिष्ट उपकरणों का एक संग्रह, जो एक स्मार्ट योजना के साथ मिलकर काम करते हैं, लागत के एक अंश पर वही काम कर सकता है?
एक शोधकर्ता नाबिल इस्लाम ने इस प्रश्न का उत्तर देने का एक नया तरीका प्रस्तावित किया है, जिसे "MOSAIC" नामक एक रिपोर्ट में रेखांकित किया गया है। एक एकल विशाल मस्तिष्क पर हर समस्या को हल करने के लिए निर्भर रहने के बजाय, MOSIC एक ऐसी प्रणाली बनाने का सुझाव देता है जहाँ एक क्वेरी (पूछताछ) को छोटे टुकड़ों में तोड़ा जाता है और अलग-अलग, छोटे विशेषज्ञों को सौंपा जाता है। मुख्य विचार यह है कि एक बड़ा, सामान्य-उद्देश्य वाला मॉडल एक स्विस आर्मी नाइफ की तरह है: यह सब कुछ कर सकता है, लेकिन यदि आपको केवल धागा काटने की आवश्यकता है, तो यह भारी और अक्षम है। MOSAIC एक समर्पित कैंची का उपयोग करने का प्रस्ताव देता है, जो उस विशिष्ट कार्य के लिए सही उपकरण है, लेकिन केवल तभी जब एक स्मार्ट मैनेजर पहले यह तय करे कि कैंची ही सही उपकरण है। यह रिपोर्ट एक तैयार उत्पाद प्रस्तुत नहीं करती है जिसे वास्तविक दुनिया में पहले ही टेस्ट किया जा चुका हो। इसके बजाय, यह एक विस्तृत ब्लूप्रिंट और परिकल्पनाओं का एक सेट पेश करती है कि ऐसी प्रणाली कैसे काम कर सकती है, और यह तर्क देती है कि यह वर्तमान तरीकों की तुलना में बहुत अधिक कुशल होगी जबकि उच्च सटीकता बनाए रखेगी।
MOSAIC प्रणाली एक सख्त पदानुक्रम (hierarchy) पर आधारित है, जो एक फैंसी तरीका है यह कहने का कि इसमें एक स्पष्ट कमांड चेन है। सबसे ऊपर एक "फ्रंटियर मॉडल" है, जो एक बड़ा, सामान्य-उद्देश्य वाला AI है जो उपयोगकर्ता के लिए प्रारंभिक संपर्क बिंदु के रूप में कार्य करता है। जब कोई उपयोगकर्ता कोई प्रश्न पूछता है, तो यह शीर्ष मॉडल अकेले उसे हल करने की कोशिश नहीं करता है। इसके बजाय, यह अनुरोध को "असिस्टेंट्स" (सहायकों) की एक परत को सौंप देता है। ये असिस्टेंट स्वयं AI मॉडल नहीं हैं; वे मनुष्यों द्वारा लिखे गए निश्चित, अपरिवर्तनीय नियम हैं। उनका एकमात्र काम अनुरोध को देखना और यह तय करना है कि इसे कैसे विभाजित किया जाए। यदि कोई प्रश्न व्यापक है, तो शीर्ष असिस्टेंट प्रश्न को दो या तीन छोटे, अधिक विशिष्ट प्रश्नों में विभाजित कर सकता है। फिर यह छोटे कार्यों को अगले स्तर के असिस्टेंट्स को सौंप देता है।
यह प्रक्रिया नीचे की ओर चलती रहती है। दूसरा स्तर के असिस्टेंट्स एक विशिष्ट डोमेन, जैसे गणित या इतिहास, को लेते हैं और कार्य को और अधिक विभाजित करते हैं जब तक कि वह तीसरे स्तर तक न पहुँच जाए। इस निचले स्तर पर, कार्य इतना विशिष्ट और स्पष्ट होता है कि इसे सीधे एक "स्पेशलाइज्ड मॉडल" (विशेषज्ञ मॉडल) को सौंपा जा सकता है। ये छोटे AI मॉडल हैं जिन्हें केवल एक विशिष्ट विषय, जैसे शुद्ध गणित या कोडिंग के एक विशेष प्रकार पर प्रशिक्षित किया गया है। क्योंकि वे छोटे और केंद्रित होते हैं, इसलिए उन्हें चलाना विशाल मॉडल्स की तुलना में बहुत सस्ता और तेज़ होता है। एक बार जब विशेषज्ञ मॉडल उत्तर दे देता है, तो परिणाम वापस श्रृंखला में ऊपर की ओर यात्रा करता है, जहाँ असिस्टेंट्स जाँच करते हैं कि काम पूरा हुआ या नहीं। यदि उत्तर पर्याप्त अच्छा है, तो सिस्टम रुक जाता है। यदि नहीं, तो यह फिर से प्रयास करता है, लेकिन केवल सख्त सीमाओं के भीतर ताकि यह सुनिश्चित हो सके कि प्रक्रिया कभी भी एक अंतहीन लूप में न फंस जाए।
इस डिज़ाइन की सबसे महत्वपूर्ण विशेषताओं में से एक यह है कि यह इस सामान्य गलती से बचता है कि AI को यह तय करने दिया जाए कि कौन सा उपकरण उपयोग करना है। कई अन्य प्रियताओं में, एक AI मॉडल मैनेजर के रूप में कार्य करता है, जो अनुमान लगाता है कि किस छोटे मॉडल को बुलाना है। MOSAIC रिपोर्ट का तर्क है कि यह जोखिम भरा है क्योंकि मैनेजर AI गलतियाँ कर सकता है या भ्रमित हो सकता है। MOSAIC में, मैनेजर नियमों का एक समूह है। यह "सोचता" या "अनुमान" नहीं लगाता; यह बस एक पूर्व-लिखित स्क्रिप्ट का पालन करता है ताकि कार्य को विघटित किया जा सके। यह सुनिश्चित करता है कि सिस्टम कभी भी एक चक्र में न फँसे, एक ऐसी समस्या जो तब हो सकती है जब AI एजेंट स्पष्ट सीमाओं के बिना एक-दूसरे से बात करते हैं। रिपोर्ट इस बात पर भी जोर देती है कि सिस्टम तब रुक जाता है जब कार्य एक उच्च स्तर पर हल हो जाता है। यदि शीर्ष असिस्टेंट एक सरल प्रश्न का उत्तर दे सकता है, तो वह गहरे, अधिक महंगे स्तरों को बुलाने में समय और पैसा बर्बाद नहीं करता है।
शोधकर्ता तीन मुख्य तरीकों से बताते हैं कि यह प्रणाली पैसे बचाती है। पहला, यह "मॉडल-स्केल प्रतिस्थापन" (model-scale substitution) का उपयोग करता है, जिसका अर्थ है कि जब कार्य अनुमति देता है, तो यह एक विशाल, महंगे मॉडल को एक छोटे, सस्ते मॉडल से बदल देता है। दूसरा, यह "अर्ली टर्मिनेशन" (early termination) का उपयोग करता है, जिसका अर्थ है कि सिस्टम जैसे ही एक अच्छा उत्तर मिलता है, वहीं रुक जाता है, न कि हर बार पूरी प्रक्रिया चलाता है। तीसरा, यह "संचयी आंशिक समाधान" (cumulative partial resolution) का उपयोग करता है, जहाँ पदानुक्रम का प्रत्येक स्तर पहेली के एक हिस्से को हल करता है, ताकि अगला स्तर केवल उसी को हल करे जो बचा है, न कि शुरुआत से फिर से शुरू करे। रिपोर्ट का सुझाव है कि यदि ये तीन चीजें मिलकर काम करती हैं, तो सिस्टम विशाल मॉडल्स की सटीकता के बराबर हो सकता है जबकि यह कंप्यूटिंग पावर के एक बहुत छोटे अंश का उपयोग करेगा।
हालाँकि, लेखक इस बारे में बहुत स्पष्ट हैं कि उन्होंने अभी तक क्या नहीं किया है। यह रिपोर्ट एक प्रस्ताव है, परिणामों की रिपोर्ट नहीं। यह सिद्ध करने के लिए कि सिस्टम जैसा वर्णित है वैसा ही काम करता है, कोई प्रयोग नहीं किए गए हैं। शोधकर्ता कहते हैं कि पूरी अवधारणा एक परिकल्पना पर टिकी है: कि निश्चित नियमों द्वारा प्रबंधित छोटे, विशिष्ट मॉडलों की एक प्रणाली एक एकल विशाल, सामान्य मॉडल जितनी सटीक हो सकती है। वे स्वीकार करते हैं कि यह इस बात पर निर्भर करता है कि विशेषज्ञ मॉडल अपने विशिष्ट कार्यों में बहुत अच्छे हों और निश्चित नियम पूरी तरह से डिज़ाइन किए गए हों। यदि कार्यों को तोड़ने के नियम गलत हैं, तो सिस्टम विफल हो जाएगा। वे यह भी नोट करते हैं कि उनके पास अभी तक कोई तरीका नहीं है जिससे यह समझाया जा सके कि छोटे मॉडल इतने सटीक क्यों होंगे, वे केवल सुझाव दे रहे हैं कि यदि छोटे मॉडल्स को अच्छी तरह से प्रशिक्षित किया जाता है, तो वे हो सकते हैं।
रिपोर्ट एक सामान्य चिंता को भी संबोधित करती है जो आर्टिफिशियल इंटेलिजेंस में देखी जाती है: यह कैसे पता करें कि सिस्टम अपने उत्तर के प्रति कितना आश्वस्त है। कई प्रणालियाँ AI से पूछने की कोशिश करती हैं, "आप कितने निश्चित हैं?" MOSAIC के लेखक तर्क देते हैं कि यह एक बुरा विचार है क्योंकि एक AI बहुत आश्वस्त हो सकता है और फिर भी पूरी तरह से गलत हो सकता है। इसके बजाय, उनकी प्रणाली संरचना पर भरोसा करती है। यह जाँचती है कि क्या कार्य को पूरी तरह से विभाजित किया गया है और क्या विशेषज्ञ मॉडल ने वास्तव में गणना की है। यह आत्मविश्वास की भावना पर निर्भर नहीं करती है। यह दृष्टिकोण यह सुनिश्चित करने के लिए बनाया गया है कि सिस्टम गलत उत्तर के साथ झूठे विश्वास के साथ न दे।
शोधकर्ता अपने विचार का परीक्षण करने की योजना की रूपरेखा तैयार करके निष्कर्ष निकालते हैं। वे एक ऐसी श्रृंखला में परीक्षण चलाने का प्रस्ताव करते हैं जहाँ MOSAIC प्रणाली की सीधे एक मानक, विशाल मॉडल के विरुद्ध तुलना की जाएगी। वे न केवल यह मापेंगे कि सिस्टम कितनी बार सही उत्तर देता है, बल्कि यह भी कि उसे कितनी बार महंगे विशाल मॉडल को बुलाना पड़ा, असिस्टेंट्स की श्रृंखला कितनी गहरी गई, और कितनी कंप्यूटिंग पावर का उपयोग किया गया। वे चेतावनी देते हैं कि यदि सिस्टम को कुशल दिखने के लिए ट्यून किया जाता है लेकिन अंत में गलत उत्तर देता है, तो परीक्षण विफल हो जाएगा। अंतिम लक्ष्य यह सिद्ध करना है कि बुद्धिमत्ता महंगी होना आवश्यक नहीं है, और छोटे, केंद्रित उपकरणों की एक अच्छी तरह से व्यवस्थित टीम एक विशाल, सर्व-उद्देश्य वाली मशीन का काम कर सकती है। जब तक वे परीक्षण नहीं किए जाते, MOSAIC प्रणाली एक सम्मोहक सिद्धांत बनी हुई है, एक भविष्य का विस्तृत मानचित्र जहाँ AI सस्ता, तेज़ और अधिक कुशल हो सकता है, लेकिन अभी तक एक सिद्ध वास्तविकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।