MoE Router-Guided Clustering for Heterogeneous Federated Instruction Tuning
यह शोधपत्र ClientMorpher का प्रस्ताव करता है, जो एक रूटिंग-अवेयर (routing-aware) फेडरेटेड लर्निंग फ्रेमवर्क है जो पर्सनलाइज्ड इंस्ट्रक्शन फाइन-ट्यूनिंग के लिए क्लाइंट्स या एक्सपर्ट्स को क्लस्टर करने हेतु 'मिशचर-ऑफ-एक्सपर्ट्स एक्टिवेशन सिग्नेचर' का लाभ उठाता है, जो संचार दक्षता बनाए रखते हुए हेट्रोजेनियस डेटा सेटिंग्स में नेगेटिव ट्रांसफर को प्रभावी ढंग से कम करता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से विकसित होती दुनिया में, लार्ज लैंग्वेज मॉडल्स शक्तिशाली उपकरण बन गए हैं जो मानव भाषा को समझने और उत्पन्न करने में सक्षम हैं। इन प्रणालियों को अक्सर बड़ी मात्रा में डेटा पर प्रशिक्षित किया जाता है ताकि वे समाचार लेख का सारांश बनाने से लेकर जटिल प्रश्नों के उत्तर देने तक, निर्देशों का पालन करना सीख सकें। हालाँकि, एक महत्वपूर्ण बाधा बनी हुई है: बहुत सा मूल्यवान डेटा निजी संगठनों या व्यक्तिगत उपकरणों में बंद है, जो सख्त गोपनीयता कानूनों द्वारा संरक्षित है जो इसे एक केंद्रीय स्थान पर साझा करने से रोकते हैं। इसे हल करने के लिए, शोधकर्ता 'फेडरेटेड लर्निंग' नामक एक विधि का उपयोग करते हैं, जो कई अलग-अलग कंप्यूटरों को उनके पास मौजूद निजी डेटा को बदले बिना एक साझा मॉडल को बेहतर बनाने के लिए मिलकर काम करने की अनुमति देती है। हाल ही में, इन कार्यों के लिए 'मिक्सचर ऑफ एक्सपर्ट्स' (mixture of experts) के रूप में ज्ञात एक विशिष्ट प्रकार के मॉडल आर्किटेक्चर ने ध्यान आकर्षित किया है। प्रत्येक जानकारी के लिए मॉडल के हर हिस्से का उपयोग करने के बजाय, ये प्रणालियाँ प्रत्येक कार्य के लिए केवल विशेषज्ञों के एक छोटे, विशिष्ट समूह को सक्रिय करती हैं, जिससे वे कुशल और स्केलेबल बन जाते हैं। चुनौती इन मॉडल्स को विभिन्न समूहों की अनूठी जरूरतों के अनुकूल ढलने के लिए सिखाने में है, जब वे बहुत अलग प्रकार के डेटा के साथ काम कर रहे हों।
शोधकर्ताओं की एक टीम ने इस समस्या के समाधान के लिए 'क्लाइंटमॉर्फर' (ClientMorpher) नामक एक नया दृष्टिकोण विकसित किया है, जिसे विविध, विकेंद्रीकृत डेटा के साथ काम करते समय इन विशिष्ट मॉडल्स को बेहतर ढंग से सीखने में मदद करने के लिए डिज़ाइन किया गया है। एक मानक सेटअप में, सभी प्रतिभागी कंप्यूटर एक केंद्रीय सर्वर को अपने अपडेट भेजते हैं, जो एक एकल वैश्विक मॉडल बनाने के लिए उन्हें बस औसत (average) निकाल देता है। हालांकि यह तब अच्छी तरह काम करता है जब सभी समान कार्य कर रहे हों, लेकिन यह अक्सर तब विफल हो जाता है जब प्रतिभागी अत्यधिक विशिष्ट होते हैं। उदाहरण के लिए, यदि कंप्यूटरों का एक समूह चिकित्सा रिपोर्टों का सारांश बनाने सीख रहा है और दूसरा कानूनी तथ्यों को निकालने के बारे में सीख रहा है, तो उन्हें एक एकल औसत मॉडल साझा करने के लिए मजबूर करना सिस्टम को भ्रमित कर सकता है, जिससे सभी के प्रदर्शन में गिरावट आती है। यह घटना, जिसे 'नेगेटिव ट्रांसफर' (negative transfer) कहा जाता है, इसलिए होती है क्योंकि निर्देश और डेटा पैटर्न एक समान समाधान में मिश्रित होने के लिए बहुत भिन्न होते हैं। शोधकर्ताओं ने महसूस किया कि जिस तरह से ये 'मिक्सचर ऑफ एक्सपर्ट्स' मॉडल किसी दिए गए कार्य के लिए किन हिस्सों का उपयोग करने का निर्णय लेते हैं, वह डेटा की प्रकृति के बारे में एक गुप्त सुराग रखता है।
क्लाइंटमॉर्फर के पीछे का मुख्य विचार यह है कि 'रूटिंग मैकेनिज्म'—वह आंतरिक निर्णय लेने वाला जो प्रत्येक शब्द के लिए किन विशिष्ट घटकों को सक्रिय करना है, इसका चयन करता है—उस डेटा के लिए एक अद्वितीय हस्ताक्षर (signature) के रूप में कार्य करता है जिसे वह प्रोसेस करता है। यदि कंप्यूटरों के दो अलग-अलग समूह समान प्रकार के निर्देशों को संभाल रहे हैं, तो उनके मॉडल समान पैटर्न में एक ही विशिष्ट घटकों को सक्रिय करेंगे। शोधकर्ताओं ने वास्तविक रूप से सीखने शुरू करने से पहले ही इन सक्रियण पैटर्न (activation patterns) का उपयोग करके सहयोग को व्यवस्थित करने का प्रस्ताव दिया। सभी के अपडेट को अंधाधुंध औसत निकालने के बजाय, सिस्टम पहले यह देखता है कि प्रत्येक क्लाइंट सबसे अधिक बार किन विशिष्ट घटकों का उपयोग करता है। इन अवलोकनों के आधार पर, क्लाइंट्स को अलग-अलग समूहों में वर्गीकृत किया जाता है। समान रूटिंग सिग्नेचर वाले क्लाइंट्स को ज्ञान साझा करने के लिए एक साथ समूहबद्ध किया जाता है, जबकि अलग सिग्नेचर वाले क्लाइंट्स को अलग रखा जाता है। यह सुनिश्चित करता है कि सारांश लिखने वाले कंप्यूटर अन्य सारांशकारों के साथ सहयोग कर रहे हैं, और तथ्य निकालने वाले कंप्यूटर समान निष्कर्षणकर्ताओं (extractors) के साथ काम कर रहे हैं, जिससे उस भ्रम को रोका जा सकता है जो असंगत कार्यों को मिलाने से उत्पन्न होता है।
इस विचार का परीक्षण करने के लिए, शोधकर्ताओं ने निर्देश-अनुसरण (instruction-following) के उदाहरणों के एक डेटासेट को चार विशिष्ट श्रेणियों में विभाजित करके एक सिमुलेशन सेट किया: टेक्स्ट क्लासिफिकेशन, क्लोज्ड-डोमेन क्वेश्चन अनswering, इंफॉर्मेशन एक्सट्रैक्शन और समराइजेशन। उन्होंने ऐसी स्थितियाँ बनाई जहाँ डेटा प्रतिभागियों के बीच असमान रूप से वितरित था, जो वास्तविक दुनिया की स्थितियों की नकल करता है जहाँ कुछ संगठन एक क्षेत्र में विशेषज्ञता रखते हैं, या उनके पास विविध मिश्रण होता है। उन्होंने अपने नए तरीके की तुलना दो सामान्य दृष्टिकोणों के विरुद्ध की: बिना किसी सहयोग के पूरी तरह से स्थानीय डेटा पर प्रशिक्षण देना, और प्रतिभागियों के बीच अंतर की परवाह किए बिना सभी के अपडेट को औसत निकालने की मानक विधि। परिणामों ने दिखाया कि रूटिंग-अवेयर दृष्टिकोण ने मानक विधि की तुलना में लगातार बेहतर प्रदर्शन किया। अपने आंतरिक रूटिंग व्यवहार के आधार पर क्लाइंट्स को समूहबद्ध करके, सिस्टम ने पारंपरिक औसत तकनीक की तुलना में वर्गीकरण और सारांश जैसे कार्यों में उच्च सटीकता प्राप्त की, जबकि संचार बैंडविड्थ की समान मात्रा का उपयोग किया।
अध्ययन ने इन समूहों को बनाने के दो विशिष्ट तरीकों की खोज की। पहले तरीके ने सीधे क्लाइंट्स के पैटर्न को देखा, उन्हें इस आधार पर समूहबद्ध किया कि वे सबसे अधिक बार किन विशिष्ट घटकों का उपयोग करते हैं। दूसरे तरीके ने थोड़ा अलग दृष्टिकोण अपनाया, पहले पूरे नेटवर्क में घटकों के उपयोग के आधार पर विशिष्ट घटकों को समूहबद्ध किया, और फिर उन घटक क्लस्टर्स के आधार पर क्लाइंट्स को समूहों में सौंपा जिन पर वे निर्भर थे। दोनों तरीके प्रभावी साबित हुए, लेकिन वे डेटा वितरण के कितना असमान होने के आधार पर थोड़े अलग तरीके से उत्कृष्ट रहे। जब डेटा अत्यंत विषम (skewed) था, जहाँ क्लाइंट्स केवल एक कार्य पर केंद्रित थे, तो क्लाइंट्स का प्रत्यक्ष समूहीकरण बहुत अच्छा रहा। जैसे-जैसे डेटा अधिक संतुलित हुआ, वह तरीका जिसने पहले विशिष्ट घटकों को समूहबद्ध किया, अधिक स्थिर परिणाम प्रदान किया। यह सुझाव देता है कि समस्या को क्लाइंट के दृष्टिकोण और घटक के दृष्टिकोण दोनों से देखने से प्रभावी ढंग से सहयोग करने की एक अधिक पूर्ण तस्वीर मिलती है।
अंततः, यह शोध प्रदर्शित करता है कि इन उन्नत मॉडल्स के आंतरिक तंत्र का उपयोग बेहतर सहयोग के लिए एक मार्गदर्शक के रूप में किया जा सकता है। इन रूटिंग हस्ताक्षरों पर ध्यान देकर जो प्रक्रिया के दौरान स्वाभाविक रूप से उभरते हैं, सिस्टम यह पहचान सकता है कि किन प्रतिभागियों को एक साथ काम करना चाहिए और किन्हें नहीं। यह दृष्टिकोण सीखने के एक अधिक व्यक्तिगत और प्रभावी रूप की अनुमति देता है, जहाँ मॉडल उनके डेटा की गोपनीयता से समझौता किए बिना विभिन्न समूहों की विशिष्ट आवश्यकताओं के अनुकूल होता है। निष्कर्ष बताते हैं कि भविष्य में, फेडरेटेड लर्निंग सिस्टम इन आंतरिक संकेतों का उपयोग करके खुद को व्यवस्थित करके अधिक कुशल हो सकते हैं, यह सुनिश्चित करते हुए कि ज्ञान केवल वहीं साझा किया जाए जहाँ यह वास्तव में उपयोगी और प्रासंगिक हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।