Federated Foundation Models Fine-Tuning with Heterogeneous Compressed Clients
यह शोध पत्र FedSLM का प्रस्ताव करता है, जो एक नवीन फेडरेटेड लर्निंग फ्रेमवर्क है जो संसाधन-सीमित क्लाइंट्स को SVD-आधारित संकुचित स्व-निहित मॉडल्स और एक दो-चरणीय एकत्रीकरण प्रोटोकॉल का उपयोग करके फाउंडेशन मॉडल्स को फाइन-ट्यून करने में सक्षम बनाता है, जिससे प्रतिनिधित्व की सटीकता बनाए रखते हुए काफी कम मेमोरी आवश्यकताओं के साथ बेहतर प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कमरे के सबसे बुद्धिमान कंप्यूटर इतने बड़े हैं कि वे किसी की जेब में भी नहीं समा सकते। ये "फाउंडेशन मॉडल्स" (Foundation Models) हैं, जो विशाल डेटा के महासागरों पर प्रशिक्षित विशाल कृत्रिम बुद्धिमत्ता (AI) के मस्तिष्क हैं ताकि वे भाषा, छवियों और अपने आस-पास की दुनिया को समझ सकें। वे अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन वे मेमोरी के बहुत भूखे भी हैं, जिन्हें चलाने के लिए विशाल, महंगे सर्वरों की आवश्यकता होती है। इस बीच, वे लोग जिनके पास वास्तव में सबसे मूल्यवान, गुप्त जानकारी होती है—जैसे मरीजों के रिकॉर्ड रखने वाले डॉक्टर या वित्तीय डेटा रखने वाले बैंक—अक्सर केवल मध्यम दर्जे के कंप्यूटर रखते हैं जो इन विशाल मस्तिष्कों को लोड भी नहीं कर सकते। यह एक निराशाजनक गतिरोध पैदा करता है: विशेषज्ञों के पास डेटा तो है लेकिन दिमागी शक्ति नहीं है, और दिमागी शक्ति उस सर्वर पर अटकी हुई है जो डेटा देख ही नहीं सकता।
इसे हल करने के लिए, वैज्ञानिक "फेडरेटेड लर्निंग" (Federated Learning) नामक एक तकनीक का उपयोग करते हैं। इसे एक समूह के छात्रों की तरह समझें जो एक पहेली को मिलकर सुलझाने की कोशिश कर रहे हैं, बिना अपने स्वयं के टुकड़ों को शिक्षक को दिखाए। अपने निजी डेटा को किसी केंद्रीय स्थान पर भेजने के बजाय, वे केवल अपने "विचार" या "समायोजन" (adjustments) भेजते हैं, जिसे शिक्षक एक स्मार्ट सामूहिक मस्तिष्क बनाने के लिए जोड़ता है। हालाँकि, जब "शिक्षक" एक अरब-पैरामीटर वाला विशाल मॉडल हो, तो केवल समायोजन भेजना भी एक लॉजिस्टिक दुस्वप्न बन जाता है यदि छात्रों के कंप्यूटर इतने कमजोर हैं कि वे विशाल मॉडल के एक छोटे से हिस्से को भी लोड नहीं कर सकते। चुनौती यह पता लगाने में है कि कैसे कमजोर कंप्यूटरों को विशाल मॉडल से सीखने दिया जाए, बिना उनके अपने हार्डवेयर को खराब किए या विशाल मॉडल के ज्ञान के जादू को खोए।
यहाँ FedSLM आता है, जो शोधकर्ताओं द्वारा प्रस्तावित एक नया तरीका है जो एक चतुर अनुवादक और एक मास्टर शेफ की तरह कार्य करता है। मुख्य समस्या जिसका वे समाधान करते हैं वह है "संसाधन विषमता" (resource asymmetry): वे संस्थान जिनके पास सबसे अच्छा डेटा है (अस्पताल, बैंक), अक्सर पूरे AI मॉडल को नहीं चला सकते क्योंकि इसके लिए बहुत अधिक मेमोरी की आवश्यकता होती है। मौजूदा समाधानों ने या तो मॉडल को छोटा करने की कोशिश की (जिससे कभी-कभी उसकी बुद्धिमत्ता कम हो जाती थी) या केवल इसके छोटे हिस्सों को प्रशिक्षित किया (जिसके लिए फिर भी पूरे मॉडल को लोड करना आवश्यक था, जिससे मेमोरी बर्बाद होती थी)। FedSLM एक अलग, अधिक संरचनात्मक दृष्टिकोण अपनाता है।
शोधकर्ताओं का मुख्य निष्कर्ष यह है कि आप सिंगुलर वैल्यू डिकंपोजिशन (Singular Value Decomposition - SVD) नामक एक गणितीय ट्रिक का उपयोग करके विशाल AI मॉडल को छोटे, आत्मनिर्भर टुकड़ों में तोड़ सकते हैं। कल्पना कीजिए कि विशाल मॉडल एक विशाल, जटिल टेपेस्ट्री (तुलना के लिए एक बुना हुआ कपड़ा) है। पूरी टेपेस्ट्री को एक छोटे करघे (loom) पर कॉपी करने के बजाय, FedSLM टेपेस्ट्री को उसके आवश्यक धागों (लो-रैंक सबस्पेस) में काट देता है और प्रत्येक क्लाइंट को केवल उन धागों के साथ एक छोटा, प्रबंधनीय करघा देता है। क्लाइंट फिर अपने विशिष्ट डेटा से सीखने के लिए अपने करघे पर एक छोटा, हल्का "अडेप्टर" (नए धागे का एक छोटा पैच) बुनते हैं। क्योंकि सभी क्लाइंट्स एक ही मूल टेपेस्ट्री से प्राप्त करघों पर बुनाई कर रहे हैं, इसलिए उनके पैटर्न एक-दूसरे में पूरी तरह फिट बैठते हैं।
एक बार जब क्लाइंट अपने पैच बुन लेते हैं, तो सर्वर उन्हें एकत्र करता है। लेकिन यहाँ चतुराई भरा हिस्सा यह है: सर्वर केवल छोटे पैच को आपस में चिपकाता नहीं है। यह पहले क्लाइंट्स के समूहों से पैटर्न के पूर्ण-आकार के संस्करणों को पुनर्गठित करता है और फिर उन्हें एक एकल, सुसंगत वैश्विक मॉडल में मिला देता है। अंत में, यह सुनिश्चित करने के लिए कि अंतिम परिणाम केवल छोटे पैच की एक धुंधली प्रति नहीं है, सर्वर "वीक-टू-स्ट्रॉन्ग" (weak-to-strong) शिक्षण पद्धति का उपयोग करता है। यह संयुक्त छोटे मॉडलों को एक "कमजोर शिक्षक" के रूप में मानता है और एक विशेष कॉन्फिडेंस-लॉस (confidence-loss) तकनीक का उपयोग करता है ताकि "मजबूत छात्र" (पूर्ण-पैमाने वाला सर्वर मॉडल) को यह सिखाया जा सके कि वह कमजोर शिक्षक की गलतियों या "कंप्रेशन आर्टिफैक्ट्स" की नकल किए बिना नया ज्ञान कैसे सीखे।
यह शोध पत्र स्पष्ट रूप से इस विचार का खंडन करता है कि आपको या तो हर क्लाइंट पर पूरा मॉडल लोड करना होगा (जो असंभव है) या केवल टेक्स्ट आउटपुट भेजने पर निर्भर रहना होगा (जिससे बहुत अधिक बारीकियां खो जाती हैं)। वे दिखाते हैं कि उनकी विधि मॉडल की संरचनात्मक अखंडता को बनाए रखती है जबकि क्लाइंट्स को पूर्ण मॉडल की तुलना में लगभग 50% GPU मेमोरी के साथ काम करने की अनुमति देती है। प्राकृतिक भाषा और विजन-लैंग्वेज कार्यों पर अपने प्रयोगों में, FedSLM ने लगातार मौजूदा तरीकों से बेहतर प्रदर्शन किया, भले ही डेटा अव्यवस्थित और असमान रूप से वितरित था। शोधकर्ताओं ने मापा कि FedSLM का उपयोग करने वाले क्लाइंट्स आधे मेमोरी लागत पर चल सकते थे और फिर भी मजबूत प्रदर्शन हासिल कर सकते थे, अक्सर मूल, बिना संकुचित मॉडल की सटीकता को पुनः प्राप्त कर लेते थे और यहाँ तक कि उससे भी आगे निकल जाते थे।
इन परिणामों में विश्वास ARC, HellaSwag और मेडिकल डेटासेट जैसे बेंचमार्क पर व्यापक परीक्षण से आता है, जहाँ इस पद्धति ने अन्य फेडरेटेड लर्निंग दृष्टिकोणों की तुलना में स्पष्ट सुधार दिखाया। लेखक सुझाव देते हैं कि यह दृष्टिकोण सफलतापूर्वक गोपनीयता, हार्डवेयर की सीमाओं और शक्तिशाली, विशिष्ट AI की आवश्यकता के बीच के अंतर को पाटता है, यह सिद्ध करता है कि सुपर-ब्रेन में योगदान देने के लिए आपको सुपरकंप्यूटर की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।