FDA-Opt: Federated Fine-Tuning via Dynamic Update Schedules
यह शोध पत्र FDA-Opt को पेश करता है, जो फेडरेटेड लर्निंग एल्गोरिदम का एक एकीकृत परिवार है जो FedOpt और FDA जैसे मौजूदा तरीकों की कठोर संचार सीमाओं को दूर करने के लिए मॉडल अपडेट को गतिशील रूप से शेड्यूल करता है, और एक व्यावहारिक, ड्रॉप-इन प्रतिस्थापन के रूप में उत्कृष्ट प्रदर्शन प्रदर्शित करता है जिसके लिए किसी अतिरिक्त कॉन्फ़िगरेशन की आवश्यकता नहीं है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, एक विशाल मात्रा में मूल्यवान जानकारी निजी साइलो (silos) में बंद है। अस्पताल संवेदनशील रोगी रिकॉर्ड रखते हैं, और मोबाइल फोन में व्यक्तिगत संदेश होते हैं, लेकिन सख्त गोपनीयता कानून और नैतिक चिंताएं इन डेटा स्रोतों को आर्टिफिशियल इंटेलिजेंस को प्रशिक्षित करने के लिए एक एकल, विशाल डेटाबेस में एकत्र करने से रोकती हैं। इसे हल करने के लिए, शोधकर्ताओं ने 'फेडरेटेड लर्निंग' (federated learning) नामक एक विधि विकसित की। डेटा को एक केंद्रीय कंप्यूटर तक ले जाने के बजाय, कंप्यूटर मॉडल डेटा के पास जाता है। यह कई अलग-अलग उपकरणों पर जाता है, स्थानीय जानकारी से सीखता है, और फिर केवल सीखी गई सीखों को वापस एक केंद्रीय सर्वर पर भेज देता है। यह व्यक्तियों की निजी जानकारी को उजागर किए बिना विविध, वास्तविक दुनिया के डेटा पर शक्तिशाली एआई सिस्टम को प्रशिक्षित करने की अनुमति देता है।
हालांकि, जैसे-जैसे ये एआई मॉडल बड़े और अधिक जटिल होते गए, एक महत्वपूर्ण बाधा उभर कर आई है। फेडरेटेड लर्निंग के लिए वर्तमान मानक एक कठोर शेड्यूलिंग पर निर्भर करता है: मॉडल एक डिवाइस पर जाता है, चरणों (steps) की एक निश्चित संख्या के लिए प्रशिक्षण लेता है, और फिर अपडेट साझा करने के लिए तुरंत सर्वर पर वापस आ जाता है। यह चक्र हजारों बार दोहराया जाता है। क्योंकि मॉडल अब विशाल हैं, अपडेट को वापस और आगे भेजने का कार्य बहुत अधिक समय और बैंडविड्थ की खपत करता है, जिससे अक्सर पूरी प्रक्रिया धीमी हो जाती है। चुनौती यह खोजने की है कि मॉडल को सर्वर पर वापस लौटने से पहले प्रत्येक डिवाइस पर अधिक प्रभावी ढंग से कैसे सीखने दिया जाए, बिना प्रशिक्षण को अस्थिर किए या संचार लागत को अनियंत्रित हुए।
शोधकर्ताओं की एक टीम ने 'एफडीए-ऑप्ट' (Fda-Opt) नामक एल्गोरिदम का एक नया परिवार पेश करके इस समस्या का समाधान किया है। उनका कार्य एक कठोर, निश्चित शेड्यूलिंग के बजाय एक गतिशील (dynamic) शेड्यूलिंग को पेश करने पर केंद्रित है जो स्वयं प्रशिक्षण प्रक्रिया को सुनती है। पारंपरिक दृष्टिकोण में, मॉडल को एक पूर्व निर्धारित संख्या के चरणों के बाद रुकने और सर्वर पर वापस लौटने के लिए मजबूर किया जाता है, चाहे वह उपयोगी जानकारी सीख रहा हो या पहले से ही पटरी से उतरना शुरू कर चुका हो। नई विधि, एफडीए-ऑप्ट, वास्तविक समय में सीखने की प्रक्रिया की स्थिरता की निगरानी करती है। यह इस बात पर नज़र रखती है कि मॉडल के अपडेट कब अनियमित या विरोधाभासी होने लगते हैं। जब तक सीखना स्थिर और उत्पादक रहता है, मॉडल को स्थानीय डिवाइस पर प्रशिक्षण जारी रखने की अनुमति दी जाती है। यह केवल तभी सर्वर पर वापस आता है जब सिस्टम यह पता लगा लेता है कि सीखना अस्थिर हो गया है या किसी प्राकृतिक ठहराव बिंदु पर पहुँच गया है।
शोधकर्ताओं ने विभिन्न प्राकृतिक भाषा कार्यों, जैसे कि भावना (sentiment) को समझने या यह निर्धारित करने कि क्या एक वाक्य तार्किक रूप से दूसरे का अनुसरण करता है, पर बड़े भाषा मॉडलों (large language models) को फाइन-ट्यून करके इस दृष्टिकोण का परीक्षण किया। उन्होंने अपने नए गतिशील पद्धति की तुलना बिल्कुल समान सेटिंग्स और कॉन्फ़िगरेशन का उपयोग करके मानक, निश्चित-शेड्यूल वाले एल्गोरिदम के विरुद्ध की। परिणामों ने दिखाया कि गतिशील दृष्टिकोण काफी अधिक कुशल था। औसतन, नई पद्धति को पारंपरिक तरीकों की तुलना में समान सटीकता प्राप्त करने के लिए लगभग आधे संचार दौर (communication rounds) की आवश्यकता थी। कुछ मामलों में, यह उन बारों की संख्या के मामले में लगभग तीन गुना तेज़ था जितनी बार मॉडल को केंद्रीय सर्वर से संपर्क करना पड़ा।
गति के अलावा, अध्ययन ने यह भी खुलासा किया कि गतिशील पद्धति अधिक विश्वसनीय थी। पारंपरिक निश्चित-शेड्यूल वाला दृष्टिकोण कभी-कभी कन्वर्ज (converge) होने में विफल रहा, जिसका अर्थ है कि यदि प्रशिक्षण चरणों की संख्या को सटीक रूप से ट्यून नहीं किया गया, तो मॉडल कभी भी एक अच्छे समाधान पर नहीं टिक पाता। इसके विपरीत, नई विधि ने लगातार एक उच्च-गुणवत्ता वाले समाधान तक एक स्थिर मार्ग खोजा, भले ही प्रारंभिक सेटिंग्स पूरी तरह से अनुकूलित न हों। इसने समान राउंड के भीतर पारंपरिक तरीकों की तुलना में पांच से दस गुना कम अंतिम प्रशिक्षण त्रुटि (training error) प्राप्त की। महत्वपूर्ण रूप से, शोधकर्ताओं ने प्रदर्शित किया कि इस नए सिस्टम का उपयोग मौजूदा उपकरणों के सीधे प्रतिस्थापन के रूप में किया जा सकता है जिसमें किसी जटिल नई कॉन्फ़िगरेशन की आवश्यकता नहीं है। यह उन सेटिंग्स के साथ काम करता है जो विशेषज्ञों ने पहले से ही पुराने तरीकों के लिए स्थापित की हुई हैं, फिर भी यह स्वतः ही बेहतर प्रदर्शन प्रदान करता है।
इस सुधार का मूल आधार यह है कि सिस्टम यह निर्णय कैसे लेता है कि कब रुकना है। चरणों की एक निश्चित संख्या का अनुमान लगाने के बजाय, एल्गोरिदम इस बात की गणना करता है कि विभिन्न डिवाइस एक-दूसरे से कितना असहमत हैं। यदि सभी डिवाइस एक ही दिशा में सीख रहे हैं, तो सिस्टम जानता है कि आगे बढ़ना सुरक्षित है। यदि वे अलग होने लगते हैं, तो सिस्टम हस्तक्षेप करता है और अपडेट एकत्र करता है इससे पहले कि मॉडल अपना रास्ता भटक जाए। यह अनुकूलन योग्य रणनीति मानव विशेषज्ञों को हर नए कार्य के लिए प्रशिक्षण चरणों की सही संख्या का लगातार अनुमान लगाने की आवश्यकता को समाप्त करती है। शोधकर्ताओं ने पाया कि जब वे मॉडल को स्थिर रहने के दौरान लंबे समय तक प्रशिक्षण लेने की अनुमति देते हैं, तो वे संचार के बार-बार होने वाले अंतराल को काफी कम कर सकते हैं, जिससे प्रभावी रूप से उस संचार बाधा को हल किया जा सकता है जिसने लंबे समय से बड़े एआई मॉडलों के प्रशिक्षण को बाधित किया है।
अध्ययन पुष्टि करता है कि यह गतिशील शेड्यूलिंग न केवल एक सैद्धांतिक संभावना है बल्कि एक व्यावहारिक समाधान भी है जिसे तुरंत तैनात किया जा सकता है। शोधकर्ताओं ने दिखाया कि उनकी पद्धति ने सबसे प्रसिद्ध मौजूदा एल्गोरिदम को भी पीछे छोड़ दिया, भले ही उन्हें सबसे अनुकूल सेटिंग्स दी गई थीं। यह सुझाव देता है कि कई फेडरेटेड लर्निंग सिस्टमों में वर्तमान में उपयोग किए जाने वाले कठोर, निश्चित अंतराल अब आवश्यक नहीं हैं। प्रशिक्षण प्रक्रिया को अपनी गति खुद तय करने देकर, नया दृष्टिकोण व्यापक, पहले से अप्राप्य डेटा स्रोतों की क्षमता को खोलता है, जिससे उपयोगकर्ता की गोपनीयता का सम्मान करने वाले बुद्धिमान सिस्टम बनाना तेज़ और अधिक विश्वसनीय हो जाता है। यह कार्य आधुनिक मशीन लर्निंग लाइब्रेरीज़ की दक्षता में सुधार के लिए एक स्पष्ट मार्ग प्रदान करता है, जो एक ऐसा उपकरण है जिसे किसी अतिरिक्त ट्यूनिंग की आवश्यकता नहीं है लेकिन जो काफी बेहतर परिणाम देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।