ParaBlock: Communication-Computation Parallel Block Coordinate Federated Learning for Large Language Models
ParaBlock एक नवीन फेडरेटेड लर्निंग फ्रेमवर्क है जो लार्ज लैंग्वेज मॉडल्स के लिए समानांतर संचार और गणना थ्रेड्स का उपयोग करता है ताकि मानक ब्लॉक कोऑर्डिनेट डिसेंट विधियों की अभिसरण दर (convergence rate) और प्रदर्शन को बनाए रखते हुए विलंबता (latency) को महत्वपूर्ण रूप से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अविश्वसनीय रूप से बुद्धिमान रोबोट (एक लार्ज लैंग्वेज मॉडल) को निर्देश मानने या गणित की समस्याओं को हल करने में बेहतर बनाने की कोशिश कर रहे हैं। आप यह सब बिना अपने निजी डेटा को रोबोट को दिखाए करना चाहते हैं। यह फेडरेटेड लर्निंग (Federated Learning) की दुनिया है।
आमतौर पर, यह प्रक्रिया एक बहुत ही सख्त, धीमी रिले रेस (relay race) की तरह काम करती है। यहाँ बताया गया है कि पुराना तरीका ( "सिंगल-थ्रेड" विधि) कैसे काम करता है:
- इंतज़ार (The Wait): एक क्लाइंट (एक कंप्यूटर) रोबोट के मस्तिष्क का एक हिस्सा लेता है, उस पर ट्रेनिंग लेता है, और फिर उसे पूरी तरह से रुकना पड़ता है।
- डिलीवरी (The Delivery): वह अपने अपडेट्स को एक केंद्रीय सर्वर पर भेजता है।
- फिर से इंतज़ार (The Wait Again): क्लाइंट खाली बैठा स्क्रीन को घूरता रहता है, इस इंतज़ार में कि सर्वर बाकी सभी से अपडेट प्राप्त करे, उन्हें आपस में मिलाए, और नया वर्ज़न वापस भेजे।
- दोहराव (The Repeat): केवल तभी क्लाइंट फिर से ट्रेनिंग शुरू कर सकता है।
समस्या:
अतीत में, रोबोट का मस्तिष्क छोटा था, इसलिए "डिलीवरी" वाला हिस्सा तुरंत हो जाता था। लेकिन अब, ये रोबोट बहुत विशाल हैं (जैसे Llama 3 या GPT-3)। इस विशाल मस्तिष्क के एक छोटे से हिस्से को भी इंटरनेट के माध्यम से भेजना बहुत समय लेता है। क्लाइंट इतना लंबा इंतज़ार करता है कि पूरी प्रक्रिया दर्दनाक रूप से धीमी हो जाती है, जैसे कोई धावक जो अपना अगला कदम उठाने से पहले बस का इंतज़ार करने के लिए रुक जाता है।
पेश है ParaBlock: "टू-ट्रैक" समाधान
इस शोध पत्र के लेखकों, युजिया वांग, युआनपु काओ और जिंगहुई चेन ने एक नई विधि प्रस्तावित की है जिसे ParaBlock कहा जाता है। उन्होंने महसूस किया कि जब क्लाइंट बस का इंतज़ार कर रहा होता है (कम्युनिकेशन), तब वह वास्तव में दौड़ के अगले चरण (कंप्यूटेशन) को एक साथ चल सकता है।
ParaBlock को एक सिंगल-लेन सड़क के बजाय एक दो-लेन वाले हाईवे की तरह समझें।
- लेन 1 (कम्युनिकेशन): क्लाइंट पुराने अपडेट्स को सर्वर पर भेज रहा है और नए ग्लोबल अपडेट्स प्राप्त कर रहा है।
- लेन 2 (कंप्यूटेशन): ठीक उसी समय, क्लाइंट अपने पास मौजूद डेटा का उपयोग करके रोबोट के मस्तिष्क के अगले हिस्से पर ट्रेनिंग ले रहा है।
यह रोबोट को बिना भ्रमित किए कैसे काम करता है?
आप पूछ सकते हैं, "यदि मैं पुराने अपडेट्स के आने का इंतज़ार करते हुए नए डेटा पर ट्रेनिंग ले रहा हूँ, तो क्या मैं भ्रमित नहीं हो जाऊँगा?"
शोध पत्र बताता है कि ParaBlock एक चतुर "करेक्शन" (सुधार) ट्रिक का उपयोग करता है।
- क्लाइंट ब्लॉक A पर ट्रेनिंग लेता है जबकि साथ ही साथ वह ब्लॉक B (जिसे उसने पिछले राउंड में पूरा किया था) के अपडेट्स भेज रहा होता है।
- जब सर्वर से ब्लॉक B के लिए नया ग्लोबल अपडेट आखिरकार आता है, तो क्लाइंट इसे केवल अनदेखा नहीं करता। वे एक गणितीय "करेक्शन" लागू करते हैं ताकि यह सुनिश्चित हो सके कि उनका स्थानीय (local) ब्लॉक B, ग्लोबल वर्ज़न से पूरी तरह मेल खाता है।
- यह एक शेफ की तरह है जो वर्तमान डिश के लिए सामग्री की डिलीवरी होने से पहले ही अगली डिश के लिए सब्जियां काटना शुरू कर देता है। एक बार जब सामग्री आ जाती है, तो शेफ रेसिपी को जल्दी से एडजस्ट करता है ताकि अंतिम भोजन का स्वाद बिल्कुल वैसा ही रहे जैसा इरादा था।
इस शोध पत्र ने क्या पाया
शोधकर्ताओं ने इस विचार का परीक्षण दो बहुत कठिन कार्यों पर किया:
- निर्देशों का पालन करना (Following Instructions): रोबोट को सवालों के जवाब देने और जटिल प्रॉम्प्ट्स का पालन करने के लिए सिखाना (Alpaca-GPT4 डेटासेट का उपयोग करके)।
- गणितीय तर्क (Math Reasoning): रोबोट को गणित की समस्याएं हल करने के लिए सिखाना (MathInstruct डेटासेट का उपयोग करके)।
उन्होंने ParaBlock की तुलना पुराने "रुको-और-इंतज़ार करो" वाले तरीकों और अन्य लोकप्रिय तकनीकों से की। यहाँ उन्होंने क्या पाया:
- गति (Speed): ParaBlock काफी तेज़ था। कई मामलों में, इसने ट्रेनिंग पूरी करने में लगने वाले कुल समय को 30% से 40% तक कम कर दिया। यह विशेष रूप से तब प्रभावी रहा जब इंटरनेट कनेक्शन धीमा था, क्योंकि क्लाइंट खाली बैठने में कम समय बिताता है।
- बुद्धिमत्ता (Smarts): "एक-राउंड की देरी" (क्योंकि क्लाइंट पिछले चरण का इंतज़ार करते हुए अगले चरण पर काम कर रहा है) के बावजूद, रोबोट ने पुराने तरीकों की तरह ही अच्छी तरह से सीखा। गणित और इंस्ट्रक्शन कार्यों पर अंतिम प्रदर्शन उतना ही अच्छा था, और कुछ मामलों में, उससे भी बेहतर था।
- दक्षता (Efficiency): इसके लिए अधिक कंप्यूटर मेमोरी या शक्ति की आवश्यकता नहीं थी; इसने बस समय का अधिक बुद्धिमानी से उपयोग किया।
निष्कर्ष
शोध पत्र का दावा है कि ParaBlock कई अलग-अलग कंप्यूटरों पर एक साथ विशाल AI मॉडल को प्रशिक्षित करने के लिए एक सरल लेकिन शक्तिशाली अपग्रेड है। कंप्यूटर को एक ही समय में "बात" करने और "सोचने" देने से, यह बिना अंतिम AI की गुणवत्ता से समझौता किए सबसे बड़ी बाधा (इंतज़ार का समय) को हटा देता है।
यह एक धीमी, रुक-रुक कर चलने वाली ट्रैफिक जाम को एक सुचारू, बहते हुए हाईवे में बदलने जैसा है, जिससे हम सीमित इंटरनेट गति वाले उपकरणों पर भी तेज़ और स्मार्ट AI मॉडल को प्रशिक्षित कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।