Bounded-Horizon Local Transformer Training on CPUs: Quality, Throughput, and Memory
यह शोध पत्र मेनी-कोर सीपीयू पर 24-परत वाले बाइट-लेवल ट्रांसफॉर्मर्स के लिए बाउंडेड-होरिज़ोन लोकल ट्रेनिंग का मूल्यांकन करता है, जिसमें यह पाया गया है कि हालांकि प्रस्तावित रीडआउट-ग्रेडिएंट कंसेंसस विधि ग्लोबल बैकप्रोपैगेशन की तुलना में थ्रूपुट में 38% की वृद्धि प्राप्त करती है, लेकिन यह सभी परीक्षण किए गए डेटासेट्स में मॉडल गुणवत्ता के लिए 1% नॉन-इन्फीरियरिटी मानदंड को पूरा करने में विफल रहती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, सुपर-स्मार्ट रोबोट को कहानियाँ लिखना सिखाने की कोशिश कर रहे हैं। इसे करने के लिए, आपको उसे लाखों उदाहरण दिखाने होंगे। लेकिन यहाँ एक पेचीदा बात है: रोबोट एक के बाद एक रखे गए 24 नन्हे कामगारों की एक लंबी कतार की तरह बना है। पहला कामगार पहला शब्द देखता है, दूसरा दूसरा शब्द देखता है, और इसी तरह आखिरी कामगार तय करता है कि अगला शब्द क्या होना चाहिए।
पुराने तरीके से इन रोबोटों को सिखाने में (जिसे "ग्लोबल बैकप्रोपैगेशन" कहा जाता है), यदि आखिरी कामगार कोई गलती करता है, तो उन्हें सबसे पहले कामगार तक एक संदेश भेजना पड़ता है कि, "हे, तुमने इसे गलत शुरू किया था!" यह "टेलीफोन" के खेल जैसा है जहाँ संदेश को पूरी कतार के माध्यम से यात्रा करनी पड़ती है और कामगारों को चीजों को ठीक करने के लिए अपनी बारी का इंतजार करना पड़ता है। यह सटीक है, लेकिन धीमा है क्योंकि हर कोई अपने पीछे वाले व्यक्ति के इंतजार में फंसा रहता है।
हाल ही में, कुछ वैज्ञानिकों ने एक नया विचार आजमाया, कि क्या होगा अगर प्रत्येक कामगार केवल अपनी गलतियों को सुधार ले जो वे देखते हैं, बिना अंतिम बॉस का इंतजार किए। इसे "लोकल लर्निंग" कहा जाता है। यह ऐसा है जैसे हर कामगार को कहना, "अभी अपना सबसे अच्छा काम करो, और बाकी कतार की चिंता मत करो।" यह सुनने में बहुत तेज़ लगता है क्योंकि सभी कामगार एक साथ काम कर सकते हैं। लेकिन, एक पेंच है: यदि हर कोई स्वतंत्र रूप से अपनी गलतियों को सुधार रहा है, तो अंतिम कहानी का कोई अर्थ नहीं होगा, या रोबोट इस बात को लेकर भ्रमित हो सकता है कि अंतिम परिणाम के लिए वास्तव में कौन जिम्मेदार है। यह शोध पत्र पूछता है: क्या हम इस "मिलकर काम करने वाले" तरीके को सामान्य कंप्यूटर चिप्स (CPUs) पर इतना तेज़ बना सकते हैं कि कहानी की गुणवत्ता खराब न हो? और क्या हम यह पता लगा सकते हैं कि अंतिम गलती के लिए कामगारों को दोष कैसे दिया जाए?
महान CPU दौड़: गति बनाम बुद्धिमत्ता
इस अध्ययन में, विक्रम लैक्स नामक एक शोधकर्ता ने 64 कोर (सोचिए कि ये एक साथ काम करने वाले 64 छोटे दिमाग हैं) वाले एक शक्तिशाली कंप्यूटर पर एक दौड़ आयोजित की। वह देखना चाहता था कि क्या वह इस "लोकल" तरीके का उपयोग करके एक मानक CPU पर एक 24-लेयर "ट्रांसफॉर्मर" (रोबोटिक मस्तिष्क का फैंसी नाम) को प्रशिक्षित कर सकता है, बजाय उन महंगे ग्राफिक्स कार्डों (GPUs) के जिनका आमतौर पर उपयोग किया जाता है।
सेटअप: असेंबली लाइन
कल्पना कीजिए कि रोबोट का मस्तिष्क चार बड़े स्टेशनों (चरणों) वाली एक असेंबली लाइन है। पारंपरिक तरीके में, किसी भी बदलाव के लिए पूरी लाइन को अंतिम गुणवत्ता जांच का इंतजार करना पड़ता है। लैक्स के प्रयोग में, उन्होंने प्रत्येक स्टेशन को अपने स्वयं के मिनी-टास्क पर काम करने देने की कोशिश की। स्टेशनों को एक-दूसरे से बहुत दूर जाने से रोकने के लिए, उन्होंने रीडआउट-ग्रेडिएंट कंसेंसस (RGC) नामक एक नया नियम पेश किया।
RGC को एक "साझा स्कोरबोर्ड" की तरह समझें। हर बार जब एक स्टेशन एक कार्य पूरा करता है, तो वह केवल अपने काम को ठीक नहीं करता है; बल्कि वह अंतिम स्टेशन को एक त्वरित नोट भेजता है: "यहाँ बताया गया है कि मेरे काम ने अंतिम स्कोर में कितना योगदान दिया।" अंतिम स्टेशन फिर इन सभी नोट्स का औसत निकालता है और समूह की सामूहिक प्रतिक्रिया के आधार पर "डिकोडर" (वह हिस्सा जो अगले शब्द का निर्णय लेता है) को अपडेट करता है। इस तरह, हर कोई अभी भी अपने स्वयं के काम पर ध्यान दे रहा है, लेकिन वे सभी एक ही लक्ष्य की ओर बढ़ रहे हैं।
परिणाम: तेज़, लेकिन एक कीमत पर
परिणाम रोमांचक समाचार और वास्तविकता के बीच का मिश्रण थे।
- गति में उछाल: नया तरीका वास्तव में तेज़ था! परीक्षण में उपयोग किए गए 31-कोर सेटअप पर, एसिंक्रोनस RGC पारंपरिक तरीके की तुलना में लगभग 1.382 गुना तेज़ चला। यह एक महत्वपूर्ण उछाल है, जिसका अर्थ है कि रोबोट ने समान समय में 38% अधिक सीखा।
- मेमोरी की कीमत: हालाँकि, गति मुफ्त में नहीं आई। पारंपरिक तरीके ने लगभग 1.94 GiB मेमोरी (कंप्यूटर का अल्पकालिक सोचने का स्थान) का उपयोग किया। नए, तेज़ तरीके को 4.31 GiB की आवश्यकता थी—दोगुने से भी अधिक! ऐसा इसलिए हुआ क्योंकि नए तरीके को यह सुनिश्चित करने के लिए कामगारों के नोट्स और स्नैपशॉट की अतिरिक्त प्रतियां मेमोरी में रखनी पड़ीं कि सभी तालमेल में रहें।
- गुणवत्ता का प्रश्न: यहाँ कहानी दिलचस्प हो जाती है। शोधकर्ताओं के पास एक सख्त नियम था: नया तरीका पुराने तरीके के कम से कम बराबर होना चाहिए, जिसमें त्रुटि का बहुत छोटा मार्जिन हो (1% से अधिक खराब नहीं)।
- नया तरीका लगभग पहुँच ही गया था। औसत अंतर केवल 0.841% खराब था।
- लेकिन, जब उन्होंने "सेफ्टी मार्जिन" (सांख्यिकीय विश्वास) को देखा, तो सबसे खराब स्थिति 2.095% खराब थी। क्योंकि यह सुरक्षा मार्जिन 1% की रेखा को पार कर गया, शोधकर्ताओं को कहना पड़ा: "हम यह साबित नहीं कर सकते कि यह तरीका उतना ही अच्छा है।" वे दावा नहीं कर सके कि यह एक पूर्ण प्रतिस्थापन है।
क्या काम नहीं आया (और जिसे खारिज कर दिया गया)
यह शोध पत्र इस बारे में बहुत सावधान है कि वह क्या दावा नहीं करता है।
- यह सभी आकारों के लिए जादुई समाधान नहीं है: जब उन्होंने "TinyStories" (जो सरल बाल कहानियों का एक संग्रह है) नामक एक अलग डेटासेट पर इस तरीके को आजमाया, तो गुणवत्ता काफी गिर गई (2.5% से अधिक)। इसका मतलब है कि यह तरीका हर तरह की कहानी या डेटा के लिए पूरी तरह से काम नहीं करता है।
- यह एल्गोरिदम पर "मुफ्त लंच" नहीं है: गति में वृद्धि इसलिए नहीं हुई क्योंकि गणित अचानक आसान हो गया था। यह इसलिए हुआ क्योंकि कंप्यूटर अधिक वर्कर थ्रेड्स (24 के बजाय 29) का उपयोग कर रहा था और क्योंकि कामगारों के छोटे समूह अधिक कुशल थे। शोध पत्र स्पष्ट रूप से कहता है कि यह एक "सिस्टम गेन" (कंप्यूटर के हार्डवेयर का बेहतर उपयोग) है, न कि सीखने के एल्गोरिदम के काम करने के तरीके में मौलिक परिवर्तन।
- यह "जैविक रूप से प्रशंसनीय" नहीं है: प्रत्येक स्टेशन के भीतर यह अभी भी मानक गणित (रिवर्स-मोड डिफरेंशिएशन) का उपयोग करता है। यह मस्तिष्क के काम करने का नया तरीका नहीं है; यह केवल कंप्यूटर के काम को व्यवस्थित करने का एक चतुर तरीका है।
निर्णय
तो, हमने क्या सीखा? शोधकर्ताओं ने सफलतापूर्वक एक "बाउंडेड-होरिज़न" प्रशिक्षण प्रणाली बनाई है जो नियमित कंप्यूटर चिप्स पर तेज़ चलती है क्योंकि यह नेटवर्क के विभिन्न हिस्सों को समानांतर (parallel) में काम करने देती है। उन्होंने साबित किया कि आप 1.38x की गति वृद्धि प्राप्त कर सकते हैं, लेकिन आपको इसके बदले दोगुने से अधिक मेमोरी देनी होगी।
हालाँकि, उन्होंने यह भी सिद्ध किया कि इस गति के साथ एक जोखिम आता है: सीखने की गुणवत्ता यह गारंटी नहीं है कि धीमी और सावधानीपूर्ण विधि के बिल्कुल समान होगी। जबकि यह कुछ विशिष्ट परीक्षणों (जैसे "enwik8" टेक्स्ट डेटासेट) के लिए अच्छा रहा, यह अंतिम परिणामों के लिए सख्त "नॉन-इन्फीरियरिटी" (गैर-निम्नता) परीक्षण में विफल रहा, और इसने "TinyStories" डेटासेट के साथ संघर्ष किया।
संक्षेप में, यह शोध पत्र AI प्रशिक्षण को सामान्य कंप्यूटरों पर तेज़ बनाने का एक आशाजनक नया तरीका दिखाता है, लेकिन यह एक स्पष्ट रेखा भी खींचता है: हम मेमोरी के बदले गति का व्यापार कर सकते हैं, लेकिन हमने अभी तक ऐसा करने का कोई तरीका नहीं खोजा है जिससे गुणवत्ता में संभावित कमी न आए। यह सीखने के ट्रेड-ऑफ को समझने की दिशा में एक ठोस कदम है, लेकिन "परफेक्ट" लोकल ट्रेनिंग मेथड अभी भी प्रगति पर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।