🤖 machine learning

Scaling the Memory of Balanced Adam

यह शोध पत्र प्रस्तावित करता है कि बैलेंस्ड एडम (balanced Adam) में मोमेंटम पैरामीटर $\beta$ को एक निश्चित स्थिरांक के बजाय एक मेमोरी-स्केल वेरिएबल के रूप में माना जाना चाहिए, जिसमें एक रिफ्रेश नियम ( $R_\beta \approx 1000$ ) पेश किया गया है जो ऑप्टिमाइज़र के सांख्यिकीय मेमोरी क्षितिज (statistical memory horizon) को प्रभावी शिक्षण क्षितिज (effective learning horizon) के साथ संरेखित करके 11 विजन और लैंग्वेज प्रयोगों में प्रशिक्षण की मजबूती में महत्वपूर्ण सुधार करता है।

मूल लेखक: Alberto Fernández-Hernández, Cristian Pérez-Corral, Jose I. Mestre, Manuel F. Dolz, Enrique S. Quintana-Ortí

प्रकाशित 2026-05-12

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alberto Fernández-Hernández, Cristian Pérez-Corral, Jose I. Mestre, Manuel F. Dolz, Enrique S. Quintana-Ortí

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: एक सीखने वाले रोबोट की "याददाश्त" को ट्यून करना

कल्पना कीजिए कि आप एक रोबोट को बिल्लियों को पहचानना, कविताएँ लिखना या गणित की समस्याओं को हल करना सिखा रहे हैं। ऐसा करने के लिए, रोबोट Adam (एक "ऑप्टिमाइज़र") नामक एक टूल का उपयोग करता है। Adam को रोबोट के आंतरिक कोच के रूप में समझें। हर बार जब रोबोट कोई गलती करता है, तो कोच यह तय करने के लिए पिछले गलतियों के इतिहास को देखता है कि अगली कोशिश के लिए रोबोट के मस्तिष्क में क्या बदलाव किए जाएं।

लंबे समय से, इस कोच के पास दो अलग-अलग "मेमोरी सेटिंग्स" (जिन्हें $\beta_1$ और $\beta_2$ कहा जाता है) थीं। एक सेटिंग गलतियों की दिशा को याद रखती थी, और दूसरी गलतियों के आकार को याद रखती थी।

खोज:
हालिया शोध (इस शोध पत्र सहित) में पाया गया कि आपको वास्तव में दो अलग-अलग सेटिंग्स की आवश्यकता नहीं है। यदि आप उन्हें बिल्कुल एक समान ( $\beta_1 = \beta_2$ ) सेट करते हैं, तो रोबota उतना ही अच्छा सीखता है, लेकिन सिस्टम बहुत सरल हो जाता है। अब, कोच के पास केवल एक मेमोरी नॉब (बटन) है जिसे घुमाया जा सकता है।

समस्या:
बड़ा सवाल यह है: हमें उस नॉब को किस नंबर पर घुमाना चाहिए?
ज्यादातर लोग बस एक मानक नंबर (जैसे 0.9) चुन लेते हैं और उसी पर टिके रहते हैं, चाहे कुछ भी हो। इस पेपर के लेखक तर्क देते हैं कि यह 5 मील की पैदल यात्रा और 100 मील के मैराथन के लिए एक ही जोड़ी जूते इस्तेमाल करने जैसा है। यह तर्कसंगत नहीं है क्योंकि प्रशिक्षण की "दूरी" बदलती रहती है।

मूल विचार: "रिफ्रेश काउंट" (Refresh Count)

लेखक उस मेमोरी नॉब के बारे में सोचने का एक नया तरीका प्रस्तावित करते हैं। इसे एक निश्चित नंबर के रूप में सोचने के बजाय, वे कहते हैं कि इसे एक मेमोरी होराइजन (स्मृति क्षितिज) के रूप में सोचा जाना चाहिए।

उपमा: कल्पना कीजिए कि रोबोट भाषा सीखने के लिए एक किताब पढ़ रहा है।
- यदि रोबट की याददाश्त कम (short memory) है, तो वह केवल पिछली कुछ पंक्तियों को याद रखता है।
- यदि रोबोट की याददाश्त लंबी (long memory) है, तो वह पूरा अध्याय याद रखता है।

यह पेपर एक अवधारणा पेश करता है जिसे रिफ्रेश काउंट ( $R_\beta$ ) कहा जाता है। यह इस प्रश्न का उत्तर देता है: "पूरे प्रशिक्षण सत्र के दौरान रोबोट अपने अतीत की यादों को कितनी बार पूरी तरह से रिफ्रेश (ताज़ा) करता है?"

लेखकों ने पाया कि रोबोट तब सबसे अच्छा सीखता है जब यह "रिफ्रेश काउंट" प्रशिक्षण की अवधि के बावजूद लगभग समान रहता है।

छोटा प्रशिक्षण सत्र: रोबोट को छोटी याददाश्त (कम नंबर) की आवश्यकता होती है ताकि वह लगभग 1,000 बार अपनी याददाश्त को रिफ्रेश कर सके।
लंबा प्रशिक्षण सत्र: रोबोट को लंबी याददाश्त (उच्च नंबर) की आवश्यकता होती है ताकि वह अभी भी लगभग 1,000 बार अपनी याददाश्त को रिफ्रेश कर सके।

समाधान: एक सरल नियम

इस पेपर ने छवियों (जैसे बिल्लियों और कारों) को पहचानने (जैसे इमेज रिकग्निशन) से लेकर टेक्स्ट लिखने (जैसे LLMs) तक, 11 अलग-अलग कार्यों पर इस विचार का परीक्षण किया।

उन्होंने एक सरल "स्वर्ण नियम" (Golden Rule) की खोज की:
मेमोरी नॉब को इस तरह सेट करें कि रोबोट प्रशिक्षण के उपयोगी भाग के दौरान अपनी याददाश्त को ठीक 1,000 बार रिफ्रेश करे।

यदि प्रशिक्षण छोटा है (जैसे 6,000 स्टेप्स), तो नियम एक कम नंबर (जैसे 0.82) चुनता है।
यदि प्रशिक्षण लंबा है (जैसे 40,000 स्टेप्स), तो नियम एक उच्च नंबर (जैसे 0.97) चुनता है।

यह क्यों मायने रखता है? (परिणाम)

लेखकों ने अपने "रिफ्रेश नियम" की तुलना मानक "फिक्स्ड नियम" (जहाँ हर कोई 0.944 का उपयोग करता है) से की।

औसत प्रदर्शन: औसत सफलता के मामले में दोनों तरीके बहुत करीब थे। मानक फिक्स्ड नंबर वास्तव में काफी अच्छा है।
"सेफ्टी नेट" (मजबूती/Robustness): यहीं पर नया नियम चमकता है।
- कल्पना कीजिए कि आप कार चला रहे हैं। "फिक्स्ड नियम" ऐसी गति पर गाड़ी चलाने जैसा है जो अधिकांश सड़कों पर तो ठीक काम करती है, लेकिन कभी-कभी आप गड्ढे में फंसकर दुर्घटनाग्रस्त हो सकते हैं।
- "रिफ्रेश नियम" एक स्मार्ट सस्पेंशन सिस्टम की तरह है। यह सड़क की लंबाई के अनुसार खुद को ढाल लेता है।
- परिणाम: नए नियम ने "सबसे खराब स्थिति" वाली विफलताओं को 33% कम कर दिया। दूसरे शब्दों में, इसने प्रशिक्षण को बहुत अधिक विश्वसनीय बना दिया। इसने सुनिश्चित किया कि हर एक प्रयोग (सभी 11 में से) लगभग पूरी तरह से सफल रहा, जबकि पुराने तरीके में कुछ प्रयोग काफी संघर्ष कर रहे थे।

निष्कर्ष (Takeaway)

यह पेपर तर्क देता है कि हमें AI प्रशिक्षण में मेमोरी सेटिंग को एक स्थिर, अपरिवर्तनीय स्थिरांक (constant) के रूप में नहीं देखना चाहिए। इसके बजाय, हमें इसे एक स्केल (पैमाने) के रूप में मानना चाहिए।

जिस तरह आप एक शहर और पूरे देश के लिए एक ही मैप स्केल का उपयोग नहीं करेंगे, उसी तरह आपको छोटे प्रशिक्षण रन और लंबे प्रशिक्षण रन के लिए एक ही मेमोरी सेटिंग का उपयोग नहीं करना चाहिए। प्रशिक्षण की अवधि के आधार पर (रिफ्रेश काउंट को 1,000 पर रखकर) मेमोरी को समायोजित करके, हम AI प्रशिक्षण प्रक्रिया को अधिक मजबूत और अप्रत्याशित तरीकों से विफल होने से बचा सकते हैं।

संक्षेप में: सिर्फ एक नंबर चुनें और उम्मीद न करें। यात्रा कितनी लंबी है इसके आधार पर रोबोट की याददाश्त को समायोजित करें, और आपको बहुत सुचारू अनुभव मिलेगा।

तकनीकी सारांश: बैलेंस्ड एडम (Balanced Adam) की मेमोरी को स्केल करना

समस्या विवरण

हाल के साक्ष्य बताते हैं कि जब एडम ऑप्टिमाइज़र के मोमेंटम पैरामीटर्स एक समान ( $\beta_1 = \beta_2 = \beta$ ) होते हैं, तो यह एक सिंगल-पैरामीटर ऑप्टिमाइज़र में बदलकर अत्यधिक सुदृढ़ (robust) प्रदर्शन करता है। हालाँकि, इस शेष पैरामीटर के लिए इष्टतम (optimal) मान अभी भी अज्ञात है। $\beta$ को एक स्थिर, आयामहीन स्थिरांक (जैसे कि मानक 0.9 या 0.99) के रूप में मानना अपर्याप्त है क्योंकि वही मान प्रशिक्षण की कुल अवधि के आधार पर बिल्कुल अलग डायनेमिकल रिजीम (dynamical regimes) का प्रतिनिधित्व करता है। एक छोटा प्रशिक्षण रन (short training run) के लिए उपयुक्त $\beta$ का मान एक लंबे प्रशिक्षण रन के लिए अप्रभावी हो सकता है। मुख्य समस्या यह है कि बैलेंस्ड एडम के सिंगल मेमोरी स्केल को प्रशिक्षण के पैमाने (training scale) के प्रति जागरूक तरीके से कैसे चुना जाए।

कार्यप्रणाली (Methodology)

लेखक $\beta$ को एक स्थिर स्थिरांक के बजाय एक चर (variable) के रूप में पुनर्गठित करने का प्रस्ताव देते हैं, जो एक "सांख्यिकीय मेमोरी होराइजन" (statistical memory horizon) को नियंत्रित करता है।

परिभाषाएँ:
- मेमोरी होराइजन ( $H_\beta$ ): इसे $H_\beta = (1-\beta)^{-1}$ के रूप में परिभाषित किया गया है, जो उन हालिया अनुकूलन चरणों (optimization steps) की अनुमानित संख्या है जो ऑप्टिमाइज़र के आंतरिक अनुमानों पर हावी होते हैं।
- प्रभावी लर्निंग होराइजन ( $T_{ES}$ ): वैलिडेशन ट्रेजेक्टरीज पर अर्ली-स्टॉपिंग समय से प्राप्त प्रशिक्षण की उपयोगी अवधि का एक अनुमान।
- रिफ्रेश काउंट ( $R_\beta$ ): एक आयामहीन मात्रा जिसे $R_\beta = T_{ES} / H_\beta = (1-\beta)T_{ES}$ के रूप में परिभाषित किया गया है। यह मापता है कि प्रशिक्षण के उपयोगी चरण के दौरान एडम कितनी बार अपने आंतरिक सांख्यिकी को "रिफ्रेश" करता है।
रिफ्रेश नियम (The Refresh Rule):
केंद्रीय परिकल्पना यह है कि बैलेंस्ड एडम तब सुदृढ़ व्यवहार करता है जब रिफ्रेश काउंट को प्रशिक्षण के पैमाने की परवाह किए बिना लगभग स्थिर रखा जाता है। प्रस्तावित नियम है:
$R_\beta \approx R_0 \implies \beta = 1 - \frac{R_0}{T_{ES}}$
जहाँ $R_0$ एक लक्षित स्थिरांक है।
प्रायोगिक सेटअप:
- क्षेत्र (Scope): विजन (ResNet50, ViT-B/16, EfficientNet-B0, Swin-T) और लैंग्वेज (Llama60M, NanoGPT, T5-small) मॉडल्स के 11 प्रयोग, जो विविध डेटासेट्स (जैसे ImageNet, CIFAR-100, C4, BookCorpus) पर प्रशिक्षित हैं।
- प्रोटोकॉल: सभी रन डायगोनल कंस्ट्रेंट $\beta_1 = \beta_2 = \beta$ को लागू करते हैं। $\beta$ के 13 मानों (0 से 0.999 तक) का एक ग्रिड स्वैप किया गया।
- कैलिब्रेशन: $R_0$ को कैलिब्रेट करने के लिए 8 प्रयोगों का उपयोग 'डेवलपमेंट सेट' के रूप में किया गया, जबकि 3 'होल्ड-आउट' प्रयोगों का उपयोग वैलिडेशन के लिए किया गया।
- मेट्रिक: प्रदर्शन को विशिष्ट प्रयोग के लिए सर्वश्रेष्ठ $\beta^*$ (ग्रिड में पाया गया सबसे अच्छा $\beta$ ) की तुलना में सापेक्ष वैलिडेशन लॉस गैप (relative validation loss gap) के माध्यम से मापा गया। मेट्रिक्स में मीन गैप (Mean Gap), मैक्सिमम गैप (Maximum Gap), और सबसे खराब 25% मामलों पर कंडीशनल वैल्यू एट रिस्क (CVaR) शामिल हैं।

मुख्य परिणाम

अध्ययन ने पाया कि एक स्थिर बेसलाइन की तुलना में स्थिर रिफ्रेश काउंट बनाए रखने के लिए $\beta$ का चयन करना सुदृढ़ता (robustness) में काफी सुधार करता है।

इष्टतम लक्ष्य (Optimal Target): डेवलपमेंट सेट कैलिब्रेशन ने पहचाना कि मैक्सिमम गैप को कम करने के लिए $R_0 = 1000$ एक लक्षित मान है। यह नियम $T_{ES}$ के आधार पर अलग-अलग $\beta$ मानों का चयन करता है (प्रयोगों में 0.822 से 0.968 तक की रेंज)।
सुदृढ़ता बनाम औसत प्रदर्शन:
- फिक्स्ड बेसलाइन $\beta = 0.944$ (ग्रिड में सबसे मजबूत स्थिर विकल्प) ने सर्वश्रेष्ठ मीन ग्लोबल गैप (0.290%) प्राप्त किया।
- हालाँकि, रिफ्रेश नियम ( $R_0 = 1000$ ) ने वर्स्ट-केस सुदृढ़ता में महत्वपूर्ण सुधार किया। इसने ग्लोबल मैक्सिमम वैलिडेशन गैप को 33.4% (1.328% से 0.885%) कम किया और ग्लोबल CVaR को 32.7% (1.059% से 0.713%) कम किया।
- महत्वपूर्ण रूप से, रिफ्रेश नियम ने सभी 11 प्रयोगों को उनके संबंधित वैलिडेशन ओरेकल के 1% के भीतर लाया, जबकि फिक्स्ड बेसलाइन केवल 11 में से 9 प्रयोगों के लिए ही ऐसा कर सका।
स्थिरता (Stability): यह विधि $T_{ES}$ के अनुमान में मध्यम त्रुटियों के प्रति भी सुदृढ़ रही। होराइजन अनुमान में $\sigma=0.20$ तक के मल्टीप्लिकेटिव नॉइज़ के साथ भी, रिफ्रेश नियम ने फिक्स्ड बेसलाइन की तुलना में कम ग्लोबल CVaR बनाए रखा।

महत्व और दावे

यह शोध तर्क देता है कि बैलेंस्ड एडम के शेष हाइपरपैरामीटर को एक स्थिर स्थिरांक के बजाय एक मेमोरी-स्केल वेरिएबल के रूप में बेहतर समझा जा सकता है।

स्केल-अवेयर परिप्रेक्ष्य: यह कार्य "ऑप्टिमाइज़र स्केलिंग पर बजट-अवेयर परिप्रेक्ष्य" प्रदान करता है। यह प्रतिपादित करता है कि $\beta$ को ऑप्टिमाइज़र के सांख्यिकीय मेमोरी क्लॉक के नियंत्रण के रूप में देखा जाना चाहिए, जिसे प्रभावी लर्निंग होराइजन के साथ मेल खाना चाहिए।
डिफॉल्ट्स के बजाय डायनेमिक्स: परिणाम सुझाव देते हैं कि एडम के मोमेंटम को (विशेष रूप से, सांख्यिकीय रिफ्रेश की संख्या के रूप में) एक स्थिर डिफॉल्ट के बजाय लर्निंग डायनेमिक्स के हिस्से के रूप में मानना बेहतर है।
व्यावहारिक निहितार्थ: जबकि एक फिक्स्ड $\beta$ (जैसे 0.944) एक मजबूत व्यावहारिक डिफॉल्ट है, रिफ्रेश नियम $\beta$ को समायोजित करने के लिए एक सिद्धांतपूर्ण तंत्र प्रदान करता है जैसे-जैसे प्रशिक्षण का क्षितिज (horizon) बदलता है, जिससे यह सुनिश्चित होता है कि ऑप्टिमाइज़र की आंतरिक मेमोरी प्रशिक्षण की अवधि के सापेक्ष न तो बहुत छोटी है (अस्थिरता का कारण बनती है) और न ही बहुत लंबी (धीमी अनुकूलन का कारण बनती है)।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं, $T_{ES}$ का अनुमान लगाना आवश्यक है (जिसका अर्थ है कि नियम स्केल-कैलिब्रेटेड है न कि ज़ीरो-शॉट), और $R_0=1000$ का विशिष्ट मान परीक्षण किए गए सूट के लिए एक अनुभवजन्य (empirical) खोज है, न कि कोई सार्वभौमिक स्थिरांक। आर्किटेक्चर-विशिष्ट प्रभावों को अलग करने और मेमोरी क्लॉक एवं लर्निंग रेट शेड्यूल्स के बीच परस्पर क्रिया का अध्ययन करने के लिए भविष्य के कार्य का सुझाव दिया गया है।